Подходы к классификации метрических и неметрических данных

19. Суть метода главных компонент.

Метод главных компонент (МГК) был предложен Пирсоном в 1901 году и затем вновь открыт и детально разработан Хоттелингом /1933/. Ему посвящено большое количество исследований, и он широко представлен в литературных источниках, обратившись к которым можно получить сведения о методе главных компонент с различной степенью детализации и математической строгости (например, Айвазян С. А. и др., 1974, 1983, 1989). В данном разделе не ставится цель добиться подробного изложения всех особенностей МГК. Сконцентрируем свое внимание на основных феноменах метода главных компонент.

Метод главных компонент осуществляет переход к новой системе координат y₁,...,у_р в исходном пространстве признаков x₁,...,x_p которая является системой ортнормированных линейных комбинаций

где m_i — математическое ожидание признака x_i. Линейные комбинации выбираются таким образом, что среди всех возможных линейных нормированных комбинаций исходных признаков первая главная компонента у₁(х) обладает наибольшей дисперсией. Геометрически это выглядит как ориентация новой координатной оси у₁ вдоль направления наибольшей вытянутости эллипсоида рассеивания объектов исследуемой выборки в пространстве признаков x₁,...,x_p. Вторая главная компонента имеет наибольшую дисперсию среди всех оставшихся линейных преобразований, некоррелированных с первой главной компонентой. Она интерпретируется как направление наибольшей вытянутости эллипсоида рассеивания, перпендикулярное первой главной компоненте. Следующие главные компоненты определяются по аналогичной схеме.

Вычисление коэффициентов главных компонент w_ij основано на том факте, что векторы w_i = (w₁₁,...,w_pl)',..., w_p = (w_1p,...,w_pp)' являются собственными (характеристическими) векторами корреляционной матрицы S. В свою очередь, соответствующие собственные числа этой матрицы равны дисперсиям проекций множества объектов на оси главных компонент.

Алгоритмы, обеспечивающие выполнение метода главных компонент, входят практически во все пакеты статистических программ.

(ВОПРОС №19) ВАРИАНТ №2

Метод главных компонент – это один из широко использующихся методов многомерной математической статистики. Он применяется для решения следующих задач:

- причинный анализ взаимосвязей показателей и определение их

стохастической связи с главными компонентами;

- построение обобщенных технико-экономических показателей;

- ранжирование объектов или наблюдений по главным

компонентам;

- классификация объектов наблюдений;

- сжатие исходной информации;

- построение уравнений регрессии по обобщенным технико-

экономическим показателям.

для рассматриваемых объектов и ранжирования объектов по весу этих значений, что позволит выбрать наиболее оптимальные объекты

Рис. 1 Матрица данных

Постараемся передать суть метода главных компонент, используя интуитивно-понятную геометрическую интерпретацию. Начнем с простейшего случая, когда имеются только две переменные x ₁ и x ₂. Такие данные легко изобразить на плоскости (Рис. 2).

Рис. 2 Графическое представление двумерных данных

Каждой строке исходной таблицы (т.е. образцу) соответствует точка на плоскости с соответствующими координатами. Они обозначены пустыми кружками на Рис. 2. Проведем через них прямую, так, чтобы вдоль нее происходило максимальное изменение данных;

Если C_i={x ₁, x ₂,...,x_m }, где x ₁, x ₂,...,x_{m – факторы,} то требуется найти такое преобразование величин C_i в новый набор величин Z_i ={ z₁, z₂,..., z_p}, которые были бы независимыми и располагались в порядке убывания дисперсий.

Каждая величина Z_i представляет собой линейную комбинацию m исходных величин, т.е. имеет вид:

(1) Z=b₁x₁+b₂x₂+...+b_mx_m

Эта величина и называется главной компонентой. Теоретически число главных компонент равно числу исходных параметров, однако, первые две - четыре главные компоненты описывают до 90 % изменчивости исходного массива.

Поиск по сайту: