Обнаружение гетероскедастичности остатков модели

Рассмотрим график разброса остатков, полученных путем очистки некоторого исходного статистического ряда от модельных значений, представленных на рисунке 7. Очевидно, остатки не имеют постоянной дисперсии: вариация остатков растет с увеличением Ŷi. Это значит, что нарушена одна из предпосылок применения МНК («дисперсия случайной составляющей конечна и постоянна») и свидетельствует о наличии т.н. гетероскедастичности в остатках, что собственно означает неоднородность по характеристике случайного разброса. Применение МНК в случае гетероскедастичности в остатках не позволяет получить состоятельные оценки параметров; полученные оценки также не являются эффективными; гетероскедастичность приводит иногда к смещенности оценок регрессионных коэффициентов. Т.е. если распределение случайного члена не является гомоскедастичным, то расчет стандартных ошибок параметров по приведенным выше формулам будет неточен. ([23], c. 203).

Пример проявления тенденции в остатках модели

Рис.7.

Для обнаружения гетероскедастичности, помимо анализа наглядного представления, рекомендуется использовать специальные аналитические тесты. Наиболее часто используются три из них:

• тест ранговой корреляции Спирмэна;

• тест Голдфелда-Квандта;

• тест Глейзера и др.

В основе этих критериев лежат различные предположения о зависимости между дисперсией случайного члена и величиной объясняющих переменных ([23], c. 204-208).

Тест ранговой корреляции Спирмэна

Тест ранговой корреляции Спирмэна основан на предположении, что дисперсия случайного члена будет либо увеличиваться, либо уменьшаться по мере увеличения объясняющей переменной, и поэтому в регрессии, параметры которой оцениваются МНК абсолютные величины остатков и значения объясняющей переменной будут коррелированы.

Реализация данного теста предполагает, что данные по Х_i (i – индекс любого включенного в модель фактора) и по абсолютным значениям остатков ранжируются (в порядке возрастания); коэффициент ранговой корреляции определяется по формуле:

,

где D_k – разность между рангом переменной Х_i и рангом абсолютного значения остаточного члена соответствующего наблюдения | e |.

В предположении справедливости гипотезы Н₀: r (X_i, | e |) = 0 статистика r (X_i, | e |) подчиняется нормальному закону распределения.

Тест Голдфелда-Квандта

Тест Голдфелда-Квандта основан на предположении, что среднеквадратическое отклонение распределения вероятностей случайной составляющей в каждом наблюдении пропорционально значению объясняющей переменной в этом наблюдении. Предполагается также, что случайная составляющая распределена нормально и не подвержена автокорреляции.

Реализация данного теста предполагает, что все множество наблюдений упорядочивается по возрастанию величины объясняющей переменной (если переменных несколько, то наблюдения упорядочиваются по той из них, которая, как предполагается, связана со среднеквадратическим отклонением случайной составляющей). Из данной совокупности исключается часть срединных данных (например, от 1/4 до 1/6 объема выборки), при этом половина исключаемых наблюдений должна превышать число оцениваемых параметров в модели. По каждой выборке из n ₁ и n ₂ наблюдений (соответственно с малыми и большими значениями объясняющей переменной) оценивается регрессия. Если гипотеза о том, что в остатках присутствует гетероскедастичность, верна, то остаточная дисперсия во второй выборке будет существенно больше, чем в первой. Статистика:

F ^p =

(здесь i – номер наблюдения в упорядоченной совокупности данных; Q ₁ и Q₂ – суммы квадратов отклонений в регрессиях для первой и второй выборки соответственно) в предположении справедливости гипотезы Н₀: имеет F -распределение Фишера с (n ₂– k) степенями свободы для числителя и (n ₁– k) степенями свободы для знаменателя (k – число оцениваемых параметров модели). При альтернативной гипотезе Н₁: , значение статистики сравнивается с табличным значением F -критерия Фишера F ^кр _α (n ₂– k; n ₁– k).

Тест Глейзера

Тест Глейзера ([3, 14, 23,] основан на предположении, что среднеквадратическое отклонение распределения вероятностей случайной составляющей в каждом наблюдении связано некоторой функциональной зависимостью со значением объясняющей переменной в этом наблюдении. Т.е. имеет место, следующее соотношение: .

Данный подход рассматривает регрессию абсолютных величин остатков | e | по некоторой функции от переменной Х_i (Х_i – это та объясняющая переменная, от которой гипотетически зависит дисперсия остатков). Регрессия | e | может строиться не по одной объясняющей переменной, а по нескольким, или по определенной комбинации объясняющих переменных. На практике рассматриваются простые функции от Х.

Решение о гетероскедастичности принимается на основе проверки регрессионных коэффициентов на их статистически значимое отличие от нуля.

Обобщенная линейная модель множественной регрессии

В ситуации необходимости отказа от условий взаимной некоррелированности и гомоскедастичности случайной составляющей линейной модели множественной регрессии, выражаемых соотношением:

,

на практике возможно использование т.н. обобщенной линейной модели множественной регрессии (ОЛММР).

Обобщенная линейная модель множественной регрессии задается уравнением:

Y = X а^’ + ε

со следующими ограничениями:

1) M ε = 0;

2) cov(ε) = σ ²Ω,

где Ω – симметричная положительно определенная матрица размерностью n n;

3) (X ₁, X ₂, …, X_m) –детерминированные переменные;

4) rangX = m + 1 < n.

Не трудно доказать, что в условиях обобщенной линейной модели регрессии, оценивание параметров с использованием обычного метода наименьших квадратов дает состоятельные и несмещенные оценки, которые, однако, не обладают свойством эффективности. В этом случае используется обобщенный метод наименьших квадратов (ОМНК).

Оценки регрессионных коэффициентов по обобщенному МНК определяются по формуле:

и являются по построению результатом минимизации критерия:

Q (â^’) = (Y – X â^’)^TΩ^–1(Y – X â^’) = e ^TΩ^–1 e.

ОМНК-оценки параметров ОЛММР являются состоятельными, несмещенными и эффективными в классе всех линейных относительно Y несмещенных оценок.

При этом ковариационная матрица оценок параметров ОЛММР рассчитывается по формуле:

cov(â^’) = σ ²(X^TΩ^–1X)^–1.

Выборочный коэффициент детерминации в условиях ОЛММР:

.

Оценка

является несмещенной оценкой параметра σ ² ОЛММР.

Случайная величина (n – m –1) s ²/ σ ² подчиняется χ ²-распределению с (n – m –1) степенями свободы. Оценки â^’ и s ² статистически независимы.

Поиск по сайту: