Методы устранения мультиколлинеарности

Основным методом устранения мультиколлинеарности заключается в исключении переменных

Существует несколько способов решения этой задачи

1. Метод дополнительных регрессий

Алгоритм метода заключается в следующем:

1.Строятся уравнения регрессии, которые связывают каждый из регрессоров со всеми оставшимися

2. Вычисляются коэффициенты детерминации R² для каждого уравнения регрессии

3. Проверяется статистическая гипотеза H₀: R²=0 с помощью F теста

Вывод: если гипотеза H₀: R²=0 не отклоняется, значит данный регрессор не приводит к мультиколлинеарности

2. Метод последовательного присоединения

В отличие от рассмотренного, метод последовательного присоединения регрессоров позволяет выявить набор регрессоров, который ни только не приводит к мультиколлинеарности, но и обеспечивает наилучшее качество спецификации модели

Алгоритм метода следующий:

1.Строится регрессионная модель с учетом всех предполагаемых регрессоров. По признакам делается вывод о возможном присутствии мультиколлинеарности

2.Расчитывается матрица корреляций и выбирается регрессор, имеющий наибольшую корреляцию с эндогенной переменной

3.К выбранному регрессору последовательно в модель добавляется каждый из оставшихся регрессоров и вычисляются скорректированные коэффициенты детерминации для каждой из моделей К модели присоединяется тот регрессор, который обеспечивает наибольшее значение скорректированного R²

4.К паре выбранных регрессоров последовательно присоединяется третий из числа оставшихся Строятся модели, вычисляется скорректированный R², добавляется тот регрессор, который обеспечивает наибольшее значение скорректированного R²

5.Процесс присоединения регрессоров прекращается, когда значение скорректированного R² становится меньше достигнутого на предыдущем шаге

Замечание. Каким бы образом не осуществлялся отбор факторов, уменьшение их числа приводит к улучшению обусловленности матрицы (X^TX)^-1, а, следовательно, к повышению качества оценок параметров модели

Понятие фиктивных переменных.

На практике приходится учитывать в моделях факторы, носящие качественный характер, значения которых в наблюдениях не возможно измерить с помощью числовой шкалы.

Примеры.

Моделирование влияния пола специалистов на уровень зарплаты.

Моделирование доходов граждан от типа учебного заведения, в котором он получил образование (государственное, частное, специализированное,…)

Модель инфляции с учетом различных видов регулирования со стороны государства

Возможны два подхода к решению задачи:

- построить несколько моделей отдельно для каждого значения (градации) качественной переменной

- учесть влияние качественного фактора в одной модели

Второй способ представляется более прогрессивным, т.к в этом случае появляется возможность оценить статистическую значимость влияния данного фактора на поведение эндогенной переменной на фоне других факторов, внесенных в спецификацию модели

Пример. Изучается зависимость расходов на образование «С» в «обычных» и «специализированных» школах в зависимости от числа учащихся N

Предположим:

1. Зависимость затрат на обучение от количества учащихся N в обоих типах школ одинакова

2. Разница в затратах объясняется необходимостью приобретения специализированного оборудования для обучения специальным дисциплинам

Тогда если строить различные модели для каждого типа школ, то спецификацию моделей можно записать в виде:

Y^o = a₀ + a₁N +u

Y^s = b₀ + a₁N + v

Поиск по сайту: