Двумерная (однофакторная) регрессионная модель

Анализ экономических процессов и явлений в эконометрике осуществляется с помощью математических моделей, построенных на эмпирических данных. Пусть имеется набор значений двух переменных: (результат) и (фактор) и между этими переменными имеется объективная связь:

(1)

Данное уравнение будем называть «истинным» уравнением регрессии. Необходимо по данным наблюдений (, , ) подобрать функцию: «наилучшим» образом описывающую «истинную» зависимость (1).

Пообобрать функцию – значит определить вид функциональной зависимости и значения параметров. Для определения вида функциональной зависимости возьмем модель линейной двумерной (однофакторной или парной) регрессии:

, (2)

которая называется нормальной (традиционной или классической) линейной моделью с одной переменной (Classical Normal Regression model).

Парная регрессия представляет собой регрессию между двумя переменными – и , т. е. модель вида (1). Между переменными и нет строгой функциональной зависимости, поэтому практически в каждом отдельном случае величина складывается из двух слагаемых:

,

где – фактическое значение результативного признака; – теоретическое значение результативного признака, найденное исходя из уравнения регрессии; – случайная величина, характеризующая отклонения реального значения результативного признака от теоретического, найденного по уравнению регрессии.

В парной регрессии выбор вида математической функции может быть осуществлен тремя методами:

1) графическим;

2) аналитическим, т.е. исходя из теории изучаемой взаимосвязи;

3) экспериментальным.

Значительный интерес представляет аналитический метод выбора типа уравнения регрессии. Он основан на изучении материальной природы связи исследуемых признаков.

Рассмотрим простейшую модель парной регрессии – линейную регрессию. Линейная регрессия находит широкое применение в эконометрике ввиду четкой экономической интерпретации ее параметров.

Линейная регрессия сводится к нахождению уравнения вида

ŷ = а + b·х. (3)

Уравнение вида (3) позволяет по заданным значениям фактора находить теоретические значения результативного признака, подставляя в него фактические значения фактора .

Построение линейной регрессии сводится к оценке ее параметров – a и b. Классический подход к оцениванию параметров линейной регрессии основан на методе наименьших квадратов (МНК). МНК позволяет получить такие оценки параметров a и b, при которых сумма квадратов отклонений фактических значений результативного признака от теоретических ŷ минимальна:

. (4)

Т.е. из всего множества линий линия регрессии на графике выбирается так, чтобы сумма квадратов расстояний по вертикали между точками и этой линией была бы минимальной: как известно из курса математического анализа, чтобы найти минимум функции (4), надо вычислить частные производные по каждому из параметров a и b и приравнять их к нулю. Обозначим через S, тогда:

S = ,

(5)

После несложных преобразований, получим следующую систему линейных уравнений для оценки параметров a и b:

(6)

Разделим почленно уравнения системы (6) на n и введем средние значения переменных:

, , , .

Тогда система уравнений имеет вид:

(7)

Решая систему уравнений (7), найдем искомые оценки параметров a и b. Можно воспользоваться следующими готовыми формулами, которые следуют непосредственно из решения системы (7):

,

(8)

где – ковариация признаков и , = Var(x) – дисперсия или вариация признака .

Параметр b называется коэффициентом регрессии. Его величина показывает среднее изменение результата с изменением фактора на одну единицу.

Знак коэффициента регрессии b в модели указывает направление связи

(если b > 0 то связь прямая, если b < 0 то связь обратная). Если a > 0, то изменение результата y происходит медленнее изменения фактора х и коэффициент вариации по фактору х выше коэффициента вариации по фактору y, где

V(x) = ( /S_x)^-1∙100% - коэффициент вариации по фактору х, аналогично по у.

Возможность четкой экономической интерпретации коэффициента регрессии сделала линейное уравнение регрессии достаточно распространенным в эконометрических исследованиях.

Формально – значение при . Если признак-фактор не может иметь нулевого значения, то вышеуказанная трактовка свободного члена не имеет смысла, т.е. параметр может не иметь экономического содержания.

Нормальная или классическая линейная модель парной регрессии (2) строится исходя из следующих предположений:

1. - детерминированная (неслучайная, нестохастическая) величина;

2. - случайная составляющая, для которой математическое ожидание равно нулю в любом наблюдению: ;

3. теоретическая дисперсия случайной составляющей постоянная во всех наблюдениях: ;

4. отсутствие систематической связи между значениями случайной составляющей в любых двух наблюдениях (ковариация случайных составляющих в любых двух разных наблюдениях равна нулю: ;

5. - нормально распределенная случайная величина.

Теорема Гаусса–Маркова. Если регрессионная модель (2) удовлетворяет предпосылкам 1 – 4, то оценки a и b, найденные по методу МНК имеют наименьшую дисперсию в классе всех линейных несмещенных оценок.

Таким образом, оценки a и b являются эффективными линейными оценками параметров β₀ и β₁.

Лекции №3.

Поиск по сайту: