Знаходження параметів лінійного рівняння регресії методом найменших квадратів

Статистичний аналіз зв’язку між факторною змінною х і результативною змінною у починають із вибору загального типу чи класу рівнянь, які достатньо точно відображають даний зв’язок. При аналізі соціально-економічних і науково-технічних проблем досить часто зустрічаються саме лінійні зв’язки і залежності, тобто зв’язки між досліджуваними ознаками досить точно описуються лінійними моделями.

Будемо вважати, що зв’язок між ознаками х та у є лінійним і описується лінійним рівнянням регресії

y =

де у – результуюча змінна; , – параметри рівняння регресії; х – факторна змінна, – випадкова величина.

Рівняння, яке аналітично моделює залежність середньої величини результуючої ознаки від факторної змінної, називається рівнянням регресії. у цьому рівнянні називається коефіцієнтом регресії, – вільним членом рівняння регресії.Лінійне рівняння регресії на графіку зображується прямою лінією, в якій коефіцієнт регресії є кутовим коефіцієнтом (тангенсом кута нахилу прямої до осі ОХ).

Вільний член рівняння регресії відображає довжину відрізка осі ординат від початку координат до перетину з прямою регресії.

Для знаходження прямої, яка б найкраще відображала закономірність зв’язку середнього значення результуючої змінної з факторною, потрібно обгрунтувати певний критерій, який би задовільняла дана пряма. Оскільки пряма регресії повинна знаходитись якнайближче до всіх точок із координатами (х_і;у_і), то на прктиці найчастіше використовують метод найменших квадратів (МНК).

Згідно з цим методом найменше значення суми квадратів відхилень заданих значень результуючої змінної у_і від знайдених за рівнянням регресії теоретичних значень . МНК має суттеву перевагу перед іншими відомими методами знаходження прямої регресії, якщо відхилення у_і - утворюють нормальний розподіл. На практиці досліджувані сукупності змінних є, зазвичай, нормально розподіленими.

В рівнянні ₀, ₁ і є невідомими. Величину крім того, важко досліджувати, оскільки вона набуває різних значень для кожного спостередження у. У той же час ₀, ₁ залишаються постійними і, хоча ми не можемо знайти їх точні значення без вивчення всіх можливих співвідношень між х та у, ми можеио на основі заданих значень спостережень одержати оцінци ₀, ₁, параметрів ₀, _1.

Нам необхідно знайти рівняння регресії

,

де – теоретичні середні значення результуючої змінної для заданого значення х_і, коли

₀, ₁ є відомими. Останнє рівняння в статистиці називають рівнянням прогнозування, оскільки підставляючи в це рівняння конкретне значення факторної змінної х, маємо змогу знайти відповідне «істинне» значення у. Надалі будемо опускати випадкову величину u в першому рівнянні і розглянемо друге рівняння.

Нехай ми маємо множину із n спостережень

(х₁,у₁), (х₂,у₂),..., (х_n,у_n).

Умова методу квадратів для знаходження параметрів a₀, ₁ має вигляд

Q = min

Для знаходження параметрів ₀ і ₁ підставимо рівняння прямої

= ₀ + ₁ х

у попередній вираз. У результаті одержимо

Q = (у – ₀ – ₁ х)². (4)

Як відомо, функція Q набуває мінімальних значень за умови, якщо відповідні часткові похідні дарівнюють нулю.

= 0;

= 0

= 0

Розв’язуючи систему, ми одержуємо загальний вигляд формул для обчислення коефіцієнтів ₀ і ₁

₁ = ₀ = -

Для визначення рівняння регресії за останніми формулами потрібно мати такі величини

,

Поиск по сайту: