Аппроксимационная задача линейной регрессии

…	…
N

х- вход(предикатор), у – целевой признак(прогнозируемая)

у=ах+b – как можно точнее представляет эти точки

, где - невязка

, ,

Вопрос №8. Метод линейной регрессии и его использование.

Линейная регрессия отображает корреляцию между переменными xи y, используя данные об их значениях на множестве сущностей

следующим образом:

a– наклон, b– intercept

назначение регрессии: а) описание б) предсказания

уравнение регрессии:

,e_i-остатки регрессии

На практике линия регрессии чаще всего ищется в виде линейной функции Y = b ₀ + b ₁ X ₁ + b ₂ X ₂ +... + b_NX_N (линейная регрессия), наилучшим образом приближающей искомую кривую. Делается это с помощью метода наименьших квадратов, когда минимизируется сумма квадратов отклонений реально наблюдаемых Y от их оценок (имеются в виду оценки с помощью прямой линии, претендующей на то, чтобы представлять искомую регрессионную зависимость):

(M — объём выборки).

10. Свойства коэф-та корреляции.

Смысл коэффициента линейной корреляции.

Коэф.лин.кор. отражает меру линейной зависимости между двумя переменными. Предполагается, что переменные измерены в интервальной шкале либо в шкале отношений.

Если представить 2 переменные на координатном поле, то каждая пара значений будет отображать координаты точки в этом поле. Чем ближе точки к усредненной прямой, тем выше коэффициент корреляции.

Коэффициент корреляции будет положительным числом, когда при повышении Х происходит повышение Y (прямопропорциональная связь), отрицательным при обратнопропорциональной связи.

Линейный коэффициент корреляции срабатывает лишь при линейном характере взаимосвязи переменных.

Свойства:

1. ,

2.

3.

4. z – storing

,

Вопрос №11. Нулевая корреляция.

не означает, что не связаны, означает, что нет линейной связи (есть другие формы функциональной зависимости).

первый график – нет связи.

второй – y=(x-2)^2

третий – y1=2x-5, y2=-2x+3

X, Y – независ. случ. величины

12. Коэф. корреляции в вероятностной перспективе.

или z – score, u=(x,y),

- плотность распределения

Рассмотрим набор точек u=(x,y) на пл-ти. Тогда: - предопред. конст., - константа.

Мн-во u=(x,y) должно удовлетворять ур-ю: - эллипс.

эллипс

Коэффициент корреляции – основанная на выборке оценка параметра в ф-и норм. двумерного распределения, при допущении, что - выбраны из норм. распр. случ и независ.

Таким образом, использовать коэф. в вероятностной трактовке можно только при норм распределении. Однако, в аппрокс. трактовке другой смысл в лин. регрессии.

13. Бокс-плот и скаттер-плот (корреляционное поле, поле рассеивания).

Когда исследуется корреляция между колич. признаками, значения которых можно точно измерить в единицах метрических шкал (метры, секунды, кг и т.д.), то очень часто принимается модель двумерной нормально распределенной генеральной совокупности. Такая модель отображает зависимость между переменными x_i и y_i г рафически в виде ГМТ в системе прямоугольных координат. Эту графич.завис-ть наз-ют также диаграммой рассеивания или корреляционным полем.

Данная модель двумерного нормального распределения (корреляционное поле) позволяет дать наглядную графическую интерпретацию коэффициента корреляции.

Вопрос № 14. Табличная регрессия и коэффициент корреляционного отношения

Пусть у нас есть два признака, х- качественный, у- количественный

Качественное распределение у признака может показать нам корреляцию между двумя признаками х и у.

Табличная регрессия у на х это таблица состоящая из: категорий х-ов, пропорций, средних значений и стандартных отклонений у-ка.

Поиск по сайту: