Регрессионные модели, методы оценивания параметров регрессионных моделей (МНК, МНП, метод моментов).

Если ряд не является временнЫм, и обнаружена высокая корреляция между факторами будущей модели, то модель можно искать в форме регрессии регрессии .

Если факторов в регрессионной модели больше 2-х, говорят о множественной регрессии.

Частный случай множественной регрессии - парная регрессия. Могут быть такие формы парной регрессии (с учетом типа корреляции):

- линейная регрессия: -  простейший случай регрессионной модели - парная линейная регрессия: регрессия фактора Y к фактору Х).

Серая ломаная – уровни значений ряда (Y), а красная прямая – линейная модель.

- нелинейная парная регрессия: , и т.д.

Задача моделирования состоит в поиске приближенных значений (оценок) параметров регрессии. Это делается на основе рядов исходных данным разными методами. Чаще используетс МНК.

А) Предварительные расчеты – до построения регрессионной модели:

Но прежде сказать о формулах расчета параметров и критериях оценки качества модели, следует сказать о том, что должно предшествовать построению регрессионной модели.

Для выяснения вопроса: Стоит ли искать модель в форме регрессии фактора Y к фактору Х ?» вычисляется парный коэффициент линейной или нелинейной корреляции между Y и X.

Например, для выяснения, стоит ли строить линейную 2 факторную регрессию, рассчитывают коэффициент линейной парной корреляции по формуле:  , где S – дисперсии рядов X,Y) – учитывают заодно, насколько он близок к 1 по модулю. Если то скорее всего корреляция между факторами имеется и имеет смысл попробовать описать ее регрессионной линейной моделью.

Если парный коэфф. корреляции r_yx близок к 1 (более 0,75) то еще уместно проверить Z-статистику (оценка Фишера): . Если величина по модулю > t_{крит (α, n- k )} то тем более есть смысл строить парную регрессию.

Для оценки степени корреляции также может быть дополнительно использован критерий Стьюдента: считают величину    и сравнивают ее с критическим значений распределения Стьюдента. Если | t_набл | > t_{крит (α, n- k )} , (α – вероятность ошибки (обычно число 0,05-0,01), n – размер выборки Х (Y), k – число переменных в предполагаемой будущей линейной регрессии) то есть смысл искать модель процесса в виде линейной регрессии; если условие неравенства не выполняется, то нет смысла строить модель в виде линейной парной регрессии.

Если график приростов (y_i-y_i-1) представляет собой примерно горизонтальную линию, то подходит модель стационарная или линейная регрессия, если график приростов – наклонная прямая линия – то модель м.б. стационарной, но нелинейной (например, подходит пораболический  тренд). Если график приростов второго порядка (приросты приростов) линия – то модель нелинейная и т.д.