Модель (функция регрессии) м.б. нелинейной

- по переменным

- по параметрам.

1) Нелинейность по переменным чаще всего можно устранить преобразованием исходных переменных (логорифмированием, например) и воспользоваться далее методами оценки МНК.

2) Нелинейность по параметрам тоже иногда можно устранить, но далеко не всегда.

Например, для описания соотношения спроса на товар и дохода потребителей используют кривые Энгеля, которые выражаются нелинейными уравнениями вида        

Но если первое (нелинейное по переменным) можно линеаризовать, преобразовав исходную независимую переменную по принципу , то второе уравнение (нелинейное по параметру β ) нельзя линеаризовать преобразованием только переменных Х, т.к. β – не константа, а неизвестная случайная величина, и для новой переменной нельзя будет найти, например, среднее арифметическое и проч. для вычисления оценок модели. Но можно при некоторых ограничениях логарифмировать всё уравнение регрессии, переобозначив все переменные (Х и Y):

Но тогда и оценки модели по методу МНК должны быть сделаны с поправкой на логарифм.

Так же можно поступить для линеаризации показательных функций в 2-факторных моделях вида

Или для многофакторных моделей вида Y=X1*X2*X3²*ε которые линеаризуют, логорифмируя:

Z=Ln(Y)=Ln(X1)+Ln(X2)+Ln(X3²)+Ln(ε )

Например, степенная прозводственная функция Кобба-Дугласа

для удобства выражения зависимости производительности труда ( ) от капиталовооруженности ( ) выражают так  и линеаризуют логарифмированием :

Здесь Y – объем производства, K – затраты капитала, L – затраты средств.

(Уточненная функция Кобба-Дугласа, учитывающая также влияние НТП, , линеаризуется подобным образом)

Нелинейные модели вида  тоже можно привести к линейной форме, просто сделав замену переменных

Замечание: Но привычные МНК-оценки моделей тоже изменятся, по сравнению с классическим МНК для линейных моделей - и оценки могут быть смещены.

В частности, для моделей вида , описывающих прирост значения какого-нибудь фактора Y во времени можно использовать МНК, предварительно перейдя к линейной модели логарифимированием:

2. Если в нелинейной модели достаточно учесть 2 фактора (Х и Y) и в принципе возможно приведение к линейному виду путем преобразования переменных, то параметры таких моделей можно находить (согласно МНК), дифференцируя уравнение с неизвестными параметрами по переменным Х и приравнивая 1 производные к нулю. В итоге получается система уравнений относительно параметров – решая ее и находят параметры.

Например,

в эконометрике часто встречаются степенные зависимости – кривые спроса и предложения, кривые Энгеля (дальше), производственные функции, кривые освоения для описания зависимости ВНП от занятости населения.

а) если этот общий подход МНК применить для поиска параметров (точнее оценок параметров) регрессии, которая является какой-нибудь простой параболой вида

то параметры находятся из системы уравнений вида:

б) для нелинейных регрессий, описывающих, например связь расходов материалов, сырья, затраченного времени с объемом выпускаемой продукции, величиной товарооборота, нормой безработицы и процентом прироста заработной платы используются гиперболические функции вида  (т.н. кривая Филипса). Для таких моделей параметры находят (по схеме все того же общего МНК) из системы уравнений:

Кривая Энгеля – - аналогично.

в) Нелинейная модель на основе гиперболической функции также используется (вместо функции Фогеля) для описания связи расходов и объемов товарооборота те же экономических процессов:

В таком случае параметры модели а,b выясняются из системы :

г) еще пример нелинейной модели:

для нелинейных регрессий, описывающих урожайность, трудоемкость сельхозпроизводства иногда используют функцию вида        . В таком случае параметры ищут (по схеме общего МНК) из системы уравнений:

д) Иногда встречается в модели текой вид нелинейной гиперболической зависимости (т.н. обратная модель):

Эта модель не линеаризуется, для оценки параметров используется (по общим принципам метода МНК) такая система уравнений:

Опять-таки, оценки характеристик модели при замене переменных будут иные, чем в линейной МНК

(см., например, Эконометрика под ред. Елисеевой И.И. - 2002.- Финансы и статистика, - с. 80)

4) В более общих случаях нелинейных моделей, когда параметры модели присутствуют в степени переменной Х, и в коэффициентах, и как свободный член уравнения регрессии, например:

невозможно провести линеаризацию. В таком случае значения параметров выясняют итерационным путем.

1-я Процедура получения параметров нелинейной модели следующая:

- на основе предварительных, более-менее правдоподобных параметров строят функцию регрессии и рассчитывают модельные значения Y.

- Вычисляют сумму квадратов остатков, т.е.

- вносят в параметры небольшие изменения, снова строят функцию регрессии и рассчитывают модельные значения Y.

- сравнивают - если дисперсия 2-й модели меньше дисперсии 1-й модели, значит движемся в правильном направлении. Меняем немного параметры и высчитываем дисперсии. пока одна из дисперсии не окажется хуже предыдущей.

- тогда начинаем двигаться назад , меняя более мелкими шажками, чем прежде, значения параметров функции регрессии и подсчитывая дисперсии.