12.3 Множественная линейная регрессия

Парная корреляция или парная регрессия могут рассматриваться как частный случай отражения связи некоторой зависимости переменной, с одной стороны, и одной из множества независимых переменных – с другой. Когда же требуется охарактеризовать связь всего указанного множества независимых переменных с результативным признаком, говорят о множественной корреляции или множественной регрессии.

Рассмотрим вопрос о регрессии. В ряде случаев именно от его решения – оценки уравнения регрессии – зависят оценки тесноты связи, а они, в свою очередь, дополняют результаты регрессивного анализа. Прежде всего следует определить перечень независимых переменных Х, включаемых в уравнение. Это должно делаться на основе теоретических положений. Список Х может быть достаточно широк и ограничен только исходной информацией. На практике теоретические положения о сути взаимосвязи подкрепляются парными коэффициентами корреляции между зависимой и независимыми переменными. Отбор наиболее значимых из них можно провести с помощью ЭВМ, выбирая в соответствии с коэффициентами корреляции и другими критериями факторы, наиболее тесно связанные с Y. Параллельно решается вопрос о форме уравнения. Современные средства вычислительной техники позволяют за относительно короткое время рассчитать достаточно много вариантов уравнений. В ЭВМ вводятся значения зависимой переменной Y и матрица независимых переменных Х, принимается форма уравнения, например линейная. Ставится задача включить в уравнение k наиболее значимых Х. В результате получим уравнение регрессии с k наиболее значимыми факторами. Аналогично можно выбрать наилучшую форму связи. Этот традиционный прием, называемый пошаговой регрессией, если он не противоречит качественным посылкам, достигает приемлемых результатов. Первоначально обычно берется линейная модель множественной регрессии:

(154)

или в форме уравнения регрессии –

Y_ТЕОР = a₀ + a₁X₁ + a₂X₂ +…+ a_kX_k,

где Y_теор – расчетное значение регрессии, которое представляет собой оценку ожидаемого значения Y при фиксированных значениях Х₁, Х₂, …, Х_k;

а₁, а₂, …, а_k – коэффициенты регрессии, каждый из которых показывает, на сколько единиц изменится Y с изменением соответствующего признака X на единицу при условии, что остальные признаки останутся на прежнем уровне.

Параметры уравнения множественной регрессии, как правило, находятся методом наименьших квадратов. В матричной записи система уравнений имеет вид:

,

где

; ;. (155)

Оценка параметров множественной регрессии вручную затруднительна, приводит к потерям точности и может лишь удовлетворить любопытство. Получение же оценок параметров на ЭВМ в настоящее время не представляет большой проблемы. Гораздо важнее, насколько линейная форма связи соответствует реально существующей зависимости между Y, с одной стороны, и множеством Х, с другой.

12.4 Нелинейная регрессия. Коэффициенты эластичности

Представление связи через линейную функцию там, где на самом деле существуют нелинейные соотношения, вызовет ошибки аппроксимации и в конечном итоге упрощенные или даже ложные положения и выводы на основе аналитического уровня.

Вопрос о нелинейности формы уравнения следует решать на стадии теоретического анализа. Как правило, анализ должен опираться на суть взаимодействия изучаемых явлений и процессов и формально подкрепляться различного рода статистическими критериями. Но на практике допускается и другое решение: нелинейность формулируется как гипотеза и очерчивается лишь круг возможных уравнений, а затем форма и вид уравнения уточняются на ЭВМ. Существуют разные формы нелинейных уравнений регрессии, но в общем виде можно выделить два их класса.

К первому отнесем регрессии нелинейные относительно включенных в исследование переменных, но линейные по параметрам. Это, например, полиномы. В случае парной регрессии имеем уравнение:

. (156)

Множественная регрессия по аналогии выглядит следующим образом:

(157)

Возможно применение гиперболы, других функций. При желании с помощью стандартных программ ЭВМ может быть образовано любое нелинейное сочетание переменных, линейных относительно коэффициентов уравнения. Последние оцениваются с помощью метода наименьших квадратов.

Второй класс нелинейных функций отличается нелинейностью по оцениваемым параметрам. Таких уравнений также существует множество. Наиболее распространена степенная функция вида:

(парная регрессия)

либо

(множественная регрессия).

Даже по приведенным примерам можно составить мнение о широком спектре возможных аналитических представлений нелинейной формы связи. Ограничивает их использование сложность процедур оценивания параметров уравнений. Это подчас требует специальных приемов, алгоритмов, программ для ЭВМ.

Относительно просто решается такая задача для функций, преобразуемых к линейному виду. Например, степенную функцию можно прологарифмировать, получив линейную зависимость Y и X в логарифмах, и применить для оценки параметров уже упоминавшийся метод наименьших квадратов. Однако надо иметь в виду, что при этом оценивается не сама нелинейная функция, но ее линейное преобразование, а это может вызвать смещение оценок параметров.

Интерпретация коэффициента регрессии как углового коэффициента в линейном уравнении для нелинейной зависимости не годится. Определить изменение Y при изменении Х на единицу можно с помощью производной (простой или частной), взятой по соответствующему фактору Х. Так, для степенного уравнения производная по Х равна:

. (158)

Видно, что она является величиной переменной, а это усложняет экономическую интерпретацию результатов.

Чаще всего для характеристики влияния изменения X на Y используют так называемый коэффициент эластичности (Э), который показывает, на сколько процентов изменится Y при изменении Х на один процент, то есть

. (159)

Например, для линейного уравнения коэффициент эластичности фактора Х выглядит как:

. (160)

Для парной степенной функции Y = a₀X^al коэффициент эластичности Х равен а₁.

Коэффициенты эластичности – это, собственно, относительные величины. Их использование расширяет возможности сопоставления, экономической интерпретации результатов в дополнение к абсолютным величинам – коэффициентам регрессии.