58. Построение модели парной регрессии

Если функция регрессии линейна, то говорят о линейной регрессии. Модель линейной регрессии (линейное уравнение) является наиболее распространенным (и простым) видом зависимости между экономическими переменными. Кроме того, построенное линейное уравнение может служить начальной точкой эконометрического анализа. Линейная регрессия (теоретическое линейное уравнение регрессии) представляет собой линейную функцию между условным математическим ожиданием M(Y|X = x_i) зависимой переменной Y и одной объясняющей переменной X (x_i- значения независимой переменной вi-омнаблюдении, i = 1,2,...,n).

M(Y|X = x_i) = β₀+ β₁x_i

Для отражения того факта, что каждое индивидуальное значение отклоняется от соответствующего условного математического ожидания, необходимо ввести в последнее соотношение случайное слагаемое e_i.

y_i= M(Y|X = x_i) + e_i= β₀+ β₁x_i+ e_i

Это соотношение называется теоретической линейной регрессионной моделью, β₀и β₁- теоретическими параметрами (теоретическими коэффициентами) регрессии, e_i- случайным отклонением.

59. Построение модели множественной регрессии

Обобщением линейной регрессионной модели с двумя переменными является многомерная регрессионная модель (или модель множественной регрессии). Пусть n раз измерены значения факторовx₁ , x₂ , ..., x_k и соответствующие значения переменнойy;предполагается, что

y_i = b _o + b ₁x_i1 + ... + b _k x_ik+ e _i , i = 1, ..., n,                                                     (12)

(второй индекс у хотносится к номеру фактора, а первый - к номеру наблюдения); предполагается также, что

Me _i = 0, M= s ²,

                    M(e _i e _j) = 0, i неравно j,                                                       (12a)

т.е. e_i - некоррелированные случайные величины. Соотношения (12) удобно записывать в матричной форме:

Y = Xb +e, (13)

где Y= (y₁, ..., y_k)^T- вектор-столбец значений зависимой переменной,Т- символ транспонирования,  b= (b₀, b ₁, ..., b _k)^T - вектор-столбец (размерностиk) неизвестных коэффициентов регрессии,  e = (e₁, ...,e_n)^T- вектор случайных отклонений,

-матрица n x (k + 1); вi- й строке (1,x_i1, ...,x_ik) находятся значения независимых переменных вi-м наблюдении первая переменная - константа, равная 1.

60. Способы оценки полученных моделей регрессии

Регрессионный анализ раздел математической статистики, объединяющий практические методы исследования регрессионной зависимости между величинами по статистическим данным. Цель Р. а. состоит в определении общего вида уравнения регрессии, построении оценок неизвестных параметров, входящих в уравнение регрессии, и проверке статистических гипотез о регрессии. При изучении связи между двумя величинами по результатам наблюдений (x₁,y₁), ..., (x_n, y_n) в соответствии с теорией регрессии предполагается, что одна из нихY имеет некоторое распределение вероятностей при фиксированном значениихдругой, так что

         Е(Y | х) = g(x, β) и D(Y | х) = σ²h²(x),

        где β обозначает совокупность неизвестных параметров, определяющих функцию g(х), ah(x) есть известная функциях(в частности, тождественно равная 1). Выбор модели регрессии определяется предположениями о форме зависимостиg(х, β) отхи β. Наиболее естественной с точки зрения единого метода оценки неизвестных параметров β является модель регрессии, линейная относительно β:

         g(x, β) = β₀g₀(x) + ... + β_kg_k(x).

         Относительно значений переменной х возможны различные предположения в зависимости от характера наблюдений и целей анализа. Для установления связи между величинами в эксперименте используется модель, основанная на упрощённых, но правдоподобных допущениях: величинахявляется контролируемой величиной, значения которой заранее задаются при планировании эксперимента, а наблюдаемые значенияупредставимы в виде

         y_i = g(x_i, β) + ε_i, i = 1, ..., k,

        где величины ε_i характеризуют ошибки, независимые при различных измерениях и одинаково распределённые с нулевым средним и постоянной дисперсией σ². Случай неконтролируемой переменнойх отличается тем, что результаты наблюдений (x_i, y_i), ..., (x_n, y_n) представляют собой выборку из некоторой двумерной совокупности. И в том, и в другом случае Р. а. производится одним и тем же способом, однако интерпретация результатов существенно различается (если обе исследуемые величины случайны, то связь между ними изучается методами корреляционного анализа).

         Предварительное представление о форме графика зависимости g(x) отхможно получить по расположению на диаграмме рассеяния (называемой также корреляционным полем, если обе переменные случайные) точек (x_i, y̅(x_i)), гдеy̅(x_i)— средние арифметические тех значенийу, которые соответствуют фиксированному значениюx_i.Например, если расположение этих точек близко к прямолинейному, то допустимо использовать в качестве приближения линейную регрессию. Стандартный метод оценки линии регрессии основан на использовании полиномиальной модели (m≥ 1)

         y(x, β) = β₀+ β₁x+ ... + β_mx^m

        (этот выбор отчасти объясняется тем, что всякую непрерывную на некотором отрезке функцию можно приблизить полиномом с любой наперёд заданной степенью точности). Оценка неизвестных коэффициентов регрессии β₀, ..., β_mи неизвестной дисперсии σ²осуществляетсяНаименьших квадратов методом. Оценки0, ..., β_m, полученные этим методом, называются выборочными коэффициентами регрессии, а уравнение

         

        определяет т. н. эмпирическую линию регрессии. Этот метод в предположении нормальной распределённости результатов наблюдений приводит к оценкам для β₀, ..., β_mи σ², совпадающим с оценками наибольшего правдоподобия .Оценки, полученные этим методом, оказываются в некотором смысле наилучшими и в случае отклонения от нормальности. Так, если проверяется гипотеза о линейной регрессии, то

         

        где x_iи y_i, и оценкаg(х), а её дисперсия будет меньше, чемдисперсия любой другой линейной оценки. При допущении, что величины y_iнормально распределены, наиболее эффективно осуществляется проверка точности построенной эмпирической регрессионной зависимости и проверка гипотез о параметрах регрессионной модели. В этом случае построение доверительных интервалов для истинных коэффициентов регрессии β₀, ..., β_mи проверка гипотезы об отсутствии регрессионной связи β_i= 0, i = 1, ..., m) производится с помощью Стьюдента распределения.

        В более общей ситуации результаты наблюденийy₁,...,y_nрассматриваются как независимые случайные величины с одинаковыми дисперсиями и математическими ожиданиями

         Ey_i, = β₁ x_1i + ... + β_kx_ki, i = 1, ..., n,

        где значенияx_ji,j= 1, ...,kпредполагаются известными. Эта форма линейной модели регрессии является общей в том смысле, что к ней сводятся модели более высоких порядков по переменнымx₁,...,x_k. Кроме того, некоторые нелинейные относительно параметров β_i; модели подходящим преобразованием также сводятся к указанной линейной форме.