Uch_Orlov_A_I_Ekonometrika_-_M_2002
.pdf
|
|
пространство |
тарных событий Ω, класса случайных собы- |
ностей) - основной исходный объект теории вероятно- |
|
|
|
|
|
тий G и вероятностной меры P. |
стей и |
вероятностных моделей реальных явлений |
|
|
|
|
|
(процессов). |
|
|
|
|
|
|
|
|
|
|
1.1.5. |
Вероятность |
Значение P(A) вероятностной меры P на слу- |
В силу закона больших чисел частота реализации со- |
|
|
|
|
события A |
чайном событии A. |
бытия A при неограниченном увеличении числа неза- |
|
|
|
|
|
|
висимых повторений одного и того же комплекса ус- |
|
|
|
|
|
|
ловий, описываемого вероятностным пространством |
|
|
|
|
|
|
{Ω, G, P}, стремится к вероятности этого события |
|
|
|
|
|
|
P(A), т.е. для любого ε > 0 |
|
|
|
|
|
|
limn→∞ |
P { | m/n - p | ≤ ε } = 1, |
|
|
|
|
|
где m/n |
- частота, p - вероятность события A, n - чис- |
|
|
|
|
|
ло повторений. Это свойство нельзя принимать за оп- |
|
|
|
|
|
|
ределение вероятности события в математической |
|
|
|
|
|
|
теории вероятностей. Оно указывает способ оценива- |
|
|
|
|
|
|
ния вероятности по опытным данным. |
|
|
|
|
|
|
|
|
|
|
1.1.6. |
Независимость |
Случайные события А и В являются незави- |
Общематематическое понятие пересечения множеств |
|
|
|
|
случайных со- |
симыми, если Р(АВ) = Р(А)Р(В), где АВ - пе- |
А∩В в теории вероятностей по традиции эквивалент- |
|
|
|
|
бытий |
ресечение множеств А и В (произведение со- |
но понятию произведения событий АВ. |
|
|
|
|
|
бытий А и В). Случайные события А1, А2,..., |
|
|
|
|
|
|
Аn называются независимыми (в совокупно- |
|
|
|
|
|
|
сти), если Р(А1А2...Аn) = Р(А1)Р(А2)...Р(Аn) и |
|
|
|
|
|
|
аналогичные равенства справедливы для всех |
|
|
|
|
|
|
|
|
|
|
|
|
поднаборов этих событий А(1), А(2),..., А(k), |
|
|
|
2≤k≤n -1. |
|
|
|
|
|
1.1.7. |
Случайный |
Измеримая функция, определенная на вероят- |
Случайный элемент Х принимает значения в измери- |
|
элемент |
ностном пространстве. |
мом пространстве (Z,J), где Z - пространство значений |
|
|
|
Х, а J - класс измеримых подмножеств Z; при этом для |
|
|
|
любого QЄJ множество Х-1(Q) является случайным |
|
|
|
событием. |
|
|
|
Если Z - множество действительных чисел R1, то слу- |
|
|
|
чайный элемент Х называют случайной величиной. |
|
|
|
Если Z = Rk - конечномерное векторное пространство |
|
|
|
размерности k=2,3,...., то случайный элемент Х назы- |
|
|
|
вают случайным вектором. |
|
|
|
|
1.1.8. |
Распределение |
Функция множества, задающая вероятность |
Для случайного элемента Х, определенного на вероят- |
|
случайного |
принадлежности случайного элемента изме- |
ностном пространстве {Ω, G, P} со значениями в из- |
|
элемента |
римому подмножеству его области значений. |
меримом пространстве (Z,J), его распределение P :J - |
|
|
|
1 |
|
|
|
→ [0,1] задается формулой P (Q) = P (Х-1(Q)), QЄJ. |
|
|
|
1 |
1.1.9. |
Дискретный |
Случайный элемент, область значений кото- |
Распределение случайного элемента Х, принимающе- |
|
случайный эле- |
рого состоит из конечного или счетного мно- |
го только значения х1, х2,..., полностью описывается |
|
мент |
жества точек. |
числами рi = P(X=хi), i = 1,2,..., причем р1 + р2 +... = 1. |
1.1.10.ПараметричеФункция, определенная на параметрическом Параметр может быть одномерным или конечномерское семейство пространстве (подмножестве конечномерного ным. Вместо "зависимость от k-мерного параметра"
|
|
распределений |
векторного пространства), которая каждому |
часто говорят "зависимость от k параметров". |
|
||||||||||||||||||||||
|
|
|
значению параметра (числу или вектору, вхо- |
|
|
||||||||||||||||||||||
|
|
|
дящему в параметрическое пространство) ста- |
|
|
||||||||||||||||||||||
|
|
|
вит в соответствие распределение случайного |
|
|
||||||||||||||||||||||
|
|
|
элемента. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||
|
1.1.11. |
Независимость |
Определенные на одном и том же вероятност- |
Для случайных величин и векторов, имеющих плотно- |
|
||||||||||||||||||||||
|
|
случайных эле- |
ном пространстве случайные элементы X1, |
сти вероятности, независимость эквивалентна тому, |
|
||||||||||||||||||||||
|
|
ментов |
X ,...,X |
k |
со |
значениями |
|
|
в |
измеримых |
про- |
что плотность вероятности вектора (Х1, Х2,..., Хk) рав- |
|
||||||||||||||
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
странствах (Z , J |
1 |
), (Z |
, J |
2 |
),..., (Z |
, J |
k |
) соответ- |
на произведению плотностей вероятностей случайных |
|
||||||||||||||
|
|
|
|
|
|
1 |
|
|
|
|
2 |
|
|
|
k |
|
|
|
|
|
|
|
|||||
|
|
|
ственно называются независимыми, если для |
величин Хi, т.е. |
|
||||||||||||||||||||||
|
|
|
любых |
|
Q |
ЄJ |
1 |
, |
|
Q |
2 |
ЄJ |
2 |
,..., |
Q |
|
ЄJ |
k |
имеем |
f (x1, x2,..., xk) = f(x1)f(x2)...f(xk). |
|
||||||
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
k |
|
|
|
|
|
|
|||||||
|
|
|
Р(X ЄQ , |
|
|
X ЄQ ,..., |
|
|
X ЄQ ) |
|
= |
Результаты экспериментов, которые проведены неза- |
|
||||||||||||||
|
|
|
1 |
1 |
|
|
|
|
2 |
2 |
|
|
|
|
|
k |
|
|
k |
|
|
|
|
||||
|
|
|
Р(X1ЄQ1)P(X2ЄQ2)... P(XkЄQk). |
|
|
|
|
|
|
|
висимо друг от друга, как правило, моделируются с |
|
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
помощью независимых случайных величин. |
|
|
|
|
|
|
|
||||||||||||||||||||||
|
1.1.12 |
Вероятностная |
Математическая модель явления (процесса), в |
Установление (формулировка) исходной вероятност- |
|
||||||||||||||||||||||
|
|
модель явления |
которой использованы понятия теории веро- |
ной модели - необходимый первый этап для примене- |
|
||||||||||||||||||||||
|
|
(процесса) |
ятностей и математической статистики. |
|
|
ния методов прикладной статистики. |
|
||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1.2. Случайная величина |
|
|
|
|
|
|
|
|
|
|
1.2.1. |
Случайная |
ве- |
Однозначная действительная измеримая |
Однозначная действительная функция X:Ω→R1 явля- |
|
|
|
личина |
|
функция на вероятностном пространстве. |
ется случайной величиной, если для любого хЄR1 |
|
|
|
|
|
|
множество {ω:X(ω) ≤ x} является случайным событи- |
|
|
|
|
|
|
ем. Случайная величина - это случайный элемент со |
|
|
|
|
|
|
значениями в R1. (Здесь R1 - множество действитель- |
|
|
|
|
|
|
ных чисел.) |
|
|
|
|
|
|
|
|
|
1.2.2. |
Функция |
рас- |
Функция, определяющая для всех действи- |
Функция распределения F(x) = P(X < x) = P{ω:X(ω) < |
|
|
|
пределения |
|
тельных чисел х вероятность того, что слу- |
x}. Функция распределения непрерывна слева. |
|
|
|
|
|
чайная величина Х принимает значения, |
Примечание. Иногда функцию распределения опреде- |
|
|
|
|
|
меньшие х. |
ляют как F(x) = P(X < x) = P{ω:X(ω) < x}. Тогда она |
|
|
|
|
|
|
непрерывна справа. |
|
|
|
|
|
|
|
|
|
1.2.3. |
Плотность |
ве- |
Функция p(t) такая, что |
Сокращенная форма: плотность. |
|
|
|
роятности |
|
х |
|
|
|
|
|
|
F(x) = ∫p(t) dt |
|
|
|
|
|
|
-∞ |
|
|
|
|
|
|
при всех х, где F(x) - функция распределения |
|
|
|
|
|
|
рассматриваемой случайной величины. |
|
|
|
|
|
|
|
|
|
|
1.2.4. |
Непрерывная |
Случайная величина, функция распределения |
|
|
|
|
|
случайная |
ве- |
которой при всех действительных x непре- |
|
|
|
|
личина |
|
рывна. |
|
|
|
|
|
|
|
|
|
|
1.2.5. |
Квантиль |
по- |
Значение случайной величины, для которого |
Число хр - квантиль порядка р для случайной величи- |
|
||
|
|
рядка p |
|
функция распределения принимает значение p |
ны с функцией распределения F(x) тогда и только то- |
|
||
|
|
|
|
или имеет место "скачок" со значения меньше |
гда, когда |
|
|
|
|
|
|
|
p до значения больше p. |
lim x→хр+0 |
F(x)≥p, F(хр)≤p. |
|
|
|
|
|
|
|
Может случиться, что вышеуказанное условие выпол- |
|
||
|
|
|
|
|
няется для всех значений х, принадлежащих некото- |
|
||
|
|
|
|
|
рому интервалу. Тогда каждое такое значение называ- |
|
||
|
|
|
|
|
ется квантилью порядка р. |
|
||
|
|
|
|
|
Примечание. Одни авторы употребляют термин "кван- |
|
||
|
|
|
|
|
тиль" в мужском роде, другие - в женском. |
|
||
|
|
|
|
|
|
|
|
|
|
1.2.6. |
Медиана |
|
Квантиль порядка p = 1/2. |
|
|
|
|
|
|
|
|
|
|
|
||
|
1.2.7. |
Мода |
непре- |
Значение случайной величины, соответст- |
Мод у непрерывной случайной величины может быть |
|
||
|
|
рывной случай- |
вующее локальному максимуму ее плотности |
несколько (конечное число или бесконечно много). |
|
|||
|
|
ной величины |
вероятности. |
Краткая форма термина: мода. |
|
|||
|
|
|
|
|
|
|||
|
1.2.8. |
Математиче- |
Среднее взвешенное по вероятностям значе- |
Математическое ожидание обозначают М(Х), Е(Х), |
|
|||
|
|
ское ожидание |
ние случайной величины X(ω), т.е. |
МХ, ЕХ и др. Рекомендуемое обозначение: М(Х). При |
|
|||
|
|
|
|
∫ X(ω) P (dω) |
этом |
|
|
|
|
|
|
|
М(X) = ∫ X(ω) P (dω) = |
|
|||
|
|
|
|
Ω |
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Ω |
|
|
|
|
|
|
|
|
+∞ |
= |
+∞ |
|
|
|
|
|
|
∫x dF(x) |
∫t p(t) dt |
|
|
|
|
|
|
|
-∞ |
|
−∞ |
|
|
|
|
|
|
|
|
где F(x) - функция распределения, а p(t) - плотность |
|
|
|
|
|
|
|
|
|
вероятности случайной величины Х = X(ω). |
|
|
|
|
|
|
|
|
|
Математическое ожидание существует не для всех |
|
|
|
|
|
|
|
|
|
случайных величин Х. Для существования математи- |
|
|
|
|
|
|
|
|
|
ческого ожидания необходимо и достаточно абсолют- |
|
|
|
|
|
|
|
|
|
ной сходимости соответствующего интеграла. |
|
|
|
|
|
|
|
|
|
|
||
|
1.2.9. |
Дисперсия |
|
Математическое ожидание квадрата разности |
Для случайной величины Х дисперсия D(X) |
= |
|
||
|
|
(случайной |
ве- |
между случайной величиной и ее математиче- |
σ2=σ2(X)=М(X-М(X))2. Дисперсия равна 0 тогда и |
|
|||
|
|
личины X) |
|
ским ожиданием. |
только тогда когда Р(Х=а)=1 для некоторого а. |
|
|
||
|
|
|
|
|
|
|
|
||
|
1.2.10. |
Среднее |
квад- |
Неотрицательный квадратный корень из дис- |
|
|
|
||
|
|
ратическое |
от- |
персии. |
|
|
|
||
|
|
клонение |
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
1.2.11. |
Коэффициент |
Отношение среднего квадратического откло- |
Применяется для положительных случайных величин |
|
||||
|
|
вариации |
|
|
нения к математическому ожиданию. |
как показатель разброса. |
|
|
|
|
|
|
|
|
|
|
|
||
|
1.2.12. |
Момент |
поряд- |
Математическое ожидание случайной вели- |
|
|
|
||
|
|
ка q (случайной |
чины Xq. |
|
|
|
|||
|
|
величины X) |
|
|
|
|
|
||
|
|
|
|
|
|
|
|||
|
1.2.13. |
Центральный |
Математическое ожидание случайной вели- |
Дисперсия - центральный момент порядка 2. |
|
|
|||
|
|
момент порядка |
чины (X-М(X))q, где М(Х) - математическое |
|
|
|
|||
|
|
q |
(случайной |
ожидание Х. |
|
|
|
||
|
|
величины X) |
|
|
|
|
|
||
|
|
|
|
|
|
|
|||
|
1.2.14. |
Характеристи- |
Функция от tЄR1 , при каждом t равная мате- |
М(eitX) = М(cos(tX) + isin(tX)) = М(cos(tX)) |
+ |
|
|
|
ческая функция |
матическому ожиданию случайной величины |
iМ(sin(tX)). |
|
|
|
|
|
|
(случайной |
ве- |
eitX, где i - мнимая единица, e - основание |
|
|
|
|
|
|
личины X) |
|
натуральных логарифмов. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1.3. Случайный вектор |
|
|
|
|
|
|
|
|
|
|
|||
|
1.3.1. |
Случайный век- |
Однозначная измеримая функция на вероят- |
Случайный вектор Х - это случайный элемент со зна- |
|
|||
|
|
тор |
|
ностном пространстве со значениями в конеч- |
чениями в Rk, т.е. X = X(ω) = (X (ω), X (ω),...., X (ω)), |
|
||
|
|
|
|
|
1 |
2 |
k |
|
|
|
|
|
номерном евклидовом пространстве Rk. |
где Xi(ω), i = 1,2,...,k, - случайные величины, заданные |
|
||
|
|
|
|
|
на одном и том же вероятностном пространстве. |
|
|
|
|
|
|
|
|
|
|
|
|
|
1.3.2. |
Функция |
рас- |
Функция распределения F(x1, x2,...., xk) слу- |
|
|
|
|
|
|
пределения |
чайного вектора X(ω) = (X1(ω), X2(ω),...., |
|
|
|
|
|
|
|
(случайного |
Xk(ω)) удовлетворяет равенству |
|
|
|
|
|
|
|
вектора) |
|
|
|
|
|
|
|
|
|
F(x1, x2,...., xk) = |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
P (X1<x1, X2<x2,..., Xk<xk) = P{ ω:X1(ω)< x1, |
|
|
|
|
|
|
|
|
X2(ω)< x2,..., Xk(ω)< xk). |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1.3.3. |
Плотность |
ве- |
Функция p(x) такая, что |
|
|
|
|
|
|
роятности |
(слу- |
P(X A) = ∫p(x) dx |
|
|
|
|
|
|
чайного векто- |
А |
|
|
|
|
|
|
|
ра) |
|
для случайного вектора X = X(ω) и любого |
|
|
|
|
|
|
|
|
борелевского подмножества А конечномерно- |
|
|
|
|
|
|
|
|
го евклидова пространства Rk. |
|
|
|
|
1.3.4.МатематичеВектор, компоненты которого - математичеМатематическое ожидание случайного вектора X = ское ожидание ские ожидания компонент случайного векто- (X1, X2,...., Xk) есть (М(X1), М(X2),...., М(Xk)), где
|
случайного век- |
ра. |
|
М(Xi) - математическое ожидание случайной величи- |
|||
|
тора |
|
|
|
ны Xi, являющейся i - ой компонентой случайного |
||
|
|
|
|
|
вектора X, i = 1,2,...,k. |
||
|
|
|
|
|
|
||
1.3.5. |
Ковариация |
Ковариацией вектора (X,Y) называется мате- |
cov(X,Y) = М (X - М(X))(Y - М(Y)) ; |
||||
|
(для |
двумерно- |
матическое ожидание случайной величины |
если X = Y, то cov(X,Y) = D(X) - дисперсия X. |
|||
|
го вектора) |
(X - МX))(Y - М(Y)), где М(X) и М(Y) - мате- |
|
|
|
||
|
|
|
матические ожидания случайных величин X и |
|
|
|
|
|
|
|
Y. |
|
|
|
|
|
|
|
|
|
|
||
1.3.6. |
Ковариацион- |
Квадратная матрица ||cij|| порядка k, в которой |
Ковариационная матрица симметрична, на главной |
||||
|
ная |
матрица |
cij - ковариация двумерного вектора (Xi, Xj), |
диагонали стоят дисперсии Xi - компонент X, i = |
|||
|
случайного век- |
где X |
и X - компоненты случайного вектора |
1,2,...,k. |
|||
|
|
|
i |
j |
|
|
|
|
тора |
|
X = (X1, X2,...., Xk), i,j = 1,2,...,k. |
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
||
1.3.7. |
Коэффициент |
Отношение ковариации вектора (X,Y) к про- |
r(X, Y) = |
cov(X, Y) |
|
||
|
корреляции |
изведению средних квадратических отклоне- |
σ(X)σ(Y) |
||||
|
|
||||||
|
(для |
двумерно- |
ний σ(X) и σ(У) случайных величин Х и У. |
|
|||
|
|
|
|
||||
|
го вектора) |
|
|
Если Y = aX+b, то |r(X,Y)| = 1. Верно и обратное: если |
|||
|
|
|
|
|
|r(X,Y)| = 1, то Y = aX+b.. |
||
|
|
|
|
||||
1.3.8. |
Корреляцион- |
Квадратная матрица ||rij|| порядка k, в которой |
Корреляционная матрица симметрична, на главной |
||||
|
ная |
матрица |
rij - коэффициент корреляции двумерного |
диагонали стоят единицы. |
случайного век- |
вектора (Xi, Xj), где Xi и Xj - компоненты слу- |
тора |
чайного вектора X = (X1, X2,...., Xk), i,j = |
|
1,2,...,k. |
|
|
|
2. Прикладная статистика |
|
|
|
|
|
|
|
|
|
2.1. Общие понятия |
|
|
|
|
|
|
2.1.1. |
Признак |
|
Свойство (характеристика) объекта наблюде- |
Частными видами наблюдения являются измерение, |
|
|
|
ния. |
испытание, анализ, опыт, проверка и т.д. |
|
|
|
|
|
2.1.2. |
Результат |
на- |
Значение признака объекта наблюдения. |
Результат наблюдения может быть числом, вектором, |
|
блюдения |
|
|
элементом конечного множества или математическим |
|
|
|
|
объектом иной природы. |
|
|
|
|
|
2.1.3. |
Выборка |
|
Совокупность значений одного и того же при- |
Выборка - совокупность чисел или векторов, или ма- |
|
|
|
знака у подвергнутых наблюдению объектов. |
тематических объектов иной природы, соответствую- |
|
|
|
|
щих изучаемым реальным объектам наблюдения. |
|
|
|
|
|
2.1.4. |
Объем выборки |
Число результатов наблюдений, включенных |
Объем выборки обычно обозначают n. |
|
|
|
|
в выборку. |
|
|
|
|
|
|
2.1.5. |
Вероятностная |
Вероятностная модель получения результатов |
Примерами вероятностных моделей выборок являются |
|
|
модель выборки |
наблюдений, включаемых в выборку. |
простая случайная выборка и случайная выборка из |
|
|
|
|
|
конечной совокупности. |
|
|
|
|
|
2.1.6. |
Простая |
слу- |
Выборка, в которой результаты наблюдений |
Если результаты наблюдений имеют распределение F, |
|
чайная выборка |
моделируются как совокупность независимых |
то говорят, что "выборка извлечена из распределения |
|
|
|
|
одинаково распределенных случайных эле- |
F". |
|
|
|
ментов. |
|
|
|
|
|
|
|
|
|
2.1.7. |
Случайная вы- |
Выборка объема n, в которую включены ре- |
Если N - число объектов конечной совокупности, то |
|
|
|
борка из конеч- |
зультаты наблюдений над объектами, отби- |
для получения случайной выборки объема n из этой |
|
|
|
ной совокупно- |
раемыми из конечной совокупности так, что |
совокупности, n < N, отбор объектов для проведения |
|
|
|
сти |
любой набор n объектов имеет одинаковую |
наблюдений должен проводиться так, чтобы любой |
|
|
|
|
вероятность быть отобранным. |
набор из n объектов имел одну и ту же вероятность |
|
|
|
|
|
быть отобранным, равную n!(N-n)!/ N!, т.е. обратной |
|
|
|
|
|
величине к числу сочетаний из N элементов по n. |
|
|
|
|
|
|
|
|
2.1.8. |
Статистика |
Измеримая функция результатов наблюдений, |
Статистики используются для описания данных, оце- |
|
|
|
|
включенных в выборку, используемая для |
нивания, проверки гипотез. Статистика, как функция |
|
|
|
|
получения статистических выводов. |
случайного элемента, является случайным элементом. |
|
|
|
|
|
Статистика принимает значения в некотором измери- |
|
|
|
|
|
мом пространстве (Z,J), своем для каждой статистики. |
|
|
|
|
|
|
|
|
|
|
2.2. Описание данных |
|
|
|
|
|
|
|
|
|
2.2.1. |
Частота собы- |
Отношение числа наблюдений, в которых |
|
|
|
|
тия |
осуществилось событие, к объему выборки. |
|
|
|
|
|
|
|
|
|
2.2.2. |
Эмпирическое |
Распределение случайного элемента, в кото- |
Если в выборку включены результаты наблюдений x1, |
|
|
|
распределение |
ром каждому результату наблюдения, вклю- |
x2,...., xn, то эмпирическое распределение - это рас- |
|
|
|
|
ченному в выборку, соответствует одна и та |
пределение случайной величины Х такой, что Р(Х= xi) |
|
|
|
|
же вероятность, равная обратной величине |
= 1/n, i = 1,2,..., n Если несколько результатов наблю- |
|
|
|
|
объема выборки. |
. |
|
|
|
|
дений совпадают: x1 = x2 =.... = xk = a, то полагают |
|
|
|
|
|
|
|
|
|
|
|
|
Р(Х=а) = k/n. |
|
|
|
|
|
|
|