4.6. Усиленный закон больших чисел

Поскольку в законе больших чисел речь идет о сходимости по вероятности с ростом числа n среднего арифметического сл. величин к некоторой постоянной величине, то в каждом отдельном эксперименте (при произвольном ω) закон больших чисел этой сходимости не гарантирует. А на практике мы встречаемся со сл. величинами именно в отдельных экспериментах.

Усиленный закон больших чисел – это одна из форм закона больших чисел, в которой вместо сходимости по вероятности утверждается сходимость почти наверное (с вероятностью 1).

Тогда те ω, для которых закон больших чисел не имеет места, образуют множество, вероятностная мера которого равна 0, т.е. он имеет место для почти всех ω.

Приведем прежде всего неравенство Колмогорова (без доказательства).

Теорема 6. Пусть – независимые сл. величины. Если, тогда для любого числа a > 0 справедливо соотношение

. (4.5)

Неравенство (4.5) называют неравенством Колмогорова.

Теорема 7 (усиленный закон больших чисел). Если – последовательность независимых сл. величин, для которыхи рядсходится, то с вероятностью 1 имеет место сходимостьпри.

Для доказательства теоремы понадобится

Лемма. Если и если, то

Докажем ее. Обозначим через событие, ε > 0 – некоторое число. Согласно замечанию к теореме Бореля–Кантелли, условиеозначает, что с вероятностью 1 происходит лишь конечное число событий. Следовательно, начиная с некоторого номера(),и этот номер с вероятностью 1 существует. Лемма доказана.

Доказательство теоремы. Обозначим Так как(по свойствуsup), то на основании неравенства Колмогорова имеем: Просуммируем полученное неравенство:. Покажем, что последовательностьудовлетворяет условиям леммы, для чего в последнем неравенстве изменим порядок суммирования:и рядсходится по условию. Здесьопределяется из соотношенияПоследнее неравенство получается из следующих оценок:из условияполучаемТогда с вероятностью 1, начиная с некоторого номера, и, следовательно,

Теорема 8. Если – последовательность независимых одинаково распределенных сл. величин, для которых математические ожиданияконечны,n = 1, 2,…, то с вероятностью 1

Если же величины не имеют конечного математического ожидания, то последовательностьс вероятностью 1 не ограничена.

Доказательство. Пусть ,n = 1, 2, … Поскольку то по теореме Бореля–Кантелли событиепроисходит лишь конечное число раз, следовательно, с вероятностью 1 можно утверждать что начиная с некоторого номера. Иначе говоря,

Далее имеем . Следовательно,где.

Для последовательности проверим условие теоремы 7:так как, (). Тем самым показано, что выполнены условия теоремы 7, а потому имеет место сходимость почти наверноек m при n → ∞. Теорема доказана.

Обе теоремы принадлежат А.Н. Колмогорову.

4.7. Центральная предельная теорема

Постановка задачи, решаемой центральной предельной теоремой, имеет длинную историю: от Муавра (1718 г.) и Лапласа (1812 г.) до Ляпунова (1901 г.) и Линдеберга (1922 г.). В трудах двух последних ученых найдены необходимые и достаточные условия сходимости закона распределения суммы независимых сл. величин к нормальному закону. Исследования по центральной предельной теореме продолжаются до сих пор.

Термин «центральная предельная теорема» в ТВ означает любое утверждение о том, что при выполнении определенных условий функция распределения суммы индивидуально малых случайных величин с ростом числа слагаемых сходится к нормальной функции распреде­ления.

Основную роль в этих теоремах играет теорема о связи сходимости последовательности функций распределения со сходимостью последовательности соответствующих характеристических функций – теорема непрерывности.

Теорема 9 (теорема непрерывности). Последовательность функций распределения слабо сходится к функции распределениятогда и только тогда, когда последовательность их характеристических функцийсходится к непрерывной предельной функцииПри этоместь характеристическая функция дляи сходимостькравномерная в каждом конечном интервале.

Теорема 10 (центральная предельная теорема). Пусть – последовательность независимых одинаково распределенных сл. величин сиТогда

, (4.6)

где Ф(x) – функция нормального стандартного распределения.

Доказательство. Функция – непрерывная, сходимость к ней последовательности функций распределения сл. величинявляется сходимостью по распределению сл. величинк сл. величине ξ. Следовательно, мы можем воспользоваться теоремой 9. Обозначим черезхарактеристи­ческую функцию сл. величины,n = 1, 2,…, а через –характеристическую функцию сл. величиныВоспользуемся свойствами 6 и 7 характеристических функций:

По свойству 5 характеристических функций дифференцируема дважды, тогда функциюможно разложить в ряд Маклорена:

Но тогда

Следовательно, при Но– характеристическая функция стандартного нормального распределения. Теорема доказана.

Пример 3. Рассмотрим в качестве – число наступлений некоторого события в серии изn независимых испытаний, в каждом из которых событие наступает с вероятностью р и не наступает с вероятностью q = 1 – p. Тогда по теореме 10 для функций распределения F(x) нормированного отклонения от среднего числа наступления события – сл. величины имеет место соотношение.

Это сформулированная нами ранее теорема Муавра–Лапласа.

Теорема 11 (Линдеберга). Пусть – последовательность независимых сл. величин, для которых существуютЕсли для всякоговыполняется условие:

, (4.7)

где то справедливо утверждение

Доказательство. Действительно, не ограничивая общности рассуждений, будем полагать, что ПоложимХарактеристическая функция сл. величиныимеетвид где– характеристическая функция сл. величиныИмеем Значит,

Смысл условия Линдеберга (неравенства 4.7) состоит в следующем. Обозначим за событие так как событие имеет место прии

Таким образом, можно сказать, что смысл условия Линдеберга заключается в равномерной по малости слагаемых, то есть срединет таких, которые преимущественно определяли бы величину

Следствием теоремы 11 является теорема Ляпунова (она появилась раньше, чем теорема Линдеберга).

Теорема 12 (Ляпунова). Если – последовательность независимых сл. величин, для которых существуютии при некоторомсправедливо равенствоЕсли существуетгдето имеет место утверждение

Доказательство. Покажем, что для последовательности , в условиях теоремы выполняются условия Линдеберга:

Следовательно, теорема Ляпунова справедлива, при этом условие Ляпунова для проверки легче, чем условие Линдеберга.

Следствие. Если – последовательность независимых одинаково распределенных сл. величин с, тоВ этом случае

Исключительная важность центральной предельной теоремы объясняется тем, что она дает теоретическое обоснование следующему многократно подтвержденному практикой наблюдению: если исход сл. эксперимента определяется большим числом случайных факторов, влияние каждого из которых в отдельности пренебрежимо мало, то такой эксперимент хорошо аппроксимируется нормальным распределением с соответствующим образом подобранными математическим ожиданием и дисперсией.