ФЕДЕРАЛЬНОЕ АГЕНТСТВО ПО ОБРАЗОВАНИЮ
Государственное образовательное учреждение
высшего профессионального образования
«СТАВРОПОЛЬСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ»
Физико-математический факультет
Кафедра компьютерной безопасности
ЛЕКЦИЯ
по учебной дисциплине "Теория вероятностей и математическая статистика"
для студентов специальности «Компьютерная безопасность»
Раздел 1. Теория вероятностей
Лекция 1.7. Сходимость случайных величин и предельные теоремы
Обсуждена и одобрена на заседании кафедры компьютерной безопасности протокол № ___________
«_____» _________ 200__ г.
Ставрополь 2012 г.
Учебные и воспитательные цели:
Рассмотреть основные виды сходимости последовательности случайных величин.
Изучить их свойства.
Рассмотреть теоремы Чебышева, Бернулли, Ляпунова.
Научить применять полученные знания для решения задач.
Время - 80 минут
Учебно-материальное обеспечение: Лектор-2000
Распределение времени лекции:
Вступительная часть.
|
5 мин |
Учебные вопросы лекции: |
|
1.Сходимость последовательности случайных величин. |
30 мин |
2. Закон больших чисел |
20 мин |
3. Формулировка центральной предельной теоремы |
20 мин |
Заключение |
3 мин |
Задание студентам для самостоятельной работы |
2 мин |
Содержание лекции Вступительная часть
С самого начала изучения курса теории вероятностей мы говорили о том, что практическое применение методов этой математической дисциплины основывается на законе предельного постоянства частоты события, установленном эмпирически. Согласно этому закону, если один и тот же опыт повторяется многократно, то частота появления конкретного случайного события теряет свойства случайности и приближается к некоторому пределу, который в соответствии со статистическим определением вероятности и называют вероятностью.
Однако для того чтобы теория согласовывалась с практикой, при аксиоматическом определении вероятности, которое мы использовали, этот закон предельного постоянства частоты должен быть обоснован теоретически. Иначе говоря, он должен быть сформулирован и доказан в виде одной или нескольких теорем. В теории вероятностей теоремы такого типа обычно называют различными формами закона больших чисел. В данной лекции мы докажем некоторые формы этого закона, которые, в частности, поясняют смысл математического ожидания случайной величины, и то, почему его называют также средним значением.
Для практики очень важно знание условий, при выполнении которых совокупное действие очень многих случайных причин приводит к результату, почти не зависящему от случая, так как позволяет предвидеть ход явлений. Эти условия и указываются в теоремах, носящих общее название закона больших чисел. К ним относятся теоремы Чебышева и Бернулли (имеются и другие теоремы, которые здесь не рассматриваются). Теорема Чебышева является наиболее общим законом больших чисел, теорема Бернулли - простейшим. Для доказательства этих теорем мы воспользуемся неравенством Чебышева.
1. Сходимость последовательности случайных величин
Пусть X1, X2, … , Xn, … представляет собой последовательность случайных величин, заданных на одном и том же вероятностном пространстве. Опишем типы сходимости последовательности X1, X2, … , Xn, … к некоторой случайной величине X.
Сразу же отметим, что естественно все определения сходимости вводить таким образом, чтобы сходимость последовательности случайных величин X1, X2, … , Xn, … к случайной величине X была эквивалентна сходимости последовательности
Y1 = X1 – X, Y2 = X2 – X, …, Yn = Xn – X, …
случайных величин к нулю, т.е. к случайной величине, принимающей всего одно значение 0. Поэтому далее мы будем говорить только о сходимости последовательности X1, X2, … , Xn, … к нулю.
Поскольку каждая из случайных величин Xi представляет собой функцию, заданную на пространстве элементарных исходов Ω, и существуют разные определения сходимости функций, то можно ввести и различные определения сходимости последовательности случайных величин.
Введем некоторые типы сходимости случайных величин. Рассмотрим все элементарные исходы со, для которых последовательности X1(ω), X2(ω), … , Xn(ω), … сходятся к нулю, и обозначим через А событие, состоящее из этих исходов, т.е. .
Определение 1.1. Если последовательность Х1, Х2, …, Хn, ... случайных величин удовлетворяет условию
P(A)=1,
то говорят о сходимости этой последовательности к нулю с вероятностью 1.
Сходимость к нулю с вероятностью 1 записывается в виде
В дальнейшем мы в основном будем использовать сходимость по вероятности.
Определение 1.2. Если последовательность Х1, Х2, ..., Хn, ... случайных величин для любого >0 удовлетворяет условию
то говорят о сходимости этой последовательности к нулю по вероятности. Сходимость к нулю по вероятности записывается в виде
Смысл сходимости по вероятности заключается в том, что вероятность нарушения неравенства при увеличении n становится сколь угодно малой.
Наконец, во многих приложениях теории вероятностей важную роль играет сходимость в среднем квадратичном.
Определение 1.3. Если последовательность X1, X2, … , Xn, … случайных величин удовлетворяет условию
то говорят о сходимости этой последовательности к нулю в среднем квадратичном.
Сходимость к нулю в среднем квадратичном записывается в виде
При доказательстве центральной предельной теоремы нам понадобится понятие слабой сходимости последовательности функций распределения.
Определение 1.4. Последовательность функций распределения F1(x),...,Fn(x),... сходится к предельной функции распределения F(x), если
для любых x, являющихся точками непрерывности F(x). Такую сходимость называют слабой сходимостью последовательности функций распределения и обозначают
Приведем пример последовательности случайных величин, для которой не имеет место сходимость всюду.
Пример 1.1. Рассмотрим бесконечное число испытаний по схеме Бернулли с равными вероятностями успеха и неудачи p=q=1/2. Последовательность X1, X2, … , Xn, …, где Xi - число успехов в i-м испытании, будет представлять собой последовательность независимых одинаково распределенных случайных величин.
Рассмотрим последовательность Y1, Y2, …, где
Представляет собой вычисленную по первым n испытаниям частоту успеха.
Далее будет показано, что последовательность Y1,Y2,...,Yn,... сходится по вероятности к 1/2. Более того, имеет место так называемый усиленный закон больших чисел, согласно которому эта последовательность будет сходиться к 1/2 с вероятностью 1.
Установим существование таких элементарных исходов ω, для которых числовые последовательности Y1(ω), Y2(ω), … , Yn(ω), … не сходятся к 1/2. Это означает, что для последовательности Y1, Y2, … , Yn, … случайных величин сходимость всюду не имеет места.
К определению слабой сходимости можно сделать несколько замечаний.
Замечание 1. Из слабой сходимости последовательности функций распределения еще нельзя сделать вывод о какой-либо сходимости последовательности самих случайных величин, так как даже одинаково распределенные случайные величины могут быть заданы на совершенно разных вероятностных пространствах.
Замечание 2. Требование сходимости в любой точке непрерывности F(x) нельзя заменить более сильным требованием сходимости во всех точках х. Это подтверждает следующий пример.
Пример 1.2. Пусть на одном и том же вероятностном пространстве задана последовательность случайных величин X1, X2, … , Xn, … причем каждая случайная величина Хn принимает всего одно значение 1/n. Тогда последовательность X1, X2, … , Xn, … будет сходиться к случайной величине для любого элементарного исхода ω (причем даже равномерно).
Тем не менее
При всех n, но
.
Приведенный пример показывает, что не стремится к FХ(0), хотя естественно было бы ожидать сходимости к FХ(x) в любой точке х, поскольку
при всех элементарных исходах ω. Разгадка этого парадокса заключается в том, что 0 является точкой разрыва FХ(x), a при определении слабой сходимости функций распределения сходимости в таких точках мы не требовали.
Замечание 3. Если последовательность F1(x),F2(x),..., Fn(x),... функций распределения сходится к некоторой функции F(x) в каждой точке непрерывности последней, то это не гарантирует слабой сходимости, поскольку F(x) может вообще не быть функцией распределения.
Пример 1.3. Пусть для всех n. Тогда
при каждом х. Но F(x) не является функцией распределения, так как
.
Значит, при определении слабой сходимости обязательно нужно требовать, чтобы предельная функция являлась функцией распределения.
Можно показать, что из сходимости с вероятностью 1 и из сходимости в среднем квадратичном следует сходимость по вероятности, а из сходимости по вероятности вытекает слабая сходимость функций распределения.