Скороход А.В. - Вероятность. Основные понятия. Структура. Методы (1989)
.pdfА.В.Скороход
I. ВЕРОЯТНОСТЬ. ОСНОВНЫЕ ПОНЯТИЯ. СТРУКТУРА. МЕТОДЫ
(Итоги науки и техн. ВИНИТИ. Соврем, пробл. матем. фундам. направл., 1989, 43, 5—145)
Излагаются аксиоматика теории вероятностей и основные факты, связанные со случайными величинами, случайными процессами, предельными теоремами.
II. МАРКОВСКИЕ ПРОЦЕССЫ И ВЕРОЯТНОСТНЫЕ ПРИЛОЖЕНИЯ В АНАЛИЗЕ
(Итоги науки и техн. ВИНИТИ. Соврем, пробл. матем. Фундам. направл., 1989, 43, 147—188)
Статья содержит краткий обзор основных фактов теории марковских процессов (в основном — скачкообразных и диффузионных) и ее связь с теорией дифференциальных уравнений в частных производных 2-го порядка.
III. ВЕРОЯТНОСТЬ. ПРИКЛАДНЫЕ АСПЕКТЫ
(Итоги науки и техн. ВИНИТИ. Соврем, пробл. матем. Фундам. направл., 1989, 43, 189—270)
Статья содержит краткий обзор основных понятий математической статистики, а также обзор статистических задач в теории вероятности (управляемые случайные процессы, энтропия и информация, фильтрация случайных процессов).
I. ВЕРОЯТНОСТЬ. ОСНОВНЫЕ ПОНЯТИЯ. СТРУКТУРА. МЕТОДЫ
Глава 1. Введение |
7 |
§ 1. Природа случайности |
7 |
1.1. Детерминизм и хаос |
8 |
1.2. Непредсказуемость и случайность |
8 |
1.3. Истоки случайности |
9 |
1.4. Роль случайности |
10 |
§ 2. Формализация случайности |
11 |
2.1. Выбор из нескольких возможностей. Случайный эксперимент. |
11 |
События |
|
2.2. Частоты. Вероятность как идеальная частота |
14 |
2.3. Определение вероятности |
16 |
§ 3. Задачи теории вероятностей |
17 |
3.1. Теория вероятностей и теория меры |
18 |
3.2. Независимость |
19 |
3.3. Асимптотическое поведение вероятностных систем |
20 |
3.4. Вероятностный анализ |
20 |
Глава 2. Вероятностное пространство |
21 |
§ 1. Конечное вероятностное пространство |
21 |
1.1. Комбинаторика |
21 |
1.2. Условная вероятность |
23 |
1.3. Схема Бернулли. Предельные теоремы |
26 |
§ 2. Определение вероятностного пространства |
29 |
2.1. σ-алгебры. Вероятность |
29 |
2.2. Случайные величины. Математические ожидания |
32 |
2.3. Условное математическое ожидание |
34 |
2.4. Регулярные условные распределения |
37 |
2.5. Пространства случайных величин. Сходимость |
38 |
§ 3. Случайные отображения |
42 |
3.1. Случайные элементы |
42 |
3.2. Случайные функции |
46 |
3.3. Случайные элементы в линейных пространствах |
48 |
§ 4. Построение вероятностных пространств |
50 |
4.1. Конечномерное пространство |
50 |
4.2. Функциональные пространства |
52 |
4.3. Линейные топологические пространства. Слабые распределения |
54 |
4.4. Теорема Минлоса — Сазонова |
56 |
Глава 3. Независимость |
58 |
§ 1. Независимость σ -алгебр |
58 |
1.1. Независимые алгебры |
58 |
1.2. Условия независимости σ-алгебр |
60 |
1.3. Бесконечные последовательности независимых σ-алгебр |
61 |
1.4. Независимые случайные величины |
62 |
§ 2. Последовательность независимых случайных величин |
64 |
2.1. Суммы независимых случайных величин |
64 |
2.2. Неравенство Колмогорова |
66 |
2.3. Сходимость рядов из независимых случайных величин |
68 |
2.4. Усиленный закон больших чисел |
70 |
§ 3. Случайное блуждание |
73 |
3.1. Схема восстановления |
73 |
3.2. Возвратность |
76 |
3.3. Лестничные функционалы |
80 |
§ 4. Процесс с независимыми приращениями |
84 |
4.1. Определение |
84 |
4.2. Стохастически непрерывные процессы |
86 |
4.3. Формула Леви |
89 |
§ 5. Продакт-меры |
93 |
5.1. Определение |
93 |
5.2. Абсолютная непрерывность и сингулярность мер |
94 |
5.3. Теорема Какутани |
95 |
5.4. Абсолютная непрерывность гауссовских продакт-мер |
97 |
Глава 4. Общая теория случайных процессов и функций |
98 |
§ 1. Регулярные модификации |
98 |
1.1. Сепарабельные случайные функции |
100 |
1.2. Непрерывные случайные процессы |
101 |
1.3. Процессы без разрывов второго рода |
103 |
1.4. Марковские процессы |
104 |
§ 2. Измеримость |
105 |
2.1. Условие существования измеримой модификации |
105 |
2.2. Интегрирование в среднем квадратическом |
107 |
2.3. Разложение случайной функции в ортогональный ряд |
108 |
§ 3. Согласованные процессы |
110 |
3.1. Моменты остановки |
111 |
3.2. Прогрессивная измеримость |
112 |
3.3. Вполне измеримая и предсказуемая σ-алгебры |
112 |
3.4. Вполне измеримые и предсказуемые процессы |
114 |
§ 4. Мартингалы |
115 |
4.1. Определение и простейшие свойства |
115 |
4.2. Неравенства. Существование предела |
117 |
4.3. Непрерывный параметр |
120 |
§ 5. Стохастические интегралы и интегральные представления случайных |
120 |
функций |
|
5.1. Случайные меры |
120 |
5.2. Теорема Карунена |
122 |
5.3. Спектральное представление некоторых случайных функций |
123 |
Глава 5. Предельные теоремы |
124 |
§ 1. Слабая сходимость распределений |
124 |
1.1. Слабая сходимость мер в метрических пространствах |
124 |
1.2. Слабая компактность |
127 |
1.3. Слабая сходимость мер в Rd |
128 |
§ 2. Эргодическая теорема |
129 |
2.1. Сохраняющие меру преобразования |
129 |
2.2. Теорема Биркгофа |
132 |
2.3. Метрическая транзитивность |
135 |
§ 3. Центральная предельная теорема и принцип инвариантности |
137 |
3.1. Одинаково распределенные слагаемые |
138 |
3.2. Теорема Линдеберга |
139 |
3.3. Теорема Донскера — Прохорова |
140 |
Историко-библиографический комментарий |
144 |
Литература |
145 |
II.МАРКОВСКИЕ ПРОЦЕССЫ И ВЕРОЯТНОСТНЫЕ ПРИЛОЖЕНИЯ
ВАНАЛИЗЕ
Глава 1. Марковские процессы |
148 |
|
§ 1. |
Определение и общие свойства |
149 |
|
1.1. Определение марковского процесса |
149 |
|
1.2. Вероятность перехода |
150 |
|
1.3. Регулярность |
153 |
§ 2. |
Чисто разрывные процессы |
155 |
|
2.1. Определение |
155 |
|
2.2. Уравнения Колмогорова |
157 |
§ 3. |
Диффузионные процессы |
162 |
|
3.1. Определение диффузионного процесса |
163 |
|
3.2. Уравнения Колмогорова |
164 |
Глава 2. Вероятностное представление решений дифференциальных |
166 |
уравнений с частными производными |
|
§ 1. Задачи для параболического уравнения |
167 |
1.1. Задача Коши |
167 |
1.2. Формула Каца |
169 |
1.3. Смешанная задача для обратного параболического уравнения |
171 |
§ 2. Краевые задачи для эллиптических операторов |
172 |
2.1. О моментах выхода из ограниченной области |
173 |
2.2. Решение внутренней краевой задачи |
174 |
§ 3. Винеровская мера и решение уравнений с оператором Лапласа |
177 |
3.1. Винеровский процесс в Rd |
177 |
3.2. Стохастический интеграл |
180 |
3.3. Представление решений уравнений |
185 |
Историко-библиографический комментарий |
187 |
Литература |
187 |
III. ВЕРОЯТНОСТЬ. ПРИКЛАДНЫЕ АСПЕКТЫ |
|
Глава 1. Статистические методы |
190 |
§ 1. Обработка эмпирической информации |
191 |
1.1. Частота и вероятность |
191 |
1.2. Эмпирическая функция распределения |
194 |
1.3. Усиленный закон больших чисел и предельное поведение |
195 |
эмпирических характеристик |
|
1.4. Критерий согласия Колмогорова — Смирнова |
196 |
§ 2. Проверка гипотез |
198 |
2.1. Постановка задачи |
198 |
2.2. Критерий Неймана — Пирсона |
199 |
2.3. Обнаружение сигнала на фоне шума |
201 |
§ 3. Принятие решений в условиях неопределенности |
203 |
3.1. Постановка задачи |
204 |
3.2. Минимаксные и байесовские решения |
205 |
3.3. Последовательный анализ |
207 |
Глава 2. Управляемые случайные процессы |
210 |
§ 1. Управляемые случайные последовательности |
210 |
1.1. Постановка задачи |
211 |
1.2. Оптимальные и ε-оптимальные управления |
213 |
§ 2. Управляемые цепи Маркова |
218 |
2.1. Аддитивная стоимость управления. Уравнение Беллмана |
219 |
2.2. Оптимальная остановка цепи Маркова |
220 |
§ 3. Управляемые марковские процессы с непрерывным временем |
224 |
3.1. Скачкообразные процессы |
224 |
3.2. Управляемые диффузионные процессы |
229 |
Глава 3. Информация |
231 |
§ 1. Энтропия |
231 |
1.1. Энтропия вероятностного эксперимента |
231 |
1.2. Свойства энтропии |
|
233 |
1.3. ε-энтропия и энтропия непрерывной случайной величины |
236 |
|
1.4. Информация |
|
237 |
§ 2. Передача информации |
|
240 |
2.1. Канал связи |
|
240 |
2.2. Кодирование и декодирование |
|
244 |
§ 3. Теорема Шеннона |
|
245 |
3.1. Простейший случай передачи информации |
246 |
|
3.2. Обобщения |
|
250 |
Глава 4. Фильтрация |
|
252 |
§ 1. Линейный прогноз и фильтрация для стационарных случайных |
252 |
|
процессов |
|
|
1.1. Общий подход к построению линейной оценки случайной |
252 |
|
величины |
|
|
1.2. Прогноз стационарной последовательности |
254 |
|
1.3. Фильтрация одной стационарной последовательности по другой |
259 |
|
§ 2. Нелинейная фильтрация |
|
261 |
2.1. Общие замечания |
|
261 |
2.2. Задача о разладке |
|
262 |
2.3. Фильтрация цепи Маркова |
|
265 |
Историко-библиографический комментарий |
|
269 |
Литература |
|
269 |
ИМЕННОЙ УКАЗАТЕЛЬ |
|
|
Байес (Bayes Т.) 24, 25 |
Кантелли (Cantelli F. P.) 62, 71, 89, |
|
Беллман (Bellman R.) 219, 225, 226, |
102, 103, 181 |
|
229 |
Карунен (Karhunen К.) 122 |
|
Бернулли (Bernulli J.) 19, 26, 27, 66 |
Кац (Кае М.) 148, 169 |
|
Бернштейн С. Н. 26 |
Клапейрон (Clapeyron В.) 11 |
|
Биркгоф (Birkhoff G. D.) 132 |
Колмогоров А. Н. 17, 18, 19, 53, 61, |
|
Бозе (Bose S.) 22 |
66, 70, 88, 99, 102, 104, 144, 147, |
|
Больцман (Boltzmann L.) 22 |
148, 150, 157, 160, 161, 162, 164, |
|
Борель (Borel E.) 62, 71, 89, 102, 103, |
166, 187, 196, 267 |
|
181 |
Коши (Cauchy A.) 97, 148, 167, 169, |
|
Бохнер (Bochner S.) 49, 50, 123 |
183, 185 |
|
Бюффон (Buffon G.) 32 |
Лаплас (Laplace P.) 8, 29, 44, 65, 73 |
|
Винер (Wiener N.) 80 |
Лебег (Lebesque H.) 32, 41, 108, 180 |
|
Гихман И. И. 148 |
Леви (Levy P.) 85, 89, 92 |
|
Дирак (Dirac P.) 22 |
Линдеберг (Lindeberg J. W.) 139 |
|
Дирихле (Dirichlet P. G.) 174, 186 |
Ляпунов А. А. 140 |
|
Донскер (Donsker M.) 140 |
Максвелл (Maxwell J. С.) 22 |
|
Дуб (Doob J. L.) 100 |
Марков А. А. 149, 220 |
|
Жордан (Jordan С.) 95 |
Мизес (Mises R.) 16, 73 |
|
Ито (ltd К.) 148 |
Минлос Р. А. 56 |
|
Какутани (Kakutani S.) 95 |
Муавр (Moivre A.) 29, 44 |
|
Нейман (Neyman J.) 199 |
Стирлинг (Stirling J.) 29 |
Никодим (Nikodym D.) 18, 36, 94 |
Фату (Fatou P.) 97 |
Ньютон (Newton I.) 8 |
Ферми (Fermi E.) 22 |
Петровский И. Г. 148 |
Фубини (Fubini G.) 95, 105, 108 |
Пирсон (Pearson E. S.) 199 |
Фурье (Fourier J. B. J.) 148, 202, 258 |
Платон (Platonj 15 |
Хинчин А. Я. 148 |
Прохоров Ю. В. 140, 141 |
Чебышев П. Л. 38, 65, 66 |
Пуассон (Poisson S.) 28, 43 |
Чепмен (Chapman D. G.) 104, 150, |
Радон (Radon J.) 18, 36, 94, 126 |
155, 162 |
Риман (Riemann В.) 107, 108 |
Шеннон (Shannon С.) 245, 246 |
Сазонов В. В. 56 |
Эйнштейн (Einstein A.) 22 |
Смирнов Н. В. 196 |
Яглом А. М. 257 |
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ |
|
Аддитивная стоимость управления |
геометрические вероятности 31 |
219 |
гипотеза 24 |
аксиоматика Колмогорова 17 |
Декодирование 244 |
— Мизеса 16 |
дискретная случайная величина 33 |
Алгебра событий 14 |
дискретный процесс с независимыми |
σ-алгебра 21, 29 |
приращениями 84 |
аналитическое множество 216 |
дисперсия 34 |
арифметическое распределение 75 |
диффузионный процесс 163 |
байесовское решение 206 |
доверительный интервал 193 |
броуновское движение 90 |
достаточная статистика 192 |
Вариационный ряд 194 |
Задача Бюффона 32 |
величина перескока 80 |
— Дирихле 174, 186 |
вероятности биномиальные 27 |
— Коши 167, 169, 185 |
— полиномиальные 27 |
— о разладке 262 |
вероятностное пространство 21 |
закон больших чисел 12, 65 |
вероятностный анализ 20 |
— нормальных флуктуации 20 |
вероятность 15 |
— 0 или 1 Колмогорова 61 |
— ошибки второго рода 198 |
Измеримая случайная функция 105 |
— — первого рода 198 |
измеримое отображение 42 |
— перехода 150 |
инвариантная мера 131 |
винеровская мера 179 |
интервальное оценивание 193 |
винеровский процесс 90, 177 |
Канал связи 240 |
возвратность 77 |
кодирование 244 |
вполне измеримое множество 112 |
количество информации 237 |
— измеримый процесс 114 |
конечномерные распределения 46 |
— непредсказуемый момент |
корреляционная функция 47 |
остановки 112 |
корреляционный оператор 45 |
время ожидания 44 |
коэффициент переноса 163 |
Гармоническая функция 222 |
критерий Неймана — Пирсона 199 |
гауссова мера 93 |
— согласия Колмогорова — |
— случайная функция 47 |
Смирнова |
196 критическое множество
198
Лестничные функционалы 80 Максимальная эргодическая теорема
132
марковский процесс 104, 150 мартингал 116 математическое ожидание 34 метод Винера 80
—симметризации 69 метрическая транзитивность 136 минимаксное решение 206 момент 34
—восстановления 73
—остановки 111
—первого выхода из области 171
—перескока 80 моментная функция 47
мощность правила 198 Неарифметическое распределение 76 независимость 19, 25
— алгебр 26, 58
независимые случайные элементы 63 нелинейная фильтрация 261 непрерывное распределение 33 непрерывный случайных процесс 101 неравенство Колмогорова 66
—Чебышева 38, 65 неразличимые процессы 114 нерандомизированное управление
212, 215
несмещенная оценка 192 неупреждающая фильтрация 260 Обнаружение сигнала 201 однородный марковский процесс 153 оператор диффузии 163 оптимальная остановка 220
—стратегия 213
ε-оптимальная стратегия 213 остаточная σ-алгебра 61 оценка 192 Плотность распределения 33
положительно определенная функция
47
поток σ-алгебр 110 предсказуемые множества 113 предсказуемый момент остановки
112
—процесс 114 преобразование Лапласа 73 принцип инвариантности 141 прогрессивная измеримость 112 продакт-меры 93 произведение алгебр 26
—мер 26
производящая функция 65 пропускная способность 242 процесс без разрывов второго рода
103
—с независимыми приращениями 84 пуассоновский процесс 89 Равновозможность 12, 16 равномерная интегрируемость 41
—плотность 126
равномерно чисто разрывный марковский процесс 155
разложение Леви 85 распределение биномиальное 43
—величины 33
—гауссово 44, 45
—геометрическое 43
—нормальное 44, 45
—показательное 43
—Пуассона 28, 43
—равномерное 43, 45 регулярная модификация 98 решающая функция 204
Сепарабельные случайные функции
100
слабая компактность 127
—сходимость мер 124
—— распределений 124
слабое распределение 55 случайная величина 32
—мера 120
—функция 46 случайное блуждание 73 случайный вектор 44
—эксперимент 12
—элемент 42
события 12 согласованные конечномерные
распределения 52
—процессы 110 спектральная плотность 255
—функция 254
статистика 192
—Бозе — Эйнштейна 22
—Максвелла — Больцмана 22
—Ферми — Дирака 22 стационарная последовательность
123
—— в узком смысле 130 стационарный процесс 123
—— эргодический 136 стоимость управления 211
стохастически непрерывный процесс
85
стохастический интеграл 121, 180 стратегия управления 212 ступенчатые управления 224 субгармоническая функция 222 субмартингал 116 супергармоническая функция 222 супермартингал 116 схема Бернулли 27
—восстановления 73
сходимость по вероятности 38
—почти наверное 39
—с вероятностью 1 40
счетные однородные марковские процессы 162
Теорема Бернулли 19, 27
—Биркгофа 132
—Бореля — Кантелли 62
—Бохнера 49, 123
—для отношений 133
—Донскера — Прохорова 140
—Какутани 95
—Карунена 122
—Колмогорова 53, 61, 66, 102
—— о трех рядах 70
—Линдеберга 139
—Минлоса—Сазонова 56
—Муавра—Лапласа 29
—Пуассона 28
—Радона — Никодима 94
—Чебышева 66
—Шеннона 246 Тотальное множество 49 точечное оценивание 192
Управляемый диффузионный процесс 229
—случайный процесс 210
—— — с дискретным временем 210 уравнение Беллмана 219, 225
—Колмогорова 157, 164
—типа свертки на полуоси 80
—Чепмена — Колмогорова 104, 150 усиленный закон больших чисел 71 условие Линдеберга 139 условия согласования 46 условная вероятность 23
условное математическое ожидание
35
Формула Байеса 24, 25
—Каца 169
—Леви 89, 92
—полной вероятности 24
—Стирлинга 29
функция восстановления 73
—распределения 42
—риска 204 Характеристическая функция 48
характеристический функционал 49 Центральная предельная теорема 137 центральный момент 34 цилиндрическое множество 52 Частота 15 чисто разрывный марковский
процесс 155, 159 Шаг распределения 75 элементарные исходы 13
—события 13
эмпирическая дисперсия 195
— информация 191
— функция распределения 194 |
энтропия вероятностного |
эмпирические характеристики |
эксперимента 231 |
195 |
— непрерывной случайной величины |
эмпирический квантиль 195 |
236 |
— момент 195 эмпирическое среднее |
ε-энтропия 236 |
195 |
эргодические теоремы 20, 129 |