Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

Скороход А.В. - Вероятность. Основные понятия. Структура. Методы (1989)

.pdf
Скачиваний:
101
Добавлен:
16.08.2013
Размер:
3.83 Mб
Скачать

А.В.Скороход

I. ВЕРОЯТНОСТЬ. ОСНОВНЫЕ ПОНЯТИЯ. СТРУКТУРА. МЕТОДЫ

(Итоги науки и техн. ВИНИТИ. Соврем, пробл. матем. фундам. направл., 1989, 43, 5—145)

Излагаются аксиоматика теории вероятностей и основные факты, связанные со случайными величинами, случайными процессами, предельными теоремами.

II. МАРКОВСКИЕ ПРОЦЕССЫ И ВЕРОЯТНОСТНЫЕ ПРИЛОЖЕНИЯ В АНАЛИЗЕ

(Итоги науки и техн. ВИНИТИ. Соврем, пробл. матем. Фундам. направл., 1989, 43, 147—188)

Статья содержит краткий обзор основных фактов теории марковских процессов (в основном — скачкообразных и диффузионных) и ее связь с теорией дифференциальных уравнений в частных производных 2-го порядка.

III. ВЕРОЯТНОСТЬ. ПРИКЛАДНЫЕ АСПЕКТЫ

(Итоги науки и техн. ВИНИТИ. Соврем, пробл. матем. Фундам. направл., 1989, 43, 189—270)

Статья содержит краткий обзор основных понятий математической статистики, а также обзор статистических задач в теории вероятности (управляемые случайные процессы, энтропия и информация, фильтрация случайных процессов).

I. ВЕРОЯТНОСТЬ. ОСНОВНЫЕ ПОНЯТИЯ. СТРУКТУРА. МЕТОДЫ

Глава 1. Введение

7

§ 1. Природа случайности

7

1.1. Детерминизм и хаос

8

1.2. Непредсказуемость и случайность

8

1.3. Истоки случайности

9

1.4. Роль случайности

10

§ 2. Формализация случайности

11

2.1. Выбор из нескольких возможностей. Случайный эксперимент.

11

События

 

2.2. Частоты. Вероятность как идеальная частота

14

2.3. Определение вероятности

16

§ 3. Задачи теории вероятностей

17

3.1. Теория вероятностей и теория меры

18

3.2. Независимость

19

3.3. Асимптотическое поведение вероятностных систем

20

3.4. Вероятностный анализ

20

Глава 2. Вероятностное пространство

21

§ 1. Конечное вероятностное пространство

21

1.1. Комбинаторика

21

1.2. Условная вероятность

23

1.3. Схема Бернулли. Предельные теоремы

26

§ 2. Определение вероятностного пространства

29

2.1. σ-алгебры. Вероятность

29

2.2. Случайные величины. Математические ожидания

32

2.3. Условное математическое ожидание

34

2.4. Регулярные условные распределения

37

2.5. Пространства случайных величин. Сходимость

38

§ 3. Случайные отображения

42

3.1. Случайные элементы

42

3.2. Случайные функции

46

3.3. Случайные элементы в линейных пространствах

48

§ 4. Построение вероятностных пространств

50

4.1. Конечномерное пространство

50

4.2. Функциональные пространства

52

4.3. Линейные топологические пространства. Слабые распределения

54

4.4. Теорема Минлоса — Сазонова

56

Глава 3. Независимость

58

§ 1. Независимость σ -алгебр

58

1.1. Независимые алгебры

58

1.2. Условия независимости σ-алгебр

60

1.3. Бесконечные последовательности независимых σ-алгебр

61

1.4. Независимые случайные величины

62

§ 2. Последовательность независимых случайных величин

64

2.1. Суммы независимых случайных величин

64

2.2. Неравенство Колмогорова

66

2.3. Сходимость рядов из независимых случайных величин

68

2.4. Усиленный закон больших чисел

70

§ 3. Случайное блуждание

73

3.1. Схема восстановления

73

3.2. Возвратность

76

3.3. Лестничные функционалы

80

§ 4. Процесс с независимыми приращениями

84

4.1. Определение

84

4.2. Стохастически непрерывные процессы

86

4.3. Формула Леви

89

§ 5. Продакт-меры

93

5.1. Определение

93

5.2. Абсолютная непрерывность и сингулярность мер

94

5.3. Теорема Какутани

95

5.4. Абсолютная непрерывность гауссовских продакт-мер

97

Глава 4. Общая теория случайных процессов и функций

98

§ 1. Регулярные модификации

98

1.1. Сепарабельные случайные функции

100

1.2. Непрерывные случайные процессы

101

1.3. Процессы без разрывов второго рода

103

1.4. Марковские процессы

104

§ 2. Измеримость

105

2.1. Условие существования измеримой модификации

105

2.2. Интегрирование в среднем квадратическом

107

2.3. Разложение случайной функции в ортогональный ряд

108

§ 3. Согласованные процессы

110

3.1. Моменты остановки

111

3.2. Прогрессивная измеримость

112

3.3. Вполне измеримая и предсказуемая σ-алгебры

112

3.4. Вполне измеримые и предсказуемые процессы

114

§ 4. Мартингалы

115

4.1. Определение и простейшие свойства

115

4.2. Неравенства. Существование предела

117

4.3. Непрерывный параметр

120

§ 5. Стохастические интегралы и интегральные представления случайных

120

функций

 

5.1. Случайные меры

120

5.2. Теорема Карунена

122

5.3. Спектральное представление некоторых случайных функций

123

Глава 5. Предельные теоремы

124

§ 1. Слабая сходимость распределений

124

1.1. Слабая сходимость мер в метрических пространствах

124

1.2. Слабая компактность

127

1.3. Слабая сходимость мер в Rd

128

§ 2. Эргодическая теорема

129

2.1. Сохраняющие меру преобразования

129

2.2. Теорема Биркгофа

132

2.3. Метрическая транзитивность

135

§ 3. Центральная предельная теорема и принцип инвариантности

137

3.1. Одинаково распределенные слагаемые

138

3.2. Теорема Линдеберга

139

3.3. Теорема Донскера — Прохорова

140

Историко-библиографический комментарий

144

Литература

145

II.МАРКОВСКИЕ ПРОЦЕССЫ И ВЕРОЯТНОСТНЫЕ ПРИЛОЖЕНИЯ

ВАНАЛИЗЕ

Глава 1. Марковские процессы

148

§ 1.

Определение и общие свойства

149

 

1.1. Определение марковского процесса

149

 

1.2. Вероятность перехода

150

 

1.3. Регулярность

153

§ 2.

Чисто разрывные процессы

155

 

2.1. Определение

155

 

2.2. Уравнения Колмогорова

157

§ 3.

Диффузионные процессы

162

 

3.1. Определение диффузионного процесса

163

 

3.2. Уравнения Колмогорова

164

Глава 2. Вероятностное представление решений дифференциальных

166

уравнений с частными производными

 

§ 1. Задачи для параболического уравнения

167

1.1. Задача Коши

167

1.2. Формула Каца

169

1.3. Смешанная задача для обратного параболического уравнения

171

§ 2. Краевые задачи для эллиптических операторов

172

2.1. О моментах выхода из ограниченной области

173

2.2. Решение внутренней краевой задачи

174

§ 3. Винеровская мера и решение уравнений с оператором Лапласа

177

3.1. Винеровский процесс в Rd

177

3.2. Стохастический интеграл

180

3.3. Представление решений уравнений

185

Историко-библиографический комментарий

187

Литература

187

III. ВЕРОЯТНОСТЬ. ПРИКЛАДНЫЕ АСПЕКТЫ

 

Глава 1. Статистические методы

190

§ 1. Обработка эмпирической информации

191

1.1. Частота и вероятность

191

1.2. Эмпирическая функция распределения

194

1.3. Усиленный закон больших чисел и предельное поведение

195

эмпирических характеристик

 

1.4. Критерий согласия Колмогорова — Смирнова

196

§ 2. Проверка гипотез

198

2.1. Постановка задачи

198

2.2. Критерий Неймана — Пирсона

199

2.3. Обнаружение сигнала на фоне шума

201

§ 3. Принятие решений в условиях неопределенности

203

3.1. Постановка задачи

204

3.2. Минимаксные и байесовские решения

205

3.3. Последовательный анализ

207

Глава 2. Управляемые случайные процессы

210

§ 1. Управляемые случайные последовательности

210

1.1. Постановка задачи

211

1.2. Оптимальные и ε-оптимальные управления

213

§ 2. Управляемые цепи Маркова

218

2.1. Аддитивная стоимость управления. Уравнение Беллмана

219

2.2. Оптимальная остановка цепи Маркова

220

§ 3. Управляемые марковские процессы с непрерывным временем

224

3.1. Скачкообразные процессы

224

3.2. Управляемые диффузионные процессы

229

Глава 3. Информация

231

§ 1. Энтропия

231

1.1. Энтропия вероятностного эксперимента

231

1.2. Свойства энтропии

 

233

1.3. ε-энтропия и энтропия непрерывной случайной величины

236

1.4. Информация

 

237

§ 2. Передача информации

 

240

2.1. Канал связи

 

240

2.2. Кодирование и декодирование

 

244

§ 3. Теорема Шеннона

 

245

3.1. Простейший случай передачи информации

246

3.2. Обобщения

 

250

Глава 4. Фильтрация

 

252

§ 1. Линейный прогноз и фильтрация для стационарных случайных

252

процессов

 

 

1.1. Общий подход к построению линейной оценки случайной

252

величины

 

 

1.2. Прогноз стационарной последовательности

254

1.3. Фильтрация одной стационарной последовательности по другой

259

§ 2. Нелинейная фильтрация

 

261

2.1. Общие замечания

 

261

2.2. Задача о разладке

 

262

2.3. Фильтрация цепи Маркова

 

265

Историко-библиографический комментарий

 

269

Литература

 

269

ИМЕННОЙ УКАЗАТЕЛЬ

 

Байес (Bayes Т.) 24, 25

Кантелли (Cantelli F. P.) 62, 71, 89,

Беллман (Bellman R.) 219, 225, 226,

102, 103, 181

 

229

Карунен (Karhunen К.) 122

 

Бернулли (Bernulli J.) 19, 26, 27, 66

Кац (Кае М.) 148, 169

 

Бернштейн С. Н. 26

Клапейрон (Clapeyron В.) 11

 

Биркгоф (Birkhoff G. D.) 132

Колмогоров А. Н. 17, 18, 19, 53, 61,

Бозе (Bose S.) 22

66, 70, 88, 99, 102, 104, 144, 147,

Больцман (Boltzmann L.) 22

148, 150, 157, 160, 161, 162, 164,

Борель (Borel E.) 62, 71, 89, 102, 103,

166, 187, 196, 267

 

181

Коши (Cauchy A.) 97, 148, 167, 169,

Бохнер (Bochner S.) 49, 50, 123

183, 185

 

Бюффон (Buffon G.) 32

Лаплас (Laplace P.) 8, 29, 44, 65, 73

Винер (Wiener N.) 80

Лебег (Lebesque H.) 32, 41, 108, 180

Гихман И. И. 148

Леви (Levy P.) 85, 89, 92

 

Дирак (Dirac P.) 22

Линдеберг (Lindeberg J. W.) 139

 

Дирихле (Dirichlet P. G.) 174, 186

Ляпунов А. А. 140

 

Донскер (Donsker M.) 140

Максвелл (Maxwell J. С.) 22

 

Дуб (Doob J. L.) 100

Марков А. А. 149, 220

 

Жордан (Jordan С.) 95

Мизес (Mises R.) 16, 73

 

Ито (ltd К.) 148

Минлос Р. А. 56

 

Какутани (Kakutani S.) 95

Муавр (Moivre A.) 29, 44

 

Нейман (Neyman J.) 199

Стирлинг (Stirling J.) 29

Никодим (Nikodym D.) 18, 36, 94

Фату (Fatou P.) 97

Ньютон (Newton I.) 8

Ферми (Fermi E.) 22

Петровский И. Г. 148

Фубини (Fubini G.) 95, 105, 108

Пирсон (Pearson E. S.) 199

Фурье (Fourier J. B. J.) 148, 202, 258

Платон (Platonj 15

Хинчин А. Я. 148

Прохоров Ю. В. 140, 141

Чебышев П. Л. 38, 65, 66

Пуассон (Poisson S.) 28, 43

Чепмен (Chapman D. G.) 104, 150,

Радон (Radon J.) 18, 36, 94, 126

155, 162

Риман (Riemann В.) 107, 108

Шеннон (Shannon С.) 245, 246

Сазонов В. В. 56

Эйнштейн (Einstein A.) 22

Смирнов Н. В. 196

Яглом А. М. 257

ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ

Аддитивная стоимость управления

геометрические вероятности 31

219

гипотеза 24

аксиоматика Колмогорова 17

Декодирование 244

— Мизеса 16

дискретная случайная величина 33

Алгебра событий 14

дискретный процесс с независимыми

σ-алгебра 21, 29

приращениями 84

аналитическое множество 216

дисперсия 34

арифметическое распределение 75

диффузионный процесс 163

байесовское решение 206

доверительный интервал 193

броуновское движение 90

достаточная статистика 192

Вариационный ряд 194

Задача Бюффона 32

величина перескока 80

— Дирихле 174, 186

вероятности биномиальные 27

— Коши 167, 169, 185

— полиномиальные 27

— о разладке 262

вероятностное пространство 21

закон больших чисел 12, 65

вероятностный анализ 20

— нормальных флуктуации 20

вероятность 15

— 0 или 1 Колмогорова 61

— ошибки второго рода 198

Измеримая случайная функция 105

— — первого рода 198

измеримое отображение 42

— перехода 150

инвариантная мера 131

винеровская мера 179

интервальное оценивание 193

винеровский процесс 90, 177

Канал связи 240

возвратность 77

кодирование 244

вполне измеримое множество 112

количество информации 237

— измеримый процесс 114

конечномерные распределения 46

— непредсказуемый момент

корреляционная функция 47

остановки 112

корреляционный оператор 45

время ожидания 44

коэффициент переноса 163

Гармоническая функция 222

критерий Неймана — Пирсона 199

гауссова мера 93

— согласия Колмогорова —

— случайная функция 47

Смирнова

196 критическое множество

198

Лестничные функционалы 80 Максимальная эргодическая теорема

132

марковский процесс 104, 150 мартингал 116 математическое ожидание 34 метод Винера 80

симметризации 69 метрическая транзитивность 136 минимаксное решение 206 момент 34

восстановления 73

остановки 111

первого выхода из области 171

перескока 80 моментная функция 47

мощность правила 198 Неарифметическое распределение 76 независимость 19, 25

— алгебр 26, 58

независимые случайные элементы 63 нелинейная фильтрация 261 непрерывное распределение 33 непрерывный случайных процесс 101 неравенство Колмогорова 66

Чебышева 38, 65 неразличимые процессы 114 нерандомизированное управление

212, 215

несмещенная оценка 192 неупреждающая фильтрация 260 Обнаружение сигнала 201 однородный марковский процесс 153 оператор диффузии 163 оптимальная остановка 220

стратегия 213

ε-оптимальная стратегия 213 остаточная σ-алгебра 61 оценка 192 Плотность распределения 33

положительно определенная функция

47

поток σ-алгебр 110 предсказуемые множества 113 предсказуемый момент остановки

112

процесс 114 преобразование Лапласа 73 принцип инвариантности 141 прогрессивная измеримость 112 продакт-меры 93 произведение алгебр 26

мер 26

производящая функция 65 пропускная способность 242 процесс без разрывов второго рода

103

с независимыми приращениями 84 пуассоновский процесс 89 Равновозможность 12, 16 равномерная интегрируемость 41

плотность 126

равномерно чисто разрывный марковский процесс 155

разложение Леви 85 распределение биномиальное 43

величины 33

гауссово 44, 45

геометрическое 43

нормальное 44, 45

показательное 43

Пуассона 28, 43

равномерное 43, 45 регулярная модификация 98 решающая функция 204

Сепарабельные случайные функции

100

слабая компактность 127

сходимость мер 124

— распределений 124

слабое распределение 55 случайная величина 32

мера 120

функция 46 случайное блуждание 73 случайный вектор 44

эксперимент 12

элемент 42

события 12 согласованные конечномерные

распределения 52

процессы 110 спектральная плотность 255

функция 254

статистика 192

Бозе — Эйнштейна 22

Максвелла — Больцмана 22

Ферми — Дирака 22 стационарная последовательность

123

— в узком смысле 130 стационарный процесс 123

— эргодический 136 стоимость управления 211

стохастически непрерывный процесс

85

стохастический интеграл 121, 180 стратегия управления 212 ступенчатые управления 224 субгармоническая функция 222 субмартингал 116 супергармоническая функция 222 супермартингал 116 схема Бернулли 27

восстановления 73

сходимость по вероятности 38

почти наверное 39

с вероятностью 1 40

счетные однородные марковские процессы 162

Теорема Бернулли 19, 27

Биркгофа 132

Бореля — Кантелли 62

Бохнера 49, 123

для отношений 133

Донскера — Прохорова 140

Какутани 95

Карунена 122

Колмогорова 53, 61, 66, 102

— о трех рядах 70

Линдеберга 139

Минлоса—Сазонова 56

Муавра—Лапласа 29

Пуассона 28

Радона — Никодима 94

Чебышева 66

Шеннона 246 Тотальное множество 49 точечное оценивание 192

Управляемый диффузионный процесс 229

случайный процесс 210

— — с дискретным временем 210 уравнение Беллмана 219, 225

Колмогорова 157, 164

типа свертки на полуоси 80

Чепмена — Колмогорова 104, 150 усиленный закон больших чисел 71 условие Линдеберга 139 условия согласования 46 условная вероятность 23

условное математическое ожидание

35

Формула Байеса 24, 25

Каца 169

Леви 89, 92

полной вероятности 24

Стирлинга 29

функция восстановления 73

распределения 42

риска 204 Характеристическая функция 48

характеристический функционал 49 Центральная предельная теорема 137 центральный момент 34 цилиндрическое множество 52 Частота 15 чисто разрывный марковский

процесс 155, 159 Шаг распределения 75 элементарные исходы 13

события 13

эмпирическая дисперсия 195

— информация 191

— функция распределения 194

энтропия вероятностного

эмпирические характеристики

эксперимента 231

195

— непрерывной случайной величины

эмпирический квантиль 195

236

— момент 195 эмпирическое среднее

ε-энтропия 236

195

эргодические теоремы 20, 129