- •Препринт
- •Часть 1. Общие обзоры темы 6
- •Часть 2. Оценка вероятности глобальной катастрофы 201
- •Часть 3. Глобальные риски и новые технологии 374
- •Часть 4. Глобальные риски, связанные с природными катастрофами 545
- •Предисловие
- •Часть 1. Общие обзоры темы глобальных рисков Билл Джой. Почему мы не нужны будущему
- •Вернор Виндж. Технологическая Сингулярность
- •Ник Бостром. Угрозы существованию: Анализ сценариев человеческого вымирания и других подобных опасностей.
- •Введение
- •Типология рисков
- •Риски существованию
- •Уникальность проблемы угроз существованию
- •4. Классификация рисков существованию
- •5. Взрывы
- •5.1. Преднамеренное злоупотребление нанотехнологиями
- •5.2. Ядерный холокост
- •5.3. Мы живем в симуляции, и она выключается
- •5.5. Генетически сконструированный биологический объект
- •5.6. Ошибочное применение опасных нанотехнологий («серая слизь»).
- •5.7. Нечто непредвиденное
- •5.8. Катастрофы в результате физических экспериментов
- •5.9. Естественно возникшее заболевание
- •5.10. Столкновение с астероидом или кометой
- •5.11. Неудержимое глобальное потепление
- •6. Сужения
- •6.1. Истощение ресурсов или разрушение экологии
- •6.2. Сбившееся с курса мировое правительство или другое неподвижное социальное равновесие остановит технологический прогресс
- •6.3. Давление «вырождения»
- •6.4. Технологическая остановка
- •7. Скрипы
- •7.2. Сверхинтеллект с ошибкой
- •7.3. Глобальный репрессивный тоталитарный режим
- •7.4. Нечто непредвиденное1
- •8. Всхлипы
- •8.1. Наш потенциал и даже наши базовые ценности разъедаются развитием в ходе эволюции
- •8.2 Уничтожение внеземной цивилизацией
- •9.2 Парадокс Ферми
- •9.3 Эффекты наблюдательной селекции
- •9.4 Рассуждение о Симуляции
- •9.5 Когнитивные искажения
- •9.6 Оценка собранных данных
- •10. Рекомендации, касающиеся стратегии и этики
- •10.1. Поднимать известность проблемы рисков существованию
- •10.2 Создать структуру для международных действий
- •10.3 Сохранять готовность к превентивному действию в качестве последнего средства
- •10.4 Регулирование скорости развития технологий
- •10.5 Программы, направленные на прямое уменьшение конкретных угроз существованию
- •10.6. Максипок: эмпирическое правило для этичных поступков
- •Выражения признательности
- •Приложение: очерк эволюционного «всхлипа»
- •Библиография
- •Елиезер Юдковски. Когнитивные искажения, влияющие на оценку глобальных рисков
- •Введение
- •1. Доступность информации
- •2. Когнитивные искажения, связанная со знанием «задним числом».
- •3. Черные лебеди
- •4. Ошибочное включение лишнего элемента
- •5. Ошибочность рассуждений, вызванная эффектом подтверждения
- •6. Якорение, настройка и загрязнение
- •7. Рассуждения, обусловленные аффектом
- •8. Пренебрежение масштабом
- •9. Калибровка и сверхуверенность
- •10. Апатия прохожего
- •Последнее предупреждение
- •Заключение
- •Рекомендуемое чтение
- •Библиография
- •Дэвид Брин. Сингулярность и кошмары
- •А.А. Кононов.Идеологические начала общей теории неуничтожимости человечества
- •Угрозы уничтожения человечества
- •Неуничтожимость как главная сверхзадача цивилизации
- •Качества неуничтожимой цивилизации
- •О необходимости разработки теоретических основ решения задач неуничтожимости человечества
- •Робин Хансен. Катастрофа, социальный коллапс и человеческое вымирание
- •Алексей Турчин. Процессы с положительной обратной связью как основной механизм глобальных катастроф
- •Часть 2. Оценка вероятности глобальной катастрофы Ник Бостром1, Макс Тегмарк2. Насколько невероятна катастрофа судного дня?
- •Ник Бостром. Рассуждение о Конце Света для начинающих
- •Ник Бостром. Doomsday Argument жив и брыкается
- •Ник Бостром Доказательство симуляции
- •1.Введение
- •2. Предположение о независимости от носителя
- •3.Технологические пределы вычислений
- •4. Ядро доказательства о симуляции
- •5. Мягкий принцип равнозначности
- •6. Интепретация
- •7. Заключение
- •Введение: угрозы существованию и эффекты наблюдательной селекции
- •«Карманная» модель антропного искажения1
- •Обобщение модели
- •Антропное искажение: недооценка естественных угроз
- •Какие угрозы существованию подвержены антропной тени?
- •Антропные тени и риски физических экспериментов
- •Заключение
- •Приложение: словарь
- •Благодарности
- •Алексей Турчин. Природные катастрофы и антропный принцип
- •Введение
- •1. Антропный принцип. Эффект наблюдательной селекции. Результаты Бострома и Тегмарка
- •2. Природные катастрофы
- •3. Применение антропного принципа для анализа частоты природных катастроф
- •4. Нарушение устойчивости природных систем, находящихся на грани равновесия, в связи с человеческой деятельностью
- •5. Быстрая эволюция разума в периоды высокой интенсивности природных катастроф
- •6. Заключение
- •Приложение a. Плотность наблюдателей во вселенной, частота катастроф и антропный принцип
- •Литература:
- •Тоби Орд, Рафаела Хиллербранд, Андрес Сандберг. Проверяя непроверяемое: методологические вызовы в оценке рисков с низкой вероятностью и высокими ставками
- •Введение
- •Оценка вероятностей
- •3. Теории, модели и вычисления
- •4. Применение нашего анализа к рискам экспериментов на ускорителях
- •5. Заключение
- •Эдриан Кент. Критический обзор оценок рисков глобальных катастроф
- •Часть 3. Глобальные риски и новые технологии Eлиезер Юдковски. Искусственный интеллект как позитивный и негативный фактор глобального риска
- •1. Систематическая ошибка, связанная с антропоморфизмом
- •1.1: Широта пространства возможных устройств ума
- •2: Предсказание и устройство
- •4: Способности и мотивы
- •4.1: Процессы оптимизации
- •4.2: Наведение на цель
- •5: Дружественный ии
- •6: Техническая неудача и философская неудача
- •6.1: Пример философской ошибки
- •6.2: Пример технической неудачи
- •7: Темпы усиления интеллекта
- •8: Оборудование
- •9: Угрозы и перспективы
- •10: Локальные стратегии и стратегии большинства
- •11: Ии и усиление человеческого интеллекта
- •12: Взаимодействие ии и других технологий
- •13: Ход прогресса в области Дружественного ии
- •Роберт Фрейтас. Проблема Серой Слизи
- •Crn. Опасности молекулярного производства
- •М. Вассер, р.Фрайтас. Проект «Нанощит»
- •Алексей Карнаухов. Парниковая катастрофа.
- •Милан Чиркович, Ричард Каткарт. Гео-инженерия, пошедшая насмарку: новое частное решение парадокса Ферми
- •1. Введение
- •2. Макроинженерия и сценарий катастрофы
- •3. Миссия к центру Земли
- •4.Начало процесса вымирания
- •5.Применение сказанного к проблемам астробиологии
- •6. Культурологические и климатологические аспекты
- •7.Заключение
- •Ричард Керригэн. Следует ли обеззараживать сигналы seti?
- •А.В.Турчин. Глобальные риски, связанные с программой seti
- •1. История вопроса
- •2. Сценарий возможной атаки
- •3. Анализ возможных целей атаки
- •4. Возражения
- •П.Д. Смит. Кобальтовая бомба (отрывок из книги «Люди судного дня»)
- •Часть 4. Глобальные риски, связанные с природными катастрофами Владислав Пустынский. Последствия падения на Землю крупных астероидов
- •Уильям Нейпьер. Опасность комет и астероидов
- •1. Нечто вроде огромной горы
- •2.Как часто по нам бьют?
- •2.1 Ударные кратеры
- •2.2. Поиск околоземных объектов
- •2.3. Динамический анализ
- •3. Эффекты столкновения
- •4. Роль пыли
- •5. Наземная проверка?
- •6. Неопределённости
- •Майкл Рампино. Супервулканизм и другие катастрофические геофизические процессы
- •3. Вулканическая зима
- •4. Возможные последствия сверхизвержения для окружающей среды
- •5. Сверх-извержения и человеческая популяция
- •6. Частота сверхизвержений
- •7. Влияние сверхизвержения на цивилизацию
- •8. Сверхизвержения и жизнь во Вселенной
- •Арнон Дар. Влияние сверхновых, гамма-всплесков, солнечных вспышек и космических лучей на земную окружающую среду
- •1. Введение
- •2. Радиационные угрозы
- •2.1 Достоверные угрозы
- •2.2. Солнечные вспышки
- •2.3. Солнечная активность и глобальное потепление
- •2.4 Вымирание в результате солнечной активности
- •2.5 Излучение от взрывов сверхновых
- •2.6 Гамма-всплески
- •3. Угрозы от космических лучей.
- •3.1 Изменения магнитного поля Земли
- •3.2 Солнечная активность, космические лучи и глобальное потепление
- •3.3 Прохождение через галактические спиральные рукава
- •3.4 Космические лучи от недалёкой сверхновой
- •3.5. Космические лучи от гамма-всплесков.
- •4. Причины крупнейших массовых вымираний
- •5. Парадокс Ферми и массовые вымирания
4. Возможные последствия сверхизвержения для окружающей среды
Воздействие сверхизвержения Тоба на климат и окружающую среду, возможно, настолько превосходят воздействия от недавних исторически известных извержений (e.g., Hansen et al., 1992; Stothers, 1996), что нельзя использовать эти исторические свидетельства и климатические модели этих извержений в качестве уменьшенных аналогий уникальных событий в Тоба (Rampino and Self, 1993a; Rampino et al., 1988). Различные исследования резких изменений прозрачности атмосферы и влияния охлаждения климата на окружающую среду и жизнь выполнялись, однако, в связи с исследованиями ядерной зимы и влияния падений астероидов на Землю. (e.g., Green et al., 1985; Harwell, 1984; Tinus and Roddy, 1990), и некоторые из них могут быть релевантны и в случае извержения Тобы.
Два важнейших эффекта на растительность в результате снижения прозрачности атмосферы – это уменьшение уровня овещённости и снижение температуры. Снижение уровней освещённости, ожидаемое в результате извержения Тобы, имеет разброс от потускнения Солнца (~75% солнечного света поступает), как это имело место после извержения Тамборы 1815, до уровней пасмурного дня (~10% солнечного света поступает). Эксперименты с молодой травой показали, что при падении уровня освещённости до 10%, фотосинтез падает на 85% (van Kuelan et al., 1975), и фотосинтез также падает при снижении температуры (Redman, 1974).
Сопротивляемость растений к необычным холодам значительно различается. Условия в тропических зонах наиболее релевантны по отношению ранним человеческим популяциям в Африке. Тропические леса очень уязвимы к заморозкам, и Harwell и др. (1985) утверждают, что заморозки в вечнозелёных тропических лесах быстро приводят к гибели всех наземных тканей растений.
Средние приземные температуры в тропиках в настоящий момент имеют разброс 16-24°C. Сценарии ядерной зимы предполагают длительное снижение температуры на 3-7°C градусов в экваториальной Африке и кратковременное падение температуры вплоть до 10 градусов. Многие тропические растения серьёзно повреждаются при охлаждении ниже 10-15°C на несколько дней (Greene et al., 1985; Leavitt, 1980). Большинство тропических лесов имеют ограниченный запас семян, и у семян обычно отсутствует спящая фаза. Более того, возрождение леса склонно порождать леса ограниченного разнообразия, способные поддерживать меньшее количество биомассы. (Harwell et al., 1985).
Даже для лесов умеренного пояса, разрушения могут быть очень значительными (Harwell, 1984; Harwell et al., 1985). В целом, способность хорошо адаптированных деревьев выдерживать низкие температуры (устойчивость к холоду) гораздо больше, чем требуется в любой конкретный момент в году, но леса могут быть сильно повреждены необычными или продолжительными низкими температурами в определённые периоды года.
Моделирование падения температуры зимой на 10°С показывает незначительный эффект для хладостойких и спящих деревьев, в то время как подобное же падение температуры на 10°C в период роста (когда устойчивость к холодам ослабевает) приводит к 50% вымиранию и серьёзным повреждениям выживших деревьев, что приводит к потере по крайней мере одного года роста.
Ситуация с лесами, периодически сбрасывающими листву, будет даже ещё хуже, чем с вечнозелёными, поскольку вся их полностью новая листва будет в силу этого потеряна. Например, Larcher и Bauer (1981) определили, что нижние границы для фотосинтеза для различных растений умеренной зоны составляют от -1.3 до -3.9°C, что находится в тех же пределах, как и температуры замерзания тканей для этих же растений. При отсутствии адекватных запасов пищи, большинство деревьев леса умеренного пояса не смогут подготовится к холодам вовремя, и погибнут или испытают дополнительные повреждения во время ранних заморозков осенью (Tinus and Roddy, 1990).
Оценить влияние суперизвержения Тобы на океаны гораздо труднее. В региональных рамках, эффекты от выпадения 4 гр./кв.см. пепла Тобы на площади 5 млн. кв. км. Индийского океана должен быть значительным. Скорость отложения азота, углерода и СаСОз резко возросла в первых нескольких сантиметрах слоя пепла Тобы, указывая на то, что выпадение пепла вычистило водную колонну от большинства взвешенных (parriculate) органических соединений и карбонатов кальция (Gilmour et al., 1990).
Другой возможный эффект плотного аэрозольного облака – это снижение продуктивности океана. Например, спутниковые наблюдения после извержения El Chichon 1982 показали повышенную концентрацию аэрозолей над Арабским морем, и эти значения коррелировали со снижением поверхностной продуктивности (проявлявшейся через концентрацию планктона) с мая по октябрь этого года (Strong, 1993). Brock and McClain (1992) предположили, что пониженная продуктивность была связана с более слабыми, чем обычно, муссонными ветрами, и независимые свидетельства говорят о том, что юго-западный муссон начался позже и закончился раньше в том году, и что движимое ветром Сомалийское течение было анормально слабым. Наоборот, Genin и др. (1995) сообщает об увеличении вертикального перемешивания охлаждённых поверхностных вод в слабо стратифицированных областях Красного моря после извержения Пинатубо, что привело к буму роста водорослей и фитопланктона и последовавшей за этим обширной гибели кораллов.
Исследования, последовавшие за извержением Пинатубо 1991, показывают, что вызванное аэрозолями охлаждение юго-западных областей Тихого океана могло привести к значительному ослаблению ячеек Гадли и снижению выпадения осадков, и могло быть причиной долговременных аномалий в духе Эль Ниньо, которые привели к значительным засухам в тропических областях (Gagan and Chivas, 1995). Некоторые климатические модели предполагают значительные засухи в тропических областях в результате ослабления пассатов/циркуляции Гадли, и в результате ослабления силы летних муссонов. (e.g., Pittock et al., 1986, 1989; Turco et al., 1990). Например, Pittock и др. (1989) представили результаты моделирования, которые показывают 50% снижение осадков в тропических и муссонных регионах.