Глава 19. События, изменяющие вероятность глобальной катастрофы

19.1 Определение и общие соображения

Будем называть глобальным риском второго рода любое событие, которое значительно повышает вероятность вымирания человечества. Сочетание таких событий создаёт окно уязвимости. Исторически известно, что вымерло 99 % видов живых существ, живших на Земле, и сейчас каждый день продолжают вымирать виды. Очевидно, что вымирание этих видов произошло без применения сверхтехнологий. Наиболее знамениты вымирания динозавров и неандертальцев. Среди причин вымирания, по мнению палеонтологов, в первую очередь стоят изменения экологической ситуации – то есть разрушение пищевых цепочек и появление конкурентов, тогда как природные катаклизмы выступают только спусковым событием, добивающим ослабшие виды. От астероида вымерли именно динозавры, ибо именно на них давили мелкие хищники-млекопитающие, питающиеся молодняком и яйцами. От последнего оледенения вымерли именно неандертальцы, так как им противостояли более организованные Homo Sapiens. Всё же трудно использовать гипотезы о прошлых вымираниях для обоснования последующих, так как тут много неясного. Однако в качестве более достоверного примера можно взять случаи гибели традиционных обществ и культур. Например, русское крестьянство как особая социокультурная общность, каковой оно было в XIX веке, исчезло целиком и безвозвратно (если не сказать вымерло) в процессе урбанизации и коллективизации – притом что исторически оно могло противостоять и войнам, и эпидемиям. Но его погубили новые возможности, которые дала городская цивилизация и новая экономическая ситуация. Аналогична судьба австралийских аборигенов и других сообществ, столкнувшихся с более технически оснащённой и развитой цивилизацией. То есть отдельные люди живы, они могут сохранять воспоминания, а от культуры остались только фольклорные ансамбли. Это можно описать и на примере отдельного существа. Когда организм болеет, уязвимость его к любым внешним толчкам (или обострениям самой болезни) возрастает. Таким образом, мы можем представить себе следующий двухфазный сценарий:

1. Вначале из-за крупной катастрофы население земли резко сократилось, производство и наука деградировали. Назовём это пространство «постапокалиптическим миром». В кино или литературе такой мир описывается обычно как возникающий после ядерной войны (фаза гибели цивилизации, но не людей).

2. Уцелевшие люди, оставшиеся в этом мире, оказываются гораздо уязвимее к любым рискам, вроде падения небольшого астероида, исчерпания ресурсов, извержения вулканов. Более того, они вынуждены бороться с последствиями цивилизационной катастрофы и опасными остатками от цивилизации – заражением, исчерпанием ресурсов, утратой навыков, генетической деградацией, наличием опасного оружия или опасных процессов, начавшихся при цивилизации (необратимое потепление).

Из этого следует несколько выводов:

А) Двухфазные сценарии заставляют нас рассматривать как опасные те риски, которые мы ранее отбросили, как не могущие погубить цивилизацию.

Б) в некотором смысле двухфазный сценарий подобен нелинейной интерференции, но здесь стыковка происходит во времени, причём важен порядок событий.

В) двухфазный сценарий может стать и трёх- и более фазным, где каждая следующая фаза деградации делает человечество уязвимым к следующим формам риска.

Г) при этом может и не быть прямой связи между первой и второй катастрофами. Например, попасть в постапокалиптический мир люди могут в силу ядерной войны, а вымереть – от извержения супервулкана. Но точно также они могли бы попасть в это состояние уязвимости к супервулкану из-за эпидемии или экономического спада.

Д) рассмотрение многофазных сценариев носит принципиально вероятностный характер. Эпоху слабости человечества, когда оно уязвимо, можно назвать окном уязвимости, которое характеризуется плотностью вероятности и продолжительностью. Это означает то, что такое окно уязвимости конечно во времени. Сейчас мы живём в эпоху окна уязвимости к сверхтехнологиям.

19.2 События, которые могут открыть окно уязвимости

К этому классу относятся два типа событий. Первые – это события, которые неизбежно наступят в XXI веке, исходя из общепринятых представлений о развитии потребления и технологий. Вопрос в том только, когда это произойдёт (каждое из этих мнений разделяется не всеми специалистами, однако опирается на предположение, что никаких принципиально новых технологий не возникнет):

1. Исчерпание нефти.

2. Исчерпание продовольствия, вызванное потеплением, засухами, перенаселением, опустыниванием, переходом автомобилей на биотопливо.

3. Исчерпание водных ресурсов.

4. Крах мировой финансовой пирамиды долгов и обязательств.

5. Любые другие факторы, постепенно, но необратимо делающие среду непригодной для обитания (глобальное потепление, оледенение, загрязнение).

Ко второму типу относятся события, которые могут произойти, а могут и не произойти с определённой вероятностью. Это не делает их более безопасными, поскольку любая погодовая вероятность означает «период полураспада» – то есть время, за которое это событие скорее всего случится, и это время может быть меньше, чем время созревания неизбежных событий, вроде исчерпания некоторых ресурсов.

1. Крупный теракт, масштаба взрыва атомной бомбы в большом городе.

2. Крупная природная или техногенная катастрофа, способная затронуть значительную часть населения земного шара, – пока таких катастроф не происходило. Самый близкий пример – авария на Чернобыльской АЭС, которая привела к отказу от строительства атомных станций в мире и к энергетическому голоду сейчас, а также была важным фактором краха СССР.

3. Любой из пунктов, которые мы перечислили в качестве возможной причины глобальной катастрофы, но взятый в ослабленном масштабе. Например, эпидемия искусственного вируса, падение астероида, радиоактивное заражение и т. д.

Следующие фазы разрастания окна уязвимости включают в себя мировую войну, разработку и применение оружия судного дня.

19.3 Системные кризисы

Возможно ли, чтобы глобальная катастрофа произошла не по той довольно очевидной схеме, которую мы описали выше? То есть не зародившись в одной точке в конкретный момент времени и обойдя из неё весь мир? Да, такое возможно в случае системного кризиса. Обычно системный кризис не может истребить всё население, но, безусловно, он может быть глобальной катастрофой второго рода. Тем не менее есть модели, где системный кризис истребляет всю популяцию.

Простейшей такой моделью является экологическая система хищник-жертва, например, волки и лоси на неком острове. В такой системе, в том случае, если число хищников превысило некое критическое значение X, они съедают всех лосей до конца, после этого они обречены на вымирание, в процессе которого они будут питаться только друг другом. В природе есть защита от таких ситуаций на уровне разнообразных обратных связей в системах биоценозов. Известные примеры – олени и трава на канадском острове – на остров выпустили оленей, они расплодились, за десятилетия съели всю траву и стали вымирать. Похожая, но более сложная ситуация сложилась на острове Пасхи с участием людей. Полинезийцы, появившиеся на острове примерно в VIII веке н.э., создали развитое общество, которое, однако, постепенно сводило леса, используя, в частности, деревья для транспортировки знаменитых статуй. Утрата леса приводила к снижению доступного количества продовольствия. В конечном счёте, леса были сведены полностью, а общество значительно деградировало, численность его сократилась с 20 000 до 2 000 человек (но всё же не вымерло). Именно в этот момент остров был открыт европейцами. Наиболее чистый пример – размножение дрожжей в закупоренной бутылке, которое происходит по экспоненте, а затем все они до единого вымирают из-за отравления продуктом собственной жизнедеятельности – спиртом. Или, например, коллапс ядра сверхновой звезды: он происходит не зависимо от поведения любого одного атома или даже большей части звезды, а в зависимости только от суммарной массы.

Итак, иногда системный кризис способен «провести популяцию через ноль», то есть убить всех особей. При этом системный кризис не начинается в какой-то момент и в какой-то точке. Нельзя сказать, что если бы какого-то одного волка не было или на одного лося было бы больше, то что-либо изменилось. То есть системный кризис не зависит от поведения никакого одного конкретного элемента. Точно также трудно сказать, когда системный кризис стал необратимым. Соответственно, поэтому трудно ему противостоять, так как некуда приложить свои усилия.

Разработка современных технологий также не происходит в одной точке. Ни один человек не может существенно её ускорить или замедлить.

Система подходит к системному кризису вся целиком. Интересно оценить, каковы шансы сохранения элементов при распаде их системы, иначе говоря, выживания людей при гибели цивилизации. Можно показать, что чем сильнее взаимосвязи в системе, тем вероятнее, что крах системы будет означать гибель всех её элементов без исключения. Если истребить 99,999 % культуры бактерий, то оставшихся нескольких экземпляров хватит, чтобы целиком восстановить численность и свойства этой бактериальной культуры. Если срубить дерево, то из пня вырастут побеги, и оно целиком, в конечном счёте, восстановит свою функциональность. Но если повредить даже небольшую часть жизненноважных органов человека, особенно его мозг, то он умрёт весь разом и навсегда до самой последней клетки, коих сотни триллионов – трудно уничтожить штамм бактерий с такой эффективностью. Также и технологическая цивилизация – достигнув определённого уровня сложности, она потом не может безболезненно регрессировать на предыдущий уровень, просто сократив технологии и население, а имеет шанс обрушиться целиком, в ноль. (Теперь для нас становится событием отключение электричества на несколько часов, при этом могут погибнуть люди. А немногим более ста лет назад электричество применялось только в редких экспериментах. Многие современные сооружения не могут существовать без непрерывного подвода энергии: шахты могут быть затоплены, ажурные конструкции торговых центров могут разрушиться без уборки снега и отопления и т д.)

Чем системнее некая структура, тем в большей степени её свойства определяются характером взаимного расположения и взаимодействия элементов, а не самими элементами. И тем большую роль в ней играет управление по сравнению с физической силой. Если бы вдруг всех людей в мире «перетасовать» в пространстве, закинув каждого на другой континент, то это означало бы гибель современной цивилизации, хотя каждый отдельный человек был бы жив. Также если разрезать тонким ножом некое животное на несколько частей, то почти все отдельные клетки будут ещё живы, а животное в целом – мертво.

Чем сложнее система, тем сильнее в ней долгосрочные последствия катастрофы по сравнению с краткосрочными. То есть система обладает свойством усиления малых событий – конечно, не всех, а тех, которые попали в «фокус её внимания». Достаточно крупные катастрофы обычно попадают в этот «фокус внимания», поскольку перехлёстывают через порог устойчивости системы. Например, в случае Чернобыльской аварии наиболее долгосрочными последствиями стали распад СССР и долгий период застоя в атомной энергетике, в результате чего мир сейчас испытывает энергетический голод. В ходе терактов 11 сентября были разрушены здания исходной стоимостью в 1-3 миллиарда долларов, но ущерб экономике составил 100 млрд. Эти теракты привели к надуванию пузыря на рынке недвижимости (за счёт низкой ставки для стимулирования экономики) в триллионы долларов и к войне в Ираке, на которую потратили около 1,4 триллионов долларов. Более того, основной ущерб ещё впереди, так как вывод войск из Ирака и кризис на рынке недвижимости нанесут имиджевый, политический и экономический ущерб на многие триллионы долларов. (Плюс, например, то, что раненных из Ирака придётся лечить десятилетиями, и на это надо выделять триллионы долларов.) Похожую логику событий и их последствий описал Л.Н. Толстой в романе «Война и мир», проследив, как последствия ущерба, который потерпела французская армия под Бородино, нарастали в последующей цепочке событий – пожар в Москве, потеря армии на Березине, крах империи. При этом информационные, то есть связанные с организацией взаимодействия и управления, составляющие ущерба во всех этих случаях превышали физическую. Эти события спровоцировали цепочку неправильных решений и разрушили структуру управления – то есть структуру будущего. Можно сказать и иначе: достаточно большое событие может перекинуть систему в другое русло, которое медленно, но необратимо расходится с прежним.

Обсудим теперь различные виды системных кризисов, которые бывают в природе, чтобы посмотреть, какие из них могут иметь отношение к современной цивилизации.

1. Избыток хищников – этот пример мы уже обсуждали выше на примере волков и лосей.

2. Пример из экономики – великая депрессия. Замкнутый цикл сокращения производства – увольнений – падения спроса – сокращения производства. Цикл, который сам по себе устроен так, что должен пройти через ноль, и только внеэкономические события, вроде войны и экспроприации золота, смогли его разорвать.

3. Другим примером самовоспроизводящейся цивилизационной структуры является гонка вооружений. Она побуждает создавать всё большие арсеналы всё более опасного оружия и держать их в высокой степени боеготовности. Кроме того, она втягивает в себя всё новые государства и стимулирует разработки опасных технологий. Иначе говоря, есть определённые структурные ситуации в самой цивилизации, которые опаснее оружия массового поражения. Эти структуры характеризуются тем, что воспроизводят себя на каждом этапе в увеличивающемся объёме и продолжают действовать при любом истощении ресурсов цивилизации.

4. Стратегическая нестабильность: кто ударит первым, тот выигрывает. Плюс ситуации, когда имеющий преимущество должен атаковать перед угрозой его утраты.

5. Эскалация раскола в обществе, которая приводит ко всё более открытой и напряжённой борьбе, всё большей поляризации социума, члены которого вынуждены выбирать, на чьей они стороне. (Например, противостояние ФАТХ и ХАМАС в Палестине.)

6. Структурный кризис информационной прозрачности, возникающий, когда все всё знают. (Как в фильме «Особое мнение», где способность экстрасенсов предсказывать будущее приводит к возникновению войны.) В одной книге по военной стратегии описывалась следующая ситуация: если один из двух противников не знает, в каком состоянии другой, он находятся в покое. А если один знает, что другой начал выдвигать войска, это провоцирует его начать делать то же самое; если он знает, что противник не выдвигает войска, это также провоцирует его напасть первым. Другими словами информационная прозрачность бесконечно ускоряет обратные связи между противоборствующими сторонами, в результате чего становятся возможны быстрые процессы с положительной обратной связью. А шпионские нанороботы сделают мир информационно прозрачным – и с большой скоростью.

7. Структурный кризис взаимного недоверия, например, в духе борьбы с врагами народа, когда все начинают видеть друг в друге врагов и истреблять кажущихся врагов, что приводит к самоусилению поиска врагов и мести за ложные обвинения. Кстати, кровная месть – тоже структурный кризис, который может разрушать сообщества. Кризис взаимного недоверия бывает и в экономике, приводя к бегству клиентов из банков, росту ставок по кредитам, и тоже является самоусиливающимся процессом. Кредитный кризис, начавшийся в мире в августе 2007 года в значительной степени связан с утратой доверия всех банков и финансовых институтов друг к другу в связи с неизвестными запасами плохих ипотечных бумаг, потери от которых «всплывали как трупы в реке» в самых неожиданных местах, по словам американского экономиста Н. Рубини.

8. Модель поведения, состоящая в уничтожении других с целью решить проблему. (Например: условные «американцы» хотят уничтожить всех «террористов», а «террористы» – всех «американцев».) Но это только путь к разрастанию конфликта – и к распространению этой модели. Это как дилемма заключённого. Если обе стороны решатся на мир, то обе выиграют, но если только одна, то более «добрая» проиграет. Иначе говоря, патологическая самоорганизация может происходить даже тогда, когда большинство против неё. например, в начале гонки вооружений уже было понятно, что это такое, и прогноз её развития был опубликован, однако не помешал самому процессу.

9. Экономический кризис, связанный с эффектом обратной связи между предсказаниями и поведением объекта наблюдения, который делает этот объект абсолютно непредсказуемым, – что имеет место при спекуляциях на рынке [Сорос 1999]. Эта непредсказуемость отражается в появлении самых невероятных трендов, среди которых могут быть и катастрофические. Создаётся впечатление, что тренды выискивают новые катастрофические режимы, чтобы их нельзя было предсказать. (Доказывается это так: если бы рынки были предсказуемы, каждый бы мог на них наживаться. Но все не могут получить прибыль от спекуляций, так как это игра с нулевой суммой. Следовательно, поведение рынков будет сложнее, чем системы предсказания их. Иначе говоря, возникает ситуация «динамического хаоса».) В военном противостоянии вести себя непредсказуемым образом тоже оказывается иногда более выгодным, чем вести себя наиболее эффективным образом, ибо эффективный путь легко просчитывается.

10. Другой вариант экономического структурного кризиса – бесконечное откладывание рецессии путём накачки экономики деньгами – может пройти точку необратимости, когда мягко выйти из этого процесса невозможно. Это описывается в теории кредитных циклов Х. Мински [Розмаинский 2009]. Мински делит должников на три категории: добросовестных; на тех, кто может зарабатывать на выплату процентов, но не основной массы долга и поэтому вынуждены растягивать его навечно; и на тех, кто вынужден занимать новые кредиты, чтобы выплачивать по старым, что похоже на финансовую пирамиду (схема ponzi или МММ). Первая категория заёмщиков свободна, и может целиком выплатить долг. Вторая группа заёмщиков вынуждена выплачивать долг вечно и не может выйти из этого состояния, но способна обслуживать свой долг. Третья категория вынуждена непрерывно расширять свои операции и всё равно обанкротится в течение конечного промежутка времени.

Мински показывает, что возникновение всех трёх типов заёмщиков и постепенное увеличение доли заёмщиков третьего типа является естественным процессом в капиталистической экономике периода бума. Современная экономика, во главе со своим локомотивом – США, находится где-то между вторым и третьим типом. Объём разного вида долгов, созданных только внутри США, имеет, по некоторым оценкам, порядок 100 триллионов долларов (сюда входит 7 трлн. государственного долга, 14 трлн. по ипотеке, долги населения за кредитные карты, образование, машины, долговые обязательства корпораций, а также обязательства правительства США по медицинскому обслуживанию пенсионеров (Medicare). При этом объём ВВП США – порядка 13 трлн. долларов в год. Понятно, что все эти деньги нужно выплатить не завтра, а они распределены по ближайшим 30 годам и между разными субъектами, которые сложным образом собираются использовать поступления по одним долгам для оплаты других.) Сам по себе долг не есть дьявол – он, скорее, описывает, кто, что и когда будет делать и получать. Иначе говоря, это финансовая машина планирования будущего. Однако когда она переходит на третий режим, она включает механизм саморазрушения, которое тем сильнее, чем оно позже происходит.

Мнения о том, действительно ли мировая экономика развивается благодаря всемирной финансовой пирамиде, или нет, разнятся. Миллиардер Уоррен Баффет назвал дериваты (многоступенчатые долги) финансовым оружием массового поражения. Опасная тенденция состоит также в том, что можно подумать, что эта системная проблема с долгами относится только к США как к стране: на самом деле, она относится ко всей мировой экономике. Ущерб от Великой депрессии 1929 года вдвое превышал ущерб США от Второй мировой войны и распространился, как вирус «испанки» 10 годами ранее, по всем континентам, ударив по Европе сильнее, чем по Штатам. Великий кризис 1929 года был крупнейшим мировым системным кризисом вплоть до распада СССР. Основная его сложность была в том, что люди не понимали, что происходит. Почему, если есть люди, желающие работать, и есть голодные, требующие пищи, – еда дешевеет, а никто её купить не может, и фермеры разоряются? И власти сжигали излишки еды – не потому, что они были злодеи или идиоты, а потому что они просто не понимали, как заставить систему работать. Надо отметить, что и сейчас есть разные точки зрения о причинах Великой Депрессии и особенно о том, какие меры были бы правильными и почему она, наконец, закончилась. Тотальное самоподдерживающееся непонимание является важной частью системного кризиса. Мински предлагает увеличить роль государства как заёмщика на крайний случай, чтобы уменьшить циклические колебания капиталистической экономики. И это уже сработало в кризисах 1975, 1982 и начала 90-х годов. Но в этом заключена новая опасность, которая состоит в том, что банки, которые каждый раз выкупают, становятся всё более безрассудными в накоплении долгов, так как уверены, что государство спасёт их от банкротства и на этот раз. Кроме того, их подводят статистические модели: чем дольше не было экономической депрессии, тем дольше её и не будет по статистическим моделям, тогда как по структурным моделям, чем дольше не было спада, тем большим он будет в дальнейшим. Кредитный цикл Мински связан в первую очередь с излишним инвестированием, а закон Мура, как мы знаем, во многом опирается на избыточное инвестирование в рамках «венчурного инвестирования». Поэтому спад мировой экономики нанесёт сильнейший удар по закону Мура.

11. Кризисы, связанные с непредсказуемыми процессами в сверхсложных системах. Имеет место общая тенденция к нарастанию сложности человеческой цивилизации, которая создаёт возможность для быстроразвивающихся непредсказуемых коллапсов. (Подобно тому, как самолёт в Перу разбился, потому что персонал в аэропорту заклеил датчик скорости скотчем, и он выдал ошибку, а команда решила, что это сбой компьютера, и когда компьютер выдал сигнал о близости земли, ему не поверили, и самолет упал в море.) Или ошибочного срабатывания систем оповещения о ядерном ударе. Если раньше основной причиной катастроф были «непреодолимые силы природы» (например, буря), то к XX веку они были вытеснены в качестве основной причины – человеческим фактором (то есть вполне конкретной ошибкой на стадии проектирования, настройки или управления). Однако к концу XX века сложность технических и социальных сетей оказалась настолько велика, что сбои в их работе стали не локальными, а системными (по сценариям, обнаружение которых было невычислимо сложной задачей для проектировщиков). Примером тому является Чернобыльская катастрофа, где персонал следовал инструкции, но таким образом, каким никто из составителей не ожидал и не мог предположить. В результате каждый действовал правильно, а в сумме система не сработала. То есть причиной катастрофы стала сверхсложность системы, а не конкретная ошибка конкретного человека. Об этом же говорится в теории нормальных аварий Перроу [Perrow 1999]: катастрофы являются естественным свойством сверхсложных систем. Исследованием таких систем занимается теория хаоса. Теория хаоса предполагает, что сложная система с большим количеством решающих факторов может двигаться по странному аттрактору – то есть по пути, в котором есть внезапные переходы на катастрофический режим. Выражением этой идеи является теория «нормальной аварии» [Perrow 1999], которая гласит, что невозможно создать абсолютно безаварийную систему, даже если нанять идеальных сотрудников, поставить абсолютно исправное оборудование и т. д. Нормальные аварии являются естественным свойством сложных систем, которые отвечают двум критериям: сложности устройства и степени взаимосвязанности частей.

12. Классическое противоречие между производственными силами и производственными отношениями, примером чему является текущая ситуация в мире, с его основным противоречием между множеством обладающих национальными армиями стран и единством мировой экономики.

13. Самовоспроизводящаяся дезорганизация (парад суверенитетов в истории СССР).

14. Самоподдерживающаяся моральная деградация (крах Римской империи).

15. Эффект домино.

16. «Естественный» отбор краткосрочных выгод вместо долгосрочных. (Маркс: более эффективные эксплуататоры вытесняют «добрых».)

17. Тенденция к концентрации власти в руках одного человека. (Все революции кончали диктатурой.) Встав однажды на путь авторитарного правления, диктатор вынужден идти на абсолютизацию своего режима, чтобы его не свергли.

18. Лавина реформ (Маккиавелли: малые изменения прокладывают путь к большим изменениям. Пример: эпоха перестройки).

19. Кризис нарастающего неверия – нарастания лжи и информационного шума (выгода вместо достоверности, пиар вместо истины, шум вместо речи – кризис утраты доверия, когда чем больше некий человек не доверяет, тем больше врёт сам, зная, что от него ждут того же). Если критерий истины – эксперимент, результат эксперимента – новая технология, а её ценность – это деньги, то постепенно промежуточные ступени опускаются.

20. Самоорганизованная критичность. Модель с кучей песка, на которой падают по одной песчинки и по которой сходят лавины, в результате чего устанавливается некоторый средний уровень наклона, является примером так называемой самоорганизованной критичности. Эту модель можно сопоставить с плотностью катастроф в какой-либо сфере человеческой деятельности. Если в ней происходит слишком много катастроф, то она привлекает больше внимания, и в эту область вкладывается больше ресурсов по обеспечению мер безопасности; в это время другие области недополучают внимание и в них риск возникновения катастроф возрастает. В результате мы получаем мир, в котором плотность катастроф распределена достаточно равномерно по всем видам деятельности. Однако математическое свойство систем с самоорганизованнной критичностью состоит в том, что в них могут возникать лавины неограниченно большой величины. Самоорганизованная критичность возникает тогда, когда концентрация неустойчивых элементов достигает некого порогового уровня, так что они начинают устанавливать связи друг с другом и создавать свою собственную подсистему, пронизывающую исходную систему. Поскольку число сценариев и сценарных факторов, которые могут привести к глобальной катастрофе, огромно, и оно постоянно растёт, то шансы подобной самоорганизации возрастают. Можно сказать и по-другому: катастрофический процесс возникает, когда оказываются исчерпанными собственные способности системы к сохранению гомеостаза. Однако сам катастрофический процесс, возникнув, тоже является своего рода системой и тоже обладает своим гомеостазом и устойчивостью, о чём хорошо пишет С.Б. Переслегин применительно к теории военной операции. Это превращает катастрофический процесс в самоподдерживающееся явление, способное переходить с одного уровня на другой. Риск цепной реакции катастрофических явлений особенно возрастает от того, что есть люди – террористы, – которые тщательно выискивают разные скрытые уязвимости и хотят их использовать.

21. Кризис, связанный со стремлением избавиться от кризисов. (Например, чем сильнее израильтяне хотят избавиться от палестинцев, тем сильнее палестинцы хотят уничтожить израильтян.) Особенность этого кризиса связана как раз с пониманием кризисности ситуации, в отличие от предыдущих кризисов. Однако часто это не приводит к улучшению ситуации. В связи с этим можно вспомнить закон Мерфи: если долго исследовать некую проблему, то, в конце концов, обнаруживаешь, что сам являешься её частью.

Структурные кризисы малопонятны людям, ибо их ум приучен мыслить в категориях объектов и субъектов действий. В силу этого, чем больше они думают о таком кризисе и пытаются справиться с ним, например, истребив одну из сторон конфликта, тем больше кризис разрастается. Структурные кризисы вызывают ощущение недоумения и поиски скрытого врага (который бы и стал тем объектом, который порождает кризис). Например, поэтому удобнее думать, что СССР развалило ЦРУ. Примерами системного кризиса в человеческом организме является старение и ожирение. Далее возможны более сложные структурные кризисы, которые пока неочевидны.

19.4 Кризис кризисов

В современном мире присутствуют все названные виды кризисов, но в целом система остаётся стабильной, потому что силы эти «тянут в разные стороны». (Например, свойственная авторитаризму тенденция к расколам – СССР и Китай, сунниты и шииты, Сталин и Троцкий – которая создаёт кризис типа трещины и уравновешивает однополярную кристаллизацию.) То есть отдельные процессы уравновешивают друг друга: авторитаризм – дезорганизацию и т д. Кроме того, действует гомеостаз в духе принципа Ле Шателье-Брауна. (Этот принцип устанавливает, что внешнее воздействие, выводящее систему из состояния термодинамического равновесия, в котором она находится, вызывает в системе процессы, стремящиеся ослабить эффект воздействия.)

Опасно, однако, если все эти отдельные кризисы самоорганизуются и возникнет некий «кризис кризисов». Системы стремятся удерживаться в равновесии, но при достаточно сильном точке переходят в равновесное состояние движения, иначе говоря, в новую систему процесса разрушения, которая тоже обладает своей устойчивостью. Пример из обычной жизни: для того, чтобы выйти из дома, надо приложить иногда некое усилие, чтобы «раскачаться», однако когда процесс путешествия пошёл, он уже обладает собственной динамикой, инерцией и структурой.

В настоящий момент все кризисные проявления в человеческом развитии сорганизованы так, чтобы удерживать человечество в русле постепенного экономического, научно-технического и популяционного роста. В случае кризиса кризисов все те же факторы могут сорганизоваться так, чтобы непрерывно работать на уничтожение человеческой цивилизации.

Свойства «кризиса кризисов»: его невозможно понять, потому что, начав о нём думать, втягиваешься в него и усиливаешь его (так работает, скажем, арабо-израильский конфликт). И потому что его понимание не имеет никакой ценности из-за плотного информационного шума. Потому что, на самом деле, он сложнее, чем может понять один человек, но имеет ряд очевидных неверных упрощённых пониманий. (Закон Мёрфи: «любая сложная проблема имеет простое, очевидное и неверное решение».)

Элементами кризиса кризисов являются не события и взаимодействия в мире, а кризисы более низкого порядка, которые структурируются не без помощи человеческого интеллекта. И особенно важную роль здесь играет понимание того, что сейчас происходит кризис. Понимание, которое ведёт, по крайней мере, к двум моделям поведения – или к стремлению поскорее избавиться от кризиса, или к стремлению кризисом воспользоваться. Обе эти модели поведения могут только усиливать кризис. Хотя бы потому, что у разных сторон в конфликте – разные идеи о том, как закончить кризис и как получить выгоду от него.

Поскольку понимание кризиса отдельными игроками – часть кризиса, то этот кризис будет сложнее любого понимания его. Даже когда он закончится, понимания того, что же с нами произошло, – не будет. Именно поэтому так много разных мнений и дискуссий о том, что же произошло в 1941 году или «почему распался СССР».

Ещё одной метафорой «кризиса кризисов» является следующее рассуждение, которое я слышал относительно финансовых рынков. Есть большая разница между кризисом на рынке и кризисом рынка. В первом случае наблюдаются резкие скачки цен и изменение торговой ситуации. Во втором – прекращается сама торговля. В этом смысле глобальная катастрофа не есть очередной кризис на пути развития, где новое побеждает старое. Она есть прекращение самого развития.

19.5 Технологическая Сингулярность

Одно из глубоких наблюдений в духе идеи «кризиса кризисов» изложено в статье А. Д. Панова «Кризис планетарного цикла Универсальной истории и возможная роль программы SETI в посткризисном развитии» [Панов 2004]. Рассматривая периодичность различных ключевых моментов с возникновения жизни на земле, он обнаруживает закономерность, которая говорит о том, что плотность этих переходных эпох непрерывно возрастает по гиперболическому закону, а следовательно, имеет «сингулярную точку», в которой она обращается в бесконечность. Это означает, что происходит не просто очередной кризис, а кризис всей модели, которая описывает процесс эволюции от зарождения жизни до наших дней. И если раньше каждый кризис сопровождался разрушением старого и появлением нового, то теперь модель развития через кризисы подходит к концу. И эта модель ничего не говорит о том, что будет после сингулярной точки.

Согласно расчетам Панова, эта точка находится в районе 2027 года. Интересно, что несколько принципиально разных прогностических моделей указывают на окрестности 2030 года как на точку «Сингулярности», где их прогностические кривые обращаются в бесконечность. (Например, M. Esfandiary взял себе имя FM -2030 в ознаменование будущих переходных процессов ещё в середине XX века, на 2030 год указывают прогнозы по созданию ИИ и по исчерпанию ресурсов.) Очевидно, что глобальные риски группируются вокруг этой точки, так как она является классическим «режимом с обострением». Однако они могут произойти и гораздо раньше этой точки, поскольку будут кризисы и до неё.

В модели Панова каждый следующий кризис отделён от предыдущего промежутком времени, в 2,42 раза меньшим по протяженности. Если последний кризис приходится на начало 1990-х, а предпоследний – на вторую мировую войну, то следующий кризис (момент выхода из него) по модели Панова будет в районе 2014 год, а последующие – на 2022, 2025, 2026 годы, а дальше их плотность будет непрерывно нарастать. Конечно, точные значения этих цифр неверны, но общая закономерность в этом есть. При этом последний кризис – распад старого и появление нового – был в начале 90-х годов и состоял в распаде СССР и возникновении Интернета.

Это значит, что в период с настоящего момента до 2014 года мы должны пережить ещё один кризис сопоставимого масштаба. Если это верно, то мы можем наблюдать его зарождение уже сейчас внутри пятилетнего горизонта предсказаний. Однако этот кризис вовсе не будет той окончательной глобальной катастрофой, о которой мы говорим, и между ним и кризисом самой модели в 2020-е годы возможен «островок стабильности» в несколько лет.

Несколько независимых исследователей пришли к мысли о возможности технологической сингулярности в районе 2030 года, экстраполируя различные тенденции – от уровня миниатюризации устройств до мощностей компьютеров, необходимых, чтобы симулировать человеческий мозг. Первым ввёл термин Технологическая Сингулярность Вернор Виндж в статье 1993 года [Vinge 1993]. Сингулярность не отличается математически от режима с обострением, то есть катастрофы, и как завершение огромной исторической эпохи она, безусловно, будет катастрофой. Однако сингулярность может быть позитивной, если она сохранит людей и значительно расширит их потенциал, и соответственно, негативной, если в результате этого процесса люди погибнут или лишатся того большого будущего, которое у них могло бы быть. С точки зрения нашего исследования мы будем считать позитивным любой исход Сингулярности, после которого люди продолжают жить.

Наиболее быстрым, сложным и непредсказуемым процессом, который часто отождествляется с Технологической Сингулярностью, является возникновение универсального, способного к самосовершенствованию ИИ и его гиперболический рост. (Можно показать, что само ускорение развития, которое имело место в прошлом, связано именно с ускорением и улучшением способов решения задач – от простого перебора и естественного отбора к половому отбору, появлению человека, языка, письменности, науки, компьютеров, венчурного инвестирования – каждый следующий шаг был шагом в развитии интеллекта, и возможный в будущем самосовершенствующийся ИИ только продолжит эту тенденцию.)

В отношении Технологической сингулярности можно сформулировать несколько кажущихся достоверными высказываний.

Во-первых, сингулярность формирует абсолютный горизонт прогноза. Мы точно не можем сказать, что будет после сингулярности, поскольку речь идёт о бесконечно сложном процессе. Более того, мы не можем сказать ничего ни о самом моменте сингулярности, ни об определённом промежутке времени перед ней. Мы можем высказывать только определённые предположения о том, когда будет Сингулярность, однако и здесь есть большой разброс. На самом деле, ничего не мешает наступить Сингулярности прямо завтра в случае неожиданного прорыва в исследовании ИИ.

Во-вторых, с точки зрения наших современных воззрений, актуальная бесконечность не может быть достигнута. В силу этого абсолютная сингулярность не достижима. Это можно интерпретировать так, что по мере приближения к Сингулярности в системе усиливаются различные колебательные процессы, которые разрушают её раньше достижения точки бесконечности. Если это так, то перед сингулярностью плотность вероятности глобальных катастроф неограниченно возрастает. (Ср. с концепцией Г. Г. Малинецкого об увеличении частоты и амплитуды колебаний в системе перед катастрофой, которые являются признаками её приближения.) Или это может означать бесконечное уплотнение исторического времени, в силу которого сингулярность никогда не будет достигнута, как это имеет место в случае падения объектов в чёрную дыру.

В-третьих, к Сингулярности вся система подходит целиком. Это значит, что не следует ожидать того, что сингулярность не затронет кого-либо, или что будет несколько разных Сингулярностей. Хотя начаться она может в одной точке на Земле, скажем, в лаборатории по созданию ИИ, но по мере развития процесса он охватит всю Землю.

С точки зрения нашего исследования важно отметить, что глобальная катастрофа – это не обязательно и есть сама Технологическая Сингулярность. Глобальная катастрофа может быть масштабным, но, в конечном счёте, простым процессом, вроде столкновения с астероидом. В такой глобальной катастрофе есть признаки режима с обострением, как например, резкое ускорение плотности событий в момент касания астероидом Земли (длится 1 секунду), но нет сверхинтеллекта, который по определению непостижим.

Из сказанного следует, что если принять концепцию Технологической Сингулярности, то мы ничего не можем сделать, чтобы измерить или предотвратить риски после момента Сингулярности, но должны предотвращать эти риски до её наступления (особенно в период повышенной уязвимости перед ней) и стремиться к позитивной Сингулярности.

Концепция Технологической сингулярности как гипотетической точки обращения в бесконечность прогностических кривых в районе 2030 года была несколько раз независимо открыта (причём на экстраполяции разных кривых – от численности населения у Капицы до миниатюризации технологических устройств), и в настоящий момент сформировалась группа людей, призывающих стремиться к этому событию. Подробнее о Технологической сингулярности можно почитать в статьях: Вернор Виндж «Технологическая Сингулярность» [Vinge 1993], Юдковски «Вглядываясь в сингулярность»[106], Дэвид Брин «Сингулярность и кошмары» [Brin 2003], Майкл Диринг «Рассвет Сингулярности»[107].

19.6 Перепотребление приводит к одновременному исчерпанию всех ресурсов

Некоторые ресурсы могут не просто закончиться, но быть исчерпаны, так сказать, в минус. Например, сверхэксплуатация почв приводит к их быстрой и полной эрозии. Этот вопрос исследовался Медоузом в его «Пределах роста». Исследуя математические модели, он показал, что перепотребление некого ресурса неизбежно приводит систему на край гибели. Например, избыток хищников приводит к такому снижению числа жертв, что затем все жертвы до единой погибают, а сами хищники обречены на голод. Другой пример – когда загрязнение окружающей среды настолько велико, что оказывается поражена способность среды к самовосстановлению.

Кредитный цикл Мински определённым образом относится не только к деньгам, но и к истощающему перепотреблению любого природного ресурса. При этом человечеству свойственно сверхисчерпывать любой ресурс, который ему стал доступен. В этом смысле неудивительно, что перепотребление многих ресурсов происходит практически одновременно – ведь перерасходование одного ресурса можно скрыть, расходуя другой. Например, исчерпание денег на выплату ипотеки можно скрыть, оплачивая её через кредитную карточку; точно также исчерпание на 30 процентов пригодных для сельского хозяйства земель со времени Второй мировой войны можно скрыть, вкладывая больше ресурсов (то есть энергии) в культивацию оставшихся земель; или исчерпание водоносных горизонтов можно скрыть, затрачивая больше энергии на добычу воды из более глубоких горизонтов. Проблемы сверхисчерпания людям всякий раз удавалось преодолеть, совершив технологический скачок, как это было в неолитическую революцию. Однако это не всегда происходило плавно, то есть иногда решение находилось, только когда полномасштабный кризис уже разверзался. Например, неолитическая революция – переход от собирательства к оседлому сельскому хозяйству – произошла только после того, как население значительно сократилось в результате сверхисчерпания ресурсов в обществе охотников-собирателей.

В XXI веке нам угрожает одновременное исчерпание многих важных ресурсов вследствие уже сейчас происходящего перепотребления. Перечислим разные предположения об исчерпании, не обсуждая истинность или ложность каждого в отдельности. С экономической точки зрения окончательное исчерпание какого-либо ресурса невозможно, вопрос в том, сколько будет стоить получение этого ресурса и хватит ли его на всех. В связи с этим выделяют не момент исчерпания, а момент максимума добычи (пик) и затем период быстрого спада производства ресурса. Период спада может быть даже опаснее периода полного отсутствия, поскольку именно в этот момент начинается отчаянная борьба за ресурс, то есть может начаться война. Назову несколько будущих или уже пройденных пиков ресурсов.

· Пик мировой добычи рыбы – пройден в 1989 году.

· Исчерпание пригодных для земледелия земель.

· Пик производства пищи в целом.

· Пик добычи нефти – возможно, в настоящий момент.

· Пик добычи газа – позже, но после него более резкий спад.

· Выведение из эксплуатации ядерных реакторов.

· Исчерпание питьевой воды и воды для орошения.

· Исчерпания ряда цветных и редких металлов (к 2050 г.).

Ещё раз подчеркну: в данной работе проблема исчерпания ресурсов рассматривается только с точки зрения того, может ли она привести к окончательному вымиранию человечества. Полагаю, что само по себе – не может, но обострение этих проблем способно запустить обострение международных конфликтов и привести к серьёзной войне.

Интересно изучить следующий вопрос. Если некий хозяйствующий субъект терпит банкротство, то это означает, что у него кончаются одновременно все источники поступления денег, а если исчерпываются ресурсы технологической цивилизации, то это значит, что у неё одновременно заканчиваются все ресурсы, поскольку энергия в современных условиях выполняет функцию денег в технологической системе и позволяет добывать любой ресурс, пока энергия есть (например, качать воду из глубинных пластов). Следует ли из этого эквивалентность денег и энергии, а значит, будет ли энергетический кризис также и финансовым, и наоборот? Думаю, что да. Грубо говоря, потому что реальные деньги означают возможность купить товары. Если же экономика перейдёт в дефицитный режим, то возможность приобрести что-нибудь реально ценное за деньги исчезнет.

Есть разные датировки возможного пика в добыче нефти и других ресурсов, но они все принадлежат промежутку от 2006 до 2050 года. За счёт того, что одни ресурсы можно заменять другими, разные пики максимальной добычи разных ресурсов будут иметь тенденцию стягиваться к одному общему пику, точно так же, как благодаря NBIC конвергенции стягиваются пики развития разных технологий. Интересно также, что пик добычи ресурсов приходится на тот же временной отрезок, на котором ожидается Технологическая Сингулярность. Если Сингулярность случится раньше, то современные ресурсы не будут иметь большого значения, поскольку будут доступны неизмеримо большие ресурсы космоса. Наоборот, если спад в общемировой добыче всех ресурсов произойдёт до Сингулярности, это может препятствовать её наступлению. Реальный процесс видимо, будет более сложен, так как не только пики развития технологий и пики добычи ресурсов стягиваются друг к другу внутри своих групп, но и пики принципиально других групп также стягиваются в районе 2030 года плюс минус 20 лет. А именно, пик числа людей по Капице, пик возможного числа жертв от войн, пик предсказаний о рисках гибели цивилизации, о чём мы говорили выше. Есть несколько интересных гипотез о причинах такого схождения, которые мы здесь обсуждать не будем.

19.7 Системный кризис и технологические риски

Можно рассматривать системный кризис всего современного общества без учёта тех новых возможностей и опасностей, которые создают новые технологии. Тогда этот кризис будет описываться в терминах экономического, политического или экологического кризиса. Можно назвать такой кризис социально-экономическим системным кризисом. С другой стороны, можно рассматривать пространство возможностей, создаваемое появлением и взаимодействием друг с другом многих разных новых технологий. Например, исследовать, как повлияет прогресс в биотехнологиях на наши возможности по созданию ИИ и взаимодействию с ним. Можно назвать такой процесс технологическим системным событием. То и другое направление активно исследуются, однако так, как будто речь идёт о двух разных пространствах. Например, те, кто изучает и прогнозирует Peak Oil до 2030 года, совершенно не интересуются и даже не упоминают в своих исследованиях проблематику, связанную с разработкой ИИ. И наоборот, те, кто уверен в разработке мощного ИИ к 2030 году, не упоминают тематику исчерпания нефти, как незначительную. Очевидно, что интересно рассмотреть систему более высокого порядка, где социально-экономическая и технологическая системы являются только подсистемами – и в которой возможен кризис более высокого уровня. Иначе можно сказать так:

· Малый системный кризис – вовлекает только политику, ресурсы и экономику.

· Малый системный технологический кризис – вовлекает развитие одних технологий из других и сложные технологические катастрофы.

· Большой системный кризис – в нём оба малых кризиса являются только его частями, плюс взаимодействие составляющих элементов друг с другом. Пример такого кризиса: Вторая мировая война.

Примером рассмотрения системного кризиса являются «Пределы роста» Медоуза. Вопреки распространённым представлениям о том, что эта модель предсказывала исчерпание ресурсов и голод в 80 и 90-е годы XX века (даже Бостром пишет об этом – и тут можно вспомнить о роли когнитивных искажений в оценки больших проблем), она предсказывает резкий спад численности населения и продуктивности экономики в середине XXI века. Самый худший прогноз этой модели – начало снижения продуктивности в 2015 году. Недавно была опубликована статья Г. Тёрнера «Сравнение Пределов роста с реальностью: 30 лет спустя»[108]. В ней показано, что модель в период с 1970 по 2000 год показывает плавный устойчивый рост, точно коррелирующий с тем ростом, который был в реальной экономике. Спад в экономике, начавшийся в 2008 году, можно рассматривать как результат не столько финансового кризиса, сколько высоких цен на нефть, обусловленный ее нехваткой – и как предвестник будущего глобального снижения продуктивности мировой экономики – то, что в модели Медоуза называется «стандартный результат».

19.8 Системный технологический кризис – наиболее вероятный сценарий глобальной катастрофы

Это утверждение опирается на следующие посылки, которые мы по отдельности обсудили в предыдущих главах.

· Большинство крупных технологических катастроф, начиная с катастрофы «Титаника», носили системный характер, то есть не имели какой-то одной причины, а возникали как проявления сложности системы в виде маловероятного непредсказуемого стечения обстоятельств с разных планов: проектирования, управления, систематических нарушений инструкций, интеллектуальной слепоты и сверхуверенности, технических отказов и маловероятных стечений обстоятельств.

· За счёт NBIC -конвергенции и за счёт одновременности исчерпания взаимозаменяемых ресурсов мы получаем тот эффект, что все критические обстоятельства подтягиваются к одной дате, и дата эта – в районе 2030 года.

· Обвал технологической цивилизации, начавшись даже с небольшой катастрофы, может принять форму устойчивого процесса, где одна катастрофа запускает другую, при этом в каждый момент времени силы разрушения превосходят сохранившиеся силы созидания. Это происходит по причине того, что раньше огромное количество сил разрушения сдерживалось, а затем они все одновременно высвободятся (исчерпание ресурсов, заражение среды опасными биоагентами, глобальное потепление). Эта способность одной катастрофы запускать другую связана с высокой концентрацией разных потенциально смертельных для человечества технологий – подобно тому, как где бы ни начался пожар на корабле, на котором очень много пороха, в конечном счёте взорвётся весь корабль. Другая метафора – если человек убегает от лавины, он должен бежать со всё большей скоростью, и всё меньшая задержка требуется, чтобы он попал под лавину большей силы. Третья метафора – перекристаллизация некого вещества с несколькими фазовыми состояниями в районе фазового перехода. Эта метафора означает быструю и принципиальную перестройку всей цивилизации, связанную с возникновением мощного ИИ.

· По мере нарастания сложности нашей цивилизации нарастает вероятность внезапных непредсказуемых переходов в иное состояние (в духе «теории хаоса»), и одновременно нарастает наша неспособность предсказывать своё будущее и предвидеть последствия своих действий.

· Чем выше уровень развития технологий, тем меньший сбой в их работе может привести к откату цивилизации.

19.9 Криптовойна

Важным фактором будущих глобальных рисков является появление возможности «криптовойн» – то есть внезапных анонимных ударов, когда неизвестно, кто нападающий, а иногда даже неочевиден сам факт нападения (термин С. Лема [Лем 1990]). Когда в мировой гонке вооружений появляется больше двух противников, возникает соблазн нанесения анонимного (то есть безнаказанного) удара, призванного или ослабить одну из сторон, или нарушить равновесие. Очевидно, что сверхтехнологии дают новые возможности для организации таких атак. Если раньше это мог быть завоз радиоактивного вещества или запуск ракеты из нейтральных вод, то биологическая атака может быть гораздо более анонимной. Криптовойна не является сама по себе риском существованию человечества первого рода, но она изменит ситуацию в мире.

Недоверие стран по отношению друг к другу возрастёт, гонка вооружений усилится, моральный запрет на анонимный и подлый удар исчезнет. В результате может разгореться мировая война всех против всех (то есть такая война, где нет двух противоборствующих сторон, а каждый старается навредить каждому) и одновременный скачок в опасных технологиях.

Криптовойна будет во многом террористической – то есть информационное воздействие от удара будет превышать непосредственный ущерб. Но смысл этого будет не столько в возникновении страха – террора, а скорее, во всеобщем недоверии всех ко всем, которым можно манипулировать, подбрасывая разные «гипотезы». Многие политические убийства современности уже являются актами «криптовойны», например, убийство Литвиненко. В отличие от теракта, за который многие хотят взять ответственность, за криптоудар никто её не берёт, но каждый хочет использовать его в свою пользу, спихнув вину на другого.

19.10 Уязвимость к сверхмалым воздействиям

Следующим сценарным фактором является уязвимость сверхсложных систем к бесконечно малым воздействиям – что можно использовать для организации диверсий. (За счёт нелинейного сложения несколько очень слабых событий могут иметь значительно больший эффект, чем каждое из них в отдельности, что уменьшает требования к точности выбора и реализации каждого отдельного события.) Конечно, чтобы правильно рассчитать такое воздействие, нужен сверхинтеллект, способный смоделировать сверхсложную систему. А значит, этот интеллект должен быть сложнее этой системы, и эта система не должна содержать других таких интеллектов. Такая ситуация может возникнуть на первых фазах развития искусственного интеллекта. Удар с помощью малых событий будет высшим проявлением криптовойны.

Пример: аварии с отключением электричества в США и РФ при относительно небольших замыканиях. Такие точки уязвимости можно вычислить заранее. Более сложную уязвимость я не могу предложить, ибо не обладаю сверхинтеллектом. Однако ещё одним фактором может быть воздействие на родственников и друзей лиц, принимающих ключевые решения. так нельзя уничтожить мир, но спровоцировать гигантский беспорядок можно – то есть перевести систему на более низкий уровень организации. В состоянии хаоса вероятность непреднамеренного применения оружия массового поражения увеличивается, а способность к разработке принципиально новых технологий уменьшается. Соответственно, если средства всемирного уничтожения уже созданы, это повышает шанс глобальной катастрофы, а если ещё нет – то, возможно, снижает. (Но это не так, если уцелели другие технологически полноценные страны, – для них такое событие станет спусковым крючком опасной гонки вооружений.)

Примеры гипотетической точки в системе, бесконечно малое воздействие на которую приводит к бесконечно большим последствиям. Чаще всего речь идёт о принятии решения человеком, а точнее, о неком факторе, который перевешивает критический порог принятия решения. Скорее всего, речь может идти о:

· решении о начале войны (выстрел в Сараево),

· начале техногенной аварии (Чернобыль),

· биржевой панике или другом опасном слухе,

· отклонении астероида,

· убийстве правителя.

Как вариант, возможно малое воздействие на несколько удалённых точек, дающее синергетический эффект. Среди особо опасных террористических сценариев таких воздействий, доступных уже сейчас:

· Влияние на родственников лиц, принимающих решения. Использование авиамоделей как своего рода телеуправляемых ракет, которые могут принести маленькую бомбу куда угодно.

· Убийство правителей и других выдающихся людей. По мере развития технологий всё легче будет убить не только очень много людей, но и любого заранее избранного человека. Например, с помощью небольших высокоточных изделий (типа роботов-«шмелей») или вирусов, нацеленных на генетическую систему конкретного человека.

· Сложные атаки с использованием Интернета и компьютеров. Например, создание закладки в компьютере, которая выдаёт неправильные данные только одному брокеру, заставляя его принимать неправильные решения.

· Информационная атака (дезинформация): например, пустить слух (качественно сфабрикованный), что президент враждебной страны сошёл с ума и готовит превентивный удар по «нам» – это вызывает у «нас» желание ударить первыми. Что, очевидно, запускает «параноидальную» положительную обратную связь.

19.11 Гонка вооружений

Гонка вооружений опасна не только тем, что она может привести к созданию оружия судного дня. В условиях скоростной гонки вооружений придётся ставить опасные эксперименты с пониженными требованиями безопасности и с более высокой вероятностью утечек опасных веществ. Кроме того, сверхоружие всеобщего уничтожения может оказаться побочным результатом или частным случаем применения обычного оружия. Например, идея кобальтовой бомбы возникла после того, как необходимая для неё обычная атомная бомба была придумана и создана. Развитие технологии производства в военных целях особо опасных ядовитых насекомых позволит создать такой их вид, который может заполонить всю Землю. Наконец, применение в больших количествах какого-то одного оружия также может привести человечество к падению на более низкую стадию развития, на которой вымирание человеческой популяции представляется более вероятным.

19.12 Моральная деградация

Часто говорят, что моральная деградация может погубить человечество. Понятно, что моральная деградация не может быть глобальным риском первого рода, так как сама по себе она никого не убивает, да и разговоры о моральном упадке идут со времён Древней Греции. Тем не менее, моральная деградация правящей элиты считается существенным фактором падения Римской империи.

В понятие «моральная деградация» я не вкладываю оценки собственно моральную оценку, а имею в виду те психологические установки и модели поведения, которые делают общество менее устойчивым и более подверженным разного рода кризисам. В первую очередь, это предпочтение сугубо личных и краткосрочных целей над общественными и долгосрочными. Отметим, что если раньше культура была нацелена на пропаганду целей, способствовавших повышенной устойчивости общества, то теперь – наоборот. Однако от этого все не стали убийцами. Примером современной «моральной деградации» являются слова президента Клинтона о том, что он «брал сигарету с травкой, но не затягивался». Этот тип деградации угрожает в первую очередь «властным элитам» и в смысле глобальных рисков может проявиться в неспособности этих элит адекватно реагировать на возникающие угрозы. То есть реакция возможна, но ложь, недоверие друг к другу и отмывание денег могут подорвать любые действенные и масштабные инициативы в области глобальных рисков.

Далее, существует критический уровень устойчивости технических и социальных систем к концентрации ненадёжных элементов. Если их достаточно мало, эти элементы не сталкиваются друг с другом и не нарушают устойчивости. Если их количество превышает некий критический уровень, они образуют собственную внутренне связную структуру. Даже небольшой прирост такой концентрации в районе критического порога может опасно увеличить степень неустойчивости системы.

Наконец, даже небольшое снижение общего «морального уровня» общества значительно повышает «вес» тяжёлых хвостов распределения, то есть увеличивает число потенциальных «геростратов». Надо отметить, что рост образованных групп населения земли также увеличивает число людей, которые могут сознательно желать глобальной катастрофы и обладать необходимыми для этого знаниями.

Есть мнение, восходящее ещё к К. Марксу, что корни возможной неустойчивости общества – в самой природе общества, построенного на конкуренции. Инвестиции в долгосрочные проекты ослабляют конкурентоспособность в краткосрочных проектах, так как ресурсы уходят в дальние проекты. В результате в среднесрочной перспективе те люди, страны и организации, которые не уделяли достаточно внимания краткосрочным проектам, терпят поражение. (Это рассуждение можно сравнить с рассуждением Н. Бострома о «хоббистах» в его статье «Угрозы существованию», где показано, что эволюция отсеет те сообщества, которые не будут тратить все средства на выживание.) В тоже время, те группы людей, которые научились сотрудничать, оказываются в более выигрышной ситуации, чем отдельный человек, отказывающийся от сотрудничества. В любом случае, в современном обществе существует разрыв между ближайшим планированием (до выборов, до зарплаты, до окупаемости предприятия), и долгосрочным планированием, при котором вес маловероятных рисков становится велик.

Также высказывались соображения, что реклама насилия, подобная той, что мы видим в современном кино или в играх типа Grand Theft Auto, а также эгоизма и личного героизма приводит к бессознательному обучению населения, делая его менее способным к кооперации, альтруизму и самопожертвованию, которые могу понадобиться в условиях кризиса. Наоборот, образы актов мстительного терроризма вживляются в коллективное бессознательное, и рано или поздно всплывают из него в виде актов спонтанного насилия. В истории были эпохи, когда всё искусство было нацелено на формирование «нового человека». Это, в первую очередь, христианское искусство и советское искусство.

19.13 Враждебность в обществе как сценарный фактор

Можно предположить, что острый кризис приведёт к росту враждебности на Земле. Одним из недавних ярких примеров всплеска враждебности в мире была ситуация, возникшая после терактов 11 сентября 2001 года, когда многие люди ожидали, что «война цивилизаций» примет характер мировой войны. Всплеск враждебности может иметь следующие последствия:

1. поляризация общества на разные группы, которые ненавидят друг друга.

2. рост накала негативных эмоций (негативного эмоционального фона) и повышение числа людей, готовых к насилию и стремящихся к этому, что повышает риск терактов и инцидентов с оружием массового поражения.

3. Утрата доверия всех ко всем и разрушение связности социальной структуры. Надо учесть, что доверие сегодня – это необходимая часть экономической системы, основанной на кредите.

4. Рост гонки вооружений и обострение всех застарелых конфликтов.

5. Риск начала мировой войны в той или иной форме.

6. Ожидания неизбежности поворота событий от плохого к худшему, что может порождать самосбывающиеся пророчества.

19.14 Месть как сценарный фактор

Месть является продолжением враждебности, но в высшей форме. Допустим, между двумя крупными державами произошла ядерная война, и одна из держав её полностью проиграла – ей нанесли неприемлемый ущерб, тогда как другая отделалась относительно небольшими потерями. У проигравшей стороны – потеря половины населения, всех крупных городов, оборонного потенциала. Весьма вероятно, что в этом случае месть станет национальной идеей. Опыт истории показывает, что некоторые народы можно поставить на грань уничтожения, а они отвечают всё более агрессивными и опасными формами сопротивления. Например, та поддержка, которую получил Бен Ладен в Афганистане. В силу этого ядерная война не сделает мир более стабильным. Наоборот, она, возможно, создаст настолько непреодолимые противоречия, что мир станет ещё опаснее. Проигравшая сторона, вероятно, не откажется применить любую машину судного дня, потому что людям, потерявшим свои семьи, свою родину, нечего терять.

Победившая сторона должна в этом случае решиться либо на полное уничтожение, либо на оккупацию. Современные страны западной цивилизации не могут решиться на геноцид, потому что в этом случае им придётся утратить свою цивилизационную идентичность. Режим оккупации также плохо работает, потому что может превратиться в войну без конца. Технологично, хотя пока и фантастично, выглядит идея оккупации с помощью роботов, что, однако, равносильно превращению побеждённой страны в электронный концлагерь.

Отмечу, что сейчас мы стоим на пороге абсолютно любых возможностей будущего. Это позволяет примиряться людям с очень разными картинами будущего. Однако в какой-то момент будет пройдена точка необратимости: какие-то варианты будущего приобретут более чёткие черты, а какие-то станут невозможными. Кому-то придётся признать, что души нет и что ИИ возможен, или наоборот. Это чревато конфликтами за картину будущего. За власть над будущим.

19.15 Война как сценарный фактор

Войны были всю историю человечества. Сама по себе обычная война между людьми не может привести к человеческому вымиранию, поскольку всегда остаются выжившие победители. По Клаузевицу, бывают войны двух типов: на достижение уступки, и на тотальное завоевание/уничтожение. Понятно, что войны второго типа, когда одну из сторон загоняют в угол, гораздо более опасны для человеческого существования, так как создают условия для применения оружия «судного дня» в качестве последней меры.

При этом под войной мы имеем в виду классическое вооружённое столкновение двух населёнными людьми стран. Вооружённая борьба людей и роботов, людей и сверхлюдей, двух ИИ между собой или людей с опасным вирусом не будет классической войной. Но такая война может означать геноцид людей, в отличие от обычной войны, которая не нацелена на уничтожение всех людей.

Поиск по сайту: