Глава 20. Катастрофы, влияющие на скорость прогресса

20.1 Влияние катастроф на скорость развития

Глобальными рисками третьего рода мы назовём любые события, которые замедляют или ускоряют ход, или меняют порядок развития сверхтехнологий на Земле, и в силу этого оказывают косвенное, но решающее влияние на возможные сценарии глобальных катастроф.

Можно обнаружить следующие взаимосвязи между катастрофами и событиями разных масштабов и их влиянием на развитие и очерёдность возникновения технологий.

1. Любая крупная авария или катастрофа может замедлить развитие технологий. Например, экономический кризис, то есть экономическая катастрофа, приведёт к остановке работ на ускорителях, что уменьшит шансы на создание «чёрной дыры», поскольку ускорители – это крайне дорогие многомиллиардные проекты. Так и произошло с российскими ускорителями после распада СССР. Уменьшится выделение денег на био- и Ии исследования, но их это затронет в меньшей степени, поскольку они могут финансироваться частным образом и гораздо дешевле.

2. Колоссальная, но не окончательная катастрофа остановит почти все исследования, даже если некоторое количество людей выживет.

3. Любая авария средней тяжести приведёт к увеличению мер безопасности и сокращению проектов в своей области. Например, Чернобыльская авария привела как к росту мер безопасности на реакторах, так и к повсеместному отказу от строительства новых реакторов.

4. Военный конфликт приведёт к гонке вооружений и росту числа исследований. Направления перспективных исследований будут выбираться с учётом мнения неких ключевых специалистов. Например, в РФ сейчас стартовала программа в области нанотехнологий. Этого не произошло, если бы те, кто принимают решения и их советники, никогда не слышали про нанотехнологии. Ядерная программа США не началась бы, если б не известное письмо Эйнштейна президенту Ф. Рузвельту. С другой стороны, универсальный ИИ как абсолютное оружие сейчас обойдён вниманием властей (насколько это известно). Однако, вечно это продолжаться не будет. Как только власти поймут, что частные лаборатории, создающие сильный ИИ, возможно, обладают силами для глобального мятежа – они приберут их к рукам. Соответственно, прослышав, что в одной стране власти сделали ставку на мощный ИИ, и другие страны могут так поступить; отдельные организации и крупные фирмы могут также начать разработку своих проектов. Однако разрушение информационной связности может отбросить всю науку об ИИ назад.

5. Само изобретение даже не очень сильного Ии позволит резко ускорить прогресс в других областях. Кроме того, любые принципиальные открытия могут изменить баланс сил.

Итак, некие события могут или сильно снизить уровень исследований в мире, в силу чего, например, более дешёвые проекты получат преимущество перед дорогими, или резко ускорить исследования. Наоборот, разрушение информационной связности затормозит дешёвые проекты, опирающиеся на доступную информацию из Интернета, и не остановит дорогие проекты, например, создание кобальтовой супербомбы.

20.2 Закон Мура

Законом Мура в узком смысле слова называется экспоненциальный рост числа транзисторов на чипе. В широком смысле слова под ним имеется в виду экспоненциальное усиление разных технологий с течением времени. Будущее закона Мура – будет ли он работать на протяжении всего XXI века или его действие прекратится в какой-то момент, – может значительно повлиять на историю человеческого общества в XXI веке и его риски.

На самом деле ускорение, которое описывает закон Мура, является не экспоненциальным, а более быстро растущим (гиперболически). Вопрос этот неоднократно исследовался, например, в статье Рэя Курцвела «Результаты закона ускорения» [Kurzweil 2001]. Подтверждением этого является, во-первых, то, что скорость удвоения числа транзисторов на чипе постепенно, хотя и не равномерно, возрастает (то есть период удвоения сокращается). Если экстраполировать закон Мура в прошлое, то он бы имел начальную точку в середине ХХ века, в то время как компоненты электронных схем развивались и раньше. Предполагается, что в начале ХХ века закон Мура (если его экстраполировать на прогресс электронных схем тогда) имел период удвоения порядка трёх лет [Kurzweil 2001].

Во-вторых, не только возрастает число транзисторов на чипе, но и число компьютеров в мире экспоненциально растёт. В силу этого суммарная доступная вычислительная мощность растёт как экспонента от экспоненты.

В-третьих, растёт связность компьютеров друг с другом, превращая их в единый компьютер. В результате, если в мире к началу 80-х было порядка миллиона компьютеров с частотами процессоров порядка мегагерца, то теперь мы имеем миллиард компьютеров, с частотами порядка гигагерца, связанных между собой Интернетом. Это означает, что совокупная вычислительная мощь за 25 лет выросла не только в миллион раз количественно, но и неисчислимым образом качественно.

Поскольку аналогичная закономерность прослеживается не только относительно чипов, но и жёстких дисков компьютеров, считывания ДНК и ряда других технологий, понятно, что закон Мура связан не с какой-то особенностью производства микросхем, а с универсальной закономерностью в освоении новых технологий, о чём пишет Курцвел.

В своё время наблюдался своеобразный аналог закона Мура в области космонавтики. От первого спутника до высадки на луну имел место экспоненциальный рост успехов, который давал основания для прогнозов о полётах к звёздам к началу XXI века. Однако, вместо этого космонавтика вышла на уровень «насыщения» и даже на откат по некоторым позициям. Это произошло, потому что космонавтика росла экспоненциально, пока не упёрлась в свои естественные пределы, которыми стали возможности химических ракет (и их цена). Хотя космонавтика развивалась, принцип реактивного движения не развивался. (Всё же определённый прогресс есть: цена запуска американской частной ракеты Фалькон предполагается в 7 млн. долларов, что равно стоимости нескольких квартир в центре Москвы, тогда как на организацию ракетной промышленности и строительство Байконура в своё время были потрачены суммы, которые можно оценить в современных ценах в сотни миллиардов долларов.) В области полупроводников и ряда других технологий происходило наоборот – каждый успех в их создании позволял быстрее и дешевле разрабатывать новые версии, потому что здесь есть рекурсивная петля: новые «чипы» разрабатываются на чипах, а в космонавтике это почти не выражено. Это главное. В производстве кремниевых микросхем закон Мура также должен рано или поздно достичь некого физического предела. Однако, если взять закон мура в более общем виде, то он означает закон самоусложнения структур. Можно видеть, как это самоусложнение совершало качественные скачки от одной области экспоненциального роста к другой, всякий раз в гораздо более быструю по параметрам развития – от одноклеточных к многоклеточным, от электронных ламп к транзисторам, от микросхем к – возможно – квантовым компьютерам. (Я не привожу здесь полную цепочку ускорения фаз развития, отмечу только, что каждый переход давал ускорение параметра роста в несколько раз. См. подробный разбор циклов ускорения в работе А. Д. Панова [Панов 2007] и у Курцвела.) Это значит, что такие события, как переход с одной экспоненты на другую, более крутую (а очевидно, не было конкурентной выгоды переходить на менее крутую экспоненту развития), являются более важными, чем даже сам экспоненциальный рост между этими переходами. И каждый раз такие переходы связаны с качественными скачками, с открытием принципиально нового способа оптимизации, нового способа более быстрого «думанья» (иначе говоря, с открытиями более быстрых алгоритмов «искусственного интеллекта», нежели простой перебор вариантов решений). Например, переход к половому размножению был, вероятно, для эволюции открытием более быстрого способа отбора и создания эффективных видов. Переход к письменности – более мощным способом накопления знаний об окружающем мире, чем устная передача информации. Создание научного метода – более мощным способом познания окружающего мира, чем доверие к античным источникам. Создание системы венчурных фирм, разрабатывающих и продающих новые технологии, – более быстрым способом, чем работа отдельных конструкторских бюро и изобретателей-одиночек. (См. например: [Азаров 1998].).

Вероятно, следует остановиться на том, каким образом устроена разработка новых технологий в современном обществе, – что и позволяет поддерживать нынешний темп роста технологий. Она включает в себя следующие процессы:

1) непрерывная генерация и патентование любых идей.

2) создание отдельных лабораторий под каждую идею, у которой есть хотя бы мизерный шанс на успех (венчурные фирмы).

3) непрерывный обмен информацией между всеми участниками процесса, как за счёт открытых публикаций, так и за счёт торговли патентами и лицензиями.

4) отлаженный механизм внедрения любых новинок. Культ потребления новинок.

5) Покупка «мозгов» – людей с их навыками – под конкретные проекты.

Эта система организации процессов инновации, как и все предыдущие, сложилась стихийно – то есть путём простого отбора между разными системами оптимизации. Можно предположить, что переход к следующей системе оптимизации будет связан с подвижками, так сказать, на уровне мета-оптимизации, то есть оптимизации процессов оптимизации. Очевидной чертой современной системы является то, что она концентрируется не вокруг людей-изобретателей, как в XIX веке – например, вокруг Эдисона и теслы, а на отработанном конвейере производства и коммерциализации идей, в котором уникальная личность отдельного человека уже не имеет принципиального значения. Из сказанного вытекает уязвимость современного «закона Мура» к экономическим потрясениям: чтобы этот закон продолжал действовать, нужен широкий фронт из множества фирм, поддерживаемый непрерывным притоком капитала. Соответственно, в будущем обобщенную модель действия закона Мура (иначе говоря, закона ускорения эволюции), ждёт или крах, или переход на ещё более скоростную ступень развития. Поскольку нельзя заставить людей (если только не изменить их природу) менять сотовый телефон 10 раз в год, то, скорее всего, двигателем следующего скачка будут нерыночные (но конкурентные) механизмы, например, гонка вооружений.

Мы можем сделать вывод, что закон Мура является продуктом развития современной экономики, следовательно, экономические риски являются и зонами риска для закона Мура, а значит, – являются глобальными рисками третьего рода. «Закон Мура» в широком смысле слова очень уязвим к целостности и связности общества. Для того, чтобы огромное количество технологий продолжало развиваться по экспоненциальной кривой, необходимо одновременное функционирование тысяч лабораторий, мощнейшая экономика и качественная информационная связность. Соответственно, даже мощный всемирный экономический кризис может подорвать его. Примером такого рода события может быть распад СССР, в результате которого наука резко обрушилась – и обрушилась бы, вероятно, ещё больше, если бы не приток идей с запада, спрос на энергоносители, импорт компьютеров, интернет, поездки за рубеж и поддержка со стороны фонда Сороса. Страшно себе представить, насколько откатилась бы назад наука, если бы СССР был единственным государством на планете и распался.

Понятно, что закон Мура мог бы поддерживаться внутри нескольких отдельных сверхдержав, обладающих полным комплектом ключевых технологий, но возможно, что некоторые ключевые технологии уже стали уникальными в мире. И конечно, одно небольшое государство, даже европейское, не сможет поддерживать темп развития науки на нынешнем уровне, оставаясь в одиночестве. В силу этого, мы должны осознавать уязвимость закона Мура на современном этапе. Однако создание ИИ, нано- и биотехнологий резко уменьшит объём пространства, которое необходимо для «производства всего». Остановка закона Мура не будет означать прекращения всех исследований. Разработка отдельных видов биологического оружия, ИИ, сверхбомб может продолжаться усилиями отдельных лабораторий. Однако без всемирного информационного обмена этот процесс значительно замедлится. Остановка закона Мура отсрочит или сделает невозможным появление сложных высокотехнологичных изделий, таких, как нанороботы, освоение Луны и загрузка мозга в компьютер, однако доведение относительно простых проектов продолжится.

Поиск по сайту: