Алексей Валерьевич Турчин – российский писатель, трансгуманист, исследователь глобальных рисков, истории искусств, психолог.
Термин «Технологическая сингулярность» постепенно завоёвывает признание, и по мере того, как он всё более широко становится известен в России, среди западных учёных, его породивших, нарастает разочарование из-за размытости этого термина. В ходе этих дискуссий возникло наиболее общее определение сингулярности, которое объединяет самое главное во всех более частных определениях – Сингулярность состоит в том, что через несколько десятков лет, а возможно и раньше, нас ждёт внезапное решительное изменение всего мира, связанное с развитием новых технологий. Здесь слово «внезапное» подчёркивает скорость процессов во время Сингулярности, «решительное» – масштаб изменений, а также указывается время событий и их основная причина. Кроме того, Сингулярность коснётся всего в мире.
Исходно термин «Сингулярность» предложил Вернор Виндж в 1993 году, высказав идею о том, что когда человек создаст машину, которая будет умнее человека, то с этого момента история станет непредсказуемой, так как невозможно предсказать поведение интеллектуально превосходящей системы. Исходя из темпов развития электроники, он предположил, что это произойдёт в первой трети XXI века.
(Виндж: «Я удивлюсь, если это случится до 2005 года или после 2030 года»). В районе 2000 года Е.Юдковски пришёл к идее о том, что возможна программа искусственного интеллекта, способная совершенствовать саму себя, и с того момента, когда критический порог сложности будет преодолён, самосовершенствование ИИ начнёт происходить со скоростью, на многие порядки превосходящей скорость конструирования его человеком.
Именно этот самоусиливающийся процесс он стал иметь в виду, говоря о Сингулярности. С другой стороны, многие исследователи разных областей знания обнаружили, что применяемые ими прогностические модели дают значения, обращающиеся на бесконечность в районе 2030 года. Например, в гиперболической функции роста населения Земли, предложенной С.П.Капицей, число людей должно было бы стать бесконечным в районе 2025 года. И хотя реальное число людей отстаёт от этой функции, если к нему добавить число компьютеров, то закон продолжает соблюдаться. А.Д. Панов исследовал закономерности ускорения исторических процессов, начиная с зарождения жизни в своей работе «Кризис планетарного цикла Универсальной истории». Он показал закономерность, что цикл перед каждым следующим историческим этапом становится короче в 2,42 раза, и в результате мы тоже имеем кривую, которая обращается в бесконечность в районе 2030 года. Похожие результаты дают прогнозы по отдельным технологиям. Программа развития нанотехнологий (Roadmap for nanotechnology, 2007) предполагает создание универсальных наномасштабных систем молекулярного производства – то есть тех самых нанороботов, которые всё могут, – в период 15-30 лет с настоящего момента. Экспоненциальный прогресс в области биологии очевиден при рассмотрении проектов расшифровки человеческого генома: первый проект длился 9 лет, причём большая часть работы была сделана за последние 9 месяцев, а сейчас запущен проект расшифровки геномов 1000 людей, уже предложены методы, которые уже удешевили этот процесс в тысячу раз и должны удешевить его в миллион раз в ближайшие годы. Прогресс в биологии в ближайшие десятилетия должен позволить либо достичь практического бессмертия человека, либо возможности для каждого создавать на дому новые смертельные вирусные штаммы. Очевиден прогресс и в области создании суперкомпьютеров – и в течение ближайших 20 лет они или должны упереться в некий естественный предел, или привести к созданию сверхчеловеческого интеллекта. Также и исследование мозга человека продвигается довольно значительно – уже есть результаты по считыванию зрительных образов из мозга кошки, моделирования кортикальной колонки в проекте Blue brain и др. При этом проект Blue brain представил свою дорожную карту, по которой полное моделирование мозга человека будет возможно к 2020 году. Разрешающая способность томографов, позволяющая вживую наблюдать процессы внутри мозга, так же растёт по экспоненциальному закону. Всё это заставляет предположить, что к 2020-30 годам удастся создать способы считывания и записи информации в мозг напрямую из компьютера, что создаст принципиально новые перспективы. Итак, каждая из ведущих технологий сама по себе должна выйти на уровень, ведущий к полной трансформации мира, в течение примерно 30 ближайших лет, не говоря уже о том, что имеет место мощное взаимодействием между базовыми технологиями, называемое NBIC-конвергенция (синергетический обмен результатами и методиками между nano, bio, info и cogno технологиями, ведущий к взаимному усилению результатов и к возникновению некой новой единой технологии).
С другой стороны, есть ряд негативных прогнозов, которые также имеют своим пиком ближайшие несколько десятилетий. Среди них в первую очередь следует назвать разные предсказания об исчерпании ресурсов. Это – пик Хуберта в производстве нефти, который мы, возможно, проходим уже сейчас, это пик производства пищи, объёма доступных земель, запасов редких металлов. Здесь нам важно отметить не то, каковы конкретно эти прогнозы и верны ли они, а то, что все они говорят примерно об одной области дат в районе 2030 года.
Итак, множество различных прогностических кривых испытывает перелом, обращается в бесконечность или в ноль в районе 2030 года – и хотя некоторые из этих предсказаний могут быть и даже наверняка являются ошибочными, исполнения любого одного из этих предсказаний, а тем более сразу нескольких из них, достаточно, чтобы решительно изменить наш мир. При этом характер кривых, которые описывают эти изменения – экспонент, гипербол и гауссовых распределений (в случае пика Хуберта) показывает нам, что ожидаемая перемена будет носить резкий характер. Эффект совместного действия разных технологий и проблем, который грубо можно представить как произведение описывающих их параметров (хотя, скорее, здесь возведение в степень), ещё в большей степени сделает острым результатирующий график изменений. Отсюда следует, что перемены будут быстрыми и внезапными. При этом мы пока ещё не можем сказать, какие это будут перемены, будут ли они хороши и в какой мере они означают возможность окончательной катастрофы. (Хотя для тех, кто хочет сохранить что-то неизменным, они точно не будут хороши.)
Теперь, когда мы установили общее во всех прогнозах сингулярности, мы можем обсудить в деталях разные «школы Сингулярности». В математике термин «сингулярность» связывают с наличием особенности у некой функции, например, того, что она обращается в бесконечность при приближении к нулю. Физики стремятся избежать описания процессов функциями с сингулярностями, так как считается, что никакой физический параметр не может принять бесконечной величины. Наличие сингулярностей в описании свидетельствует обычно, что теория неполна. Например, теория непрерывного излучения света чёрным телом не работала, так как предсказывала бесконечно большое излучение, и её пришлось заменить теорией излечения порциями – то есть квантовой теорией. Другой вариант сингулярностей в физике – это режимы с обострением. Так описываются системы, в которых некий параметр за конечное время приобретает бесконечное значение. Однако на самом деле он его не приобретает, так как система, в которой такой параметр имеет резон, разрушается. Такие системы исследует «теория катастроф» и синергетика. В результате физика осталось только с двумя «актуальными» сингулярностями. Первая – это состояние Вселенной в момент Большого взрыва, когда, как предполагается, она была заключена в объём в 10-44 см, и плотность энергии в ней была крайне велика, но всё же не бесконечна, так как была ограничена условиями, даваемыми квантовыми соотношениями неопределённости. Отметим, что это не единственная теория Большого взрыва, и по другим теориям плотность энергии никогда не достигала максимальной величины, а имел место переход одного вакуума в другой, сопровождавшийся интенсивным расширением пространства (теория хаотической космологической инфляции). Впрочем, с практической точки зрения разница интенсивностей не велика, так как инфляция началась при размерах вселенной 10-33 см. Зато инфляция настолько увеличила размеры вселенной, что, по некоторым теориями, для описания её размеров приходится пользоваться двойными показателями степени 10**10**15 см (то есть 10 в степени миллион миллиардов). Другой знаменитой сингулярностью в физике являются чёрные дыры. Гравитация чёрной дыры столь велика, что любой материальный объект, падающий в неё, должен был бы сжаться в точку. Однако по общей теории относительности для внешнего наблюдателя время этого падения (причём не до точки в центре дыры, а до границы поверхности, называемой сфера Шварцшильда) растянется до бесконечности, тогда как для самого падающего падение займёт конечное время. Отметим, что сингулярностью можно назвать и момент в жизни массивной звезды, когда она начинает коллапсировать в чёрную дыру и скорость событий в ней бесконечно ускоряется.
Наиболее радикальное представление о технологической сингулярности предполагает, что сингулярность на самом деле означает бесконечный рост за конечное время. Это представление отражено в статье Е.Юдковски «Вглядываясь в сингулярность», где он предполагает, что когда появится способный к самосовершенствованию искусственный интеллект, то он будет неограниченно усиливать себя, проходя каждый цикл ускорения всё быстрее, и на каждом новом этапе находя всё новые технологические и логические возможности для самосовершенствования. В результате для того, чтобы записать его IQ, потребуется число, значительно большее, чем размер Вселенной после космологической инфляции, о котором мы упоминали выше, и чтобы описать это непостижимую огромность этого числа Юдковски вводит специальную математическую операцию. Здравым возражением к этой теории является то, что возможная производительность любого ИИ, который мы можем создать на Земле, ограничена сверху числом атомов в Солнечной системе (порядка 10**53 штук), поскольку мы не можем сделать транзисторы меньше атома размером. С другой стороны, мы не можем предсказать, что именно сможет достичь ИИ, который уже воспользовался таким количеством атомов для создания сверхмозга-компьютрониума. Например, навскидку можно предположить, что даже на нескольких атомах можно получить огромные вычислительные ресурсы, используя квантовые эффекты, как это планируют делать в квантовых компьютерах. Однако с практической точки зрения здесь нет большой разницы, так как мы не сможем понять различий между компьютером с IQ в 10**30 единиц и с IQ в 10**10**15 единиц, точно так же, как мы не можем узнать, какова была плотность вселенной до периода космологической инфляции. При этом надо отметить, что для самой природы огромные числа, как 10**10**15, не являются чем-то запретным, и это именно человеческие трудности, если он не может их себе представить. Оставим также на совести Юдковского некорректность употребления теста Айзенка, предназначенного для оценки интеллектуальных способностей людей, к гипотетическим будущим искусственным сверхинтеллектам. Однако базовая идея представляется правильной: сравнивать силу интеллекта через сложность задач, который он может решить.
Итак, одна точка зрения состоит в том, что Сингулярность – это актуальный процесс бесконечного роста, причём, видимо, за конечное время. Другая состоит в том, что Сингулярность – это только асимптота, к которой стремятся прогностические кривые, но на самом деле они её по тем или иным причинам не достигнут. Вернор Виндж презентовал Сингулярность именно как абсолютный горизонт прогноза после создания сверхчеловечески умных машин. Наконец, есть точка зрения, что Сингулярность имеет математический резон как короткий период бесконечного ускорения процессов, однако реальные перемены будут конечны и пост-сингулярный мир, хотя и будет значительно отличаться от нынешнего, всё же будет миром без быстрых изменений со своей собственной устойчивостью. Исторически мы знаем несколько примеров, когда процессы ускорялись фактически до бесконечной скорости за счёт того, что несколько значимых событий происходили одновременно. Например, Солженицын так описывает ускорение событий во время Февральской революции в России:
«Если надо выбрать в русской истории роковую ночь, если была такая одна, сгустившая в несколько ночных часов всю судьбу страны, сразу несколько революций, – то это была ночь с 1 на 2 марта 1917 года. Как при мощных геологических катастрофах новые взрывы, взломы и скольжения материковых пластов происходят прежде, чем окончились предыдущие, даже перестигают их, – так в эту русскую революционную ночь совместились несколько выпереживающих скольжений, из которых единственного было достаточно – изменить облик страны и всю жизнь в ней, – а они текли каменными массами все одновременно, да так, что каждое следующее отменяло предшествующее, лишало его отдельного смысла, и оно могло хоть бы и вовсе не происходить. Скольжения эти были: переход к монархии конституционной («ответственное министерство») – решимость думского Комитета к отречению этого Государя – уступка всей монархии и всякой династии вообще (в переговорах с Исполнительным Комитетом СРД – согласие на Учредительное Собрание) – подчинение ещё не созданного правительства Совету рабочих депутатов – и подрыв этого правительства (да и Совета депутатов) отменой всякого государственного порядка (реально уже начатой «приказом № 1»). Пласты обгоняли друг друга катастрофически: царь ещё не отрёкся, а Совет депутатов уже сшибал ещё не созданное Временное правительство». (Размышления над Февральской революцией. 27 февраля 2007, Российская Газета. http://www.rg.ru/solzhenicyn.html )
Трудно избежать Сингулярности. Если развитие наук замедлится, то это увеличит шансы катастрофы в результате исчерпания ресурсов и перенаселения; наоборот, если ресурсов будет много, то ничего не помешает наукам и технологиям продолжить свой бег к будущему. Некоторые предлагают другие варианты для названия Сингулярности: Технокалипс, Великий Переход, Катастрофа.
Многие люди связывают с Сингулярностью самые позитивные ожидания. Теоретически Сингулярность означает возможность бессмертия, неограниченного расширения сознания и полёты на другие планеты. Но точно так же теоретически атомная энергия означает неограниченное даровое электричество, однако на самом деле бесконечные преимущества уравновешиваются бесконечными недостатками, каковы в случае атомной энергии – ядерное оружия, радиоактивное заражение и угроза глобальной войны. Соответственно, возникло следующее упрощённое представление о Сингулярности: достаточно дотянуть до неё, а там искусственный интеллект решит все наши проблемы, возникнет экономика изобилия и рай на Земле. Не удивительно, что такие представления вызвали ответную реакцию: высказывались предположения, что идеи о Сингулярности – это своего рода религия для фанатов техники, где ИИ вместо Иисуса, а Сингулярность вместо Бога. И на основании такой психологизации идея о Сингулярности отвергалась. (Можно также сравнивать ожидания наступления Сингулярности с идеями о коммунизме. После Сингулярности, говорят её сторонники, молекулярное производство позволит производить любые товары практически бесплатно, создав то самое изобилие, которое делает коммунизм возможным; кроме того, в управляемом ИИ обществе отпадёт необходимость в рынке, так как управление сверху окажется, наконец, более эффективно. Когнитивные технологии, наконец, смогут создать нового человека или подправить «старого». Однако подобные ожидания, вероятно, больше говорят о нас самих, чем о том, что будет на самом деле.)
Другая критика идеи Сингулярности была направлена на то, что закон Мура является экспоненциальным, а выделенная точка возможна только при гиперболическом законе; что, возможно, человек не может создать сверхчеловеческий разум, поскольку это слишком сложная задача, и чтобы создать сверхразум, нужно его уже иметь. Например, в критической статье «Сингулярность всегда рядом» (пародирующей название работы Р.Курцвейла «Сингулярность рядом») говорится о том, что мы никогда не сможем обнаружить себя «после сингулярности», поскольку в этом состоянии мы должны были бы признать, что весь бесконечный рост находится позади нас, а впереди никакого такого роста не будет. Вместо того чтобы разбирать всю эту критику, отметим, что она не влияет на основной факт – на реально надвигающуюся на нас перемену неизвестной природы.
Есть также представления, что может быть «позитивная Сингулярность» и «негативная», и это звучит так, что это как бы две стороны одной медали. И шансы их равны, как шансы выпадения одной из сторон монеты. Но это не так. Для реализации позитивной Сингулярности вместе должны сложиться успехи всех технологий, всё задуманное должно получиться, в правильной последовательности и т. д. А чтобы произошла негативная Сингулярность, достаточно, чтобы всё пошло наперекосяк один раз. Гораздо проще сделать смертельно опасный вирус, чем лекарство от старости.
Вкратце история представлений о прогрессе такова. В античности прогресс не осознавался, и история казалась ходящей по кругу. Это представление поддерживалось тем, что скорость технологических инноваций в то время была столь медленной, что мир почти не менялся на протяжении поколения, и обнаружить разницу было трудно. И наоборот, отсутствие идеи прогресса мешало технологическим инновациям. Например, разные технологические хитрости считались уделом рабов, и были недостойными свободными человека. С появлением христианства возникла идея линейного времени – от грехопадения до Страшного суда, но она не относилась к человеческим достижениям. Несмотря на крах Римской империи, в Средние века продолжалось постепенное накопление разных изобретений и новшеств. В эпоху Возрождения, как можно понять по самому её названию, идеи прогресса ещё не существовало, так как в качестве источника рассматривалось возвращение к прошлому. Только в середине XVII века идея о неостановимой силе прогресса стала проникать в умы, во многом, благодаря работам Фрэнсиса Бэкона (Novum Organum, 1620), и в эпоху Просвещения в XVIII веке стала всеобщим достоянием. Таким образом, идея прогресса значительно отстала от самого прогресса. В XIX веке знамя прогресса поднимали Карл Маркс, Огюст Конт и др., нас же здесь в больше мере интересует то, какова была ожидаемая ими скорость прогресса. С точки зрения формы, возможны следующие идеи о прогрессе:
1) линейный прогресс до какого-то уровня, после чего наступает равновесие
2) бесконечный линейный прогресс
3) экспоненциально растущий прогресс – идея о том, что прогресс не просто происходит, но что темпы его ускоряются (закон Мура).
4) гиперболический прогресс – идея о том, что прогресс не просто ускоряется, но достигнет бесконечности за конечное время в ближайшем будущем.
Как отмечает исследователь процессов ускорения прогресса Джон Смарт, по-видимому, первым, кто обратил внимание на постоянное ускорение прогресса и осознал, что оно ведёт к некому фазовому переходу, был американский историк Генри Адамс (1838-1918) в 1890-х годах. В 1904 году он написал эссе «Закон ускорения» (http://www.bartleby.com/159/34.html), а в 1909 – «Закон фазового перехода применительно к истории», в котором утверждал, что в период между 1921 и 2025 годами произойдёт фазовый переход в отношениях между человечеством и технологиями. В этой статье он предполагает, что история подчиняется закону квадратов, то есть каждый следующий период истории по своей длине равен квадратному корню из длины предыдущего периода. Согласно Адамсу, за «Религиозным периодом» в 90 000 лет следует «Механический период» в 300 лет, затем «Электрический период» в 17 лет и затем должен быть «Эфирный период» в 4 года, а затем последует фазовый переход, в ходе которого человечество достигнет границ возможного. С учётом неопределённости в длинах периодов он и получил разброс между 1921 и 2025 годами; не трудно отметить, что верхняя граница совпадает с оценками Винджа о времени наступлении Сингулярности.
Теорию Адамса можно рассматривать и как подтверждение, и как опровержение идей Сингулярности. Опровержение состоит в том, что людям свойственно специфическое когнитивное искажение, которое можно назвать «эффект перспективы», и которое заставляет людей выделять в более близких по времени к ним периодам более короткие значимые отрезки, в результате чего и возникает ощущение ускорения. Однако последующие исследования ускоряющихся перемен старались избежать этой произвольности в выборе значимых отрезков времени, измеряя некие объективные параметры, например, информационную ёмкость систем.
Эпоха Сингулярности начнётся внезапно. То есть некоторое время, десять-двадцать-тридцать лет, всё будет примерно как сейчас, а потом начнёт очень быстро меняться. Если бы у природы была точка зрения, и она наблюдала бы земную историю со скоростью один год за секунду, то для неё эпоха Сингулярности бы уже началась: мир, населённый обезьянами, внезапно и резко трансформировался в мир людей, изменяющих Землю совершенно непонятным до того способом.
