«Интертекст»: На пути к всеобщему. Что такое Технологическая сингулярность?

Исходный вариант статьи «Технологическая сингулярность» математик и писатель Вернор Виндж представил на симпозиуме VISION-21, который проводился в 1993 году Центром космических исследований NASA им. Льюиса и Аэрокосмическим институтом Огайо. В 2003 году автор дополнил статью комментариями. Concepture берется разъяснить основные положения знаменитой статьи и разобраться в том, что же такое Технологическая сингулярность.

Писатель-математик

Профессиональные ученые, пишущие твердую научную фантастику – это уже почти целая литературная традиция, и Вернон Виндж тому очередное подтверждение. По основной профессии он профессор математики в университете Сан-Диего, но широкой публике ученый известен скорее как писатель-фантаст, женатый на писательнице-фантасте – Джоан Виндж. Хотя долгое время Вернон и находился в тени славы куда более популярной жены, критики признают, что работы писателя-математика основательнее и серьезнее, чем романы его жены. Первая публикация в научно-фантастическом жанре выходит в 1966 году и получает довольно-таки положительные отзывы, что мотивирует Винджа продолжить пробы пера. Дальше-больше – романы «Мир Гримма» (1969), «Остряк» (1976), цикл «Сквозь Время» (1984-86) и много чего еще.

И действительно, вклад Вернона Винджа в развитие научной фантастики трудно переоценить. Фантаст не единожды становился лауреатом премий «Хьюго» и «Небьюла», и еще ряда менее престижных наград. За свою продолжительную писательскую карьеру он успел повлиять на прародителей жанра «киберпанк», в частности – на Уильяма Гибсона. Например, в рассказе «Соучастник» (1967) Виндж задолго до Гибсона детально описывает концепцию киберпространства и процесс создания трехмерной компьютерной анимации. В другом своем рассказе «Книжный червь, беги!» математик исследует тему искусственно расширенного интеллекта путем подключения последнего непосредственно к компьютеризированным источникам данных.

Но интереснее другое – как писательские изыскания, подкрепленные фундаментальным математическим образованием, вылились в футуролого-философские размышления на тему технологического прогресса и будущего человечества. Весь свой многолетний опыт в вопросах компьютеризации математики и свободного философского исследования Вернон Виндж выражает в статье «Технологическая сингулярность», прочитанной им на симпозиуме VISISON-21 в 1993 году. В данном случае будет использован дополненный Винджем в 2003 году вариант статьи. Текст разделен на четыре основные части: «Что такое Сингулярность?», «Как избежать Сингулярности?», «Пути к Сингулярности», «После Сингулярности». В нашем обзоре будут использованы оригинальные заголовки и обозначены основные тезисы.

Что такое Сингулярность?

Не вдаваясь ни в какие предварительные рассуждения и не совершая исторических ретроспектив, Виндж бросается с места в карьер и формулирует следующий тезис: «ускорение технического прогресса – основная особенность ХХ века». Если верить прогнозам Винджа, современный человек будет свидетелем перемен, сравнимых разве что с появлением на Земле разумной жизни. Причина столь грандиозных прогнозов кроется в предполагаемой Верноном Винджем конечной точке технического прогресса – появлении «сущностей с интеллектом, превышающим человеческий». По его мнению, есть четыре возможных сценария развития событий:

1

Появится сверхчеловеческих интеллект, хотя до сих пор невозможно сказать, насколько конкретные прикладные исследования приблизились к его созданию; 

2

Крупные компьютерные сети, например, Интернет, смогут в какой-то момент осознать себя как сверхразумные существа.

3

Машинно-человеческий интерфейс станет настолько тесным, что это приведет к закономерному росту интеллектуальных способностей человека.

4

Исследования в области биологии приведут к появлению средств, способных временно или постоянно улучшить естественный человеческий интеллект.

В своих философских размышлениях математик опирается на тот факт, что прогресс аппаратного обеспечения, с которым связаны все сценария развития событий, поразительно стабилен. В связи с этим Виндж предполагает, что фундаментальные сдвиги произойдут в ближайшие 30 лет:

«Чарльз Платт заметил, что энтузиасты ИИ делают подобные утверждения уже лет тридцать. Чтобы не быть голословным, отделавшись относительной временной двусмысленностью, позвольте мне уточнить: я [Вернон Виндж] удивлюсь, если это случится до 2005 года или после 2030 года. [Прошло десять лет [с 1993], но я по-прежнему считаю, что указанный срок справедлив.]».

Возникает логичный вопрос: каковы будут последствия укзанного события? На что дается весьма иллюстративный ответ. Прогресс, движимый уже сверхчеловеческим интеллектом, будет идти ускоренными темпами. Изменения будут похожи на эволюционные. С появлением на Земле разумного человека стало возможно решать многие проблемы, связанные с естественным отбором куда быстрее, так как мы действуем не стихийно, а рационально и последовательно. Схожая ситуация ждет человечество в будущем:

«Когда же появится возможность просчитывать эти модели на более высоких скоростях, мы войдем в режим, который отличается от нашего человеческого прошлого не менее радикально, чем мы, люди, сами отличаемся от низших животных».

Логичным последствием неконтролируемого человеком прогресса станет разрушение всех антропологических систем, начиная с социальной и заканчивая аксиологической. «Исходное» человечество окажется в ситуации андердога. Но как же назвать такую ситуацию или событие? Вернон Виндж, обращаясь к словам Джона фон Неймана, некогда высказанных им в диалоге с Стэном Юламом, называет такое событие Сингулярностью.

Но, в отличие от фон Неймана, который имел в виду скорее поступательное и планомерное развитие технологий, Виндж осознает, что сама суть Сингулярности кроется в создании сверхинтеллекта. В противном случае человечество просто застрянет в потребительской парадигме, продолжая создавать инструментальные технические объекты.

Однако, вдруг человечество сможет контролировать и поработить зародившуюся разумную сущность? На каком-то этапе ее развития – да, и это при условии, что данная сущность не появится в одночасье в образе уже сформированного сверхинтеллекта, а будет идти к этому внутреннему состоянию определенное время. Но Виндж отметает подобные рассуждения за несостоятельностью, аргументируя свою категоричность самим понятием «сверхинтеллект», подразумевающим превосходство.

Если все так, как предполагает Виндж, то возникает еще два вопроса. Первый – чего ждать в «эти два-три десятка лет, пока мы движемся к краю»? Второй – как, по словам писателя, Сингулярность «станет утверждаться в человеческом мировосприятии»? Разумным будет предположить, что до тех пор, пока не будет изобретено аппаратное обеспечение, способное поддерживать интеллект, сравнимый по возможностям с человеческим, ожидать резкого технологического скачка не стоит. Но рано или поздно симптомы начнут проявляться один за другим:

«Мы станем свидетелями того, как постепенно будут автоматизироваться задачи все более высокого уровня. Уже сейчас существуют инструменты (программы символической логики, САПР), которые освобождают нас от большинства нудной рутины. Есть и обратная сторона медали: истинно производительный труд становится уделом стабильно сокращающейся узкой элиты человечества. С пришествием Сингулярности мы увидим, как, наконец, сбываются прогнозы о настоящей техногенной безработице».

Но безработица и усиливающаяся общественная сепарация – это лишь признаки близости «События». Важнее другое, что принесет Сингулярность? Вероятно, самую стремительную техническую революцию, ускорение интеллектуальных процессов и полную неизвестность.

Как избежать Сингулярности?

В этой части статьи Виндж пытается представить ситуацию прямо противоположную резкому технологическому скачку. Писатель погружается в легкие, если так можно выразиться, сентенции и задается кантовским вопросом: на что можно надеяться, раз Сингулярность не сулит человеку ничего хорошего? Ответ до безобразия прост. В первую очередь – это аргументы Пенроуза и Серла, постулирующие «непрактичность машинного разума». Во вторую – неразработанность биологической модели сознания, а значит, фактическая неразбериха в вопросах соотнесения нейрофизиологической вычислительной способности мозга и современных компьютерных технологий.

Проще говоря, и в 90-ые и до сих пор остается неясным на сколько (!) порядков вычислительная техника отстоит от главного инструмента Homo Sapiens – мозга. Двух аргументов, кажется, вполне достаточно – сущность проблемы Виндж обнаруживает далеко не в неизвестности или в «непрактичности», а в «неспособности решения проблемы сложности программного обеспечения». Математик пишет:

«Даже если мы сумеем создать компьютеры с чистой аппаратной мощью, вероятно, не получится организовать имеющиеся компоненты таким образом, чтобы машина обрела сверхчеловеческий разум. Для техноманов-механистов это, по-видимому, выльется в нечто вроде «неспособности решения проблемы сложности программного обеспечения». Будут предприниматься попытки запустить все более крупные проекты по разработке ПО, но программирование не справится с задачей, а мы никогда не овладеем секретами биологических моделей».   

Неожиданно, после столь однозначных выводов о невозможности Сингулярности, в тексте проступают еле заметные фаталистические нотки и мысль плавно переходит в другое русло, касающееся уже не аргументов «за» и «против», а того, почему Сингулярность неизбежна. Рассуждая о неподконтрольности соответствующих процессов, Виндж упоминает Эрика Дрекслера, который «оспаривает способность человечества удерживать контроль над столь сверхчеловеческими устройствами, чтобы результаты их работы можно было оценить и надежно использовать». Но он не соглашается с невозможностью контроля как такового. Параллельно профессор математики упоминает «слабую сверхчеловеческую сущность» и «сильную», но не развивает свою мысль. Судя по всему, речь идет об аналогичных серловским понятиях: сильный и слабый ИИ.

Возвращаясь к проблеме неподконтрольности, Виндж озвучивает идею об искусственном ограничении сконструированной сверхчеловеческой сущности. По мнению автора, любые правила, достаточно строгие, чтобы быть эффективными, возымеют эффект. Яркий пример – законы роботехники Азимова.

Впрочем, для теоретических рассуждений интересным видится развитие событий в направлении к Сингулярности, а не от нее. В частности, Вернона Винджа волнует то, насколько жестокой станет постчеловеческая эра. И, надо сказать, пессимистичность и мрачность предположения совсем не радует. Одним из возможных исходов является физическое вымирание человечества. Тем не менее, вымирание – не самое страшное, что вероятно выпадет на долю человечества. Худшие из сценариев связаны с «технологическим рабством» или нивелированием нашего статуса свободных и разумных существ:

«В постчеловеческом мире по-прежнему останется множество ниш, в которых эквивалентная человеческой автономность будет востребована: встроенные системы в самоуправляющихся устройствах, автономные демоны низшей функциональности в более крупных разумных существах <…> Некоторые из таких человеческих эквивалентов могут использоваться исключительно для цифровой обработки сигналов. Прочие могут остаться весьма человекоподобными, хотя и специализированными, с узким профилированием, из-за которого в наше время их поместили бы в психиатрическую клинику».   

Хочешь счастливого постчеловеческого будущего, помни о кантовской максиме – «поступай так, чтобы максима твоей воли могла в то же время иметь силу принципа всеобщего законодательства». Или, как перефразировал немецкого классика Ирвинг Гуд: «Обращайся с братьями меньшими так, как ты хочешь, чтобы старшие братья обращались с тобой». Но в действительности все куда сложнее. Непонятен характер фазового перехода: будет ли он «тихим» или «резким». Каковы реальные перспективы постчеловеческой эры? И абсолютно неизвестной остается вероятная природа сверхинтеллекта.

Пути к Сингулярности

Как и следует из подзаголовка, третья часть призвана обрисовать определенные траектории в области практико-теоретической разработки сверхинтеллекта. Справедливости ради стоит отметить, что современные исследования в области ИИ отчасти пересекаются с тем, что предлагает Вернон Виндж. А предлагает он уйти от бесполезных попыток конструирования искусственного интеллекта и пойти по пути УИ, то есть усиления интеллекта. В самом деле, никакой практической пользы от бесполезных попыток выяснить и четко определить истинную сущность сознания не будет. Прагматичнее создавать некие гибридные формы, базирующиеся на определенных моделях, например, нейронные сети, столь популярные сегодня. Как предполагает автор, есть несколько проектов, которые приобретают особое значение в свете концепции УИ:

Автоматизация человеко-машинной связки

Речь идет об усложняющихся машинных интерфейсах, работающих с набором человеческих интуиций. Сама возможность максимально автоматизированного и скоростного интерфейса видится достаточно яркой иллюстрацией к концепции УИ.

Симбиоз машины и человека в искусстве

Объедините способности художника и машины, и получите нечто невероятное – технологически подкрепленное произведение искусства.

Мобильные интерфейсы

В данном случае имеется в виду далеко не экраны смартфонов или планшетов. Под «мобильными» понимаются такие типы интерфейсов, которые позволят человеку пользоваться устройством без привязки к рабочему месту. Например, нечто подобное можно наблюдать в серии фильмов «Железный человек». Отголоски схожей технологии видны в тенденции к синхронизации данных на разных устройствах под одной ОС.

Симметричные системы поддержки решения

Утилиты, или, точнее, целые интеллектуальные подсистемы, способные оказывать конструктивную помощь в принятии решения конечному пользователю, определенно стоит считать одной из форм УИ. Но Виндж предостерегает предполагаемых создателей от явного доминирования программного обеспечения и советует уравновешивать права пользователя и программы.

Местные сети или groupware

ПО, которое повысит эффективность работы отдельной группы. Как пишет сам Виндж, «цель такого предложения может заключаться в изобретении «Устава» для таких комбинированных операций». Закономерным результатом пользования groupware станут более тонкие формы контроля и изоляции эгоистических целей отдельных индивидуумов, а значит, повышение КПД в целом.   

Интернет

Всемирная сеть развивается неимоверными темпами, а самое главное, все процессы, связанные с глобальной паутиной, неподконтрольны человеку. Потенциал огромен и траектории движения предсказать почти нереально. Виндж отмечает, что: «мы наблюдаем нечто похожее на представление Линн Маргулис о биосфере как своего рода конспекте процессора данных, только с в миллион раз большей производительностью и с миллионами разумных человеческих агентов (нас самих)», а значит, именно Интернет на данный момент – главный претендент на звание «сверхчеловеческий интеллект будущего».

Протезирование

По мнению автора – это прекрасная возможность для наращивания человеко-машинного потенциала, который в будущем, возможно, приобретет некое системное качество и окажет влияние на ускорение технологического прогресса.

Прямые каналы связи с мозгом

Ну, все очевидно. Чем непосредственнее человеко-машинная связь, тем она быстрее и эффективнее, к тому же у подобной технологии большой социальный потенциал. Например, помощь парализованным людям или инвалидам в процессах коммуникации. 

Оптическая магистраль

Оптоволокно – это уже совсем не фантастика, а трудовые будни. Но Виндж, конечно же, имеет в виду нечто другое. Писатель-математик говорит не о сверхскоростном интернете, который уже в 2004 году был доступен, а о подключении оптической связи напрямую к мозгу – «Простое вживление сети широкополосных приемников в мозг определенно ни к чему не приведет. Однако предположите, что такая нейросеть уже присутствовала в структуре мозга на стадии эмбрионального развития» ­– наверняка скорость обработки данных и эффективность самого процесса будут поражать воображение.

Вернон Виндж не просто так намечает определенные ориентиры и пытается дать альтернативные варианты для работы в области конструирования «сверхчеловеческого интеллекта». Но чем больше возможных путей решения, тем более непредсказуем результат. Потому некоторые из альтернатив самому Винджу кажутся «довольно устрашающими». В УИ для человека писатель видит явную угрозу технологического апартеида и задел на элитарно-сословную структуру постчеловеческого социума. Так что, как говорится, «семь раз отмерь, один раз отрежь».

После Сингулярности

Человечество благополучно спланировало Сингулярность, справилось со всеми подводными камнями. «И что в итоге?» – спрашивает Виндж. Светлое будущее? Вечный прогресс и бессмертие? Допустим, все так, и человек станет наследником самого себя, а всем немодифицированным и неизмененным будет уготовано «бережное» отношение и особый социальный статус «культурного наследия». Но в этом лучшем из миров даже философские проблемы станут устрашающе неразрешимыми:

«Разум, замкнутый в одних и тех же границах, не способен жить вечно, спустя несколько тысяч лет он станет напоминать, скорее, бесконечно повторяющуюся закольцованную пленку, нежели личность. (Наиболее жуткую картину чего-то подобного нарисовал в "Этике безумия" Ларри Найвен). Чтобы жить неограниченно долго, сам разум должен расти. А когда он разрастется до поистине исполинских размеров и оглянется в прошлое, какие родственные чувства он сможет испытывать по отношению к тому, чем он являлся изначально?».

Хороший вопрос, но проблема бессмертия проявляется куда более непосредственным образом. Современная научная, социальная, философская и вообще любая парадигма держится на декартовских понятиях о рацио. В условиях постсингулярной эпохи скоростные и пропускные возможности сверхпроводящих сетей станут просто запредельными. А значит, чисто теоретически вероятным кажется такой расклад: части личности, характерологические черты, психические особенности, воспоминания, эмоции станет возможно копировать, передавать подобно файлам. Дальше-больше – объем самосознания или тип мышления будет тонко настраиваться в зависимости от поставленной или выполняемой задачи. О каком рацио или эго в таких условиях вообще может идти речь? Еще один «хороший» вопрос.

В конце концов, видится совершенно невозможным предугадать или предположить, «каким» будет постчеловеческое будущее. Винджу оно кажется настолько иным и чуждым, что любые предположения ломаются о барьер тотального непонимания вероятных перспектив. Так что остается только ждать.

Рекомендуем прочесть:

1. Вернон Виндж – «Книжный червь, беги!».

2. Вернон Виндж – «Соучастник».