Марк О’Коннелл - Искусственный интеллект и будущее человечества

Раньше в погоне за этой навязчивой идеей, устремлением, которое на тот момент еще не вышло за пределы Интернета в так называемый реальный мир, я натолкнулся на странный и провокационный текст, озаглавленный «Письмо к Матери-Природе». Как и предполагает название, это своего рода эпистолярный манифест, обращенный к антропоморфной фигуре, – для большей ясности, к той, которой часто приписывают создание мира и природы и покровительство над ними. Начинается этот пассивно-агрессивный текст с благодарности Матери-Природе за ее, по большей части, основательно проделанную работу над проектом человечества вплоть до нашего времени и воспитания нас от простых самовоспроизводящихся организмов до многоклеточных млекопитающих, способных к самосознанию и сопереживанию. Затем тон письма плавно меняется на обвинительный, и автор вкратце излагает некоторые наиболее очевидные моменты некачественного функционирования рода Homo sapiens – среди них уязвимость к болезням и травмам, смертность, способность жить только в определенных условиях окружающей среды, ограниченная память, заведомо слабый самоконтроль.

Автор, обращаясь к Матери-Природе от имени коллективного разума ее «амбициозных человеческих потомков», предложил в общей сложности семь поправок к «человеческой конституции». Мы больше не согласимся жить под тиранией старения и смерти и при этом будем использовать биотехнологии, чтобы «вооружить себя повышенной выживаемостью и ликвидировать старение». Мы усовершенствуем наши познавательные способности и проницательность посредством технологических улучшений органов чувств и нейронных возможностей. Больше мы не будем мириться с волей слепой эволюции – скорее мы будем «стремиться к исчерпывающему набору телесных форм и функций, совершенствуя и укрепляя физические и интеллектуальные способности, делая их выше, чем у любого человека в истории». Мы больше не будем довольствоваться ограничениями своих физических, интеллектуальных и эмоциональных способностей, сохранившихся от углеродных жизненных форм.

Это «Письмо к Матери-Природе» было самым ярким и провокационным заявлением о трансгуманистических принципах из тех, с которыми я сталкивался, его эпистолярная самонадеянность затронула во мне что-то весьма важное, сделав это движение таким необычным и убедительным для меня. Такие прямолинейность и дерзость подтолкнули гуманизм эпохи Просвещения к радикальным крайностям, которые грозили уничтожить движение полностью. Я словно ощущал некоторый аромат безумия всей этой истории – такого безумия, которое отражало нечто основополагающее об истоках всего. Как я узнал, письмо было работой человека, широко известного в профессиональных кругах, – Макса Мора – оксфордского философа, одной из ключевых фигур трансгуманистического движения.

Не было никого, как я понял, кто бы принял канонический вариант трансгуманизма, но чем больше я читал о нем и чем больше узнавал его последователей, тем больше понимал, что трансгуманизм основан на механистическом взгляде на человеческую жизнь: человеческие существа – это устройства, и наш долг и наша судьба – стать лучшими версиями себя: более эффективными, более мощными, более полезными.

Мне бы хотелось понять, что значит думать о себе и, в более широком смысле, о человеческом виде в таких инструменталистских терминах. И мне бы хотелось узнать более специфические моменты: например, как можно стать киборгом, как можно загрузить свой разум в компьютер или какое-то другое устройство, чтобы существовать вечно в виде кода. Я хотел бы узнать, что означает подумать о себе как о ни больше ни меньше сложном информационном паттерне, как о коде; что роботы могут рассказать нам о понимании самих себя и об устройстве нашего тела; что оправдается с большей долей вероятности надежда на искусственный интеллект или уничтожение человечества. Я хотел бы узнать, каково это – иметь веру в технологию, достаточную, чтобы не сомневаться в перспективе собственного бессмертия. Я хотел бы узнать, что значит быть машиной или думать о себе как о таковой.

И, уверяю вас, на своем пути я пришел к некоторым ответам на поставленные выше вопросы. Но, должен сказать, в процессе расследования «что значит быть машиной» я оказался сбит с толку гораздо больше, чем когда пытался понять, что значит быть человеком. Поэтому более целеустремленных читателей следует предупредить, что данная книга – настолько же исследование всей этой неясности, насколько и анализ полученных знаний.

В широком смысле трансгуманизм – это освободительное движение, выступающее ничуть не меньше, чем за полное освобождение от самой биологии. Есть другой взгляд на этот счет: равнозначная противоположная интерпретация, которая заключается в том, что такое кажущееся освобождение в действительности есть не что иное, как окончательное и полное порабощение технологиями. По мере погружения в тему мы будем брать во внимание обе стороны этой дихотомии.

Несмотря на крайности некоторых целей трансгуманизма – например, слияние технологии и тела или загрузка разума в машину – вышеупомянутая дихотомия, как мне кажется, выражает нечто основополагающее о нашем времени, в котором мы систематически наблюдаем, как технологии меняют все к лучшему, и признаем, что приложения, или платформы, или устройства делают мир немного удобнее. Если у нас есть надежда на будущее, если мы думаем, что у нас есть будущее, то это во многом основывается на том, чего мы можем добиться с помощью наших машин. В этом смысле трансгуманизм – это усиление существующей тенденции, уже присущей большей части того, что мы называем массовой культурой, в том, что мы вполне можем с таким же успехом назвать капитализмом.

Неизбежная реальность вышеупомянутого момента в истории заключается в том, что мы с нашими технологиями возглавляем огромный проект по уничтожению, беспрецедентному разрушению мира – мира, который мы вдруг стали считать своим. Планета, как нам говорят, входит в шестое массовое вымирание: еще одно грехопадение, еще одно изгнание. Кажется, слишком поздно в этом раздробленном мире говорить о будущем.

Таким образом, к трансгуманизму меня привлекла парадоксальная сила его анахронизма. Несмотря на то, что трансгуманизм представляется решительно ориентированным на видение мира будущего, почти ностальгически вспоминается человеческое прошлое, в котором радикальный оптимизм казался вполне жизнеспособной позицией по отношению к будущему. В том будущем, которого трансгуманизм с нетерпением ожидает, он так или иначе всегда будет обращен в прошлое.

Чем больше я узнавал о трансгуманизме, тем больше осознавал, что при всей своей очевидной крайности и странности он тем не менее оказывает определенное формирующее давление на культуру Силиконовой долины и на представление технологий в мировой культуре в целом. Влияние трансгуманизма ощутимо в фантастической приверженности многих технических предпринимателей идее радикального продления жизни – к примеру, в финансировании различных проектов о продлении жизни Питером Тилем, соучредителем платежной системы PayPal и инвестором Facebook, или в создании Calico, дочерней компании Google по биотехнологиям, нацеленной на поиск решений проблемы старения человека. Влияние этого движения также было заметно во все более яростных предупреждениях Илона Маска, Билла Гейтса и Стивена Хокинга [1] Стивен Хокинг (1942–2018) – физик-теоретик, космолог, популяризатор науки. Автор таких бестселлеров, как «Краткая история времени. От Большого взрыва до черных дыр» и «Теория всего. От сингулярности до бесконечности: происхождение и судьба Вселенной» ( прим. ред. ). об угрозе уничтожения нашего вида искусственным интеллектом, не говоря уже о назначении Рэймонда Курцвейла, первосвященника технологической сингулярности, техническим директором Google. Я видел след трансгуманизма в претензиях, подобных заявлению главного исполнительного директора Google Эрика Шмидта, предположившего, что «когда-нибудь у вас будет имплантат, который, если вы просто подумаете о чем-либо, подскажет вам ответ». Эти люди – все они были людьми до мозга костей – говорили о будущем, в котором человек сольется с машиной. Они говорили каждый по-своему о постчеловечестве и о будущем, в котором технокапитализм переживет своих создателей, найдя новые формы, в которых увековечит себя, оправдав возложенные на него надежды.