Коллектив авторов - Полдень, XXI век (апрель 2012)

Вопрос о качественном скачке в развитии техники упирается в создание машин, могущих исполнять творческие функции человека. Названия у таких машин уже есть – искусственный интеллект. ИИ должен самостоятельно пополнять набор своих знаний, овладевать новыми методами, оперировать в нечетких ситуациях, адаптироваться.

Запрос на подобную машину во все века был чрезвычайно велик, и пока ее создание было явно невозможным, желания людей выражались в сказках и философских трактатах. Как только возникла самая призрачная возможность создать разумного работника, в подобные проекты стали вкладывать средства.

Например, как вкладывают в САПР, стремясь превратить эту систему в инструмент с максимально широкими возможностями. Требуются программы – секретари и делопроизводители. Уже сейчас есть сканеры, которые могут распознавать содержимое документов, есть аналитические программы, которые частично понимают содержание документов. Если же вспомнить армейскую проблематику, то здесь берут на вооружение вообще все, что позволит заменить человека. И не только потому, что жалко людей, – человек попросту неэффективен. Труслив, ленив, невнимателен, косорук. Бывает, что храбр, инициативен, находчив и удачлив, но реже.

Закон Мура действует исправно, и мощности суперкомпьютеров двадцатилетней давности сейчас никого не впечатляют. То, что вчера было прорывом, сегодня есть в любом доме. Следовательно, за сравнительно короткий исторический промежуток времени ИИ, созданный на передовых машинах, на суперкомпьютерах, сможет интегрироваться во всемирную паутину. Техносфера приобретет качества самоуправления, самоорганизации.

Это как раз то, что в рамках трансгуманизма принято называть «сингулярностью».

Каково же будет качественное изменение отношений между человеком и техносферой в случае создания ИИ?

Это будет переворот отношения к человеку, причем самый страшный из всех, бывших до того. По И. Канту, человек должен быть не средством, а целью. Но парадокс в том, что пока Homo sapiens остается средством – неизбежно приходилось делать его и целью. Если государство стремится послать солдата на войну, надо ждать хотя бы пятнадцать лет от момента его рождения. Допустим, человек перестанет быть средством, – ни его тело, ни его аналитические способности, ни его эмоции уже не смогут выступить на рынке первосортным товаром. Машины все сделают лучше. В этом случае целью человек будет оставаться только по инерции, за ним останется лишь роль потребителя.

И статус потребителя, как финальной причины существования техники, вовсе не спасает человека от деградации.

Сейчас уже никто не желает учить сведения, которые в любой момент, при ничтожных усилиях можно получить в Интернете. То есть от необходимости знать, где в какой книге находятся ответы, люди переходят просто к умению грамотно формулировать вопрос. За этим почти неизбежно последует новый шаг – формулировать свои пожелания. Но если личный микрокосм человека будет состоять из элементов, поставляемых поисковой системой, и если программа будет указывать лучшие варианты решений, – то даже «слабый» ИИ станет лучшим кормчим в этой искусственной вселенной. Несколько сгущая краски, можно сказать, что характер ребенка сформируется в зависимости от свойств поисковой системы и программы-опекуна – ведь даже родители станут полагаться на почти безошибочные советы компьютеров.

В не самой приятной перспективе мы получаем симбиоз – человек не сможет создавать никаких других смыслов жизни, кроме тех, что уже заданы ему необходимостью потребления. Его личный микрокосм состоит только из элементов, смоделированных компьютером, а решения в этом микрокосме принимаются только по калькам компьютерных решений. Человек становится неким полумагическим элементом, который живет вроде бы для себя, но уже и для техносферы. А техносфера, еще будучи не в состоянии осмыслить сама себя, использует человека как замыкающее звено ее причинно-следственных связей.

Каков может быть ответ человека на все эти потенциальные угрозы?

Микрочипы в крови или укрепленные микроволокном кости скелета, или усовершенствованные хрусталики глаз – дадут лишь очередного «супермена». Но сознание человека мало изменится. Даже нейрошунт, устройство, которое позволит нервной системе напрямую воспринимать информацию от компьютера, здесь не поможет.

Основное требование для сохранения за человеком его статуса – это неограниченные возможности роста его умственных способностей. Лишь обретя возможности по самосовершенствованию, присущие сейчас компьютерам, человек, как субъект, останется во главе техносферы. Так сказать, на вершине пищевой (интеллектуальной) пирамиды.

Подобную трансформацию называют перекачкой (или преображением ) – сознание человека оцифровывается и переводится в машину. Идея далеко не нова, неоднократно «обкатывалась» в фантастической литературе. Она, понятно, является весьма спорной по этическим и религиозным соображениям.

Но оцифровка человеческого сознания и создание ИИ – это две стороны одной медали. Если ИИ будет создан на фоне значительного отставания в технологиях работы с мозгом, то люди теряют свое место на вершине техносферы. Самое грустное, что для этого надо просто оставить все как есть: конкурентная борьба и войны обеспечат появление ИИ – ведь в бесплатных и сообразительных работниках нуждаются практически все. Если же будет создана технология преображения, то человечество раскалывается на тех, кто может себе позволить перенос, и всех остальных, – этот вариант блестяще показал Р. Желязны в романе «Князь света».

Основное противоречие, которое вскрывает данная работа, – это противоречие между созданием искусственного интеллекта и оцифровкой сознания.

И у преображенных будут свои проблемы. Основная из них – самотождественность личности. Человек переживает множество психологических кризисов в детстве, но там есть привязка к обществу, к подобным ему, в конце концов – к собственному телу. С какими кризисами столкнется сознание после преображения – сказать очень тяжело. Программное состояние психики позволит человеку свободно перестраивать собственную личность, и эта личность будет непрерывно развиваться. Цифровое самосовершенствование – принципиально новая степень свободы.

Самые известные (или самые одиозные) трансгуманисты называют 2030-е годы [2]наиболее вероятным временам технологической сингулярности. Эти прогнозы могут не сбыться. Как не сбылись в полном объем прогнозы о быстром создании программ-переводчиков, о конструировании ИИ еще в 70-х гг. XX века и множество других оптимистичных предположений. Но даже если к созданию полноценного самосовершенствующегося ИИ человечество подойдет в 2050-60-х – это будет означать коренное изменение человеческой истории.