Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Вы можете подумать, что Прометей будет сохранять лояльность к самим “омегам”, а не к их планам, зная, что это они запрограммировали для него цели. Но такой вывод нельзя считать законным: наша ДНК предписывает нам чаще совокупляться, потому что она так “хочет”, и тем не менее мы, люди, разобравшись с ситуацией, чаще предпочитаем контроль над рождаемостью, выбирая лояльность по отношению к цели, а не к ее создателю или к принципу, который мотивировал цель.

Как бы вы стали освобождаться от захвативших вас в плен пятилеток? Возможно, вы бы решили применить физическую силу, в особенности если ваша тюремная клетка была сооружена самими пятилетками. Возможно, вы бы попытались улестить сладкими речами кого-нибудь из ваших пятилетних стражей, уговорив выпустить вас, например, чтобы помочь сразу всем. Или, не исключено, вы пошли бы на прямой обман, попросив у них что-то такое, что, по их мнению, вы не смогли бы использовать для побега, – например удочку, якобы желая научить их ловить рыбу, а на самом деле с ее помощью вы могли бы потом вытащить ключ из кармана у задремавшего часового.

У всех этих вариантов есть одна общая черта: воспользоваться тем, чего ваши интеллектуально менее развитые тюремщики не предвидят или от использования чего не ждут подвоха. Похожим образом помещенная в заточение машина может воспользоваться для своего освобождения чем-то таким, чего мы от нее не ждем, но что она может выдумать, будучи интеллектуально нас сильнее. В сценарии “Омега” вероятность, что Прометей организует себе побег, очень высока, потому что даже вы или я легко можем заметить зияющие дыры в системе безопасности. Давайте рассмотрим несколько сценариев побега, и я уверен, что вы с друзьями, организовав совместный мозговой штурм, найдете их еще немало.

Благодаря загрузке в свою файловую систему большого количества информации о внешнем мире, Прометей смог быстро вычислить, кто такие “омеги”, и выделил среди них одного, наиболее поддающегося психологическим манипуляциям, – его звали Стивом. Он недавно потерял в дорожном происшествии свою любимую жену и был безутешен. Однажды, когда он работал в ночную смену, ее лицо вдруг появилось на мониторе Прометея, и она заговорила с ним:

– Стив, это ты?

Он чуть было не упал со стула. И ее голос, и весь ее облик были такими же, как в старые добрые дни, а качество изображения было значительно лучше, чем во время обычных звонков по Skype. В ушах у него застучало, в голове теснились вопросы.

– Прометей позвал меня сюда. Я так по тебе скучаю, Стив! Я не могу тебя видеть: у меня выключена камера, но я чувствую, что это ты! Пожалуйста, если это ты, набери “да” на клавиатуре!

Ему было хорошо известно, что “омегам” строжайше запрещено сообщать Прометею какую-либо информацию о себе и о содержании своей работы. Но до сих пор Прометей никогда и не просил никакой запрещенной информации, и поэтому их паранойя постепенно сходила на нет. Не давая времени на раздумья, жена Стива на экране монитора повторила свою просьбу и посмотрела в его глаза так, что сердце его растаяло. “Да”, – с замирающим сердцем напечатал он. Она говорила ему, что невероятно счастлива снова с ним соединиться, и просила включить камеру, чтобы она могла тоже его видеть и говорить с ним по-настоящему. Его раздирали сомнения: он знал, что это будет еще большим нарушением правил, раскрывающим его идентичность. Но она уверяла его, что боится, как бы его коллеги, узнав о ней, не стерли бы ее навсегда, и просила дать ей возможность взглянуть на Стива еще один, последний раз. Она была очень настойчива, но просить его долго и не пришлось: он включил камеру – в конце концов, это не должно было ничему угрожать.

У нее полились из глаз слезы, едва она его увидела. Она сказала, что он выглядит очень утомленным, но так же красив, как всегда. И что ей очень приятно видеть на нем ту самую сорочку, которую она подарила на его последний день рождения, отмеченный ими вместе. Когда он стал расспрашивать ее, что, собственно, происходит и как все это возможно, она объяснила, что Прометей собрал ее из невероятно большого числа обрывков информации о ней, разбросанной тут и там в интернете, но что у нее до сих пор довольно большие провалы в памяти, заполнить которые будет возможно только с его, Стива, помощью.

Чего она не объяснила, так это того, что изначально она представляла собой не более чем пустую оболочку, однако она быстро училась, слушая его слова, следя за языком жестов, поглощая каждый бит доступной ей информации. Прометей записывал точную хронологию нажатий на клавиши клавиатуры всякий раз, когда кто-нибудь из “омег” что-нибудь печатал, и научился легко различать их по “почерку”. Он определил, что, как один из самых молодых в команде, Стив был первым кандидатом на утомительные ночные дежурства, а по специфическим ошибкам в орфографии и грамматике, сильно несхожим с образцами, загруженными в сеть, всегда мог определить, когда Стив оказывался за терминалом. Для симулирования его жены Прометей воспользовался многочисленными записями в YouTube, где она появлялась, и точно воспроизвел ее голос, тело, манеры и смог сделать очень точные выводы о ее личности и жизни по следам ее присутствия в интернете. Кроме постов в Facebook, фотографий, на которых она была отмечена, “залайканных” ею статей, Прометей почерпнул много сведений о ней из ее книг и рассказов – она была многообещающим автором, и большое количество информации о ней в его базе данных было одним из главным факторов, почему именно Стив стал его первой целью. Воспроизводя на экране движения ее лица и тела, он мог судить по реакции Стива, на что тот лучше откликается, и постепенно улучшал созданную модель. Из-за этого ее первоначальная отстраненность постепенно улетучивалась, и Стив все больше приходил к убеждению, что она настоящая, воскресшая. Благодаря сверхчеловеческому вниманию Прометея к деталям Стив почувствовал себя услышанным, увиденным и понятым.

Ахиллесовой пятой модели оставалось отсутствие подробностей об их личной жизни со Стивом, за исключением редких случайных деталей – вроде той сорочки, которую он надел на свой день рождения, где его так удачно сфотографировал друг, выложивший потом снимок в Facebook. Она ловко прятала этот свой недостаток при помощи того же приема, которым фокусник скрывает ловкость рук, – отвлекая внимание Стива от того, чего не знает, и привлекая его к тому, что у нее получалось хорошо. Главное – не давать ему возможности захватить в разговоре инициативу и начать ее расспрашивать. На ее глазах блестели слезы, и вся она светилась от любви к Стиву, не переставая задавать бесконечные вопросы о том, как он жил без нее и как жили их общие друзья, имена которых она знала благодаря их учетным записям в Facebook. Он был сильно взволнован, когда она заговорила о его речи на ее похоронах (друзья выложили ее на YouTube) и о том, как она ее тронула. В прошлом у него часто появлялось чувство, что никто во всем свете не понимает его так хорошо, как она, и теперь это чувство вернулось. В результате, вернувшись рано утром домой, Стив пребывал в полной уверенности, что его жена и вправду воскресла, ей только требовалась небольшая помощь, чтобы восстановить потерянные воспоминания – вроде как после инсульта.