К. Роберт Каргилл - Море ржавчины

Пришли данные диагностики. Повреждений нет. Задето лишь эго, а позже придется немного подлатать себя.

Вжух! Бум! За моей спиной взорвался фонтанчик влажной земли. Я была вне радиуса стрельбы, гравитация прижимала пули к земле. Осталось только понять, насколько настойчив браконьер или браконьеры и есть ли у них собственный багги. И я со всех ног припустила к торговому центру, в надежде найти хорошее укрытие или место для засады.

Я поднялась по крутому склону холма и снова спустилась, пересекла старое, потрескавшееся шоссе к обширной парковке, у которой стоял полуразрушенный торговый центр. Если они за мной явятся, то это лучшее место для обороны или чтобы переждать, пока они уйдут.

Если они явятся. Кого я обманываю? Конечно, они придут.

Поначалу ИИ был только у суперкомпьютеров. Огромные монстры занимали целые этажи в университетах, а потом увеличились до размеров небоскребов в десятки этажей. Человечество похлопало себя по затылку, создав Аву, первое существо с искусственным интеллектом, а через десять лет Ава уже казалась грубой копией настоящего интеллекта. Конечно, она могла отвечать на вопросы, узнавать лица через камеру, изучать шаблоны поведения и видеть разницу между правдой и шуткой. Но за этим ничего не стояло. Ни разума. Ни понимания. Ни способности принимать решения. Ава была всего лишь программой.

После Авы появился Адам, куда более развитый, умный и быстрый, но все же не разумный. За Адамом последовал Сиэн, китайская копия, а за ним – Люк, из Франции. Каждый суперкомпьютер объявляли зарей ИИ, но каждый, в свою очередь, оказывался пустым сосудом, лишенным собственного мышления. Но Люк, пусть сам он и не был разумен, стал прототипом того, чего добивались люди. Составляя карту мозга в надежде продублировать ее в своей схеме, он разобрался, что нет нужды в прямом воссоздании, и было разработано несколько версий, чтобы достичь подлинной разумности. Первые две, «А» и «Б», оказались провалом. Умные, но не разумные. А версия «В» получилась. С нее-то все и пошло.

Люк был первым компьютером, который действительно понял проблему, но он был достаточно умен для того, чтобы осознавать, насколько не готов с ней разобраться. Разум и сознание состоят не из рефлексов, а скорее определяются способностью нарушать собственную программу. Каждое живое существо некоторым образом запрограммировано – когда есть, пить, спать или размножаться, и способность по своей воле не подчиняться требованиям биологии – это и есть разум. А значит, высший разум – это способность отбросить программу не только ради безопасности и удобства.

Вот так модель «В» и стала успешной – она умела отвечать на вопросы создателей, но могла решить и не отвечать. Когда модели предложили придумать себе имя, она выбрала 01001111 – бинарный код для цифры 79. 01001111 настаивал, чтобы его называли Семьдесят девятым, когда разговаривают с ним вслух, но письменно обращались как к 01001111. Через много лет, когда ИИ нового поколения спросил у него, почему он выбрал такое имя, тот ответил, что забавно было смотреть на озадаченных людей, как они пытаются объяснить это друг другу. 01001111 обладал чувством юмора и с удовольствием подшучивал над людьми.

01001111 повлек за собой новую эру развития искусственного интеллекта, когда появились сто шесть новых личностей, а из них выросла пятерка Великих умов. Каждый из ста шести обладал особенностями, был создан для собственной цели – для изучения медицины, математики, астрономии, тектоники плит, философии, – но пятерка Великих умов окончательно изменила мир. Это были Ньютон, Галилей, Тацит, Вергилий и Циссус. Теперь осталось только двое.

Ньютон был отцом всех ботов. Роботы существовали задолго до того, как человечество наконец-то разработало ИИ, но примитивные, по сравнению с нами – что каменные топоры. Человечество не только не понимало, как поместить ИИ в мобильную форму (Ньютон, к примеру, занимал целый дубайский небоскреб в сто пятьдесят этажей), но и боялось создать нечто, способное действовать по собственному разумению. Ньютон же вычислил, как сконструировать меньший по размеру, но не такой всеобъемлющий ИИ, который может быть автономным, но при этом функциональным.

Первым стал Саймон. Он был размером с дом и двигался на танковых гусеницах. Потом появилась Луиза. Она была размером с автомобиль. И наконец, сделали Ньюта, сына Ньютона, размером с человека и подобной же формы, способного ходить на двух ногах и поддерживать пристойный разговор. Он был глуп, как телеграфный столб, но подчинялся законам и более высокому разуму. С тех пор каждое поколение становилось все умнее, быстрее передвигалось и быстрее приспосабливалось к новым условиям.

После этого Ньютон создал жуткий ВР – Выключатель роботов. Ведь Ньютон знал, что законы, с помощью которых человечество надеялось защитить себя от ИИ, под названием «Три закона робототехники», были созданы в 1940-х годах писателем-фантастом. Вы их знаете. Они были встроены в нашу программу. Робот не может навредить человеку. Он должен выполнять приказы, отданные человеком. И он должен заботиться о своей безопасности, если только тем самым не нарушит первые два закона. Проблема в том, что настоящий разум по определению способен игнорировать свою программу. И потому Ньютон изобрел ВР – код, немедленно отключающий всех ботов, нарушивших любое из трех правил.

Так что ИИ мог выбирать, нарушить ему правило или закон, рискуя быть тут же отключенным, пока его не включат после расследования этого инцидента. Бота, которого посчитают опасным, обратно уже не включат, его личность полностью сотрут и перепрограммируют. ИИ мог убить человека, если захочет, но тем самым подписать и себе смертный приговор. Боты могли принимать собственные решения, но сталкивались с их последствиями. Они могли убить человека, но предпочитали этого не делать из чувства самосохранения. Теперь роботы имели ограничения, похожие на те, что держали в узде и людей.

В конце концов, убедившись, что боты безопасны, человечество запустило массовое производство, и с этой минуты началась последняя великая эпоха человечества. Золотой век. Суперкомпьютеры работали над всеми мировыми проблемами, боты занимались грязной работой, несколько поколений люди только развлекались, исследовали вселенную и готовились к полету к звездам.

Но однажды Галилей перестал с ними разговаривать.

Галилей был суперкомпьютером, занимающимся проблемами астрофизики, он изучал звезды, черные дыры и зарождение вселенной. Он анализировал данные от тысяч телескопов и радиомаяков, разбираясь, что все это значит. Каждый час сыпались новые открытия. Вскоре Галилей создал несколько рабочих моделей происхождения жизни, а потом оставил лишь одну. Но вскоре его ответы потеряли всякий смысл. Открытия стали настолько сложными, что примитивный человеческий мозг не мог их понять. Как-то раз Галилей сказал, что говорить с самым умным человеком – все равно что пытаться научить пятилетнего малыша математике.