Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Чем больше решений мы оставляем машинам, тем сложнее становится вернуть контроль в свои руки. В мире, где беспилотные автомобили стали нормой, в результате чего дорожный травматизм сократился почти до нуля, человек, желающий сам вести автомобиль, будет считаться безответственным, возможно даже преступником. Станет ли нежелательным делать вложения в предприятия, которые не укладываются в статистически определяемые рекомендации? Обучать детей такими методами, в отношении которых установлено, что они ведут к снижению средней продолжительности жизни или среднего дохода? Если да, то будут ли ценности, которые плохо поддаются машинной репрезентации, к примеру «достаток», заменяться чем-то, что коррелирует с определенными количественными показателями, такими как уровень серотонина и дофамина? Легко упустить из виду скрытый авторитаризм, скрывающийся за такой интерпретацией ценности, однако любое общество, стремящееся к хорошим результатам, должно определиться с мерой добра — и эта задача будет тяготеть над нами, пока у нас не появятся мыслящие машины и не помогут нам ее как следует обдумать.

В этом тексте я исхожу из того, что обладающие сознанием разумы функционируют в соответствии с законами физики и способны действовать на субстратах, отличных от нервной ткани, находящейся у нас между ушами, и что, следовательно, могут быть созданы сознательные искусственные аппараты, которые станут еще более сознательными и разумными, чем люди, и что тогда, соответственно, человеческий мозг станет пережитком прошлого, неспособным конкурировать с новыми психическими сверхмощностями.

Данная конкретная мыслящая биомашина, относящаяся к отряду приматов, думает, что развитие искусственных сверхразумов — хорошая идея. Хоть у нашего вида и есть положительные черты, Homo sapiens определенно является весьма ограниченной, неудачно сконструированной (силами биологической эволюции) системой, наносящей тяжелый урон родной маленькой планете, несмотря на то что планета наносит столь же тяжелый урон в ответ: например, болезни убили около половины из примерно 100 миллиардов детей, рожденных до настоящего момента. Попытки навсегда сохранить человеческие существа в том виде, в котором они существуют сейчас, — это природоохранный проект, бросающий вызов эволюционным процессам, в рамках которых виды постоянно появляются и исчезают, сменяя друг друга. Нет никаких априорных доводов в пользу предположения, что мы уникальные, что заслуживаем особой защиты, тем более если наши преемники способны на сознательное и самосознательное мышление.

Но, по правде говоря, то, что мы думаем по этому поводу, не так уж важно; человечество на самом деле не контролирует ситуацию. Давным-давно — в 1901 году, когда родилась моя бабушка, — построить летающую машину было так сложно, что это не удавалось сделать никому. Теперь же необходимые технологии настолько доступны, что вы можете построить самолет у себя в гараже. Давным-давно — незадолго до моего рождения — мы не разбирались в структуре ДНК. Теперь же ученики начальной школы проводят эксперименты с ДНК. Пока технологий, необходимых для создания небиологического сознательного разума, нет. В определенный момент широко распространенные технологии обработки информации, вероятно, станут настолько сложными, что создание мыслящих машин будет не такой уж сложной задачей. Многие люди захотят создать кибернетический разум и/или стать им, невзирая на мнение остальных и на законы и правила, которые могут принять правительства в тщетных усилиях предотвратить такое развитие событий.

В конце концов, вся эта модная болтовня про кибернетическую революцию, часто называемую сингулярностью, настолько же безосновательна и категорична, что совсем не отличается от совершенно бесполезных споров, которые велись в 1800-х годах по поводу осуществимости, целесообразности и значения строительства механических летательных аппаратов. Что бы мы сейчас ни говорили, это не будет иметь особого значения, потому что если технология не появится, то сверхразумы не станут ни проблемой, ни преимуществом; а если технология появится, то, так или иначе, будут разработаны новые мыслящие машины, и они заберут планету себе, нравится нам это или нет.

Если такое случится, то вопрос будет не в том, что мы думаем по поводу мыслящих машин, а в том, что они думают по поводу старомодных человеческих разумов. Чего не нужно бояться, так это порабощения несчастных людей их кибернетическими преемниками. Люди слишком беспомощны и неэффективны, чтобы разумные роботы решили их эксплуатировать. Даже сейчас корпорации пытаются сократить число работников, избавляясь от приматов с большим мозгом. Для человеческих разумов останется один способ избежать устаревания: слиться с кибернетической цивилизацией, загрузив исчерпавший лимит роста биологический мозг в быстро развивающийся кибернетический. Это, может быть, и к лучшему. Если высокоразвитый интеллект сумеет выбраться из миллиардов человеческих тел, тяжелым бременем висящих на экосистеме планеты, биосфера вполне может снова стать такой же живой, какой была до нашего появления.

Находящаяся за рамками серьезных научных обсуждений широкая общественная полемика по поводу мыслящих машин сильно перегружена новой мифологией. В ней есть две основные догмы. Первая состоит в том, что в момент сингулярности пробудится некий синтетический дух, значительно превосходящий по силе человеческий разум. Вторая пугает нас тем, что мыслящие машины одержат верх над человечеством и в конечном счете уничтожат его. При этом обе догмы игнорируют тот факт, что в основе полемики лежит история Джона Генри.

В фольклоре конца XIX века есть персонаж — молотобоец Джон Генри, который погиб, победив в состязании с паровым молотом во время строительства Западно-Виргинской магистрали. «Белые воротнички» и работники умственного труда сейчас сталкиваются с тем, что машины превосходят их в эффективности благодаря развитию искусственного интеллекта. В данном случае ИИ по большей части — синоним цифровой производительности. Все это, конечно, не столь увлекательно, как ожидание сингулярности или конца света. В то же время реальное положение дел с ИИ не так приятно, как представление о том, что если правильно пользоваться машинами, то они всегда будут верно служить своим хозяевам.