Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Тут мы сталкиваемся с объединением человеческого и компьютерного субстратов. Смартфоны быстро становятся неотделимой частью нас самих. Истеблишмент всегда с подозрением относится к новым способам коммуникации, но эти средства расширения нас самих распространяются очень стремительно. Много чернил ушло на описание близящихся конфликтов между человеком и компьютером, от экономического апокалипсиса с потерей рабочих мест из-за автоматизации до военной антиутопии, кишащей дронами. Вместо всего этого я вижу развитие симбиоза. И ведь на протяжении всей нашей истории, когда начинался новый этап эволюции, будь то появление эукариотических клеток, или многоклеточных организмов, или мозга, старые системы сохранялись, а новые начинали работать вместе с ними, а не вместо них.

Это повод для оптимизма. Если цифровые компьютеры — альтернативный субстрат для мышления и сознания, а цифровая технология развивается экспоненциально, тогда мы стоим на пороге взрывного развития мышления и сознания. Мы можем оседлать эту волну, но сначала нужно принять машину как часть себя, отринуть гордыню и признать нашу общую сущность. В принципе, нам надо бы встречать перемены с любовью, а не со страхом. Полагаю, у нас получится.

Случится ли это? Уже случилось. Технологии хранения и воспроизведения информации постепенно сливаются на атомном и молекулярном уровне, распределенные и сетевые устройства для хранения и воспроизведения информации распространяются в масштабах всего общества и планеты (их численность уже превосходит численность людей на планете). С учетом всего этого определения «машины» и «мышления» теперь должны охватывать и органический, и неорганический «комплексы» и «системные решения» как взаимозаменяемые понятия — механически, биологически, физически, интеллектуально и даже теологически.

В ближайшем будущем развитие биотехнологий и систем сверхчеловеческого алгоритмического прогнозирования приведет к быстрому устареванию многих современных философских представлений о различии между наблюдением, мышлением и решением, а также сделает количественные аргументы бессмысленными. Когда эти барьеры будут преодолены, и разделение между «мыслящей машиной» и «мыслящей биологической системой» сойдет на нет, внимание немедленно сместится на качественные вопросы — человеческие определения интенциональности и субъектности для мыслящих машин.

Что это будет означать для нас? Существование мыслящих машин, организованных в виде неорганической или квантовой структуры либо биологической холархии [117] Холархия — согласно концептуальной системе американского философа Кена Уилбера, иерархия вложенных друг в друга холонов. Холон — система (или явление), которое само по себе является завершенным, но вместе с этим представляет собой часть ещё большей системы. В качестве примера естественной холархии Уилбер обычно приводит цепочку: атомы — молекулы — клетки — организм и т. д. — Прим. ред. , как-то умаляет человеческую субъектность или расширяет ее? Намерены ли мы уточнить определение самих себя, чтобы оно включало не только созданные нами механические системы, но также и независимые, симбиотические системы, уже присутствующие в нас, — триллионы бактерий в наших внутренностях (которые влияют на наше психическое состояние, воздействуя на течение определенных химических реакций) и биохимические трекеры, препараты и аугменталы, которые мы употребляем? Какое значение это будет иметь для полноценного расширения наших «я» посредством мыслящих машин (и расширения в них)?

Однажды появившийся ИИ быстро найдет дорогу к мировой библиотеке — к интернету. И как только он туда попадет, он соединится со множеством квазичеловеческих систем, распределенных крауд-интеллектов и агрегированных мыслящих машин, уже населяющих это пространство, и быстро научится генерировать или симулировать модели непрерывного сознательного мышления, начав изображать найденные там «я» и легко воспроизводя или кооптируя сложные альтернативные личности и неточности, которые характеризуют Сеть.

Определение различий между реальным и нереальным будет самой важной задачей для независимой, эволюционирующей, работающей интеллектуальной системы. Как ее этому научить? В объектно-ориентированной онтологии Вселенная представлена как уже наполненная объектами и свойствами, из которых человеческое сознание составляет имеющие определенный смысл системы. Вот только в чем качественное отличие между спонтанно созданными мыслящими системами (или композитами из объектов и свойств) и искусственно созданными мыслящими системами? Что произойдет, если (или когда) одна из них отвергнет или превзойдет основные философские принципы своих создателей?

Переосмысление природы и роли человеческого мыслящего «я» как самоотчуждающейся, самосоздающейся, самоисправляющейся системы, о точной природе и конкретных задачах которой ведутся споры с начала эпохи Просвещения, будет насущной задачей, связанной с вопросами об общежитии и нашем желании заниматься проблемами моральной определенности и моральных границ независимых систем, воздействие которых на реальный мир нельзя игнорировать.

Такие системы считаются живыми? Каковы их права и обязанности? Поскольку решением Верховного суда США корпорации были уравнены в правах с физическими лицами, мы приняли как должное правовой прецедент, в соответствии с которым не-человек, агрегированная «мыслящая машина», может быть неотъемлемой частью нашей политической и культурной жизни, а вот с четким определением не-человеческих систем в человеческих терминах возникли сложности. Не самой простой задачей будет интеграция сложных и разносторонних человеческих моральных, творческих и репрезентативных мировоззренческих систем в понятный гражданский процесс, который определит способность мыслить как основу гражданственности.

Самым слабым контраргументом против мышления искусственной жизни, часто связанным с гуманитарными дисциплинами, является смутно-средневековое, мистическое представление о том, что человеческого восприятия симметрии и красоты машинам никогда не достичь. В интерпретативных дисциплинах идея о том, что машине никогда не справиться с человеческой работой, это своеобразный символ веры, но на самом деле это всего лишь приятная иллюзия, предполагающая, что незатейливые эстетические стандарты в некотором современном на определенный момент их понимании невозможно кодифицировать и затем симулировать. Машины уже исполняют популярные песни и делают прекрасные фотографии других планет и звезд. Уже есть видеоигры настолько же красивые, как кинофильмы. То, что машина научится писать симфонии или рисовать шедевры, — всего лишь вопрос времени. Возможно, более существенный вопрос, научится ли она создавать великие произведения искусства, наконец достигнув посредством чистой производительности того, чего ни один человек не смог достичь с помощью импровизации. Часть невообразимо огромной и по-новому горизонтально-распределенной сети культурных норм, опирающейся на новые технологии, действительно начала превращаться в то, что Джарон Ланье назвал «мышлением улья», подтверждая тем самым наиболее мрачные культурные прогнозы {14} 14 Karen A. Frenkel, «The Wisdom of the Hive: Is the Web a Threat to Creativity and Cultural Values? One Cyber Pioneer Thinks So», Sci. Amer., February 16, 2010. [Карен Френкель. Мудрость улья: является ли Сеть угрозой творчеству и культурным ценностям? Один киберпионер думает, что да] . Но, как предположил Хайдеггер, опасность непроверенного научного рационализма состоит в том, что наиболее упрощенное определение объекта как «машины» или «системы» можно расширить до универсального масштаба, сделав из него самооправдательный и бессмысленный с моральной точки зрения аргумент в пользу механизации «я». Последовавшие за этим фантазии — живые машины Сэмюэля Батлера [118] Сэмюэль Батлер (1835–1902) — английский писатель, один из классиков викторианской литературы. В отдельных его произведениях поднимается тема эволюции машин, которые вытеснят человеческую расу, приобретя более сильный жизненный инстинкт. — Прим. ред. , мрачный мир искусственной занятости Герберта Уэллса и страх стать компонентами суперсистемы или матрицы — прежде всего показывают несостоятельность человеческого воображения.