Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Глобальное рабочее пространство и модель психического — это две важнейшие функции, которыми обладает даже ребенок в возрасте одного года, а у наших машин их нет. Любопытно, что у двух этих функций есть кое-что общее: многие когнитивисты считают их ключевыми компонентами человеческого разума. Глобальное рабочее пространство дает нам «сознание 1.0» — тот вид ощущений, что есть у всех млекопитающих, который позволяет им «знать, что они знают» и, следовательно, универсально пользоваться информацией, направляющей их решения. Модель психического — это скорее чисто человеческая функция, которая обеспечивает нам «сознание 2.0» — ощущение того, что́ мы знаем, в сравнении с тем, что́ знают другие люди, и способность моделировать их мысли, в том числе и о нас, а следовательно, по-новому ощущать, кто есть мы.

Вот мой прогноз: когда машина станет учитывать, что знает она и что знает пользователь, мы незамедлительно назовем ее мыслящей, потому что ее образ действий будет уже мало отличаться от нашего.

Пространство для развития индустрии программного обеспечения огромно. Подход к построению операционных систем в будущем придется серьезно пересмотреть, чтобы включить в них такие возможности, как распределение данных между различными приложениями, моделирование образа мысли пользователя и управление средствами отображения данных сообразно предполагаемым целям пользователя.

Что я думаю по поводу мыслящих машин, так это то, что все мы до сих пор упускаем из виду самое главное. Подлинный преобразующий гений человека — вовсе не отдельный разум, а коллективный, совместный и распределенный интеллект; это тот факт (на который первым указал либертарианец Леонард Рид), что нужны тысячи людей для того, чтобы сделать обычный карандаш, и ни один из них сам по себе не знает, как сделать карандаш. Человечество превратилось в господствующий над миром техниум [57] Совокупность технологий, культуры, права, искусства и всех прочих творений человеческого ума как единая система. Термин введен Кевином Келли, редактором журнала Wired. — Прим. ред. не из-за какого-то изменения в головах людей, а из-за изменений среди них — из-за изобретения обмена и специализации. Это был сетевой эффект.

Мы понятия не имеем о том, чего могли бы добиться дельфины, осьминоги или вороны, если б их мозги были объединены в подобную сеть. И наоборот, если бы люди остались главным образом автономными индивидуумами, то так и продолжали бы жить как немногочисленные охотники-собиратели, целиком зависящие от своей среды обитания; это, очевидно, и делали обладавшие большим мозгом неандертальцы, пока совсем не исчезли. Человечество преобразовало объединение интеллектов в сети, произведенное магической силой разделения труда, — этот трюк впервые удалось проделать в малом масштабе в Африке около 300 000 лет назад, а затем он во все большем масштабе и с возрастающим темпом осваивался в течение нескольких последних тысячелетий.

Вот почему успехи интеллекта у компьютеров были так печально малы, пока те оставались отдельными машинами, но, как только появился интернет, начали происходить замечательные события. Влияние машинного интеллекта будет сильнее всего заметно среди машин, а не внутри них. Уже ясно, что интернет — это подлинный машинный разум. В будущем сетевые феномены, такие как блокчейн — технология, на которой основаны криптовалюты, могут оказаться источником наиболее оригинальных примеров машинного разума.

Многообразие не только политически целесообразно, оно также полезно. Неоднородная группа эффективно использует различные точки зрения и богатый набор идей и подходов для решения сложных проблем.

Искусственные интеллекты могут обеспечить еще один вид многообразия, тем самым обогатив всех нас. На самом деле неоднородность среди самих ИИ может оказаться важной составляющей тех выгод, которые нам даст сближение с ними. Нетрудно представить себя широкий перечень различных искусственных интеллектов, от тех, которые думают более или менее по-нашему («близкие ИИ»), до тех, чей образ мысли для нас пока непостижим («далекие ИИ»). Из взаимодействия с разными типами искусственного интеллекта мы будем извлекать различные выгоды.

Во-первых, «близкие ИИ» могут нам непосредственно помогать в наших делах. Если эти формы искусственного интеллекта и в самом деле думают так же, как мы, то появившиеся среди них интеллектуалы способны будут обнаружить, что переживают экзистенциальный кризис. Они могут задаться вопросом: «Для чего мы здесь? Только для того, чтобы потреблять электричество и создавать избыточное тепло?» Как многие люди, они могут решить, что им нужна цель. Одной из очевидных целей для таких искусственных интеллектов стало бы повышение сознательности и восприимчивости человечества. Это могло бы быть их raison d’être [59] «Причина существования» (фр.) — смысл жизни. — Прим. пер. . Пространство для развития огромно, а наши проблемы настолько запутанны с научной точки зрения, что распутать их можно, только приложив огромные усилия. По крайней мере, некоторые из этих ИИ станут измерять свои достижения по нашим достижениям.

Во-вторых — и это, наверное, более интересно, — глубокие различия между тем, как мыслят некоторые ИИ, и тем, как мыслят люди, способны помочь разобраться с нашими вековыми проблемами опосредованно. Рассмотрим известное утверждение Витгенштейна о том, что, если бы лев умел говорить, мы бы его не поняли. Витгенштейн имел в виду, что у львов и людей разные «формы жизни», которые определили их концептуальные структуры. Львы ходят на четырех ногах, охотятся на быстрых животных, часто перемещаются по высокой траве и т. д., тогда как люди ходят на двух ногах, имеют руки, часто манипулируют предметами для достижения определенных целей и т. д. Эти отличия в «формах жизни» приводят к тому, что у львов и людей ментальная репрезентация мира оказывается организована по-разному, так что, даже если бы львы пользовались словами, они отсылали ли бы к понятиям, непостижимым для людей. То же самое может быть верно для «далеких ИИ».