Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Теперь о том, что касается личной идентичности. Технологический конструкт идентичности и ее социальный конструкт отличаются друг от друга и имеют различные подразумеваемые социальные контракты. Социальный конструкт идентичности включает качества несовершенной человеческой памяти, которые делают возможным прощение, забывание, покаяние и обновление. Память машины, напротив, идеальна и может выступать в качестве постоянного свидетеля-регистратора, никогда не забывающего и не прощающего, всегда способного воспроизвести даже мельчайшую деталь. Технология сама по себе имеет двойное назначение, то есть она может быть применена как во благо, так и во вред. Идеальная машинная память становится инструментом тирании, только когда ее заново импортируют в человеческие социальные системы, но это не обязательное условие. Такая новая «перспектива от четвертого лица» может стать невероятно полезной для самонаблюдения и повышения умственной производительности человека.

Эти примеры демонстрируют, что машинная культура, ценности, функционирование и экзистенциальные модусы уже отличаются от наших, что указывает на необходимость искать такие формы взаимодействия, которые бы способствовали выживанию обеих сторон и расширяли их возможности. Чтобы создать мир интеллектуального многообразия, необходимо обеспечить плюрализм и построить доверительные отношения. Технология блокчейна — децентрализованный, распределенный, глобальный, перманентный, криптографический журнал учета обработки транзакций и «умных» договоров — это один из примеров построения доверительных отношений. Систему можно использовать как при взаимодействии между участниками-людьми, так и при межвидовом взаимодействии именно потому, что неважно, знаете ли вы другую сторону договора, доверяете ли ей, понимаете ли, что это за сущность; важен только код (язык машин).

Доверие имеет свойство возрастать с течением времени благодаря репутации. Технология блокчейна может быть использована для укрепления дружественных отношений с ИИ и взаимовыгодного межвидового взаимодействия. Когда-нибудь важные транзакции (например, аутентификация личности и перевод средств) будут выполняться в «умных» сетях, требующих подтверждения независимыми механизмами согласования, такими, которые допускают выполнение только добросовестных транзакций, исходящих от обладающих хорошей репутацией сущностей. Хотя, возможно, децентрализованные «умные» сети наподобие блокчейнов не решат проблему дружественного ИИ полностью, они все же представляются системой сдержек и противовесов, помогающих обеспечивать более надежное разрешение неопределенных ситуаций.

Межвидовые модели построения доверительных отношений для взаимодействия с цифровым интеллектом включают как сдержки и противовесы из теории игр вроде блокчейнов, так и, на более высоком уровне, системы взглядов, располагающие разные сущности на одной плоскости разделяемых ими задач. Это системы более высокого порядка, нежели «умные» договоры или соглашения, в рамках которых делаются попытки внедрения этики; требуется изменение типа мышления. Проблематика машинного и человеческого интеллекта не должна ограничиваться только дружественностью или недружественностью отношений, напротив, надо относиться к разным сущностям как к равным, ставить их в одинаковые условия и ценностные системы в плане наиболее важных параметров, таких как рост. В мышлении для людей и машин важнее всего то, что оно ведет к формированию идей, развитию и росту.

Чего мы хотим и для людей, и для машин, так это возможности накапливать опыт, развиваться и делать больший вклад в общие задачи в рамках симбиоза и синтеза. Объясню это так: все сущности располагаются на шкале способности к индивидуации (способности расти и полностью реализовывать свой потенциал). Для лучшего взаимодействия между разумными видами потребуется общая система возможностей, благоприятных для роста, в том числе взаимного роста.

Нам нужно подумать о том, что мы хотим большего взаимодействия между мыслящими машинами как в количественном или рациональном выражении, так и в качественном: мы хотим расширить наш внутренний опыт, восприятие себя и реальности, развиваться вместе в огромном пространстве возможностей интеллекта.

Создать мыслящую машину — это как отправить человека на Луну: эффект будет прямо противоположен всеобщим ожиданиям. Программа «Аполлон» не стала началом космической эры для всего человечества. Она привела к чему-то более важному — к началу эры Земли. Мы оставили свой дом, чтобы исследовать Вселенную, и впервые по-настоящему открыли то место, откуда пришли. Изображение нашей планеты в лунном небе стало каноническим символом для экологического и глобалистского движения.

Мыслящие машины ознаменуют большие перемены в нашем понимании вещей более утонченных и чужеродных, чем ИИ, — в понимании нас самих. Если мы научим машины мыслить, мы приблизимся к пониманию, кто мы такие и как мы мыслим. Мы делаем это не так, как сами об этом думаем. Большая часть нашей активности в плане высокоуровневой обработки информации нами вообще не осмысливается. Мы просто это делаем. Ребенку угрожает опасность, и мы действуем незамедлительно. Лишь потом мы начинаем обдумывать ситуацию. В нашем разуме появляется мысль — прекрасная, светлая, захватывающая мысль. Она просто есть. Мы о ней не думали, пока она не стала мыслью.

Мы не сознаем большую часть информации, которую обрабатываем в процессе мышления. Все это происходит бессознательно, в нашем разуме, в нашем теле. Раз — и готово. Нас даже нельзя назвать разумными в смысле логичности или явного следования дедуктивному принципу. Мы действуем быстро, интуитивно и эмоционально.

Экономисты считают, что мы являемся Homo economicus — эгоистичными, рациональными, действующими обоснованно в собственных интересах. Но большинство экономических и социальных взаимодействий имеют отношение к справедливости, доверию, коллективизму и долгосрочным отношениям. Экспериментальная экономика показывает, что, когда мы действуем непосредственно и незамедлительно, мы социальны и отзывчивы. Только когда мы начинаем задумываться хоть на несколько секунд, мы становимся эгоистичными.

Только если не имеем дело с компьютерами. Когда мы играем в экономические игры с соперниками-машинами, мы склонны быть холодными и эгоистичными. Можно даже измерить, как различаются кровообращение в мозгу и уровень гормонов в крови. Мы думаем о машинах так, как экономисты думают о нас — как о сущностях рациональных, хладнокровных и эгоистичных. В результате мы с ними так и обращаемся.