Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Для меня сущность ИИ заключается не в сложных программах, гуманоидных роботах, тесте Тьюринга или надеждах и опасениях, связанных с добрыми или злыми машинами. Я думаю, что важнейшей проблемой в отношении ИИ является вопрос о том, существуют ли мысли вне сознания, и машины — не единственный пример того, что такое возможно. Я думаю о человеческой культуре и других, не обладающих самосознанием, формах коллективной идеации [85] Идеация — процесс формирования понятий и представлений. — Прим. ред. .

Культура — это древнейшая созданная людьми форма разума, существующего вне нашего интеллекта. Как и разум в машине, культура может решать определенные задачи. Кроме того, как и разум в машине, она создана нами, мы взаимодействуем с нею и находимся под ее влиянием, она даже способна уничтожить нас. У культуры своя логика, у нее есть память, она может пережить своих создателей, может быть гибкой и подстраиваться под новые задачи, а также побуждать к определенным действиям.

Это оксюморон, но я рассматриваю культуру как вид естественного искусственного интеллекта. Он искусственный, потому что создан людьми. Он естественный, потому что присутствует везде, где есть люди, и органически связан с нами. На самом деле наша биология и наша культура, вероятно, тесно переплетены и эволюционировали совместно, так что культура влияет на гены, а гены влияют на культуру.

Люди — не единственные представители животного царства, у которых есть культура. У многих видов животных есть проявления культуры, связанные с коммуникацией и использованием инструментов, — пение у птиц, например, или использование губок дельфинами. У некоторых видов даже есть своя фармацевтика. Недавние исследования показывают, что новые культурные формы могут создаваться и закрепляться и у других видов, а не только у людей.

Мышление вне сознания у нас и у других животных проявляется и иным образом: группы насекомых и птиц производят вычисления, комбинируя собранную многими особями информацию, чтобы определить положение гнезд или пищи. Один из простейших организмов на Земле, миксомицет Physarum, может в строгих лабораторных условиях демонстрировать подобие интеллекта — проходить по лабиринтам или выполнять другие вычислительные задачи.

Этим природным ИИ можно управлять в условиях эксперимента. Группа исследователей из Японии использовала стаи крабов-отшельников для создания простой вычислительной схемы. Основываясь на определенных элементах поведения крабов, ученые построили в лаборатории систему, в которой крабы обычно давали предсказуемый отклик на вводимые данные. Стая действовала как подобие компьютера, то есть их поведение служило совершенно новой цели. Аналогичным образом мы с Сэмом Арбесманом как-то использовали одну особенность поведения человека для создания так называемого логического вентиля «ИЛИ-НЕ» и разработали человеческий компьютер (ужасно медленный) в рамках своеобразного исследования по синтетической социологии. Мы придали людям качества компьютера, вместо того чтобы наделить человеческими качествами машины.

Изучая наше отношение к культуре, мы поймем, каким может быть наше отношение к искусственному интеллекту. С культурой у нас сложились отношения любви-ненависти. Мы боимся ее силы, например когда религиозный фундаментализм или фашизм подталкивает большие группы людей к деструктивным поступкам. Но мы также чтим ее, потому что она способна на то, на что неспособны мы как отдельные индивиды, например обеспечивать коллективное действие или выдвигать предположения, на которых мы можем строить свою жизнь. Кроме того, мы обычно воспринимаем культуру как нечто само собой разумеющееся; точно так же мы воспринимаем зарождающиеся формы искусственного интеллекта и, скорее всего, будем воспринимать его развитые формы. Коэволюция генов и культуры может даже дать нам модель того, как мы и мыслящие машины будем сосуществовать много веков — оказывая взаимное влияние друг на друга и вместе совершенствуясь.

Когда я думаю о мыслящих машинах, я восхищаюсь ими точно так же, как восхищаюсь культурой, и боюсь искусственного интеллекта не больше и не меньше, чем боюсь ее.

Нельзя думать о мышлении, не думая о том, чтобы думать о чем-то.

Что я думаю о машинах, которые думают? Это зависит от того, о чем они думают. Я определенно из лагеря тех, кто считает, что ИИ и машинное обучение внесут огромный вклад в развитие общества. Я предполагаю, мы обнаружим, что машины все лучше справляются с тем, что не удается нам, — с такими вещами, для которых требуются скорость, точность, надежность, повиновение, огромные объемы информации, вычисления, распределенные сети и параллельная обработка.

Парадокс заключается в том, что, пока мы разрабатывали машины, которые ведут себя все более человечно, мы создавали образовательные системы, которые подталкивают детей к тому, чтобы думать как компьютеры и вести себя как роботы. Для масштабирования и роста нашего общества теми темпами, которые нам требуются, нам нужны надежные, усердные физические и вычислительные элементы. Поэтому у нас уходят годы на то, чтобы сделать из небрежных, эмоциональных, непредсказуемых и своенравных человеческих существ подобие роботов из плоти и крови. К счастью, механические и цифровые роботы и компьютеры в скором времени помогут сократить, если не ликвидировать потребность в том, чтобы людей обучали вести себя подобным образом.

Нам все еще нужно превозмочь страх и даже отвращение, внушаемые нам роботами, которые выглядят почти как люди и демонстрируют почти человеческие качества — но только «почти». Эта проблема известна как эффект «зловещей долины» [86] Когда в 1978 году японский ученый Масахиро Мори изучал реакцию людей на все более человекоподобные искусственные сущности, то обнаружил, что, по мере увеличения сходства с человеком, кривая симпатии сперва идет вверх, но по достижении определенного уровня подобия резко обрывается вниз. Этот участок графика, где симпатия переходит в отвращение, получил название «зловещей долины». — Прим. ред. . Тот же принцип работает с компьютерной анимацией, зомби и даже протезами рук. Но мы, возможно, подходим к этой долине с обеих сторон. Если вы хоть раз меняли свой голос, чтобы вас поняла система распознавания речи на телефоне, то вам будет легче поверить, что мы, люди, и сами приближаемся к «зловещей долине».