Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Ответы на эти вопросы относятся не только к пониманию нашего собственного разума. Несмотря на последние достижения в области искусственного интеллекта, человеческие существа все еще остаются лучшим из имеющихся у нас примеров разумных машин. Определив объем и природу априорных суждений, которые формируют наше познание, мы заложим основу для того, чтобы сделать компьютеры более похожими на людей в плане эффективности выполнения определенных задач.

Нет никаких причин думать, что если машины станут более разумными — а такой разум, как у нас, пока что мало отличается от рисунков на песке, — то они озлобятся, начнут плести интриги, окажутся эгоистами или даже превратятся в угрозу для людей. Эгоистичность — качество объектов, которые хотят остаться в живых (или, если точнее, хотят размножаться), а не природное свойство машин. Компьютеры не против того, чтобы их выключали, и уж тем более они не боятся этого.

Таким образом, появление полноценного искусственного интеллекта не приведет к гибели рода людского. Это отнюдь не экзистенциальная угроза для человечества (уточню: такое часто встречающееся сейчас использование слова «экзистенциальная» — неверно). Мы не приближаемся к какой-то непонятной апокалиптической сингулярности, а разработка искусственного интеллекта не станет «последним великим событием в истории человечества», хотя некоторые сейчас и утверждают обратное, когда говорят о мыслящих машинах.

На самом деле по мере создания все лучше и лучше думающих машин их можно будет использовать так, чтобы получить намного больше пользы, чем вреда. Машины хорошо справляются с долгой монотонной работой, такой, например, как отслеживание рисков; они хорошо собирают информацию, чтобы принимать решения; они хорошо анализируют данные на предмет обнаружения паттернов и тенденций; они могут помочь нам использовать скудные или загрязняющие среду ресурсы более эффективно; у них реакция быстрее, чем у людей; они могут управлять другими машинами; они не устают и не боятся; они даже способны заботиться о своих хозяевах-людях посредством смартфонов (вспомните приложения Siri и Cortana) или разнообразных навигационных устройств с GPS, которые есть в автомобилях у большинства людей.

Поскольку машины по природе своей скорее подвижники, чем эгоисты, их проще научить сотрудничеству, не боясь, что некоторые из них воспользуются в своих интересах доброй волей других машин. Группы («стаи», «связки», «отряды» или любое другое собирательное существительное, которое со временем появится для их обозначения, — я предпочел бы название «скопления») объединенных в общую сеть и взаимодействующих беспилотных автомобилей будут на высокой скорости и совершенно безопасно двигаться в общем плотном потоке, бампер к бамперу. Они не заснут, не начнут психовать, они смогут сообщать друг другу о своих действиях и о дорожных условиях на расстоянии, они также будут более полно использовать автострады, которые сейчас представляют собой по большей части пустое пространство (вследствие скверной реакции у людей). Они станут это делать с удовольствием, не ожидая вознаграждения, в то время как мы сможем обедать, смотреть фильм или читать газету. У наших детей будет вызывать справедливое удивление тот факт, что раньше автомобили водили люди.

Есть риск, что мы станем опасно зависимы от машин или уже стали, но это больше говорит о нас, чем о них. Точно так же машины могут быть использованы во вред, но опять же это больше говорит не о самих машинах, а об их изобретателях и владельцах. Если продолжить размышления в том же направлении, то есть один вектор человеческого влияния на машины, который нам нужно внимательно контролировать: это возможность объяснить им, что такое смерть. Если им придется конкурировать за ресурсы (такие как электричество или бензин), чтобы выжить, и они научатся менять свое поведение, то они могут стать эгоистичными.

Если мы станем позволять или даже поощрять проявления эгоизма у машин, то они могут в конечном счете стать такими же, как мы: способными на репрессивные или агрессивные действия по отношению к людям и друг к другу. Но это не произойдет в одночасье и без определенных усилий с нашей стороны. То, о что я имею в виду, не имеет никакого отношения к разуму (некоторые вирусы делают с людьми отвратительные вещи) и опять же больше говорит о нас, чем о машинах.

Таким образом, беспокоиться стоит не по поводу роботов или искусственного интеллекта как таковых, но по поводу людей. Нельзя сказать, что мыслящие машины за нас или против нас, у них нет встроенной предрасположенности ни к первому, ни ко второму. Думать иначе — значит путать разумность с устремленностью и сопутствующими ею эмоциями. У нас же все это есть, потому что мы — эволюционирующие и воспроизводящиеся организмы, появившиеся в результате отбора в процессе конкуренции, подчас беспощадной, с другими организмами. Но устремленность — вовсе не обязательная часть разума, даже если она обеспечивает подходящую платформу для его развития.

В действительности нам стоит с нетерпением ждать того дня, когда машины смогут выйти за рамки обычного решения задач и стать творческими и инновационными субъектами, — до такого еще очень и очень далеко, но это уже определенно будет свойство истинного разума. Инновации даются людям не очень хорошо, и в ближайшие десятилетия помощь в этом понадобится нам больше, чем когда-либо в истории.

Не бойтесь злобных тостеров, роботов-пылесосов военного назначения и вороватых банкоматов. Достижения в области придания машинам новых умений, как связанных с интеллектом, так и нет, не должны становиться причиной параноидальных идей о будущих столкновениях между человечеством и его механическими порождениями. Даже если бы такое случилось, люди одержали бы верх — отчасти благодаря первобытным, во многом постыдным качествам, которые обычно больше связывают с нашей гибелью, чем со спасением. Хитрость, обман, мстительность, подозрительность и непредсказуемость собьют с толку менее гибкие и изобретательные сущности. Интеллект — это еще не все, а иррациональное не обязательно дезадаптивно. Иррациональность заставляет шевелиться тараканов в наших головах и выталкивает нас из непродуктивной колеи на пространство творческих решений. Наша социальность приводит к появлению человеческого суперорганизма, способного работать в команде и обладающего коллективным распределенным интеллектом. В том, чтобы быть эмоциональными стадными животными, есть свои плюсы.