Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Во-вторых, эти эксперименты должны обнаруживать новые упрощающие структуры, которые можно использовать для того, чтобы обойти нераскрываемость рассуждения вычислительными средствами. Практически все интересные логические задачи (такие как нахождение оптимальной стратегии в игре, оптимизация на основании комплексных ограничений, доказательство математических теорем, построение предположений о структуре молекул) имеют класс NP. В рамках сегодняшнего нашего понимания вычислительной сложности это означает, что цена решения одного случая для определенной задачи экспоненциально возрастает с увеличением размерности этого случая. Прогресс в области разработки алгоритмов обычно требует отыскания определенной упрощающей структуры, которую можно использовать для того, чтобы обойти эту экспоненту. Взрыва интеллекта не случится, если не будет открыто множество таких структур (или пока не выяснится, что нынешнее наше понимание вычислительной сложности неверно).

В третьих, система должна быть способна проектировать и реализовывать новые вычислительные механизмы и новые алгоритмы. Те и другие будут эксплуатировать научные открытия, сделанные в ходе первого шага. В действительности можно сказать, что этот шаг, по существу, аналогичен первым двум, но сосредоточен на вычислении. Автономное проектирование и производство вычислительной аппаратуры вполне осуществимо в случае основанных на кремнии технологий, а новые разработки в области синтетической биологии, комбинаторной химии и 3D-печати в ближайшем будущем их еще больше упростят. Автоматическая разработка алгоритмов демонстрировалась уже много раз, так что это тоже осуществимо.

В-четвертых, система должна быть в состоянии предоставлять автономию и ресурсы новым вычислительным механизмам, чтобы они, в свою очередь, могли проводить эксперименты, открывать новые структуры, разрабатывать новые вычислительные методы и производить еще более мощное «потомство». Насколько мне известно, пока ни одна система такого не достигла.

Первые три шага не представляют опасности в плане возникновения «интеллектуальной цепной реакции». Опасен четвертый шаг — воспроизводство и автономия. Конечно, практически все потомство будет неудачным, точно так же практически все новые устройства и программные средства с первого раза не заработают. Но при достаточном числе циклов — или, что то же самое, при достаточном воспроизводстве с изменчивостью — взрыв интеллекта нельзя исключить.

Как его предотвратить? Мы можем надеяться, что второй шаг окажется неудачным — что мы уже нашли все структурные упрощения для повышения эффективности алгоритмов, а оставшиеся не будут иметь существенного значения. Но мало кто из инженеров-электротехников или программистов готов заявить, что исследования в их областях себя исчерпали.

Третий шаг дает своеобразную контрольную точку. Практически нет систем ИИ, которые применялись бы для разработки новых вычислительных устройств и алгоритмов. Напротив, эти системы применяются к таким задачам, как логистика, планирование, управление роботами, медицинская диагностика, распознавание лиц и т. д. Здесь нет риска цепной реакции. Мы могли бы продумать меры регулирования исследований для третьего шага. Нечто подобное уже предлагалось для синтетической биологии. Но пока никакие правила не утверждены, кроме того, будет сложно контролировать их исполнение.

Я думаю, нам нужно сосредоточиться на четвертом шаге. Мы будем должны ограничить ресурсы, которые автоматическая система проектирования и производства может предоставить созданным ею устройствам. Некоторые утверждают, что это сделать сложно, потому что «хитрая» система убедит людей дать ей больше ресурсов. Из таких сценариев получается отличная научная фантастика, но на практике ограничить объем ресурсов, доступных для использования системой, довольно просто. Инженеры делают это каждый день, когда тестируют новые устройства и алгоритмы.

У шагов с первого по третий есть потенциал для существенного развития научного знания и вычислительно-мыслительных возможностей, что принесет человечеству огромную пользу. Но важно, чтобы мы, люди, поняли, в чем состоят эти знания и возможности, прежде чем выделять на них значительные объемы ресурсов. Нельзя предоставлять автономию системам, которых мы не понимаем и которые не можем контролировать.

Машины когда-нибудь смогут мыслить? Если да, то стоит ли нам волноваться по поводу появления шварцнеггероподобных роботов, планирующих стереть человечество с лица Земли, потому что их совершенный механизм принятия решений сделал такой выбор? Я очень люблю научную фантастику, но меня не сильно беспокоит подобный сценарий роботизированного апокалипсиса. Меня больше беспокоит то, что вкладывается в понятие о мышлении машины. Я бы сказал, что либо мы уже много веков строим мыслящие машины, либо их создание вообще маловероятно. Все сводится к тому, как мы определяем мышление: от третьего лица или от первого лица. Мышление есть нечто, обнаруживаемое нами в таких системах, как люди или машины (но не сэндвичи с ветчиной), снаружи, на основании их поведения, или же мышление есть нечто, о чем мы знаем изнутри, потому что оно нами ощущается?

Согласно стандартному определению мышления, оно включает ввод информации, ее обработку, трансформацию либо интеграцию в какой-либо полезный вывод или результат. Решение математических уравнений — один из простейших видов мышления. Если вы видите три одинаковых предмета и еще четыре таких же, вы делаете вывод, что всего их семь, — таким образом вы совершаете небольшой акт математического мышления. То же самое делал первый механический калькулятор Паскаля в 1642 году. Этим калькуляторам нужен был человек, чтобы ввести числа 3 и 4, но дальше машина уже сама осуществляла их интеграцию, чтобы получить 7. Сегодня мы можем отказаться от услуг посредника, построив компьютер, имеющий зрительные сенсоры и программное обеспечение для распознавания предметов. Такой компьютер легко обнаружит наши три предмета и еще четыре предмета, а потом самостоятельно выполнит сложение.

Это будет мыслящая машина? Если да, то вам, вероятно, придется признать, что большая часть ваших внутренних органов тоже обладает мышлением. Ваши почки, селезенка и кишечник тоже получают определенные входные данные, которые можно назвать информацией, и трансформируют их в выходные данные. Даже ваш мозг, если рассматривать его от третьего лица, строго говоря, не работает с информацией. Его валюта — электрические и химические сигналы, которые нейрофизиологи усердно пытаются перевести в понятия информативности. Если паттерн электрохимической активности X распространяется в мозге, когда мы думаем про «три», становится ли X в каком-то смысле тождественным цифре? Это просто близкая эквивалентность, которой мы, ученые, пользуемся. Электрические импульсы в мозге имеют не больше сходства с «информацией» или «мышлением», чем то, что происходит в наших почках, калькуляторах или любых других физических системах, которые преобразуют ввод в определенный вывод. Мы вправе, если угодно, назвать такого рода процессы «мышлением», но тогда это будет мышлением от третьего лица — мышлением, определяемым снаружи, и оно встречается куда чаще, чем нам хотелось бы. Конечно, характер изменения информации человеком или компьютером может быть намного сложнее, чем другие встречающиеся в природе формы мышления, но я не убежден, глядя со своей позиции третьего лица, что у них есть качественные отличия.