Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Ни «french fries», ни «french fried» не являются вычислимыми — ни один компьютер никогда не сможет выдать в качестве результата фразу «french fries» или состояние «french fried». «French fried» невычислимо, потому что это физическое состояние особого объекта, но компьютеры продуцируют только информацию или коды для информации, а не физические объекты и не их преобразования. Счастье также является физическим состоянием конкретного предмета, а именно человека. Счастье не может существовать, если только вы не возьмете человека и не поместите его в это состояние. Компьютеры не способны проделать такое.

Размышление и бытие или (что то же самое) размышление и чувство — крайние точки спектра, определяющего человеческий разум (говоря «чувство», я имею в виду ощущение, эмоцию или настроение, как принято в английском языке). Нам нужен весь спектр целиком, или у нас не будет ни разума, ни мысли в их прямом смысле. Компьютеры способны имитировать важные аспекты размышления (в узком его понимании), но бытие для них недостижимо. Следовательно, для них недостижимо самосознание.

Слово «бытие» — это полезное сокращение, в данном контексте значащее «быть частью физического объекта или системы и естественным образом реагировать на окружение». Нарезанная ломтиками картофелина может быть частью среды фритюрницы и реагировать на нее, становясь обжаренной. Лакмусовая бумажка может быть частью системы «кислота в пробирке» и реагировать, становясь синей. Разум похож на лакмусовую бумажку, но, вместо того чтобы менять цвет, он реагирует на среду, ощущая ее. Если что-то дает нам основания, чтобы быть счастливыми, система «разум-тело» (то есть человек) становится счастливой, а разум испытывает счастье. У счастья есть психические и физические последствия. Вы можете испытать прилив сил, ускоренное сердцебиение и дыхание.

Почему бытие нельзя вычислить? Почему нельзя вычислить счастье? Счастье невычислимо потому, что как состояние физического объекта оно находится вне пространства вычисления. Компьютеры и программное обеспечение не создают физическую материю и не управляют ею. Они могут быть причиной таких действий, выполняемых другими связанными с ними машинами, но сами это проделать неспособны. Роботы могут летать, а компьютеры — нет. (Кстати, ни одно устройство под управлением компьютера не может гарантированно сделать людей счастливыми, но это уже другая история.) Бытие невычислимо — важный факт, который до сих пор упускали из виду, что неудивительно. Компьютеры и разум живут в разных вселенных, как тыквы и Пуччини, их трудно сравнивать, независимо от того, что именно мы хотим продемонстрировать.

Реально ли обойтись без бытия и все-таки получить разумную машину? Нет. Размышление и бытие (или ощущение) определяют разум и его возможности. В верхней части спектра — в максимальной концентрации или фокусе — разум целиком отдается размышлению и отмахивается от отвлекающих эмоций. В нижней части спектра находятся наши сны, состояние, в котором мы почти не думаем — мы целиком заняты ощущением, поскольку галлюцинируем, а зачастую еще и эмоцией (сны всегда исключительно эмоциональны); так или иначе, мы заняты чувством или, иначе говоря, бытием.

Почему на изложение такого простого довода ушло настолько много времени? И почему сейчас так мало мыслителей, склонных его принять? Возможно, потому, что большинству философов и ученых хочется, чтобы разум оказался не чем иным, как мышлением, а чувство или бытие не имели никакого значения, причем хочется настолько сильно, что в конце концов они начинают думать, что так оно и есть. Философы — всего лишь люди.

Недавно продемонстрированные примеры выдающихся возможностей высокопроизводительных компьютеров замечательны, но неудивительны. При надлежащем программировании машины значительно превосходят людей в плане хранения и оценки больших объемов данных и принятия практически мгновенных решений. Это — мыслящие машины, потому что происходящие в них процессы аналогичны многим аспектам мышления человека.

Но в более широком понимании термин «мыслящая машина» употребляется неправильно. Ни одна машина не задается вечными вопросами: «Откуда я взялась? Зачем я здесь? Куда я иду?» Машины не думают о своем будущем, о своем неизбежном конце или о своем наследии. Чтобы размышлять над такими вопросами, требуется сознание и самосознание. У мыслящих машин их нет, и, учитывая наш нынешний уровень знаний, они вряд ли это получат в обозримом будущем.

Единственный реалистичный подход к созданию машины, сходной с человеческим мозгом, должен основываться на копировании нейронных цепей, лежащих в основе мышления. Более того, исследовательские программы, которые проводятся сейчас в Калифорнийском университете в Беркли, Массачусетском технологическом институте и еще в нескольких университетах, сосредоточены на достижении этой цели — построить компьютеры, работающие подобно коре головного мозга. Последние достижения в области исследования микроструктуры коры головного мозга стали серьезным стимулом, и вполне вероятно, что BRAIN [27] BRAIN, The Brain Research Through Advancing Innovative Neurotechnologies — исследование мозга средствами передовых инновационных нейротехнологий (англ.). — Прим. пер. — новый проект Белого Дома — даст массу ценной информации. В ближайшие десятилетия мы узнаем о том, как взаимосвязаны миллиарды нейронов в каждом из шести слоев коры головного мозга, а также о типах функциональных цепей, формируемых такими связями.

Это необходимый первый шаг в разработке машин, способных к мышлению в том виде, который характерен для человеческого мозга. Но понимания микроструктуры коры недостаточно, чтобы построить умную машину. Что необходимо, так это понимание деятельности нейронов, лежащей в основе мыслительного процесса. Визуализирующие исследования обнаружили много новой информации об отделах головного мозга, вовлеченных в такие функции, как зрение, слух, осязание, страх, удовольствие и т. д.

Но у нас еще нет даже примерного понимания того, что происходит, когда мы размышляем. Причин тому множество, и среди них не последнюю роль играет наша неспособность изолировать мыслительный процесс от других физических состояний. Кроме того, различные мозговые цепи вполне могут быть связаны с различными модусами мышления. Когда мы думаем о предстоящей лекции, наш мозг задействуется не так, как когда мы вспоминаем о неоплаченных счетах.

В ближайшее время можно ожидать, что компьютеры будут превосходить людей во все большем количестве занятий. Но нам нужно намного лучше понимать работу человеческого мозга, чтобы создать по-человечески думающую машину. На данный момент нам не надо беспокоиться по поводу гражданских или любых других прав роботов, как не надо бояться, что они захватят власть. Если машина вдруг выйдет из под контроля, достаточно будет вытащить вилку из розетки.