Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Таким образом, компьютеры прекрасно умеют делать выводы из структурированных гипотез, особенно вероятностные выводы. Но действительно сложная проблема состоит в том, чтобы решить, какие гипотезы из всего их множества достойны того, чтобы их проверять. Даже дошкольники удивительно хорошо справляются с построением творческих, нестандартных гипотез. Они как-то сочетают рациональность и иррациональность, системность и случайность, и мы понятия не имеем, как они это делают. Мысли и действия маленьких детей часто выглядят бессмысленными, даже бредовыми — просто попробуйте как-нибудь поиграть в дочки-матери с трехлетними девочками. Именно поэтому психологи, например Пиаже, думали, что дети иррациональны и нелогичны. Но у них также есть сверхъестественная способность нацеливаться как раз на подходящие странные гипотезы; на самом деле они с этим справляются существенно лучше, чем взрослые.

Конечно, идея вычисления заключается как раз в том, что, как только у нас появляется полное детальное описание определенного процесса, мы можем запрограммировать его в компьютере. В конце концов, мы же знаем, что точно существуют физические системы, которые все это умеют. У большинства из нас есть опыт создания таких систем, и даже приятный опыт (по крайней мере, на ранних этапах). Мы называем эти системы детьми. Вычисление — все-таки лучшее и на самом деле единственное научное объяснение тому, как физический объект, которым является мозг, может действовать разумно. Но пока что нам почти ничего неизвестно о том, как устроен творческий процесс познания, который мы наблюдаем у детей. И пока мы этого не узнаем, самые большие и самые мощные компьютеры не сравнятся с маленькими и слабыми человечками.

В 1980-х в нью-йоркском Чайна-тауне, на пересечении Мотт-стрит и Бауэри, огромная толпа собралась на ярмарке видеоигр. Больше всего людей, даже больше, чем около аппаратов Pacman и Galaga, сгрудилось у машины, которую больше нигде не найдешь, — у курицы, играющей в крестики-нолики.

Это была единственная частично органическая машина: внутри нее сидела живая курица. Насколько я могу судить, курица играла в крестики-нолики достаточно хорошо, наравне с людьми. Игрок-человек делал ход, нажимая на кнопки, а курица наступала на пустые клетки на полу внутри автомата, выполненном в виде подсвеченного поля для игры в крестики-нолики, на котором отображались ходы обоих игроков.

Много раз, прогуливая в старших классах тригонометрию, я стоял перед этой курицей и гадал, как работает игра. Никакого явного позитивного подкрепления (например, корма) не было, так что я решил, что здесь имеет место негативное подкрепление в виде электрического тока небольшой силы, пропускавшегося через «неправильные» клетки на полу и ведущего курицу к единственной точке, из которой она могла выйти на ничью.

Когда я думаю о мыслящих машинах, то вспоминаю эту курицу. Если бы на ярмарке в Чайна-тауне я увидел компьютер, который играет в крестики-нолики, то он не стал бы из-за него прогуливать школу, не говоря уже про Pacman. То, что даже самый слабый компьютер может разобраться с этой игрой, — факт общеизвестный и неудивительный. Вот почему всех так сильно заинтересовала курица.

Волшебство заключалось как раз в том, чтобы представить себе мыслящую курицу, — тогда это было почти то же, что в 2015 году представить мыслящую машину. Но если курица не думала об игре в крестики-нолики и все же могла успешно в нее играть, то почему мы говорим, что компьютер думает, когда играет?

Такое суждение выглядит очень привлекательно, потому что у нас есть модель мозга — электричество движется по сетям, — по стечению обстоятельств согласующаяся с моделями, которые мы строим для машин. Такая согласованность может быть удобной в реальности, а может и не быть, но в любом случае на мышление все это похоже не только потому, что нечто производит вычисления, но еще и потому, что оно создает ощущение чего-то живого и теплого. В 2015 году ошибки делают машины, а люди должны их объяснять.

Мы обращаемся к иррациональному, когда рациональное нас подводит, и именно иррациональная часть больше всего напоминает наше мышление. Физик Дэвид Дойч предложил отделять ответы, которые дают машины, от объяснений, которые дают люди. И я полагаю, что в обозримом будущем мы продолжим обращаться к биологическим организмам, когда нам потребуются объяснения, — не только потому, что мозг лучше справляется с такой задачей, но еще и потому, что машины к этому не стремятся.

Проигрывать компьютеру — скучно, а вот проиграть курице — очень даже интересно, поскольку мы каким-то образом догадываемся, что у нас с нею больше общего — определенно больше, чем с сеткой у нее под ногами, по которой пропущен электрический ток. Покуда у мыслящих машин нет лимбической системы и той неточности, которая есть у курицы, компьютеры продолжат делать то, что у них получается лучше всего: давать ответы. И, пока жизнь будет чем-то большим, чем ответы на вопросы, люди — и куры — останутся в игре.

Высокий уровень интеллекта и теплые чувства к ближнему не очень хорошо сочетаются в сознании обывателя. Сверхразумные злодеи из фильмов о Джеймсе Бонде, жестокие и жаждущие мирового господства, — отличный пример. Поэтому неудивительно, что первой реакцией на фразу о мыслящих машинах становится вопрос о том, какие угрозы они несут человечеству.

То, что нам удалось узнать об эволюции своего интеллекта, тоже добавляет беспокойства. По мере того как люди эволюционировали, чтобы жить в более крупных социальных группах, чем у наших собратьев-приматов, совершенствовались и наши способности манипулировать другими и обманывать их, отличать друзей от врагов, вести учет добрых и злых дел, а также все прочие социальные навыки, необходимые для того, чтобы быть успешными индивидами. Результатом стал мозг большего размера и макиавеллианский интеллект [77] Макиавеллианский интеллект — специфические интеллектуальные способности, отвечающие за функционирование индивида в коллективе (способность предвидеть реакции и поступки «соплеменников», формировать коалиции, повышать свой социальный статус и т. д.). Назван в честь итальянского политика и философа Никколо Макиавелли (1469–1527), известного своими работами по стратегии власти, для укрепления которой он допускал применение любых средств. — Прим. ред. .