Марвин Мински - Выбор по Тьюрингу

Одна из субъединиц взяла управление на себя, вот что произошло. Надо только вспомнить, как устроено сознание, как оно работает. Оно состоит из множества субъединиц, которые сами по себе абсолютно лишены интеллекта. Какой там пример приводил отец, когда это растолковывал? Вождение машины. Субъединица сознания способна вести машину в то время, как само сознание занято другим. Оно берет управление на себя только тогда, когда случается что-то необычное. Сознание похоже на человеческое общество, где все составляющие его элементы сотрудничают друг с другом. А тут одна глупая субъединица взяла управление на себя и начала командовать. Тупая, неразумная субъединица, у которой вместо мозгов половые железы и которая знает только ревность, ярость, обиду. И чтобы она управляла его жизнью?

– Ну уж дудки!

Он открыл холодильник, достал банку лимонада, открыл ее и залпом выпил почти половину. Теперь он чувствовал себя спокойнее и рассудительнее. Он понял, что произошло: одна часть его мозга взяла управление на себя и подавила все остальные. Не существует ничего похожего на одно главное «я», как бы легко не было в это поверить. Чем больше он изучал, как работает разум, тем больше убеждался, что каждый человек представляет собой что-то вроде комитета. Мозг состоит из множества крохотных животных – протоспециалистов, вот как они называются. Животное-голод берет управление на себя, когда нужно найти пищу. Животное-страх – когда надвигается какая-то опасность. А животное-сон сменяет их каждую ночь. Это как кольцо царя Соломона. Все эти механизмы, которые открыли Лоренц и Тинберген. Сложные сети нервных центров, отвечающих за голод, половое чувство, самозащиту, – сети, которые создавались сотнями миллионов лет. Они есть не только у пресмыкающихся, птиц и рыб, но и в далеких уголках его собственного мозга.

И вот сейчас в нем взяло верх животное-секс – вон оно чавкает и пускает слюни. Примитивная система, гнездящаяся далеко внизу, в стволе мозга, – вот с чем он имеет дело!

– Это не я! – громко вскрикнул он, стукнув кулаком по столу так сильно, что ему стало больно. – Не весь я! Только одна, особенно глупая, но сильная часть. Сплошные яйца без головы!

Нет, он не животное в течке. У него есть разум, почему он им не пользуется? Как мог он допустить, чтобы управление взяла на себя какая-то глупая субъединица? Где был тот главный распорядитель, который должен был оценить ее по достоинству и поставить на место?

Он отправился к себе в комнату, по дороге прихлебывая лимонад. Сел за компьютер и открыл новый файл – «САМОКОНТРОЛЬ». Потом откинулся на спинку стула и стал размышлять дальше.

Большинство мыслительных процессов происходит бессознательно. Чтобы эффективно функционировать, почти все субъединицы в мозгу Брайана должны быть автономными – такими же самостоятельными, как рука или нога. Когда он ребенком учился ходить, на первых порах это, наверное, получалось у него очень плохо – он спотыкался и падал. Потом, по мере того как он учился на ошибках, стало получаться лучше. Старые субъединицы, которые ходили плохо, понемногу вытеснялись или подавлялись новыми, которые ходили хорошо, работали автоматически, не требуя осознанных команд. «Сколько их, этих субъединиц! – подумал он. – А кто же ими управляет?» Сейчас ими, похоже, никто не управляет. Пора взять управление на себя, усилить самоконтроль. Теперь он сам должен решать, какой из субъединиц предоставить действовать. Главным распорядителем должно стать это таинственное, отдельное от них внутреннее «я» – центральный штаб, который соответствовал бы самой сущности сознания Брайана.

– Такая машина-распорядитель не помешала бы и всем этим глупым программам искусственного интеллекта, – сказал он и поперхнулся глотком лимонада.

Неужели все так просто? Неужели только этого не хватает, чтобы все части головоломки встали на место? Лаборатории, где занимаются искусственным интеллектом, – в Амхерсте, Северо-Западном университете, Технологическом институте на Кюсю – битком набиты множеством интересных систем. Логические системы, системы распознавания слов, самообучающиеся системы на нейронных сетях, – каждая решает свои собственные задачи и делает это своим собственным способом. Одни умеют играть в шахматы, другие – управлять механическими руками, третьи – планировать капиталовложения. Все работают по отдельности, каждая сама по себе, – и ни одна не способна думать по-настоящему. Потому что никто не знает, как заставить все эти полезные части работать заодно. Чтобы создать искусственный интеллект, нужно что-то вроде этого внутреннего «я». Какая-то центральная машина-распорядитель, которая связала бы все субъединицы в одну работающую систему.

Не может быть, чтобы это было так просто. Не может существовать такого «я», которое бы всем управляло, потому что в сознании нет никаких реальных людей, а есть только субъединицы. Значит, это «я» не может быть каким-то одним устройством – потому что ни одно устройство не может быть для этого достаточно умным. Значит, «я» должно быть чем-то вроде иллюзии, создаваемой деятельностью еще одного коллектива субъединиц. Иначе чего-то все равно будет не хватать – распорядителя, который распоряжался бы этим распорядителем.

– Нет, не проходит. Я это пока толком не додумал. Придется еще поработать.

Он сохранил файл с этими заметками – и тут заметил, что на диске остался еще один файл «КИМ». Контрольная работа для Бетсера. У нее есть копия, но она ничего там не поймет, не говоря уж о том, чтобы объяснить, когда ее спросят. Может, стоит сохранить этот файл – в конце концов, если бы не она, ему бы так и не пришла в голову эта мысль о программе-распорядителе? Ну нет! Он ткнул клавишу DELETE, и файл исчез, как и все остальные.

В заключение он заблокировал компьютер, чтобы тот не отвечал на звонки с ее телефона. Но этого мало – она может позвонить из автомата. Он изменил программу – теперь компьютер не будет отвечать ни на какой звонок, ни от кого, отныне и навсегда.

Он долго сидел усталый, с сухими глазами, переживая горечь предательства.

Больше с ним никогда ничего подобного не случится. Никто больше не станет ему так близок и дорог, чтобы получить возможность сделать больно. Он будет думать только об этой программе-распорядителе для искусственного интеллекта, попробует добиться, чтобы она работала, и не будет вспоминать о Ким. И вообще о девушках. Больше никогда с ним ничего подобного не случится. Никогда.

Вертолет летел через залив, над мостом, соединявшим изогнутый полуостров Коронадо с Сан-Диего. Все дороги внизу были наглухо перекрыты службой безопасности, и вертолет оказался не только самым безопасным, но и самым быстрым средством сообщения с базой. Описав дугу над серыми силуэтами списанных кораблей, тихо ржавеющих здесь со времен Второй мировой войны, он опустился на штабную посадочную площадку, подняв тучу пыли, и к нему подъехал длинный закрытый лимузин.