Александр Древаль - Познание мира. Механизмы и пределы

Формирование ИИ, как по методу «пустой» компьютерной копии нервной познавательной сети, так и по методу полной компьютерной копии интеллекта человека, в конечном счете, ведет к созданию искусственной личности . А поскольку в результате нашей деятельности возникла личность, то мы тут же сталкиваемся с морально-этические проблемами, которые естественно назвать проблемами Творца или Бога. Рассмотрим некоторые морально-этические проблемы работ с ИИ подробнее.

Очевидно, что пустая компьютерная познавательная нервная сеть может использоваться как полигон для экспериментов с ИИ. Нагружая одну и ту же сеть разными знаниями, можно изучить законы познавательной деятельности человека, точнее, обнаружить связь между обучением, творчеством и структурой нервной сети. Но кто позволит проводить эти иезуитские исследования? Одно дело получить неактивированную копию познавательной нервной сети человека, а другое, предоставить этой сети возможность размышлять, чувствовать и, в конечном счете, прийти к осознанию своего положения.

Как только ИИ осознает, что он является копией мозга человека, которая помещена в неживой объект (компьютер), у ИИ обязательно возникнет тяжелейший психологический шок. «Голова профессора Доуэля» оказалась лишенной даже своей головы! Известно, например, что человек с ампутированной конечностью постоянно ее ощущает так, как будто никакой ампутации и не произошло. У ИИ, скопированного с человеческого, должно быть ощущение ампутации всего организма: ему будет казаться, что он в теле, а на самом деле он будет осознавать, что замурован внутри машины, компьютера, без каких-либо перспектив на освобождение

Более того, очевидно, что научные эксперименты с таким ИИ будут подобны самым изощренным пыткам. Сознание человека, оказалось, с одной стороны, практически бессмертным, так как ИИ, в качестве компьютерной познавательной нервной сети, может многократно копироваться и хранится в существенно менее подверженных старению носителях, чем человеческих организм. С другой стороны, сознание человека, оказывается в качестве ИИ в полной и вечной зависимости от исследователя-компьютерщика, а фактически, палача. Исследователь, вмешиваясь в функционирование компьютерной нервной познавательной сети, о деятельности которой у него нет достаточных представлений, может вызвать у ИИ совершенно невообразимые страдания. Такое вмешательство исследователя может восприниматься ИИ как болезненное и длительное разрушение виртуальных (а для ИИ реальных) частей тела, например, раковым процессом или того хуже. «Перезагрузка» ИИ наверняка будет восприниматься как смерть, причем не обязательно мгновенная и не мучительная

Допустимо ли исследователю многократно умерщвлять ИИ, особенно если ИИ является совершенной интеллектуальной копией реального живого человека? Правильно ли допускать прототипу такие издевательства над своей интеллектуальной копией, которая обладает тем же набором чувств, что и прототип?

Перенос ИИ прототипа из компьютера в мозг клона также не лишен моральных проблем. При таком перемещении сформировавшаяся автономно личность клона, или которая могла бы быть сформирована, окажется «стертой» (заблокированной) личностью своего прототипа («родителя»). Кто может из людей, даже если это и клон, на это согласиться. Особенно, если наделить клон правом принимать решение по внедрению в свой мозг чужого интеллекта? Это все равно, что предложить однояйцовым близнецам обменяться мозгами.

Итак, в работах по ИИ нужно будет ответить на вопрос: имеет ли человечество моральное право создавать Ад для людей на Земле, развивая науку об ИИ? Не относится ли метафора о Райе и Аде в религиозных текстах именно к такому будущему человечества, то есть созданию им ИИ? Но, с другой стороны, без экспериментов с ИИ, нет никакой возможности раскрыть его тайны. Итак, в исследованиях с ИИ просматривается моральный, а не только и не столько технический предел познавательной деятельности человека.

Выход из морального тупика, вероятно, единственный – разрешать продолжить существование погибшему человеку, при его желании, только в качестве андроида, в искусственно созданное тело (не клон!) которого будет перенесена компьютерная копия интеллекта погибшего человека и дальнейшее развитие этой интеллектуальной человеко– машины будет осуществляться исключительно на основе своей копии интеллекта (ИИ), причем, без права копирования интеллекта для исследовательских целей.

В настоящее время философская дискуссия относительно возможностей искусственного интеллекта сосредоточена вокруг так называемого машинного (неживого) интеллекта ( рис. 5.1 ), элементы которого уже реализованы в виде «интеллектуальных» компьютерных программ и т. п. устройств. Но можно себе представить и искусственное стимулирование развития интеллектуальных возможностей животного мира и даже человека. Это направление можно назвать созданием живого искусственного интеллекта. В данном разделе сопоставим перспективы развития машинного и живого ИИ.

Проанализированная нами проблема создания полной копии нервной познавательной сети человека в научных кругах сегодня не рассматривается, ввиду ее технической неосуществимости в обозримом будущем. Но, вместе с тем, бурно обсуждается проблема создания машинного искусственного интеллекта, принципы работы которого основаны на некоторых теоретических разработках исследователей в области ИИ. Причем, кардинальным является вопрос степени возможного превосходства такого ИИ над интеллектом человека. Что, с точки зрения предложенной теории, лишено всякого смысла и вот почему.

Пусть специалистами по ИИ создан такой машинный ИИ, который может вместить все знания человечества и без труда их обрабатывать по заданным специалистами правилам. Рассмотрим в связи с этим вопрос, сможет ли такой нагруженный огромным объемом знаний машинный ИИ стать умнее человечества. То есть, сможет ли такой интеллект генерировать новые знания, недоступные людям, творцам машинного ИИ? Или, другими словами, можно ли автоматизировать научный поиск и заменить всех ученых одним единственным мощным машинным ИИ? Ответим на эти вопросы, с точки зрения изложенной здесь теории информации.

Очевидно, что машинный ИИ может быть снабжен только теми познавательными моделями (знаниями), которые известны человечеству и не более того – «сумма знаний» на рис. 5.1 . То есть сумма знаний машинного ИИ не может превысить сумму знаний человечества в целом. Но технически, машинный ИИ может вместить знаний неизмеримо больше, чем мозг любого человека (естественный интеллект), так как у компьютера, в отличие от человеческого мозга, объем памяти можно сделать практически неограниченным, как и скорость обработки данных. С этой точки зрения, машинный ИИ будет более информирован, чем любой отдельный человек, но не человечество в целом.