Станислав Петровский - Темная сторона искусственного интеллекта

Почему у религии, философии и науки пока не получилось создать стройных непротиворечивых представлений о человеческом интеллекте, сознании, личности, душе?

Думается, дело тут не только в неопределенности того, что мы понимаем под указанными категориями. Интеллект, сознание, душа – сами по себе субстанции изменчивые. Их постоянно меняют новый опыт, переживания, размышления. Иногда изменения резкие и видны сразу, иногда изменения накапливаются постепенно и незаметно.

Современные исследования показывают, что человеческий разум – конгломерат параллельно работающих центров в головном и спинном мозге, на которые влияют гормоны и сигналы от нервной системы. Гормоны удовольствия, страха, а также чувства боли, холод, тепло и т. д. активизируют или тормозят узлы, отвечающие за обработку различных ситуаций и данных. Эмоциональное состояние, привычки, утомление и другие факторы влияют на то, принимаем ли мы осмысленные решения или действуем на автомате.

Ученые знают, какие зоны мозга человека отвечают за отдельные операции, например за распознавание зрительных образов или обоняние. Но одна и та же задача может решаться с помощью разных областей мозга. Например, привычные действия выполняются быстрой системой мышления как бы на автомате, а когда нам приходится задуматься, действует другая область мозга. Подробнее об этих системах мышления написано в книге лауреата Нобелевской премии Даниэля Канемана «Думай медленно… Решай быстро!».

Что остается загадкой: есть ли главная область мозга, раздающая задания другим областям мозга, или наше сознание – это лишь видимость?

Многие процессы в мозге выполняются параллельно, к примеру, управление движением, распознавание речи и изображений, поэтому для прорыва в изучении сознания нужен инструментарий параллельных вычислений, позволяющий изучать биологические системы. Кроме того, существующая аппаратура недостаточно точно и быстро фиксирует нервные импульсы в мозге. Магнитно-резонансный томограф полчаса делает снимок области мозга с точностью в миллионы нейронов, тогда как в мозге за секунду проходит множество нервных импульсов.

В настоящее время ученые из Университета Карнеги – Меллона в Питтсбурге (США) и из университета Киото (Япония) собрали данные исследований магнитно-резонансным томографом, создав список из 240 реакций мозга на определенные изображения (людей, мест, действий). Они обучили ИИ с точностью 87% определять, о каком человеке, месте или физическом действии из списка думал человек. Потенциально продолжение исследований в этом направлении может привести через десятки лет к созданию аппаратуры для чтения мыслей как в фантастических произведениях.

Исследования случаев раздвоения личности с применением современного оборудования позволят в будущем пролить больше света на природу сознания и личности человека. В документальном романе «Таинственная история Билли Миллигана» (англ. The Minds of Billy Milligan) наиболее ярко описано диссоциативное расстройство личности, когда у человека множество личностей. Если регистрировать и сравнивать мозговую активность в периоды, когда у больных активизируются различные личности, то можно многое понять. Но регистрировать только активность головного мозга недостаточно, т. к. это лишь часть аппарата, реализующего сознание. Хотя функциональная магнитно-резонансная томография позволяет дальше продвинуться в изучении мозга, этого инструментария и его сегодняшней скорости явно недостаточно для исследования сознания.

Учитывая вышесказанное, мы вряд ли увидим в ближайшие десятилетия ИИ, обладающий сознанием как у человека. Ученые пока не знают, может ли в принципе возникнуть сознание без человеческого мозга, а возможно, и других органов человеческого тела.

Плохая новость: для реализации основных угроз возникновения искусственного разума не нужно. Достаточно, чтобы применялось несколько специализированных ИИ, которые выполняли бы отдельные интеллектуальные задачи хотя бы как человек. Сейчас компьютеры уже лучше человека торгуют на бирже, играют в шахматы и Го, распознают лица на видео и болезни на снимках, рекомендуют покупки и управляют социальными сетями. Пока выборы президентов не обходятся без хакеров, но через каких-нибудь пять лет выбрать нужного вам президента можно будет прямо через рекламный кабинет Фейсбук или Гугл (шутка).

Термин «искусственный интеллект» (англ. artificial intelligence, AI) ввел в обиход Джон Маккарти на конференции в Дартмутском университете в 1956 году. Он определил ИИ как свойство интеллектуальных систем выполнять творческие функции, которые традиционно выполнял человек. При этом речь не идет об обязательным изготовлении искусственного аналога интеллекта человека. Главное – получить с помощью искусственно созданных систем результаты, которые раньше получал только человек.

Скажем прямо, несмотря на распространенность, этот термин скорее запутывает, чем проясняет смысл стоящих за ним явлений.

В настоящее время под ИИ в большинстве компьютерных разработок и в этой книге понимается вовсе не искусственный разум. Для обозначения искусственного разума, который возникнет в будущем, используется термин «общий, или сильный, ИИ». Программы, имеющие отдельные интеллектуальные функции для решения конкретных задач, называют слабым, или специализированным, ИИ.

Слабый ИИ, или просто ИИ, – новый способ создания программ для компьютера на основе машинного обучения. Раньше люди писали компьютерные программы, а компьютер выполнял заложенные в него команды. Теперь машинное обучение позволяет компьютеру самому создавать часть алгоритма, пока в заданных рамках, но эти рамки постоянно расширяются. Машинное обучение базируется на программе, созданной человеком, которая сама распознает закономерности в данных, которые предоставляются ей для обучения. Затем программа использует найденные закономерности для решения задач, к примеру, сортирует фотографии на селфи, фото цветов, животных и так далее. Существующие самые продвинутые программы ИИ не обладают самосознанием, не могут сами ставить себе цели и не обладают другими необходимыми элементами разума.

Современный ИИ работает с помощью математической модели нейрона – нервной клетки живых организмов. Сеть из таких нейронов, реализованная в виде программы или аппарата, способна обучаться с помощью методов машинного обучения.

Машинное обучение строится на тех же принципах, что и обучение человека. Различают дедуктивное обучение – от общего к частному. Это перенос знаний экспертов, теоретических знаний, формул в виде готовых правил в систему ИИ (аналог теоретической подготовки человека). Есть также индуктивное обучение (от частного к общему) на основе самостоятельного поиска системой закономерностей в данных (аналог обучения через практику, на примерах).