Мередит Бруссард - Искусственный интеллект [Пределы возможного] [litres]

Техношовинисты верят в то, что компьютер способен справиться с большинством задач лучше, чем человек. И, зная, что компьютер оперирует математической логикой, они думают, что логику можно с легкостью применить к реальному миру. Они правы только в одном: компьютеры действительно считают гораздо лучше людей. Любой, кому когда-либо приходилось оценивать контрольную по математике, подтвердит мои слова. Однако в некоторых ситуациях компьютер ограничен в своих возможностях.

Вспомним такокоптер – занятную идею, захватившую в свое время внимание интернет-пользователей. Звучит восхитительно: дрон, доставляющий сумку, наполненную теплыми и вкусными тако, прямо к вашей двери. Слабые места проекта проявляются, как только мы начинаем думать об аппаратной и программной стороне проекта. Вообще-то дрон – это радиоуправляемый вертолет с бортовым компьютером и камерой. Что с ним случится, если пойдет дождь? Электрические приборы не слишком хорошо работают во время дождя, снега и тумана. Если моя спутниковая тарелка барахлит во время ливня, то что уж говорить о дроне, куда более хрупкой конструкции. Предполагается ли, что такокоптер будет передавать еду в окно? Или через входную дверь? Будет ли нажимать на кнопки лифта, открывать двери на пути к вам или звонить в звонок? Все эти базовые задачи просты для людей, но невероятно сложны для компьютеров. Или такокоптер будет использоваться для доставки менее вкусных и легальных субстанций? Что произойдет, если дрон подстрелит разъяренный хозяин какого-то дома прямо в небе? Только техношовинист способен представить, что такокоптер окажется лучше, чем курьерская система, которая у нас есть сейчас.

Если вы спросите Siri, насколько идея с такокоптером хороша, она выдаст вам поисковую подборку. Так вы увидите новостные статьи, в том числе одну на Wired (мы поговорим об этой публикации и об одном из основателей журнала, Стюарте Бранде, в главе 6), в которой предлагаемый проект развенчивается лучше, чем в этой книге. Автор статьи пишет о том, что такокоптер – логистически невозможная идея, особенно из-за ограничений, наложенных Федеральным управлением авиации США на коммерческое использование беспилотных дронов. Но она уверена, что сохранить идею проекта действительно важно. «Подобно тому, как киберпанк способствовал развитию интернета, – говорит автор, – предоставьте нечто, дайте людям пищу для размышлений» [10] Bonnington, “Tacocopter.” .

На мой взгляд, здесь не хватает более полного видения мира, в котором появились такокоптеры. Что будет включать в себя проектирование зданий и городских ландшафтов с расчетом не только на людей, но и на дроны? Как изменится доступ к свету и воздуху в квартирах, если окна превратятся в посадочные станции? Какова будет социальная цена за буквальное выкорчевывание повседневной практики передачи пакета с едой из одних человеческих рук в другие? Действительно ли мы хотим сказать «Hello, world!» этой реальности?

Мы обсудили как средства аппаратного и программного обеспечения, так и программирование. Теперь пришло время обратиться к более сложной теме – искусственному интеллекту, представления большинства людей о котором основаны на образах из кино, к которым относятся, например, персонаж Дейта, антропоморфный киборг из телесериала «Звездный путь: Следующее поколение», компьютер Hal 9000 из «2001 год: Космической одиссеи», Саманта, ИИ из фильма «Она», или Джарвис, ИИ-дворецкий, помогающий Железному человеку в комиксах и фильмах Marvel. Как бы то ни было, важно не забывать, что все эти образы – плоды воображения. И поверить в реальность воображаемого легко, особенно если очень сильно хотеть. Большинство людей, по-видимому, хотят, чтобы ИИ был реальностью. Обычно это желание приобретает форму робота-дворецкого, готового исполнить любой ваш каприз. (Лично я вынуждена покаяться: в студенческие годы я не раз участвовала в полуночных дискуссиях о практических и этических аспектах обладания роботом-дворецким.) Многие стремятся увидеть развитие технологий как раз в векторе голливудских представлений о роботах. Когда Марк Цукерберг создал собственную систему «умного дома» на основе ИИ, он назвал ее Джарвис.

Прекрасный пример путаницы между реальным и воображаемым ИИ произошел со мной на ежегодном симпозиуме NYC Media Lab, эдакой ярмарке для взрослых. Я представляла ИИ собственной разработки. В моем распоряжении были стол, монитор и ноутбук для демонстрации. В метре от меня находился другой стол с еще одним демо, разработанным студентом гуманитарного факультета, – визуализацией данных. Когда толпа посетителей схлынула, нам стало скучно и мы решили поболтать.

– Что у вас за проект? – спросил он.

– Это программа на основе ИИ, которая призвана помогать журналистам быстро и эффективно разрабатывать новые идеи для своих историй при помощи финансовых данных, – ответила я.

– Ух ты! Искусственный интеллект, – выпалил он. – Настоящий искусственный интеллект?

– Конечно, настоящий, – отозвалась я, слегка обиженная его репликой: иначе зачем бы я стала тратить целый день на демонстрацию программы за этим столом, если бы не сделала что-то работающее ?

Студент подошел к моему столу и начал вглядываться в монитор. «Как он работает?» – поинтересовался он. Я коротко ему все объяснила (вы сможете прочитать обстоятельную версию моего объяснения в главе 11). Он выглядел смущенным и немного разочарованным.

– То есть это не настоящий ИИ? – не унимался он.

– Да нет же, настоящий, – ответила я. – И впечатляющий. Но ведь вы наверняка знаете, что внутри компьютера нет никакой симулированной личности? Ничего подобного не существует. Это попросту невозможно с точки зрения компьютерных технологий.

Он слегка поник.

– Я думал, что это и подразумевается под ИИ, – произнес он, – я слышал об IBM Watson и о компьютере, обыгравшем чемпиона по го, о беспилотных машинах. Я думал, что настоящий ИИ уже изобретен.

Он выглядел подавленным. Тогда я поняла, что он вглядывался в монитор, полагая, будто внутри него что-то есть – «настоящий» призрак внутри машины. Я почувствовала вину за разрушение значимого для него мифа, поэтому решила направить разговор в нейтральное русло – и, чтобы его взбодрить, предложила обсудить выход очередного эпизода саги «Звездные войны».

Я отметила этот случай потому, что он напоминает мне о разнице в восприятии ИИ специалистами в области информатики и остальными – пускай и весьма искушенными в вопросах технологий – дилетантами.

Сильный ИИ – это голливудский образ ИИ, связанный с роботами, способными на чувства (которые, возможно, стремятся захватить мир), с сознанием внутри компьютеров, вечной жизнью и машинами, которые «думают» подобно людям. Слабый ИИ – другое дело, это математический метод прогнозирования. Многие – даже те, кто создает технологические системы, – часто путают эти два представления об ИИ. Потому нелишним будет повторить, что сильный ИИ – это фантазия, а слабый – реальность, работающая здесь и сейчас.