Джон Брокман - Эта идея должна умереть. Научные теории, которые блокируют прогресс

Увлечение роботами-помощниками говорит о страхах, которые мы испытываем по отношению к другим людям. Нам кажется, что искусственный интеллект – это безопасное средство от одиночества. Мы опасаемся, что в будущем некому будет о нас заботиться. Роботы нас привлекают иллюзией компании без сложностей и ответственности дружбы. Более того, люди полагают, что со временем роботы смогут предложить и иллюзию любви без интимности. Мы помещаем роботов туда, где им не место, не потому, что они там должны быть, но из-за того, что мы разочарованы в себе подобных.

На протяжении длительного времени надежда на искусственный интеллект или на роботов была выражением стойкого технологического оптимизма – веры в то, что даже если все пойдет не так, то наука быстро все исправит и снова сделает все правильно. В сложном мире роботы всегда казались средством быстрого разрешения проблем. Роботы спасают жизни в зоне военных действий, в операционных; они функционируют и в космосе, и в пустыне, и в море – там, где человеческое тело может не справиться. Но мы ищем искусственного компаньона не для каких-то особых подвигов, а для других, менее замысловатых целей.

Каковы эти цели? Мы верим в то, что искусственный интеллект сможет стать нам другом. Что разговоры с нами станут призванием роботов, а нам будут приятны их компания и беседа.

За последние 15 лет исследований я видела, как эта надежда поддерживается и крепнет, даже несмотря на то, что у большинства людей нет опыта общения с искусственным компаньоном. Или же их опыт сводится к «разговорам» с приложениями на телефоне, такими как Siri , понимающими такие вопросы, как «Найти ресторан» или «Определить местонахождение друга». Мое исследование показывает, что даже такое простое общение заставляет нас думать о приложении как о друге, даже лучшем друге с некоторыми идеальными чертами: с ним всегда можно поговорить, он никогда не злится и его невозможно разочаровать.

Когда люди говорят о дружбе без взаимности, о друге, который всегда будет «под рукой», простые решения, достигнутые при помощи искусственного компаньона, не кажутся мне такими уж простыми. Чтобы идея об искусственном друге стала новой нормой, мы должны изменить себя, а в процессе мы изменим и человеческие ценности, и то, как устанавливаются связи между людьми. Мы меняем сами себя еще до появления разумных машин. Мы думаем, что создаем новые машины, но на самом деле мы заново создаем людей.

Теоретик искусственного интеллекта; исполнительный директор компании Engines for Education. Автор книги Teaching Minds («Обучение разума»).

Да, ужасное название, но ведь и сама идея не лучше. Плохие идеи приходят и уходят, но история о том, что мы скоро научимся создавать машины, которые будут «совсем как люди», господствует в популярной культуре уже длительное время. Почти каждый год на экраны выходит новое кино с новым роботом, который «совсем как человек». Но в реальной жизни такой робот не появится никогда. И дело не в том, что искусственный разум сам по себе не работает. Просто никто толком и не пытался пока его создать.

Оксфордский физик Дэвид Дойч сказал:

Ни один мозг на Земле и близко не подошел к тому, чтобы понять, как работает мозг. Попытка добиться этого искусственным путем – в области «искусственного интеллекта» – за все шестьдесят лет существования данного научного направления не добились абсолютно никакого прогресса [66].

Дойч при этом считает, что машины, умеющие думать как человек, все же когда-нибудь появятся.

Позвольте мне взглянуть на это заявление в ином свете. Будут ли у нас когда-нибудь машины, испытывающие такие же эмоции, как человек? Если задать этот вопрос кому-то из тех, кто работает в индустрии создания искусственного разума, вам могут рассказать о том, как мы уже можем заставить компьютер смеяться, плакать или сердиться. Но в самом деле испытывать чувства?

Или давайте поговорим о способности обучаться. Компьютер ведь может обучаться, не так ли? Это и есть искусственный разум. О машине нельзя сказать, что она умна, если она неспособна обучаться. Но если машинное обучение уже позволяет научить компьютер играть в «Свою игру» или предоставлять вам данные о привычках покупателей, означает ли это, что искусственный разум вот-вот родится?

Термин «искусственный интеллект» заставил многих далеких от этой области людей воображать для него такие цели, какие перед искусственным разумом никогда не стояли. Отцы-основатели научной области искусственного интеллекта (за исключением Марвина Мински) были одержимы шахматами и решением головоломок (одной из самых популярных была «Ханойская башня»). Играющая в шахматы машина просто играет в шахматы. Она не умеет думать, и не скажешь, что у нее есть ум. И конечно, она действует не как человек. Шахматный компьютер не будет играть хуже от того, что он накануне выпил лишнего или поругался с женой.

Почему все это важно? Потому что любой проект, цель которого представляется окружающим иной, чем она есть на самом деле, обречен на провал. Основатели индустрии искусственного интеллекта и те, кто работает в ней сегодня (включая меня), хотели и хотят заставить компьютеры делать то, что они сегодня делать не могут, надеясь, что эти усилия помогут узнать что-либо новое. Или что в результате этих усилий вдруг будет создано нечто полезное. Компьютер, способный поддержать разумную беседу, потенциально может оказаться полезным. Я сейчас работаю над программой, которая будет способна вести с пользователем разумную беседу на медицинские темы. Но разумна ли эта программа? Нет. У нее отсутствует самосознание. Она не знает, что она говорит, и не знает, что она знает. Мы зациклились на глупой идее умной машины и искусственного разума, и это создает у окружающих неверное представление о реальных проблемах.

Я объявляю, что искусственный интеллект мертв. Научную область «создания искусственного интеллекта» следует переименовать в «попытки заставить компьютеры делать реально крутые вещи». Но, конечно же, никто ее не переименует. У вас никогда не будет дружелюбного домашнего робота, с которым можно будет вести осмысленную беседу. Мне довелось в этом году быть судьей на ежегодном конкурсе AI Loebner (конкурс на премию Лёбнера), в котором компьютерные программы соревнуются в прохождении теста Тьюринга [67]. Глупости, которые там выдавались за искусственный интеллект, были тем, чем и казались, – просто глупостями. У судей уходило максимум 30 секунд на то, чтобы определить, где человек, а где компьютер.

Людей кормят не только знаниями. Я сам воспитал в жизни пару человек. И я кормил их человеческой едой, а не знаниями. Я отвечал на их вопросы, но это были их собственные вопросы, которые они сами генерировали. Я старался помочь им добиться того, чего они хотели, но это были (и есть) их собственные, глубоко прочувствованные желания. Человек рождается как личность, уже имея собственные желания и потребности, и он очень рано начинает их выражать и проявлять. Ни один компьютер не может начать работать, изначально ничего не зная, а затем постепенно совершенствуясь в процессе общения и взаимодействия с человеком.