Роберт Сойер - Вселенная. Емкие ответы на непостижимые вопросы

И третья, которая особенно страшна и беспокоит всех, – доминантный или злонамеренный ИИ. Сценарий Терминатора, если угодно. Я бы хотел провести различие между тем, что я называю большим ИИ, и малым, или ограниченным ИИ, как его иногда называют в отрасли. Ограниченный ИИ – это просто небольшие порции разума, применяемые сейчас почти в любом процессе, чтобы снять с человека рутинную работу. Простой пример, который многие сегодня используют, это покупка в один клик на Амазоне, так? Вы кликаете на выбранную книгу, и она моментально становится вашей, потому что одновременно маленький робот-клерк проверяет, человек ли это? Он действительно Шварц? Все ли в порядке с его кредитной картой? Верно ли указан его адрес? Да, мы можем завершить транзакцию. Немного ИИ. Или заселение в отель, когда ваш смартфон удостоверяет для отеля вашу личность и ИИ отвечает: «Добро пожаловать, мистер Шварц. Ваш номер – 905. Регистрироваться нет необходимости».

Как видно, в самых различных контекстах небольшое количество искусственного разума начинает применяться, чтобы убрать трение из тех или иных процессов. Вот это я имею в виду под ограниченным ИИ, и это уже начинает происходить. Не думаю, что ограниченный ИИ ведет нас к большому ИИ, а большой ИИ – это то, что в литературе называется общий искусственный интеллект, ОИИ ( AGI) . В целом, это как мозг человека, что-то сопоставимой мощности. И я думаю, что сложение маленьких ИИ не ведет к большому ОИИ.

В литературе также высказана идея искусственного суперинтеллекта, куда более мощного, чем человеческие существа, и требующего постоянного саморазвития. Машина улучшает себя и создает следующее поколение машины, которое создает следующее поколение машины и так далее и так далее, и машины становятся все лучше и оставляют нас далеко позади. Таким образом в этом зале мы говорим лишь о трех типах ИИ, хотя добрый друг многих из нас, Кевин Келли, только что выпустил отличную книгу «Неизбежно» ( The Inevitable ). И в этой книге он перечисляет 25 разных типов ИИ.

Всего несколько примеров: разум, подобный человеческому, но быстрее находящий ответы, как Ватсон на стероидах; разум, натренированный и направленный на улучшение вашего личного разума, как уникальное дополнение к вашему собственному разуму; решающий общие задачи разум без какого-либо самосознания – большой мощный научный инструмент для исследований. Наконец, разум, способный к бессмертию путем миграции с платформы на платформу, развивающийся во времени и фактически живущий вечно, потому что он способен адаптироваться к технологическим переменам.

Так что есть множество разных видов ИИ, которые следует иметь в виду, когда мы говорим о будущем. Есть три измерения неопределенности. Первое – это время: насколько быстро это случится? Случится ли это в самом ближайшем будущем, через несколько лет, еще позже, или, как думают некоторые, не случится никогда? Различные эксперты в этой области провели пять исследований возможных временных рамок. Около 10 % сказали, что у ОИИ есть шанс появиться около 2022 года, 90 % – что от 2065-го до конца века, и статистически малая часть – что никогда.

Таким образом, по мнению большинства экспертов, до конца этого века у нас будет устройство не глупее среднего человеческого существа. Это первая неопределенность. Сегодня мы на пологом подъеме, но в какой-то момент в ближайшем будущем кривая может уйти вертикально вверх. Вопрос, не на переломе ли мы уже сейчас? Или пологий подъем будет продолжаться? Вторая большая неопределенность – это путь. Как мы попадем туда? Будет ли это сверху вниз и намеренно или снизу вверх? Сверху вниз означает, что мы поймем, как работает мозг, создадим программную модель этого мозга и запустим ее на каком-либо устройстве.

Современные технологии машинного обучения уже на самом деле довольно близки к этому, потому что один из способов работы мозга – это запоминание, мы видим одни и те же вещи много раз и со временем в нейронах прокладываются тропинки, придающие им смысл, они запоминаются. Так и работает машинное обучение, вы показываете машине множество примеров, и она усваивает, как выглядит кошка, или собака, или яблоко, или ваше лицо, между прочим. Это путь сверху вниз.

Однако все может произойти иначе, снизу вверх – множества разных вычислений могут быть соединены в то, что Марвин Минкси называл «общество разума». Однако если оно и может появиться, очень трудно предсказать, когда именно. Особенно тревожный сценарий предсказывает, что это может произойти даже случайно.

Последняя неопределенность – будет ли ИИ полезным? Принесет ли он плоды? К примеру, в недавнем фантастическом фильме «Она», где ИИ был помощником человеческого существа, прекрасным, благодаря чудесному голосу Скарлетт Йохансон. Конечно, ИИ наскучило человечество, и он оставил нас позади, но это был милостивый ИИ. Но фактически мы видим, что ограниченный ИИ, о котором я говорил выше, очень полезен для повышения производительности. Наша компания использует ИИ для повышения производительности людей. И, если вы задумаетесь о растущей занятости в секторе услуг, где производительность не растет, это инструмент повышения производительности и роста нашей экономики.

Итак, вот эти три большие неопределенности. Проясняет ли это ситуацию? Каковы возможные пути? Каковы сроки? Это подводит нас к нескольким особенно непростым вопросам. Например, действительно ли сознание имеет значение? Должна ли машина на самом деле знать, что она разумна? Философ Джон Сирл утверждал, что в этом отношении есть по крайней мере два вида разумности. Одна – сильный ИИ, то есть самоосознающий и имеющий то, что мы подразумеваем под сознанием. Другая – слабый ИИ, который функционирует так, как если бы у него было сознание. Он неотличим от осознающего существа, хотя на самом деле сознания у него нет.

Я не думаю, что это имеет значение с практической точки зрения. Философски – может быть, но с точки зрения нашего взаимодействия с ИИ разницы, пожалуй, нет. Еще один важный вопрос – похож ли вообще мозг на компьютер – вычисляет ли он вообще? Мы использовали компьютерную метафору для описания мозга и метафору мозга для описания компьютера. И фактически, сегодня ИИ – это программное обеспечение, работающее на «железе», нет ничего необычного в том, чтобы думать о нем с этой точки зрения.

Но и наш разум живет в теле – у него есть руки, есть глаза, есть ноги и прочее. У него есть опыт, есть эмоции, есть ощущения и так далее. Может ли быть бестелесный разум? Есть ли в этом на самом деле смысл? Может быть, нам нужна радикально иная модель мозга? Например, мы не могли бы прийти к современной физике твердого тела без квантовой теории, туда не попадешь через Ньютонову физику. Так что возникает вопрос – можем ли мы получить этот настоящий искусственный интеллект с сегодняшними моделями, сегодняшней математикой, сегодняшними концепциями того, как работают мозг и компьютер?