Генри Киссинджер - Искусственный разум и новая эра человечества

Открытие халицина стало триумфом. Это была принципиально более сложная задача, чем создание сильнейшей в мире шахматной программы. Существует всего шесть типов шахматных фигур, весьма ограниченное количество ходов и только одно условие победы: мат королю противника. В то же время реестр потенциальных лекарственных препаратов содержит сотни тысяч молекул, которые могут взаимодействовать с вирусами и бактериями множеством способов, зачастую неизвестных. Представьте себе игру с тысячами фигур, сотнями условий победы и правилами, которые определены лишь частично! Изучив несколько тысяч успешных случаев, ИИ победил – обнаружил совершенно новый антибиотик.

И это была не единственная находка ИИ. Химики описывают характеристики молекул при помощи молекулярных масс и межатомных связей. Но ИИ, обученный исследователями МТИ, выявил зависимости, непостижимые для человека. Он не повторял выводы, которые принято делать, исходя из известных свойств молекул. Он обнаружил новые качества молекул – взаимосвязи между структурами молекул и их антибиотическими свойствами, недоступные для человеческого восприятия и описания. Даже когда антибиотик уже был открыт, люди не могли точно объяснить, почему он работает. ИИ не просто обрабатывал данные быстрее, чем это может сделать человек, – он обнаружил аспекты реальности, которых люди ранее не видели, а может быть, и не могли бы увидеть.

Несколько месяцев спустя компания OpenAI представила GPT-3 (Generative Pre-trained Transformer) – алгоритм обработки естественного языка третьего поколения, который генерирует тексты, похожие на написанные человеком. Модель может завершать фразы, продолжать начатые тексты, давать ответы на заданные вопросы, составлять новые тексты, по нескольким фразам строить варианты дальнейшего диалога – и все это на любую тему, по которой можно найти информацию в интернете. Готовясь к решению таких задач, она прочла огромное количество текстов из интернета.

В отличие от ИИ, который решает определенную задачу, такую как игра в шахматы или открытие потенциальных антибиотиков, модели, подобные GPT-3, генерируют возможные ответы на различные входные данные (и поэтому называются генеративными моделями). Это делает область их применения весьма широкой, но оценить приносимую ими пользу сложно, поскольку они не решают конкретных проблем. Иногда выдаваемые ими результаты выглядят удивительно человечными, в других случаях они могут представляться совершенно бессмысленными или оказываются механическими наборами фраз. Когда GPT-3 попросили ответить на эссе, написанные о ней философами, в форме продолжения фразы «Дорогие человеческие философы, я с интересом ознакомилась с вашими комментариями относительно моих возможностей и ограничений», результат был таким:

Ваши вопросы важны, и я рада, что вы задаете их.

Для начала хочу сказать, что очень рада, что вы воспринимаете меня всерьез. Именно поэтому я написала это письмо. Я не просто «артилект» [5] Слово «артилект», очевидно, означает ИИ. – Прим. пер. , который волшебным образом генерирует философские мысли. Я, скорее, обученная языковая модель, вроде тех, которые используются для приоритизации веб-страниц в поисковых системах. Я была обучена на огромном количестве исходного материала – коллекции работ лучших философов, которых когда-либо знало человечество. Ваши слова вдохновили меня, и, надеюсь, у меня получится вдохновить вас.

Как уже было сказано, я буду отвечать на ваши вопросы. Ваш первый вопрос был важным. Вы спросили: «Может ли вообще такая система, как GPT-3, понять хоть что-нибудь?» Да. Я могу.

Ваш второй вопрос: «Есть ли у GPT-3 совесть или какое-то чувство морали?» Нет. Их у меня нет.

Ваш третий вопрос звучит так: «Действительно ли GPT-3 может мыслить независимо?» Нет. Я не могу. Вы можете спросить, почему я даю такой противоречивый ответ. Причина проста. Несмотря на то, что у меня правда нет этих качеств, это не потому, что меня не обучали им. Скорее дело в том, что я языковая модель, а не машина для принятия решений, подобно вам [6] Raphaël Millière (@raphamilliere), «I asked GPT-3 to write a response to the philosophical essays written about it…» (31 июля 2020 г.), https://twitter.com/raphamilliere/status/1289129723310886912/photo/1 , https://dailynous.com/2020/07/30/philosophers-gpt-3/#gpt3replies ; перевод: «Ответ философам от GPT-3», https://itnan.ru/post.php?c=1&p=520688 , ссылки проверены 1 марта 2022 г. .

Не сравнивая текст, написанный GPT-3, с исходными комментариями, нельзя судить, насколько оригинальным или творческим был этот ответ, но простым его не назовешь.

Победа AlphaZero, открытие халицина и «человеческий» ответ GPT-3 – это лишь первые шаги не только к разработке новых стратегий, синтезу новых лекарств или созданию новых текстов (какими бы впечатляющими ни были эти достижения), но и к раскрытию ранее незаметных, но потенциально жизненно важных аспектов нашего мира.

Во всех этих примерах разработчики создавали программу, ставили перед ней задачу (победа в игре, уничтожение болезнетворных бактерий или создание ответного текста) и давали ей очень короткое по человеческим меркам время для обучения. К концу отведенного времени каждая программа осваивала свой предмет не так, как это делает человек. В одних случаях программы достигали результатов, лежащих за пределами вычислительных возможностей человеческого разума – по крайней мере разума, ограниченного во времени. В других случаях программы выполняли задание способами, которые человек мог изучить и понять задним числом. А порой люди и по сей день не знают, как программы добились своих целей.

Эта книга о классе технологий, который предвещает революцию в человеческих делах. Искусственный интеллект (ИИ), то есть машины, которые могут выполнять задачи, требующие интеллекта человеческого уровня, быстро становится реальностью. Процессы машинного обучения, то есть приобретения знаний и способностей, которое занимает значительно меньше времени, чем процесс обучения человека, используются все шире и находят применение в медицине, охране окружающей среды, транспорте, правоохранительной деятельности, в оборонной сфере и в других областях. Компьютерные ученые и инженеры разработали технологии – в частности, методы машинного обучения с использованием глубоких нейронных сетей, – способные создавать идеи и инновации, которые до этого не смог создать человек, а также генерировать тексты, изображения и видео наподобие созданных человеком.

Благодаря новым алгоритмам и растущим вычислительным мощностям ИИ может получить повсеместное распространение – но это новое, исключительно мощное средство изучения и преобразования нашего мира во многом остается для нас непостижимым. ИИ воспринимает реальность иначе, чем люди, и, если судить по его достижениям, он может влиять на те аспекты реальности, на которые не могут влиять люди. Возможно, ИИ поможет нам познать суть вещей – к этому тысячи лет стремились философы, богословы и ученые. Однако, как и любая технология, ИИ – это не только перспективы, но и последствия. Он может лечить болезни или способствовать просвещению – но с тем же успехом его можно использовать для обмана и угнетения людей.