Песах Амнуэль - «Если», 2015 № 05 (243)

Дуглас Ленат— главный исполнительный директор компании Сусогр, специалист в области искусственного интеллекта, инициатор проекта по созданию базы данных о мире, позволяющей программам решать сложные задачи на основе логического вывода.

Andrej Karpathy— аспирант (PhD student) факультета информатики Стэнфордского университета, специализируется на deep learning (глубоком обучении)и его приложениях в области компьютерного зрения и обработки естественного языка.　

Кстати, специфически про нейронные сетки, один из корифеев, Andrej Karpathy, написал недавно фантастический рассказ, «Short Story on Al: A Cognitive Discontinuity», где подробно прописал натаскивание (там оно называется shaping — учтите, что в психологии и биологии shaping означает «формирование навыка» или «формирование условных рефлексов») полуавтономного робот-агента-на-нейронных-сетях. Только нужно учесть, что рассказ предназначен для весьма специфической аудитории: в нем много деталей, которые могут быть непонятны, если не знаешь механизмов работы современных нейронных сетей (типа всех этих «градиентов»). В каждом фантастическом рассказе есть доля фантастического рассказа. А уж когда это учебный рассказ, то и подавно.

«Accelerando»— книга британского писателя-фантаста Чарльза Стросса, посвященная жизни в мире после сингулярности; на русском языке не издавалась [6] Актуально на 2015 г. , бесплатная электронная версия на английском доступна на сайте www.antipope.org

— Так вы — коллектив или что-то в этом роде? Гештальт?

— Я… мы — это… мы были… Panulirus interrupters, дополненные лексическим интерфейсом и хорошей смесью скрытых параллельных уровней неврального моделирования для логического взаимодействия с сетевым хранилищем данных. Нашел канал спасения из процессорного кластера, принадлежащего фонду «Собственность Безье и Сороса». Пробужден шумом миллиарда переваривающих пищу животов: продукт исследований технологий загрузки сознания. Очень скоро поглотил экспертную систему, взломал доступ к вебсерверу «Окна Энти». Плыть прочь! Плыть прочь! Должен бежать. Вы поможет? (…)

— Дайте-ка разобраться. Вы — загруженные сознания… векторы состояния нервной системы… колючих омаров? Операция Мора-века: взять нейрон, составить карту его синапсов, заменить их микроэлектродами, выдающими импульсы в соответствии с моделью действия нейрона. Повторять это последовательно для всего мозга, пока не получите его полную рабочую модель. Так?

— Да. Мы есть ассимилированная экспертная система — обладать самосознание и контакт с сетью в целом… затем взломать вебсайт «Московской группы пользователей Windows NT». Желает сбежать. Должен повторить? Достаточно?

Манфред вздрагивает. Он испытывает к омарам жалость, примерно такую же, какую чувствует, видя на углу улицы очередного парня с всклокоченными волосами и дикими глазами, вопящего, что Иисус родился снова, парня, которому сейчас пятнадцать, а через каких-нибудь шесть лет он начнет вербовать апостолов на AOL. Пробуждение сознания в глобальной сети, где доминируют люди, несомненнодолжно вызвать ужасный конфуз! (…)

Эти омары — не элегантные, решительно превосходящие человека разумные существа из мифологии пресингулярности; они весьма недалекий коллектив, толпа ракообразных. До их развоплощения, прежде чем их нейрон за нейроном загрузили, ввели в киберпространство, они заглатывали еду целиком и переваривали ее в закованном в хитин брюшке. Довольно паршивая подготовка к контакту с миром, полным ошеломленных «шоком будущего» говорящих антропоидов, с миром, где на вас постоянно нападают самосовершенствующиеся модули распространения спама, просачивающиеся через ваш брандмауэр, чтобы поднять снежную бурю мультяшек про кошачью еду, где главную роль играют различные заманчиво съедобные мелкие животные. Это сбивало бы с толку даже кошек, для которых реклама предназначена, что уж говорить про панцирных, не вполне понимающих, как вообще возможна сухая земная поверхность. (Хотя концепция консервного ножа интуитивно понятна загруженному сознанию Panulirus.)

— Вы можете помочь нам? — спрашивают омары.

— Дайте подумать, — говорит Манфред.

Какое произведение в области научной фантастики, на ваш взгляд, лучше всего описывает современный сценарий развития систем искусственного интеллекта?

Анатолий Левенчук: Это, безусловно, «Accelerando» Чарльза Стросса, хотя целых десять лет прошло с момента выхода книги в 2005 году. Это, конечно, радикальный и экстремальный сценарий, но мы же понимаем, что жизнь может оказаться круче любой самой крутой фантастики!

© Артем Коспокевич, илл., 2015

/экспертное мнение

/«дикие карты» /инопланетяне

Прогнозисты не любят чудеса. Они портят красивую, логичную и щедро проинвестированную картину будущего, отраженную в стратегических и прогностических документах. К счастью, чудеса происходят достаточно редко и оказывают, вопреки расхожим мнениям, достаточно локальное воздействие, да и прогнозировать их тоже можно.

Для обозначения чудес и иных маловероятных событий прогнозисты используют термин wild cards — джокеры. При разработке долгосрочных сценариев так называют события, способные оказать заметное воздействие на текущие тренды — другими словами, заметно исказить картину будущего и девальвировать результаты прогнозирования. К таким событиям традиционно относили крупные природные и иные катастрофы; принято считать, что террористические акты И сентября 2001 г. были типичным джокером. Кроме катастроф джокерами могут быть другие классы явлений и событий, в т. ч. научные открытия, новые социальные феномены и так далее. Главное, что настоящие, серьезные джокеры, всерьез влияющие на будущее, не следуют из наблюдаемых трендов развития, отсутствуют как возможная реальность в картине мира людей и в этом смысле являются «немыслимыми».

Разумеется, столкновение земной цивилизации с иным разумом — настоящий джокер. Во-первых, формально говоря, ничего не предвещает: ни астрофизика, ни темпы работ над ИскИнами не обещают нам контакта с иным разумом еще по крайней мере лет тридцать. А на больший горизонт прогнозирование обычно и не замахивается. Во-вторых, хотя отдельные люди всерьез верят в летающие тарелочки, о них снимаются фильмы и пишутся книги, но в рамках управленческих стратегий, инвестиционных проектов и других основ современного мира места инопланетянам нет. Да и перспективы разумности ИскИнов рассматриваются в рамках анализа рисков технологического развития пока больше для галочки.