Варвара Оськина - Инсинуации

Бросив взгляд на часы, показывавшие половину девятого утра, Элис вздохнула, прикрыла глаза и решилась; у неё есть пара часов, которые можно смело потратить на маленькие глупости. Профессор в обед, профессор на ужин, теперь ещё и на завтрак. Достав из-под кровати ноутбук, она открыла его и запустила в браузере поисковик. Ну, О’кей, Гугл… Что ты нам расскажешь по запросу «Джеральд Риверс». Один электронный импульс и на Элис вывалились десятки страниц ссылок и фотографий.

Первым делом любопытство потребовало посмотреть снимки. С каким-то удивлением она обнаружила огромное количество изображений с конференций, где Риверс стоял то за трибуной, то подле экрана, на котором светились размытые блок-схемы и графики. Нашлось и прошлогоднее часовое видео с одного из выступлений для TED 22 22 Организация TED (technology, entertainment, design; технологии, развлечения, дизайн) на конференции разработчиков. Запустив в фоновом окне YouTube, она листала страницу, рассматривая фотографии Риверса в дорогущих деловых костюмах и с неизменной искусственной улыбкой. Серьёзные кадры перемежались совершенно внезапными снимками с невероятных вечеринок, официальных приёмов, среди которых засветилась чуть ли не вся верхушка управленческой власти, и была даже парочка студенческих фото. Взгляд задержался на одном из таких: молодой и худой, как бы даже не истощённый, парень лет двадцати зло ухмылялся в камеру, сидя на фоне какой-то заштукатуренной стены. Заинтересованная Элис кликнула по фотографии, но браузер мгновенно выдал, что страница не найдена или была удалена. Пожав плечами, она обругала чёртово кэширование и вслушалась в доносившийся из динамиков знакомый уверенный голос.

На развёрнутом во весь экран видео профессор сидел в кресле, закинув ногу на ногу и рассеянно поигрывая микрофоном. На его лице кривилась самодовольная улыбка, а сам он напрочь игнорировал бушевавшее в зале возбуждение и рассматривал собственный невероятно интересный бейдж. Похоже, он только что весьма специфически пошутил. Зрители весело галдели и улюлюкали вслед нескольким спешно покидающим зал людям, о чём-то тревожно переговаривались организаторы. Наконец гомон более или менее стих, и Риверс поднял голову, как ни в чём и не бывало оглядывая свою аудиторию.

– Все ушли, кто хотел? – Он проводил взглядом последнюю из удалявшихся спин, что успела выхватить камера. – Замечательно. Как я вижу, оставшиеся не из пугливых и не боятся, что сейчас прямо со сцены начнётся вербовка в Пентагон. Впрочем, даже если вы и рассчитывали, то вакантные места в аду уже заняты.

Пронёсшийся по переполненному залу смех прервал профессора, который и не думал веселиться с остальными.

– Но мы здесь собрались для другого. Уверен, каждый из присутствующих хотя бы раз создавал нейронную сеть для решения примитивных или же, наоборот, глобальных задач. И вы наверняка ждёте от меня примеров, интересных случаев и задач, однако, этого не будет. Вместо разбора десятков строчек кода я хотел бы задать всего один вопрос. Многие ли из нас осознают, какие проблемы могут нести в себе наши разработки?

Элис, как и многие в зале, удивлённо моргнула и недоверчиво уставилась на лениво покачивающего ногой Риверса. Тот помолчал, словно ожидал ответа, безотчётно скользнул кончиками пальцев свободной руки по идеально ощетинившемуся подбородку и, так и не услышав ни одного комментария, медленно поднялся, выпрямляясь во весь свой гигантский рост. И будто именно этого не хватало, чтобы публика впала в зыбкое оцепенение и окончательно погрузилась в атмосферу, которую мог создать только он. Мягкая вкрадчивость его голоса одурманивала.

– Судя по многозначительному молчанию, ответ – нет. Но с момента моего вопроса прошли десятки секунд, и вот уже появились единицы, кто может сказать о социальной и этической важности. Но что же остальные? А остальные кинулись упиваться инвестиционной значимостью каждого своего чиха. Верно?

Риверс прислонил руку к глазам, стараясь за безумным светом софитов разглядеть реакцию людей.

– Вы киваете, значит, я прав. Судите сами, мы создаём интеллект, который способен решать задачи без человеческого участия. Обучаем его, тренируем, иногда воспитываем. Вам это ничего не напоминает?

Профессор, который до этого медленно расхаживал перед аудиторией, остановился и сделал паузу, снова оглядев слушателей. Те хранили мёртвое молчание.

– Ожидаемо . – Он скептически усмехнулся, а потом устало выдохнул: – Это ребёнок. Ваше чадо, которое постепенно растёт, меняется и… становится мудрее. Однако вместе с этими переменами приходят и проблемы. Во-первых, машины становятся нашими конкурентами, сокращая изо дня в день необходимость в человеческих ресурсах. Во-вторых, наш опыт показывает – искусственный интеллект ещё более необъективен, чем человеческий. Он полностью зависит от того, чему мы его научим, и даже малейший сдвиг в балансе приведёт к тому, что на конкурсах красоты компьютер выберет исключительно белых участниц. Каков расист, верно? Но даже это ещё не всё. Есть последний, но важный момент – кто будет виноват в компьютерном сбое, когда он произойдёт? Кто понесёт ответственность, когда ваш искусственный разум решит запустить ядерные боеголовки только лишь потому, что в его алгоритмы заложена система защиты себя самого? Да, мы сделали это – наш код прекрасно определяет, как реагировать на события и реагировать ли вообще. Но можем ли мы предсказать его поступки? Нет. Однажды настанет момент, когда мы поймём, что хоть и создаём нейронную сеть, но не управляем ею. Границы ответственности стираются. Уже сейчас даже при самом невинном сбое нельзя сказать, кто виноват: пользователь, разработчик или тот, кто обучал…

Риверс на мгновение прервался, глотнул воды и заговорил снова, однако мозг Элис неожиданно погрузился в оцепенение и заевшей пластинкой проигрывал одну и ту же фразу: « Мы создаём нейронную сеть, но не управляем ею» . О господи! От осознания этой очевидной мысли на мгновение стало очень страшно, но тут на экране особо ярко мигнул новый слайд, и Эл очнулась. Она смотрела на фото подростка с геймбоем в руках, пока в уши впивался ядовитый голос Риверса:

– Сейчас мы не думаем об этих проблемах. Мы вообще ни о чём не задумываемся, а потому я спрошу вас – не кажется ли вам, что, живя так, мы играем в Господа Бога? Посмотрите, у нас даже машины созданы по образу и подобию человеческому. – Риверс зло хохотнул и спрятал за полуприкрытыми веками страшный мучительный взгляд.

В этот же момент картинка сменилась неожиданным кадром из фильма, профессор оглянулся, уставившись на зарывшуюся носом в песок ракету «Stark Industries», а аудитория беззвучно задохнулась от грубого и неприкрытого намёка. Закусив костяшки пальцев, Элис ждала последней, решающей крупицы, что в мутное крошево разобьёт её стройный красивый мир. И это произошло, когда экран показал погрязшую в войнах планету, а издалека донёсся негромкий голос: