Кейд Метц - Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир

Когда эта технология обучения только начинала распространяться в интернете, никто еще толком не сознавал, что обучающиеся машины впитывают в себя также и все предрассудки своих создателей. Ученые, первоначально занимавшиеся их созданием, – это по преимуществу белые мужчины, и все нюансы проблематики они оказались способны уловить только тогда, когда им на них указали представители нового поколения исследователей, включающего в себя женщин и небелых. По мере того, как эта технология продвигается все дальше и глубже – в системы здравоохранения, государственной безопасности и в вооруженные силы, – этот перекос может иметь серьезные последствия. Технология глубокого обучения обладает внутренней силой, которую до конца не способны контролировать даже сами разработчики этой технологии, особенно когда эта сила попадает в руки компаний-гигантов, движимых ненасытным стремлением к прибыли.

После того как аукцион, организованный Хинтоном, завершился и подошла к концу конференция NIPS, Кай Юй самолетом отправился в Пекин. На борту он наткнулся на научного сотрудника Microsoft, урожденного китайца по имени Ли Дэн, который тоже сыграл свою роль в аукционе. Юй и Дэн знали друг друга много лет по конференциям и семинарам, посвященным проблематике ИИ, и вот в самолете их места оказались рядом. Хинтон позаботился о том, чтобы ни одна компания, участвовавшая в аукционе, не знала, кто еще участвует, а знать очень хотелось. Дэн любил пообщаться, и они на протяжении всего многочасового перелета бурно обсуждали тему подъема технологии глубокого обучения. Но что касается их участия в аукционе, то здесь они были привязаны клятвой верности своим работодателям и потому, напрямую не говоря об этом, ходили вокруг да около, пытаясь выведать секреты друг у друга и при этом не выдать себя. Да они и без лишних слов понимали, что новая конкурентная война уже началась. Их компаниям так или иначе предстояло дать достойный ответ на этот прорыв Google. Так уж устроен мир интернет-технологий. Это было начало глобальной гонки вооружений, и эта гонка очень скоро приведет к таким последствиям, которые еще несколько лет назад казались немыслимыми.

А Джефф Хинтон тем временем возвращался поездом в Торонто. Через некоторое время он переберется в калифорнийский Маунтин-Вью, где располагается головной офис Google, но, даже став штатным сотрудником этой компании, он сохранит за собой должность профессора Университета Торонто и будет продолжать держаться за свою систему принципов и убеждений, служа примером для многих других ученых, которые вслед за ним пополнили ряды крупнейших технологических компаний. Когда его годы спустя спросили, какие все-таки компании участвовали в том аукционе, он ответил как всегда своеобразно. «Я подписал контракты, которые запрещают мне разглашать, с кем мы вели переговоры, – сказал он. – Один такой контракт я подписал с Microsoft, другой с Baidu, третий с Google. Так что лучше не будем об этом». DeepMind он не упомянул. Но это другая история. После аукциона на озере Тахо Демис Хассабис, основавший лондонскую лабораторию DeepMind, во многом пошел по стопам Хинтона. В чем-то его открытия вторили открытиям последнего, в чем-то он проникал в будущее даже еще дальше. Очень скоро Хассабис тоже вовлекся в глобальную гонку вооружений.

В этой книге рассказывается о Хинтоне, Хассабисе и других ученых, которые стояли у истоков этой гонки, о небольшой, но весьма разношерстной группе исследователей со всего земного шара, которые десятки лет вынашивали свою идею, порой преодолевая неприкрытый скептицизм, пока эта идея не вызрела и не вызвала невероятную, неожиданную суматоху, которая затронула жизненные интересы крупнейших мировых корпораций.

Седьмого июля 1958 года несколько человек 3собрались в офисе Бюро погоды США, расположенного в Вашингтоне, в пятнадцати кварталах от Белого дома. Они обступили электронную машину шириной и высотой с холодильник, но вдвое большую по глубине. Впрочем, это была лишь одна из частей огромного компьютера, другие части которого заполняли комнату, словно мебельный гарнитур. Машина была покрыта серебристым пластиком, отражавшим свет, а передняя панель – усеяна рядами маленьких круглых лампочек, красных квадратных кнопок и толстых пластиковых тумблеров, частично белого, частично серого цвета. Обычно эта электронно-вычислительная машина стоимостью в 2 миллиона долларов 4выполняла расчеты для Бюро погоды, предшественника нынешней Национальной метеослужбы, но в тот день ее позаимствовали 5специалисты из научно-исследовательского управления ВМС и тридцатилетний профессор Корнеллского университета по имени Фрэнк Розенблатт.

Как сообщает присутствовавший там газетный репортер, Розенблатт и сопровождавшие его военно-морские инженеры 6вставили в машину две белые карточки, одна из которых была помечена маленьким квадратиком слева, а другая – таким же квадратиком справа. Поначалу машина не могла их различить 7, но после прочтения еще полусотни таких карточек 8ситуация изменилась. Почти в каждом случае машина правильно определяла, где расположена отметка – слева или справа. Как объяснил Розенблатт, машина освоила этот навык вполне самостоятельно 9 – благодаря математической системе, моделирующей работу человеческого мозга. Он назвал эту систему «Перцептроном» 10. В будущем, говорил он, эта система научится распознавать 11печатные буквы, слова, написанные от руки, голосовые команды и даже человеческие лица. Она сможет переводить 12слова и тексты с одного языка на другой. И теоретически, добавлял он, она сможет сама себя клонировать 13на сборочном конвейере, исследовать далекие планеты и перейдет границу, разделяющую электронные компьютеры и живой разум.

«ВМС представили эмбрион 14будущего электронного компьютера, который, как ожидается, научится ходить, разговаривать, видеть, писать, размножаться и осознавать свое существование», – говорится в статье, которая наутро появилась в New York Times . Вторая статья 15, уже в воскресном номере, утверждала, что инженеры ВМС даже сомневаются, правильно ли называть это творение машиной – «настолько она будет похожа на человека, пусть и неживая». Розенблатту не очень нравилось 16то, как это событие трактовалось прессой, – особенно заголовок одной из газет Оклахомы: «Мыслящее чудовище Франкенштейна, родившееся в недрах ВМС». В последующие годы его пыл поугас, и он, как в кругу коллег, так и в СМИ, описывал этот проект в гораздо более сдержанных красках 17. Он настаивал 18на том, что речь не шла о попытке создания искусственного интеллекта и что он прекрасно сознавал весьма ограниченные возможности этой системы. И однако сама идея выскользнула из его пальцев и перестала быть его идеей.