Эми Уэбб - Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе

В следующем году группа собралась на последнем этаже факультета математики Дартмутского колледжа. Среди тем ее работ были теория сложности, моделирование естественного языка, нейронные сети, связь случайности и творчества, а также самообучающиеся машины. По рабочим дням они собирались в главной аудитории факультета для общего обсуждения, после которого расходились, чтобы работать над частными задачами. Во время одного из таких общих собраний профессора Алан Ньюэлл, Герберт Саймон и Клифф Шоу предложили способ доказательства теорем логики и смоделировали процесс вручную. Свою программу они назвали Logic Theorist, «Ученый логик». Она оказалась первой программой, способной имитировать навыки решения задач, присущие человеку. (Впоследствии программа доказала 38 из 52 теорем из «Оснований математики» Альфреда Норта Уайтхеда и Бертрана Рассела, фундаментального учебника по началам математической науки.) Клод Шеннон, несколькими годами ранее учивший компьютеры играть в шахматы против людей, получил возможность показать прототип своей программы, работа над которой тогда еще продолжалась [35].

Тем летом в Дартмуте расчетам Маккарти и Минского на фундаментальный прорыв в области ИИ не суждено было оправдаться. Чтобы превратить ИИ из теории в практику, им не хватило времени, не говоря уже о вычислительной мощности [36]. Тем не менее именно к этому моменту восходят три практики, образующие фундамент ИИ в известном нам сегодня виде:

– теоретическая и практическая разработка ИИ, его тестирование и совершенствование будут производиться крупными технологическими компаниями и академической наукой, работающими совместно; – совершенствование ИИ требует больших сумм денег, поэтому станет необходима коммерциализация этих работ в той или иной форме – будь то взаимодействие с государственными или военными органами через партнерства или разработка продуктов и систем, которые могут быть проданы;

– исследование и разработка ИИ будут опираться на сеть ученых, работающих на стыке дисциплин, что означает создание новой отрасли науки с нуля. Это также означает, что уже работающие в этой отрасли будут нанимать, как правило, знакомых им людей, обеспечивая относительную однородность сети и ограничивая выборку.

Тем летом произошло другое интересное событие. Работая над вопросом Тьюринга, могут ли машины мыслить, группа разделилась из-за подходов к ответу на него, а именно построению самообучающейся машины. Некоторые участники предпочитали биологический метод. Иными словами, они считали, что при помощи нейронных сетей можно придать ИИ здравый смысл и способность рассуждать логически – и таким образом машины могут стать разумными. Другие возражали, что построить настолько полную копию мыслительного аппарата человека невозможно никогда. Вместо этого они предлагали инженерный подход. Вместо того чтобы подавать машине команды, приводящие к решению задачи, программа могла бы помочь системе «обучиться» на наборе данных. Система делала бы предсказания, основываясь на этих данных, а контролирующий ее человек проверял бы ответы, тренируя и настраивая ее в процессе работы. Таким образом определяется «машинное обучение» в узком смысле, то есть обучение решению изолированной задачи, например игре в шашки.

Психолог Фрэнк Розенблатт, участвовавший в семинаре в Дартмутском колледже, хотел смоделировать обработку визуальной информации в человеческом мозгу и в итоге научить машину распознавать предметы. Он рассчитывал создать простую рамочную программу, восприимчивую к обратной связи. Опираясь на результаты летних исследований, Розенблатт создал систему, которую назвал Perceptron. Это была первая искусственная нейронная сеть (ANN), работавшая по принципу создания связей между многочисленными элементами, обрабатывающими информацию и расположенными послойно. Каждый механический нейрон принимал на входе множество различных сигналов и затем обрабатывал их математически с учетом весов, чтобы определить, какой сигнал генерировать на выходе. Такая параллельная структура позволяла осуществлять доступ ко множеству обрабатывающих элементов одновременно, а это означало, что она не только была быстрой, но и могла непрерывно обрабатывать большой объем данных.

Текст предоставлен ООО «ЛитРес».

Прочитайте эту книгу целиком, на ЛитРес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

Paul Mozur, “Beijing Wants AI to Be Made in China by 2030,” New York Times, July 20, 2017, https://www.nytimes.com/2017/07/20/business/ china-artificial-intelligence.html. – Прим. авт.

Tom Simonite, “Ex-Google Executive Opens a School for AI, with China’s Help,” Wired, April 5, 2018, https://www.wired.com/story/ex-google-executive-opens-a-school-for-ai-with-chinas-help/. – Прим. авт.

“Xinhua Headlines: Xi outlines blueprint to develop China’s strength in cyberspace,” Xinhua, April 213, 2018. http://www.xinhuanet.com/english/ 2018-04/21/c_137127374_2.htm. – Прим. авт.

Stephanie Nebehay, “U.N. says it has credible reports that China holds million Uighurs in secret camps,” Reuters, August 10, 2018. https://www. reuters.com/article/us-china-rights-un/u-n-says-it-has-credible-reportsthat-china-holds-million-uighurs-in-secret-camps-idUSKBN1KV1SU. Прим. ред.

Simina Mistreanu, “Life Inside China’s Social Credit Laboratory,” Foreign Policy, April 3, 2018. https://foreignpolicy.com/2018/04/03/life-inside-chinas-social-credit-laboratory/. – Прим. авт.

Ibid. – Прим. авт.

На самом деле Шаньдун – провинция Китая, а в статье, на которую ссылается автор, речь идет о событиях в ее столице, городе Цзинань. – Прим. пер.

“China Shames Jaywalkers through Facial Recognition,” Phys.org, June 20, 2017, https://phys.org/news/2017–06-china-shames-jaywalkers-facialrecognition.html. – Прим. авт. Глава 1

Именно эти два толковых словаря играют основную роль для американского и британского варианта английского языка соответственно. – Прим. пер.

Один из вариантов значения слова «мысль» в словаре Ожегова тоже опирается на термин «сознание»: «То, что заполняет сознание, дума». – Прим. пер.

“The Seikilos Epitaph: The Oldest Song in the World,” Wired, October 29, 2009, https://www.wired.com/2009/10/the-seikilos-epitaph.

“Population Clock: World,” Census.gov, 2018, https://www.census.gov/ popclock/world.

Elizabeth King, “Clockwork Prayer: A Sixteenth-Century Mechanical Monk,” Blackbird 1, no. 1 (Spring 2002), https://blackbird.vcu.edu/v1n1/ nonfiction/king_e/prayer_introduction.htm.

“AMA: We Are the Google Brain Team. We’d Love to Answer Your Questions about Machine Learning,” Reddit, August 4, 2016, https://www. reddit.com/r/MachineLearning/comments/4w6tsv/ama_we_are_the_ google_brain_team_wed_love_to/.

Декарт Р. Сочинения в 2 томах. Т. 1. М., Мысль, 1989. Цит. по: https://nibiryukov.mgimo.ru/nb_russian/nbr_teaching/nbr_teach_library/nbr_library_classics/nbr_classics_descartes_meditationes_de_prima_ philosophia.htm. Пример с читательницей, плавающей в озере, добавлен автором. – Прим. пер.