Мередит Бруссард - Искусственный интеллект [Пределы возможного] [litres]

В итоге офицеры решили арестовать Вилли потому, что у него одного было в руках оружие. В участке ему выдвинули обвинение в угрозе первой степени за стрельбу в воздух и хулиганство. Жена заплатила за него залог $2500, и вскоре он был дома. Спустя несколько месяцев судья снял обвинения: Меридет имел право застрелить робота, кружившего над его собственностью и вторгавшегося в его личное пространство [43] Martinez, “‘Drone Slayer’ Claims Victory in Court.” .

Однако у меня иная точка зрения на этот счет. И я хочу спросить разработчиков и маркетологов дронов: что, по-вашему, должно было случиться ? Америка весьма хорошо вооружена. Вы создаете летающего робота-шпиона, который вдобавок издает раздражающий звук, и при этом не формулируете никаких правил, не пишете инструкций и не вырабатываете социальные нормы относительно непредвиденных ситуаций?

Технокультуру неизменно сопровождает наивность относительно неизбежных проблем, которые предстают всякий раз, когда люди начинают пользоваться новыми гаджетами. Разработчики Microsoft создали Twitter-бота Тая, который, как предполагалось, должен был «учиться» при взаимодействии с другими пользователями. Сообщество Twitter мгновенно продемонстрировало, почему за ним закреплена репутация платформы, где бал правят хамы и агрессоры, – на Тая тут же обрушилась волна грязи. В итоге бот научился искусно владеть риторикой вражды в дискурсе превосходства белой расы. Обалдевшие разработчики закрыли проект [44] Vincent, “Twitter Taught Microsoft’s AI Chatbot to Be a Racist Asshole in Less than a Day.” .

В другой раз инженеры решили продемонстрировать доброту незнакомых людей при помощи hitchBOT – куклы, оснащенной GPS, которая, как предполагалось, пропутешествует автостопом по всей стране. Идея заключалась в том, чтобы подбирать куклу и буквально переносить ее на следующую точку маршрута, чтобы там ее подобрал другой человек и понес дальше. Считалось, что так кукла пропутешествует по всей стране и заодно поможет показать доброту тех, кто хочет помогать другим при помощи технологий. Но hitchBOT не удалось добраться дальше Филадельфии, где робота расчленили и бросили на темной аллее [45] Plautz, “Hitchhiking Robot Decapitated in Philadelphia.” .

Отличительными чертами техношовинизма являются слепой оптимизм и недостаток осторожности относительно применения новых технологий.

История о том, как создатели технологий отчаянно пренебрегают общественной безопасностью и социальным благом, начинается с безгранично любимого мной Марвина Минского. Минский, выпускник Гарварда, Андовера и Принстона, был профессором Массачусетского технологического института (МТИ) и считается отцом искусственного интеллекта. Посмотрите за кулисы любого высокотехнологичного проекта начиная с 1945-го и заканчивая 2016 годом – вы наверняка обнаружите Минского или его разработку.

В лаборатории Минского (в МТИ) родились первые хакеры. Это было потрясающе неформально. Первыми сотрудниками Минского стала группа студентов из клуба Технического моделирования железной дороги, которые тогда создавали собственные релейные компьютеры, чтобы управлять моделями поездов. Члены клуба сходили с ума от возни с механизмами. Тогда, в конце 1950-х гг., в институте была большая ЭВМ (одна из нескольких в мире), и эти студенты периодически пробирались в вычислительный центр, часами разбирали и запускали самостоятельно написанные программы.

Любой другой профессор, скорее всего, наказал бы их за то, что они вламываются в лабораторию и незаконно пользуются университетской собственностью. Минский же нанял их на работу. «Они были странными, – вспоминал он [46] Unless otherwise indicated, quotes from Minsky in this section are taken from Minsky, “Web of Stories Interview.” . – У них было что-то вроде ежегодного соревнования: кто быстрее остальных проедет по всем станциям нью-йоркского метро. Это занимало около 36 часов и требовало детальной проработки поездки, планирования, изучения расписания движения поездов. Эти ребята были сумасшедшими». Однако такого рода сумасшествие оказалось полезным с точки зрения информатики. Безграничное внимание к деталям и неутолимое желание что-то создавать пришлись кстати с точки зрения написания программ и проектирования аппаратного оснащения. Лаборатория Минского процветала.

Да, его методы приема на работу были не слишком ортодоксальными. Все потому, что Минский был Минским – тем, у кого дома всегда жил выпускник или кто-то еще, тем, к кому политик или писатель-фантаст забегали поболтать – в чем вы могли бы убедиться, если бы просидели в его гостиной достаточно долго. Ему не приходилось искать сотрудников. «Кто-нибудь писал сообщение или письмо: “Мне интересно то-то”. На что я отвечал, что можно заглянуть и посмотреть, понравится ли работа у меня, – вспоминал он. – Человек приезжал на неделю или две, получал достаточно денег и уезжал, если ему не нравилось. Это действительно было весьма экстравагантно, но команда лаборатории была сообществом самозаряжающимся. У них был свой язык. Они могли сделать за три дня то, на что обычно уходил бы месяц. И, если у нас в команде появлялся кто-то талантливый и харизматичный, мы принимали его с радостью». Клуб моделистов и лаборатория Минского были увековечены в книгах Стюарта Бранда «Медиалаборатория» (The Media Lab) и Стивена Леви «Хакеры: Герои компьютерной революции» (Hackers: The Heroes of the Computer Revolution) – не считая множества других работ [47] Brand, The Media Lab; Levy, Hackers. . Этика хакера также вдохновила Марка Цукерберга на первый девиз Facebook: «Двигайся быстро и круши». Минский преподавал у Цукерберга в свое время.

Минский и его коллега Джон Маккарти организовали первую конференцию по ИИ. Она проходила в 1956 г. на кафедре математики в Дартмутском колледже. Затем они создали Лабораторию искусственного интеллекта в МТИ, включающую также и Медиалабораторию, которая по сей день остается центром разработки и творческой реализации технологий. С лабораторией сотрудничали все, начиная от Джорджа Лукаса и заканчивая Стивом Джобсом, Аланом Алда, Пенном и Теллером. (Я тоже сотрудничала с Медиалабораторией в рамках программного проекта, посвященного идеям Минского.)

Каждый этап карьеры Минского был отмечен фортуной. Большинству ученых приходится прилагать много усилий, чтобы получить финансирование в мире с постоянно сокращаемыми дотациями. Минский же принадлежал к тем, у кого деньги, казалось бы, «текли из крана». Он вспоминал:

Я не писал ни единой заявки до 1980 г. Я просто всегда появлялся там, где был кто-нибудь вроде Джерри Виснера от Массачусетского института.

Мы с Джоном Маккарти начали работать над ИИ где-то в 1958 г. или 1959 г., как раз когда пришли в МТИ. У нас была пара студентов-помощников. Однажды к нам заглянул Джерри Виснер и спросил, как идут дела. Мы сказали, что все идет неплохо, но было бы здорово, если у нас еще было бы 3‒4 студента в помощь. Он сказал, мол, хорошо, зайдите к Генри Циммерману и скажите, пускай выделит вам лабораторию. Спустя два дня у нас была небольшая лаборатория на 3‒4 комнаты и огромная куча денег, которую МТИ получил от IBM за исследования в области вычислительной техники. Никто не знал, что делать с деньгами, поэтому их отдали нам.