Ханна Фрай - Hello World. Как быть человеком в эпоху машин

Между тем Коуп дает очень простое определение творческой деятельности, охватывающее и деятельность алгоритмов: “Творчество — это поиск ассоциативных связей там, где, казалось бы, их нет”.

Возможно. Но, по-моему, все-таки если ЭМИ и ей подобные программы и проявляют способность к творчеству, то в какой-то ущербной форме. Их музыка бессодержательная, даже если она мелодична. И я никак не могу отделаться от мысли, что если мы будем относиться к машинной продукции как к искусству, то в плане культуры наша картина мира станет намного беднее. Может, такая культурная пища легко усваивается и поднимает настроение. Но это не Искусство с большой буквы.

Изучая материалы для этой главы, я поняла, что совсем по другой причине я отношусь к творчеству алгоритмов с сомнением. Дело не в том, способны ли компьютеры к творческой деятельности. Способны. Главный вопрос — что считать искусством.

Я математик. Я со знанием дела оперирую фактами о ложной позитивности и рассуждаю об абсолютной истине, о точности и статистике. Но что касается искусства, я лучше сошлюсь на Льва Толстого. Я, как и он, полагаю, что подлинное искусство имеет дело с человеческими отношениями, с взаимодействиями на эмоциональном уровне. Лев Толстой писал: “…Искусство есть передача другим людям особенного, испытанного художником чувства” [399] [400]. Если вы согласны с Толстым, вам должно быть понятно, почему компьютер не может творить подлинное искусство. Это замечательно объяснил Дуглас Хофштадтер, задолго до его знакомства с ЭМИ:

“Программа”, которая могла бы сочинять музыку… должна была бы сама побродить по свету, ища выходы из разных передряг и переживая каждое событие. Она должна понять, что такое радость и одиночество в ночи, когда стоишь на холодном ветру, страстное и неутолимое желание коснуться дорогой сердцу руки, городские огни в недосягаемой дали, что такое горе и восстановление после смерти близких. Она должна испытать мировую скорбь и смирение, тоску и отчаяние, чувство целеустремленности и победы, благоговения и священного трепета. Должна объединить противоположности — надежду и страх, душевную муку и ликование, безмятежность и тревогу. Ей обязательно должны быть присущи изящество, чувство юмора и ритма, оригинальность — и, безусловно, способность остро воспринимать магию нарождающегося нового творения. В этом и только в этом кроется источник смысловой наполненности музыки [401].

Тут я могу и ошибаться. Возможно, если творения алгоритмов примут облик созданных человеком шедевров — как это произошло с музыкой ЭМИ, — мы оценим их и вложим в них свой смысл. Судя по многолетней истории фонограммы в поп-музыке, люди способны эмоционально реагировать даже на суррогат живого контакта. И возможно, когда компьютерное творчество распространится повсеместно и мы будем отдавать себе отчет в том, что автор — не человек, односторонняя связь перестанет нас отпугивать. Можно ведь установить эмоциональный контакт, скажем, с любимым плюшевым мишкой или домашним паучком без всякой надежды на взаимность.

Однако, на мой взгляд, подлинные шедевры не рождаются по случайному стечению обстоятельств. Есть границы применения алгоритмов. Предел допустимых расчетов. Я могу выудить из массивов данных и статистической информации самые невероятные, ошеломительные сведения, но ничего не найду о том, каково это — быть человеком.

Заключение

Архитектор Рахина Ибрагим, замужняя женщина (супруг ее остался по другую сторону океана), мать четверых детей, работала волонтером в больнице и, ко всему прочему, готовилась к защите диссертации в Стэнфордском университете. Мало ей было забот — она перенесла еще и экстренную гистерэктомию и, хотя уже почти поправилась после операции, пока еще не могла долго обходиться без медицинской помощи и лекарств. Тем не менее она забронировала билет на Гавайи, чтобы в январе 2005 года принять участие в 38-й Международной конференции по системным наукам и выступить с докладом перед коллегами [402].

Утром 2 января 2005 года она вместе с дочкой приехала в аэропорт Сан-Франциско, сразу же подошла к стойке регистрации, предъявила документы и попросила предоставить ей инвалидное кресло. Ей отказали. На экране компьютера высветилось предупреждение, что ее имя включено в федеральный черный список — базу данных, составленную после 11 сентября 2001 года с целью не допустить к полетам людей, подозреваемых в терроризме.

Перепуганная дочка Рахины Ибрагим, еще подросток, оставшись одна, позвонила другу семьи и сказала, что ее маму куда-то увели в наручниках. Саму Ибрагим затолкали на заднее сиденье полицейской машины и повезли в отделение. Ее обыскали, проверив, что у нее под хиджабом, и заперли в камере без необходимых лекарств и медицинской помощи. Через два часа явился агент органов национальной безопасности с бумагами на освобождение и объявил ей, что из черного списка ее фамилию вычеркнули. Ибрагим добралась до места проведения конференции, а оттуда отправилась на родину, в Малайзию, проведать родных.

Ибрагим попала в черный список, когда агент ФБР, заполняя форму, поставил галочку не в том квадратике. Возможно, ошибка произошла из-за того, что террористическую организацию “Джемаа Исламия”, ответственную за взрывы на Бали в 2002 году, спутали с малайской организацией “Джемаа Ислам”, профессиональным объединением людей, обучающихся за границей. Ибрагим состояла во второй и никогда не имела ничего общего с первой. Как только эта ошибка закралась в автоматизированную систему, дело приобрело оттенок государственной важности, что едва ли не вешало на него гриф “без права на обжалование”. Инцидентом в аэропорту Сан-Франциско эта история не закончилась.

Спустя два месяца, на обратном пути из Малайзии в США, Ибрагим вновь задержали в аэропорту. На этот раз конфликт разрешился не так быстро. Ее визу аннулировали на основании подозрений в связях с террористами. Несмотря на то, что Ибрагим была матерью американских граждан, постоянно проживала в Сан-Франциско и занимала должность в одном из самых уважаемых университетов Америки, в Штаты ее не пустили. В конечном итоге, прежде чем ей удалось выиграть битву за свое честное имя, прошло почти десять лет. Почти десять лет Америка оставалась для нее запретной страной. И все из-за того, что человек один раз ошибся, а компьютер наделили слишком большим авторитетом. Человек плюс машина

Никто не сомневается в том, что автоматика оказала огромное и полезное влияние на жизнь каждого из нас. Перечень успехов уже созданных на сегодняшний день алгоритмов поражает воображение. Алгоритмы помогают нам диагностировать рак груди, ловить серийных убийц и предотвращать авиакатастрофы; открывают нам свободный доступ ко всем накопленным человечеством знаниям — надо лишь пошевелить пальцами; они в одно мгновение соединяют людей по всему миру, что нашим предкам и не снилось. Но, кажется, стремясь ко всеобщей автоматизации и торопясь решить множество мировых проблем, мы вместо одной сложности создали себе другую. Эти полезные, заслуживающие всяческих похвал алгоритмы вынуждают нас распутывать плотный клубок мудреных загадок.