Томас Рид - Рождение машин. Неизвестная история кибернетики

Если гигантский компьютер с его безупречной рациональностью будет запрограммирован в простых и удобных терминах, тогда победа станет целью машины, которую она будет стремиться достичь любой ценой.

Но Паломилла, неповоротливый робот на сцене любительского театра, была не просто игрушкой. Винер разработал ее специально для имитации двух неврологических состояний: болезни Паркинсона и интенционного тремора. Это был совершенно уникальный случай имитации сложного поведения людей простейшими техническими приемами. Дрожащая механическая моль скоро привлекла внимание Медицинского корпуса армии США. Офицеры-медики связались с МТИ и сфотографировали неврологические состояния Паломиллы, чтобы сравнить эти снимки с реальными случаями тремора у людей.

Но вовсе не перспектива того, что машина сможет вести себя как больной человек, вызвала настоящую дрожь ужаса. Самое страшное случится, если машины смогут действовать как самые здоровые и самые способные из людей, превосходя самых лучших работников и обходясь без больничных.

Теория Винера затронула больную тему. Бертран Рассел, который только что получил Нобелевскую премию в области литературы, считал «Человеческое использование человеческих существ» Винера «книгой безграничной важности». Знаменитый английский философ в свои 79 лет предвидел экзистенциальные опасности демократии. Замена людей роботами даст огромную силу небольшой прослойке элиты. Будущие правительственные группировки будут «создавать машины, которые смогут произносить необыкновенно красноречивые политические речи с убедительными жестами. Такие машины можно будет носить из собрания в собрание, не боясь, что они охрипнут, как это происходит с людьми-политиками, и не опасаясь, что их закидают гнилыми помидорами или даже тухлыми яйцами» [148] Bertrand Russell, «Are Human Beings Necessary?», Everybody B, September 15, 1951, 13. . Статья Рассела называлась «Нужны ли человеческие существа?».

В трех часах езды от Бостона, на заводе General Electric, один из рабочих особенно проникся этими страхами. 27-летний ветеран войны, он видел, насколько режущие роторы новых фрезерных станков на реактивных двигателях и турбинах работают быстрее и точнее любого из рабочих. И то, что он видел, пугало его [149] See David Standish, «Interview with Kurt Vonnegut Jr.», Playboy 20, no. 7 (July 1973): 57–60, 66, 68, 70, 72, 74, 214, 216. .

Первая книга Курта Воннегута, «Механическое пианино», была опубликована в 1952 году. Завод стал прототипом места действия футуристической истории. События книги развиваются через десять лет после третьей мировой войны. На автоматизированных заводах всех рабочих заменили машины, американское общество делится на менеджеров, инженеров и всех остальных. Вытесненные с заводов рабочие ведут бессмысленное, жалкое существование в однотипных, унифицированных домах. Главный герой, Пол Протеус, один из привилегированных инженеров, постепенно разочаровывается в устройстве общества и возглавляет восстание против механизированной системы, которое оборачивается неудачей. В книге есть эпизод, в котором Воннегут отдает должное гению Винера, а после показывает, как глупо в механизированном будущем будет выглядеть современное автору устройство общества:

«– Действительно, кажется просто ужасным, что все когда-то было иначе, не правда ли? Разве не смешно было собирать людей в определенное место и держать их там целый день только для того, чтобы воспользоваться их мыслями. А потом – перерыв, и опять мышление, и опять перерыв, да так просто невозможно мыслить.

– Очень неэкономно, – подтвердил Пол, – и очень ненадежно. Можете представить себе горы брака… И что за адская была работенка управлять всем этим. Похмелья, семейные дрязги, недовольство начальством, долги, война – все человеческие несчастья так или иначе отражались на выпуске продукции. – Он улыбнулся. – Счастливые события тоже… Нам приходилось учитывать подобные явления даже при установлении цен на товары» [150] Воннегут К. Механическое пианино. М.: АСТ, 2016. .

Позднее в статье для журнала Playboy Воннегут так охарактеризовал свое произведение: «„Механическое пианино“ – мой ответ на стремление управлять всем с помощью маленьких коробочек» [151] Там же. . Название книги означает пианино, которое играет автоматически, как будто за ним сидит призрак. Заголовок намекает на образ Америки в приближающуюся эпоху электроники. К 1955 году научная фантастика была популярным жанром литературы. Когда авторам не хватало идей, они черпали их в кибернетике. Так поступил и автор рассказа «The Cyber and Justice Holmes» Фрэнк Райли, известный в 1950-е годы фантаст. Райли, так же как и Воннегут, обыграл идею о второй промышленной революции. Его сюжет – о системе правосудия, в которой интеллектуальные и высокоэффективные машины заменили людей-судей. Райли назвал эти устройства киберами. В тексте автор приводит мнения и сторонников, и оппонентов-скептиков инноваций. В рассказе есть цитата из листовки, восхваляющей автоматическое принятие решений: «Мы видели, что в других странах сделали киберсудьи. Мы свидетели эффективности кибернетических модулей в нашем собственном Апелляционном отделе… И я могу пообещать в два раза больше судебных процессов за вдвое меньшую стоимость для налогоплательщиков… при современном, хорошо отлаженном киберправосудии!» [152] Frank Riley, «The Cyber and Justice Holmes», Worlds of If 5, no. 1 (1955): 55.

Герой Райли, консервативный судья Уолфред Андерсон, собирается увольняться. Он сомневается в правильности предстоящих изменений системы уголовного правосудия страны. Судьи из плоти и крови и так почти уступили свои полномочия судьям из стали и диодов. Читатель узнает о сомнениях судьи: «Киберы быстрые. Они судят легко и всегда в рамках буквы закона. Они отделяют факты от лжи. Их не уводит с прямого пути правосудия хрупкость человеческого существа. Их представления никогда не размываются эмоциями» [153] Там же, 57. .

Но полностью рациональное поведение – это еще не все, важны еще эмоции и сочувствие. Рассказ кончается тем, что самая последняя модель мощного, практически всезнающего компьютера ломается, не в силах посчитать «важность мечты».

Райли прекрасно уловил эту типичную для середины XX века смесь крепкой веры в прогресс и приглушенного, томительного страха. В 1950-х годах «автоматический» было синонимом технологического прогресса. Однако на протяжении 1950-х и в начале 1960-х годов компьютеры были так редки, что в их собирательный образ, рисуемый обществом, не входили программное обеспечение, напичканное ошибками, и медленная аппаратура. Большинство людей даже не могли представить себе, что технология может не работать.