Норберт Винер - Корпорация «Бог и голем»

Невозможно помыслить, чтобы все жизни на свете продолжались сколь угодно, без каких-либо ограничений. Впрочем, если существует шанс бесконечного продления жизни, прерывание чьей-либо жизни (или хотя бы отказ, осознанный или случайный, от ее продления) будет опираться на этику врачей. Какая же участь ожидает тогда традиционный престиж профессии медика — ведь мы привыкли видеть в них этаких жрецов, сражающихся со смертью, и слуг милосердия? Допускаю, что даже сегодня бывают случаи, когда врачи воспринимают подобные решения как свой долг и не желают продлевать чье-либо мучительное и бессмысленное существование. Они нередко отказываются перевязывать пуповину новорожденному уродцу и облегчают уход стариков, страдающих от неоперабельного рака и подхватывающих гипостатическую пневмонию, этого «приятеля старости», вместо того чтобы любыми средствами стараться оставить их на этом свете, обрекая на продолжение страданий. Чаще всего подобное происходит без лишнего шума и с соблюдением положенных приличий; лишь когда какой-нибудь невоздержанный на язык глупец выбалтывает врачебную тайну, суды и газеты принимаются кричать об «эвтаназии».

Но что случится, если такие решения перестанут быть редкими и почти неизвестными публике; что, если они будут приниматься не как исключение, а едва ли не при каждом смертельном исходе? Что, если каждый пациент начнет воспринимать любого врача не только как спасителя, но и как палача, обрывающего жизнь? Справится ли врач с таким бременем добра и зла, что ляжет на его плечи? Выживет ли само человечество при новом порядке вещей?

Достаточно легко защищать добро и сражаться со злом, когда добро и зло четко противопоставлены друг другу разграничительными линиями и когда те, кто находится по другую сторону, являются нашими заклятыми врагами, а те, кто по эту сторону, — наши верные союзники. Но что, если нам в любой ситуации придется спрашивать себя, кто друг, а кто враг? Как быть, если, вдобавок, мы препоручили решение важнейших вопросов неумолимой магии или неумолимой машине, которой следует задавать правильные вопросы заблаговременно, еще не разобравшись полностью в сути процесса, чьим посредством добываются ответы? Можем ли мы быть уверены в решениях той обезьяньей лапки, у которой просим двести фунтов стерлингов?

Нет, будущее сулит мало надежд тем, кто ожидает, что наши новые механические рабы построят для нас мир, где мы будем наконец-то освобождены от необходимости мыслить. Они могут нам помочь, но при этом станут предъявлять строгие требования к нашей честности и разумности. Мир будущего окажется ареной все более решительной борьбы против ограничений нашего разума, а вовсе не, так сказать, удобным гамаком, в котором можно спокойно возлежать, наблюдая за рабочей суетой наших роботов-рабов.

Следовательно, одна из важнейших проблем будущего, с которой нам суждено столкнуться, — это проблема взаимодействия человека и машины, проблема правильного распределения функций между двумя данными агентами. Может показаться при беглом взгляде, что машина обладает очевидными преимуществами. Она работает намного быстрее и с большим единообразием — по крайней мере, ее можно сконструировать, изначально задав такие свойства. Цифровая вычислительная машина за сутки может выполнить такой объем работ, который иначе потребует годичных трудов целой группы людей-вычислителей, и работа будет сделана с наименьшим количеством ошибок и неточностей.

С другой стороны, человек тоже обладает несомненными преимуществами. Не учитывая тот факт, что любой разумный человек будет воспринимать как первостепенные именно человеческие цели во взаимоотношениях с машиной, машина значительно уступает человеку в сложности, а масштаб и разнообразие ее действий гораздо меньше. Если принять объем нейрона серого вещества мозга равным 1/1000000 кубического миллиметра, а объем наименьшего из нынешних транзисторов равным одному кубическому миллиметру, такая оценка не окажется несправедливой по отношению к возможностям нейрона. Если белое вещество мозга считать эквивалентным схеме соединений вычислительной машины, а каждый нейрон рассматривать как функциональный аналог транзистора, компьютерный аналог человеческого мозга займет сферу диаметром около тридцати футов. На самом деле фактически невозможно сконструировать вычислительную машину, обладающую подобием относительной плотности мозгового вещества в человеческом мозгу, а любая машина, чьи возможности сравнимы с возможностями мозга, занимала бы крупное офисное здание, если не небоскреб. Трудно поверить в то, что мозг, в сравнении с современными вычислительными машинами, не имеет перед ними ряда преимуществ, соотносящихся с его огромным операциональным диапазоном, который несоизмеримо больше, чем можно ожидать с учетом физических размеров.

Главным среди этих преимуществ выглядит способность мозга оперировать наметками идей, которые еще не получили четкого оформления. В подобных ситуациях механические вычислители (по крайней мере механические вычислители наших дней) почти не в состоянии самопрограммироваться. А между тем в стихах, романах и картинах наш мозг как будто успешно обрабатывает материал, который любая вычислительная машина отвергнет как лишенный формы.

Так отдадим же человеку те дела, которые признаются человеческими, а вычислительной машине предоставим вычислять. Представляется, что это наиболее здравомыслящий подход к совместным действиям людей и машин. Такая политика равно далека от чаяний машинопоклонников и от суждений тех, кто видит лишь кощунство и принижение человека во всяком использовании механических помощников умственной деятельности. Сегодня мы нуждаемся в независимом и объективном изучении систем, объединяющих человеческие и механические элементы. Нельзя исследовать эти системы, опираясь на предрассудки механистического или анти механистического толка. Думаю, что подобные исследования уже ведутся, и они сулят нам более полное понимание сути автоматизации.

Среди прочего мы можем использовать и используем такие комбинированные системы в разработке протезов, то есть устройств, заменяющих конечности или утраченные органы чувств. Деревянная нога есть механическая замена утраченной ноги из плоти и крови, а человек с деревянной ногой репрезентирует систему, состоящую из механических и человеческих элементов.

Быть может, классический деревянный колышек нельзя назвать удачным примером, поскольку он заменяет утраченную конечность самым примитивным способом; лишь чуть больше интереса вызывает деревянный протез в форме ноги. Впрочем, работа по созданию искусственных конечностей ведется в России, США и в других странах группой ученых, к которой принадлежу и я. Эта работа куда более интересна, ибо она основана на применении кибернетических идей.