Николай Амосов - Мысли и сердце

— Робот станет независим?

— Ну, можно предусмотреть его подчиненность. Заложить контролирующие структуры, все равно как искусственные инстинкты. Чтобы человека не трогал, например. Но только в некоторых пределах, не больше. Ведь самое интересное — сделать робота умнее человека. Искусственный мозг неограничен.

— Помните «Законы роботехники» у Азимова?

— Совершенно верно. Эти законы можно удержать только на нижних ступенях развития искусственного интеллекта. Если у робота не будет «программы бунта», то он никогда не будет истинно творческой личностью. Следовательно, останется ниже человека. А это неинтересно. Вот создать выше человека — это да!

— Направить бунт только в сторону науки.

— Нет, это невозможно. Наука — это и есть все. Никакой другой сферы вообще нет. Политика, наука, искусство — это все одно и то же.

Замолчал.

Сколь велика сила человеческого духа! Смотришь на него и удивляешься: в чем душа держится, а он мечтает, работает, будто перед ним — вечность...

Нет, я должен сделать попытку. Сказать? Есть силы?

Может быть, он еще и год протянет в такой тепличной обстановке. Еще придумает много интересного.

Не протянет. А ты просто боишься.

— Вам не тяжело писать?

— Немножко. Но в резерве есть еще магнитофон. Буду диктовать.

Все знает. Уходить? Нет, еще.

— Значит, нельзя сделать робота-творца для какой-то узкой сферы деятельности? Чтобы он не мог посягнуть на человека?

Подумал. Видимо, ищет слов.

— Не то чтобы совсем нельзя, однако это будет малое творчество на низком этаже. Сейчас ЭВМ манипулирует ограниченной информацией, программы имеют мало этажей. Не очень умная машина, много глупее человека. Если сделать умнее, то ограничить нельзя. Нужно программировать «интерес», а значит, она будет соваться, куда и не ожидаешь.

Угробят они человечество, эти фанатики.

— Послушайте, Саша. Ведь это опасно — создавать такие машины. Улыбнулся.

— Я знаю. Но как можно удержаться? И это еще так далеко... даже для здоровых. Знаете, такое странное противоречие. Для управления обществом уже нельзя обойтись без машин.

— Обществом?

— Ну конечно. Возьмем экономику. Разнообразие современной техники столь велико, что нельзя удовлетворительно управлять экономической жизнью страны без машин. Никакие Госпланы не смогут. Машины нужны уже не только для экономии человеческого труда, они необходимы для самого существования системы, так же как без ЭВМ нельзя управлять спутником. Понимаете?

— Ну, на здоровье. Пусть считают граммы, метры, рубли. Какая же здесь угроза?

— Пока нет. Хотя, как только будет создана единая автоматическая система, управляющая экономикой, — это уже первая степень закабаления человека. Управляющий аппарат из людей будет уничтожен, и если представить себе, что автоматы откажутся работать, мир испытает колоссальные потрясения, люди не смогут обеспечить себе существование.

— Не пугайте. Это же невозможно — чтобы отказались. Нельзя же представить себе, чтобы электростанция отказалась вырабатывать ток. Тоже страшные последствия, но это нереально.

Во как я его поймал. Что скажешь?

— Учтите, что этой системой уже нельзя будет легко произвольно командовать. Будет задан общий алгоритм 35, критерии оценки эффективности, и вмешательство будет затруднено.

— Это даже хорошо — поменьше будет вредных экспериментов, все по науке.

Может быть, ему вредят эти споры? Возбуждение, адреналин? Но положительные эмоции полезны. Не знаю. Посмотрю.

— Вот-вот. Но чтобы планировать экономику «по науке», нужно создавать научные задания для машины. Откуда эти задания? Потребности людей в одежде, пище, жилищах, предметах культуры. А как их определить? Причем не только на сегодняшний день, но и вперед, потому что планировать нужно и для будущего общества. Вот тут и возникают вопросы воспитания, социальной структуры общества, гигиены, оценки стимулов деятельности, компонентов счастья. Эти вопросы нельзя решить так, с кондачка, как раньше делалось. Нужна наука. Очень сложная наука, призванная учесть массу факторов — как они повлияют на человека. То есть нужна новая психология и социология. Не умозрительная, а количественная. Ну, в общем уже повторяюсь.

Конечно. Давно и много говорил. Разговор исчерпан. Нет. Слушай.

— Это все вот к чему: нужны модели человека и общества. Эти модели обязательно должны приближаться к оригиналу. Следовательно, в них нужно воссоздавать самые сложные программы человеческой психики — сознание, увлекаемость, творчество и прочее. Значит, нужны мыслящие машины. Они необходимы для обеспечения гармонического общества и в то же время таят в себе опасность бунта. Это и есть противоречие.

— Тогда не надо их делать. Будем жить по старинке.

— По старинке невозможно. Плохое управление человечеством может привести к катастрофе. Все было не опасно, пока ученые не сделали этих страшных бомб.

Молчу. Мрачную картину нарисовал.

— Нет, Саша, мне все еще не верится. Неужели это такой закономерный процесс, который нельзя остановить?

Смеется. Такая приятная физиономия. Наверное, в это время забывает, что он больной. Нравится дурачить меня.

— Я тоже не шибко уверен, но думаю, что будет так. Учтите все ту же увлеченность. Человек не может остановиться перед интересными задачами. Помните слова Ферми об испытании бомбы: «В конце концов это просто очень хорошая физика». И наши думают так же, мне приходилось беседовать.

— Интересно.

Неужели «общество машин» — не пустые бредни фантастов?

— У человека достаточно ума, чтобы изобретать всякие штуки, но мало, чтобы оценить их последствия... Так?

— Да, так... Вы скоро будете совсем кибернетик.

— Не смейтесь. Однако, дорогой друг, я все слышу рассуждения, «общие принципы» и так далее. Знаете, есть некоторое недоверие ко всяким общим декларациям. Их уже много выдавали за историю человечества. Как бы это все пощупать? Чтобы быть уверенным, что они правильные, эти принципы.

Задумался. Вот какую задачу задал. А может быть, просто соображает, как объяснить популярно. Все-таки мой уровень не ахти какой. Нога выглядывает из-под одеяла — отеки появились. Еще недавно не было. Шансы уменьшаются. А я?..

— Ваши сомнения мне понятны. Философов было много, все обещали... Но без «принципов» нельзя, как хотите. Мои — ничему не учат. Я же не говорю об управлении, пока только о понимании мира. Моделирование — это познание. И лишь как непременный компонент управления.

Наступать.

— Даже и так. Вы же сами писали: сходство между объектом и моделью может меняться от нуля до ста. Я так понял, что это касается любого этажа программы? (Кивает головой.) Принципы — это модель какого-то верхнего этажа программы. Чтобы доказать их действенность, нужно проиллюстрировать примером. Так мне кажется.