Журнал Наука и жизнь, 2000 № 02

Можно заметить, что в наши дни определения интеллекта «работают» не более двух-трех лет, а потом безнадежно устаревают, потому что машины обзаводятся каким-нибудь новым качеством, часто намного превосходящим то же качество у человека. Не кажется ли вам, что мы, сами того не замечая, ищем каждый раз такое определение разума, из которого по-прежнему было бы ясно, что человек намного лучше машины? Но год от года мощность и эффективность машинных «мозгов» возрастают, и нам становится все труднее отыскивать те аспекты понятия «интеллект», которые демонстрировали бы явное превосходство человека.

Даже такие «сугубо человеческие» качества, как способность к творчеству и эмоциональность, постепенно входят в список свойств, присущих машинам. Машины тоже способны производить новое — нечто такое, о чем никто раньше не думал. Собственно, они занимаются творчеством уже сейчас: сочиняют новые мелодии, разрабатывают новые способы организации производства. Точно также машины могут делать такие вещи или приходить к таким выводам, которые людям и в голову не придут.

Несколько труднее представить себе машину, наделенную эмоциями. Роботы, созданные в отделении кибернетики Университета Рединга, убегают прочь, когда к ним приближается нечто агрессивное, некий «хищник». Но чувствуют ли они при этом страх? Сегодня у нас, по-видимому, нет способа узнать, могут ли машины испытывать эмоции, подобные человеческим. Лично я думаю, что могут. Но эти эмоции, конечно, «машинные». Если в будущем искусственный мозг станет работать, как человеческий, тогда, вероятно, его эмоции и чувства тоже будут сходны с нашими. Мы можем, однако, с полным правом сказать, что уже сегодня машины демонстрируют поведение, которое можно расценивать как эмоциональное.

Очевидно, что по своим характеристикам машинный интеллект должен сильно отличаться от человеческого. Мозг человека — биологического происхождения, в то время как мозг машины, например компьютера, — электронный. Такие свойства, как способность к творчеству, к обучению, эмоциональность, тоже будут различаться, по крайней мере до некоторой степени. Человек наделен своим набором приемлемых и ожидаемых ощущений и рефлексов. Однако мы не можем ожидать, что у машины этот набор будет точно таким же.

Поэтому сравнивать машинный и человеческий интеллекты очень сложно. И все же с большой долей уверенности можно предсказать, что мозг машины уже в следующие десять лет станет намного совершеннее и его превосходство будет качественно иным. Заметим, что процесс усовершенствования человека, напротив, протекает крайне медленно, если вообще можно говорить о таком процессе.

Есть три ответа на этот вопрос: «да», «нет» и «может быть». Возможно, мы были бы счастливы ответить «нет», но сегодня мы уже не можем сделать это со стопроцентной уверенностью. Разрыв между машинным и человеческим интеллектом стремительно сокращается, и нет такого закона, который бы запретил им сравняться. Сказав «нет», мы поступили бы подобно страусу, который прячет голову в песок при виде опасности.

Однако и ответ «да» кажется нам неубедительным, поскольку также не может быть ничем доказан.

Единственный разумный ответ сегодня: «Может быть, когда-нибудь машины станут так же умны, как и человек». Беда в том, что, как только наши интеллекты сравняются, машины почти сразу начнут превосходить нас, поскольку наш мозг в отличие от машинного ограничен в размерах и скорости работы. Если к тому времени мы не научимся расширять возможности нашего мозга, подключая к нему дополнительную память или «объединяя» мозг нескольких людей, мы очень быстро окажемся далеко позади машин, чей мозг, не ограниченный размерами и другими параметрами, стремительно развивается.

Кто-то может сказать: даже если машины превзойдут нас по уровню интеллекта, «мы» все равно будем осуществлять контроль над ними. До тех пор, пока «мы» можем включать и выключать их по нашему желанию, — все будет в порядке. Я намеренно выделил слово «мы», поскольку не плохо бы выяснить, кто имеется в виду. Если понятие «мы» включает именно вас или, по крайней мере, тех, кому вы доверяете, все обстоит нормально. Но представьте себе, что это некая группа людей, которые используют машины для личной выгоды или для уничтожения других людей? Как вам это понравится? Представьте и такую ситуацию: есть лишь несколько человек, которые могут управлять некой очень умной, мощной и опасной машиной. И вдруг они умирают, не оставив никаких инструкций. С их смертью человечество теряет контроль над машиной, и она начинает действовать самостоятельно.

Возможны и другие ситуации, когда человечество лишится своих контрольных позиций. Например, машина сама решит, что пора поменяться местами. С какой стати более умной машине во всем подчиняться человеку? Много лет назад над этим вопросом размышлял фантаст Айзек Азимов и даже вывел «Три закона робототехники» — правила, которые, будучи внесенными в программу роботов, позволили бы человеку сохранять контроль над ними. Но мы должны четко понимать, что законы Азимова — чистая фантастика, они действуют в выдуманном мире. В реальном мире роботы им не подчиняются.

Уже сегодня люди, часто того не замечая, очень зависимы от машин. Мы настолько привыкли доверять им, что потеряли всякую бдительность. Представим себе машину (компьютер), которая следит за заключением сделок на большой финансовой бирже, решая покупать или продавать те или иные акции и товары. Допустим, она обучилась на собственном опыте, как лучше поступать в различных ситуациях, с тем чтобы получать максимальную прибыль. И вот машина решает, например, что не нужно больше закупать бразильский кофе, поскольку кенийский стал гораздо более прибыльным. Решение компьютера выполняется немедленно и влечет за собой огромные перемены на рынке. Машина тем самым вершит судьбы тысяч людей в Бразилии и Кении! Причем правильность ее решения никто не станет проверять — на это ушло бы слишком много времени.

С каждым годом мы зависим от машин все больше и больше. Мы передаем им нашу информацию, а также право давать нам советы и принимать решения. Тем самым мы автоматически наделяем их все большей властью над нами. Сегодня значительная часть машин связана в единую сеть, которая позволяет им обмениваться информацией друг с другом. Никто не в состоянии контролировать эту сеть целиком, это уже совершенно особый организм, который слишком сложен для нашего понимания.

Есть ли у человеческого мозга возможность сохранить лидерство, или полная победа машин — всего лишь вопрос времени?