Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

К сожалению, разрыв между человеческим и машинным мышлением можно сузить двумя способами, и, когда люди начинают мыслить как машины, мы автоматически достигаем цели «машины мыслят как люди», подходя к ней не с той стороны. Очень умный человек, который приходит к определенным выводам на основании одной строки информации, на долю секунды оторвавшись от десятков электронных писем, СМС и твитов (не говоря об остальных цифровых помехах), стоит не выше обладающей средним интеллектом машины, которая анализирует большие объемы релевантной информации, а потом делает преждевременные заключения или подписывает общественную петицию, не разбираясь в предмете.

Этому можно привести сотни примеров. Все мы поддерживаем закон о том, что всякое новое здание должно обеспечивать полный доступ людям с ограниченными возможностями, а старые не обязательно оборудовать соответствующими приспособлениями, по крайней мере до капитального ремонта. Но есть ли смысл запрещать ремонт старого санузла с установкой таких приспособлений, из-за того что лифт в доме заменить нельзя? Или добиваться обнародования секретных источников ЦРУ либо ФБР, чтобы у суда была возможность вынести обвинительное заключение по делу террориста, который убил сотни людей? Или требовать письменного согласия родителей на то, чтобы дать подростку, находящемуся в учебном заведении, аспирин? А вот еще пример: когда школьные учебники переводили на метрическую систему, именно человек во фразу «С вершины горы окрестности видны примерно на 100 миль вокруг» внес поправку: «Видны примерно на 160,934 км».

Среди стандартных «священных коров» либеральной демократии небезосновательно оказываются разнообразные свободы: свобода слова, свобода прессы, академические свободы, свобода вероисповедания (или его отсутствия), свобода информации и множество других прав человека, включая принципы равных возможностей, равенства перед законом и недопустимости дискриминации. Мы все поддерживаем эти принципы, но чистая и бескомпромиссная логика приводит нас к тому, что мы, вопреки здравому смыслу, преимущественно настаиваем на соблюдении человеческих прав преступников и террористов, поскольку права жертв — это «не проблема». Прозрачность и свобода прессы логически приводят к необходимости обнародования полных отчетов о внутренних заседаниях, где обсуждаются деликатные вопросы, что вообще-то создает препятствия свободному обсуждению и непредвзятому осмыслению проблем в определенных общественных учреждениях. Академические свободы с помощью той же логики можно использовать вопреки здравому смыслу и фактическим данным, например преподнося историю о Ноевом ковчеге как альтернативу эволюционной теории, отрицая холокост при преподавании истории, заявляя, что Вселенной 6000 лет (а не 14 миллиардов). Этот перечень можно продолжать и дальше, но идея ясна.

Алгоритмическое мышление, краткость сообщений и чрезмерная опора на чистую логику приводят к тому, что мы начинаем мыслить как машины, а не к тому, что мы постепенно и осмысленно учим машины пользоваться здравым смыслом и интеллектуальными способностями. Инверсия этой тенденции может стать поворотным моментом в цифровой эволюции человека.

При любом разумном определении мышления я полагаю, что компьютеры действительно мыслят. Но если так, тогда мышление — это не исключительная компетенция человеческих существ. Есть ли в людях что-то еще, что делает их исключительными?

Кто-то скажет: людей исключительными делает то обстоятельство, что в них есть часть некой божественной сущности. Может, и так, но это не очень содержательная мысль. Если мы встретим разумного пришельца, то как нам определить, что у него тоже есть это je ne sais quoi [99] Не знаю что (фр.) — Прим. пер. , делающее его личностью? Можем ли мы сказать нечто более глубокое об исключительных качествах личности?

Что отделяет людей от нынешнего поколения мыслящих машин, так это то, что люди могут думать про мышление и могут отбросить определенный образ мышления, если он оказывается для них непригоден.

Наиболее ярким примером того, как люди думают о собственном мышлении, было открытие логики стоиками и Аристотелем. Эти греческие философы поставили вопрос: «Каким законам нам нужно следовать, чтобы правильно мыслить?» Неслучайно, что прогресс символической логики в XX веке привел к изобретению умных машин, то есть компьютеров. Когда мы узнали о правилах мышления, разобраться в том, как заставить неживую материю их придерживаться, было лишь вопросом времени.

Сумеем ли мы сделать так, чтобы эти достижения перешли на новый уровень? Сумеем ли мы сконструировать машины, которые не только мыслят, но также занимаются метамышлением, то есть осмыслением мышления? Одна интригующая возможность состоит в том, что для осмысления мышления машине будет нужно что-то вроде свободы воли. Другая — в том, что мы близки к созданию машин со свободной волей, а именно квантовых компьютеров.

Что конкретно входит в метамышление? Проиллюстрирую эту идею с точки зрения символической логики. В символической логике теория состоит из языка L и некоторых правил R — они обусловливают, какие предложения выводятся из других предложений. Следовательно, есть два варианта действий. Вы можете размышлять в рамках системы — писать доказательства на языке L, используя правила R (существующие сейчас компьютеры именно это и делают: мыслят в рамках системы). Вы также можете размышлять о системе , спрашивая, например, достаточно ли у вас правил для того, чтобы вывести все логические следствия теории. Последнее действие обычно называется металогикой и является образцовым примером метамышления. Это мышление о системе , в отличие от мышления в рамках системы .

Но меня интересует еще один пример метамышления: если вы приняли определенную теорию, тогда вы также приняли определенный язык и правила. Но вы можете отказаться от этого языка или от этих правил, если думаете, что другая теория будет лучше отвечать стоящим перед вами задачам. Мы пока не построили машины, которая умели бы делать нечто подобное, то есть оценивать разные системы и выбирать из них. Почему? Возможно, для выбора определенной системы из их множества нужна свободна воли, эмоции, цели и другие вещи, не присущие интеллекту как таковому. Возможно, эти способности у нас пока не получается передать неживой материи.

Мы приближаемся к тому, что машины будут предчувствовать любое желание и любую потребность людей. Как это меняет ценность предчувствия?