Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Появление квантовой биологии, светособирающих молекул, птичьей навигации и, возможно, обоняния говорит о том, что придерживаться классической физики в биологии, видимо, трудно. Сейчас машины Тьюринга — это подмножества классической физики с дискретным состоянием (0,1) и дискретным временем (T, T+1). Мы все знаем, что они, как шенноновская информация, просто действуют синтаксически. Замечательные математические результаты вроде омеги Грегори Хайтина (выражение вероятности того, что программа остановится, совершенно невычислимое и неалгоритмическое) говорят нам о том, что человеческий разум, как утверждал Роджер Пенроуз, не может быть простым набором алгоритмов.

Математика креативна. Как и человеческий разум. Мы понимаем метафоры («„Завтра, завтра“. Так тихими шагами жизнь ползет…» [121] Цитата из пьесы У. Шекспира «Макбет», пер. Б. Л. Пастернака. — Прим. ред. ), но о метафорах даже нельзя сказать, истинны они или ложны. Все искусство метафорично; язык в основе своей имеет жест или метафору; мы ими живем, это не просто истинные или ложные утверждения и силлогизмы, построенные на них. Ни один набор предварительно сформулированных утверждений не будет исчерпывающим для метафоры, и, если математике необходимы утверждения, никакая математика не может доказать, что некий набор предварительно сформулированных утверждений исчерпывающе описывает значения метафоры. Следовательно, человеческий разум, следуя абдукции Чарльза Сандерса Пирса, а не индукции или дедукции, чрезвычайно креативен именно при отсутствии предварительно сформулированных утверждений.

Каузальное замыкание классической физики исключает не только эпифеноменальный разум, который не может «действовать» на мир, будь то машина Тьюринга, или бильярдные шары, или нейроны, определяемые в терминах классической физики. Текущего состояния мозга достаточно для того, чтобы определить следующее состояние мозга (или компьютера), так что разуму тут нечего делать, да и способов что-то сделать тоже нет! Мы застыли в этой патовой ситуации с того момента, как Ньютон со своей Res cogitans [122] Вещь мыслящая (лат.) — Прим. пер. одержал верх над Декартом.

Онтологически для свободного выбора нужно, чтобы настоящее могло быть другим, — противоречащее фактам утверждение, невыполнимое в рамках классической физики, но легко реализуемое, если квантовое измерение реально и неопределенно. Измерение могло показать верхний или нижний спин электрона, так что настоящее могло быть другим.

Казалось бы, квантовый разум, скорее всего, сделает ненужной свободу воли. Ложь: для данных n запутанных частиц измерение каждой меняет вероятности исходов следующих измерений, согласно правилу Борна. В одном из крайних случаев они могут отличаться в пределах от 100 % с верхним спином при первом измерении до 100 % с нижним спином при втором и т. д., для n измерений, совершенно не случайно и свободно, если измерения онтологически неопределенны. Если вероятности состояний n запутанных частиц отличаются в меньших пределах, чем 100 % и 0 %, у нас появляется выбор и, судя по всему, возможность ответственного выбора согласно теореме о свободе воли Джона Конвея и Саймона Кохена.

Нам никогда не попасть на субъективный полюс, рассматривая человека по описаниям со стороны. Но одна палочка поглощает один фотон, так что можно проверить, действительно ли человеческое сознание в состоянии влиять на квантовые измерения [123] Автор имеет в виду один из двух видов фоторецепторов человеческого глаза. — Прим. пер. . Если мы так убеждены, что классический мир в основе своей квантовый, тогда простая гипотеза будет состоять в том, что одни квантовые переменные сознательно оценивают варианты и делают выбор, как у Пенроуза и Стюарта Хамероффа в теории Orch-OR, а другие выдвигают предложения. Есть вероятность, что мы живем в очень кооперативной Вселенной. Сознание и воля могут быть частью ее обстановки, а машины Тьюринга — нет, поскольку являются подмножествами классической физики и просто обрабатывают синтаксис, делают выбор там, где настоящее могло бы быть другим.

Рассматривая вопрос о мыслящих машинах, мы делаем значительный шаг вперед в обсуждении ИИ, поскольку отходим от чисто человеческих проблем и принимаем в расчет инаковость машин. Это позволяет нам увидеть систему с точки зрения другой сущности. Но что еще важнее, сам факт постановки таких вопросов говорит о большом будущем пространстве возможностей для интеллекта. Только представьте себе: «классические» люди без усилений, люди с усилениями (с ноотропами, носимыми устройствами, интерфейсами «мозг-компьютер»); неокортикальные симуляции; загружаемые файлы разума; корпорации в виде цифровых абстракций; множество форм генерируемого ИИ — сети глубинного обучения, нейронные сети, кластеры машинного обучения, основанные на блокчейне распределенные автономные организации и эмпатические сострадательные машины. Нам следует рассматривать мир будущего как мир многовидового интеллекта.

То, что мы называем человеческой функцией «мышления», может довольно сильно различаться в разнообразных будущих воплощениях интеллекта. Машинный интеллект, конечно же, будет иметь иное происхождение, нежели человеческий. У людей телесность и эмоции всегда серьезно влияли на мышление. Машинам не достанется эволюционно-биологического наследства — мотиваций, связанных с добычей ресурсов, приобретением статуса, выбором партнера и принятием в группе, — или оно будет сильно отличаться от нашего. Следовательно, разные типы машин с нативным «мышлением» могут иметь серьезные отличия. Вместо того чтобы спрашивать, могут ли машины мыслить, более продуктивно было бы приготовиться к появлению вопроса: «Кто как мыслит?», к миру цифровых интеллектов с разной историей, разными модусами мышления и существования, а также разными системами ценностей и культурой.

Уже сейчас совершенствуются не только системы ИИ. Мы и сами больше узнаем о чертах и свойствах нативной машинной культуры и машинной экономики и о том, как могут сосуществовать человеческие и машинные системы.

Некоторые их примеры мы уже наблюдаем в области права и личной идентичности. Так, существуют договоры с технологическими обязательствами и договоры с юридическими обязательствами. У них разные парадигмы исполнения: неотвратимо выполняемые параметры в случае кода («код есть закон») и произвольное соблюдение обязательств в случае контрактов, где их сторонами выступают люди. Контракты-коды хороши тем, что их нельзя нарушить, но, с другой стороны, они выполняются железобетонно, даже если меняются условия.