Array Коллектив авторов - The Question. Будущее

С другой стороны, специалисты, которые занимаются машинным обучением, нейронными сетями, искусственным интеллектом и другими областями, в которых применяется алгоритмическое решение проблем, находятся в постоянном поиске тех алгоритмов, которые смогли бы научить машины «чему-нибудь» наилучшим образом. Например, обработка естественного языка (понимание языка и его использование) представляет собой «главную функцию», которая в настоящее время находится в разработке, – одним словом, работа здесь кипит.

В начальной позиции шахматной партии 20 вариантов ходов (16 ходов пешками и 4 конем). После первого хода у соперника столько же вариантов. После первых ходов возможных вариантов становится больше (так как вступают в игру ферзь, ладьи и слоны), но для простоты ограничимся 20 ходами. Тогда за 40 ходов (белыми и черными) у нас как минимум 20 80 = 10 80 × 2 80 >= 10 90веток дерева.

Теперь обратимся к производительности компьютеров. В ближайшее время ожидается компьютер с 10 18флопсов, то есть 10 18операций с плавающей запятой в секунду. Предположим, что перебор каждого варианта выполняется пусть даже в миллиард раз быстрее, чем одна простейшая операция с плавающей точкой. Тогда этот компьютер сможет перебрать 10 27вариантов за секунду. Но тогда на пересчет всех возможных вариантов ему понадобится минимум (10 90/ 10 27) 10 63секунд. Если учесть, что в году у нас примерно 3Ч10 8секунд, то компьютеру понадобится минимум 10 55лет.

Задолго до появления электронных компьютеров, которые, наверное, подразумеваются в вопросе, изобретались и создавались разнообразные механические вычислительные машины. Следует начать с них, так будет проще объяснить и понять.

Вспомните, как в школе вы решали примеры «в столбик»: вы записывали каждую цифру числа в отдельную клеточку и потом производили последовательность простых действий с числами в соседних клетках. Теперь подумайте о том, что числа можно представить механически, например как положение шестерни, наглядный пример – поворотные ручки с цифрами на кухонной плите. Можно изобрести механизм, в котором такие шестерни, выражающие числа, были бы хитро связаны другими шестернями друг с другом так, чтобы, когда машина работает, получались те же действия, что и с числами в соседних клетках вашей тетради по математике. Таким образом, можно сделать так, чтобы машина «считала» за вас. И такие машины изобретались и создавались, став предтечей компьютеров.

Современные компьютеры тоже выполняют операции с числами по заложенным в их устройство правилам. Вместо шестеренок и их механического движения теперь используются электронные компоненты и их электрическое взаимодействие. Надо заметить, что при этом чаще всего используется двоичная система – форма записи чисел при помощи цифр 0 и 1. Такая система удобна, потому что выразить 0 и 1 при помощи электронного компонента сравнительно легко – это своего рода «вкл./выкл.», как на выключателе. Кроме того, для чисел, записанных в такой форме, достаточно просто описать и реализовать правила, по которым проводятся математические операции.

Для меня в детстве главной загадкой было то, как вся эта возня с числами превращается в картинки, звук и так далее. Трюк в том, чтобы все описывать через числа – «кодировать» информацию. Например, обозначить числом высоту ноты, пронумеровать буквы в алфавите и цвета на палитре. Компьютер манипулирует огромным количеством таких чисел, представляющих информацию, с огромной скоростью. Он выполняет действия, которые заложили в него инженеры и программисты, которые придумали, как именно выразить информацию в числах и как манипулировать этими числами, так чтобы изменять закодированную ими информацию.

Первым «компьютером» часто называют американский ЭНИАК. В нем использовались электронные лампы, которые делали его весьма большим по размерам и требовали различных инженерных ухищрений, чтобы не ломаться слишком часто, ведь выход из строя даже одной нарушал логику работы машины. Когда нужно было задать последовательность действий, которые должен был проделать ЭНИАК, чтобы решить задачу, инженеры физически переключали соединения его частей, на что уходило очень много времени. Исходные числа для подсчетов вводились в компьютер на перфокартах. В отличие от более поздних моделей, ЭНИАК все еще оперировал числами в десятичной системе, подобно механическим счетным машинам до него.

Сегодня многие люди этим обеспокоены. Инженеры компании Google создают алгоритмы безопасного обеспечения искусственного интеллекта. Существуют даже специальные фонды, куда вкладываются большие средства для реализации программ по развитию искусственного интеллекта. Так что сейчас профессионалы делают все, чтобы свести вероятность так называемого восстания машин к нулю и предотвратить возможность возникновения проблемы.

С другой стороны, мы должны понимать, что любое действие, не предписанное определенным алгоритмом, требующее морального усилия, лежит в плоскости свободы воли, свойственной только существам разумным. Проблема восстания машин – это проблема соотношения между каузальным порядком, детерминированностью событий и свободным самоопределением. На представлениях о свободе воли построено представление о личности и ответственности. Волюнтаризм Шопенгауэра предполагает волю как «вещь в себе», недоступную для познания и не подчиняющуюся принципу причинности.

Что касается искусственного интеллекта, то так или иначе – это рациональная система, поддающаяся прогнозированию и программированию. Вследствие этого любое отклонение от детерминизма будет являться не проявлением свободы воли, а системной ошибкой. Вероятно, подобные ошибки могут понести за собой плачевные для человека последствия: технологические катастрофы, транспортные бедствия.

Однако они будут носить скорее очаговый характер. Вспомним хотя бы недавний случай с автомобилем Tesla, который, двигаясь на автопилоте, не смог отличить ехавший навстречу грузовик от окружающей среды. Мы не можем отнести подобный случай к акту проявления свободы воли. Таким образом, восстание машин будет возможно только тогда, когда они будут способны к творчеству и свободному самоопределению, что произойдет еще очень нескоро.