Тоби Уолш - 2062: время машин

Существуют множественные технические причины, по которым технологическая сингулярность может и не случиться. Многие из них я рассматривал в своей предыдущей книге. Тем не менее мнение о неизбежности сингулярности все еще достаточно популярно. Учитывая важность темы – на кону судьба человеческой расы, – я снова подробно остановлюсь на этих причинах в свете последних обсуждений феномена. Кроме того, я приведу новые аргументы в защиту своей позиции.

Мое первое возражение против неизбежности технологической сингулярности – это идея под названием «аргумент быстро думающей собаки». Он рассматривает последствия, к которым приводит способность мыслить быстрее. Несмотря на то что скорость компьютера не меняется, скорость обработки им данных продолжает расти. Это происходит благодаря тому, что он может выполнять все больше разных задач одновременно, как человеческий мозг.

Есть предположение, что если машины научатся размышлять над проблемами дольше и интенсивнее, они в конце концов станут умнее нас. Мы, разумеется, извлекли немало пользы из возросшей мощности компьютера, смартфон – лучшее тому доказательство. Однако скорость обработки данных сама по себе не приведет к сингулярности.

Предположим, что вы бы смогли увеличить скорость работы мозга вашей собаки. Такая собака все равно не смогла бы говорить с вами, играть в шахматы или сочинять сонеты. Как минимум потому что она не владеет языком. Такая быстро думающая собака все равно осталась бы собакой. Она продолжала бы интересоваться только погонями за белками и палками. Точно так же компьютеры, обладающие большей скоростью, не являются носителями большего интеллекта.

Разум – результат множества процессов. Человеку необходимы годы практики, чтобы научиться пользоваться интуицией. Также годы нужны, чтобы освоить абстрактное мышление: научиться брать уже сложившиеся понятия и применять их к новым ситуациям. К нашему здравому смыслу мы прибавляем знания, которые помогают нам адаптироваться к непривычным обстоятельствам. Именно поэтому наш интеллект – это не просто умение быстрее размышлять над проблемой.

Мой второй аргумент против неизбежности сингулярности – антропоцентризм. Защитники теории технологической сингулярности придают слишком много значения человеческому интеллекту. Как только компьютеры превзойдут его, настанет переломный момент. Они научатся развиваться и делать себя лучше. Но почему человеческий интеллект – особая точка в этой истории?

Человеческий интеллект нельзя оценивать по настолько простой, линейной шкале. И даже если бы это было возможно, наш разум был бы не единой точкой, а широким спектром разных вариантов. Из нескольких людей, находящихся в комнате, одни умнее других. Так какой именно человеческий интеллект компьютеры должны превзойти? Интеллект самого умного человека в комнате? Интеллект самого умного человека, который сейчас живет на планете? Интеллект самого умного человека, который когда-либо жил на планете? Интеллект самого умного человека, который будет жить в будущем? Сама идея единого «человеческого разума» начинает звучать несколько сомнительно.

Но отставим на минуту в сторону эти контраргументы. Почему именно после преодоления человеческого разума искусственный интеллект начнет стремительно развиваться? Предположение основывается на том, что раз мы смогли создать машину, которая умнее нас, то ей тоже удастся создать еще более умную машину и т. д. Однако нет никакого повода думать, что все будет именно так. Может быть, нам все же удастся построить машину, которая умнее нас. Это не значит, что она автоматически будет способна развиваться.

Возможно, действительно существует некий уровень интеллекта, который станет такой переломной точкой, но этот уровень может быть любым. Вряд ли он находится ниже уровня человеческого мышления. Если бы это было так, мы бы уже создали подобную машину и запустили процесс ее бесконечного совершенствования.

Вероятно, эта переломная точка располагается где-то на уровне человеческого разума или выше. Естественно, она может находиться намного выше. Однако если нам для этого нужно создать компьютер, в разы превосходящий человека, то встает вопрос: достаточно ли мы для этого умны?

Третий мой аргумент, направленный против идеи неизбежности технологической сингулярности, затрагивает проблему метаинтеллекта. Как я уже отмечал ранее, понятие разума включает в себя множество различных способностей. Например, умение не только воспринимать мир, но и рефлексировать над этим миром, а также множество других навыков, таких как креативность.

Утверждение, что сингулярность неизбежна, сталкивает две разные способности интеллекта: это умение выполнять задачи и умение совершенствоваться в выполнении этих задач. Мы можем создать ИИ, который развивает свою способность выполнять конкретные задачи и выполняет их лучше нас. Например, Baidu создали Deep Speech 2, алгоритм машинного обучения, который лучше, чем люди, переводит с китайского. Однако Deep Speech 2 не развивается. Ему необходимо столько же времени на то, чтобы понять, как перевести с китайского, сколько и раньше. Его сверхчеловеческая способность переводить с китайского никак не улучшила суть алгоритма глубинного обучения. Чем больше люди учатся, тем лучше они начинают это делать. С Deep Speech 2 все иначе.

Совершенствование алгоритмов глубинного обучения происходит по-старому: люди долго и напряженно размышляют над тем, как это сделать. Пока мы не создали машины, способные развиваться самостоятельно. Нельзя быть уверенным, что это вообще когда-нибудь произойдет.

Четвертый аргумент – закон убывающей отдачи. Даже если бы машины могли бесконечно себя совершенствовать, это вовсе не означает, что мы бы получили бесконечное их улучшение. Закон убывающей отдачи работает во многих областях человеческой деятельности. Например, мы не раз увеличивали топливную эффективность двигателей автомобилей, но чем дальше, тем меньше это приносит результатов, в то время как показатель продолжает увеличиваться.

Предположим, мы сначала создадим машину с интеллектом на уровне среднестатистического представителя нашего вида. По умолчанию ее IQ будет равен ста. Также допустим, что IQ этого искусственного интеллекта будет с каждым новым поколением увеличиваться на пятьдесят процентов от разницы с предыдущим поколением. IQ – не самый лучший показатель интеллекта, но это не главное. Второе поколение таких машин будет иметь IQ в размере ста пятидесяти – довольно впечатляющая цифра. Однако пока она, возможно, даже не обогнала вас. Коэффициент третьего поколения будет равен ста семидесяти пяти, четвертого – ста восьмидесяти семи с половиной и т. д. IQ этих машин никогда не преодолеет отметку в двести, как бы долго они ни просуществовали.