Джеймс Баррат - Последнее изобретение человечества

Такой образ будущего предполагает, разумеется, что внутреннее «Я» человека, его внутренняя сущность, переносимо, а это очень серьезное предположение. Но для Курцвейла это путь к бессмертию, а также море знаний и опыта за рамками всего того, что мы сегодня способны воспринять. Усиление интеллекта будет проходить настолько постепенно, что мало кто от него откажется. Но «постепенно» означает к 2045 г., то есть примерно за 30 ближайших лет, причем большая часть перемен придется на последние лет пять. Это постепенно? Мне так не кажется.

Как мы уже отмечали, Apple представила на рынок шесть версий iPhone за шесть лет. Согласно закону Мура, их техника была достаточно продвинутой, чтобы пережить за это время два удвоения мощности или даже больше, но на самом деле удвоение прошло лишь одно. Почему? Из-за времени, потерянного на разработку, прототипирование и производство компонентов iPhone, в том числе процессора, камер, оперативной и постоянной памяти, экрана и т. п., а затем на маркетинговые мероприятия и продажу самого iPhone.

Уменьшится ли время, затрачиваемое на маркетинг и продажу? Может быть, когда-нибудь техника, как и программное обеспечение, будет обновляться автоматически. Но это, вероятно, произойдет не раньше, чем наука овладеет нанотехноло- гиями или ЗО-печать станет обыденной. К тому же, когда мы научимся совершенствовать компоненты собственного мозга, вместо того чтобы обновлять Microsoft Office или покушать дополнительные микросхемы памяти, это, по крайней мере поначалу, будет куда более деликатная процедура, чем все, с чем мы сталкивались прежде.

Тем не менее Курцвейл утверждает, что технический прогресс за 100 лет пройдет такой же путь, какой прежде проходил за 200000 лет. Переживем ли мы такую мощь прогресса за такое короткое время?

Николас Карр, автор книги «Пустышка» [23] Карр H. Пустышка. Что Интернет делает с нашими мозгами. — M.: BestBusinessBooks, 2012. (The Shallows), утверждает, что смартфоны и компьютеры снижают качество наших мыслей и изменяют форму нашего мозга. В книге «Виртуальный вы» (Virtually You) психиатр Элиас Абуджауде предупреждает нас о том, что социальные сети и ролевые игры способствуют развитию массы расстройств, включая нарциссизм и эгоизм. Погружение в технику ослабляет личность и характер, считает программист и пионер виртуальной реальности Джарон Ланир, автор книги «Вы не гаджет. Манифест» [24] Ланир Д. Вы не гаджет. Манифест. — М.: Астрель, Corpus, 2011. . Эксперты дружно предупреждают, что разрушительные эффекты исходят от компьютеров вне наших тел. При этом Курцвейл уверен, что компьютеры внутри нас принесут только пользу. Мне кажется, не стоит ожидать, что сотни тысяч лет эволюции повернут вспять всего за тридцать лет и что нас можно перепрограммировать и заставить полюбить существование, очень сильно отличающееся от всего, к чему нас готовила эволюция.

Более вероятно, что человек сам будет решать, какая скорость перемен его устраивает и с какой скоростью он справится. Каждый сможет выбрать параметры для себя сам, и многие люди остановятся на сходных скоростях, точно так же, как многие выбирают для себя сходные стили, машины и компьютеры. Мы знаем, что закон Мура и Закон прогрессирующей отдачи — это скорее экономические, нежели детерминистские законы. Если достаточное число людей, имеющих в своем распоряжении необходимое количество ресурсов, хочет искусственно ускорять собственный мозг, они создадут некоторый спрос на подобные услуги. Однако мне кажется, что Курцвейл сильно переоценивает стремление людей будущего быстрее думать и дольше жить.

В любом случае мне не кажется, что нас ожидает радостная сингулярность, которую он описывает. ИИ, разработанный без достаточных предосторожностей, не позволит ей реализоваться.

Движение к созданию УЧИ неотвратимо и, вероятно, неуправляемо. А из-за динамики удваивания, выраженной Законом прогрессирующей отдачи, УЧИ появится на мировой сцене (и захватит ее) намного скорее, чем мы думаем.

Ежегодно, начиная с 2005 г., Исследовательский институт искусственного интеллекта проводит конференцию по сингулярности. В течение двух дней выступающие вещают перед аудиторией примерно в тысячу человек о сингулярности в самых разных аспектах — о ее влиянии на рынок труда и экономику, здравоохранение и продолжительность жизни, о ее этических последствиях. В 2011 г. среди выступавших в Нью-Йорке были научные легенды. Среди них математик Стивен Вольфрам и доткомовский миллиардер Питер Тиль, который дает талантливым подросткам-технарям деньги, чтобы они вместо учебы в колледже основывали собственные компании. Был там и Дэвид Ферруччи, научный руководитель проекта DeepQA/Watson. Непременно выступает Елиезер Юдковски, и, как правило, находится пара специалистов по этике и представителей экстропианского и трансгуманистического сообществ. Экстропианцы исследуют технологии и медицинские методики, которые позволят человеку жить вечно. Трансгуманисты думают о технических приспособлениях и косметических способах повышения человеческих способностей, красоты и… возможности жить вечно. И над всем этим разнообразием тем и фракций возвышается колосс сингулярности, один из основателей Конференции по сингулярности и звезда каждого такого собрания Рэй Курцвейл.

Темой конференции 2011 г. был компьютер Watson проекта DeepQA (ответы на вопросы) фирмы IBM. Курцвейл провел рутинную презентацию по истории чат-ботов и систем ответов на вопросы под названием «От Eliza к Watson». Но в середине, заметно оживившись, он резко раскритиковал неуклюжее эссе, направленное против гипотезы сингулярности, одним из соавторов которого выступил сооснователь Microsoft Пол Аллен.

Курцвейл выглядел неважно — исхудал, слегка прихрамывал, вел себя тише обычного. Вообще, он не из тех ораторов, которые легко захватывают внимание зала или пересыпают свою речь шутками. Напротив, он говорит всегда мягко и даже чуть механистично; его речь, кажется, лучше всего приспособлена для переговоров с похитителями людей или рассказывания вечерних сказок. Но на фоне тех революционных идей, о которых он обычно говорит, такая манера срабатывает неплохо. В век, когда доткомовские миллиардеры проводят презентации в отглаженных джинсах, Курцвейл выходит к аудитории не иначе как в старомодных коричневых брюках, кожаных мокасинах с кисточками, спортивном пиджаке и очках. Он человек средних габаритов, но в последнее время заметно постарел, особенно по сравнению с энергичным Курцвейлом из моих воспоминаний. Ему было всего лишь 52 года, когда я в последний раз брал у него интервью, и он тогда еще не перешел на питание с интенсивным снижением калорийности; сегодня это часть его планов по замедлению старения. Точно подобрав рацион питания и пищевых добавок, а также занятий физкультурой, Курцвейл планирует дожить до дня, когда будет найдено лекарство от смерти. В том, что оно будет найдено, он не сомневается.