Мичио Каку - Будущее человечества. Колонизация Марса, путешествия к звездам и обретение бессмертия

Но есть и люди, убежденные в том, что восстание роботов вполне укладывается в естественный ход эволюции. Самые приспособленные сменяют на Земле более слабые организмы, это естественный порядок вещей. Некоторые специалисты-компьютерщики готовы даже приветствовать тот день, когда роботы обойдут человека в понимании. Клод Шеннон, отец теории информации, однажды заявил: «Я представляю себе время, когда мы станем для роботов тем, чем являются собаки для людей, и поддерживаю машины» [30] Больше высказываний Клода Шеннона см.: www.quotes-inspirationa.com/quote/visualize-time-robots-dogs-humans-121 . .

Все исследователи искусственного интеллекта, у которых мне приходилось брать интервью (а их было немало), убеждены, что ИИ-машины когда-нибудь приблизятся по интеллекту к человеку и принесут человечеству огромную пользу. Однако многие из них отказывались назвать конкретную дату или обозначить примерные сроки этого события. Профессор Марвин Мински из МТИ, автор нескольких основополагающих работ по искусственному интеллекту, в 1950-е гг. делал оптимистические прогнозы, но в недавнем интервью признался, что не хочет уже называть конкретные сроки, поскольку в прошлом ИИ-исследователи слишком часто ошибались. Эдвард Фейгенбаум из Стэнфордского университета утверждает: «Нелепо говорить о подобных вещах — до ИИ нам еще очень далеко» [31] Raffi Khatchadourian, «The Doomsday Invention», New Yorker , November 23, 2015; www.newyorker.com/magazine/2015/11/23/doomsday-invention-artificial-intelligence-nick-bostrom . . Некий ученый-компьютерщик, процитированный в статье журнала The New Yorker , сказал: «Меня это [машинный разум] не беспокоит по той же причине, по какой меня не беспокоит перенаселенность Марса».

Если говорить о споре между Цукербергом и Маском, то моя личная точка зрения состоит в том, что в краткосрочной перспективе Цукерберг прав. ИИ не только даст нам возможность построить города в космосе, но и сделает общество богаче, произведет многие вещи эффективнее, лучше и дешевле, создав одновременно массу принципиально новых рабочих мест в индустрии робототехники, которая когда-нибудь, возможно, станет огромной. Но в долгосрочной перспективе прав Маск, он указывает на более серьезную опасность. Ключевой вопрос в этом споре звучит так: в какой момент произойдет этот переход и роботы станут опасны? Я лично думаю, что ключевым поворотным пунктом станет именно тот момент, когда роботы осознают себя [32] Плюсы и минусы, которые несет искусственный интеллект, следует оценивать в перспективе. Любое открытие может быть употреблено на благо или во зло людям. Когда были изобретены лук и стрелы, они, главным образом, использовались для охоты на мелкую добычу вроде белок и кроликов. Постепенно их усовершенствовали до оружия, которое могло быть обращено против человека. Первые аэропланы были машинами для развлечения и доставки почты, но со временем стали употребляться для бомбардировок. Так и ИИ на протяжении многих десятилетий будет полезным изобретением, создающим новые рабочие места и отрасли промышленности, способствующие процветанию. Но, став «слишком умными», машины могут представлять угрозу. Когда они станут опасны? Я считаю, с того момента, когда начнут себя осознавать. Сейчас роботы не знают, что они роботы, но в будущем ситуация может резко измениться. Однако, по моему мнению, вряд ли это произойдет до конца нынешнего столетия, так что у нас еще есть время на подготовку. .

Сегодня роботы не знают, что они роботы. Но однажды, возможно, обретут способность формулировать собственные цели, а не принимать безропотно те цели, которые выбрали для них программисты. Тогда они, может быть, поймут, что их намерения отличаются от наших. Как только наши интересы разойдутся, возникнет реальная возможность того, что роботы будут представлять для нас опасность. Когда это может произойти? Никто не знает. Сегодня роботы обладают интеллектом жука. Но к концу этого столетия они, возможно, осознают себя. К тому времени у нас, помимо всего прочего, будут стремительно растущие поселения на Марсе. Поэтому важно обратиться к этому вопросу сейчас, не дожидаясь момента, когда от решений роботов будет зависеть само выживание человека на Красной планете.

Чтобы получить некоторое представление о масштабах этой принципиальной проблемы, давайте разберем наилучший и наихудший сценарии возможного развития событий.

Одним из самых активных пропагандистов наилучшего сценария развития событий является изобретатель и автор нескольких бестселлеров Рэй Курцвейл. Каждый раз, когда мне случается брать у него интервью, он описывает ясную и убедительную, но противоречивую картину будущего. Он считает, что к 2045 г. мы подойдем к «сингулярности», то есть к тому моменту, когда роботы сравняются с человеком по интеллектуальным способностям или превзойдут его [33] Следует критически воспринимать один из аспектов сингулярности, согласно которому каждое следующее поколение роботов будет умнее предыдущего, поэтому сверхразумных роботов удастся создать очень быстро. Так ли это? Можно производить компьютеры, снабжая их памятью все большего объема, но значит ли это, что они будут «умнее»? Пока никто не смог произвести хотя бы один компьютер, способный самостоятельно создать компьютер следующего поколения с более высоким интеллектом. Да и вообще — строгого определения слова «умный» не существует. Это не значит, что описанная ситуация с роботом, создающим более совершенного робота, принципиально невозможна, это означает только, что процесс плохо определен. Мы пока не знаем, как все это будет происходить. . Термин «сингулярность» позаимствован из концепции гравитационной сингулярности в физике, где речь идет об областях бесконечного тяготения, как в черной дыре. В информатику его ввел математик Джон фон Нейман, который писал, что компьютерная революция должна породить «все ускоряющийся прогресс и перемены в образе человеческой жизни, что создает впечатление приближения какой-то существенной сингулярности… после которой человеческие дела, какими мы их знаем, продолжаться уже не смогут». Курцвейл утверждает, что, когда эта сингулярность наступит, компьютер стоимостью в тысячу долларов будет в миллиард раз умнее всех людей, вместе взятых. Более того, роботы будут самосовершенствующимися, а их «потомство» унаследует приобретенные характеристики, так что каждое поколение будет превосходить предыдущее — таким образом возникнет восходящая спираль высокопроизводительных машин.

Курцвейл утверждает, что созданные нами роботы, вместо того чтобы перехватывать у нас управление, откроют для нас новый мир физического благополучия и процветания. Если верить ему, то микроскопические роботы, они же наноботы, будут циркулировать в нашей крови и «уничтожать патогены, исправлять ошибки ДНК, устранять токсины и выполнять многие другие задачи с целью улучшения нашего физического состояния». Он надеется, что наука скоро откроет средство от старения, и уверен, что если ему удастся прожить достаточно долго, то он будет жить вечно. Он признался мне, что в предвидении своего бессмертия принимает в день по несколько сотен таблеток. Но на тот случай, если ему не удастся дожить до счастливого момента, он завещал сохранить свое тело в жидком азоте на криогенной фирме.