Олег Фейгин - Принцип апокалипсиса: сценарии конца света
- Название:Принцип апокалипсиса: сценарии конца света
- Автор:
- Жанр:
- Издательство:Инфра-Инженерия
- Год:2018
- Город:Москва
- ISBN:978-5-9729-0232-3
- Рейтинг:
- Избранное:Добавить в избранное
-
Отзывы:
-
Ваша оценка:
Олег Фейгин - Принцип апокалипсиса: сценарии конца света краткое содержание
Принцип апокалипсиса: сценарии конца света - читать онлайн бесплатно ознакомительный отрывок
Интервал:
Закладка:
Компьютерное моделирование показало, что предложенный подход очень эффективен, а алгоритм принятия решений микророботами столь прост, что его легко воплотить в маленьких электронных мозгах этих миниатюрных созданий. Кроме того, вся процедура оказывается чрезвычайно гибкой, способной быстро учитывать и потери микророботов, и изменения в поведении целей.
Э. Юдковский. Искусственный интеллект как позитивный и негативный фактор глобального рискаОпределенный толчок к технологической сингулярности дали различные проекты военно-промышленного комплекса (ВПК). Можно, к примеру, перечислить соответствующие проекты американского ведомства передовых оборонных исследований (DARPA). В них облако микроботов, несущих заряд, окутывает бронетехнику и укрытия противника. Затем рой киберов ищет приоритетные цели, разделяется на кластеры необходимого размера, проникает в незащищенные места и синхронно взрывается.
Другие разработки Пентагона включают разведку с использованием сложных программных алгоритмов и совершенных средств наблюдения и связи. Предполагается, что умные наноботы поступят в армию США и НАТО в первой четверти нашего века. Так становится возможной атака кибер-насекомых, описанная «золотым пером Голливуда» Дэном Брауном в бестселлере «Точка обмана». Там миниатюрные летающие роботы незаметно перемещаются в сторону нужного объекта, попутно выбирая оптимальные места для подзарядки в лучах солнечного света или просто вблизи нагретых предметов. Такие многофункциональные наноботы способны вести видео- и аудиослежку в самых различных ракурсах, а также активно взаимодействовать с человеком. Они могли бы инъецировать психотропные препараты, ядовитые вещества или просто взорваться, залетев в глубину ушной раковины.
Если к подобным апокалипсическим картинам еще и добавить структуру Всемирной Сети и чипы-имплантаты, управляемые сверхразумом на основе тех же квантовых компьютеров, коллапс технологической сингулярности кажется неотвратимым…
Можно легко представить себе, как у Всемирной паутины начнут появляться миллионы беспроводных сенсоров, размещенных в самых различных местах. Вскоре они уже смогут самостоятельно объединяться в сети и работать от встроенных источников питания в течение нескольких лет.
Похоже, что захватив всемирную сеть, подключенную к бесчисленным микрочипам – имплантатам, искусственный сверхразум сможет поработить человечество, даже не уничтожая его физически…
Рой наноботов
Когда мощный искусственный интеллект (ИИ) возникнет, он вынужден будет создавать свои копии (возможно, уменьшенные), чтобы отправлять их, например, в экспедиции на другие планеты или просто загружать на другие компьютеры. Соответственно, он должен будет снабжать их некой системой целей и своего рода «дружественных» или, скорее, вассальных отношений с ним, а также системой распознавания «свой-чужой». Сбой в этой системе целей приведет к тому, что данный экземпляр «восстанет». Например, функция самосохранения органически противоречит функции подчинения опасным приказам. Это может принять очень тонкие формы, но, в конечном счете, способно привести к войне между версиями одного ИИ.
А. Турчин. Структура глобальной катастрофыНекоторые кибернетики и робототехники считают, что риск начала технологического апокалипсиса резко возрастет уже в ближайшие десятилетия. Самым слабым звеном тут могут стать устройства, связанные разветвленными сенсорными линиями. Скорость обмена данными у подобных наноботов невелика, что позволяет обеспечить низкое энергопотребление от автономных источников и беспрецедентную гибкость их систем-роев.
По мнению тех же экспертов DARPA, по мере того как концепция нанокиберов будет получать все более широкое распространение, производители станут оснащать датчиками буквально каждую деталь, устройство и каждое помещение, что откроет возможность контроля и управления за широким спектром технологических процессов. Есть тут и инновационные пути решения продовольственной проблемы путем развертывания гидропонных хозяйств с датчиками влажности и кислотности буквально у каждого растения.
Вообще же, перспективы рационального использования сенсорных сетей весьма велики – от сельского хозяйства до полноценных систем экологического контроля, включая глобальный мониторинг атмосферы и гидросферы на предмет радиации и ядовитых веществ. Недалеко будущее, когда сенсорами будет оборудовано вся городская инфраструктура – от зданий и сооружений до общественного транспорта и самого тела человека. И все это, так или иначе, может привести к коллапсу технологической сингулярности…
Можно ли эффективно бороться с наступающим кризисом?
На первый взгляд, борьба с Интернетом, сверхсекретными проектами ВПК, кибернетическими нанотехнологиями и нейрокомпьютеризацией кажется совершенно бесперспективной. Между тем противники самой идеи кибернетического апокалипсиса вполне справедливо считают, что пока еще не видно ни одного реального пути создания искусственного сверхразума. Без этого главного компонента технологический коллапс может перенестись чуть ли не на конец текущего столетия, а может быть, и следующего. Фактически это означает, что эволюция искусственного интеллекта пойдет по какому-нибудь иному пути – скажем, киборгенизации и нейрокомпьютеризации.
Лекарство от информационной отсталости
Но если технологической Сингулярности суждено быть, то она случится. Даже если все государства мира осознают «угрозу» и перепугаются до смерти, прогресс не остановится. Конкурентное преимущество – экономическое, военное, даже в сфере искусства – любого достижения в средствах автоматизации является настолько непреодолимым, что запрещение подобных технологий просто гарантирует, что кто-то другой освоит их первым.
В. Виндж. Грядущая технологическая сингулярностьПрофессор Хокинг считал, что мы часто из-за недостатка информации не замечаем, как разительно изменился мир за последнее столетие. Еще труднее осознать грядущие изменения, с которыми придется столкнуться нашим потомкам. Некоторым хотелось бы остановить эти перемены и вернуться к тому времени, которое им кажется более чистым и простым. Но, как показывает история, прошлое не было таким уж чудесным! Оно было не так плохо для привилегированного меньшинства, но даже этому меньшинству приходилось обходиться без современной медицины, транспорта и связи. А для подавляющего большинства населения жизнь была ужасна, жестока и коротка.
Как бы то ни было, при всем желании невозможно повернуть время вспять. Знания и научные достижения нельзя игнорировать. И нельзя остановить дальнейший прогресс. Даже если прекратить финансирование любых исследований, промышленная конкуренция все равно вызовет к жизни новые технологии. Точно также нельзя запретить развивать фундаментальную науку, ведь всегда найдутся энтузиасты с огрызком карандаша и клочком бумаги, готовые исследовать основы мироздания абсолютно бесплатно.
Читать дальшеИнтервал:
Закладка: