Валерий Чумаков - Конец света: прогнозы и сценарии

Конечно, многие возразят, что никакой катастрофы в этом нет. Наоборот, ИИ сделает нашу жизнь максимально комфортной. Человечество всю жизнь стремилось создать мир, в котором вареники сами летели бы в рот, а проблемы решались бы еще до их возникновения. Что ж, возможно. Но это уже будет не человеческая цивилизация. Мы не будем работать в современном смысле этого понятия, поскольку нашему хозяину это просто не будет нужно. Все, что можем выполнить мы, машины будут делать значительно лучше. Наверное, у нас останется какая-то своя культура, которая будет гораздо беднее культуры компьютерной, а ее мы не сможем постигнуть. Мы будем рисовать картины, сочинять музыку, писать стихи, но компьютер будет творить лучше, чем мы. Слоны тоже, как уверяют зоопсихологи, любят рисовать.

Есть еще надежда, что искусственному разуму не удастся превзойти человеческий, поскольку «ученик не может быть умнее учителя». Некоторые футурологи надеются, что человек с помощью генной инженерии сможет поднять свой разум на новый, сопоставимый с компьютерным, уровень. Или что он объединится с машиной, в результате чего получится некий Ногтю 8ирег8ар1еш, существо с мозгами, напрямую подключенными к некой всемирной информационно-вычислительной сети. Однако это уже будет не человек.

Мнение эксперта

Олег Петрович Кузнецов — доктор технических наук, профессор, заведующий лабораторией Института проблем управления РАН, председатель научного совета Российской ассоциации искусственного интеллекта.

Может ли машинный разум превзойти человеческий? В принципе, может, но пока до этого далеко — лет тридцать-сорок, не меньше. Мне кажется, что дата, называемая многими учеными (вторая половина 2020-х годов), — это слишком оптимистично. С такой грандиозной задачей, как построение полноценного интеллекта, не уступающего человеческому, мы вряд ли сумеем справиться столь быстро. Ведь, кроме прочего, его создание должно сопровождаться разработкой систем контроля. Человек сможет контролировать интеллект, превосходящий его по уровню, есть возможность это делать. А сценарий захвата власти роботами пока представляется нереальным, хотя предоставление машине слишком большой самостоятельности может привести к тому, что она будет сама ставить перед собой задачи и сама решать их, не заботясь о том, насколько это нужно и нужно ли вообще человеку. Если вдруг искусственный интеллект выйдет из-под контроля, то потом сделать что-то будет очень трудно. Но если контролировать весь процесс постепенной эволюции, то, я думаю, есть способы обезопасить себя. Дело ведь не только в том, умнее ли нас машина. Контроль не требует превосходства интеллекта. Умные всегда были на службе у сильных, хотя и тяготились этим. Проблема контроля — это проблема допуска к возможностям: к ресурсам, принятию решений и т. д.

Еще многих беспокоит такой вопрос: насколько реально человечеству свалиться после появления искусственного сверхинтеллекта в технологическую сингулярность, когда мы перестанем понимать, что творится вокруг нас. Да мы и сейчас уже не все понимаем, что творится вокруг нас, и никогда этого не понимали. Суть — в объеме этого непонимания. Мы считаем себя очень умными, а все ли мы знаем даже о своем организме? Как он работает, что мы там можем выключить, а что нет, способны ли мы предусмотреть все последствия своих действий. Точно так будет и с искусственным интеллектом. Рядовой человек даже и не заметит этого «сваливания». Если мы будем держать искусственный интеллект под контролем, ничего страшного не произойдет. И потом, у человечества нет другого пути. Мы в любом случае будем стараться делать все более мощные и умные машины. Сценарий с луддитами, ломавшими на английских фабриках станки, на которых вязали дешевые чулки, не пройдет сейчас так же, как он не прошел в XIX веке. Уж слишком прочно наша жизнь связана с машинами. Говорят, что искусственный интеллект будет следующей за нами ступенью эволюции, займет оставленный нами трон «царя природы», опустив человечество до уровня наших домашних собачек и кошечек. Думаю, такой сценарий в далекой перспективе возможен, только если, повторю, человечество будет недооценивать проблемы контроля. Это касается не только искусственного интеллекта, но и генной инженерии, и биотехнологий, и прочего. Надо вести себя разумно и почаще перечитывать «Войну с саламандрами» Карела Чапека.

Наверное, каждый после просмотра фильма «Матрица» задал себе вопросы: «А не живу ли и я в такой или подобной матрице? И насколько реально то, что меня окружает?» Зададимся другим простым вопросом: возможна ли вообще такая «матрица».

А, собственно, почему она может быть невозможна? Технология виртуальной реальности уже давно (лет десять) опробована и не представляет ни для кого великой тайны. Желающие и обладающие достаточными, уже не такими большими, средствами вполне могут купить шлем виртуальной реальности, перчатки виртуальной реальности и прочее оборудование. Если заплатить чуть подороже, то получишь оборудование с обратной связью, и камень, подобранный в виртуале, будет ощущаться в руке, как некий тяжелый и твердый предмет. Информационные технологии развиваются такими темпами, что дела минувшего десятилетия уже воспринимаются как седая древность.

Игровые отрасли — это лишь верхушка айсберга ценой 15 миллиардов долларов в год. Именно такой суммой определяется рынок технологий ВР (так для краткости называют виртуальную реальность; не путать с другим, английским ВР — British Petroleum!). В основном эта сумма состоит из затрат на военные тренажеры. Согласитесь, что, к примеру, начинающим пилотам разумнее начинать свои тренировки на виртуальных самолетах над виртуальными полями сражений, чем сразу на машинах, стоимость которых может «зашкаливать».

Термин виртуальная реальность родился в прошлом веке. В 1970-х годах американский компьютерный художник Май-рон Крюгер придумал для своих творений словосочетание «искусственная реальность», которое в начале 1980-х годов американский компьютерщик, писатель и художник Жарон Ланье изменил, сделав реальность «виртуальной», то есть «представляемой», «возможной в принципе». Изменение существенное, ибо «искусственной реальностью» можно назвать и выстроенный для съемок кинофильма старинный городок, и музейную панораму, и много еще чего. Виртуальная же реальность почти не существует. Это игра воображения, сон. Но как только Ланье заявил о своих правах приоритета, дотошные исследователи тут же откопали изданную в 1938 году книгу известного французского режиссера, драматурга и театрального новатора Антуана Мари Жозефа Арто «Театр и его двойник», в которой он, в частности, мечтал и о театре la realite virtuelle. Конечно, ни о каких компьютерах или информационных сетях там речи не шло. Арто хотел создать театр без декораций, где обстановка, в которой происходит действие, передавалась бы повышенной энергетикой игры актера и даже расширяющими сознание средствами. В его представлении, глубина погружения в действие зрителя и актера в таком театре должна была бы быть значительно выше, чем в театре классическом. В сущности, требовалось создать «вторую реальность». В 1982 году в похожем значении, только по отношению уже к реальной жизни, в своем романе «Иудейская мандола» термин «виртуальная реальность» использовал еще один его независимый автор, австралийский писатель-фантаст Деймьян Бродерик. Про такие ситуации обычно говорят: идея носилась в воздухе.