Игорь Шнуренко - Человек взломанный

Необходимо, чтобы и отдельные люди, и общество вернули себе человеческое достоинство и возможности сознательного развития. Выбор должен оставаться за человеком, и этот выбор должен быть информированным и сознательным.

Технологическое ускорение бросает человеку вызов, не ответить на который нельзя. Человек, пока он остается человеком, всегда будет активно воздействовать на окружающую среду, перестраивать ее, пытаться улучшить и приспособить под свои нужды или даже идеалы. Поэтому остановить науку, развитие технологий не получится — или получится лишь на ограниченное время. Другое дело — направить его совсем по-другому руслу. Но для этого потребуется приложить усилия не только отдельным людям, но и сообществам, народам, и всему человечеству. Технократы последних дней любят рассуждать о технологической сингулярности — моменте, когда искусственный интеллект догонит и перегонит человека. В их понимании нет принципиальной разницы между «человеком разумным» и созданным им отражением, то есть всё может производить из себя всё. Следовательно, нет барьеров, за пределы которых стремится вырваться человек, а значит, по сути, нет и человека.

А раз нет человека, значит, всё позволено — например, перейти в своих опытах с вживлением чипов со свиней на людей, как это делает Маск. Ведь свиньи — те же люди, а люди — те же свиньи. То есть, в представлении технократов, сведение человека к машине это не порабощение, а нормальное состояние этого биологического вида.

Когда-то технократы были другими — например, упомянутый в этой книге Оппенгеймер. Даже Элвин Тоффлер в своей «Третьей волне», вышедшей в 1980 году, так описывал «людей, составляющих ядро технической революции»:

«Они начинают не с технологий, а с того, какое общество в будущем мы хотим иметь. Они признают, что сейчас у нас так много технических возможностей, что мы не можем все их консолидировать, развивать и применять. Поэтому, доказывают они, необходимо произвести более тщательный отбор и выбрать те технологии, которые отвечают долгосрочным социально-экономическим задачам. Вместо того чтобы сделать технологию нашей целью, они хотят установить контроль общественности над основными направлениями технологического прорыва. Силы Второй волны представляют те, кому нравится старый, бездумный подход к технологии: «Если это работает, производите. Если это продается, производите. Если это делает нас сильнее, создавайте»… Когда речь заходит об опасности, они только пожимают плечами».

К сожалению, «Третья волна» Тоффлера так и осталась красивым нереализованным проектом, и нынешние технократы очень напоминают те самые «силы второй волны», которых Тоффлер определил в устаревшие. Даже децентрализация, на которую возлагалась очень много надежд, не помогла.

Тоффлер восклицает в той же книге:

«Возможно ли, чтобы Старший Брат уследил за всеми тостерами и телевизорами, автомобильными моторами и кухонными электроприборами? Когда произойдет широкое распределение интеллекта во всей среде обитания, когда активизировать его смогут пользователи сразу в тысяче мест, когда пользователи компьютеров станут общаться друг с другом, минуя центральный компьютер (как это происходит во многих распределенных сетях), сможет ли Старший Брат все так же контролировать ситуацию? Децентрализация интеллекта не только не укрепит мощь тоталитарного государства, а скорее наоборот, ослабит ее. Разве при проектировании машин для исполнения наших приказаний мы не можем запрограммировать их, как Робби в классическом произведении Айзека Азимова «Я, робот», никогда не причинять вреда человеку?»

Мы знаем ответы на эти риторические вопросы: да, Старший Брат прекрасно установил контроль над населением, используя как централизованные платформы, так и децентрализованные сети. И мы, люди, сегодня не имеем власти запрограммировать машины не причинять нам вреда — напротив, машины могут программировать нас и наших детей практически на любые действия, в том числе причинять вред нам и друг другу. Пример — планомерное эмоциональное заражение через социальные сети и управление массами протестующих во время недавних событий в Соединенных Штатах и в Белоруссии.

Технократы «четвертой промышленной революции» как две капли воды похожи на своих прадедушек «второй» — только первые стали куда более циничными и совершенно пустыми внутри. Взломав обычного человека сегодня, они не хотят понять, что завтра они будут взломаны сами — а может быть, их уже взломали, просто уверили в их исключительности.

На деле выбор сегодня стоит между порабощением человека, сведением его к уровню машины — и развитием его самого.

Но может ли человек развиваться, вопреки уверенности многих в том, что Homo sapiens создан таким, каким создан, и не подлежит изменению?

Я уверен в том, что может и должен. Да и вся его история — это постоянное совершенствование, выход за пределы, постоянное развитие духа, постоянный труд души.

Русские философы-космисты обосновали необходимость перехода от технического прогресса, оставляющего личность физически несовершенной, к органическому. Техника при этом рассматривается как средство человеческого самопознания, а не только как посредник между человеком и природой, которую надо покорить. На деле исследования искусственного интеллекта и есть средство такого самопознания, но сегодня они ведутся в интересах жрецов и технократов, жаждущих стать необогами, а не в интересах человечества.

Конструируя инструменты и машины, мы пытаемся понять устройство наших собственных органов и продлить их, превращая бессознательное и рефлективное в осознанное, построенное по проекту. Через технику мы открываем дремлющие пока возможности собственного организма.

«Линия техники и линия жизни идут параллельно друг другу», писал Павел Флоренский. Овладев умением создавать инструменты и органы вне себя, человек должен научиться применять это умение к своему телу с тем, чтобы овладеть «направленным органосозиданием». Однако сделать это он должен и может не заменяя живое в себе неживым, и не делая машину моральным агентом, способным судить людей и даже убивать их.

Человек прост и сложен одновременно, его опыт и есть его сознание, но при этом его суть — во множестве вариантов интерпретации этого опыта. Классик сказал, что весь мир — театр, но больше всего театр — это человек, и человек есть театр. Суть театра во множестве способов интерпретации сюжета, и этим он похож на человека. Именно поэтому для разработчиков искусственного интеллекта наиболее твердый орешек — это не игры с их четкими правилами, а театр с его отсутствием каких бы то ни было аксиом, с его зыбкостью.