Джарон Ланир - На заре новой эры. Автобиография отца виртуальной реальности

Я не утверждаю, что искусственный интеллект – источник зла! Я говорю лишь о том, что искусственный интеллект не конкретен. Бояться искусственного интеллекта – лишь еще один способ умножать вред, который делается во имя его. Страх перед самими алгоритмами, которыми хотят пользоваться люди, – например, беспокойство о том, что алгоритмы неизбежно послужат причиной безработицы или кризиса значимости, – настолько же продиктован фантазией, сколько и попытки считать алгоритмы живыми и представляющими ценность сами по себе без данных, украденных у людей. Единственный способ уменьшить этот вред – перестать верить в искусственный интеллект как в новую разновидность живого существа, а вместо этого оценивать алгоритмы и инструменты, которые используют люди.

Сервисы машинного перевода полезны. Бояться их и запрещать абсолютно нецелесообразно. Идеальным, этичным, а главное, обоснованным вариантом будет отдать должное и заплатить людям, предоставляющим данные (в этом случае фразы для перевода), благодаря которым алгоритмы могут работать.

В 1980-е многим моим друзьям нравилась идея будущего в мнимой экономической бесполезности; тогда все были вынуждены придерживаться либо чистого социализма, либо иных утопических сценариев. Уже в настоящем времени этот образ мыслей возродился в обсуждениях модели безусловного основного дохода (БОД), согласно которой всем бесполезным людям будут выплачивать некое пособие, а роботы будут выполнять всю работу.

(Уже в последние годы, в период расцвета «правой альтернативы», я наблюдаю за тем, как подобная же стратегия высказывается в некоторых более радикальных хакерских кругах, но на этот раз людям предлагают принять некую разновидность расистского абсолютизма. Согласно этой идеологии, когда роботы оставят людей без работы, обычным людям не останется ничего другого.)

Я считаю модель безусловного основного дохода ловушкой. Если ценность будет выборочно игнорироваться, люди почувствуют себя бесполезными и абсурдными, экономика станет деструктивной, и эрацаз-система социальной защиты, которой смогут манипулировать мошенники, перестанет быть таковой. Во главе этой схемы должен будет встать централизованный политический орган, обладающий сверхвластью; это явное приглашение к коррупции.

Я уже писал на эти темы в книге «Кто владеет будущим?» («Who Owns the Future?»). Вот краткое изложение моих аргументов: алгоритмы искусственного интеллекта зависят в разной степени от часто пополняемых больших массивов данных, но в целом проект искусственного интеллекта зависим от незаметного и неразрешенного доступа к массовым данным о людях, и еще чаще – неоплачиваемого. В книге «Кто владеет будущим?» предполагается, что внедрение скрытой ценности данных о людях в формальную экономику через наноплатежи – вместо нынешней интернет-экономики, основанной на бартерном обмене или вовсе хищении [162], – сможет послужить альтернативой модели безусловного основного дохода. Мотивация не исчерпывается лишь вопросами о том, что БОД рискует выродиться в командную экономику. Универсальная экономика данных послужит альтернативой БОД, которая будет не только устойчива к нестабильной концентрации политической власти, но также и укрепит позиции индивидуального творческого подхода и человеческого достоинства.

Интуитивно можно предположить, что на каждого человека такого дохода не хватит, но помните о том, что в будущем возникнет множество разных так называемых алгоритмов искусственного интеллекта, проводящих наноплатежи одновременно. Рассмотрим экстремальный сценарий, по которому вся активность осуществляется через алгоритмы искусственного интеллекта – и это означает, что люди ничего не делают напрямую. Ценность, создаваемая данными, исходящими от людей, возрастет примерно так же, будет по меньшей мере так же высока, как и историческая ценность людей, выполняющих задания напрямую. Если ценности людей прошлого – и разнообразия ценности – достаточно, то так же будет и в будущем, пока искусственный интеллект воспринимается как иная форма подачи человеческого капитала, а не как чужеродный источник капитала.

Например, представим себе будущее, в котором до сих пор нужно чистить зубы, потому что генная инженерия, нанотехнологии и прочее не нашли еще альтернативы, при которой чистка зубов морально устареет. Но это будущее, так что вы больше не чистите зубы; робот вводит очищающие частицы тысячам людей, за которыми он следит, чтобы вычистить им зубы до совершенства. Если продолжить снабжать алгоритмы робота украденными данными, то вы так и будете сидеть, пока вам чистят зубы, чувствуя себя бесполезным и абсурдным существом на содержании. Однако если вы знаете, что некоторые особые люди гениально чистят зубы и показали несколько примеров, благодаря которым ваши зубы сейчас абсолютно здоровы и выглядят превосходно, и что этим людям платят, точно так же как и вам за ваши умения, и что вам тоже могут заплатить за то, что делаете вы, в условиях цифровой экономики, которая растет потому, что люди ко всему подходят творчески… в таком мире вы не почувствуете себя абсурдным и бесполезным. Достоинство должно присутствовать даже в таких незначительных делах, как чистка зубов.

Такой подход может вызвать религиозные протесты от верующих в истинный искусственный интеллект, но, возможно, стоит отбросить это метафизическое теоретизирование в интересах стабильной экономики.

В главе «Как мы заложили основу на будущее» я также говорил о созидательном императиве, благодаря которому в восприятие интернета привносится видимость «невесомости». Одним из последствий этого стала зародившаяся сначала в альтернативных группах Usenet эпидемия жестокого абсурда, поскольку из всей выгоды осталось лишь внимание и никто не был заинтересован в том, чтобы продолжать общение на цивилизованном уровне.

На сегодняшний день одна из главных проблем виртуальной реальности состоит в том, что наиболее очевидные клиенты, готовые платить деньги, – это геймеры, а в культуре компьютерных игр пышным цветом расцвела мизогиния.

Это явление известно под названием Геймергейт. Жалобы на то, как в компьютерных играх подается образ женщины, не слышны на фоне вала глупых агрессивных выпадов. С развитием феминистского гейм-дизайна реакцией на него стали волна угроз и давление с целью унизить. Женщины, активно участвующие в культуре компьютерных игр, подвергаются реальному риску, пока они не начнут пропускать мужчин вперед. Геймергейт оставил за собой след разрушенных жизней. Стоит ли говорить, что виновники считают жертвами как раз себя.