Джарон Ланир - 10 аргументов удалить все свои аккаунты в социальных сетях [litres]

Кто скажет, что считается интеллектом программы? В 90-е годы мы вместе с друзьями писали программы, которые могли отследить лицо человека и в режиме реального времени превратить его в анимированное изображение зверя или другого человека с таким же выражением лица. Нам даже в голову не приходило называть это искусственным интеллектом. Это был просто пример сложной обработки изображений. Теперь же эту способность часто приписывают ИИ.

Так любые программы можно называть искусственным интеллектом. А можно не называть. Если программу назвали искусственным интеллектом, то ее критерии успеха неизбежно будут неопределенными. Искусственный интеллект – это ролевая игра для инженеров, а не реальное техническое достижение.

Разумеется, многие современные алгоритмы интересны и действительно работают как надо, но их удастся лучше понять – и, возможно, усовершенствовать их работу, – если не рассказывать сказочки про искусственный интеллект. Я уже привел подобный пример в главе, посвященной экономике. Люди, занимающиеся переводами с разных языков, то и дело слышат, что с экономической точки зрения они устарели. У них не только отбирают средства к существованию, у них подлейшим образом крадут достоинство, поскольку все истории про их ненужность – ложь. Их труд все еще ценен. Они нужны, поскольку без данных, созданных ими вручную, не будет никаких сервисов «автоматического» перевода.

Сегодня рассуждать на глобальные философские или духовные темы почти невозможно, потому что люди заводятся с пол-оборота, когда о них слышат, но ведь это нелепо – избегать открытого разговора об основополагающих темах, в которых ОБЛОМ пытается захватить главенство. Надеюсь, это мнение получится вполне исчерпывающим и непротиворечивым, хотя моя надежда может оказаться тщетной.

Я обладаю сознанием. И я верю, что вы тоже обладаете сознанием. Каждый из нас переживает ощущения.

Это чудо. Я не делю опыт на естественный и сверхъестественный и не знаю, единственный ли это вариант для определения опыта.

Мы изучаем мозг человека, но при этом не знаем, обязательно ли он должен испытывать ощущения, чтобы выполнять другие свои функции. Опыт – это загадка, ответ на которую лежит очень глубоко, потому что мы не знаем, как изучить ее по частям. Нам не известно, имеет ли смысл говорить о частицах опыта (их иногда называют «квалиа»).

В самом существовании можно найти надежду на то, что жизнь после смерти существует, но один лишь факт того, что мы переживаем ощущения, пока живы, ничего не доказывает. Но даже если это и так, то не будет иррациональным – основываться в своей вере в посмертие на загадочный опыт земной жизни. Никто из нас по-настоящему не знает, что происходит в нашей реальности, но если вы воспринимаете хорошее настроение, благость и последовательную созидательность в мире, то, возможно, опыт ощущений даст вам больше.

Мы можем признать опыт, можем им наслаждаться, эмоционально реагировать на его загадку, и возможно, даже наша реакция на нее будет приятной. Благодаря признанию того, что опыт существует, мы можем стать добрее, поскольку сможем понимать людей, которые больше, чем просто машины. Скорее всего, мы начнем хоть немного думать, прежде чем побольнее задеть кого-нибудь, если поверим, что в другом человеке заключен центр уникального опыта, целая вселенная, душа.

Должны ли машины получить «равные с людьми права», как предлагает культура технарей? Ведь предоставила же Саудовская Аравия гражданство роботу «женского пола», который получил права, недоступные для живых женщин Саудовской Аравии [132] https://www.washingtonpost.com/news/innovations/wp/2017/10/29/saudi-arabia-which-denies-women-equal-rights-makes-a-robot-a-citizen/ .

Это серьезная проблема равенства между людьми и машинами. Представьте себе метафорический круг эмпатии, который будет сообщать о ваших действиях. Внутри этого круга вы можете принимать и очеловечивать кого угодно. Если ваш круг слишком широк, он теряет значимость, ваша эмпатия становится абсурдной, и вы перестаете видеть, насколько сильно вы задеваете реальных людей. Граждане Саудовской Аравии – не единственные, кто предлагает испытывать эмпатию к бессловесным железякам, подчеркивая тем самым отсутствие эмпатии к реальным людям, которым цинично затыкают рот. Тем же самым занимаются активисты движения против абортов [133] Вот один из моих старых текстов, из которого видно, как мои взгляды совмещают уникальность каждого человека и поддержку права на аборт: https://www.huffingtonpost.com/entry/the-latest-innocent-embry_b_8547.html и защитники прав животных.

Бизнес ОБЛОМа тесно переплетается с новой религией, которая готова сопереживать компьютерным программам – называя их искусственным интеллектом, – лишь бы живые люди не замечали, что это принижает их ценность, достоинство и права.

Сознание – единственное, что иллюзии не ослабляют. Чтобы иллюзия существовала, вам придется ее прожить. Но с другой стороны, если вы выберете не замечать того, что проживаете, то вы можете отрицать и наличие у себя сознания.

По вашей же милости ваше сознание может взять и превратиться в ничто. Вы можете утратить веру в самого себя и заставить себя исчезнуть. Я называю это антимагией.

Если в обществе будет подавляться вера в сознание и опыт – и отвергаться любой отличительный признак индивидуальности, – то тогда люди, пожалуй, смогут уподобиться машинам.

Именно это и происходит с ОБЛОМом, который уверен, что вы – всего лишь скромная клетка огромного суперорганизма. Мы разговариваем со своими электронными устройствами, подключенными к ОБЛОМу, как с людьми, и «разговор» действует эффективнее, если наша манера говорить приближает нас к машинам. Когда вы живете так, как будто ничего особенного не происходит, в вас не загорается мистическая искра, и вы начинаете в это верить.

Если бы этот новый вызов, брошенный личности, был единственной проблемой духовной борьбы человека, то, наверное, можно было бы говорить о том, что это касается только его лично. Но есть и глубинные последствия для общества.

Духовное беспокойство – универсальный ключ, который показывает, какие проблемы не относятся к нашей повседневности. Разработчики технологий ОБЛОМа часто представляют современность покушением на человеческую уникальность, и люди, естественно, испытывают ужас, как будто отрицается само их существование. И это нормально, поскольку они реагируют на то, что, собственно, и было сказано.

Все проблемы, разрывающие на части американское общество, связаны с ответами на вопросы о том, все ли люди уникальны, где у человека находится душа и существует ли она у него вообще. Приемлемы ли аборты? Верно ли, что человеческий труд станет настолько экономически невыгодным, что нам всем, кроме кучки избранных технарей, придется жить на подачки от базового безусловного дохода? Должны ли мы ценить всех людей одинаково, или кто-то заслуживает больше прав на свободное волеизъявление, потому что хорошо справляется с задачами для умников? Эти вопросы кажутся разными. Но если задуматься, то все они будут вариациями одного и того же вопроса: что такое человек?