Джарон Ланир - На заре новой эры. Автобиография отца виртуальной реальности

Термин «искусственный интеллект» появился (на конференции в Дартмуте в конце 1950-х годов) в том числе потому, что многих своих коллег Винер раздражал и они были вынуждены предложить альтернативное название, ведь кибернетика начала завоевывать популярность и ассоциировалась с именем Винера. Предложенная ими альтернатива отличалась по смыслу от первоначального варианта.

Термин «искусственный интеллект» отражал качества компьютеров будущего безотносительно людей, предполагая, что компьютеры станут автономными единицами, которые будут существовать, даже если люди вымрут, даже если не останется никого, кто будет за ними наблюдать.

В противоположность ему термин «кибернетика» предполагал только то, что компьютеры и людей нужно рассматривать в контексте друг друга. Он не имел отношения к метафизике.

Винер был прав: «искусственный интеллект» внес путаницу. Ближе к концу книги я вернусь к рассуждениям об искусственном интеллекте, но пока давайте рассмотрим, что мог значить ход мыслей Винера для виртуальной реальности.

С помощью этого уравнения можно пояснить, что делает работу Винера ужасающей:

Тьюринг × (Павлов, Уотсон, Скиннер) = Зомби-апокалипсис

Вторая мировая война оставила после себя чувство ужаса; ощущение, что вся деятельность человека может оказаться во власти технологий. Нацисты эксплуатировали новые технологии как кинопропаганду, вовлекая все большее количество людей в индустриализованную версию геноцида. Моя мать, которой едва ли суждено было выжить, была крохотным пикселем на этом сером фоне.

После войны все недоумевали, как такое могло произойти. Может ли это случиться снова? Поймем ли мы, что происходит, в самом начале? И что нам делать потом?

Одиннадцатое определение VR: дисциплина, расположенная в центре вообще всего.

После войны люди стали бояться контроля над сознанием. Психологи Иван Павлов, Джон Уотсон, Беррес Скиннер в разное время продемонстрировали, что с помощью контролируемой обратной связи можно добиться изменений в поведении. Этот же тяжелый металлический привкус паранойи нового времени сразу узнается в работах Уильяма Берроуза, Томаса Пинчона, Филипа Дика и всего направления киберпанка, а на самом деле всей научной фантастики. Все началось с далеких от науки людей, опасавшихся контроля над сознанием, а закончилось хвастовством некоторых ученых о том, как они упивались властью в своих лабораториях.

Некоторые из первых бихевиористов смотрели на всех свысока – словно у них было право заявлять, что других людей можно проектировать в лаборатории или в обществе – как при тоталитарных режимах; создавалось впечатление, что другие подходы к изучению людей не актуальны.

Павлов первым позвонил в колокольчик, когда подопытная собака ела, и доказал, что может вызвать у собаки слюноотделение и не давая ей еды, а только звоня в колокольчик. Уотсон провел жестокий эксперимент «Маленький Альберт». Он пугал младенца, когда рядом с ним находились животные, с целью доказать, что может навсегда заставить человека бояться зверей. А со Скиннера началось официальное применение экспериментального ящика для выработки у лабораторных животных условного рефлекса.

Поп-культура свела бихевиоризм к устройствам. Вы отправляете посты в Twitter ради мгновенного одобрения и внимания, даже если вы президент. У вас капает слюна, как у собаки, которая слышит свисток. Ящик Скиннера стал архетипом. У человека в ящике Скиннера возникает иллюзия контроля , хотя на самом деле это его контролирует ящик или тот, кто находится снаружи.

Здесь нужно обозначить основное различие, и сделать это непросто. Меня отталкивала культура бихевиористов, но не сам бихевиоризм, который мог принести пользу науке. Раньше я думал дрессировать коз, демонстрируя пример полезного применения бихевиоризма, но теперь считаю, что мог бы воспользоваться методиками когнитивно-поведенческой терапии.

В колледже мне не давала покоя проблема, как провести границу между полезной наукой и пугающим упоением властью. В моей голове роились мысли, которые иногда не давали мне заснуть по ночам. «Наука нужна нам, чтобы выжить; кроме того, она прекрасна. Но ученые могут пугать. Наука, если ее утрируют страшные ученые, может нанести ужасный вред. Как можно тогда заниматься наукой, если мы не всегда ее заслуживаем?»

Больше всего в бихевиоризме меня расстраивал налет анти-гуманности, стремление к известности за счет садистских экспериментов. Любую технологию можно использовать, чтобы придумывать новые формы жестокости. Но зачем?

Бихевиоризм не единственная фабрика паранойи. Генетика полезна и подкреплена фактами, но иногда генетики начинают строить основанные на евгенике утопии, ужасно антигуманные и вредоносные. Ученые приняли участие в истреблении моих родных, из-за них мою мать мучили в заключении, как и миллионы других людей.

Если хотите пережить чувство паранойи, схожее с тем, которое испытал я, когда начал изучать информатику, рекомендую посмотреть оригинальную версию фильма «Маньчжурский кандидат». Американского солдата подвергли идеологической обработке не посредством пропаганды, стокгольмского синдрома или других уловок, которые люди практикуют при взаимодействии друг с другом. Этот солдат прошел безжалостную процедуру, сведенную к единственному алгоритму «стимул – реакция». В «Заводном апельсине», а также многих других книгах и фильмах показана обработка сознания по типу экспериментов Скиннера.

Что может быть ужаснее мысли о том, что какой-то тип в белом халате управляет тобой, как персонажем из видеоигры, а ты об этом даже понятия не имеешь?

Фильмы и романы послевоенного периода примерно до конца прошлого века важную роль в контроле над людьми отводили гипнозу и гипотетической сыворотке правды. Но эти сюжеты не были выдумкой! Сотрудники ЦРУ на самом деле давали людям ЛСД – без малейшего их на то согласия – чтобы посмотреть, поможет ли это контролировать человеческое сознание.

Винер высказал мысль, что компьютеры могут стать достаточно мощными, чтобы управлять более сложноорганизованными ящиками Скиннера. Эти ящики будут более эффективны, их будет сложнее распознать, и поэтому они намного страшнее. Если читать Винера вдумчиво, станет ясно, что при наличии достаточно хороших сенсоров, достаточно высоких вычислительных мощностей и при достаточно высоком уровне сенсорной обратной связи можно поместить в ящик Скиннера бодрствующего человека, и он не будет этого осознавать. Винер успокаивает читателя, указывая на то, что сконструировать такое огромное компьютеризированное приспособление и подвести к нему сеть коммуникаций будет настолько сложно, что такая опасность существует лишь в теории.