Джарон Ланир - Кому принадлежит будущее? Мир, где за информацию платить будут вам

В истории должны участвовать люди, а не автоматы. В нашу эпоху серверов-сирен разные люди в той или иной степени напоминают автоматы.

Предприниматели эпохи серверов-сирен интуитивно представляют свободу воли – поскольку она им же и принадлежит – как все более магическое, элитное «мета»-свойство индивидуальности. Предприниматель надеется «оставить след во Вселенной» [78] Эту фразу обычно приписывают Стиву Джобсу. или добиться иного способа считаться героем в ницшеанском духе. Однако обычные люди, привязанные к узлам основанной героем сети, с большей вероятностью станут похожи на механизмы.

Данные сервера-сирены должны быть хоть немного предсказуемыми. Иначе говоря, хоть немного предсказуемыми должны быть действия людей, с которых создается модель. Иначе эти данные не будут иметь никакого практического значения.

Можно сказать, что система, работающая предсказуемо, как отлаженный механизм, проявляет свободу воли [79] Вопрос детерминизма реальности в целом стоит рассматривать отдельно от устройства человеческого общества. Из-за ограничений в измерениях, хранении данных и прочих факторов мы не можем испытать природу детерминизма в физических системах. Две наиболее обоснованные физические теории – квантовая теория поля и общая теория относительности – приводят к конфликту восприятия детерминизма. . По мере того как люди становятся предсказуемыми для сервера, они теряют свободу воли и перестают быть «теми, кто гуляет сам по себе», в отличие от тех, кто не привязан к серверу.

Я уже говорил, что, когда вы прочно привязаны к серверу-сирене, невозможно с уверенностью отличить изучение от манипуляции. В науке познания бизнеса эта разница не так уж и существенна.

Обычные люди находятся под влиянием определенной теории оптимизации, встроенной в сервер для обеспечения его работы, и, таким образом, становятся более предсказуемыми для него. Серверы-сирены ведут строгий подсчет свободы воли из человеческих отношений в собственных единицах измерения, и у некоторых людей ее больше, а у некоторых – меньше.

Те, кто идеализирует серверы-сирены, запугивают тех, кто пытается ввести элемент свободы воли в различные аспекты человеческих отношений, лишенные этого элемента. В этом устремлении нет ничего нового, и оно отсылает нас к работам тех, кто уже задумывался об этом раньше, например к Айн Рэнд. Идеалисты свободного рынка в духе Рэнд заявляют, что нелепо рассматривать проблемы вроде экономического тупика или бедности с точки зрения свободы воли. К благотворительности и общественной деятельности относятся с презрением, но уважают человеческую волю, если ее проявляет предприниматель. У свободы воли ограниченная сфера применения.

В эпоху сетевых технологий этот стереотип мышления распространился на все аспекты жизненного опыта. Возникли новые границы, определяющие, где деятельность отдельного человека имеет значение, а где нет, так что теперь это противопоставление следует понимать даже шире, чем старый спор о роли правительства.

Люди доверяют сайтам знакомств, таким как eHarmony, чтобы с помощью их алгоритмов выбрать себе потенциального партнера для заключения брака. Но они же пытаются столкнуть между собой универсальные принципы, споря о том, какой брак считать законным. Если такое сопоставление не кажется вам странным, подумайте вот о чем: что, если алгоритмы eHarmony проанализировали клиента и вычислили, что этот человек гомосексуален, хотя он сам этого никогда не осознавал? Подозреваю, такие выводы вряд ли придутся по душе большинству пользователей eHarmony, несмотря на то что выводы, которые делают они сами, не менее личные и имеют не менее важные последствия.

Мы разделяем случаи, когда даем право выносить решения облачным программам, как будто мы – предсказуемые машины, и когда считаем свои решения абсолютным и священным стандартом.

В век облачных программ неизбежно придется принимать решения, где будет нужно провести черту между собственным «я» и алгоритмом. Установка границ между тем, что мы теряем из-за вычислений и что сохраняем благодаря героической свободе воли, и есть история нашего времени.

«Сетевые эффекты» – это циклы обратной связи, с помощью которых сеть может обрести еще большую ценность и влияние [80] Сетевые эффекты стали навязчивой идеей для владельцев доцифровых телефонных сетей. В эпоху сетевых технологий эта идея выглядит еще более навязчивой. Согласно знаменитому закону Меткалфа, полезность сети прямо пропорциональна квадрату численности ее пользователей. Это означает, что по мере роста сети ее полезность повышается с безумной и все возрастающей скоростью. Экономист Уильям Брайан Артур первым начал изучать сетевые эффекты в экономике. . Классический пример – расцвет Facebook. Социальная сеть привлекала людей, потому что о ней уже знали, и это чем-то напоминало старую шутку о человеке, который знаменит своей знаменитостью.

Чтобы понять, как работают серверы-сирены, будет полезно разделить сетевые эффекты на связанные с «поощрением» и связанные с «наказанием». Серверы-сирены добиваются господства благодаря сетевым эффектам поощрения, а удерживают его благодаря эффектам наказания.

Вот классический пример сетевого эффекта поощрения: в мире рекламы распространено клише, что в старые времена вы знали, что тратите впустую половину своего бюджета на рекламу, но не знали, какую именно. Например, вы тратили десятки миллионов долларов на телевизионные ролики и печатную рекламу и каким-то образом получали выгоду, но вы никогда не знали, как и почему именно. Разумеется, в большинстве случаев люди шли в туалет, когда по ТВ начиналась реклама, и ваши драгоценные средства расходовались впустую.

Теперь часто повторяется следующий мотив: благодаря алгоритмам организации и размещения данных Google, рекламодатель может наконец узнать, какая часть средств ушла в никуда. Google может индивидуально подбирать рекламу и регистрировать последующие переходы по баннерам.

Поощрительное действие этого эффекта основано на том, что успех порождает успех. Поскольку одни люди пользуются Google, другие получают выгоду от использования Google, создавая таким образом цикл роста. Например, чем больше рекламодателей действуют через Google, тем больше интернет-страниц оптимизируется под Google. Возможно, пример Google сбивает с толку, поскольку это часть большой группы серверов-сирен, в которой пользователи – продукт, а настоящие клиенты – так называемые рекламодатели, что не всегда очевидно. (Разнообразные варианты серверов-сирен я перечислю позже.)