Франклин Фоер - Без своего мнения [Как Google, Facebook, Amazon и Apple лишают вас индивидуальности] [litres]

И тем не менее в подобном представлении себя миру присутствовала определенная ловкость рук. Алгоритм, возможно, и представляет собой суть информатики, но при этом он не является научной концепцией в точном смысле слова. Алгоритм – это система, подобная водопроводу и канализации или субординации у военных. Чтобы заставить систему работать как следует, требуется знание методов и технологий, расчет и творческое мышление. Но некоторые системы, как и некоторые армии, значительно надежнее других. Система – это артефакт, а не научный трюизм. Истоки алгоритма определенно человеческие, но мы не связываем с ним присущую человеку привычку ошибаться. Когда алгоритм отклоняет кредитную заявку или устанавливает цену авиабилета, он кажется безличным и непреклонным. Мы предполагаем, что алгоритм лишен пристрастий, интуиции, эмоций и умения прощать.

В конце концов, мы говорим «поисковая машина» и делаем кивок в сторону поршней, шестерней и вообще всей промышленности XX века с ее машинами, на блестящих поверхностях которых отсутствуют отпечатки человеческих пальцев.

Энтузиасты алгоритмов из Кремниевой долины не отличались скромностью, когда говорили о революционном потенциале предмета своего обожания. Алгоритмы всегда были интересными и ценными, но прогресс вычислительной техники сделал их бесконечно более мощными. Решающим фактором стала стоимость вычислений. Она резко упала, и в это же время быстродействие вычислительных машин значительно возросло, а сами машины стало возможно соединить в глобальную сеть. Компьютеры теперь могли хранить огромные массивы неупорядоченных данных, в то время как алгоритмы – набрасываться на эти данные, чтобы находить в них закономерности и связи, ускользнувшие от аналитических способностей человека. В руках Google и Facebook эти алгоритмы стали еще более могущественными. По мере того как они выполняли поиск за поиском, они накапливали больше и больше данных. Их машины усваивали уроки прошлых поисков, используя приобретенные знания, чтобы давать все более точные ответы.

На протяжении всей истории человечества знание накапливалось методом проб и ошибок, подчас трудных. Люди изобретали очередную теорию устройства мира, а затем проверяли ее опытом, выясняя, способна ли гипотеза выдержать столкновение с реальностью. Алгоритм ставит научный метод с ног на голову: закономерности возникают из данных, из корреляции, и никакие гипотезы при этом не используются. Они устраняют человека из процесса познания. Как писал Крис Андерсон в Wired: «Можно больше не искать модели. Можно анализировать данные, не строя гипотез относительно результатов анализа. Можно бросить числа в недра крупнейших вычислительных кластеров, которые когда-либо видел мир, и посмотреть, какие закономерности смогут найти статистические алгоритмы там, где не смогла наука».

На определенном уровне опровергнуть такой подход невозможно. Алгоритмы способны переводить с одного человеческого языка на другой, не понимая значения текста, руководствуясь только закономерностями организации слов в предложения. Они могут найти совпадения там, где человеку не придет в голову искать. Алгоритмы торговой сети Walmart обнаружили всплеск спроса на клубничное печенье марки Pop-Tarts перед каждым ураганом. И хотя алгоритм бездумно реализует заложенные в него процедуры – даже по мере того, как он учится видеть новые закономерности в данных, он тем не менее отражает логику своих создателей, мотивы тех, кто обучал его. Amazon, как и Netflix, использует рекомендательные системы для книг и фильмов. (И они генерируют одну треть продаж Amazon). Алгоритмы этих систем пытаются распознать наши вкусы, а также вкусы потребителей культуры, думающих примерно как мы. И все же эти алгоритмы выдают принципиально разные рекомендации. Amazon направляет внимание на книги, похожие на уже просмотренные, а Netflix – в сторону незнакомого. Эта разница не случайна, а обоснована интересами бизнеса. Прокат блокбастеров обходится Netflix дороже, и потому, если им удается направить интерес зрителя в сторону более экзотической продукции, их доход растет. У специалистов по информатике есть поговорка, говорящая, как безжалостно алгоритмы охотятся за закономерностями. Они говорят, что данные «пытают, пока те не сознаются». В этом сравнении есть, однако, скрытый обертон.

Данные, как и жертвы пыток, рассказывают то, что хочет услышать дознаватель.

Иногда алгоритм отражает бессознательное своих создателей. Позвольте мне прибегнуть к экстремальному примеру. Профессор Гарвардского университета Латания Суини предприняла исследование и пришла к выводу, что Google выделял пользователей с афроамериканскими именами и показывал им рекламу, предполагающую, что они нуждаются в снятии судимости. Google не сообщает, отчего происходит подобное. Их алгоритм – один из наиболее тщательно охраняемых секретов. Тем не менее мы знаем, что они построили свою поисковую машину таким образом, чтобы она отражала их представления о мире. Инженеры Google предполагали, что популярность веб-сайта явно отражает его полезность; поисковая машина старается понижать приоритет порнографии, но не, скажем, сторонников еврейского заговора; она также полагает, что пользователи выиграют от новых материалов, а не от старого доброго контента. Все это разумные предпочтения и, возможно, оправданные с точки зрения бизнеса, но это предпочтения, а не наука.

Как и в экономике, в информатике есть предпочтительные модели и неявные предположения об устройстве мира. Когда программистов обучают алгоритмическому мышлению, их учат ценить эффективность превыше всего. Это полностью понятно: алгоритм с большим количеством шагов затормозит машину, а подобная машина бесполезна. Тем не менее эффективность тоже имеет цену. Ускоряя алгоритм, мы обязательно срезаем углы, обобщаем задачу.

Алгоритмы могут быть великолепным продуктом логического мышления, не говоря уже о том, что они делают нашу жизнь удобнее и способны удовлетворять наше любопытство. Они находят копию давно забытой книги XIX века за несколько миллисекунд, связывают нас с давно забытыми друзьями по начальной школе, дают магазинам возможность доставлять покупки к нашему порогу в мгновение ока. Скоро они поведут беспилотные автомобили и смогут находить раковые опухоли внутри нас. Однако, чтобы делать все это, алгоритмы безостановочно вытесняют нас. Они принимают решения о нас и за нас. Проблема в том, что, перепоручая мышление машинам, мы на деле перепоручаем его компаниям, которым принадлежат машины.

Марк Цукерберг притворно представляется критиком алгоритмов, хоть и из их собственного лагеря. Таким образом он отделяет себя от соперников из Google. Там, в цехах Ларри Пейджа, алгоритм – король, холодный и бессердечный владыка. Там нет ни следа жизни и практически нет понимания человека, набирающего поисковый запрос. Facebook создает льстящий своему собственному самолюбию автопортрет, на котором он предстает оазисом в этом автоматизированном и все более атомизированном мире: «Какой бы продукт вы ни использовали, всегда лучше делать это с друзьями».