Герд Леонгард - Технологии против человека

Да, технологический прогресс кажется неудержимым, потому что в природе людей – колдовать, тестировать и направлять нашу технику (наши инструменты). И наконец, мы достигли точки, когда ориентированные на человека политика и стандарты, цифровая этика, социальные контракты и глобальные соглашения о гуманизации этих экспоненциальных технологий будут столь же важны, как и договоры о нераспространении ядерного оружия.

В самом ближайшем будущем речь уже будет идти не о том, могут ли технологии что-то сделать (ответ почти всегда будет положительным), но о том, должны ли они что-то делать и зачем.

Опасность заключается в том, что если мы не будем тратить столько времени и ресурсов на андроритмы (на те качества, которые делают нас людьми), сколько мы тратим на алгоритмы, то технологии в конечном итоге не только будут управлять нашей жизнью, но и нас самих также вынудят, обманом или иным образом, стать технологиями. Мы станем «инструментами для наших инструментов».

Обратите внимание, что под «технологиями, управляющими нашей жизнью» я не имею в виду роботов-повелителей Terminator Genisys 200. Скорее, я обеспокоен тем, что мы скоро можем стать совершенно бесполезными без технологий: медленными, несовершенными, тупыми, убогими, ленивыми и страдающими ожирением.

Представьте себе, что произойдет, если мы продолжим искоренять и в конечном счете устраним главные человеческие качества, такие как конфиденциальность, тайна, анонимность, эмоции, спонтанность, удивление, интуицию, воображение и духовность – только для того, чтобы мы могли идти в ногу с машинами.

Если мы не хотим сами стать технологиями; если не хотим слиться в мощный вихрь, созданный мегасдвигами; если хотим оставаться «естественными людьми», несмотря на мощные приманки волшебных технологий; если хотим сохранить то, что действительно делает нас счастливыми, а не только то, что заставляет функционировать, мы должны принять меры, пока еще есть пространство для маневра. Пришло время!

Мы должны прежде всего задать вопрос «зачем», после – «кто» и «почему», а не только «если» и «как». Необходимо думать о цели, а не только о прибыли. Мы должны все чаще задавать вопросы лидерам отрасли и особенно технологам и фирмам, которые их нанимают. Мы должны заставить их всех принять более целостный подход, рассмотреть как хорошие, так и не очень хорошие последствия того, что они предлагают. Мы должны также попросить их признать эти непредвиденные последствия и принять меры, а также включить внешние факторы, которые они создают, в свои бизнес-планы и модели доходов.

Мы должны на каждом шагу призывать к ответственности создателей и финансистов завтрашнего дня – и, конечно же, нас самих, как пользователей и потребителей. Нам нужно начать отказываться быть клиентами тех компаний, которым это все безразлично, и мы должны перестать быть контентом для тех платформ, которые стремятся автоматизировать нас. Мы должны перестать быть молчаливыми участниками машинного мышления, потому что все остальное не так удобно.

Если мы не хотим положить конец тому, что я называю сожалением Оппенгеймера, названным в честь известного физика Дж. Роберта Оппенгеймера, чьи изобретения сделали атомную бомбу реальностью и кто потом пожалел о своих действиях и их последствиях, – мы должны взять на себя обязательство быть в «команде людей», чтобы поставить человечество на первое место и выше всего остального.

Поэтому я предлагаю попытаться сформулировать несколько основополагающих правил для этой грядущей эпохи машин, определив, какие технологии, вероятно, будут способствовать процветанию человека и поэтому должны применяться, а какие – нет. Мы должны также чаще задавать вопросы «когда, почему и кто» и думать о том, кто в действительности будет контролировать соблюдение этих правил.

Это, безусловно, будет огромной задачей и, естественно, чревато неопределенностью относительно того, сможем ли мы договориться даже о самых элементарных правилах для человечества.

Тем не менее, если мы хотим справиться с неизбежными столкновениями между людьми и машинами, описанными в этой книге, нам понадобится новый вид глобального управления, подкрепленный все более дальновидными прогнозами. Нам нужно, чтобы основополагающие правила были решительными, но достаточно гибкими, чтобы не препятствовать прогрессу. Пугающе? Да. Невозможно? Нет. Есть ли альтернативы? Нет.

Для того чтобы способствовать обсуждению наилучших путей продвижения вперед, я сформулировал девять принципов. Они отражают суть основных аргументов, которые я представил на страницах этой книги, но все еще находятся в стадии разработки и далеки от полного или окончательного варианта.

1. Нам необходимо лучше понимать экспоненциальность и ее значение для будущего человечества.Мы должны представлять экспоненциальные и комбинаторные изменения и учиться жить с ними. В нашем ближайшем будущем «поживем – увидим» будет так же опасен, как «просто сделаем это». «Постепенно, а затем внезапно» – это действительно новая норма, и мы не должны упускать возможность воспользоваться взлетно-посадочными полосами в будущее, пока они все еще перед нами. Также необходимо напомнить себе, что наше будущее – это то, что мы постоянно сами определяем и создаем, а не то, что просто происходит с нами.

Для того чтобы достичь этого, нам необходимо быть любознательными и открытыми, представлять себе свою жизнь при различных вариантах развития событий, понимать, каково было бы на самом деле жить в этом будущем… Связаться с людьми, которые делают будущее возможным, повысить нашу общую осведомленность о духе времени, окружающем нас, меньше предполагать, больше узнавать и отказаться от тех токсичных предположений, которые так хорошо работали в прошлом, принять резкий прогресс науки, но всегда видеть его в контексте общей человеческой цели. Технологии могут быть раем, или адом, или и тем и другим (#hellven), поэтому мы должны быть активными и осторожными в зависимости от того, что, где и когда поставлено на карту.

2. Самые сложные задачи часто являются самыми невероятными возможностями (и наоборот).Наше будущее во многом зависит от этого разумного баланса магического и маниакального (но, надеюсь, не токсичного) использования технологии. Потому что, как предполагает Уильям Гибсон, технологии являются морально нейтральными до тех пор, пока мы не применяем их 201. Достижение баланса будет больше связано с управлением приложениями и воплощением технологий, чем с предотвращением или даже регулированием самих изобретений. Будущее не скажет нам «да» или «нет», оно ответит нам «по-разному». Я уверен, что, если мы можем позволить чаще озвучивать вопросы «почему?» и «с какой целью?», появится сбалансированный подход.