Герд Леонгард - Технологии против человека

3. Нам необходимо гораздо лучше распоряжаться будущим человечества.Каждый бизнес-лидер, пионер технологий и государственный чиновник должен взять на себя ответственность за формирование будущего человечества и действовать в соответствии с ней. Гражданские и политические лидеры должны выработать глубокое понимание технологий и личную технологическую перспективу в контексте человечности и самим распоряжаться нашим общим будущим. Во всех секторах всех отраслей нам потребуется новый вид сверхвзаимодействия, а не сверхконкуренции, и нам нужно будет думать целостно обо всех этих традиционно отдельных областях.

4. У технологий нет этики, но общество без этики обречено.Мы находимся на пути к будущему, где буквально на все вокруг нас обрушится цунами технологических достижений. Однако то, как мы создаем мир, как мы оцениваем, что правильно или неправильно, как мы решаем, использовать ли определенные технологии или нет, все еще основано на прошлом опыте, на старых стандартах и, что хуже всего, на линейном мышлении.

Наша этика – и многие наши законы и правила в том числе, – по-прежнему создавалась в мире, развивающемся линейно, и основывалась на «том, что раньше работало», прежде чем мы достигли точки поворота на экспоненциальной кривой. С тех пор как интернет стал обладать значительной коммерческой силой, мы, кажется, сосредоточились в основном на использовании его экономического и коммерческого потенциала. Мы слишком мало времени уделяли рассмотрению его влияния на наши ценности и этику – и это в конце концов становится очевидным, когда мы вступаем в эпоху искусственного интеллекта (ИИ), робототехники и редактирования генома человека.

В последнее время все чаще обсуждается концепция создания думающих машин, которые могли бы воспроизводить человеческую этику. При том что это интересный поворот, он поражает меня, потому что это еще один шаг к полностью смоделированной эпохе машин, и еще одна причина, по которой нам необходимо создать Глобальный совет по вопросам цифровой этики. По мере того как мы движемся к сингулярности и точке, в которой компьютеры достигают или превосходят возможности человеческого мозга и связываются посредством гигантской глобальной сети, нам срочно нужен четкий этический контекст, с которым сможет согласиться большинство из нас. Это непростая задача, но тем не менее решаемая.

5. Будьте бдительны! Экспоненциальные технологии часто быстро переходят от магии к маниакальной токсичности – достижение баланса имеет большое значение.

Если вы думаете, что зависимость от интернета, игр, смартфонов или «ловушек удовольствия» социальных сетей уже стала большой проблемой, то вы заблуждаетесь: все только начинается! Просто дождитесь, когда мы сможем полностью погрузиться в технологии, пока технологии захватят нас дополненной и виртуальной реальностью, интерфейсами «мозг – компьютер», имплантатами и нейронными интерфейсами.

Небо – буквальный предел с точки зрения того, что экспоненциальный прогресс может сделать возможным. Поэтому теперь мы должны научиться использовать технологии целостно и с гораздо большим уважением к человеческой жизни и потребностям. Нам также необходимо, чтобы те, кто изобретает, продает и продвигает новые заманчивые технологические решения, отвечали за новые экосистемы, которые они наделяют полномочиями, и искали эффективные способы обуздать или ограничить непреднамеренные последствия. Поставщики технологий должны начать включать внешние факторы в свои бизнес-модели и помогать формированию новых социальных контрактов, которые смогут устранить токсичные последствия.

6. Мы должны обучать как базовым естественнонаучным/техническим знаниям, так и ГЛАВНЫМ человеческим навыкам (состраданию, оригинальности, взаимности и сопереживанию).Технологии и человечество должны быть включены в учебную программу; действительно, наука и философия должны находиться в одном классе. Сбалансированное общество потребует опыта в обеих областях; в противном случае мы продолжим «наклонять игровое поле» в сторону машинного мышления.

Кроме того, все больший объем научной работы в конечном итоге будет выполняться ИИ и умными машинами, поэтому мы должны сконцентрироваться на развитии только человеческих навыков и возможностей. Творчество, понимание, переговоры, вопросы, эмоции, интуиция и воображение будут играть более важную роль, чем когда-либо прежде: все, что не сможет быть оцифровано, автоматизировано или виртуализировано, станет чрезвычайно ценным.

7. Нам нужно сохранить четкое разграничение между тем, что реально, и тем, что является копией или моделированием.Полное взаимодействие, думающие машины, умное облако и когнитивные вычисления – это наше неизбежное будущее, но мы не должны отказываться от разграничения между (компьютерным) моделированием и бытием (dasein), между вычислениями и чувством, между сообществом машин ( machine-kind ) и человечеством. Погружение в мир удивительных моделей может быть очень полезно для обучения, развлечения или работы, но должно ли это становиться образом жизни в целом?

Могут ли эти технологии стать своего рода универсальным лекарством, которое мы будем постоянно принимать, чтобы сделать нашу жизнь более полной? Нужны ли нам ограничения и регулирование того, сколько нам разрешено использовать и насколько далеко мы можем зайти? Если технологии действительно не то, что мы ищем, а то, как мы ищем, нам, наверное, понадобится помощь, чтобы продолжать разграничивать эти инструменты и нашу истинную цель? Выстраивание отношений с людьми должно оставаться более важным, чем выстраивание отношений с машинами. Используйте технологии, но не становитесь ими.

8. Нам необходимо начать спрашивать, «почему» и «кто», а не только «если» или «как».Будущие стратегические решения, касающиеся разработки и внедрения технологий, должны в большей степени ориентироваться на осмысление, контекст, цель, значение и актуальность, а не просто концентрироваться на осуществимости, стоимости, масштабе, прибыли и вкладе в развитие. Вопрос «как» нужно заменить вопросом «почему».

9. Мы не должны позволить Кремниевой долине, технологам, военным или инвесторам управлять человечеством, независимо от того, в какой стране они находятся.Те, кто финансирует, создает и продает экспоненциальные технологии, вряд ли захотят ограничить свою власть или масштабы потенциальных применений. Те, кто строит машины для войны, не станут теми, кто сосредоточится на человеческом счастье. Те, кто вкладывает средства в разрушительные технологии для получения стократной отдачи, не будут вкладывать средства в построение будущего подлинно человеческого общества ради коллективного блага. Те, кто создает инструменты, имеют свою собственную повестку дня, и это в основном касается монетизации и власти, – где же в процессе принятия решений представительство тех, кто использует эти инструменты?