Ричард Уотсон - Технологии против Человека. Как мы будем жить, любить и думать в следующие 50 лет?

Хорошая новость заключается в том, что вы читаете это до 2050 года – маловероятно, что вы обеспокоены восстанием роботов. В обозримом будущем люди будут заниматься роботами, хотя в этом и кроется проблема. Это люди разрабатывают и используют цифровые технологии и это люди создают проблемы другим людям. Нам нужно справляться не с технологиями, а с собственными проблемами, особенно учитывая, что мы используем цифровые технологии для того, чтобы все сильнее дистанцироваться друг от друга.

Можно оспорить довод об экспоненциальном характере развития технологических изменений. Например, нетрудно заметить, что развитие авиакомпаний идет в обратном направлении. Некоторое время скорости самолетов стабильно увеличивались, но вскоре они замерли на определенной отметке. После гибели сверхзвукового пассажирского самолета и введения мер повышенной безопасности скорость перемещения, возможно, даже несколько уменьшилась. Если вы не сидите в первом классе и не владеете собственным самолетом, даже комфорт пассажиров несколько пострадал.

Неясно, снижается ли уровень человеческого интеллекта, но есть все основания полагать, что в то время, как цифровые технологии будут развиваться семимильными шагами, будет продолжать расти и человеческая глупость. Как отмечает Эдвард О. Уилсон, это весьма неудобное сочетание. Я подозреваю, что мы должны либо замедлить развитие технологий, либо начать стремительно развивать себя и свой интеллект.

Не стоит беспокоиться о настоящем искусственном интеллекте, о котором я обычно говорю, или «мощном» ИИ, значительно превосходящем человеческий разум, если его развитие и применение находится под контролем. Однако мы уже приближаемся к точке, где контроль становится сложным.

Что же касается технологического скачка или сингулярности ИИ, в рамках которого наши машины проснутся или станут сознательными по человеческим меркам, я считаю, что в настоящее время это невозможно, если не произойдет, как это ни странно, значительного развития человеческого мышления. Одно только увеличение вычислительных мощностей вряд ли приведет к сингулярности ИИ, если мы не изменим наши представления о том, как это может быть достигнуто. Скорее всего, мы также скоро достигнем физических пределов их увеличения. Закон Мура, выведенный в 1965 году, гласит, что вычислительная мощность удваивается примерно каждые 18 месяцев, однако вскоре это может вступить в противоречие с основами физики. Могут появиться квантовые и ДНК-компьютеры, но на это не стоит особенно рассчитывать.

Помимо прочего, в настоящее время мы можем только приблизительно описать человеческое сознание, не говоря уже о том, чтобы искусственно воспроизвести его в виде машины. Сказать, что в один прекрасный день мы создадим искусственное сознание без объяснения, как это будет достигнуто, так же глупо, как утверждать, как я слышал недавно, что в будущем мы сможем пересаживать головы… нам просто сначала нужно понять, как это делать.

Однако кто знает! Как сказал Джон Мейнард Кейнс в 1930-е годы, «будет невредно осторожно подготовиться к нашей судьбе». Более того, даже если настоящий ИИ никогда не будет создан, существует еще ползучая информатизация, рост автоматизации, чисто виртуальные интерфейсы и частные базы данных и возрастание цифровой централизации, с которыми нам придется бороться. Поэтому мы всегда должны помнить слова Хэла Финни, ученого-компьютерщика, который в 1992 году написал, что компьютер должен быть использован в качестве инструмента, способного освободить и защитить людей, а не контролировать их.

Тот, кто контролирует доступ к данным, созданным компьютерами, в XXI веке будет эффективно управлять большей частью мира. Право контроля может быть передано частным компаниям, правительствам демократических стран или авторитарных государств, а возможно, вам и мне. Мы должны решить, какое будущее мы хотим видеть, и как можно быстрее.

Я хочу закончить эту книгу простым вопросом, который может оказаться весьма полезным.

Но прежде чем я это сделаю, я хотел бы предложить на рассмотрение несколько идей, связанных с изменением статуса человека в цифровую эпоху, и наметить некоторые пути гуманизации технологий.

Во-первых, мы должны рассматривать физические и цифровые области как единое целое. Все, что не одобряется в физическом мире, должно вызывать осуждение в цифровом.

Мы должны начать с законодательной защиты авторского права и интеллектуальной собственности, с закрытия онлайн-шлюзов для ненависти, убрав анонимность в интернете. Следует отдать должное Facebook и Google за попытку проделать все это.

Ваши права в интернете должны быть теми же и максимально прозрачными, как в любом общественном месте. Если люди хотят подражать древним египтянам, поклоняясь кошкам и делая надписи на стенах, то пусть используют Facebook, но только если они до конца понимают, что Facebook хочет от них – насколько я понимаю, для него важно цифровое удостоверение личности каждого человека на Земле, аккуратно упакованное для рекламодателей. Лично мне кажется странным, что Марк Цукерберг потратил свыше 30 миллионов долларов США на приобретение в Пало-Альто домов, окружающих его собственный, чтобы гарантировать свою приватность, при том, что, по его словам, справедливо подозревать всякого, кто не готов быть полностью прозрачен. Если вас устраивает это очевидное лицемерие, то все в порядке.

Если люди по всей Земле решили потратить примерно 750 тысяч часов, глазея на задницу Ким Кардашьян, это тоже нормально, она сама опубликовала и обнародовала эти фотографии, но любой, кто не соблюдает конфиденциальность в интернете, должен нести ответственность. Кражу следует рассматривать как хищение, независимо от того, является ли чужое имущество материальным объектом или цифровыми данными.

А тех, кто подстрекает людей вредить себе или размещает отвратительные изображения в интернете, следует заключать под стражу так же, как если бы они делали то же самое в традиционных СМИ.

Вполне возможно ограничение доступа к онлайн-материалам на основе документа, подтверждающего возраст, хотя мы должны понимать, что родители в равной степени несут ответственность за поведение своих детей в сети.

Во-вторых, следует оспорить миф о том, что интеллект большого количества людей в интернете может превышать интеллект одного человека. Как сказал Джарон Ланье, это фетишизирует мощь группы и преуменьшает роль и ответственность личности. Он полагает, что сети все чаще считаются более важным объектом, чем отдельные люди – это приводит к тому, что люди больше заботятся об абстрактных сетях, чем о реальных людях. Крайне целесообразно в контексте сильно завышенной оценки потенциала вычислительной техники и автоматизированных систем в целом вести себя интеллектуально и этически как достойные человеческие существа.