Джарон Ланир - На заре новой эры. Автобиография отца виртуальной реальности

Поскольку модули идеальной будущей фенотропной системы будут сообщаться при помощи поверхностных средств, задействующих машинное зрение и прочие техники, которые обычно ассоциируются с искусственным интеллектом, множество хитрых маниакальных хакерских уловок станут просто бесполезными.

Например, станет сложно ввести в компьютер вредоносный код через сеть глубинного обучения, скажем, наведя камеру на изображение, которое предположительно может нести опасность заражения. Сложно не значит невозможно, но попытки достичь совершенства в безопасности – всегда бесполезная затея.

Уточню: ввести вредоносный код, используя изображение, можно (и это происходит постоянно), но это легко сделать, лишь когда программа принимает картинку бит за битом и обрабатывает ее, используя строго определенный протокол.

Строгие протоколы легко обойти, потому что можно изобрести уловку, которую не предвидели разработчики оригинала. Типичный пример: многие биты размещены в изображении иначе, чем в протоколе, который определяет картинку. Когда изображение принято программой, некоторые биты попадают в ту часть компьютера, где их не ожидали, и эти лишние биты могут содержать вредоносный код.

Заражение компьютеров, использующих подобного рода стратегии, возможно, обусловлено человеческим фактором больше всех остальных случаев заражения, происходящего на планете Земля.

Но если изображение принимается только как приблизительное соответствие в аналоговом стиле и анализируется только статистически, как если бы на него была наведена камера, уровень уязвимости сильно снижается [156]. Проблема не в изображении, а в жесткости протоколов.

Иногда лучше всего, если инженеры сами точно не знают, как работают программы.

Поверхностная природа современных алгоритмов, которые ассоциируются с глубинным обучением и похожими терминами, по сути, устойчива к уловкам, к которым прибегают хакеры, но мы применяем эти возможности только к решению специализированных задач, а не к созданию архитектуры. Использование их в архитектуре – еще один способ подачи идеи фенотропного программирования.

Точно так же как и в биологии, безопасность достигается тогда, когда система становится стабильной, что не равно совершенству. Совершенная система развалится, а стабильная пошатнется.

Фенотропная гипотеза отчасти состоит в том, что системы, использующие алгоритмы, которые схожи с алгоритмами искусственного интеллекта, в структуре и связи между компонентами, а не только ради целевой нагрузки, будут менее уязвимы к постоянным неустранимым отказам.

Разумеется, фенотропные принципы в большинстве своем неэффективны для связи между модулями небольшой системы. Вы полагаетесь на машинное зрение и алгоритмы обучения, чтобы объединить самые основные задачи. Но в очень крупных системах неэффективным будет поддерживать протоколы. Например, вирусы постоянно обновляются и совершенствуются, а на изменение протокола нужно время.

Я люблю приводить пример из музыки. На протяжении долгих лет я потратил тысячи долларов на покупку подключаемых программных модулей для работы с музыкой, выполняющих такие задачи, как добавление реверберации к фонограмме, но ни одно из них больше не работает. Ни одно!

Программные компоненты быстро устаревают, поскольку зависят от идеальной совместимости с протоколами и прочими аспектами программной экосистемы, а появление мельчайших изменений сложно предотвратить [157].

При этом в 1970-е я приобрел множество физических педалей музыкальных эффектов. А еще у меня есть совершенно невероятное количество физических модулей для синтезаторов. Многие из этих артефактов аппаратного обеспечения обладают встроенным компьютерным чипом, выполняющим абсолютно те же функции, что и приобретенные мной программные модули. Но они не эквивалентны друг другу в одном крайне важном аспекте. Все физические устройства все еще работают. Абсолютно все.

Разница в том, что у физических устройств аналоговое подключение по типу зазора, устойчивое к моральному устареванию.

Теоретически подключаемые программные модули должны быть дешевле, эффективнее и во всех смыслах лучше. На практике же аппаратные средства дешевле, эффективнее и лучше во всех смыслах, потому что они все еще работают . Аппаратные средства, такие как педали и модули, – это фенотропная версия музыкальных технологий [158], а подключаемые программные модули – версии протокола.

Нельзя просто посмотреть на то, как функционирует технология в тот или иной момент времени. Придется наблюдать весь ее жизненный цикл, в том числе разработку и поддержку.

Мой опыт с музыкальными устройствами служит иллюстрацией еще одного аспекта фенотропной гипотезы: фенотропная архитектура станет эффективнее традиционной, протоколоцентричной архитектуры на основе кода при достаточно крупном масштабе и при долгом наблюдении за ее использованием и внесением в нее изменений.

Критикуя традиционную архитектуру компьютеров, я всегда использовал слово «хрупкая». Она ломается, а не гнется, даже если хоть один бит в ней неправильный.

Альтернативу хрупкости можно разглядеть в жизни. Подумайте о том, как способна функционировать естественная эволюция. Наши гены иногда могут напоминать программное обеспечение: иногда одна мутация может стать смертельной.

Но для разных особей абсолютно нормально сохранять жизнеспособность, даже при том, что наши гены не идентичны. Небольшие изменения не всегда нас губят.

Мы, мягко говоря, не понимаем гены в полной мере, но ясно следующее: они достаточно стабильны, чтобы позволить произойти эволюции.

Эволюция – поэтапный процесс. Незначительные изменения накапливаются на протяжении очень долгого времени, а потом переходят в почти необъяснимые метаморфозы. От одноклеточных организмов до нас.

Главный микрошаг на этом пути совершается тогда, когда незначительное изменение в генах отражается лишь в незначительных изменениях для получившегося организма. Это соотношение небольшого с небольшим возникает достаточно часто, чтобы петля обратной связи в основе эволюции имела шанс функционировать.

Если небольшие генетические изменения заставляют организмы радикально меняться слишком часто, они не «научат» эволюцию многому, так как результаты изменений будут слишком беспорядочными. Но поскольку результаты небольших генетических изменений во многих случаях тоже незначительны, популяция может шаг за шагом «экспериментировать» с совокупностью схожих новых черт и эволюционировать.