Елена Ларина - Роботы-убийцы против человечества. Киберапокалипсис сегодня

Основные тенденции развития программных решений и разработок, а также алгоритмических вычислений расширяют возможности использования террористами, экстремистами и преступниками достижений программной инженерии и вычислительных разработок.

Открытый код.С каждым годом доля программного обеспечения, написанного открытым кодом, постоянно и неуклонно увеличивается. После успеха линуксоподобных решений, во многих сферах превзошедших лицензированное программное обеспечение Microsoft, Oracle и других ведущих компьютерных компаний, открытый программный код стал повсеместным стандартом. Не случайно, что наиболее продвинутые решения в сфере обработки Больших Данных написаны открытым программным кодом. Если еще несколько лет назад открытый программный код, как правило, использовался для создания деловых и потребительских программ и сервисов, то в десятые годы ситуация изменилась.

На основе открытого программного кода разрабатывается подавляющая часть программных решений для «интернета всего». В контексте доклада особенно важно использование открытого кода для ААС и роботов как в части софта, обеспечивающего функционирование аппаратной части этих систем, так и для функциональных программ. Кроме того, в последние годы открытый программный код из деловой и потребительской сфер стал проникать в государственные программно-архитектурные решения и более того, в софт для военных, разведки и правоохранительных органов. Например, весь полицейский софт в таких странах, как Франция, Италия, Испания написан на основе открытого программного кода.

В Соединенных Штатах в последние годы открытый программный код положен в основу программных решений для полиции 23 штатов. Более того, открытые решения в качестве базиса все шире используются национальным разведывательным сообществом и вооруженными силами США. Частично это связано с требованиями экономии бюджета и сокращением ассигнований в Америке и Европе на оборону и полицейские силы. С другой стороны, решения на основе открытого программного кода позволяют привлечь к работе над программами и сервисами гораздо более широкий круг программистов и разработчиков, чем прежде.

Однако при всех функциональных и ресурсных преимуществах использования открытого кода, он создает дополнительные возможности для деструктивных сил. Они могут использовать открытый код точно таким же образом, как его используют вооруженные силы, разведка, полиция и т. п.

Это особенно важно в таких продвинутых сферах, как софт для ААС и роботов. Однако этим не исчерпываются возможности сил зла. Еще большая угроза связана с тем, что знания и понимание тонкостей открытого кода, используемого при создании различных решений в сфере интернета вещей, ААС и роботов облегчает для террористов, преступников и экстремистов перехват управления ими и использование потребительских, деловых и военных систем в собственных целях.

Ошибки и уязвимости.Как свидетельствуют многочисленные независимые исследования, происходит экспоненциальное нарастание длины программного кода, используемого практически во всех современных решениях. Чем длиннее код, тем больше ошибок. Нарастание числа ошибок и уязвимостей связано с падением качества программистского труда вследствие превышения спроса над его предложением. Наконец, нарастающее число ошибок в программном коде является следствием практически повсеместной ориентации на более простое, экономичное, но при этом менее эффективное объектно-ориентированное программирование в ущерб функциональному.

В результате, практически во всех программах и сервисах содержится все возрастающее число ошибок, порождающих уязвимости, наличие дыр, незащищенность фрагментов программы и т. п. Особенно это характерно для интернета вещей и программных решений, ориентированных на ААС и робототехнику. Взрывной рост потребности в такого рода программах удовлетворяется все менее квалифицированными программистами и все большим числом фирм и компаний, в которых отсутствуют отлаженные системы управления разработками и контроля за безопасностью и сраба-тываемостью программ и решений.

Все умножающееся число ошибок и порождаемых ими уязвимостей в программах для ААС и роботов, а также разнообразных устройств, подключенных к интернету, усугубляется благодаря незащищенности систем коммуникаций вещей, автономных систем, роботов с различного рода сетями, прежде всего, интернетом. Согласно опубликованным в 2014 г. правительством США данным, более 85 % бытовых (потребительских) и почти 70 % производственных (деловых) устройств, приборов, оборудования, ААС не имеют какой-либо защиты от перехвата и модификации электронных сигналов.

Еще более опасные цифры всплыли на слушаниях в Конгрессе США в 2014 г. при обсуждении вопросов национальной безопасности. Ряд независимых экспертов и компаний, привлеченных Конгрессом к изучению проблемы защищенности каналов связи робототехники, находящейся в распоряжении вооруженных сил США, выяснили, что как минимум половина, а скорее всего чуть менее двух третей сложнейших технологических ААС и продвинутых роботов, включая смертоносные дро-ны и т. п. обладают защитой, которая была преодолена специалистами привлеченных компаний по проникновению (белыми хакерами). Фактически это означает, что значительная часть военного, а тем более полицейского потенциала США в сфере роботов и ААС может быть мобилизована деструктивными организациями, и прежде всего террористическими сетями и экстремистскими группами.

Данные цифры звучат особенно угрожающе в связи с тем, что к 2020 г. предполагается довести число роботов до 2,8 на одного действующего в полевых условиях американского военнослужащего. Иными словами, на наших глазах происходит роботизация армии, а вслед за ней и полиции Соединенных Штатов. При сохранении сегодняшнего положения с уязвимостями, эти роботизированные армия и полиция могут быть использованы не во благо национальной безопасности, а против нее.

Тотальная оцифровка.В течение последних 15 лет происходила и происходит тотальная оцифровка всей бумажной информации, включая различного рода персональные данные, онлайн сведения и т. п. В настоящее время помимо федеральных органов в Соединенных Штатах существует несколько крупнейших дата-брокеров, хранящих огромные массивы данных на индивидуумов и компании.

Может возникнуть вопрос: какое отношение имеют большие или персональные данные к теме ААС и робототехники. До последних лет прямой связи не было. Все изменилось, начиная с 2013 г., когда целый ряд крупных компаний начали производить ААС и роботов, ориентированных на пер-сонализацию, для которой используются цифровые данные. Пока это дорогое удовольствие. Его могут себе позволить немногие американцы, а также компании, заинтересованные в безлюдных технологиях. Но в ближайшем будущем положение будет меняться, и соответственно круг клиентов таких персонифицированных решений будет непрерывно расширяться.