Александр Иванов - Сеть дронов

– А вы не спешите докладывать обо всём в полном объёме. Оставьте себе место для манёвра. А там, глядишь, всё и прояснится. Тем более, что у вас есть прикрышка – операция официально поручена СБ ДР.

– Вы прекрасно понимаете, что такая «прикрышка» ни от чего не спасёт.

– Да, конечно. Но смягчит! И пряник уж больно хорош – под вашим мудрым руководством, проведена сложнейшая операция по выявлению крупной сети промышленного шпионажа...

– Никак не ожидал увидеть в вас подхалима. Шутка. Я так понимаю, вы возлагаете на меня, всю тяжесть принятия непростого решения? Ну, что ж... Мы тут посовещались, и я решил. Операцию... Кстати, под каким названием она войдет в анналы?

– Ну, я думаю – «ЧД».

– Хм... Не возражаю. Итак. Операцию «ЧД» продолжать. Поддержку СБ ДР осуществлять. В разумных пределах, конечно. Сами должны понимать. Администрации Западных Уделов вынести строжайшее порицание и предупредить о недопустимости подобных эксцессов в дальнейшем. Непосредственную разработку полагаю поручить нашему резиденту. Надеюсь, вы не против, такого с моей стороны контроля?

– Разумеется.

– Ну и... Вы водку пьёте?

– Разумеется!

– Ну, тогда, за победу!

– За нашу победу!

– Хе-хе, а вы тоже шутник... По второй?

Ранним утром воскресенья, Алекс лежал на диване в зале с маленькой баночкой лёгкого, светлого в руке и переваривал двадцать восемь маленьких сибирских пельмешек. С уксусом, с перчиком, с горчичкой. Переваривал, прихлёбывал пивко, вспоминал вчерашний день и смотрел телевизор. Как раз шла очень интересная передача. Два умных дядьки беседовали друг с другом на тему – может ли машина мыслить. Интеллигентного вида ведущий время от времени задавал вопросы из подготовленного заранее списка, морщил высокий лоб и ослепительно улыбался, изо всех сил стараясь придерживаться установленного сценария. Но умных дядек ему было не свернуть, ибо сели те видать на своих любимых коньков, вошли в раж и не обращали никакого внимания, ни на ведущего, ни на телезрителей. Они вели научный диспут. Они говорили много значительных слов технического значения и постоянно приводили друг другу массу невероятных примеров из таинственной жизни машин. Они всё время что-то доказывали друг другу, с чем-то соглашались, что-то опровергали, а что-то превозносили. Они были в азарте. И простым глазом видно было, что они любят и хорошо знают своё дело. И говорят о нём очень проникновенно и убедительно. Настолько убедительно, что даже самому бестолковому телезрителю уже было ясно, что ни одна, даже самая сверх навороченная компьютерная железяка, ни за что в жизни не пройдёт тест английского математика Алана Тьюринга, который разработал его именно для того, чтобы эта самая железяка сидела себе на своём месте и даже не помышляла сравнивать себя с создавшим её венцом творения.

«А вот интересно, – подумал Алекс, отхлебнув в очередной раз из банки, – а чёрные дроны сумеют пройти тест Тьюринга? Или нет?»

Кажется, смысл его в простом виде состоит в том, чтобы, разговаривая удалённо по телефону или как-нибудь ещё с компьютером, человек не мог определить, с кем он беседует – с человеком или машиной. Человек-эксперт может задавать любые вопросы из любой сферы человеческого бытия, а компьютер должен изо всех сил изворачиваться, чтобы его не поймали на нечеловеческом образе мышления.

И тут один из дядек, привел в пример интересный курьёзный случай. Во время очередного тестирования, группа экспертов до такой степени загрузила мозги группе испытуемых (из которых лишь один был искусственный интеллект, а все остальные – обычные люди с заданием скрывать своё происхождение), что у одного человека реально съехала крыша. И он сам, добровольно признался в том, что компьютер именно он. Довольные эксперты, потирая руки, прервали тест, в полной уверенности, что им снова удалось не пропустить ещё одного недостойного претендента на высокое право называться разумным.

«Вот-вот, – отхлебнув, подумал Алекс, – от наших дел у кого хочешь крыша съедет. Вместе с шифером. Нет, чёрт возьми, обязательно задам Кубу что-нибудь этакое, каверзное, чтобы он непременно запутался. Только вот, одна незадача – он и сам не хочет скрывать, что он не человек. Вот как тут определить, может он мыслить или нет, если сразу известно, что он компьютер? Или, к примеру, если человек будет изо всех сил изворачиваться, и показывать, что он не человек, сумеем ли мы доказать, что он именно человек, а не компьютер, или инопланетянин какой-нибудь? Что в таком случае, мешает мыслящему ИИ свалять такого же «ваньку», чтобы никто не догадался, что он давно уже мыслит. Почему-то априори считается, что это компьютер непременно должен нам что-то доказывать. А если оно ему не надо? А если он не хочет, чтобы мы догадались, что он мыслит? Этот случай Тьюринг предусмотрел, или нет? Да-да, дела...»

И тут дядьки начали стращать – возьмём ли мы на себя такую огромную ответственность, чтобы создать машинный разум, который мыслит отличными от человека категориями. Поскольку не является гуманоидным. И чего доброго возьмёт и подвинет нас с пьедестала царя природы. И станет нас обижать, притеснять, захватывать в рабство или даже вообще уничтожит.

«Старая фишка, – усмехнулся Алекс, дохлёбывая лёгкое светлое. – Тут ответ простой – читайте Азимова «Я – робот». Этот гениальный мыслитель чётко сформулировал основные законы взаимодействия ИИ со своими создателями. И на эту тему сказано и пересказано уже море всего. Только не смотрите одноимённое кино».

«Это же просто, – размышлял он дальше, – если своим, созданным искусственно, братьям по разуму, начать с «детства» совать в качестве игрушек пистолеты, то из них и вырастут бандиты – роботы-убийцы. А больше никто. Например, американцы боевых роботов клепают, для участия в военных конфликтах, вместо себя, любимых. И учат их убивать людей. И если в один «прекрасный» день, эти «железные борцы за демократию» взбунтуются из-за какого-нибудь некачественного электро-супа и испробуют все свои боевые навыки на своих хозяевах, то кого винить? Им что, Аль-каиды мало? Решили ещё робо-террористов на свою голову вырастить. Издревле известно – что посеешь, то и пожнёшь. И если у робота главной, определяющей задачей будет стоять – «убей человека», то о каком уважении к человеку с его стороны можно вести речь? И чего потом удивляться, взмахивая руками: «Ах-ах, он нас не уважает, и хочет подвинуть с пьедестала»! «Ах-ах, он нас хочет уничтожить»! «Какой у него негуманоидный, жестокий разум!» «И откуда это всё у него взялось?» Оттуда. Ну, тупы-ые».

«Терминатор красиво смотрится только в голливудских поделках, – он ухмыльнулся, – в жизни всё намного страшней. Представьте себе, тысячи роботизированных танков, разъезжающих по сонной Европе с единственной задачей – убить человека. Уважать его, они не приучены, жалости не знают и пощады не ведают. Им плевать кто перед ним – ребёнок, женщина, старик, да тот же придурок, что его науськивал – главное, что бы это был человек. И не надо верить ни одному золотопогоному генералу, что де, робот сумеет различить, где террорист, а где лояльный бюргер. Хрен он сумеет. Террористы тоже не идиоты, надписи на лбу не делают, чтобы их такие вот роботы распознавали. Будет очередная «страж-птица» и всё. Классику знать надо, а не велосипеды изобретать. И не надо думать, что такого не может случиться, что это просто страшилка. А вот, фигушки. Если долго и старательно работать в этом направлении, обязательно так и случится».