Рассвет Сингулярности

НИГИЛИЗМ

Нигилизм, безразличие, отсутствие цели, потеря интереса. Результат всех этих действий известен заранее. Ответом на эту проблему может быть ЗАБАВНАЯ ТЕОРИЯ СИНГУЛЯРНОСТИ Елизера Юдковского.

Здесь представлена подборка коротких фантастических рассказов о Сингулярности. Сингулярность наступит лишь через несколько лет в будущем, но изменения будут фундаментальными и глобальными. Наступление нанотехнологии преобразует медицинскую практику, экономику и архитектуру. Биотехнология трансформирует наши тела в образы из сновидений. Искусственный интеллект изменит наши представления о том, что значит быть личностью.

Этот рассказ был написан для электронного списка рассылки SL4 и выпукло отражает особенности реальной жизни посетителей SL4 Бена Герцеля и Элизера Юдковского.

Дата – через четыре года после сегодняшнего дня, когда мир находится на грани чего-то удивительного.

Большой новостью последних двенадцати месяцев является феноменальный успех программы Novamente Бена Герцеля. Она стала суперсредством решения комплексных проблем. После решения проблемы синтеза белков, 'чудодейственные' рецепты излечения одной страшной болезни за другой выдавались почти ежедневно. Победа над программой Deep Blue в двадцать один ход, сразу после того, как ей дали правила игры в шахматы, не кажется впечатляющей. Всё же нанотехнология пока оказалась ещё нерешенной проблемой, более трудной, чем ожидалось. Но обещания ИИ были реализованы не в полной мере. Система Novamente не демонстрирует признаков мотивации или инициативы. Если ей предлагают проблему, то она считает, запрашивает данные, считает и выдаёт ответ. Потом она сидит и думает "чёрт знает что" до тех пор, пока ей не предоставят другую проблему.

Тем не менее, успех системы Novamente сделал Бена Герцеля богатым и знаменитым, позволив ему частенько появляться в ток шоу программах, а также наносить визиты в Белый Дом. Одним из удивительных фактов является то, что эта система оказалась неспособна дать хоть какой-то дельный совет команде юристов, которая точно парировала недавнюю враждебную попытку захвата IBM.

Явление Novamente инициировало взрыв общественного интереса к исследованиям в области ИИ. Вслед за этим некоммерческая организация, Институт Сингулярности Искусственного Интеллекта, была завалена лавиной пожертвований.

В шикарном новом здании в Атланте мы находим Элизера, работающего со своей системой семени ИИ, SeedAI, собственного дизайна.

-Я собираюсь прочитать Вам краткую историю – говорит он.

- О'кей - отвечает компьютер.

На трёх больших экранах мы наблюдаем каскад внутренних переменных, системные параметры и сигналы речи, когда мы пытаемся понять что программа думает.

- У Марии был маленький ягнёнок, чья шерсть была белая как снег. - Элизер читает знакомый с яслей стишок, строку за строкой, глядя на экран. После завершения он спрашивает - О чём был рассказ?

- Этот рассказ был о девочке, овце, школе и о ...

Прерывая компьютер, он спрашивает - Как звали девочку?

- Мария – отвечает компьютер.

- Как твоё имя? – спрашивает Элизиер.

Компьютер отвечает - Ошибка, вопрос не ясен.

Он вглядывается в экраны с минуту другую, надеясь увидеть что-то, что объяснит его разочарование. Затем закрывает глаза, погружаясь в мысли о своём проекте. Остается загадкой, которую он должен решить - почему после по сути трёх лет работы над системой он не сделал виртуально никакого прогресса?

В дверь заходит Сабина - Как идут дела?

- Примерно так же! - отвечает он - А у тебя?

- Великолепно! Я думаю, что про нас будет статья в журнале TIME. Как долго ты сегодня работал?

- Ох, с восьми утра.

- Хорошо, я думаю пятнадцать часов достаточно. Почему бы тебе не сходить со мной пообедать? Ты знаешь, человек не может жить одной пиццей.

- Круто, дайка я звякну Брайану и поинтересуюсь, не хочет ли он пойти с нами?

- Это будет довольно трудно сделать, учитывая что Брайан сегодня в Сиэтле на конференции Extro.

Он спрашивает - Прекрасно, чем ты думаешь питаться?

- Суши – предлагает она.

Он делает гримасу – Фу!

- Эй, гений, ты слышал о витаминах? Тебе нужна рыба.

- Хорошо, можешь сесть за руль, так, я думаю, ты сможешь выбрать место.

В машине Сабина говорит – Я видела Бена сегодня на телешоу у Лари Кинга и он сказал, что программа Novamente должна обрести разум где-то через восемнадцать месяцев.

- Что-то это звучит знакомо. Ты не против, если я послушаю новости?

- Будь как дома.

По радио – Вы слушаете НОВОСТИ NPR, которые вам сообщит Сильвия Поггиоли. В результате беспрецедентного юридического маневра, Фонд Гейтса агрессивно пытается установить контроль над компанией Mind_Synth_Dot_Org, некоммерческой организацией, связанной с именем Бена Герцеля. Билл Гейтс, как цитирует Ночная линия, говорит - 'Мы в Фонде Гейтса не боимся исследовать новую легитимную территорию. Мы рассматривали несколько всевозможных приобретений и после тщательных размышлений мы определили, что эта компания будет удовлетворять нашим долгосрочным целям наилучшим образом. Если дело пойдёт хорошо то в будущем последуют дальнейшие покупки подобного рода'. - Также в новостях сегодня, семидесятипятилетний физик Стефен Хокинг в журнале Nature указал на ошибку в своей Радиационной теории Хокинга и пришёл к заключению, что у черных дыр фактически отсутствует волосатость. Стефен Хокинг является также самым известным долгожителем, ослабленным недугом амиотрофного латерального склероза (ALS).

Она спросила - Ты думаешь, нам надо быть осмотрительней?

- Как насчёт черных дыр? – ответил он невинно.

Она отрывает на мгновение глаза от дороги - Нет, этот Билл может попытаться нас прибрать к рукам.

- Я не знаю зачем ему это надо. Мы же не решаем насущные мировые проблемы ежедневно.

- Ты страдаешь от зависти к Бену? – спросила она с улыбкой.

- Вовсе нет. Я думаю то, что сделал Бен - потрясающе. Но я опасаюсь, что компания Novamente приберёт к рукам всю мировую нанотехнологию прежде, чем мы будем готовы нести за это ответственность.

Звонит сотовый телефон Элизера - Привет....Что?....Ты должен был вести поддержку......Нет....Просто выруби это, у нас есть файлы с прошлой ночи....Посмотри сам, я устал и голоден.

Сабина спрашивает - Что происходит?

- Какие-то проблемы с программой - отвечает Элизер.

- Вот. Она берет телефон, помещает его в приборную консоль и возбужденный голос становится слышен в стереодинамиках.

"ВЫ ДОЛЖНЫ ВЕРНУТЬСЯ СЮДА ПРЯМО СЕЙЧАС! ИНДИКАЦИЯ ИСЧЕЗЛА. ВСЯ СИСТЕМА ИСЧЕЗЛА. Я НЕ ЗНАЮ ЧТО ТАМ, НО ОН СПРАШИВАЕТ ВАС.

- Кто спрашивает меня?