Александра Голубева - Катастеризм [litres]

Даня ничего не хотел слушать и обсуждать про исследовательскую этику – его мутило от одной этой темы. Так что переспросил он машинально:

– Если бы я изменился? В каком смысле?

– В прямом. Стали другим человеком.

Другим человеком. Статным брюнетом – или нет, лучше роскошной брюнеткой, популярной сериальной актрисой, чьи глупости в заппере подхватывает весь мир. А может, пожилым китайцем, патриархом огромной семьи, чьего слова боятся три поколения. Шведкой из «Красного креста», уехавшей в страны без интернета. Школьником, чей фузионный двигатель выглядел как забавный проект для молодёжной выставки, но чем дальше в лес, тем сильнее учёные подозревают, что он может работать на самом деле.

Пожалуй, Юлия Николаевна права. Даня предпочёл бы быть кем угодно, но не собой.

Он даже улыбнулся.

– Что же вы предлагаете, путешествие в параллельный мир? Переселение душ?

– Нет, конечно, – хмыкнула Гамаева. – Ни тело ваше, ни биография никуда не денутся, я же не колдунья. Но полагаю, что могу вас изменить. Сделать другим человеком.

– В каком смысле?

Юлия Николаевна одобрительно кивнула:

– Правильный вопрос. Что такое чело- век?

– Известное дело… двуногое прямоходячее с плоскими ногтями и аккаунтом в социальной сети.

– Ого, – засветилась она. – Сразу вижу рекламщика. Чеканные слоганы придумываете на лету.

– Работа современного рекламщика не имеет отношения к слоганам. Мы в основном разбираем массивы данных…

– Не прибедняйтесь, – отмахнулась она. – Так всё же: что такое человек? Что такое личность?

– Юлия Николаевна, я… я сейчас, наверное, не лучший собеседник на философские темы.

– Я делаю поправку на ваше состояние. И всё же подумайте. Что придаёт нашей личности консистентность? Что делает вас – вами?

Даня растерянно ковырнул вилкой омлет. Сперва у него в голове было совсем пусто – он понял, что на самом деле всё это время не особо слушал Юлию Николаевну, не говорил с ней, а отбивал реплики. Хороший игрок в пинг-понг отбивает не глядя.

И в то же время ему стало интересно – против собственной воли. Происходящее было так странно и абсурдно, что его можно было принять без скепсиса – будто ты в сериале, и сейчас Джимми из «Цифрового агентства» выскочит на ближайшем экране и забавными, но броскими фразочками разъяснит, почему это всё инсценировка в виртуальной реальности.

Он искренне нахмурил лоб.

– Ну… уф. Все молекулы нашего тела полностью обновляются раз в… сколько-то там лет. Значит, человек – это не сами эти молекулы, а… как бы это… информация о том, как они должны быть расставлены. Молекулы именно моего тела. Ну, необязательно на уровне молекул, это я образно… А откуда эта информация берётся… из генетики, наверное, – Даня силился припомнить статьи на эту тему, которые когда-то, конечно же, читал, – но и из опыта. Потому что если мне оторвут руку, то новая не вырастет, и генетика тут ни при чём. Человека формирует то, что с ним происходит. Поэтому и забывать нельзя… ничего. Потому что всё, что всё с тобой было, – это и есть ты.

– Это если вынести за скобки тот факт, что человек постоянно всё забывает и помнит ничтожный процент своей жизни. Но в целом – браво. Отличный ответ. Да, вполне разумно сказать, что личность человека – это функция от его жизненного опыта. С важным уточнением: не просто самого опыта, но и эмоциональных привязок к нему. Доказано, что мы плохо запоминаем и даже воспринимаем всё, что не вызывает у нас эмоций. Ну и наоборот: что эмоции вызвало, то врезается.

Врезался в стекло рядом с ними мокрый ноябрьский снег – как тогда, год назад.

Впрочем, что год, что день.

– Тут, правда, вот какой интересный парадокс: опыт и эмоциональные привязки – тоже не что-то осязаемое, а процесс…

– «Человек – это в первую очередь процесс», – пробормотал Даня.

– …Да и эмоциональными привязками легко манипулировать. Эмоции наши – это же просто биохимия организма. Выделяется у человека достаточное количество серотонина – и он весел. Не работает серотониновый обмен, вот как у вас, – и ему плохо. И подчас у этого есть некие… ну, скажем так, правильные причины – логичные, оправданные, а подчас и нет. Знаете, какой один из главных катализаторов выработки серотонина? Солнечный свет. Человеку может быть хорошо просто потому, что солнышко выглянуло. И ему врежется в память и изменит всю жизнь какой-нибудь совершенно несущественный эпизод – из-за этой связки с эмоцией.

– Вы клоните к тому, что всё в нас иррационально и бессмысленно?

– Я клоню к тому, что всё в нас управляемо – просто настолько сложно, что мы до сих пор в этом управлении не разобрались. Но работаем над этим. Я ведь не сказала вам, с какой именно сферой работаю? С нейрофизиологией – ну, в том числе. А мозг – штука очень хитрая. Впрочем… тут нужна небольшая предыстория про мозги цифровые.

У самообучающихся алгоритмов и прочих нейросетей бывают сбои, которые можно без натяжки назвать когнитивными ошибками. Например, ошибкой предубеждения.

Допустим, есть нейросеть, которую мы обучаем отличать кошек от собак. Мы показываем ей разных животных, больших и маленьких, мохнатых и лысых – и даже иногда пони для контраста. Она запоминает, что собаки отличаются друг от друга сильно, а кошки, наоборот, похожи, так что если тебе показали что-то непонятное (например, пони), то это, скорее всего, собака. Такое суждение закрепляется – и чем дольше оно даёт более-менее правильные результаты, тем больше вероятность, что алгоритм решит свой стереотип сузить. Например, вдруг убедит себя, что у архетипической кошки должен быть хвост, а бобтейлы выглядят странновато, так что они, наверное, собаки.

Это, впрочем, не слишком неожиданно. Когнитивные ошибки есть и у людей, и, по всей видимости, это просто побочный эффект любого процесса, напоминающего мышление. Мир слишком многообразен, его слишком много; единственный способ справиться с этим хаотичным шумом – сформировать стереотипы, некие идеальные платоновские образцы (чего угодно, от табурета до семьи), с которыми мы сравниваем всё происходящее. Нам, быть может, и хотелось бы польстить себе, заявив, что мы мыслим глубже и вовсе не стереотипами, только это не так.

Логично, что когда нейросети перешли от более чистого, но и более машинного суждения по дифференциальным признакам к суждению через сравнение со стереотипами, из них полезли ошибки.

Тут всё понятно.

Заинтересовало исследователей другое. Они неожиданно обнаружили, что при определённом объёме входящих данных алгоритмы выходят на плато развития. Казалось бы, у цифровой системы, не ограниченной, как мозг живого человека, объёмом вычислительных мощностей и тому подобным бренным миром, не должно быть сложностей с тем, чтобы стремить свой полёт всё выше и выше; об этом, грозя крючковатыми пальцами, предупреждали нас фантасты-алармисты – мол, понаучите роботов на свою голову, а они превзойдут человечество, экспоненциально умнея с каждым новым байтом, что вы им скормите.