Андрей Курпатов - Мышление. Системное исследование [litres]

Все краски мира, которые мы видим, являются, на деле, лишь случайным производным, возникшим по причине трехцветности нашего зрения, которое, в свою очередь, возникло для того, чтобы мы отмечали мельчайшие оттенки лиц наших соплеменников. Но для того, чтобы назвать эти оттенки, у нас даже нет слов. Впрочем, они нам и не нужны, мы видим и распознаем их (соответствующие сосудистые реакции на лицах наших соплеменников) инстинктивно.

«Стороны явлений, наиболее важные для нас, – пишет Витгенштейн в “Философских исследованиях”, – скрыты от взора из-за их простоты и очевидности. Человек не способен заметить нечто, потому что оно всегда перед глазами».

Однако же мы придумали множество слов для цветов, которые возникли как побочный эффект, без всякой эволюционной необходимости. Красный, синий, зеленый, бирюзовый, салатовый, изумрудный, алый, индиго, оранжевый – все это пышное многообразие, влекущее наше внимание и застилающее нам глаза, просто баг в системе, но все здесь означено и поименовано.

41. Парадоксы, обнаруживаемые нами в физическом мире, представляют собой хорошую модель для понимания феномена парадокса, сообщающего нам о принципиальной недоступности для нас реальности как таковой.

Однако, физические парадоксы не помогут нам понять то, на что наш мозг, несмотря на эти свои естественные ограничения, все-таки способен. Для этого нужны какие-то более синтонные, близкие нам аспекты реальности.

Поэтому давайте обратимся к феноменам, которые куда ближе к нашему месту в реальности, нежели физика квантового мира, а конкретно – к искусственному интеллекту и к компьютерным программам, основанным на Big Data.

Что происходит в игре го? Кто-то скажет, что в ней камушки двух цветов двигаются по полю. Но это еще не игра в го. Игра в го – это то, что происходит в голове игрока, который пытается обойти соперника в этом движении по полю, отвоевать у него пространство на доске.

О том, как думает игрок в го, мы имеем (или можем иметь) кое-какое представление. Но какова реальность этой игры в недрах суперкомпьютера AlphaGo, который уже с легкостью обыгрывает людей?

Судя по заверениями создателей искусственного интеллекта AlphaGo, «нейронным сетям» этой машины были скормлены многие и многие тысячи партий в го, сыгранных прежде людьми. Компьютер изучил их и вывел какие-то, только ему известные алгоритмы. На следующем этапе обучения машина сыграла множество партий в го сама с собой (точнее говоря – она была как бы размножена и играла с разными версиями самой себя).

В результате суперкомпьютер AlphaGo научился играть в игру, которая долгое время считалась специфичной для человеческого интеллекта, поскольку предполагает наличие у игрока «стратегического мышления», способности к «распознаванию сложных образов», навыков «предвосхищения поведения соперника» и т. д., и т. п.

Грубо говоря, этот компьютер каким-то загадочным образом научился строить theory of mind [127] «Theory of mind» – термин, не имеющий адекватного аналога в русском языке и переводится обычно как «модель психического состояния другого человека» или «понимание другого сознания». Обладать theory of mind – это значит уметь воспринимать переживания (убеждения, намерения, представления и т. д.) других людей таким образом, что это позволяет понимать и прогнозировать их поведение. другого человека (точнее говоря научился делать нечто такое, что похоже по эффекту на эту специфическую способность человеческой психики и отсутствует, например, у больных, страдающих аутизмом). Причем, научился настолько хорошо, что выиграл турнир у ведущего гроссмейстера этой игры Ли Седоля.

Думает ли при этом AlphaGo, способный положить на лопатки лучшего из людей в этой игре, как мы с вами (то есть, тем самым нашим «стратегическим мышлением», тем же способом «предвосхищения поведения соперника»)? Разумеется, нет. Хотя бы потому что у нас с ним очевидно разное «программное обеспечение».

Иными словами, он делает нечто в той же реальности, что и мы с вами (если, конечно, мы умеем играть в го), но как-то по-другому. То есть, он каким-то своим, особенным образом реконструирует реальность игры в го, а также, надо полагать, реальность пространства мышления своего соперника (в каком-то смысле, конечно), но способами, которые мы даже не можем вообразить.

Таким образом, искусственный интеллект AlphaGo знает о реальности (о том, что происходит) игры в го что-то такое, чего мы не знаем и даже никогда не сможем узнать, потому что это радикально иной способ видения (расчета данных).

Машина обнаруживает в реальности игры в го такие отношения, которые для человеческого интеллекта технически непредставимы (полагаю, что понять их гораздо сложнее, чем уяснить для себя квантово-волновую природу физической реальности).

И речь идет не о каких-то программируемых абстрактных правилах (разработчики программного обеспечения AlphaGo не знают, почему машина принимает те или иные решения в рамках конкретной партии), а о созданных самой машиной способах усматривать в этой реальности такое отношение сил, которое нам совершенно не очевидно, и скорее всего не может быть нами понято, даже если нам на соответствующие отношения укажут.

Еще раз: машина AlphaGo способна «видеть» в реальности игры в го какое-то отношение сил, которое в ней – в этой реальности – очевидно есть (она выигрывает у человека – то есть, критерий эффективности работает), но не такое, какое способны увидеть мы, хотя мы и находимся с этой машиной в одном и том же, так сказать, месте реальности – мы играем в го.

42. Теперь приглядимся к механизмам Big Data. На данный момент существуют программы, которые, работая с большими массивами данных (Big Data), позволяют по считанным лайкам определить характеристики того или иного человека, а также предсказывать его поведение.

Разработчики утверждают, что программе достаточно проанализировать триста наших лайков, чтобы она знала нас лучше, чем наша вторая половина, а если у нее будет пятьсот наших лайков, то она будет знать нас лучше, чем мы сами себя знаем [М. Козинский].

Естественно задаться вопросом: у кого доступ к реальности «лучше» – у нас или у этой программы? Что вообще, в таком случае, является реальностью, если некая программа способна предсказать мое поведение с большей точностью, нежели я сам?

Впрочем, знание тех принципов, которые использует в своей работе наш мозг (в частности – стремление к динамической стереотипии, формировании аппроксимационных паттернов и т. д.), объясняет, почему программа решает задачу предсказания нашего поведения точнее, чем мы сами: мы осуществляем подбор фактов тенденциозно – выборочно, она же учитывает все факты о нас, не пренебрегая теми, которые мы с легкостью отбрасываем, считая их «лишними» или «несущественными».