Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Антиутопические взгляды на ИИ, излагаемые в фильмах и книгах, столь же обманчивы. Такие идеи редко связаны с наукой или технологией; в основном люди исходят из собственной природы. Большинство вариаций на тему воображаемого владычества машин проецирует на них человеческий страх перед злом и жестокостью. Машины просто выступают в качестве символа извечного неконтролируемого стремления к самосовершенствованию, усилению и неограниченному развитию.

Перевод полемики в плоскость теологии превращает оптимизм по поводу технологического прогресса в теорию спасения. Как уже неоднократно подтверждено, вероятность появления синтетического духа нулевая. Искусственный интеллект может оказаться случаем наиболее быстрого нарастания сложности в науке и технологии. Но он все еще имитирует человеческую природу и продолжит делать это и дальше. Прежде всего, ему не хватает времени. Искусственный интеллект не может позволить себе роскоши потратить несколько миллиардов лет на работу методом проб и ошибок. Верить в близящийся момент сингулярности, когда ИИ выйдет из под контроля человека и превзойдет его интеллектуально, — то же самое, что верить в технологическое Вознесение. Такие мифы могут быть популярны в островных мирах типа Кремниевой долины. Реальность искусственного интеллекта иная. И она уже здесь.

Искусственный интеллект сегодня глубоко затронул миллиарды людей. И пока главный результат — это улучшение нашей жизни благодаря множащимся цифровым помощникам. Вычисление решений покупателя, паттернов поведения и даже рыночных изменений все-таки больше относится к сфере статистики, чем к мышлению. Однако и эти грубые формы не стоит ни недооценивать, ни переоценивать, даже если настоящий момент Джона Генри еще не наступил. Массы пролетариев всегда можно было заменить мерами по повышению производительности труда или более дешевой рабочей силой. А не существует рабочей силы дешевле и эффективнее, чем машина. Как и паровой молот в истории про Джона Генри, большинство цифровых инструментов лучше людей справятся с высокоспециализированными задачами. Конечно, спрос на мастерство и выдающийся талант никуда не денется. Никакой компьютер не заменит ученого, художника, изобретателя. За бортом останутся «белые воротнички».

По мере роста эффективности и числа навыков искусственного интеллекта он также станет инструментом власти. С наружным наблюдением, военными действиями и пытками лучше справляются сущности, не склонные к эмоциям, конфликтам ценностей или усталости. Однако опасность того, что враждебные или даже смертоносные машины выработают у себя злонамеренное сознание и обратятся против человечества, равна нулю. Свободой воли будут обладать только институты и организации, которые станут использовать ИИ — с добрыми или злыми намерениями.

Не нужно дожидаться появления сверхинтеллекта для того, чтобы превратить абстрактную полемику об искусственном интеллекте во вполне реальные вопросы по поводу власти, ценностей и социальных изменений. Технология может инициировать развитие исторических изменений; сама она никогда не станет такими изменениями. История Джона Генри XXI века не будет ни героической, ни интересной. У «белых воротничков» нет способов красиво уйти или сражаться до последнего. У нас не будет народных героев, погибающих в бизнес-центрах. Современный Джон Генри просто растворится в общей статистике. Несомненно, вычисленной современной мыслящей машиной.

Когда мы думаем о мыслящих машинах, то обычно рассуждаем о мышлении в том смысле слова, который применим к карманному калькулятору. Ввод, хрясь, вывод, бам! Вот ваш ответ. Мы любим эти машины и нуждаемся в них, потому что они мыслят так, как мы мыслить не можем: последовательно, всесторонне и быстро. Но обратное тоже верно. Мы мыслим так, как не могут мыслить они. Машины не беспокоятся по поводу вашего состояния души. Они неэмоциональны. Они к вам никак не относятся. Когда ваш компьютер делает подсчеты для налоговой декларации и выдает определенное число, то не задумывается над тем, как его вам преподнести — быстро или медленно, прямо или уклончиво. Ему неинтересно, такой ли ответ вы хотите получить, да он и не может интересоваться.

Дело в том, что машинам безразличны отношения. Для нас, однако, отношения — практически единственная вещь, имеющая значение. Когда мы думаем, то не просто вычисляем, нас беспокоят социальные последствия. Как наши решения могут повлиять на других? Как это скажется на нашем будущем взаимодействии? Как к нам отнесутся? Машины так не думают. Следовательно, иллюзий насчет возможности сколько-нибудь значительного социального взаимодействия с ними быть не должно. Коммуникация между людьми построена на такой психологии, которую освоил только наш вид. Наше преимущество заключается в том, что мы можем образовывать друг с другом социальный сплав, связывая себя обязательствами, касающимися общих целей и мотивов. Подлинное взаимодействие подразумевает формирование своеобразной единой корпорации, хоть и мимолетное. Мы думаем, чувствуем и действуем вместе и, в сущности, как единое целое. Это позволяет нам не только сообща добиваться успеха, но и сообща терпеть неудачу.

Машины подчиняются, но не сотрудничают. Поэтому им нужно научиться разделять общие причины для деятельности, общие цели, общий вклад в долгосрочные результаты. Мы хорошо ладим с мыслящими машинами, ведь они хорошо дополняют наши умственные способности. Так пусть же они занимаются вычислительным мышлением, а относительное мы оставим себе.

Спрашивать, что я думаю о мыслящих машинах, — это как спрашивать, что я думаю о гравитации. Мыслящие машины существуют и являются одним из новейших достижений человеческой культуры, зародившейся более 5000 лет назад с появлением средств статической внешней памяти, таких как клинописные таблички и кипу [96] Узелковое письмо у древних перуанцев. — Прим. пер. . Эти изобретения в основном служили для хранения численной информации, обслуживавшей стандартные процедуры принятия решений. Через много веков мы разработали более сложные и разнообразные предметы и машины, чтобы делать расчеты и хранить числовые и текстовые данные. Мы, люди, не только любим постоянно общаться, нам присуща неутолимая жажда информации. Появление двоичного кода и его автоматизация в компьютерах дали нам возможность записывать, хранить и обрабатывать все типы данных, а мы продолжили совершать технологические прорывы в этой области в типично человеческой манере, то есть помешавшись на новизне и совершенно не задумываясь о последствиях. Мы как никогда зависим от мыслящих машин во всем, что связано с большими объемами данных: в хранении, переводе, управлении, организации доступа. Эти устройства теперь обслуживают не такие уж стандартные процессы принятия решений в медицине, юридической практике и машиностроении, дополняют творческую мысль во время создания музыки, написания стихов и генерации визуальных образов. Грубая комбинаторная сила позволяет мыслящим машинам учиться на собственном опыте, и в обозримом будущем эта способность будет подкреплена усилиями человека, когда машины получат возможности к самовоспроизводству, мутации, созданию еще более сложных сетей, а в определенный момент и к проведению собственных евгенических опытов.