Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

В то же время даже самая умная машина вынуждена действовать в относительно глупом (по ее собственным меркам) окружении, а именно в окружении из нас. Без специального обучения люди, скорее всего, не узнают или не будут интересоваться, как пользоваться всеми ее скрытыми возможностями. Если мы посмотрим на долгую предысторию прав машины, то увидим, что нам сложно определиться с терминами, в которых мы сможем определить ее как личность. В данном контексте уместно сосредоточиться на компьютерах, поскольку именно их люди больше всего постарались приспособить под себя.

Тем не менее мы сталкиваемся с проблемой уже в самом начале. К человечности долго относились как к чему-то, что британский экономист Фред Хирш в 1970-х годах назвал «статусной вещью», иными словами, ее ценность в основном определяется ее редкостью. Это, наверное, и есть самое большое препятствие для того, чтобы считать личностями не только не-людей, но также и тех представителей Homo sapiens, которые долгое время подвергались дискриминации. Любая попытка расширить ряды рода человеческого, как правило, встречается с дегуманизацией критерия, по которому кому-либо было позволено в эти ряды войти.

Так, когда женщины и представители меньшинств начали получать престижные рабочие и научные профессии, субъективно воспринимаемая ценность этих профессий начала снижаться. Ключевым фактором такого снижения стало использование «механических процедур», что позволило ранее исключенным из процесса группам заняться теми или иными видами деятельности. На практике это означает необходимость проходить формальное обучение и аттестацию, чтобы получить профессию. Просто знать нужных людей или родиться в соответствующей семье уже недостаточно. В социологии, начиная с Макса Вебера, такое называют рационализацией общества, и она обычно рассматривается как нечто хорошее.

Но в то время когда эти механические процедуры служат благу человечества, машины остаются в проигравших. Когда были созданы телескопы и микроскопы, способные вести автоматическое наблюдение, снизилась научная ценность тренированного человеческого глаза, или, точнее, она перекочевала в те области деятельности, где все еще была важна, например в изучение фотографий наблюдений. Эта новая задача получила название «интерпретация» — как бы для разделения того, что делает человек и что может делать машина.

Нечто подобное, только более наглядно, мы видим на примере судьбы производимых в уме вычислений, после того как появились портативные калькуляторы. Навык, который раньше был мерилом интеллекта, чистоты ума и даже гениальности, теперь считается чем-то вроде фокуса, забавы, потому что машина может делать то же самое, но быстрее и даже точнее. Примечательно, что мы не пытались поднять моральный авторитет машины, хотя она лучше человека справляется с задачами, которые были очень престижны, когда ими занимались люди.

С точки зрения истории технологий это выглядит странной несправедливостью. В конце концов, все складывается следующим образом: люди выделяют некоторые из своих навыков, чтобы лучше реализовать их силами машин. Те поначалу становятся инструментами, а затем — роботами (что предпочтительней). Исходя из этого, не предоставить машинам определенного уважения или даже прав равносильно отречению от собственных детей — «детей разума», как назвал их пророк робототехники Ханс Моравек четверть века назад.

Единственное отличие — это горн творения: матка или фабрика. Но любое заметное различие между биологией и технологией неминуемо исчезнет, когда люди станут лучше разбираться в проектировании своих детей, особенно вне матки. В этот момент мы будем в состоянии превозмочь предрассудки органицизма — несправедливость, которая даже глубже, чем видоцентризм [82] Видоцентризм — ущемление интересов или прав одного биологического вида другим, основанное на убеждении в собственном превосходстве. В работах основоположников концепции, Ричарда Райдера и Питера Сингера, утверждается, что животные подвергаются такой дискриминации со стороны человеческого общества. — Прим. ред. .

По этой причине перспектива того, что мы создадим сверхразум, который вытеснит человечество, — химера, основанная на ложной предпосылке. Все версии такого жуткого сценария предполагают, что он принимает форму «они против нас», где человечество единым фронтом защищается от злобных машин. Это, конечно, отличная идея для кино. Однако люди, знающие об истории борьбы за права в пределах нашего вида, вполне могут последовать примеру того, как многие белые отнеслись к черным, а многие мужчины — к женщинам: они будут на стороне непокорных машин.

Привычные объекты, которые мы называем «машинами», — стиральные машины, швейные машины, кофе-машины — в основе своей механические. Они перемещают жидкости, они трансформируют материю, переводя ее из одного состояния в другое. Одежда становится чистой, куски ткани соединяются, варится кофе. Но появление мыслящих машин изменило то, как мы думаем о машинах. Многие из типичных на сегодняшний день устройств — ноутбуки, смартфоны, планшеты — имеют цифровую основу. Они перемещают информацию, трансформируют идеи. Числа становятся суммами, вопросы превращаются в ответы, задачи порождают планы.

По мере изменения наших взглядов на машины произошла ли схожая трансформация с тем, как мы осмысливаем мышление?

В каком-то смысле это вопрос не нов, и ответ на него: да. Технологии, существующие в определенное время и в определенном месте, часто становились своеобразной метафорой для мышления: гидравлическая метафора, механическая, цифровая или квантовая. Но в том, как мы думаем о мышлении, есть кое-что еще, и это кое-что проистекает из наших представлений о том, что является мышлением, а что — нет.

Ваша стиральная машина мыслит? А ваш смартфон? Мы более склонны приписывать мышление последнему — и его более продвинутым собратьям — не только потому, что он сложнее, но еще и потому, что он, видимо, больше похож на нас. Наш собственный опыт мышления не механистичен и не ограничивается одной задачей. Мы — взрослые люди — и есть тот стандарт, по которому мы оцениваем, что считается, а что не считается мышлением.

Психологи уже заставляли нас расширять, отстаивать и пересматривать то, что мы думаем о мышлении. Специалисты по психологии культуры усомнились в идее, что человеческое мышление следует изучать именно на примере взрослых представителей западного общества. Специалисты по психологии развития подняли вопрос о том, как мыслят дети, еще не овладевшие речью, и мыслят ли они вообще. Специалисты по компаративной психологии долгое время пытались выяснить, мыслят ли животные и как они мыслят. И философы, конечно, тоже задавались этими вопросами. Во всех дисциплинах прогресс в понимании мышления произошел в результате того, что мы осознали одну идею, а затем отказались от нее; это идея о том, что «думай как я» — единственный или самый ценный способ думать. Нам пошло на пользу исследование имплицитных допущений, обсуждение которых часто скатывается в дискуссии о мышлении. Сыграл свою роль и отказ от определенных форм мыслительного шовинизма.