Клиффорд Пиковер - Искусственный интеллект. Иллюстрированная история. От автоматов до нейросетей

В 1972 г. психиатр Кеннет Колби (1920–2001) написал компьютерную программу PARRY , имитирующую человека с параноидной шизофренией. Главным образом PARRY был предназначен для проверки теорий параноидального мышления. Этот ИИ высказывал бредовые фантазии о происках мафии, а в его представление знаний было заложено чувство собственной неполноценности и защитные реакции на некоторые вопросы (люди с параноидной шизофренией весьма подозрительно относятся к мотивам других людей). Колби рассчитывал, что PARRY можно будет использовать для обучения студентов. Ученый полагал, что суждения параноидальных пациентов порождает особая система правил, которым можно обучить компьютер, чтобы затем исследовать их и использовать при терапии.

PARRY вел беседы, присваивая веса разным входящим сообщениям. Интересно, что психиатры, переписывавшиеся с PARRY , не догадывались, что имеют дело с компьютерной программой, и не могли отличить по переписке живых пациентов от программы. Вероятно, PARRY был близок к тому, чтобы пройти тест Тьюринга – по крайней мере, в особых условиях (то есть при подражании психически нездоровому человеку). PARRY также можно было найти в Арпанете (предтече интернета), где он провел более 100 тысяч сеансов общения, включая сеансы с психотерапевтом ELIZA .

В 1989 г. Колби основал компанию Malibu Artificial Intelligence Works , которая продавала программу для лечения депрессии. Эта программа создавалась для ВМФ США и Министерства по делам ветеранов и распространялась среди людей, которые (возможно, зря) использовали ее без консультаций с квалифицированным психиатром. Одному скептически настроенному журналисту Колби сказал, что его программа для лечения депрессии может оказаться даже лучше живого терапевта, поскольку «в конце концов, компьютер не выгорает, не смотрит на вас сверху вниз и не пытается заняться с вами сексом».

СМ. ТАКЖЕ Тест Тьюринга (1950), Психотерапевт ELIZA (1964), Этика искусственного интеллекта (1976)

PARRY испытывал параноидальные страхипо поводу мафии, нечестных букмекеров, скачек и азартных игр, наказаний за долги и сговора полиции с мафией.

«Важной идеей в области искусственного интеллекта стала концепция генетического алгоритма , – пишет философ Джек Коупленд. – Генетические алгоритмы задействуют методы, аналогичные эволюционным процессам в природе, порождая все новые поколения программных объектов, которые все лучше соответствуют своему назначению».

В 1975 г. вышла знаменитая книга ученого Джона Холланда (1929–2015) «Адаптация в естественных и искусственных системах». В ней описан генетический алгоритм, способный решать задачи методами, подсказанными биологией, такими как отбор, мутация и кроссинговер (рекомбинация). Используя генетический алгоритм, люди не программируют решение напрямую: оно появляется в ходе смоделированных процессов конкуренции, совершенствования и эволюции.

Обычно алгоритм начинает работу со стартовой выборки случайных решений или программ-кандидатов. Особая функция приспособленности присваивает каждой программе значение в соответствии с тем, насколько хорошо она выполняет задачу. На каждом этапе эволюции каждый оцениваемый «кандидат» обладает неким набором свойств, которые с течением времени могут изменяться.

Ученые не всегда способны разобраться, каким образом генетические алгоритмы приходят к действенным решениям. По словам бывшего инженера НАСА Джейсона Лона, эффективность алгоритмов сполна компенсирует этот недостаток: «Если я оптимизирую антенну с помощью эволюционных алгоритмов, я лишь с 50-процентной вероятностью могу объяснить их решение. Но результаты налицо – а нам, как инженерам, важен результат».

К сожалению, генетический алгоритм может «застрять» в области достаточно хороших решений (так называемый локальный оптимум ), вместо того чтобы искать наилучшее ( глобальный оптимум ). И все же эти алгоритмы демонстрируют заметные успехи в проектировании антенн, белковой инженерии, составлении маршрутов и графиков движения транспорта, проектировании микросхем, планировании работы сборочных линий, а также в фармакологии, искусстве и других областях, где требуется как можно больше возможных решений. Генетические алгоритмы применялись даже при создании реалистичных анимационных лошадей в фильме «Властелин колец: Возвращение короля».

СМ. ТАКЖЕ Машинное творчество (1821), Машинное обучение (1959), Mastermind (1970), Искусственная жизнь (1986), Роевой интеллект (1986)

Антенна космического аппарата НАСА,конструкция которой была предложена эволюционной компьютерной программой. Такая форма антенны обеспечивает наилучшие диаграммы направленности. Программа начинает работу со случайных конструкций антенн и совершенствует их в процессе «эволюции».

На протяжении нескольких десятилетий обыватели и эксперты выражают беспокойство по поводу возможных угроз, которые ИИ несет человеческим профессиям, безопасности, достоинству, неприкосновенности частной жизни и многому другому. Например, информатик Джозеф Вейценбаум (1923–2008) в своей книге 1976 г. «Возможности вычислительных машин и человеческий разум» писал, что ИИ не следует использовать для замены людей в тех профессиях, которые требуют человеческого понимания, любви, сочувствия и заботы (это относится, например, к врачам и судьям). Вейценбаум считал, что, хотя ИИ может быть справедливее и эффективнее людей, которые порой бывают необъективны и устают на работе, не стоит чрезмерно полагаться на него, поскольку это разрушит человеческие ценности и мораль: ведь мы постепенно начнем ощущать себя бесчувственными компьютеризованными аппаратами.

Ученые уже указывали на проблемы конфиденциальности после тестирования ИИ-технологий, которые все точнее определяют национальность, расу и сексуальную ориентацию людей по именам и фотографиям с сайтов знакомств. Кроме того, многих беспокоит применение в области уголовного правосудия алгоритмов, которые определяют, кто выйдет из тюрьмы под залог или получит условно-досрочное освобождение, на основании доступных данных. В сфере беспилотных автомобилей этические соображения придется закладывать в логику транспортного средства – например, чтобы оно могло решить, спасать ли пассажира или пешехода, если авария неизбежна и выжить сможет только один из них. Конечно, существует и другая, не менее важная этическая проблема: из-за экспансии ИИ могут лишиться работы водители грузовиков и представители других рабочих профессий.