Клиффорд Пиковер - Искусственный интеллект. Иллюстрированная история. От автоматов до нейросетей

СМ. ТАКЖЕ «Левиафан» Гоббса (1651), Мельница Лейбница (1714), ЭНИАК (1946), «Колосс: проект Форбина» (1970), «Назовем их искусственными пришельцами» (2015)

«Гигантский мозг».На фото – индикаторы последовательности и переключатели компьютера Mark I («автоматического вычислителя, управляемого последовательностями» компании IBM ) в здании исследовательского центра Гарвардского университета.

Французский философ Дени Дидро (1713–1784) однажды заметил: «Если бы нашелся попугай, способный ответить на любые вопросы, я без колебаний назвал бы его разумным существом». Это подводит нас к вопросу: можно ли считать разумными созданиями, способными «думать», запрограммированные должным образом компьютеры? В 1950 г. английский информатик Алан Тьюринг попытался ответить на этот вопрос в своей знаменитой статье «Вычислительные машины и разум», опубликованной в журнале Mind . Он предположил, что если бы компьютер вел себя так же, как человек, то мы могли бы назвать его разумным. Далее Тьюринг предложил особый тест для оценки интеллекта компьютера. Представим, что компьютер и человек в текстовой форме отвечают на текстовые вопросы экзаменатора-человека, который не видит, кто или что ему отвечает. Если после изучения ответов экзаменатор не сможет отличить компьютер от человека, это будет означать, что компьютер успешно прошел типовую версию того, что сегодня называется тестом Тьюринга.

В наше время каждый год проводится конкурс на Премию Лёбнера, в котором программисты соревнуются в создании программ, наиболее близких к прохождению теста Тьюринга. Конечно, тест Тьюринга уже многие годы вызывает активные дискуссии, в которых поднимаются сложные вопросы. Например, если компьютер на самом деле окажется гораздо «умнее» людей, ему придется прикинуться менее умным, поскольку тест предполагает имитацию человеческого поведения. Поэтому, чтобы перехитрить жюри, разработчики часто используют обманные и неожиданные приемы: опечатки, изменение темы беседы, шутки, встречные вопросы судьям и т. д. В 2014 г. робот-собеседник, разработанный программистами из России и Украины, прошел версию теста Тьюринга, представившись тринадцатилетним украинским мальчиком Женей Густманом.

Еще одна проблема, связанная с тестом Тьюринга, заключается в том, что его результат во многом зависит от уровня подготовки судей. Однако что бы ни говорилось о способности теста выявлять «интеллект», он определенно вдохновляет на творчество программистов и разработчиков.

СМ. ТАКЖЕ «Дарвин среди машин» (1863), «Гигантские мозги, или Машины, которые думают» (1949), Обработка естественного языка (1954), Психотерапевт ELIZA (1964), Китайская комната (1980), Парадокс Моравека (1988)

Тест Тьюрингапроверяет способность машины демонстрировать разумное поведение, неотличимое от поведения человека.

Норберт Винер (1894–1964), авторитетный американский математик и философ, был одним из отцов кибернетики – дисциплины, которая изучает обратную связь во многих областях человеческой деятельности и технологий. По словам эксперта по ИИ Даниэля Кревье, Винер считал, что механизмы обратной связи – это «устройства обработки информации: они получают информацию и принимают решения на ее основе. Винер высказывал гипотезу, что все разумное поведение – следствие работы механизмов обратной связи; возможно, и разум как таковой – результат получения и обработки информации».

В своей книге «Человеческое использование человеческих существ» (1950) Винер размышляет о том, каким образом люди будут сотрудничать с машинами. Его идеи, безусловно, актуальны и в нашу эпоху почти непрерывной электронной коммуникации: «Главный тезис этой книги состоит в том, что общество можно понять только путем изучения его информационных посланий и средств связи и что в будущем развитие коммуникации и средств связи между человеком и машинами, машинами и человеком, а также между машиной и машиной будет играть все более важную роль».

Винер прозорливо отмечал, что в будущем понадобится создать обучаемые машины, но вместе с тем предупреждал, как опасно делегировать процессы принятия решений машинам, мыслящим буквально: «Любая машина, построенная для принятия решений, если она не способна к обучению, будет мыслить исключительно буквально. Горе нам, если мы доверим ей руководить нами, не изучив прежде ее принципов действия и не убедившись, что она будет работать по приемлемым для нас правилам! [Машина, которая] способна учиться и принимать решения на основе обучения, вовсе не будет обязана принимать такие решения, которые приняли бы мы сами или которые будут для нас приемлемы. [Делегировать ответственность машине], способной или неспособной к обучению, – все равно что бросить ответственность на ветер и увидеть, как она возвращается вместе с бурей».

Эти предостережения актуальны и сегодня, когда многие футурологи говорят о необходимости сделать общий ИИ безопасным.

СМ. ТАКЖЕ «Дарвин среди машин» (1863), «Заимствованный разум» Теслы (1898), Дартмутский семинар по искусственному интеллекту (1956), Интеллектуальный взрыв (1965), Глубокое обучение (1965)

Норберт Винер писал,что машина, которая «способна учиться и принимать решения на основе обучения, вовсе не будет обязана принимать такие решения, которые приняли бы мы сами или которые будут для нас приемлемы».

Обучение с подкреплением напоминает поведение подопытных кошек, желающих получить вознаграждение. В начале ХХ в. психолог Эдвард Торндайк (1874–1949) помещал кошек в клетки, из которых можно было выбраться, только наступив на рычаг. После некоторых блужданий по клетке кошка в конце концов случайно наступала на рычаг, дверца открывалась, и животное получало что-то в награду – например, еду. По мере того как кошки учились связывать нужное действие с вознаграждением, они сбегали из клетки все быстрее и в итоге нажимали на рычаг сразу после попадания в клетку.

В 1951 г. ученый-когнитивист Марвин Мински (1927–2016) и его студент Дин Эдмундс сконструировали SNARC – нейросетевую машину, состоящую из 3000 электронных ламп, которые имитировали 40 связанных нейронов. Мински использовал эту машину для изучения сценария, в котором условная крыса бегала по лабиринту. Когда крыса случайно совершала последовательность полезных движений и выбегала из лабиринта, связи, соответствующие этим движениям, усиливались, тем самым подкрепляя желаемое поведение и ускоряя обучение. Среди других ранних примеров устройств для обучения с подкреплением следует отметить системы для игры в шашки (1959), крестики-нолики (1960) и нарды (1992).