Smart Reading - Ключевые идеи книги: Перезагрузка ИИ. Создание искусственного интеллекта, которому можно доверять. Гэри Маркус, Эрнест Дэвис

Перелом случился в XXI веке: мы стали тонуть в информации. В 2016 году человечество за секунду производило в тысячу раз больше контента, чем содержится во всех когда-либо изданных книгах. Для нейросетей наступил рай. Глубокое обучение стало краеугольным камнем ИИ. Facebook использует его, чтобы решить, какие посты показать нам в ленте. Amazon с их помощью рекомендует нам товары. Alexa использует глубокое обучение для расшифровки наших запросов. Благодаря глубокому обучению и нейросетям мир стал удобнее и проще, а нейросети обучают сами себя – что же в этом плохого?

У глубокого обучения три недостатка:

1) оно требует огромного количества данных(AlphaGo потребовалось 30 млн партий в го, чтобы достичь сверхчеловеческой производительности), а с минимальной информацией работает плохо. Чем сильнее реальное положение дел отличается от данных, использованных для обучения нейросети, тем ненадежнее будет результат;

2) оно непрозрачно.Работа с огромными массивами данных неподвластна разуму людей: мы не можем понять, почему система решила так, а не иначе. Ее работа не сводится к умопостигаемым принципам типа «если у человека повышенное количество лейкоцитов, стоит предположить инфекцию». И она не соответствует естественным знаниям о том, как устроен мир. Поэтому нейросеть способна распознать мост или прицеп, сопоставив соответствующие пиксели, но она не видит принципиальной разницы между тем и другим, о чем говорит пример про въехавший под прицеп автомобиль Tesla;

3) оно ограниченное.Нейросеть может изучить миллион изображений розовых поросят, но на миллион первом снимке не опознать поросенка черного цвета. Очевидное решение проблемы – увеличить обучающую выборку. Однако доучивание нейросети на искажения одного типа не дает гарантий от искажений другого типа, а все разнообразие физических объектов перебрать невозможно.

Два ключевых умения, овладение которыми говорило бы о том, что ИИ уподобился человеческому разуму, – чтение и способность роботов заменить человека в разных сферах жизни. Как обстоят дела здесь?

Количество информации ежедневно увеличивается в разы, даже узкие специалисты не успевают знакомиться со всеми новостями в своей сфере. Было бы здорово, если бы ИИ пришел здесь на помощь. Кажется, он уже готов: в 2018 году Рэй Курцвейл [2] Читайте саммари книги футуролога и специалиста по долголетию Рэя Курцвейла «Transcend. Девять шагов на пути к вечной жизни». анонсировал проект Google Talk to Books. По словам Курцвейла, GTB должен «превратить чтение книг в принципиально иной процесс». Так и оказалось, только слова «принципиально иной» значили не то, что подразумевал футуролог. Собранная в электронной памяти книжная коллекция не помогла GTB поумнеть. На вопрос, где Гарри Поттер познакомился с Гермионой Грейнджер, система дала лишь шесть из 20 ответов, касавшихся Гарри Поттера, – в остальных упоминались какие-то другие Гарри. С вопросом о том, кто был главным судьей Верховного суда США в 1980-м, GTB тоже не справился (при этом ответ легко отыскивается любой поисковой системой). Оказалось к тому же, что ответы системы очень зависят от формулировки вопроса. Если спросить GTB, кто предал своего учителя за 30 сребреников, только три ответа из 20 укажут на Иуду. А если спросить, кто предал своего учителя за 30 монет, GTB вспомнит про Иуду лишь в одном из 20 случаев. Отвечая на вопрос «Кто продал своего учителя за 30 монет?», GTB вообще не упоминает про Иуду.

Текст предоставлен ООО «ЛитРес».

Прочитайте эту книгу целиком, купив полную легальную версию на ЛитРес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

Принцип работы многослойной нейросети таков: она начинает с загруженных в нее сырых данных и постепенно, слой за слоем, формирует из них все более сложные образы. Так, при распознавании изображений в качестве сырых данных для первого слоя используются пиксели. Нейроны следующего слоя комбинируют их для выявления основных параметров изображения вроде штрихов и ориентации. Следующий слой нейронов комбинирует более длинные линии, углы и пр. Последующие слои выявляют все более сложные формы – овалы, квадраты, пока, наконец, не складываются объекты, которые надо распознать: лицо или рукописный почерк.

Читайте саммари книги футуролога и специалиста по долголетию Рэя Курцвейла «Transcend. Девять шагов на пути к вечной жизни».