Питер Тиль - Стартап (курс CS183) - Стэнфорд, весна 2012 г.

Большой инсайт Palantir заключается в том, что лучший способ остановить террористов — это не регрессионный анализ, когда вы смотрите на то, что они наделали в прошлом с целью предсказать, что они сделают в будущем. Лучше подойти со стороны теории игр. Работа Palantir не совсем вписывается в искусственный интеллект, она скорее о дополненном интеллекте. Она весьма четко вписывается в выгоды Рикардовой торговой парадигмы. Ключ в том, чтобы найти правильный баланс между человеком и компьютером. Это очень похоже на технологии защиты от мошенничества, разработанные в PayPal. Люди не могли решить проблему мошенничества, поскольку происходили миллионы транзакций. Компьютеры не могли решить ее, поскольку шаблоны мошенничества менялись. Но если компьютер делает сложные вычисления, а человек делает финальный анализ, как слабая форма ИИ, это оказывается оптимальным в таких случаях.

Итак, давайте поговорим с доктором. Скоттом Брауном (D. Scott Brown) из Vicarious, Эриком Джонасом (Eric Jonas) из Prior Knowledge и Бобом МакГрю (Bob McGrew) из Palantir.

V. Перспективы

Питер Тиль: Очевидные вопрос к Vicarious и Prior Knowledge: почему сильный ИИ нужно делать именно сейчас, а не лет через 10-15?

Эрик Джонас: Традиционно мы не испытывали реальной потребности в сильном ИИ. Теперь она появилась. Сейчас у нас есть гораздо больше информации, чем было когда-либо. Так что, во-первых, все эти данные требуют, чтобы мы с ними что-то делали. Во-вторых наличие AWS означает, что вам больше не нужно самостоятельно строить серверные фермы для пережевывания терабайтов данных. Поэтому мы полагаем, что совместное влияние необходимости и возможности вычислений наполняют Байесову обработку данных смыслом.

Скотт Браун: Если продолжатся современные тренды, в течение 14 лет самый быстрый суперкомпьютер мира сможет проделывать больше операций в секунду, чем все нейроны всех живущих людей вместе взятых. Что мы будем делать с этой мощью? На самом деле мы не знаем. Так что, возможно, нам стоит потратить ближайшие 13 лет на поиски тех алгоритмов, которые мы будем запускать. Суперкомпьютер размером с Луну сам по себе ничего не дает. Он не может быть интеллектуальным, если ничего не делает. Поэтому один из ответов на вопрос о тайминге в том, что мы просто видим, к чему все идет, и у нас есть время поработать над этим. Неизбежность вычислительных мощностей — это сильный драйвер. К тому же, очень немногие работают над сильным ИИ. Ученые по большей части — нет, потому что их мотивационная структура довольно странная. У них извращенная мотивация, которая побуждает их делать только постепенные улучшения. А большинство частных компаний не работают над ним, потому что хотят делать деньги сейчас. Не так уж много людей, которые хотят делать 10-летний “Манхэттэн проджект” по сильному ИИ, где единственная мотивация — это измеримые контрольные точки между сегодня и моментом, когда компьютеры смогут думать.

Питер Тиль: Почему вы считаете, что эмуляция работы мозга — это верный подход?

Скотт Браун: Уточняю: мы на самом деле не занимаемся эмуляцией. Если вы строите самолет, вы не преуспеете, если сделаете гадящую штуку с перьями. Вы скорее смотрите на принципы полета. Вы изучаете крылья, аэродинамику, подъемную силу и т.п., и строите что-то, что отражает эти принципы. Мы похожим образом смотрим на принципы работы человеческого мозга. Существуют иерархии, редко встречающиеся образы и т.п. — все, что представляет собой конструкции в пространстве поиска. И мы строим системы, которые инкорпорируют эти элементы.

Питер Тиль: Не пытаясь затеять драку, мы спросим Боба: почему дополненный интеллект — правильнее, чем сильный ИИ?

Боб МакГрю: Большинство успехов в ИИ не были штуками, успешно прошедшими тест Тьюринга. Они являли собой решения конкретных проблем. Самоуправляемый автомобиль, например, — это реальная круть. Но он не интеллектуален в целом. Другие успехи, в машинном переводе или в обработке изображений, например, включали возможность для человека вводить все более сложные модели мира и последующую их компьютерную оптимизацию. Другими словами, все большие успехи были получены из торговых выгод. Люди лучше компьютеров в чем-то, и наоборот.

Дополненный интеллект работает, потому что он фокусируется на концептуальном понимании. Если не существует модели для проблемы, вы должны разработать ее концепт. Компьютеры очень плохо с этим справляются. Построение ИИ, который просто ищет террористов, — это ужасная идея. Вам нужно было бы создать машину, которая думает как террорист. Нам до такого еще, вероятно, лет 20. Но компьютеры хороши в обработке данных и сопоставлении паттернов. А люди хороши в разработке концептуальных понятий. Сопоставьте эти вещи, и вы получите подход дополненного интеллекта, где торговая выгода позволяет вам решать проблемы вертикаль за вертикалью.

Питер Тиль: Что вы думаете о временном горизонте для сильного ИИ? Если мы в 5-7 годах от него — это одно. Но 15-20 лет — это уже совсем другое.

Эрик Джонас: Это коварный вопрос. Нахождение баланса между компанией и исследовательским мероприятием – это не всегда просто. Но наша цель — просто создать машины, которые могут находить в данных вещи, которые люди найти не могут. Это 5-летняя цель. Получится совместная выгода, если мы построим эти Байесовы системы так, что они смогут работать вместе. Ядро Линукс содержит 30 млн строк кода. Но люди могут создавать приложения для Андроид без копания в этих 30 млн строк. Так что мы фокусируемся на том, чтобы иметь уверенность, что то, что мы делаем сейчас, может быть использовано для решения больших проблем, с которыми люди будут работать через 15 лет.

Питер Тиль: ИИ существенно отличается от того, чем занимается большинство компаний Кремниевой долины, работающих в вебе или сфере мобильных приложений. Раз уж инженеры стремятся в эти стартапы, что вы делаете в смысле рекрутинга?

Скотт Браун: Мы спрашиваем людей о том, что для них важно. Многие люди хотят оставить след в истории. Они могут не знать, как лучше это сделать, но они хотят этого. Так что мы подчеркиваем, что сложно сделать что-то более важное, чем построение сильного ИИ. Потом, если они заинтересуются, мы спрашиваем их, каким они себе представляют сильный ИИ. Какой инкрементный тест нужно пройти чему-то, чтобы это что-то оказалось точкой на пути к ИИ? Они приносят несколько тестов. И мы сравниваем их стандарты с нашей дорожной картой, и тем, чего мы уже достигли. С этого момента становится ясно, что Vicarious — это то место, где вам нужно быть, если вы серьезно настроены насчет создания интеллектуальных машин.