Питер Тиль - Стартап (курс CS183) - Стэнфорд, весна 2012 г.

Вопрос из аудитории: Даже если вы преуспеете, что произойдет после того как вы создадите ИИ? Какая у вас защита от конкуренции?

Скотт Браун: Частично это сам процесс. Братьям Райт помогла построить самолет не какая-то секретная формула, которую они вдруг вывели. Это была строгая приверженность аккуратным контролируемым экспериментам. Они начали с малого и построили воздушного змея. Вычислили его механику. Потом они перешли к бездвигательным глайдерам. И как только они поняли механизмы управления, они двинулись дальше. В итоге всего процесса у них была штука, которая могла летать. Так что ключ к успеху — это понимание того, почему каждый кусочек необходим на каждой стадии, и, в конце концов, как они друг с другом сходятся. Так как качество порождается процессом, скрытым за результатом, результат будет трудно воспроизвести повторно. Копирование воздушного змея братьев Райт или нашей системы видения не даст вам понимания, какие эксперименты нужно провести, чтобы превратить это в самолет или в мыслящий компьютер.

Питер Тиль: Давайте перейдем к вопросам конфиденциальности. Работают ли над этим другие? Если да, то много ли их, или если нет, как вы узнали об этом?

Эрик Джонас: Набор и класс алгоритмов, используемых нами, довольно точно очерчен, так что мы думаем, что у нас есть хорошее чувство конкурентного и технологического ландшафта. Существует что-то около 200 — ну, чтобы быть более консервативным, скажем, 2000 — людей, которые обладают навыками и энтузиазмом, достаточными для того, чтобы делать то, что мы делаем. Но решают ли они в точности те же проблемы, и теми же способами, что и мы? Это очень маловероятно.

Конечно, у первопроходца будет некое преимущество, а также защищаемая интеллектуальная собственность в контексте ИИ. Но, заглядывая на 20 лет в будущее, нет никаких причин быть уверенным в том, что другие страны поддержат законы об интеллектуальной собственности Соединенных Штатов по мере того, как они развиваются и подключаются к проблеме. Как только вы понимаете, что что-то возможно — как только кто-то делает большой прорыв в ИИ — пространство поиска сильно сужается. Конкуренция станет жизненным фактом. Точка зрения Скотта о процессе хороша. Штука в том, что вы можете оставаться впереди, если строите лучшие системы и понимаете их лучше, чем кто-либо еще.

Питер Тиль: Давайте разовьем тему уклонения от конкуренции. Возможно, открытие пиццерии в Пало Альто — не лучшая идея, даже если вы первый. Придут другие, и станет слишком тесно. Так какую же стратегию выбрать?

Скотт Браун: Сетевые эффекты могут обеспечить серьезное преимущество. Скажем, вы разработали замечательное ПО для распознавания изображений. Если вы — первый и лучший, вы сможете стать AWS в мире распознавания. Вы создаете петлю обратной связи, которая вас обезопасит; все подсядут на вашу систему, и она будет становиться лучше, поскольку все сидят на ней.

Эрик Джонас: У AWS есть конкуренты, но они по большей части не выше уровня шума. AWS до сих пор была на шаг впереди них в инновациях. Основная идея заключается в скорости убегания, когда устойчивое лидерство основывается само на себе. Мы играем в ту же игру с данными и алгоритмами.

Скотт Браун: И вы становитесь лучше, пока другие просто вас копируют. Предположим, вы построили хорошую систему зрения. К тому времени как люди скопируют вашу V1, вы уже приложите свои алгоритмы к слуховым и языковым системам. И у вас не только больше данных, чем у них, но вы успели привнести в улучшенную V1 и новые вещи.

Питер Тиль: Переключимся на главный экзистенциальный вопрос в ИИ: насколько опасна эта технология?

Эрик Джонас: Я трачу намного меньше времени на беспокойство об опасностях технологии, чем на то, когда мы станем прибыльными. Поэтому я планирую назвать своего ребенка Джон Коннор Джонас…

Если серьезно, мы знаем, что вычислительная сложность ограничивает возможности ИИ. Это интересный вопрос. Допустим, мы сможем сэмулировать человека в коробке, по Робину Хэнсону (Robin Hanson). Какие уникальные угрозы это несет? Этот интеллект не будет озабочен благополучием людей, так что он потенциально вредоносен. Но для этого могут существовать серьезные ограничения. Подход Байеса — это, в определенном смысле, хороший способ рассуждать в условиях неопределенности. В какой мере меня это волнует: я больше переживаю за следующее поколение, но не за нас сейчас.

Скотт Браун: Мы рассуждаем об интеллекте, как о чем-то ортогональном моральной интуиции. ИИ может быть способен делать точные предсказания, но не судить о том, что хорошо, а что плохо. Он может быть просто оракулом, который рассуждает о фактах. В таком случае он такой же, как и любая другая технология; изначально нейтральный инструмент, который настолько же хорош или плох, насколько хорош или плох человек, пользующийся им. Мы много думаем об этике, но не в том ключе, в котором популярные компьютерные философы пишут о ней. Люди часто путают наличие интеллекта с наличием воли. Интеллект без воли — это просто информация.

Питер Тиль: Так что вы оба убеждены, что фундаментально это всё сработает.

Скотт Браун: Да, но не в мечтательном смысле. Мы должны относиться к своей работе так же, как к построению бомбы или созданию супер-вирусов. В то же время, я не думаю, что возможны жесткие сценарии вроде Skynet. Мы добьемся некоторых прорывов в некоторых областях, подключится сообщество, и процесс повторится.

Эрик Джонас: И нет оснований полагать, что ИИ, который мы создадим, будет способен создать лучший ИИ. Может, это и будет так. Но не обязательно. Вообще, это интересные вопросы. Но люди, которые слишком много времени тратят на них, в итоге могут не оказаться людьми, которые действительно создадут ИИ.

Боб МакГрю: Мы в Palantir смотрим на опасности технологии немного иначе, так как мы создаем дополненный интеллект вокруг сенсорных данных, не пытаясь построить сильный ИИ. Конечно, компьютеры могут быть опасны, даже если они не являются полностью искусственно интеллектуальными. Поэтому мы работаем в сотрудничестве с юристами по правам человека и частной собственности, они помогают нам работать в безопасных рамках. Очень важно найти правильный баланс.

Вопрос из аудитории: Знаем ли мы в действительности достаточно о мозге, чтобы эмулировать его?

Эрик Джонас: Мы на удивление мало понимаем принципы работы мозга. Мы знаем, как люди решают проблемы. Люди очень хороши в интуитивном нахождении паттернов в малых объемах данных. Иногда этот процесс кажется иррациональным, но в действительности он может быть весьма рациональным. Но мы не так уж много знаем о колесиках и винтиках нервной системы. Мы знаем, что реализуются различные функции, но не знаем, как именно. Так что люди используют разные подходы. У нас свой подход, и, возможно, того, что мы знаем, вполне достаточно для использования стратегии эмуляции. Тут шанс 50/50.