Сэм Альтман: GPT-5 будет бесплатным и открытым, DeepSeek преподал нам урок Стенограмма интервью с Ванзи |

Я думаю, что DeepSeek — действительно отличная команда, создавшая отличные модели, но причина их популярности не совсем в способностях самой модели.

Урок для нас заключается в том, что когда мы скрываем какую-то функцию (цепочку мыслей), мы оставляем возможность другим стать вирусными. Это хороший звонок для пробуждения. Это также заставило меня переосмыслить то, что мы предлагаем на бесплатном уровне, где GPT-5 можно будет использовать бесплатно.

Бен Томпсон, известный аналитик из Кремниевой долины, недавно провел обстоятельную беседу с генеральным директором OpenAI Сэмом Альтманом и рассказал о большом количестве контента, включая модели с открытым исходным кодом, прогресс GPT-5 и конкуренцию с DeepSeek. Он также рассказал о будущем направлении развития OpenAI и своих наблюдениях об AGI.

В этом интервью люди еще раз почувствовали влияние моделей с открытым исходным кодом, таких как DeepSeek, на OpenAI. За последние два месяца ритм выпуска продуктов OpenAI также начал следовать моделям и продуктам, появившимся в Китае, таким как Thinking Chain и Agent.

Сэм Альтман называет появление OpenAI «сумасшедшей возможностью». Успех ChatGPT вынудил компанию стать компанией, занимающейся потребительскими технологиями.

На данный момент это стало самой большой проблемой OpenAI.

APPSO резюмирует ключевые моменты этого интервью:

1. Появление DeepSeek — это «тревожный сигнал», побуждающий OpenAI пересмотреть свою стратегию уровня бесплатного использования.

2. Это намекает на то, что скоро будет запущен GPT-5, и бесплатные пользователи также смогут испытать GPT-5.

3. OpenAI надеется создать серию продуктов с миллиардами пользователей.

4. Сэм Альтман считает, что 1 миллиард активных пользователей в день более ценен, чем самая продвинутая модель.

5. Будущее позиционирование OpenAI основано на трёх столпах:
·Создание крупных Интернет-компаний.
·Создать инфраструктуру для вывода.
· Делайте лучшие исследования и лучшие модели.

6. Иллюзия имеет свою ценность и является проявлением творчества. Ключевым моментом является управление иллюзией, чтобы она появлялась тогда, когда это необходимо пользователю.

7. Неожиданный успех ChatGPT заставил OpenAI трансформироваться из исследовательской лаборатории в компанию, занимающуюся потребительскими технологиями.

8. Сэм Альтман признал, что это не было первоначальным планом и изначально он хотел сосредоточиться на исследованиях AGI.

9. AGI — это расплывчатое понятие, не имеющее единого определения. Обычно AGI определяется как агент, который может автономно выполнять ряд задач.

Ниже приводится стенограмма интервью, слегка отредактированная и отобранная APPSO:

GPT-5 будет бесплатным для использования

Ведущий: С моей точки зрения, когда вы говорите об обслуживании миллиардов пользователей и о том, чтобы быть компанией, занимающейся потребительскими технологиями, это означает рекламу. Вы не согласны?

СА: Надеюсь, что нет. Я не возражаю. Я не буду упрямиться в чем-то, если у меня есть для этого веская причина. Но у нас есть отличная бизнес-модель — продажа услуг по подписке.

Ведущий: Нам еще предстоит пройти долгий путь, прежде чем мы сможем получить прибыль и вернуть все наши инвестиции. Самое замечательное в рекламе то, что она расширяет охват и глубину вашего целевого рынка, поскольку вы можете увеличить доход на одного пользователя, а рекламодатели за это платят. У вас не будет проблем с ценовой эластичностью, люди просто будут использовать его больше.

СА: Сейчас меня больше интересует, как взимать с людей хорошую плату за действительно хорошего инженера по автоматизации или какое-то другое агентство, а не зарабатывать немного денег с помощью модели, основанной на рекламе.

Модератор: Я знаю, но большинство людей нерациональны. Они не платят за программное обеспечение для повышения производительности.

СА: Посмотрим.

Модератор: Я плачу за ChatGPT Pro и не тот человек, с которым можно это обсуждать. Но я просто-

СА: Чувствуете ли вы, что получаете от этого хорошую пользу?

Ведущий: Думаю, конечно. Я думаю–

СА: Отлично.

Модератор: — Особенно Deep Research, это здорово. Однако я, вероятно, более скептически отношусь к тому, что люди будут готовы активно платить за что-то, даже если математика очевидна и даже если это сделает их намного более эффективными. Кроме того, я вижу, что вы, ребята, говорите о создании воспоминаний. Одна из особенностей рекламной модели Google заключается в том, что им на самом деле не нужно очень хорошо знать пользователя, потому что люди будут вводить в поле поиска то, что хотят найти. Люди вводят много информации в вашего чат-бота.

Даже если вы запускаете самую «глупую» рекламу, во многих отношениях ваши возможности таргетинга будут исключительными, даже если вы не сможете отслеживать конверсии. И, кстати, у вас нет существующей бизнес-модели, чтобы беспокоиться о ее размывании. У меня такое ощущение, что это полностью противоречит тому, что изначально предполагали все в OpenAI, и это самое большое препятствие. Но мне, с точки зрения бизнес-аналитика, это кажется довольно очевидным, а вы, ребята, уже опоздали.

С.А.: Мне больше интересно попробовать другие подходы, а не традиционную рекламу. Например, многие люди используют Deep Research для электронной коммерции. Можем ли мы придумать какую-то новую модель, в которой мы никогда не будем взимать деньги за изменение местоположения предмета или чего-либо еще, но если вы покупаете предмет, который найдете через Deep Research, мы будем взимать партнерскую комиссию в размере 2% или что-то в этом роде. Это было бы круто, у меня нет с этим проблем. Возможно, мы сможем найти достойный способ рекламировать это, но я не знаю. Я не очень люблю рекламу.

Ведущий: Это всегда препятствие. Марк Цукерберг тоже не очень любит рекламу, но он все равно находит кого-то, кто это сделает, «не рассказывайте мне подробности» и позволяет деньгам волшебным образом появиться.

СА: Да. Опять же, мне нравится наша нынешняя бизнес-модель. Я не буду говорить, что мы будем или не будем делать в будущем, потому что не знаю. Но я думаю, что есть много интересных способов сделать это, которые в нашем текущем списке стратегий монетизации стоят выше, чем реклама.

Модератор: Считаете ли вы, что когда DeepSeek вышел и быстро стал популярным, и люди начали использовать его и увидеть его возможности вывода, отчасти причина заключалась в том, что люди, которые использовали ChatGPT, не были так впечатлены, потому что они использовали модель o1 и знали ее потенциал.

СА: Да.

Модератор: Но пользователи бесплатной версии или люди, которые использовали ее лишь время от времени, так не считают. Действительно ли это пример того, как ваша сдержанность может сделать другие продукты более впечатляющими?

СА: Полностью. Я думаю, что у DeepSeek отличная команда и они разработали отличную модель. Однако я не думаю, что именно способности моделей делают их вирусными.

Это урок для нас: когда мы скрываем какую-то функцию (мы скрываем «цепочку мыслей»), у нас есть веская причина для этого, но это означает, что мы оставляем возможность другим стать вирусными. Я думаю, что с этой точки зрения это хороший тревожный звонок. Но это также заставляет меня переосмыслить то, что мы предлагаем на бесплатном уровне: GPT-5 можно будет использовать бесплатно, и это здорово .

Модератор: Ого, намеки на GPT-5. Ну, я спрошу тебя об этом позже.

Модератор: Когда вы думаете о своей бизнес-модели, я всегда считал, что ваша бизнес-модель очень подходит для тех «высоко мотивированных» людей, то есть тех, кто будет активно использовать ChatGPT и готов платить за него, потому что они видят его ценность. Но сколько людей «высоко мотивированы»? Кроме того, «высоко мотивированные» люди будут пробовать все остальные модели, поэтому вам придется оставаться на довольно высоком уровне. Напротив, если у меня есть работающая модель, она есть, и мне не нужно за нее платить, она продолжает улучшаться, и люди через меня зарабатывают больше денег, но я не знаю, потому что у меня нет проблем с рекламой, как у большинства пользователей Интернета.

СА: Опять же, мы открыты для всего, что необходимо сделать. Однако по сравнению с традиционной рекламой меня больше интересует только что упомянутая модель электронной коммерции.

Конкуренция с DeepSeek и другими

Ведущий: Что касается DeepSeek, вы когда-нибудь задумывались, почему люди не болеют за американские компании? Считаете ли вы, что популярность DeepSeek также имеет некоторые «анти-OpenAI» настроения?

СА: Я нет. Возможно, но я этого точно не почувствовал. Я думаю, есть две вещи. Во-первых, они разместили передовую модель на бесплатном уровне. Во-вторых, они показали «цепочку мышления», что очень привлекательно.

Ведущий: Люди такие: «О, это так мило. ИИ пытается мне помочь».

СА: Да. Я думаю, что это в основном эти две вещи.

Модератор: В недавно предложенном вами «Плане действий в области ИИ» OpenAI выразила обеспокоенность по поводу разработки компании на основе моделей DeepSeek, которые «доступны бесплатно». Если это действительно проблема, не будет ли решением сделать ваши модели также бесплатными?

СА: Да, я думаю, нам следует.

Ведущий: Итак, когда…

СА: Я пока не могу объявить дату релиза, но, думаю, нам следует это сделать.

Модератор: Вы уже сказали, что сайт с 1 миллиардом пользователей ценнее модели. Так должно ли это отражаться на вашей стратегии выпуска и на том, как вы относитесь к открытому исходному коду?

СА: Оставайтесь с нами.

Ведущий: Хорошо, я буду с нетерпением этого ждать. без проблем.

С.А.: Ничего не говорю заранее, но следите за обновлениями.

Ведущий: Я думаю, следующий вопрос: это возможность для вас вернуться к своей первоначальной миссии? Если вы посмотрите на первоначальное объявление, DeepSeek и Llama…

СА: Бен, я пытаюсь дать тебе как можно больше подсказок, не говоря об этом прямо. Пожалуйста.

Модератор: (Ладно, без проблем. Честно, честно. Было ли ощущение, что это освобождает? Верно? Вы вспоминаете это объявление о GPT-2, опасения по поводу безопасности и другие возможные проблемы. На данный момент это кажется немного банальным. Было ли ощущение, что секрет раскрыт? В этом контексте, какой смысл сохранять какое-то заветное отношение к этим выпускам?

СА: Я все еще думаю, что в будущем может возникнуть большой риск. Я думаю, будет справедливо сказать, что в прошлом мы были слишком консервативны. Я также думаю, что нет ничего плохого в этом принципе быть немного более консервативным, когда вы не знаете ситуацию четко. Я также думаю, что на данном этапе эта технология будет распространяться по всем областям, и будут ли наши модели делать плохие вещи или модели других людей, какая разница? Да что я могу сказать, я все же надеюсь, что мы сможем быть максимально ответственными участниками.

Ведущий: Еще один недавний конкурент — Грок. С моей точки зрения, за последний год или около того у меня было два психологических опыта работы с ИИ, которые показались мне очень интересными. Однажды я запускал локальную модель на своем Mac. По какой-то причине я прекрасно понимаю, что он находится на моем Mac и больше нигде не работает, и это на самом деле довольно крутое ощущение. В другой раз — с Гроком, я не чувствую, что существует какая-то «полиция нравов», которая в какой-то момент выскочит и обвинит меня. Думаю, надо признать, что ChatGPT в этом плане значительно улучшился. Но заставляет ли Грок думать, что на самом деле мы можем пойти в этом дальше и позволить пользователям вести себя как взрослые?

СА: На самом деле, я думаю, мы проделали лучшую работу. Я думаю, что раньше у нас это получалось очень плохо, но за последние шесть-девять месяцев, я думаю, мы значительно улучшились.

Модератор: Согласен. Определенно стало лучше.

СА: Раньше это было одной из моих самых больших опасений по поводу нашего продукта. Но сейчас, как бы это сказать, меня как пользователя это уже не беспокоит, я считаю, что мы проделали хорошую работу. Итак, раньше я много думал об этом, но в последние шесть-девять месяцев я больше об этом не думал.

Стать компанией, занимающейся потребительскими технологиями, было случайностью

Модератор: Давайте поговорим о некоммерческих организациях – есть такая поговорка, вы упомянули этот «миф». Допустим, вы создали некоммерческую организацию из альтруистических побуждений, а также для того, чтобы конкурировать с Google за таланты. Это все?

СА: Вы спрашиваете, почему вы решили стать некоммерческой организацией?

Ведущий: Почему вы решили стать некоммерческой организацией и все вопросы, которые с этим связаны?

СА: Потому что мы думали, что мы просто исследовательская лаборатория. Мы никогда не думали, что станем компанией. Нашим планом тогда было опубликовать исследовательскую работу. Ни продукта, ни плана продукта, ни дохода, ни бизнес-модели, ни плана по всему этому. Одна вещь, которая всегда помогала мне в жизни, — это нащупывать путь сквозь тьму, пока не найду свет. Мы долго рылись в темноте и нашли то, что сработало.

Ведущий: Это верно. Но является ли статус некоммерческой организации теперь жерновом на шее компании? Если бы вы могли сделать это снова, что бы вы сделали по-другому?

СА: Конечно. Если бы я мог предсказать то, что произошло потом, у нас определенно была бы другая организационная структура. Но тогда мы этого не знали, и я думаю, что за то, чтобы быть в авангарде инноваций, приходится совершать множество глупых ошибок, потому что ты застрял в тумане войны.

Ведущий: У меня есть еще несколько теорий, которые я хочу обсудить с вами о ChatGPT и о том, что никто не ожидал, что вы станете компанией, занимающейся потребительскими технологиями. Я всегда придерживался этой точки зрения: изначально вы — исследовательская лаборатория, конечно, мы собираемся опубликовать API и, возможно, заработать немного денег. Но вы упомянули, что в течение шестимесячного периода расширения вы должны воспользоваться этой возможностью, которая падает с неба. В мире технологий много говорят об оттоке сотрудников, уходе некоторых громких имен и так далее.

Мне казалось, что здесь нет никого, кто занимался бы производством потребительских товаров. Если они хотят работать в Facebook, они могут пойти в Facebook. Это еще одно коренное противоречие: у вас есть эта возможность, хотите вы этого или нет, но она есть. Это означает, что ситуация здесь сильно отличается с самого начала.

СА: Скажем так, мне не на что жаловаться, верно? Я получил лучшую работу в сфере технологий. Было бы очень нехорошо, если бы я начал жаловаться, что это не то, чего я хотел, как мне это не повезло и т. д. Я хочу запустить исследовательскую лабораторию по искусственному интеллекту и выяснить, как создать искусственный интеллект.

У меня действительно не было намерения управлять крупной потребительской интернет-компанией. На своей предыдущей работе (которая в то время считалась лучшей работой в сфере технологий, поэтому я считаю, что мне очень, очень повезло, что оба раза у меня была лучшая работа), сколько усилий нужно, чтобы управлять крупной потребительской компанией, и насколько это сложно в некоторых аспектах.

Но я также знаю, как это сделать, потому что раньше тренировал многих людей и много смотрел. Когда мы выпустили ChatGPT, у нас ежедневно наблюдался приток пользователей, которые приводили к сбоям на наших серверах. Потом ночью количество пользователей упало, и все подумали: «Все кончено, это всего лишь кратковременная виральность». Затем на следующий день пик снова поднялся, а затем снова упал: «Все кончено». На пятый день я подумал: «Боже мой, я знаю, что произойдет. Я видел, как это происходило много раз».

Ведущий: Но вы действительно видели, как это происходило много раз? Потому что вся игра направлена ​​на привлечение клиентов. Для многих стартапов это самая большая проблема. На самом деле очень мало компаний, которые действительно решают проблемы привлечения клиентов за счет органического роста и вирусного распространения. Я думаю, что компанией, которая действительно опередила OpenAI в этой области, была Facebook, и это было в середине 2000-х. Я думаю, вы, возможно, переоцениваете количество раз, когда вы видели, как это происходило раньше.

С.А.: Ну, в этом масштабе мы действительно, наверное, самые крупные. Я думаю, что мы, вероятно, самая крупная компания, основанная со времен Facebook.

Ведущий: Компании такого размера, занимающиеся потребительскими технологиями, на самом деле очень редки, они случаются не очень часто.

СА: Да. Но я уже видел, как такие компании, как Reddit, Airbnb, Dropbox, Stripe и многие другие, достигали такого удивительного соответствия рынку и стремительно росли. Так что, возможно, я не видел этого в таком масштабе. В то время еще не было известно, как далеко это зайдет, но я уже видел эту раннюю модель раньше.

Ведущий: Вы всем сказали, что это произойдет? Или это то, что вы просто не можете передать?

СА: Я всем рассказал. Я собрал людей в компании и сказал: «Это будет безумие. Нам предстоит много работы, и ее нужно сделать быстро. Но это прекрасная возможность, которая упала с неба, и мы собираемся ею воспользоваться. Вот что произойдет…»

Модератор: Вас кто-нибудь понимает или верит?

СА: Я помню, как однажды вечером пришел домой, закрыл голову руками и почувствовал депрессию. Я сказал: «Боже мой, Оли [Оливер Малхерин], это ужасно». Он сказал: «Я не понимаю, это выглядит великолепно». Я сказал: «Это очень плохо, и это очень плохо для тебя, ты просто еще этого не знаешь, но что будет дальше…» Но я не думаю, что кто-то действительно понимает. Это особенная особенность моего предыдущего опыта, и я смог осознать это на раннем этапе, но никто не мог оценить, насколько сумасшедшими окажутся эти первые несколько недель.

Ведущий: Что будет ценнее через пять лет? Веб-сайт с 1 миллиардом активных пользователей в день, без необходимости привлечения клиентов или современная модель?

СА: Я думаю, что это веб-сайт с миллиардом пользователей.

Ведущий: Это правда? Или потому, что как минимум на уровне GPT-4 (не знаю, видели ли вы его сегодня, LG только что выпустила новую модель) будет много, не знаю, не буду комментировать, хорошо это или плохо, но современных моделей в будущем будет очень много.

СА: Моя любимая историческая аналогия — транзистор, и AGI будет похож на транзистор. В будущем будет много ОИИ, он проникнет в различные области и станет очень дешевым. Это возникающее свойство физики и само по себе не может быть дифференцирующим фактором.

Ведущий: Так что же будет отличительным фактором?

С.А.: Я думаю, что стратегическое преимущество заключается в создании гигантской интернет-компании. Я думаю, что это должно включать несколько различных ключевых услуг. Таких продуктов, как ChatGPT, может быть три или четыре, и вам захочется купить комплексную подписку, включающую все из них. Вы хотите иметь возможность входить в систему с помощью своего личного ИИ, который знал вас на протяжении всей вашей жизни, и иметь возможность использовать его в других сервисах.

Я думаю, что в будущем появятся новые удивительные устройства, оптимизированные для использования AGI. Появятся новые веб-браузеры, будет целая экосистема. Короче говоря, кто-то создаст ценный продукт на основе ИИ. Это один из аспектов.

Другой аспект — это стек вывода, который позволяет добиться самого дешевого и самого богатого вывода. Чипы, центры обработки данных, энергетика, будет кое-что интересное в области финансового инжиниринга, все это уже описано.

И затем третий аспект — это действительно проведение лучших исследований и разработка лучших моделей. Я думаю, это «тройка» ценностей. Однако, за исключением самых передовых моделей, я думаю, что большинство моделей быстро станут товарами.

Модератор: Итак, когда Сатья Наделла говорит, что модели превращаются в товар, а OpenAI — это продуктовая компания, это все равно дружеский жест, и вы все еще на той же волне, верно?

СА: Да, я не знаю, звучит ли это как комплимент для большинства слушателей, но я думаю, что он хотел сделать нам комплимент.

Ведущий: Я так понимаю. Вы попросили меня объяснить вашу стратегию. Вскоре после запуска ChatGPT я написал, что это «компания, занимающаяся технологиями случайного потребления».

СА: Я помню, вы написали эту статью.

Ведущий: Это самая… как я уже сказал, это самая редкая возможность в технологической отрасли. Я думаю, что многому научился у Facebook с точки зрения стратегического анализа, потому что это была такая редкая организация, и я подумал: «Нет, вы понятия не имеете, к чему это приведет». Но я начал только в 2013 году и пропустил начало. Я занимаюсь Stratechery уже 12 лет и чувствую, что впервые могу освещать деятельность компании с самого начала и в таком масштабе.

СА: Это случается не очень часто.

Ведущий: Действительно, не часто. Но, кстати, вы только что выпустили крупное обновление API, которое включает доступ к той же модели «использования вычислений», лежащей в основе оператора (достоинство GPT Pro). Вы также выпустили API ответов. Я думаю, самое интересное в API ответов — это то, что вы сказали: «Мы думаем, что это намного лучше, чем API завершения чата, но, конечно, мы продолжим поддерживать его, потому что многие люди уже разработали его на его основе». Это стало отраслевым стандартом, и все копируют ваш API. В какой момент работа, связанная с API, наряду с поддержкой старых версий и внедрением новых функций в новые версии, становится отвлечением и пустой тратой ресурсов? В конце концов, перед вами открываются возможности уровня Facebook.

СА: Я действительно верю в стратегию «набора продуктов», о которой только что упомянул. Я думаю, если мы будем работать очень хорошо, через пять лет у нас будет серия (несколько) продуктов с миллиардами пользователей. Затем у нас возникла идея: вы можете использовать свою учетную запись OpenAI для входа в любое другое место, где вы хотите интегрировать наш API, и вы можете взять с собой свои очки, свои собственные модели и все остальное, куда захотите. Я думаю, что это ключ к тому, чтобы мы действительно стали отличной платформой.

Модератор: Но это проблема Facebook. Трудно быть платформой и агрегатором (в моем понимании) одновременно. Я думаю, что мобильные устройства — это хорошо для Facebook, потому что они заставляют их отказаться от мечты стать платформой. Вы не можете быть платформой, вы должны признать, что вы — содержательная сеть с рекламой. Реклама — это просто больше контента. Это фактически вынуждает их занять лучшую стратегическую позицию.

СА: Я не думаю, что мы собираемся стать платформой, похожей на операционную систему. Но я думаю, что Google на самом деле не является платформой, но люди входят в систему с помощью учетных записей Google, люди переносят свой контент Google во все уголки сети, и это часть опыта Google. Я думаю, именно так мы становимся платформой.

Модератор: Ношение вашей регистрационной информации означает сохранение вашей памяти, вашей личности, ваших предпочтений и всего этого.

СА: Да.

Ведущий: Итак, вы просто выше всех остальных. У них есть несколько вариантов входа в систему, и вход в OpenAI лучше, потому что он включает в себя вашу память? Или вам придется использовать наш метод входа в систему, если вы хотите использовать наш API?

СА: Нет, нет, нет. Необязательно, конечно.

Модератор: Не думаете ли вы, что, когда перед вами открывается такая огромная возможность, это будет отвлечением или отвлечением ресурсов?

СА: Нам приходится делать много дел одновременно, это самая сложная часть. Я думаю, что во многих отношениях, да, я думаю, что одна из самых сложных задач OpenAI заключается в том, что нам нужно быть очень хорошими во многих вещах.

Ведущий: Ну это «парадокс выбора». Есть так много вещей, которые вы можете сделать.

С.А.: Мы многого не делали, почти всему говорили «нет». Но если вы просто подумаете об основных частях того, что, по нашему мнению, мы должны сделать, я думаю, что нам действительно нужно сделать очень многое, и я не думаю, что мы сможем добиться успеха, просто делая что-то одно.

«Иллюзия» тоже имеет значение

Ведущий: Возможно ли, что «галлюцинация» действительно полезна? Вы опубликовали пример модели письма, который в некоторой степени подтверждает точку зрения, которую я уже давно высказывал, а именно, что все пытаются заставить эти вероятностные модели вести себя как детерминированные вычисления, почти игнорируя их магию, которая заключается в том, что они на самом деле «придумывают» контент. Это на самом деле весьма примечательно.

СА: Полностью согласен. Если вам нужно что-то детерминированное, вам следует использовать базу данных. Прелесть здесь в том, что он может быть творческим, даже если иногда то, что он создает, не совсем то, что вы хотели. Но это ничего, можно попробовать еще раз.

Модератор: Это проблема лаборатории ИИ? Они пытаются это сделать? Или это вопрос ожиданий пользователей? Как мы можем заставить всех наслаждаться «иллюзией»?

СА: Ну, вы хотите, чтобы оно галлюцинировало, когда вы этого хотите, и не галлюцинировало, когда вы этого не хотите. Если вы спросите: «Расскажите мне этот научный факт», вы надеетесь, что это не «иллюзия». Если вы говорите: «Напишите мне креативную историю», вам нужна некая «иллюзия». Я думаю, что настоящий вопрос или самый интересный вопрос заключается в том, как заставить модель создавать «иллюзии» только тогда, когда это выгодно пользователю?

Ведущий: Что вы думаете об этом? Когда эти ключевые слова раскрываются, они говорят что-то вроде: «Не раскрывай этого», или «Не говори этого», или «Не делай X, Y, Z». Если нас беспокоят проблемы безопасности и выравнивания, является ли обучение ИИ лжи очень серьезной проблемой?

СА: Да. Я помню, как над xAI смеялись за то, что он сказал что-то в системной подсказке о том, что нельзя говорить плохие вещи об Илоне Маске или что-то в этом роде. Им было неловко, но мне было их как бы жаль, потому что модель просто пыталась следовать данным ей инструкциям.

Модератор: Да. Это очень серьезно.

СА: Очень серьезно. Да. Так что да, это было глупо и, конечно, неловко, но я не думаю, что это был «крах», как все это называют.

Модератор: Некоторые скептики, в том числе и я, полагают, что некоторые аспекты вашего призыва к регулированию являются попыткой помешать потенциальным конкурентам. Я хочу задать вопрос, состоящий из двух частей. Во-первых, справедливо ли это? Во-вторых, если План действий по искусственному интеллекту ничего не делает, кроме запрета ограничений на использование искусственного интеллекта на уровне штата и объявляет добросовестное использование обучающих материалов, защищенных авторским правом, достаточно ли этого?

С.А.: Прежде всего, большая часть правил, к которым мы призываем, касается только самых передовых моделей, самых передовых моделей в мире и введения некоторых стандартов испытаний на безопасность для этих моделей. Я думаю, что это хорошая политика, но я все больше чувствую, что большинство людей в мире не думают, что это хорошая политика, и меня беспокоит «регулятивный захват».

Так что, очевидно, у меня есть свои убеждения, но маловероятно, что мы добьемся этой политики в глобальном масштабе. Я думаю, это немного страшно, но надеюсь, мы приложим все усилия, чтобы найти выход, и, возможно, все будет хорошо. В конце концов, не многие люди хотят уничтожить мир.

Но, конечно же, вы не хотите налагать нормативное бремя на всю технологическую отрасль. Правила, к которым мы призываем, коснутся только нас, Google и нескольких других компаний. Опять же, я не думаю, что мир движется в этом направлении, и мы будем соревноваться по тем правилам, которые у нас есть. Но да, я думаю, было бы очень, очень полезно, если бы было ясно, что добросовестное использование — это добросовестное использование, и что в штатах не было бы всяких сложных и разных правил.

Модератор: OpenAI может что-нибудь сделать? Например, если бы у Intel был новый генеральный директор и она была бы готова переориентироваться на искусственный интеллект, согласились бы вы покупать чипы, производимые Intel? Может ли OpenAI помочь в этом?

С.А.: Я много думал о том, что мы можем сделать на уровне инфраструктуры и во всей цепочке поставок. У меня пока нет хорошей идеи. Если у вас есть какие-либо предложения, я внимательно слушаю. Но я хочу что-то сделать.

Ведущий: Хорошо, конечно. Intel нужен клиент. Это то, что им нужно больше всего, клиенту, который не является Intel. Им поможет то, что OpenAI станет крупным заказчиком архитектуры Гауди и возьмет на себя обязательство закупать большие объемы чипов. Это подтолкнет их вперед. Это ваш ответ.

С.А.: Если мы будем разрабатывать чипы вместе с партнером, который работает с Intel и использует совместимый процесс, и у нас есть достаточно высокая уверенность в их способности реализовать, мы сможем это сделать. И снова мне захотелось что-то сделать. Так что я не уклоняюсь от вопроса.

Модератор: Нет, я также немного несправедлив, потому что только что сказал вам, что вам нужно сосредоточиться на развитии своего потребительского бизнеса и отключить API. На самом деле несправедливо просить вас сосредоточиться на сохранении производства чипов в США.

СА: Нет, нет, нет, я не думаю, что это несправедливо. Я думаю, что если мы можем чем-то помочь, мы обязаны это сделать. Но мы пытаемся понять, что именно делать.

Для AGI не существует единого стандарта, и он должен уметь выполнять большую часть работы самостоятельно.

Ведущий: Дарио и Кевин Вейл, я думаю, они оба так или иначе говорили, что к концу этого года 99% кодирования будет автоматизировано, а это очень быстрый срок. Как вы думаете, какое сейчас соотношение? Как вы думаете, когда мы наберем более 50%? Или мы уже вышли за рамки этого?

С.А.: Я думаю, что во многих компаниях сейчас этот показатель превышает 50%. Но я думаю, что настоящий прорыв произойдет благодаря автономным программным агентам, а этого еще никто не сделал.

Ведущий: Какие препятствия?

СА: О, нам просто нужно больше времени.

Модератор: Это проблема продукта или проблема модели?

СА: Проблемы с моделью.

Модератор: Стоит ли продолжать нанимать инженеров-программистов? Я вижу, у вас много вакансий.

СА: Мое основное предположение заключается в том, что с течением времени объем работы, которую может выполнять каждый инженер-программист, значительно увеличится. И тогда, в какой-то момент, да, возможно, нам действительно понадобится меньше инженеров-программистов.

Ведущий: Кстати, я думаю, вам стоит нанять больше инженеров-программистов. Я думаю, это часть моей точки зрения: я думаю, вам, ребята, нужно действовать быстрее. Однако вы упомянули GPT-5. Я не знаю, где оно, мы его долго ждали.

СА: Мы выпустили версию 4.5 две недели назад.

Ведущий: Знаю, но мы жадные.

СА: Это не имеет значения. Вам не придется долго ждать. Новой версии еще долго не будет.

Модератор: Что такое AGI? У вас много определений. OpenAI также имеет множество определений. Каково ваше нынешнее или наиболее продвинутое определение ОИИ?

СА: Я думаю, что то, что вы только что сказали, является ключевым: AGI — это размытая граница, охватывающая множество вещей, и этот термин, я думаю, почти полностью обесценился. По определениям многих людей, мы могли бы достичь ОИИ, особенно если бы вы могли взять человека из 2020 по 2025 год и показать ему, что у нас есть.

Ведущий: Ну, ИИ был таким уже много лет. ИИ всегда говорит о вещах, которые мы не можем сделать. Как только мы сможем это сделать, это станет машинным обучением. Как только вы этого не замечаете, это становится алгоритмом.

СА: Да. Я думаю, для многих людей AGI означает часть экономической ценности. Для многих людей это относится к чему-то общему. Я думаю, что они многое делают хорошо. Для некоторых это относится к чему-то, кто не делает глупых ошибок. Для некоторых это относится к чему-то, что само совершенствуется и т. д. Просто нет хорошего единого стандарта.

Ведущий: А как насчет агентов? Что такое агент?

СА: Что-то, что может работать автономно и выполнять большую часть работы за вас.

Ведущий: Для меня это AGI. Это уровень замещения сотрудников.

СА: Но что, если он хорош только для определенных типов задач, а не для других? Я имею в виду, что некоторые сотрудники тоже такие.

Ведущий: Да, я думаю об этом, потому что это полное переопределение. Когда-то AGI считался всемогущим, но теперь у нас есть ASI. ИСИ, сверхразум. На мой взгляд, это вопрос терминологии. ИСИ, да, может выполнить любую работу, которую мы ему поручим. Если я получу ИИ, который выполняет конкретную работу, например программирование или что-то еще, и делает это последовательно, я могу дать ему цель, и он сможет достичь этой цели, выяснив промежуточные шаги. На мой взгляд, это явный сдвиг парадигмы по сравнению с тем, где мы находимся сейчас, и нам все еще нужно в значительной степени руководить им сейчас.

СА: Если бы у нас был отличный автономный программный агент, вы бы сказали: «OpenAI сделал это, они реализовали AGI»?

Ведущий: Да. Вот как я это определяю сейчас. Согласен, это почти размывание того, чем был AGI. Но я просто использовал ASI вместо AGI.

СА: Можем ли мы повесить на стену маленькую золотую звезду Бена Томпсона?

Ведущий: (смеется) Конечно, вот. Я дам тебе свою ручку.

СА: Отлично.

Ведущий: Вы говорили со своими коллегами в этих лабораториях о том, что вы видели и о том, что никто не был к этому готов, и ходили всевозможные твиты, которые взволновали людей, и вы дали несколько намеков в этом подкасте. Очень интересно. Но вы уже давно об этом говорите. Вы смотрите на мир, и в некотором смысле он все еще выглядит прежним. Ваш запуск не оправдал ваших ожиданий или вы были удивлены способностью человечества воспринимать изменения?

СА: Скорее последнее. Я думаю, были времена, когда мы делали что-то, что действительно шокировало мир, и люди говорили: «Это… это безумие». Затем, две недели спустя, люди спрашивают: «Где следующая версия?»

Модератор: Ну, я имею в виду, что это была и ваша первоначальная стратегия, потому что ChatGPT застал всех врасплох. А вскоре после этого выходит ChatGPT-4, и люди говорят: «О, черт возьми, как быстро мы движемся?»

СА: Я думаю, что мы выпустили несколько невероятных вещей, и я думаю, что способность людей адаптироваться и просто хотеть больше, лучше, быстрее и дешевле — это на самом деле отличная черта человека. Итак, я думаю, что мы перестарались, и люди просто обновляют свое восприятие.

Ведущий: Учитывая это, это делает вас более оптимистичным или пессимистичным? Видите ли вы этот разрыв, который, я думаю, произойдет между людьми, у которых есть «агентство» (это еще одно значение слова «агентство», но посмотрите, куда мы идем. Нам нужно придумать больше слов. Мы можем позволить ChatGPT «иллюзировать» одно для нас) и теми, кто собирается использовать API?

Вся идея Microsoft Copilot заключается в том, что с вами есть помощник и много болтовни о том: «О, это не заменит рабочие места, это сделает людей более продуктивными». Я согласен, что так будет с некоторыми людьми, которые активно его используют. Но вы оглянетесь, скажем, на историю ПК. Первой волной пользователей ПК были люди, которые действительно хотели использовать ПК. Многие люди не хотят использовать ПК. Они кладут на стол компьютер и должны использовать его для выполнения определенной задачи. На самом деле, вам нужна смена поколений, чтобы заставить людей использовать ПК по умолчанию. ИИ, это настоящий ограничивающий фактор?

СА: Возможно, но это нормально. Как вы упомянули, это характерно для других технологических изменений.

Ведущий: Но если вернуться к примеру с ПК, на самом деле первой волной ИТ были мэйнфреймы, которые уничтожили весь бэк-офис. Потому что на самом деле получается, что первая волна была волной замены рабочих мест, потому что ее было легче реализовать сверху вниз.

СА: Я нутром чувствую, что на этот раз все будет не совсем так. Но я думаю, что всегда очень сложно прогнозировать.

Ведущий: Что вы чувствуете?

С.А.: Оно будет просачиваться в экономику, постепенно поглощая вещи, а затем все быстрее и быстрее.

Модератор: Вы часто упоминаете научные открытия как причину инвестировать в ИИ. Дваркеш Патель недавно отметил, что никаких научных прорывов пока не произошло. Почему нет? Может ли ИИ на самом деле создавать или открывать новые вещи? Или настоящая проблема в том, что мы слишком полагаемся на модели, которые на самом деле не так уж хороши?

С.А.: Да, я считаю, что модель недостаточно умна. Не имею представления. Вы слышите, как люди, использующие Deep Research, говорят: «Ну, модель не открыла новую науку сама по себе, но она помогла мне быстрее открыть новую науку». Для меня это почти так же хорошо.

Модератор: Как вы думаете, архитектура на основе Transformer действительно может создавать новые вещи или это просто вывод контента среднего уровня в Интернет?

СА: Да.

Ведущий: Ну и где будет точка прорыва?

СА: Я имею в виду, я думаю, что мы на пути вперед. Я думаю, нам просто нужно продолжать делать то, что мы делаем. Я думаю, мы на этом пути.

Ведущий: Я имею в виду, является ли это окончательным испытанием Бога?

СА: Как ты это говоришь?

Ведущий: Люди от природы креативны, или творчество просто перекомбинирует знания разными способами?

С.А.: Одна из моих любимых книг — «Начало бесконечности» Дэвида Дойча. В начале этой книги есть страницы, которые так блестяще описывают, что творчество заключается в том, чтобы взять что-то, что вы видели раньше, и немного изменить это. Затем, если из этого выйдет что-то хорошее, кто-то другой немного поработает с этим, а кто-то еще поработает с этим еще немного. Я в это верю. Если это так, то ИИ умеет слегка что-то модифицировать.

Модератор: В какой степени вы можете верить, что эта точка зрения основана на ваших давних убеждениях, а не на вещах, которые вы наблюдаете? Потому что я думаю, что это очень интересно – я не хочу слишком углубляться в метафизические или, как я уже сказал, почти теологические вопросы – но, похоже, действительно существует ситуация, когда лежащие в основе предположения влияют на предположения о возможности ИИ. И потом, большинство людей в Кремниевой долине — материалисты, атеисты, называйте их как хотите. Так что мы, конечно, разберемся, это всего лишь биологическая функция и мы можем воспроизвести ее в компьютере. Если бы оказалось, что мы никогда не создавали ничего нового, а вместо этого совершенствовали людей для создания новых вещей, изменило бы это вашу основную систему убеждений?

СА: Это определенно было частью моей старой базовой системы убеждений. Ничто из этого не ново. Но нет, я бы предположил, что мы просто еще не нашли правильную архитектуру ИИ, и в какой-то момент в будущем мы это сделаем.

Карьерные советы для молодых людей в эпоху искусственного интеллекта

Модератор: Последний вопрос от имени моей дочери, которая в этом году окончила школу. Какой карьерный совет вы дадите выпускникам средней школы?

СА: Самое очевидное и конкретное предложение — овладеть инструментами искусственного интеллекта. Например, когда я окончил среднюю школу, самым очевидным и конкретным советом было научиться программировать. Это предложение для новой версии.

Более общий совет заключается в том, что я думаю, что люди могут развивать устойчивость и адаптивность, а также способность понимать, чего хотят другие и как быть полезными для других. Я буду практиковать это. Например, что бы вы ни изучали, конкретные детали могут быть не столь важны.

Возможно, они никогда не имели значения. Самым ценным, чему я научился в школе, была «метаспособность» обучения, а не какая-то конкретная вещь, которую я узнал. Итак, независимо от того, какие конкретные вещи вы хотите изучить, освойте эти общие навыки, которые кажутся важными, когда мир проходит через эту трансформацию.

# Добро пожаловать на официальную общедоступную учетную запись WeChat aifaner: aifaner (идентификатор WeChat: ifanr). Более интересный контент будет предоставлен вам как можно скорее.

Ай Фанер | Исходная ссылка · Посмотреть комментарии · Sina Weibo