Последнее интервью Сэма Альтмана: разоблачение возвращается к внутренней истории, впервые отвечая на модель Q *

Ровно год назад OpenAI выпустила ChatGPT, вызвав кембрийский взрыв искусственного интеллекта.

Ощущение ускорения технологической эволюции становится все сильнее и сильнее, а «наблюдение истории» стало обычным делом.

После серии недавних потрясений OpenAI также официально объявила сегодня о возвращении Альтмана, а Microsoft, крупнейший инвестор компании, также войдет в совет директоров в качестве наблюдателя без права голоса.

При этом Альтман также принял эксклюзивное интервью The Verge , рассказав о некоторой инсайдерской информации перед возвращением, а также о раскрытой ранее модели Q* — технологии искусственного интеллекта, которая считается угрозой человечеству. .

Но в этом интервью Альтман неоднократно отказывался отвечать на самый главный вопрос: с какой стати его уволили?

Когда правление OpenAI попросило Сэма Альтмана вернуться через день после его увольнения, Альтман поначалу сопротивлялся, был обижен и зол. Он сказал журналистам по телефону:

Мне потребовалось несколько минут, чтобы выйти из этого состояния, преодолеть себя и свои эмоции и подумать: «Да, конечно, я хочу это сделать». «Очевидно, я люблю эту компанию и полностью инвестировал в нее последние четыре с половиной года, но на самом деле это заняло у меня гораздо больше времени. Мы добились огромного прогресса в выполнении миссии, которая меня глубоко волнует: безопасного и полезного искусственного интеллекта.

Ниже приводится полное интервью The Verge с генеральным директором OpenAI Сэмом Альтманом и техническим директором Мирой Мурати, слегка отредактированное Ай Фанером:

Вопрос: Сэм, я хочу начать с очевидного: мы до сих пор не знаем, почему вас вообще уволили. Как вы думаете, почему вас уволили?

Альтман: Правление проведет здесь независимую проверку. Я это очень приветствую. Мне пока нечего сказать, но я с нетерпением жду возможности узнать больше.

Вопрос: Как вы думаете, почему правление заявило, что потеряло к вам доверие?

Альтман: Для них это лучший ответ.

Вопрос: Вы только что сказали на X: «Очевидно, что между вами и членами правления были настоящие недопонимания».

Альтман: Я пока не готов об этом говорить. Я думаю, что важно позволить этому процессу рассмотрения состояться. Я рад поговорить о чем-то перспективном. Думаю, настанет время, когда я буду более чем рад рассказать о том, что здесь произошло, но сейчас не время.

Вопрос: Можете ли вы сказать мне, почему вы не можете говорить об этом сейчас?

Альтман: Я просто хочу, чтобы процесс происходил без вмешательства.

Вопрос: В своем письме сотрудникам вы упомянули Илью Суцкевера (главного научного сотрудника OpenAI). Можете ли вы сказать мне, почему он передумал и решил встать на сторону остальных?

Мира Мурати: Мы не знаем. Это надо спросить у Ильи.

Вопрос: Сэм, оглядываясь назад, какая была основная мотивация, которая заставила тебя вернуться?

Альтман: Это действительно интересно. Некоторые члены правления позвонили мне в субботу утром и спросили, могу ли я поговорить об этом вопросе. Моя первая реакция была немного защитной, типа: «Боже мой, мне больно, я злюсь, я думаю, что это плохо».

И тогда я почти сразу начал думать: очевидно, я так люблю эту компанию и так предан ей последние четыре с половиной года, но на самом деле это заняло у меня гораздо больше времени. Мы добились огромного прогресса в выполнении миссии, которая меня глубоко волнует: безопасного и полезного искусственного интеллекта. Но это также люди здесь и все партнеры, которые возлагают на нас большие надежды, а также Мира, руководство и все люди здесь, которые проделывают невероятную работу. Мне потребовалось несколько минут, чтобы выйти из этого состояния, преодолеть себя и свои эмоции и подумать: «Да, конечно, я хочу это сделать».

Вопрос: Итак, правление попросило вас вернуться?

Альтман: Да.

Вопрос: Вы сначала колебались?

Альтман: Ненадолго. То, что случилось со мной после этого, заставило меня многое почувствовать.

Вопрос: Понятно, что сотрудники вас поддерживают. Как вы думаете, какое влияние это оказывает?

Альтман: Мы определенно выйдем из этого процесса более сильной, более сплоченной, более целенаправленной и преданной своему делу командой. Я думаю, что раньше у нас было много веры и сосредоточенности, и я думаю, что сейчас у нас их еще больше. Так что это моя серебряная подкладка во всем этом.

На протяжении всего процесса мы не потеряли ни одного сотрудника или клиента. Они не только сохранили работоспособность продукта в условиях неконтролируемого роста, но и внедрили новые функции. Прогресс исследований продолжается.

Вопрос: Вы хотите вернуться в совет директоров?

Альтман: Хотя это звучит как пиар-ход, сейчас это не моя сфера деятельности. У меня много очень сложных, важных и срочных дел. Я хочу делать свою работу, но это не зависит от того, быть на доске или нет. Сейчас у меня нет времени думать об этом.

Вопрос: Что означает «улучшение нашей структуры управления»? Изменится ли структура некоммерческой холдинговой компании?

Альтман: Было бы более уместно ответить члену правления, но не сейчас. Честно говоря, им нужно время, и мы поддержим их, чтобы они подумали об этом. Очевидно, что-то не так с нашей структурой управления. Потребуется некоторое время, чтобы найти лучший способ решить эту проблему. Я полностью понимаю, почему люди хотят получить ответ прямо сейчас. Но я также считаю совершенно неразумным ожидать немедленных ответов.

Вопрос: Почему вы считаете это необоснованным? Я думаю, что люди видят много двусмысленности в том, что происходит. Похоже на разногласие, а не на неподобающее поведение или что-то в этом роде.

Альтман: Да, просто потому, что разработка действительно хорошей структуры управления, особенно для такой влиятельной технологии, не является вопросом недели. Потребуется время, чтобы подумать, обсудить, посмотреть со стороны, пройти стресс-тест. Это занимает некоторое время.

Вопрос: Изменят ли только что произошедшие события подход OpenAI к безопасности?

Мурати: Нет. Это не имеет никакого отношения к безопасности.

Вопрос: Что касается отчета о вашем недавнем прорыве в модели Q*, о чем он?

Альтман: У меня нет особых комментариев по поводу этой неудачной утечки. Но на самом деле мы подчеркивали раньше, как и то, что мы говорили две недели назад, то, что мы говорили год назад и то, что мы говорили даже раньше: мы ожидаем, что прогресс этой технологии будет продолжать быть быстрым, и мы также ожидаем, что Продолжайте усердно работать, чтобы сделать его лучше. Знайте, как сделать его безопасным и полезным. Вот почему мы вставали каждый день. Вот почему мы будем вставать каждый день в будущем. Я думаю, что мы были очень последовательны в этом вопросе.

Не комментируя какую-то конкретную вещь или проект, мы считаем, что прогресс – это исследования. Всегда есть вероятность, что вы столкнетесь с препятствиями, но мы ожидаем, что прогресс будет по-прежнему значительным. Мы хотим взаимодействовать с миром и выяснить, как сделать эту технологию как можно лучше.

Вопрос: Последний вопрос. Я уверен, что ты все еще думаешь обо всем этом. Я знаю, что это все новое. Чему вы научились из всего этого инцидента?

Я не думаю, что у меня пока есть краткий и убедительный ответ. Очевидно, я многому научился, но я все еще пытаюсь во всем этом разобраться. Я имею в виду, что определенно есть что сказать, но я не думаю, что я еще готов… Я могу дать только длинный и бессвязный ответ прямо сейчас.

Альтман: Ну, мы поговорим об этом позже.

Повесив трубку, Альтман перезвонил через несколько минут:

Я узнал, что компания действительно может функционировать без меня, и это было очень хорошо. Я рад вернуться, не поймите меня неправильно. Но я вернулся без какого-либо давления: «О, я должен это сделать, иначе я нужен компании или что-то в этом роде».

Я думал, что чувствую себя хорошо, потому что либо выбирал великих лидеров, либо хорошо их тренировал. Приятно, что у компании и без меня все будет хорошо, что команда готова и совершенствуется.

# Добро пожаловать на официальную общедоступную учетную запись aifaner в WeChat: aifaner (идентификатор WeChat: ifanr). Более интересный контент будет предоставлен вам как можно скорее.

Ай Фанер | Исходная ссылка · Посмотреть комментарии · Sina Weibo