«Вдохновителем» OpenAI Gongdou является ChatGPT.
Когда я (наивно, снова и снова) думал, что суматоха вокруг OpenAI вот-вот утихнет, все всегда разворачивалось так, как не могли написать даже сценаристы «Наследия».
После того, как более 90% сотрудников OpenAI полностью распались и совместно потребовали роспуска совета директоров и возвращения Сэма Альтмана, совет директоров не оставил сопротивления. Они даже обратились к конкуренту Anthropic и попытались объединить две компании.
Совет директоров надеется убедить соучредителя и генерального директора Anthropic Дарио Амодеи занять пост генерального директора, чтобы совершить исторический подвиг — заменить четырех генеральных директоров за четыре дня.
Дарио Амодей также был бывшим руководителем OpenAI. Anthropic, которую он основал после ухода с работы, занимается продвижением безопасного ИИ, а ее чат-бот Клод является конкурентом ChatGPT.
Аналитики полагают, что если OpenAI и Anthropic действительно объединятся, это станет началом нового хаоса, ведь за двумя звездными стартапами стоят позиции нескольких технологических гигантов в сфере ИИ.
Microsoft и OpenAI объединились, а Anthropic подписала многомиллиардные соглашения об облачных вычислениях с Amazon и Google. Оба гиганта также инвестировали в Anthropic.
В настоящее время OpenAI находится на грани распада.Конкуренты начинают нанимать большое количество отходящих талантов.В то же время основные клиенты OpenAI также рассматривают возможность перехода на такие компании, как Anthropic, Microsoft или Google.
Продолжая следить за развитием событий, мы также оглядываемся назад на отправную точку этого переворота — внутренние конфликты OpenAI. В своем последнем отчете The Atlantic Monthly раскопала давно скрытый внутренний конфликт идей.
Хаос OpenAI начался в день выпуска ChatGPT
1. OpenAI изначально не планировала выпускать GPT-3.5.Осенью 2022 года OpenAI изначально готовилась к выпуску GPT-4. Однако ходили слухи, что Anthropic также собирается выпустить чат-бота, поэтому в ноябре команда управления OpenAI объявила, что продукт будет выпущен через несколько недель, выбрав GPT-3.5, которая на тот момент была относительно готовой.
2. Никто не ожидал успеха ChatGPT. Выпуск ChatGPT был очень сдержанным, настолько сдержанным, что многие сотрудники компании не знали, что его выпустила OpenAI. В то время сотрудники, знавшие об этом, все еще делали ставки на то, сколько пользователей он сможет привлечь, и они предполагали максимум 10 000 пользователей. В результате количество пользователей превысило 1 миллион за пять дней после запуска.
3. ChatGPT не только выводит из строя сервер, но и делает инструменты обнаружения неэффективными. Команда создала инструмент мониторинга трафика, который может отслеживать поведение пользователей, понимать, как пользователи используют этот инструмент, и координировать потенциальные кризисы и злоупотребления. Популярность ChatGPT приводила к неоднократному сбою инструмента.
4. Команда безопасности OpenAI посоветовала команде разработчиков замедлить обновление продукта. После выпуска ChatGPT число пользователей быстро росло, и команда безопасности не смогла справиться с угрозами безопасности и злонамеренным использованием. Впоследствии продуктовая команда проигнорировала напоминания команды безопасности и упорно шла к победе, запуская одну за другой платную версию ChatGPT и открытый API-интерфейс.
5. Кризис мошенничества. Благодаря широкому применению ChatGPT и GPT-4 некоторые люди также обнаружили уязвимости. Некоторые пользователи начали массово создавать новые учетные записи, чтобы получить скидку в 20 долларов за каждую новую учетную запись. Прекращение этих мошенничеств стало в то время главным приоритетом OpenAI, и небольшая группа членов команды безопасности, первоначально назначенная в разные области, была назначена сосредоточиться на решении проблемы.
6. Под давлением у некоторых сотрудников даже возникают проблемы с психическим здоровьем. Коммуникация внутри компании была плохой, и сотрудники узнали об увольнении только тогда, когда заметили, что их коллеги исчезли в Slack.
7. «Почувствуй ОИИ». Технологии развиваются быстрыми темпами. Главный ученый Илья Суцкевер все больше убеждается в том, что AGI в конечном итоге будет реализован, и его поведение все больше становится похожим на некоего «духовного лидера». Его мантра — «Почувствуй AGI», что означает, что все очень близки к достижению цели AGI. . Суцкевер однажды написал в социальных сетях: «Если вы чувствуете AGI, вам следует подать заявку на участие в OpenAI». На праздничной вечеринке OpenAI в 2022 году Суцкевер даже заставил сотрудников кричать «Почувствуй AGI! Почувствуй AGI!» Сотрудники также сделали смайлы «Почувствуй AGI» в Slack.
8. Другая сторона убеждения — опасения, что OpenAI не уделяет достаточного внимания безопасности. В июле этого года Суцкевер и Ян Лейке возглавили создание команды Superalignment для разработки более передовых технологий безопасности искусственного интеллекта и монополизации 20% существующих вычислительных чипов компании для подготовки к предстоящему AGI в этом десятилетии. «Согласование» означает, что ИИ может делать только то, чего от него хотят люди.
9. На внутреннем мероприятии в этом году Суцкевер даже настроил деревянную статую, изображающую «несогласованный ИИ», а затем сжег ее в огне, чтобы продемонстрировать решимость OpenAI согласовать ИИ.
10. В октябре этого года конфликты обострились. По словам людей, знакомых с ситуацией, Альтман стремился снизить влияние Суцкевера в компании, что спровоцировало конфликт с советом директоров.
11. На конференции разработчиков 6 ноября Альтман объявил о запуске настраиваемых функций GPT, Суцкевер был совершенно разгневан и обратился к совету директоров с опасениями.
12. 17 ноября Альтман был уволен советом директоров во время онлайн-заседания.
13. Столкнувшись со многими слухами о возвращении Альтмана, Маск сказал на X, что он будет очень обеспокоен, если Альтман действительно вернется. Потому что «У Ильи очень хороший моральный кодекс, и он не будет гнаться за властью. Если бы он не чувствовал, что должен действовать, у Ильи не было бы такого экстремального поведения».
14. 20 ноября Суцкевер сообщил сотрудникам, что Альтман не вернется в OpenAI в качестве генерального директора. Временным генеральным директором OpenAI станет Эммет Шир, сооснователь платформы потокового вещания Amazon Twitch.
За хаосом: философское столкновение Суцкевера и Альтмана
1. Главный научный сотрудник Илья Суцкевер, возглавляющий разработку передовой технологии OpenAI, учился у «крестного отца ИИ» Джеффри Хинтона и выступает за осторожное обращение с рисками безопасности, связанными с ИИ и AGI.
2. Игра Суцкевера была звездной. В первые дни своего присоединения к команде Хинтона Хинтон дал ему очень сложную задачу. Суцкевер устал от расчетов, необходимых в процессе написания, и велел Хинтону самому написать язык программирования, чтобы выполнить более простую задачу. Хинтон немного рассердился и предупредил его, что это может занять целый месяц и ни к чему не привести. «На самом деле я закончил это сегодня утром», — признался Суцкевер.
3. Высокий статус в отрасли. Сэм Альтман назвал Суцкевера одним из самых уважаемых исследователей в мире и полагал, что его привлечение привлечет больше талантов в области ИИ. Маск откровенно верит, что он является ключевой фигурой в успехе OpenAI.
4. Чтобы переманить Суцкевера из Google в OpenAI, Маск поссорился с соучредителем Google Ларри Пейджем.
5. Взгляд Суцкевера на искусственный интеллект: Технология подобна силе природы. Крайне важно контролировать первоначальное зарождение ОИИ, иначе он будет следовать закону, подобному «выживанию наиболее приспособленных», и будет отдавать приоритет собственному существованию. Точно так же, как люди и животные, люди не ненавидят животных, но когда люди захотят развиваться, мы поставим необходимость строительства дорог выше выживания животных.
6. Когда вышла историческая статья «Внимание — это все, что вам нужно», Суцкевер был одним из немногих, кто осознал ее важность: «Это то, чего мы ждем».
7. Суцкевер выступает за «выгравирование» определенных ценностей в суперИИ, чтобы у ИИ был некий «отпечаток», подобный «природе», как у животных: «В конце концов, ИИ станет очень, очень, очень могущественным. Мы не сможем поймите это. Они. Они будут намного умнее нас. В то время решающее значение будет иметь сильный отпечаток, чтобы они чувствовали к нам то же самое, что мы чувствуем к нашим собственным детям».
8. Борьба за AGI бесполезна. Суцкевер считает, что если несколько команд будут конкурировать за создание AGI первыми, у них будет меньше возможностей для работы над обеспечением безопасности AGI. Напротив, Альтман называет себя скорее «центристом», который хочет обеспечить и скорость, и безопасность.
9. Первая партия AGI в представлении Суцкевера выглядела как сверхогромные дата-центры со встроенными фирменными нейронными сетями, которые были чрезвычайно энергоемкими и потребляли примерно столько же электроэнергии, сколько десятки миллионов домов. Эти ОИИ, безусловно, окажут глубокое влияние на общество, но мы не уверены, кто выиграет.
10. Бывшие сотрудники OpenAI говорят, что у Суцкевера много последователей внутри компании, и называют его уважаемым и практичным лидером, который имеет решающее значение для создания передовых технологий OpenAI. Грег Брокман, бывший президент OpenAI, хорошо умеет превращать результаты исследований Суцкевера в полезные продукты искусственного интеллекта.
Хронология увольнения Сэма Альтмана:
Вечер четверга, 16 ноября по местному времени.
Альтман получил сообщение от Суцкевера с просьбой о разговоре в полдень пятницы. Суцкевер сообщает Сэму, что он уволен, и новости скоро появятся.
Пятница, 17 ноября, местное время.
OpenAI объявила, что генеральный директор Сэм Альтман покинет компанию, а технический директор Мира Мурати назначена временным генеральным директором с немедленного вступления в силу.
Совет директоров OpenAI заявил в своем блоге, что «г-н Альтман не был откровенен в своем общении с советом директоров, что мешало совету директоров выполнять свои обязанности. Совет директоров больше не имеет уверенность в том, что он продолжит возглавлять OpenAI».
Альтман написал на платформе X, что мне понравилось время, проведенное в OpenAI. Лично для меня это изменило мир, и я надеюсь, что оно также изменит мир. Больше всего мне нравится работать с таким количеством талантливых людей.
Президент и председатель правления OpenAI Грег Брокман объявил о своей отставке, заявив, что он шокирован и опечален решением совета директоров.
Трое старших исследователей OpenAI уволились в пятницу вечером по местному времени.
Суббота, 18 ноября по местному времени.
Сэм Альтман сообщил инвесторам, что планирует запустить новое предприятие в области искусственного интеллекта. Ожидается, что Грег Брокман присоединится к предприятию, которое все еще находится в стадии разработки, и точная природа предприятия на данный момент неясна.
Совет директоров OpenAI обсуждает возвращение Альтмана на должность генерального директора. Он «двойственно» относится к возвращению и хочет серьезных изменений в управлении.
Воскресенье, 19 ноября по местному времени.
Сэм Альтман и Грег Брокман прибыли в штаб-квартиру OpenAI в Сан-Франциско, чтобы встретиться с руководителями.
Временный генеральный директор OpenAI Мира Мурати планирует повторно нанять Сэма Альтмана и Грега Брокмана, в то время как члены совета директоров продолжают искать нового генерального директора.
Совет директоров OpenAI принял решение нанять Эммета Шира, бывшего генерального директора платформы потокового вещания игр Amazon Twitch, в качестве генерального директора, но возвращение Альтмана провалилось.
Узнав, что Альтман не вернется, десятки сотрудников OpenAI объявили внутри компании, что покидают компанию.
Генеральный директор Microsoft Сатья Наделла объявил, что основатели OpenAI Сэм Альтман и Грег Брокман и их коллеги присоединятся к Microsoft, чтобы возглавить новую передовую исследовательскую группу в области искусственного интеллекта.
20 ноября по местному времени
Более 710 сотрудников OpenAI попросили совет директоров уйти в отставку, иначе они могут коллективно перейти на сторону Microsoft
Продолжение следует…
# Добро пожаловать на официальную общедоступную учетную запись WeChat Aifaner: Aifaner (идентификатор WeChat: ifanr). Более интересный контент будет предоставлен вам как можно скорее.
Ай Фанер | Исходная ссылка · Посмотреть комментарии · Sina Weibo