Внутренняя история разрыва Маска с OpenAI полностью раскрыта! Это письмо заставило его сломать бдительность и сердито сказать: «С меня достаточно».
В то же время, находясь у руля SpaceX, Tesla, Neuralink и многих других компаний, Маска можно назвать шестиугольным воином в мире технологий.
И если бы не его жалоба на нынешнего генерального директора OpenAI Сэма Альтмана, многие люди могли бы не знать, что OpenAI имеет с ним глубокую связь, и даже название OpenAI произошло от Маска.
Для получения конкретной справочной информации вы можете просмотреть предыдущие статьи APPSO:
2. Маск подал в суд на Ультрамена за «вымогательство», проиграет ли GPT-5?
С течением времени эта обида и запутанность не исчезли с ветром.
Нет, недавно Маск вновь раскрыл серию переписок по электронной почте с руководителями OpenAI. Хотя мы можем не знать всей истории, благодаря этим ключевым записям электронной почты мы сможем составить более полную картину вражды.
Прежде чем приступить к еде, нам нужно кратко представить ключевых игроков в этой серии писем:
- Сэм Альтман: нынешний генеральный директор OpenAI
- Илон Маск: соучредитель OpenAI, а также управляет многими компаниями, такими как SpaceX, Tesla, Neuralink и т. д.
- Грег Брокман: нынешний президент OpenAI
- Илья Суцкевер: бывший главный научный сотрудник OpenAI
- Андрей Карпати: член-основатель OpenAI и бывший директор Tesla AI.
- Шивон Зилис: бывший консультант OpenAI, присоединился к Tesla в 2017 году, тесные отношения с Маском.
Прилагаем адрес электронной почты с разоблачением: https://www.lesswrong.com/posts/5jjk4CDnj9tA7ugxr/openai-email-archives-from-musk-v-altman?utm_source=www.therundown.ai&utm_medium=referral&utm_campaign=explosive-openai-musk. – раскрыты электронные письма#comments
Прикрепленная запись о судебном деле: https://www.courtlistener.com/docket/69013420/musk-v-altman/
Картина дынеядной версии выглядит следующим образом:
В Кремниевой долине в 2015 году волна искусственного интеллекта напоминала морскую воду во время прилива: она поднималась тихо, но неудержимо.
Теплым майским днем Сэм Альтман и Илон Маск провели содержательную беседу по электронной почте. Оба поняли, что развитие искусственного интеллекта невозможно остановить, и вместо того, чтобы сидеть сложа руки и наблюдать за доминированием Google, лучше было найти другой путь.
Таким образом, между двумя технологическими магнатами был выработан амбициозный план.
«Нам нужна некоммерческая организация, — предположил Альтман, — чтобы мы могли привлекать лучшие таланты, которые действительно заботятся о направлении развития ИИ».
Более того, по замыслу Ультрачеловека, это гениальное беспроигрышное решение: технологические достижения принесут пользу всему человечеству некоммерческим методом, а после успеха проекта участники все равно смогут получить щедрую прибыль, сравнимую с доходами от открытия бизнеса. .
Два месяца спустя Маск, который собирался расстаться с основателем Google Ларри Пейджем, еще не определился, но его одобрение идеи уже началось, и из идеи о вас родился OpenAI. и я родился.
Отправная точка OpenAI, стартует летом
С наступлением лета 2015 года Альтман приступил к разработке структуры управления OpenAI.
Альтман сформировал основную команду из пяти человек, чтобы передать фонду права собственности на технологии и служить глобальным общественным интересам. Маск, с другой стороны, с готовностью принял роль, подобную роли «партнера по совместительству».
Безопасность находится в центре внимания OpenAI.
У этой основной команды из пяти человек также будет важная миссия: тщательно решить, какие результаты исследований должны быть открытыми, а какие следует держать в секрете.
До официального учреждения OpenAI остался всего месяц, и песочные часы времени текут каждую минуту, и каждое решение становится все более и более важным.
В ноябре к дискуссии присоединился Грег Брокман. В электронных письмах, которыми он обменивался с Маском, он выступал за то, чтобы OpenAI вышла в сферу искусственного интеллекта как нейтральная организация, чтобы обеспечить быстрое развитие и занять лидирующие позиции в области исследований.
8 декабря, когда до создания OpenAI оставалось всего три дня, в центре дебатов среди членов-учредителей оказались стратегии набора талантов.
Маск подчеркнул, что OpenAI основана на высокой миссии «приносить пользу человечеству», и указание этого во введении к организации является ключом к привлечению лучших талантов. Ультрамен убедился и быстро скорректировал формулировку и направленность представления организации.
Однако в день анонса OpenAI на разум Ультрачеловека упала тень.
Причина в том, что он услышал, что Google Deepmind, самый сильный конкурент, набирает таланты с более благоприятным отношением, что его глубоко беспокоит. Он обеспокоен тем, что элита OpenAI будет переманена конкурентами.
Поэтому Альтман предложил соответствующим образом повысить зарплаты, чтобы оставаться конкурентоспособными в войне за таланты с DeepMind.
Внимание Маска сосредоточилось на одной ключевой фигуре — Илье Сузквере. Он с тревогой спросил Ультрачеловека, дал ли Илья четкий ответ. Чтобы завоевать этот талант, он даже выразил готовность круглосуточно участвовать в рекрутинговой работе.
В конце концов, Маск не мог не воскликнуть от радости, когда Элайджа присоединился.
Днем 11 декабря Маск с большим волнением отправил электронное письмо ранней элитной команде OpenAI:
Поздравляем с отличным началом!
Наши человеческие ресурсы и возможности далеки от тех, что есть у некоторых организаций, с которыми вы знакомы, но на нашей стороне справедливость, и это очень важно. Я оптимистично смотрю на наши шансы. Наша самая важная миссия – привлечь лучших специалистов.
Результаты компании являются всесторонним отражением способностей ее сотрудников. Если мы привлечем самых талантливых людей и будем двигаться в правильном направлении, OpenAI добьется успеха.
Это письмо, полное ожиданий, содержит список ныне известных имен в столбце получателя: Илья Сузквер, Памела Вагатта, Вики Чжан, Дидрик Кингма, Андрей Капаси, Сэм Альтман и т. д.
Вступая в 2016 год, команда приступила к уточнению оперативного плана.
Брокман и Маск неоднократно обсуждали и, наконец, окончательно согласовали пакет заработной платы для первой группы штатных сотрудников.
Члены команды-основателя могут получать годовую зарплату в размере 275 000 долларов США плюс 0,25% акций компании YC; новые сотрудники могут выбрать годовую зарплату в размере 175 000 долларов США + годовой бонус в размере 125 000 долларов США или эквивалентную сумму акций YC или SpaceX.
Хотя этот пакет заработной платы может показаться щедрым, на самом деле он намного ниже отраслевых стандартов.
Большинство основных технических сотрудников согласились на сокращение зарплаты, когда присоединились к OpenAI. Даже вознаграждение стажеров ниже рыночного уровня: $9 000 в месяц, что действительно меркнет по сравнению с той же зарплатой плюс бесплатное проживание, предоставляемое Facebook (Meta), или пакетом «все включено» стоимостью около $11 000, предоставляемым Google.
Однако в условиях жесткой конкуренции со стороны DeepMind Маск выразил готовность пересмотреть стандарты заработной платы, исходя из необходимости привлечения лучших талантов со всего мира.
Игра между бизнесом и идеалами
В тот период внешняя реклама OpenAI практически полностью реализовала идеи Маска.
Это влияние распространяется даже на детали сообщений СМИ — когда Брокман дает интервью журналу Wired, ему необходимо свериться с Маском по определенным ключевым вопросам, чтобы убедиться, что заявление точно и соответствует взглядам Маска.
К апрелю 2016 года, когда Цукерберг позиционировал ИИ как чисто сервисный инструмент и опроверг теорию угроз ИИ, Маск стал настаивать на том, что ИИ — это палка о двух концах. Эта разница во взглядах точно отражала первоначальные намерения, заложенные им в основу OpenAI.
Человечеству следует подходить к развитию ИИ с осторожностью и гарантировать, что его мощь будет широко распространена и не будет контролироваться одной компанией или отдельным лицом.
В сентябре того же года перед командой OpenAI появилась важная возможность.
Microsoft предложила привлекательный план сотрудничества: OpenAI нужно всего лишь инвестировать 10 миллионов долларов США в обмен на вычислительные ресурсы на сумму 60 миллионов долларов США, а также она может предоставить предложения по развертыванию облачных сервисов Microsoft.
Однако дополнительными условиями этого сотрудничества является то, что OpenAI необходимо оценить и оптимизировать технологические продукты Microsoft и поддержать Azure.
Маск сразу же выразил отвращение и наложил вето на это предложение.
Наконец, при посредничестве Альтмана OpenAI и Microsoft достигли соглашения на сумму 50 миллионов долларов без каких-либо обязательных условий. OpenAI может самостоятельно принять решение о продвижении продуктов Microsoft «добросовестно».
В середине 2017 года компания OpenAI, которая двигалась полным ходом, совершила важный прорыв. Они успешно разработали знаковый проект — робот-рука, способный собирать кубик Рубика. Ожидается, что физический робот будет обладать такой же способностью в сентябре.
В то же время Илья взволнованно сообщил Маску, что робот OpenAI 1 на 1 полностью заблокировал все возможные лазейки и может эффективно противостоять любой нетрадиционной стратегической атаке.
Он уверенно предсказывает, что в течение месяца эта система ИИ сможет победить всех игроков-людей в игре. Даже конкурирующая компания DeepMind начала использовать один из алгоритмов OpenAI для оптимизации контроля поведения в своих моделируемых средах.
Однако по мере того, как OpenAI процветает, конфликты внутри организации всплывают на поверхность, словно скрытые рифы.
Подводное течение организации
В конце лета 2017 года среди основной команды состоялась важная дискуссия о будущем организации. Эта дискуссия в конечном итоге стала важным поворотным моментом в развитии OpenAI.
Брокман и Илья выбрали тихие выходные, чтобы тайно поговорить. В этом разговоре они наконец-то излили все тревоги, которые давно тяготили их умы.
Однако они, возможно, не ожидали, что содержание этого разговора дойдет до ушей Маска через консультанта OpenAI Шивона Зиллиса и вызовет бурю, которая может изменить судьбу организации.
В ходе этой противоречивой секретной беседы они сделали ряд заявлений:
- Во-первых, они полагают, что если AGI (искусственный общий интеллект) будет успешно разработан, ни один человек не должен монополизировать контроль, и надеются постепенно реализовать децентрализацию власти в течение 2-3 лет и создать более демократичный и устойчивый механизм распределения власти;
- Во-вторых, они поставили под сомнение затраты времени Маска на OpenAI и надеялись, что он вложит больше энергии.
- Кроме того, они считают, что команда OpenAI сильна в области программного обеспечения и машинного обучения, и надеются получить дополнительную поддержку в таких областях, как аппаратное обеспечение;
- Наконец, они также попросили расширить пул сотрудников, чтобы их акции превышали 1/10 акций Маска (конкретная пропорция еще предстоит определить).
Содержание этой «тайной встречи» привело Маска в ярость. «Это действительно раздражает», — написал он в ответном письме, его тон был полон гнева и разочарования. «Пожалуйста, побудите их основать компанию. Это повлияло на меня. «Хватит».
В сентябре ситуация снова ухудшилась.
В искреннем электронном письме Илья признал, что он был не слишком откровенен с Брокманом, но он также не уклонился от того, чтобы указать на свои основные опасения.
Илья считает, что сильное стремление Маска к контролю может сделать его диктатором AGI. В то же время он также выразил несогласие с предложением использовать ресурсы Tesla для приобретения компании Cerebras, производящей чипы искусственного интеллекта.
В частности, беспокойство вызывает то, что Tesla обязана нести ответственность перед акционерами и максимизировать прибыль акционеров, что несовместимо с миссией OpenAI. Таким образом, конечный результат может быть неоптимальным для OpenAI.
В то же время Илья также поставил под сомнение мотивацию Ультрамена претендовать на звание генерального директора, и в его голове долгое время копились различные сомнения.
Это письмо-признание было подобно бомбе, мгновенно взорвавшей давние конфликты.
Ответ Маска был коротким и решительным, с нескрываемым гневом в его словах: «Все, с меня достаточно». Он поставил ультиматум: либо расстаться, либо продолжать придерживаться первоначального намерения быть некоммерческой организацией.
Я не хочу быть идиотом и давать вам бесплатный стартовый капитал.
Возможно, по его мнению, этот спор полностью отклоняется от первоначальной цели создания OpenAI.
Столкнувшись с кризисом, Ultraman продемонстрировал превосходные способности антикризисного управления и сразу же выразил поддержку продолжению работы по некоммерческой модели.
Шивон Зиллис также вовремя подал сигнал умеренности. И Илья, и Брокман готовы сохранить некоммерческую модель и не будут начинать новую. Однако этот инцидент все же посеял семена сомнения в сознании Альтмана, заставив его пересмотреть управленческие способности и зрелость принятия решений этих двоих.
В начале 2018 года судьба, казалось, подкинула OpenAI еще одну непростую задачу.
Когда Альтман предложил рассмотреть возможность сбора средств через ICO (распространенный метод в области блокчейна для сбора средств посредством выпуска цифровых токенов), команда безопасности немедленно забила тревогу.
В этот момент Андрей Капаси поделился набором данных с ведущих конференций по глубокому обучению. Этот отчет был похож на пощечину: Google далеко впереди с ошеломляющим количеством представленных 83 статей, а ситуация с OpenAI еще более безрадостна. .
Маск многозначительно отметил: «По сравнению с Google, OpenAI движется к неизбежному провалу».
В этот критический момент различные мнения начали сталкиваться.
В общении с топ-менеджментом OpenAI он дал понять, что хотя ICO и кажется выходом из ситуации, этот выбор нанесет непоправимый ущерб репутации OpenAI. В качестве альтернативы он предложил передать OpenAI в руки Tesla.
Андре также поддерживает предложение объединить OpenAI с Tesla, что, по его мнению, является единственной возможностью конкурировать с Google.
«Если вы не можете конкурировать, но продолжаете проводить исследования, — предупредил он, — вы фактически оказываете Google бесплатную помощь, потому что они могут легко скопировать и масштабировать любой прорыв».
Он считает, что только с помощью денежного потока Tesla можно будет конкурировать с Google.
Маск скопировал письмо Андре и добавил:
Андре абсолютно прав. Возможно, нам хотелось бы, чтобы были другие варианты, но, по нашему с Андре мнению, Tesla — единственный возможный путь к конкуренции с Google. Несмотря на это, шанс стать антитезой Google по-прежнему крайне мал, но он не равен нулю.
Однако после острой конкуренции и тщательного рассмотрения OpenAI наконец открыл беспрецедентный новый путь.
Согласно электронному сообщению, отправленному Шивоном Зиллисом, Альтман подтвердил, что отказался от плана ICO и вместо этого разработал инновационную модель финансирования: сохранить OpenAI Inc. в качестве некоммерческой организации и одновременно создать OpenAI с ограничением прибыли LP. -коммерческое учреждение.
Это была смелая попытка решить проблемы с финансированием, сохранив при этом миссию. Месяц назад разочарованный Маск уже покинул OpenAI.
В апреле 2018 года Альтман также консультировался с Маском по поводу проекта заключения по «Хартии OpenAI», в одном из которых говорилось: «Мы стремимся предоставлять общественные блага, которые помогают обществу двигаться к AGI».
К марту 2019 года новая архитектура OpenAI наконец обрела форму.
OpenAI создала корпоративную структуру с «ограниченной прибылью», которая может привлекать инвестиции и гарантировать, что сверхприбыли принадлежат некоммерческим организациям. Лимит дохода для инвесторов первого раунда ограничен 100-кратной суммой инвестиций, и в будущем это соотношение будет снижено.
В этот исторический поворотный момент Маск уже полностью отстранился.
В пресс-релизе, составленном Альтманом, прямо говорилось, что «Илон Маск покинул совет директоров некоммерческой организации OpenAI в феврале 2018 года и не участвует в OpenAI LP».
Последнее раскрытое электронное письмо было 11 марта 2019 года.
«Bloomberg сообщает: OpenAI, базирующаяся в Сан-Франциско исследовательская организация в области искусственного интеллекта, соучредителем которой является Илон Маск и несколько других известных предпринимателей Кремниевой долины, создает прибыльную дочернюю компанию, чтобы привлечь больше средств».
Маск направил отчет Bloomberg с просьбой к Альтману публично разъяснить Bloomberg, что у него нет финансовых отношений с прибыльной дочерней компанией OpenAI. Ультрачеловек спокойно ответил: «Понял».
Это знаменует конец эпохи и предвещает новое начало.
Эта организация, рожденная на благо человечества, все еще движется вперед к своей миссии, но под нынешним руководством Ультрачеловека этот путь оказывается более извилистым, чем можно было себе представить.
Среди этих опубликованных электронных писем мы также видим группу новаторов с большими амбициями. Технологический прогресс никогда не был гладким, а путь к ОИИ по-прежнему долог и труден.
# Добро пожаловать на официальную общедоступную учетную запись WeChat Aifaner: Aifaner (идентификатор WeChat: ifanr). Более интересный контент будет предоставлен вам как можно скорее.
Ай Фанер | Исходная ссылка · Посмотреть комментарии · Sina Weibo