После основания OpenAI: Мечты, разногласия и AGI

Примечание редактора: Когда Сэм Альтман подробно рассказал о видении OpenAI, он без колебаний заявил, что они хотят разработать AGI (искусственный общий интеллект), который будет полезен и безопасен для всего человечества.

После вливания капитала со стороны Microsoft многие люди начали сомневаться в следующем: сможет ли OpenAI действительно это сделать?

Столкнувшись с этим вопросом, Сэм Альтман дал утвердительный ответ.

Bloomberg недавно создал серию подкастов из четырех эпизодов «Основание: история OpenAI», документирующую взлет Сэма Альтмана в попытке полностью понять одного из самых важных основателей нашего времени.

Сегодня мы переводим второй выпуск этой серии подкастов. Он включает в себя следующее:

Многогранная природа AGI. OpenAI считает, что приложить все усилия для создания AGI — важная концепция. Это могло бы решить многие глобальные проблемы, но также создает беспрецедентные риски, включая неконтролируемый искусственный интеллект и серьезные социальные последствия.

Эволюция OpenAI: от инноваций, основанных на данных, к тщательному обмену моделями. Как OpenAI остается «открытым» под влиянием коммерческих факторов?

Борьба за власть в OpenAI: стремление Илона Маска к большему контролю привело к разногласиям с некоторыми сотрудниками OpenAI. Под руководством Сэма Альтмана OpenAI превратилась из некоммерческой в ​​коммерческую.

Ссылка на оригинальный подкаст:

Я хочу начать с мечты о создании ИИ.

Эту мечту придумывали и писали на протяжении десятилетий, пока человечество работало вместе над созданием новой сущности, более могущественной, чем мы сами. Некоторые исследователи полагают, что эта мечта может вскоре сбыться.

Однажды цифровой мозг наших компьютеров станет таким же хорошим или лучше, чем наш биологический мозг. Компьютеры станут умнее нас. Мы называем это общим искусственным интеллектом (AGI).

Об этом говорит Илья Суцкевер, один из сооснователей OpenAI. В прошлогоднем выступлении на Ted Talk он часто вел себя как религиозный мистик, говоря о будущем искусственного интеллекта.

Но сейчас он просто говорит о поиске AGI, типа искусственного интеллекта, который может думать и решать проблемы, как люди. Он может свободно переключаться между играми, решением научных задач, созданием прекрасных произведений искусства и вождением автомобилей.

Цель OpenAI — создание AGI. В мире ИИ эта идея раньше была очень авангардной, по крайней мере, раньше. Илья описывает AGI как почти мистический, важный скачок вперед, подобный Прометею, несущему огонь, с последствиями, которые будут огромными. Это приведет нас к технологической славе, но также и к хаосу. В документальном фильме «iHuman» он выразил уверенность в будущих переменах.

Появление искусственного интеллекта сейчас — это большое событие, потому что искусственный интеллект решит все проблемы, с которыми мы сталкиваемся сегодня. Он будет решать проблемы занятости, болезней и бедности. Но это также принесет новые проблемы. Проблема фейковых новостей станет более серьёзной, кибератаки станут более серьёзными, и у нас появится полностью автоматизированное оружие искусственного интеллекта.

Илья — высококвалифицированный исследователь искусственного интеллекта, который до прихода в OpenAI работал в Google. Он испытывает глубокую и страстную привязанность к человечеству. Он умеет играть на фортепиано и рисовать. Одна из его картин висит в офисе OpenAI. Это цветок в форме логотипа компании.

В то же время он очень сосредоточен на исследованиях ИИ. Однажды он сказал репортеру: «Я живу очень простой жизнью. Я хожу на работу, а затем иду домой. Больше я ничего не делаю. Я не участвую в них».

Он проводит много времени, наблюдая за траекторией развития ИИ и пытаясь предсказать будущее. Особенно Илью беспокоит, будут ли у AGI свои желания и цели. Эту фантазию можно услышать в его словах.

Дело не в том, что он будет активно ненавидеть людей и хотеть причинить им вред, но он станет слишком могущественным. Я думаю, что хорошей аналогией является то, как люди обращаются с животными. Мы не ненавидим животных, но когда нам нужно построить шоссе между двумя городами, мы с ними не советуемся. Вполне возможно, что поверхность Земли может быть покрыта солнечными панелями и центрами обработки данных.

Я хочу здесь на мгновение остановиться: это создает очень сильный, мощный образ того, что мы создаем некое новое существование. Оно будет нами заинтересовано, но в конечном итоге равнодушно, как и мы с оленями.

Что меня больше всего поразило в этой записи, так это тон Ильи, в котором был не страх, а трепет. Илья представляет себе ИИИ, который может перевернуть нас ради достижения своих целей, драматический сценарий, который трудно по-настоящему понять. Эта концепция сверхъестественной, всемогущей сущности имеет очень сильный религиозный подтекст.

Должен отметить, что это все чисто теоретически, и до AGI нам еще далеко. OpenAI в настоящее время изо всех сил старается разработать модели, которые смогут достоверно имитировать людей, но между имитацией и ИИ, способным мыслить независимо, все еще существует большой разрыв. Тем не менее, OpenAI хочет это сделать, хочет быть лучшим и первым. Вот что сказал Сэм Альтман, давая показания перед Конгрессом в 2023 году:

Меня больше всего беспокоит то огромное влияние, которое мы окажем на мир. Вся наша область, технологии и промышленность могут нанести миру «значительный вред». Вот почему мы основали эту компанию. Я думаю, если что-то пойдет не так с этой технологией, это может пойти «ужасно неправильно».

Вы слушаете «Foundering», а я ваша ведущая Эллен Хьюитт. В этом выпуске мы познакомим вас с хаотичными и идеалистическими ранними днями OpenAI.

Мы обсуждаем мечту о создании всемогущего искусственного интеллекта, что очень важно. Потому что это то, к чему быстро движется OpenAI, — гонка этого поколения на Луну. Мы обсудим, как технология искусственного интеллекта резко и быстро меняется, и как эти изменения приближают мечту об искусственном интеллекте как никогда.

Всего за несколько лет она прошла путь от любопытной идеи, над которой смеялись, до важной вехи, которую, по мнению некоторых экспертов, можно достичь за несколько лет. Сэм Альтман даже предположил, что это может произойти в 2028 году. Мы также рассмотрим компромиссы, на которые пошла OpenAI в реализации этой мечты.

Первоначально компания пообещала широко делиться своими исследованиями и не поддаваться коррумпированности из корыстных побуждений. Но когда их технологии начали развиваться и казалось, что они могут обрести большую мощь, они сделали разворот. Затем этот критический момент перерос в борьбу за власть внутри OpenAI, когда бразды правления взял на себя Сэм Альтман.

Начнем с 2015 года. В то время OpenAI только что была основана при участии Илона Маска в размере 1 миллиарда долларов, а также средств других доноров. Это была небольшая молодая исследовательская лаборатория.

В первые дни Сэм и Илон не часто бывали рядом. В то время Сэм фактически все еще руководил стартап-акселератором Y Combinator, но уже начал позиционировать себя как идейного лидера в области искусственного интеллекта. В частности, он говорил о сценариях конца света для ИИ.

В 2015 году он заявил в блоге, что развитие сверхчеловеческого машинного интеллекта может стать величайшей угрозой для дальнейшего существования человечества. Он также написал, что ИИ может уничтожить каждого человека во Вселенной. В том же году на технологическом мероприятии он упомянул о скором создании OpenAI.

Фактически, я только что согласился профинансировать компанию, занимающуюся исследованиями в области безопасности ИИ. Знаете, я думаю, что ИИ, вероятно, станет причиной конца света. Но тем временем появятся несколько замечательных компаний, использующих передовые методы машинного обучения.

Я хочу поговорить об этой цитате. Он говорит, что ИИ может убить нас всех, хотя и просит нас доверять его выводам как эксперта. Но он также «бойкий», когда дело доходит до зарабатывания денег.

На заре OpenAI Сэм и Илон не часто участвовали в повседневной работе. Они выходят и разговаривают с людьми, набирают таланты, разговаривают с репортерами. Они приходят примерно раз в неделю и сообщают о ходе работы. В такие дни Сэм вмешивался в разговор и уходил.

Он кажется мне очень умным, сообразительным и очень эффективным. Когда разговор окончен, все кончено.

Это Питер Абеле, исследователь, работавший в OpenAI в течение первых двух лет ее существования. По его словам, в первые дни своего существования OpenAI выглядел как типичный стартап. Некоторое время у них даже не было офиса, и они встречались дома у одного из соучредителей.

Мы начали работать в квартире Грега Брокмана в районе Мишн Сан-Франциско в конце 2015 — начале 2016 года. В основном мы сидим на диване, на кухонной стойке и в постели, и именно здесь происходит вся работа. Безумно представить, что здесь может начаться такой огромный проект. У нас есть 20 лучших исследователей искусственного интеллекта в мире, которые сосредоточены на достижении того, чего никогда раньше не делалось.

В отсутствие Сэма и Илона главными лидерами были двое мужчин, которые позже сыграли важные роли. Они не знаменитости, но в будущем сыграют огромную роль.

Один — Грег, чья квартира служит им офисом, а другой — Илья, учёный по искусственному интеллекту, о котором мы слышали в начале эпизода. Вы можете думать о Греге как о трудоголике, отвечающем за бизнес-операции, а об Илье как о гении искусственного интеллекта.

Вместе они управляли OpenAI, и Питер вспоминал, как каждую неделю гулял с Ильей по улицам Сан-Франциско, обсуждая общую картину и спрашивая себя, правильно ли мы решаем проблему?

Думаю, он увидел потенциал ИИ раньше и яснее, чем кто-либо другой. Он был более оптимистичен, чем другие, и придумывал аналогии. Например, нейронная сеть — это просто компьютерная программа, просто схема, просто мы ее программируем по-другому.

Тем временем Грег продолжал усердно работать.

Грег — тот человек, который вкладывает в свою работу сердце и душу. Он мог продолжать работать и работать. Я видел таких людей, но очень мало.

Даже после того, как OpenAI переехала из квартиры Грега, он по-прежнему практически жил в офисе. Один бывший сотрудник рассказал, что он все еще работал за своим столом, когда они пришли на работу утром, и все еще печатал на клавиатуре, когда они уходили вечером.

Когда несколько лет спустя Грег женился, он даже провел в офисе светскую церемонию. Украшенный большой цветочной фоновой тканью, форма цветка также является логотипом OpenAI. Кольцо держала рука робота, а ведущим свадьбы был Илья.

Когда Грег и Илья присоединились к OpenAI, им не нужны были деньги. Илья продал компанию Google, а Грегу принадлежала доля Stripe, и эта компания стоила десятки миллиардов долларов.

В Кремниевой долине люди обычно создают стартапы, потому что думают, что могут построить прибыльный бизнес. Но OpenAI — некоммерческая организация. Грег и Илья вдохновились этой мечтой.

Это Рид Хоффман, один из первых спонсоров OpenAI:

Первоначальная команда не получает прибыли от собственного капитала. Они делают это ради человечества.

«Это для человечества», — всегда говорил OpenAI. На их веб-сайте указано, что наша миссия — обеспечить, чтобы AGI приносил пользу всему человечеству.

Что ж, ни для кого не секрет, что Кремниевая долина любит грандиозные заявления о миссии, а WeWork хочет повышать глобальную осведомленность, но заявление о миссии OpenAI еще более грандиозно, с оттенком альтруизма.

Когда Сэм рассказывает о работе компании, он часто упоминает потенциальные катастрофы. Здесь он разговаривает с Ребеккой Джарвис из ABC, его голос снова серьезен, поскольку он позиционирует себя как идейный лидер в этой области. Итак, какой же худший исход?

Сэм Альтман: Меня особенно беспокоит то, что эти модели могут быть использованы для крупномасштабной дезинформации. Теперь, когда они стали лучше писать компьютерный код, я беспокоюсь, что эти системы могут быть использованы для наступательных кибератак.

Ребекка Джарвис: Вы делаете важный вывод: люди, управляющие машинами, теперь также обладают огромной силой.

Сэм Альтман: Мы очень обеспокоены тем, что авторитарные правительства разрабатывают эту технологию.

Ребекка Джарвис: Путин однажды сказал, что тот, кто победит в этой гонке ИИ, по сути, будет контролировать человечество. Согласны ли вы с этим утверждением?

Сэм Альтман: Это действительно пугающее заявление.

Сэм говорит, что эта вещь настолько ценна, что мировые сверхдержавы будут бороться за нее. Скептики полагают, что если вы заявите, что то, над чем вы работаете, важно, вы привлечете больше внимания и финансирования. Мы сосредоточимся на этой перспективе в следующем выпуске.

На заре существования OpenAI их планы по спасению человечества были неясны. Их стратегия была немного разрозненной, вот воспоминания Питера:

Мы рассмотрели робототехнику, где провели некоторые исследования; мы рассмотрели аналоговых роботов, в которых мы потратили большой опыт, и мы рассмотрели цифровых агентов, которые могут выполнять различные задачи в сети; например бронирование авиабилетов. Мы также рассмотрели видеоигры.

OpenAI заявляет, что одной из ее первых целей будет создание робота-дворецкого, который сможет накрывать и убирать со столов. Как горничная из «Джетсонов».

Компания также создала роботизированную руку, которая может собирать кубик Рубика одной рукой, и приложила много усилий для разработки робота, способного играть в Dota 2, чрезвычайно популярную многопользовательскую онлайн-игру. Они считают, что сложность игровой среды может позволить ИИ лучше ориентироваться в реальном мире.

Вот кто-то тестирует бота:

Этот робот потрясающий, намного лучше, чем я ожидал.

Эти боты Dota соревнуются даже с профессиональными игроками:

Готовьтесь заранее, акция начинается! Итак, ИИ получил первую каплю крови…

Бот, который может играть в Dota, технически впечатляет, но обычному человеку он так не кажется, и коммерческое применение этих продуктов не сразу очевидно. Вот комментарий бывшего сотрудника:

Мы делаем случайные вещи и наблюдаем, что происходит. Иногда создается впечатление, что между тем, что было построено, и тем, что представлялось, существует большой разрыв. Люди программируют роботов, чтобы они играли в видеоигры в течение дня, а затем сидят за столом за обедом и говорят о спасении человечества.

В области искусственного интеллекта распространено мнение: чтобы создать что-то мощное, иногда нужно начинать с чего-то тривиального. Видеоигры и роботы-горничные проложат путь к беспилотным автомобилям и искусственному интеллекту, лечащему рак.

Внутри OpenAI они иногда сравнивают себя с Манхэттенским проектом, командой, ответственной за создание первой атомной бомбы, и считают, что это хорошая вещь, амбициозная и важная. Вот что мне рассказал другой бывший сотрудник:

Это гонка вооружений, все хотят создать первый ОИИ и думают, что смогут сделать это лучше всех. Я не вижу особого страха по поводу самого ИИ, я просто вижу энтузиазм по поводу создания ИИ.

В 2015 году ИИ выглядел совсем иначе, чем сегодня: он был слабее и его труднее обучать. Большим прорывом того времени стало то, что робот смог победить лучших игроков мира в Го, сложной стратегической настольной игре из Китая. Но этот ИИ может играть только в Го и больше ничего не умеет.

Это Орен Этциони, профессор информатики и бывший директор научно-исследовательского института искусственного интеллекта:

Эти системы являются узконаправленными и очень адресными. Система, которая играет в Го, не может даже играть в шахматы, не говоря уже о том, чтобы переходить улицу или понимать язык. А система, которая предсказывает колебания цен на авиабилеты и может очень точно прогнозировать повышение или понижение цен на авиабилеты, не может обрабатывать текст. По сути, каждый раз, когда появляется новое приложение, вам необходимо обучать новую систему. Это занимает много времени, требует большого количества аннотированных данных и т. д.

Но затем технология искусственного интеллекта совершила крупный прорыв. В 2017 году группа исследователей из Google Brain опубликовала статью под названием «Внимание — это все, что вам нужно». В этой статье они описывают новую архитектуру искусственного интеллекта под названием Transformer.

Трансформер сделал что-то очень важное для своего времени. Система искусственного интеллекта должна вводить очень конкретные данные, и каждый фрагмент данных должен быть помечен, это правильно, это неправильно; это спам, а не спам; это рак, не рак…

Но Transformer позволяет ИИ получать беспорядочные, неразмеченные данные. Фактически, он может сделать это более эффективно, чем ожидалось, используя меньшую вычислительную мощность.

Теперь эти модели на основе Transformer могут обучаться самостоятельно. Это немного похоже на то, как если вы хотите научить ребенка читать, вам нужно было нанять репетитора, который будет сидеть и пользоваться карточками, но теперь вы можете позволить ребенку пойти в библиотеку самостоятельно, и он выйдет, зная как читать и писать.

Как описал мне один инвестор, это удивительная и болезненная реальность: лучший ИИ создается не с помощью самых специализированных методов обучения, а с теми, у которых больше всего данных.

Питер, один из первых сотрудников OpenAI, говорит, что Илья сразу увидел его потенциал:

Илья отреагировал уверенно, сказав, что это большой прорыв, на который нужно обратить внимание.

Даже на заре OpenAI у Ильи всегда было предчувствие, что основные достижения в области ИИ будут связаны не с какой-то конкретной настройкой или новым изобретением, а с увеличением количества данных, которые будут вливать в двигатель все больше и больше топлива. Теперь у Ильи есть исследования, подтверждающие его гипотезу.

Вот что сказал Орен еще раз:

Илья из OpenAI известен своим мнением о том, что данные и объемы данных, если мы их значительно увеличим, приведут нас туда, где мы должны быть. Это не распространенное мнение, и многие очень умные и известные люди, в том числе и я, этого не предвидели.

Благодаря настоянию Ильи OpenAI начала экспериментировать с Transformer. Они были одной из первых компаний, сделавших это. Они создали модель, которая генерирует предварительно обученные Трансформеры под теперь уже знакомой аббревиатурой GPT.

Особенно когда начали экспериментировать с производительностью Трансформера при обработке текста. Потому что они могут напечатать любую книгу, газетную статью, сообщение на Reddit, блог. Люди тратят много времени на написание, и теперь у этого текста новая цель: обучающие данные.

Интернет не был создан для обучения ИИ, но, в конечном итоге, это может быть его наследием. Модели OpenAI становятся лучше в генерации текста, и не только в одной области знаний.

Удивительная особенность систем GPT заключается в том, что они настолько широки, что на самом деле являются универсальными. Вы можете задать им практически любую тему, и они дадут вам удивительно хорошие ответы. Это потому, что их научили эффективно предоставлять людям весь корпус текста, миллиарды предложений, все документы, заметки, пустяки, фанфики о Гарри Поттере, которые вы когда-либо читали, и все это загружается на мельницу. Как только вы прочитаете это, оно станет очень универсальным. Итак, впервые у нас есть система, которой вы можете задать любой вопрос, и она даст вам удивительно умный ответ, от узкого ИИ до общего или широкого ИИ.

Введя в модель большие объемы текста, OpenAI обнаружила, что они могут создать ИИ, который будет намного лучше генерировать убедительные ответы. Более того, в какой-то момент они начали беспокоиться, что это может быть слишком хорошо.

Когда впервые появилась языковая модель OpenAI GPT-2, их первоначальным решением было не распространять эту модель более широко, поскольку они были обеспокоены тем, что она может быть опасной. Это Питер, который к тому времени покинул OpenAI и основал собственную компанию, но он помнит сцену в день запуска:

Судя по всему, он понимает язык гораздо лучше, чем все, чему его обучали раньше. Его выпуск действительно сопровождался большим количеством, возможно, хорошим маркетингом, может быть, осторожностью, или и тем, и другим. Его назвали «слишком опасным для выпуска», так что я думаю, что это первый проект, где OpenAI решила не обнародовать часть своей работы. Внезапно мы думаем о том: «Что, если что-то настолько мощное, что люди могут злоупотреблять этим способами, которые мы не можем контролировать?»

Как только у OpenAI появится действительно сильный продукт, они начнут переосмысливать свою открытость.

В названии OpenAI «Открытый» на самом деле означает, что все будет с открытым исходным кодом, и каждый сможет его использовать.

«Открытость» — ключевая составляющая бренда компании. Когда они были запущены, Сэм сказал репортеру Стивену Леви: «Это будет открытый исходный код, и каждый сможет его использовать».

Он также сообщил журналистам: «Их ИИ будет свободно принадлежать всему миру. Программное обеспечение с открытым исходным кодом, в широком смысле, означает, что исходный код является общедоступным, и каждый может самостоятельно корректировать код и распространять его». эти обязательства.

Очевидно, со временем это стало чем-то, что не было полностью открытым исходным кодом или даже вообще открытым исходным кодом. Я имею в виду, что они определенно не собираются открывать исходный код своей работы сейчас.

Этот дух открытого исходного кода, похоже, постепенно исчезает. Ниже приводится речь Сэма, произнесенная в Мюнхене в 2023 году:

Мне любопытно, если мы сохраним траекторию GPT-2, GPT-3, GPT-4, а затем GPT-5 и GPT-6, сколько людей захотят, чтобы мы открыли исходный код GPT-6 в день завершения обучения? ?

Ух ты, ладно, мы не собираемся этого делать, но это весело.

Честно говоря, Сэм здесь выглядит довольно высокомерным. Он знал, что OpenAI изначально обещала быть открытым исходным кодом. Теперь он спрашивает свою аудиторию о том, что они думают о модели с открытым исходным кодом, а затем сразу же отвергает их ответы.

С годами Сэм слегка изменил значение слова «открытый», став более двусмысленным. Вот что он сказал в венчурной фирме:

Это то, что мы называем OpenAI, и мы хотим, чтобы эта технология была открыта для всех.

Он сказал это так естественно, как будто было очевидно, что означает открытость. Но его определение кажется мне настолько расплывчатым, что оно по существу бессмысленно. Я имею в виду, что поиск Google открыт для всех. Похоже, что OpenAI рад заставить людей гадать о том, что они подразумевают под открытостью.

Всего через несколько месяцев после основания компании Илья написал во внутреннем электронном письме:

По мере того, как мы приближаемся к созданию ИИ, имеет смысл стать менее открытыми. «Открытость» в OpenAI означает, что каждый должен извлечь выгоду из результатов ИИ, но нет необходимости делиться наукой, хотя в краткосрочной и, возможно, среднесрочной перспективе делиться всем — определенно правильная стратегия для привлечения талантов.

Это письмо очень интересно, поскольку оно показывает, что с самого начала OpenAI планировала не делиться своей наукой свободно. Они не хотят иметь открытый исходный код, как они заявляют, но хотят поддерживать открытый имидж, потому что это дает им преимущество при наборе персонала.

Например, не создавайте ИИ для плохих парней, приходите работать на нас. Когда мы спросили об изменении определения открытости, представитель компании сказал: «Наша миссия осталась прежней, но нашу стратегию пришлось изменить».

Хорошо, вернемся в 2017 год. Через два года после основания компании в OpenAI возникла новая проблема: борьба за власть.

Илон хочет взять на себя управление, он из тех парней, которые привыкли быть главными. По данным OpenAI, он хочет передать компанию под контроль Tesla и стать генеральным директором с контрольным пакетом акций. Если что-то пойдет не так, он уйдет.

Как и во всем, что касается Илона, со временем он хочет получить больше контроля и убедиться, что компания управляется так, как он хочет. Это создает напряжение.

Это моя коллега Эшли Вэнс, написавшая биографию Илона.

Предпочитаемая роль Илона во всем — быть генеральным директором и доминирующей силой, контролирующей повседневные операции.

На самом деле Грег Брокман и Илья Суцкевер, отвечающие за повседневную работу, очень бдительны. Хотя Илон безрассуден, импульсивен и с ним трудно ладить, он также является их основным источником финансирования.

Он пообещал выделить почти 1 миллиард долларов. У OpenAI есть и другие доноры, но ни один из них не приблизился к такой сумме. Один из вариантов — остаться с Илоном и сохранить его капитал.

Сотрудники не совсем в восторге от этой идеи и имеют некоторые опасения. Итак, мы подошли к моменту принятия решения: стоит ли нам остаться с Илоном или оставить его? В последние годы люди почти всегда мирились с Илоном и его требованиями.

Или другой вариант — отделиться от Илона и найти другие источники финансирования. Знаете ли вы кого-нибудь, кто мог бы хорошо собирать деньги? Сэм Альтман.

Основное внимание было уделено тому, что Илон хотел, чтобы компания шла одним путем, а сотрудники хотели идти другим, поэтому Сэм был выбран, чтобы вести OpenAI вперед.

В первые несколько лет Сэм мало занимался OpenAI. На самом деле он по-прежнему является президентом Y Combinator, но в этой борьбе за власть Сэм побеждает Илона, и это очень важно. Илон более известен, более опытен и особенно ненавидит проигрывать.

В конфликте реакция Илона — победить любой ценой. Илон в последние годы редко проигрывал «битву». Обычно, если он не внутри компании, он подает на кого-то в суд, чтобы заставить его уступить; если он внутри, он будет настаивать на политике, пока не получит то, что хочет. Трудно найти пример за последние годы, когда бы он не добился желаемых результатов. Так что беспорядки внутри компании должны быть очень серьезными, чтобы этого не произошло.

Итак, в 2018 году Илон ушел и забрал с собой свой капитал. Несколько лет спустя он фактически подал в суд на Сэма и OpenAI, утверждая, что они нарушили свои первоначальные обещания в отношении некоммерческой деятельности и открытого исходного кода.

Вскоре после ухода Илона генеральным директором OpenAI стал Сэм. Раньше здесь не было генерального директора, но борьба за власть определила новое доминирование Сэма в компании. Помните, что однажды сказал основатель YC? «Сэм очень хорошо умеет быть сильным».

Интерес Сэма к OpenAI продолжал расти, и его внимание начало переключаться с управления YC. Действительно, управление всемирно известным акселератором стартапов — это позиция с большим влиянием.

Но гонка за AGI накаляется, и если OpenAI удастся создать AGI раньше, чем это сделает кто-либо другой, трудно представить себе должность с большей властью, чем ее генеральный директор. Однако Сэм не сразу бросил работу в YC.

Ситуация делает некоторых людей, которые используют ускорители, недовольными. Они чувствовали, что Сэм слишком сильно отвлекался, действовал слишком быстро и ставил свои интересы выше YC. Это создало ему врагов в его собственной команде.

Фактически, согласно одному источнику, наставник Сэма Пол Грэм, человек, который первоначально назначил его на эту должность, прилетел из Великобритании, чтобы лично попросить Сэма уйти в отставку. Пол разуверился в своем бывшем протеже, но и не хотел устраивать публичную драму. Поэтому Сэма уговорили уйти, они вели себя сдержанно, и теперь он занимается только OpenAI.

У Сэма большая цель — собрать средства для обучения моделей OpenAI. Они требуют много вычислительной мощности, а вычислительная мощность стоит дорого. Сэм пытался собрать деньги, но безуспешно. Вот что он сказал в подкасте Лекса Фридмана:

Мы начинали как некоммерческая организация. Мы сразу поняли, что нам нужно гораздо больше денег, чем мы могли собрать как некоммерческая организация, чтобы сделать то, что нам нужно. Мы несколько раз пытались собрать деньги как некоммерческая организация, но потерпели неудачу. Мы не видим там пути вперед. Поэтому нам нужны некоторые блага капитализма, но не слишком большие. Я помню, как кто-то сказал, что для некоммерческой организации дела не зайдут достаточно далеко, а для коммерческой организации дела зайдут слишком далеко;

Им нужно было что-то среднее, и, честно говоря, Сэма не слишком беспокоила жизнь после некоммерческой деятельности. Он собрал что-то воедино и, по сути, создал коммерческую организацию, которая была аффилирована с первоначальной некоммерческой организацией.

Коммерческая организация может делать все, как обычная компания, например, привлекать инвестиции и предоставлять акционерный капитал сотрудникам, но доходы ее инвесторов ограничены, тогда как в других компаниях они неограничены.

Эта корпоративная структура была собрана воедино, и OpenAI теперь, по сути, является коммерческой организацией, контролируемой советом директоров некоммерческой организации, что звучит немного шатко. OpenAI несколько лет утверждала, что станет некоммерческой организацией, и теперь нашла это коммерческое решение.

После этого изменения многие люди были недовольны. Но OpenAI больше сосредоточена на своей конечной цели: они хотят создать AGI и им необходимо собрать средства для достижения этой цели.

Затем, в 2019 году, трейдер Сэм совершил крупную сделку: он получил от Microsoft 1 миллиард долларов. Вот что сказал генеральный директор Microsoft Сатья Наделла после подписания соглашения:

Привет, я здесь с Сэмом Альтманом, генеральным директором OpenAI. Сегодня мы очень рады объявить о нашем стратегическом партнерстве с OpenAI.

Важно отметить, что у Microsoft есть много необработанных вычислительных мощностей, которые теперь может использовать OpenAI. Помните, что OpenAI изначально задумывался как «противоядие» Google. Они представили себя фундаментально отличными от жаждущих прибыли технологических гигантов, а затем в одночасье стали тесно связаны с технологическими компаниями стоимостью более триллиона долларов.

OpenAI теперь во многом является ответвлением Microsoft, что является значительным сдвигом. Рид Хоффман, который в то время входил в советы директоров OpenAI и Microsoft, не рассматривал это как отказ от первоначального обещания OpenAI.

Были опасения, что это подорвет миссию. Но я думаю, что это современная наивность думать, что корпорации — это плохие или коррумпированные, потому что существует очень много способов взаимодействия корпораций с людьми и обществом. Они стараются обслуживать клиентов, нанимать сотрудников, иметь акционеров и существовать в обществе.

По мнению Рида, желание зарабатывать деньги не означает, что вы плохой, и это является фирменным знаком венчурного капиталиста-миллиардера.

У меня такое ощущение, что сделка с Microsoft может стать для OpenAI наиболее практичным способом продолжить свою миссию по созданию безопасного искусственного интеллекта для всего человечества. Но это также подчеркивает важную особенность: OpenAI имеет тенденцию отказываться от своих обещаний, когда это удобно.

При этом люди начали сомневаться в честности Сэма как внутри, так и за пределами компании.

Это приведет к большой трещине.

Увидимся в следующем выпуске «Основания»!

# Добро пожаловать на официальную общедоступную учетную запись WeChat Aifaner: Aifaner (идентификатор WeChat: ifanr). Более интересный контент будет предоставлен вам как можно скорее.

Ай Фанер | Исходная ссылка · Посмотреть комментарии · Sina Weibo