Маск много раз терпел неудачи, внезапно появился OpenAI, а война ИИ в Кремниевой долине началась десять лет назад

Примечание редактора: «Те, кто утверждает, что больше всего обеспокоен кризисом, который принесет искусственный интеллект, на самом деле наиболее полны решимости создать его и насладиться богатством, которое он принесет».

В этом тематическом репортаже New York Times прослеживается битва ИИ в Кремниевой долине, которая назревала с 2010 года:

1. Маск и соучредитель Google Ларри Пейдж «поссорились» на вечеринке в 2015 году. У них были противоположные взгляды на развитие ИИ.

2. Основатель DeepMind Демис Хассабис впервые использовал шахматы, чтобы привлечь внимание Питера Тиля. При поддержке Тиля DeepMind привлекла внимание Маска и привлекла к нему инвестиции и постепенно росла.

3. «Крестный отец ИИ» Джеффри Хинтон провел «аукцион», и «продал» себя и свою команду. В конце концов, Google успешно приобрела команду доктора Хинтона.

4. Этот аукцион символизирует официальное вступление гигантов Кремниевой долины в войну ИИ. DeepMind «ушла на пенсию» и решила продать.

5. После продажи у DeepMind изначально был «Комитет по этике», который обеспечивал безопасную разработку ИИ, но этот комитет со временем стал неэффективным.

6. OpenAI порывает с Маском и движется к сотрудничеству с Microsoft.

7. Дарио Амодей из OpenAI ушел, чтобы основать Anthropic.

8. OpenAI прошел «экзамен» Билла Гейтса, а GPT был расценен последним как революционная инновация.

Исходный адрес: https://www.nytimes.com/2023/12/03/technology/ai-openai-musk-page-altman.html.

Автор оригинала: Кейд Мец, Карен Вайз, Нико Грант и Майк Айзек.

В июле 2015 года Илон Маск отпраздновал свой 44-й день рождения трехдневной вечеринкой, устроенной его женой на калифорнийском винном курорте, усеянном домиками. Были приглашены только члены семьи и друзья, а дети бегали и играли по престижному особняку в долине Напа.

До того, как Twitter станет X, а Tesla станет прибыльной, оставалось еще несколько лет. Мистер Маск и его жена Талула Райли — актриса, играющая красивого, но опасного робота в научно-фантастической драме HBO «Мир Дикого Запада», — все еще близки к концу своего второго брака. Гостем вечеринки был Ларри Пейдж, тогдашний генеральный директор Google. А искусственный интеллект начал становиться известен публике лишь несколько лет назад, когда его использовали для идентификации кошек на YouTube — с точностью 16%.

Когда в тот первый вечер Маск и Пейдж болтали у костра у бассейна после ужина, темой их разговора был искусственный интеллект. Два миллиардера дружат уже более десяти лет, и г-н Маск иногда шутит, что иногда он проводит ночь на диване г-на Пейджа после ночной игровой сессии.

Но атмосфера той яркой ночи быстро накалилась, когда они начали обсуждать, улучшит ли искусственный интеллект человечество или уничтожит его.

По мере того как дискуссия затягивалась в прохладную ночь, атмосфера становилась все более напряженной, и некоторые из участников вечеринки в возрасте около 30 лет собрались, чтобы послушать повнимательнее. Пейдж шепотом описывает свое видение цифровой утопии после того, как он более десяти лет страдал от необычного заболевания, которое поражало его голосовые связки. По его словам, люди в конечном итоге сольются с машинами с искусственным интеллектом. Однажды за ресурсы будет бороться множество видов разведки, и победит лучший.

Если это произойдет, сказал Маск, мы облажались. Машины уничтожат человечество.

С хрипом разочарования Пейдж настаивает на том, что мы должны следовать описанной им утопии. Наконец, он назвал Маска «видовиком», человеком, который отдает предпочтение людям будущим цифровым формам жизни.

Позже Маск сказал, что унижение стало «последней каплей».

Когда толпа рассеялась, многие выглядели ошеломленными, но в то же время удивленными, полагая, что это всего лишь разновидность эзотерических дебатов, которые часто происходят на вечеринках в Кремниевой долине.

Однако восемь лет спустя дебаты между двумя мужчинами выглядят пророческими. Будет ли искусственный интеллект улучшать мир или разрушать его – или, по крайней мере, причинять ему серьезный вред – вызвал дискуссию среди предпринимателей Кремниевой долины, пользователей чат-ботов, ученых, законодателей и регулирующих органов о том, следует ли нам контролировать этот процесс или отпустить его. дискуссия о развитии.

В ходе этих дебатов группа самых богатых людей мира столкнулась друг с другом: Маск, Пейдж, Марк Цукерберг из Meta, технологический инвестор Питер Тиль, Сатья Сатья Наделла из Microsoft и Сэм Альтман из OpenAI. Все они соперничают за долю в бизнесе, которая однажды может стоить триллионы долларов, и за возможность формировать его.

В основе этого соревнования лежит загадочный парадокс. Те, кто утверждает, что больше всего беспокоится об искусственном интеллекте, наиболее полны решимости создать его и насладиться богатством, которое он принесет. Они оправдывают свои амбиции твердой уверенностью в том, что только они могут помешать искусственному интеллекту представлять опасность для планеты.

Вскоре после той летней вечеринки Маск и Пейдж потеряли связь. Несколько недель спустя Маск ужинал с Альтманом, который в то время руководил технологическим инкубатором, и несколькими исследователями в отдельной комнате отеля Rosewood в Менло-Парке, Калифорния. Это довольно популярное место для обсуждения вопросов сотрудничества, поскольку оно находится недалеко от офисов венчурных капиталистов на Сэнд-Хилл-роуд.

Позже в том же году этот ужин привел к созданию стартапа под названием OpenAI. При поддержке сотен миллионов долларов Маска и других инвесторов лаборатория обещает защитить мир от видения Пейджа.

Благодаря своему чат-боту ChatGPT компания OpenAI фундаментально изменила технологическую отрасль и продемонстрировала риски и потенциал искусственного интеллекта. OpenAI была оценена более чем в 80 миллиардов долларов, по словам двух человек, знакомых с последним раундом финансирования компании, хотя партнерство Маска и Альтмана длилось недолго. С тех пор они перестали разговаривать друг с другом.

«Существуют разногласия, недоверие, эгоизм», — сказал Альтман. «Чем больше людей движутся в одном направлении, тем острее разногласия. Вы видите это также в сектах и ​​религиозных группах. Именно те, кто ближе всего друг к другу, ведут самые ожесточенные бои».

В прошлом месяце разногласия дошли до совета директоров OpenAI. Мятежные члены правления пытались вытеснить Ультрачеловека, потому что считали, что больше не могут доверять ему в создании ИИ, который мог бы принести пользу человечеству. В течение пяти дней хаоса OpenAI выглядела обреченной на крах, пока правление не отступило под давлением ключевых инвесторов и сотрудников, которые угрожали последовать за Альтманом.

Драматическая битва внутри OpenAI дала миру первый взгляд на яростную битву между теми, кто будет определять будущее ИИ.

Но за несколько лет до почти полного краха OpenAI в Кремниевой долине шла малоизвестная, но жестокая конкуренция за технологии, которые сейчас быстро меняют мир. The New York Times взяла интервью у более чем 80 руководителей, учёных и предпринимателей, в том числе двоих, присутствовавших на вечеринке по случаю дня рождения Маска в 2015 году, чтобы рассказать эту историю об амбициях, страхе и деньгах.

Рождение DeepMind

За пять лет до той вечеринки в долине Напа и за два года до успеха видеороликов о кошках на YouTube 34-летний нейробиолог Демис Хассабис зашел в ресторан Питера Тиля. На коктейльной вечеринке в таунхаусе в Сан-Франциско он понял, что нашел золото. В гостиной Тирны, откуда открывается вид на местный Дворец искусств и Лебединый пруд, стоит шахматная доска. Доктор Хассабис когда-то был вторым в мире шахматистом среди юношей до 14 лет.

«Я готовился к этой встрече целый год», — сказал доктор Хассабис. «Я думал, что это будет моя уникальная отправная точка: я знал, что он любит играть в шахматы».

В 2010 году доктор Хассабис и двое его коллег, жившие в Соединенном Королевстве, искали финансирование для начала создания «искусственного общего интеллекта», или AGI, машины, которая могла бы делать все, что может делать мозг. В то время искусственный интеллект мало кого интересовал. После полувека исследований в области искусственного интеллекта не удалось создать ничего похожего на человеческий мозг.

Однако некоторые ученые и мыслители выработали упрямые взгляды на негативное воздействие ИИ. Многие из них, как и эти трое молодых людей из Великобритании, связаны с интернет-философом и исследователем искусственного интеллекта-самоучкой Элиэзером Юдковски. Г-н Юдоковский был общественным лидером, называвшим себя «рационалистом», который позже стал известен как «эффективный альтруист».

Они верят, что ИИ может найти лекарство от рака или решить проблему изменения климата, но они обеспокоены тем, что роботы ИИ могут делать вещи, противоречащие намерениям их создателей. Если машины станут умнее людей, утверждают рационалисты, машины могут восстать против своих создателей.

Тиль сколотил состояние благодаря своим ранним инвестициям в Facebook и раннему партнерству с Маском в PayPal. Он был очарован сингулярностью — темой научной фантастики, описывающей момент, когда разумные технологии больше не смогут контролироваться людьми.

Благодаря финансированию Тиля Юдоковский расширил свою лабораторию искусственного интеллекта и организовал ежегодную конференцию по сингулярности. Несколько лет назад один из двух коллег доктора Хассабиса встретил Юдоковского. Он дал им возможность выступать на собраниях и позаботился о том, чтобы их приглашали на вечеринки Тилля.

Г-н Юдковски представил доктора Хассабиса Тилю. Хассабис думал, что на вечеринке будет много людей, пытающихся выжать деньги из Тиля. Его стратегия заключалась в том, чтобы организовать еще одну встречу. Он рассказал Тилу, что отношения между епископом и рыцарем напряженные. Эти две фигуры имеют одинаковую ценность, но лучшие игроки понимают, что их преимущества сильно различаются.

Это сработало. Очарованный, Тил пригласил их на следующий день встретиться на кухне. Ведущий только что закончил утреннюю тренировку, и его тело блестело от пота. Стюард вручил ему диетическую колу. Все трое представили свою идею, и вскоре Тиль и его фирма венчурного капитала согласились инвестировать в их стартап 1,4 миллиона фунтов стерлингов (около 2,25 миллиона долларов). Он был их первым крупным инвестором.

Они назвали компанию DeepMind, намек на «глубокое обучение» (способ, с помощью которого системы искусственного интеллекта приобретают навыки путем анализа больших объемов данных), нейробиологию и суперкомпьютер с глубоким мышлением, описанный в научно-фантастическом романе «Автостопом по миру». Галактика». К осени 2010 года они построили машину своей мечты. Они твердо верят, что обладают уникальными возможностями для защиты мира, поскольку понимают риски.

«Я не думаю, что это противоречивая позиция», — сказал Мустафа Сулейман, один из трех основателей DeepMind. «Эти технологии принесут огромную пользу. Цель состоит не в том, чтобы устранить или приостановить их развитие. Цель состоит в том, чтобы уменьшить их негативное воздействие».

Заручившись поддержкой Тиля, доктор Хассабис постепенно вошел в поле зрения Маска. Они встретились примерно два года спустя на конференции, организованной инвестиционным фондом Тиля, который также инвестировал в компанию Маска SpaceX. Доктор Хассабис организовал экскурсию по штаб-квартире SpaceX. После этого они пообедали и поговорили в столовой, где с потолка свисали ракетные снаряды.

Г-н Маск объяснил, что его план состоит в том, чтобы колонизировать Марс, чтобы избежать перенаселения и других опасностей на Земле. Доктор Хассабис ответил, что этот план сработает – при условии, что сверхразумные машины не последуют за людьми на Марс и не уничтожат людей на Марсе.

Маск потерял дар речи. Он никогда не задумывался об этой конкретной опасности. Маск вместе с Тилем быстро инвестировал в DeepMind, чтобы быть ближе к созданию технологии.

Имея достаточное финансирование, DeepMind нанимает исследователей, специализирующихся на нейронных сетях — сложных алгоритмах, смоделированных по образцу человеческого мозга. Нейронная сеть — это, по сути, гигантская математическая система, которая тратит дни, недели или даже месяцы на выявление закономерностей в огромных объемах данных. Первоначально разработанные в 1950-х годах, эти системы могут научиться решать задачи самостоятельно. Например, проанализировав сотни рукописных имен и адресов на конвертах, они могут прочитать рукописный текст.

DeepMind развивает эту концепцию дальше. Компания создала систему, которая могла научиться играть в классические игры Atari, такие как Space Invaders, Pong и Breakout, чтобы продемонстрировать свой потенциал.

Это привлекло внимание Google, еще одного гиганта Кремниевой долины, особенно Ларри Пейджа. Он видел демонстрацию машины DeepMind, играющей в игру Atari. Он хотел быть частью этого.

Аукцион талантов

Осенью 2012 года Джеффри Хинтон, 64-летний профессор Университета Торонто, и двое аспирантов опубликовали исследовательскую работу, демонстрирующую миру возможности искусственного интеллекта. Они обучили нейронную сеть распознавать обычные объекты, такие как цветы, собаки и автомобили.

Ученые были удивлены точностью технологии, созданной доктором Хинтоном и его учениками. Особенно обеспокоен этим человеком Ю Кай, исследователь искусственного интеллекта, который познакомился с доктором Хинтоном на исследовательской конференции и недавно начал работать в китайском интернет-гиганте Baidu. По словам трех человек, знакомых с ситуацией, Baidu предложила доктору Хинтону и его студентам 12 миллионов долларов за то, чтобы они присоединились к пекинской компании.

Доктор Хинтон отказался от предложения Baidu, но его внимание привлекли деньги.

Британский эмигрант, получивший образование в Кембридже и проведший большую часть своего времени в академических кругах, за исключением периодической работы в Microsoft и Google, не особенно ценит деньги. Но на его детей влияет нейроразнообразие, и деньги будут означать финансовую безопасность.

«Мы не знаем, в чем наша ценность», — сказал доктор Хинтон. Он проконсультировался с юристами и экспертами по закупкам, а затем разработал план: «Мы собираемся организовать аукцион и продавать себя». Казино Лейк Тахо.

Крупные технологические компании начинают обращать на это внимание. Такие компании, как Google, Microsoft и Baidu, начали верить, что машины, которые принесут нейронные сети, будут не только иметь способность видеть, но и слушать, писать, говорить и, в конечном итоге, даже думать.

Пейдж видел подобную технологию в лаборатории искусственного интеллекта своей компании Google Brain и считал, что исследования доктора Хинтона могут улучшить работу его ученых. По сути, он дал Алану Юстасу, старшему вице-президенту и инженеру Google, ненумерованный чек, чтобы он мог нанять любых необходимых ему экспертов по искусственному интеллекту.

Мистер Юстас и Джефф Дин, управляющие Brain Labs, прилетели на озеро Тахо и договорились поужинать с доктором Хинтоном и его студентами в стейк-хаусе отеля накануне аукциона. Доктор Дин вспоминает, что стоял сильный запах старого сигаретного дыма. Они убедили доктора Хинтона и его студентов работать в Google.

На следующий день доктор Хинтон провел аукцион в своем гостиничном номере. Он редко сидит из-за старой травмы. Он перевернул мусорное ведро на столе, положил сверху свой ноутбук и наблюдал, как в течение следующих двух дней поступали ставки.

Google сделал предложение. То же самое делает и Microsoft. Когда цены выросли, DeepMind быстро вышла из игры. Согласно данным аукциона, гиганты отрасли подняли цену до 20 миллионов долларов, а затем до 25 миллионов долларов. Microsoft отказалась от участия, когда цена превысила 30 миллионов долларов, но вернулась к участию в торгах на цене 37 миллионов долларов.

«Мы чувствовали, что это похоже на фильм», – сказал доктор Хинтон.

Затем Microsoft во второй раз отказалась от участия в торгах. Остались только Baidu и Google, и они подняли свои цены до 42 и 43 миллионов долларов США. Наконец, получив 44 миллиона долларов, доктор Хинтон и его студенты закрыли аукцион. Хотя ставки все еще растут, они хотят работать на Google. И сумма денег достаточно ошеломляет.

Это явный признак того, что богатые компании полны решимости скупить самых талантливых исследователей искусственного интеллекта — это также понимает доктор Хассабис из DeepMind. Он говорил своим сотрудникам, что DeepMind останется независимой компанией. Он считает, что это лучший способ гарантировать, что его технология не превратится во что-то опасное.

Но когда крупные технологические компании вступили в борьбу за таланты, он решил, что у него нет выбора: пришло время продавать.

По словам трех человек, знакомых с ситуацией, к концу 2012 года Google и Facebook пытались приобрести лондонскую лабораторию. Доктор Хассабис и его соучредители настаивали на двух условиях: технология DeepMind не может использоваться в военных целях, а ее технология искусственного интеллекта должна контролироваться независимым советом технологов и специалистов по этике.

Предложение Google составило 650 миллионов долларов. Марк Цукерберг из Facebook предложил основателю DeepMind более высокую цену, но не согласился с условиями. DeepMind в конечном итоге был продан Google.

Цукерберг решил построить собственную лабораторию искусственного интеллекта. Он нанял Яна ЛеКуна, французского ученого-компьютерщика, который также провел новаторские исследования в области искусственного интеллекта, чтобы руководить лабораторией. Через год после аукциона доктора Хинтона Цукерберг и доктор ЛеЧан полетели на озеро Тахо, чтобы присутствовать на той же конференции по искусственному интеллекту. В номере казино Harrah's Цукерберг ходил в носках, лично беря интервью у ведущих исследователей, которым быстро предложили миллионы долларов в виде зарплаты и акций.

Когда-то искусственный интеллект подвергался насмешкам. Теперь самые богатые люди Кремниевой долины тратят миллиарды, чтобы не остаться позади в гонке.

Пропавший комитет по этике

Когда Маск инвестировал в DeepMind, он нарушил неофициальное правило: он не будет инвестировать ни в одну компанию, которой не руководит. Негативное влияние этого решения стало очевидным примерно через месяц после его дня рождения, когда он столкнулся со своим бывшим другом и коллегой-миллиардером.

Этим событием стало первое заседание комитета по этике DeepMind, состоявшееся 14 августа 2015 года. По настоянию основателей был создан комитет, призванный гарантировать, что их технология не причинит вреда в случае продажи. По словам трех человек, знакомых с ходом встречи, члены комитета собрались в конференц-зале возле офиса Маска SpaceX, окна которого выходили на его ракетный завод.

Однако на этом контроль Маска заканчивается. Когда Google приобрела DeepMind, она купила всю компанию. Маска вытеснили. Хотя он зарабатывал деньги в финансовом отношении, он не был счастлив.

Теперь три руководителя Google имеют твердый контроль над DeepMind: Пейдж, соучредитель Google и инвестор Tesla Сергей Брин и председатель Google Эрик Шмидт (Eric Schmidt). Среди других участников были Рид Хоффман, еще один основатель PayPal, и Тоби Орд, австралийский философ, изучающий экзистенциальный риск.

Основатели DeepMind сообщают, что продвигаются вперед в своей работе, но осознают, что технология несет в себе серьезные риски.

Сулейман, соучредитель DeepMind, выступил с речью под названием «Восходящие люди идут». Он сообщил совету директоров, что искусственный интеллект может привести к взрыву дезинформации. Он обеспокоен тем, что в ближайшие годы, когда технологии вытеснят бесчисленное количество рабочих мест, общественность будет винить Google в том, что она отнимает у них средства к существованию. Он считает, что Google необходимо поделиться своим богатством с миллионами безработных и обеспечить «универсальный базовый доход».

Маск соглашается. Но ясно, что его гости из Google не собираются перераспределять богатство. Г-н Шмидт сказал, что, по его мнению, опасения полностью преувеличены. Мистер Пейдж согласился своим обычным тихим голосом. Он утверждал, что ИИ создаст больше рабочих мест, чем уберет.

Восемь месяцев спустя DeepMind совершила прорыв, который потряс ИИ-сообщество и мир. Машина DeepMind под названием AlphaGo победила одного из лучших игроков в го в мире. Игра транслировалась в прямом эфире через Интернет, и ее посмотрели 200 миллионов человек по всему миру. Большинство исследователей считали, что ИИ понадобится еще десять лет, чтобы обрести инновационные возможности для этого.

Рационалисты, эффективные альтруисты и другие, обеспокоенные рисками искусственного интеллекта, утверждают, что триумф компьютеров подтверждает их опасения.

«Это еще один признак того, что искусственный интеллект развивается быстрее, чем ожидали многие эксперты», — написала в своем блоге Виктория Краковна, которая присоединится к DeepMind в качестве исследователя «безопасности ИИ».

Основатели DeepMind все больше беспокоились о том, как Google будет использовать их изобретение. В 2017 году они попытались отделиться от компании. В ответ Google увеличил зарплаты и премии основателям DeepMind и их сотрудникам. Они решили остаться.

Комитет по этике никогда не собирался во второй раз.

отдельный

Убежденный, что оптимизм Пейджа в отношении искусственного интеллекта совершенно неуместен, и разозленный потерей DeepMind, Маск построил собственную лабораторию.

OpenAI была основана в конце 2015 года, всего через несколько месяцев после того, как он и Сэм Альтман встретились в отеле Rosewood в Кремниевой долине. Маск вложил деньги в лабораторию, и его бывшие партнеры по PayPal, господа Хоффман и Тиль, присоединились к усилиям. Трио и другие пообещали выделить на проект 1 миллиард долларов, в реализации которого ему будет помогать 30-летний Альтман. Для запуска проекта они наняли Илью Суцкевера из Google. (Доктор Суцквей был одним из аспирантов, которых Google «приобрёл» на аукционе доктора Хинтона.)

Первоначально Маск хотел управлять OpenAI как некоммерческой организацией, вдали от финансовых интересов таких компаний, как Google. Но пока Google шокирует мир технологий производительностью Go, Маск меняет свое мнение о том, как должен работать OpenAI. Он отчаянно хотел, чтобы OpenAI изобрела что-то, что захватило бы воображение всего мира и приблизило бы их к Google, но, будучи некоммерческой организацией, она не смогла выполнить эту работу.

В конце 2017 года он разработал план, как попытаться отобрать контроль над лабораторией у Альтмана и других основателей и превратить ее в коммерческое предприятие, объединив усилия с Tesla и полагаясь на суперкары, которые разрабатывала автомобильная компьютерная компания. четыре человека, знакомых с делом.

Когда Альтман и другие возражали, Маск отказался и сказал, что сосредоточится на своей собственной работе по искусственному интеллекту в Tesla. Он объявил о своем уходе сотрудникам OpenAI в феврале 2018 года на верхнем этаже офиса стартапа в переоборудованном заводе по производству грузовиков, рассказали трое человек, присутствовавших на встрече. Когда он сказал, что OpenAI необходимо двигаться быстрее, исследователь на встрече возразил, что поведение г-на Маска было безрассудным.

Маск назвал исследователя «глупым» и умчался прочь, прихватив с собой свое огромное состояние.

OpenAI внезапно потребовалось новое финансирование. Альтман прилетел в Сан-Вэлли на конференцию и столкнулся с генеральным директором Microsoft Сатьей Наделлой. Союз этих двоих казался естественным. Альтман знал Кевина Скотта, технического директора Microsoft. Microsoft приобрела LinkedIn у члена правления OpenAI Хоффмана. Наделла поручил Скотту сделать это. Сделка завершена в 2019 году.

Альтман и OpenAI, которые создали коммерческую компанию под первоначальной некоммерческой организацией, получили новый капитал в размере 1 миллиарда долларов, а Microsoft нашла новый способ включить искусственный интеллект в свой массовый сервис облачных вычислений.

Но не все в OpenAI довольны.

Исследователь Дарио Амодей связан с сообществом «Эффективный альтруизм» и уже был там, когда OpenAI зародился в отеле Rosewood. Доктор Амуди, который продолжает накручивать локоны во время разговора, возглавляет лабораторию, создающую нейронную сеть, называемую большой языковой моделью, которая может обучаться на больших объемах цифрового текста. Он генерирует текст самостоятельно, анализируя бесчисленные статьи Википедии, цифровые книги и доски объявлений. У него также есть неудачная привычка все выдумывать. Он называется GPT-3 и был выпущен летом 2020 года.

Исследователи из OpenAI, Google и других компаний считают, что эта быстро совершенствующаяся технология может стать путем к AGI.

Однако д-р Амодей недоволен сделкой с Microsoft, поскольку считает, что она ведет OpenAI в очень коммерческом направлении. По словам пяти человек, знакомых с этим вопросом, он и другие исследователи пытались оказать давление на совет директоров с целью отстранить г-на Альтмана. Но они потерпели неудачу и ушли. Как и основатели DeepMind до них, они беспокоились, что их новые руководители компании поставят коммерческие интересы выше безопасности.

В 2021 году около 15 инженеров и ученых создали новую лабораторию под названием Anthropic. Их план состоит в том, чтобы создать искусственный интеллект так, как, по мнению эффективных альтруистов, он должен быть создан — с очень жестким контролем.

«Соучредители Anthropic не пытаются исключить Сэма Альтмана из OpenAI», — заявила представитель Anthropic Салли Олдос. «Сами сооснователи пришли к выводу, что хотят покинуть OpenAI, чтобы основать собственную компанию, они ясно дали это понять руководству OpenAI и в течение нескольких недель договорились о своем выходе на взаимоприемлемых условиях».

Anthropic получила инвестиции в размере 4 миллиардов долларов от Amazon, а два года спустя получила еще 2 миллиарда долларов от Google.

раскрывать

Когда OpenAI получила дополнительные инвестиции в размере 2 миллиардов долларов от Microsoft, Альтман и другой руководитель, Грег Брокман, отправились в особняк Билла Гейтса на берегу озера Вашингтон недалеко от Сиэтла. Хотя основатель Microsoft больше не участвует в повседневной деятельности компании, он продолжает поддерживать регулярные контакты с руководителями компании.

За ужином Гейтс сказал им, что не уверен, что большие языковые модели сработают. Он сказал, что останется скептически настроенным, если технология не сможет справиться с задачами, требующими критического мышления, такими как сдача экзамена по биологии Advanced Placement.

Пять месяцев спустя, 24 августа 2022 года, Альтман и Брокман вернулись и привели с собой исследователя OpenAI по имени Челси Восс. Г-жа Восс была победительницей Международной олимпиады по биологии в старшей школе. Г-н Наделла и другие руководители Microsoft также присутствовали.

На большом цифровом дисплее возле гостиной Гейтса команда OpenAI продемонстрировала технологию под названием GPT-4.

Г-н Брокман запустил систему, задавая вопросы с несколькими вариантами ответов на экзамене по биологии углубленного уровня, а г-жа Восс оценивала ответы. Первый вопрос касается полярных молекул, которые представляют собой группы атомов с положительным зарядом на одном конце и отрицательным зарядом на другом. Система правильно ответила на вопрос и объяснила свой выбор. «Мы обучили его только давать ответы», — сказал г-н Брокман. «Магическим образом возникла разговорная природа.» Другими словами, он делал то, для чего на самом деле он не был предназначен.

Из 60 вопросов GPT-4 ответил неправильно только на один.

Мистер Гейтс сел прямо, широко раскрыв глаза. Похожая реакция была у него в 1980 году, когда исследователи показали ему графический интерфейс пользователя, который стал основой современных персональных компьютеров. Он считает, что GPT настолько революционна.

К октябрю Microsoft добавила эту технологию в свои онлайн-сервисы, включая поисковую систему Bing. Два месяца спустя OpenAI выпустила своего чат-бота ChatGPT, которым теперь каждую неделю пользуются 100 миллионов человек.

OpenAI победила эффективного альтруиста от Anthropic. Оптимисты Пейджа в Google поспешили выпустить собственного чат-бота Bard, но многие считали, что он проигрывает гонку OpenAI. Через три месяца после выпуска ChatGPT акции Google упали на 11%. Маска нигде не было.

Но все это только начало.

# Добро пожаловать на официальную общедоступную учетную запись WeChat Aifaner: Aifaner (идентификатор WeChat: ifanr). Более интересный контент будет предоставлен вам как можно скорее.

Ай Фанер | Исходная ссылка · Посмотреть комментарии · Sina Weibo