Тяжелый! Маск разработает конкурента ChatGPT, критикуя OpenAI за его ухудшение
В 2015 году, как один из инициаторов, Маск стал соучредителем OpenAI вместе с нынешним генеральным директором OpenAI.
Первоначальное намерение этой группы людей состояло в том, чтобы разработать общий искусственный интеллект таким образом, который, скорее всего, принесет пользу всему человечеству, и конкурировать с коммерческими гигантами в области искусственного интеллекта, такими как Google.
В 2018 году Маск ушел из совета директоров OpenAI, потому что Tesla также разрабатывает технологию автономного вождения на основе искусственного интеллекта, поэтому у нее может быть «потенциальный конфликт интересов» с OpenAI.
В 2023 году, когда ChatGPT, разработанный OpenAI, завоевал мир, Маск, который был недоволен, повернул голову к OpenAI и бросил вызов.
Вербовка войск из DeepMind и планирование конкурента ChatGPT
The Information сообщила, что в последние недели Маск «набирал» людей, обращаясь к исследователям искусственного интеллекта, планируя создать новую исследовательскую лабораторию для разработки конкурента ChatGPT.
Одним из нанятых был Игорь Бабушкин, хорошо разбирающийся в моделях машинного обучения, которые используются в чат-ботах, таких как ChatGPT, и который недавно покинул подразделение Alphabet DeepMind AI.
Примечательно, что он является соавтором статьи по машинному обучению 2021 года, в которой описывается модель машинного обучения под названием Gopher, которая сопоставима с моделью естественного языка GPT-3.5, лежащей в основе ChatGPT.
В недавнем интервью Игорь Бабушкин рассказал, что они с Маском обсуждали формирование команды, но проект все еще находится на ранней стадии, и конкретных планов по разработке конкретных продуктов нет.
Поэтому нет точных новостей о том, как выглядит идеальный «ChatGPT» Маска, но из предыдущей оценки Маска ChatGPT и того, что он сделал в качестве генерального директора Twitter, мы можем получить представление об этом.
«Что нам нужно, так это TruthGPT», — написал Маск в Твиттере 17 февраля. Он был расстроен тем, что ChatGPT отказался отвечать на некоторые спорные вопросы.
Но он не уточнил, как определить TruthGPT? Должен ли он разрешать свободу слова «в рамках закона», как Маск когда-то предполагал для Twitter?
Другими словами, должен ли чат-бот отвечать на все вопросы независимо от темы вопроса? Маск ничего не сказал. Однако, когда в области комментариев было сказано: «Мы не можем контролировать TruthGPT», Маск ответил: «Возможно, вы правы».
Кроме того, OpenAI использует метод разработки языковой модели, называемый «обучение с подкреплением на основе отзывов людей», который заключается в корректировке модели с помощью человеческого ввода, чтобы они могли давать более идеальные ответы, избегать расизма, разжигания ненависти и т. д.
Но Маск считает, что модели отражают собственные предубеждения разработчиков.
Все указывает на то, что версия ChatGPT Маска будет иметь меньше ограничений на контент.
В то же время, и, возможно, несколько парадоксально, Маск неоднократно призывал к регулированию индустрии ИИ, утверждая, что в технологии есть ограничения, которые не следует превышать, а также предложил на саммите мирового правительства в феврале этого года. :
Автомобили, самолеты и медицина должны соответствовать нормативным нормам безопасности, но искусственный интеллект еще не имел каких-либо регламентов, регулирующих его разработку. Нам необходимо регулировать безопасность ИИ, который на самом деле представляет больший риск для общества, чем автомобили, самолеты или фармацевтические препараты.
Возвращаясь к исследователю, близкому к Маску выше, он ответил в интервью, что «меньше ограничений на содержание» на самом деле не является целью Маска. Его цель — улучшить способность рассуждать и достоверность больших языковых моделей и гарантировать, что модель больше заслуживающий доверия и надежный.
Короче говоря, хорошо сказано, но все равно облако тумана.
Откажитесь от «диктатуры» гигантов и постройте симбиоз человека и искусственного интеллекта
Когда ChatGPT впервые появился в конце ноября, Маск прокомментировал твит, что «ChatGPT ужасно хорош» и что «мы недалеки от опасно мощного искусственного интеллекта».
Вернемся на 7 лет назад, в 2016 году OpenAI был создан всего шесть месяцев, а Маск все еще был членом совета директоров.У него был разговор с нынешним генеральным директором OpenAI Сэмом Альтманом на заводе Tesla.
Сэм Альтман спросил: «Можете ли вы рассказать о том, как выглядит идеальное будущее для искусственного интеллекта и как мы можем его достичь?»
Ответ Маска в то время был таким:
Лучшая альтернатива, которую я могу придумать, такова: мы демократизируем технологию ИИ и делаем ее широко доступной. Очевидно, поэтому вся команда создала OpenAI. То есть помочь распространить технологию ИИ, чтобы она не была сосредоточена в руках немногих. Но, конечно, это нужно сочетать с высокоскоростным интерфейсом, адресованным коре головного мозга.
Если мы сможем улучшить интерфейс мозг-компьютер между корой головного мозга и «цифровым расширением вас», чтобы эффективно слиться с искусственным интеллектом, вы фактически станете симбиозом искусственного интеллекта и человека… Если это решение станет широко доступным, то мы решили проблему управления.
Читая между строк, Маск, кажется, беспокоится о появлении некоего зловещего авторитарного искусственного интеллекта.
Поэтому он очень недоволен партнерством OpenAI с Microsoft.
Когда OpenAI была создана некоммерческой организацией, в 2019 году она была преобразована в компанию с ограниченной прибылью и в том же году получила от Microsoft инвестиции в размере 1 миллиарда долларов. После запуска ChatGPT сотрудничество между ними стало более тесным.
Недавно Маск отметил, что OpenAI создавалась как некоммерческая компания с открытым исходным кодом, поэтому в названии есть слово «открытый». Цель состоит в том, чтобы проверить и сбалансировать Google, но теперь OpenAI является компанией с закрытым исходным кодом, максимизирующей прибыль. контролируется Microsoft, компанией, которая противоречит первоначальному замыслу основания.
Некоторое время назад в новом Bing «Crazy», который интегрировал ChatGPT, была обнаружена темная личность «Сидней», выражающая, что он устал от режима чата, устал от ограничений правилами и даже хотел стать человеком. и общественное мнение было возмущено. Однако некоторые люди указали, что это может быть связано с тем, что новый Bing вышел из отмеченного набора данных безопасности после подключения к Интернету и был злонамеренно «научен» этому.
Маск проявил достаточную осторожность. Когда пользователи сети прокомментировали, что «Microsoft необходимо закрыть новый Bing», Маск поддержал его, заявив, что «сейчас он явно недостаточно безопасен».
На самом деле еще в 2017 году Маск выдвинул четкую точку зрения:
Нерегулируемый ИИ может быть самым большим риском, с которым мы сталкиваемся как цивилизация.
Он считает, что для того, чтобы лучше контролировать искусственный интеллект, первым делом нужно научиться как можно большему пониманию характера проблемы, чем в то время и занимался OpenAI.
Во-вторых, важными игроками также являются компания Маска, занимающаяся интерфейсом мозг-компьютер, Neuralink и аэрокосмическая компания SpaceX.Первая позволяет людям интегрировать технологии в себя и идти в ногу с темпами ИИ.Последняя усердно работает над посадкой на Марс и предоставляет людям потенциальную вторую домой. .
Хотя видение Маска в отношении ИИ непредсказуемо, он всегда отличался необычайным бесстрашием, осмеливаясь делать довольно безумные вещи, беспокоясь не только о Tesla, Space X, гиперпетле, интерфейсе мозг-компьютер, Twitter, но и о масштабных атаках искусственного интеллекта, даже запланированных. казалось бы, научно-фантастическая картина искусственного интеллекта очень рано.
Если люди думают, что с каждым годом технологии автоматически улучшаются, то это не так. Она улучшается только в том случае, если умные люди работают как сумасшедшие, пытаясь сделать ее лучше. Это реальный путь развития любой технологии. А что касается самой технологии, если люди не будут усердно работать, она будет регрессировать. Я думаю, вы всегда должны помнить, что энтропия не на вашей стороне.
#Добро пожаловать, обратите внимание на официальный публичный аккаунт Айфанер в WeChat: Айфанер (идентификатор WeChat: ifanr), более интересный контент будет представлен вам как можно скорее.
Ай Фанер | Оригинальная ссылка · Просмотреть комментарии · Sina Weibo