OpenAI только что снял оковы с бесплатной версии ChatGPT

Дядя Влад

OpenAI объявила о выпуске своей новейшей генеративной модели размером с закуску, получившей название GPT-4o mini, которая менее ресурсоемка и дешевле в эксплуатации, чем стандартная модель GPT-4o , что позволяет разработчикам интегрировать технологию искусственного интеллекта в гораздо более широкий спектр задач. продукты.

Это большое обновление для разработчиков и приложений, но оно также расширяет возможности и уменьшает ограничения бесплатной версии ChatGPT. GPT-4o mini теперь доступен пользователям на уровнях Free, Plus и Team через веб-сайт и приложение ChatGPT для пользователей и разработчиков, начиная с сегодняшнего дня, а подписчики ChatGPT Enterprise получат доступ на следующей неделе. GPT-4o mini заменит существующую небольшую модель компании GPT-3.5 Turbo, которая будет доступна конечным пользователям уже сегодня.

Старая модель по-прежнему доступна разработчикам через API, если они пока не хотят переходить на 4o mini. Компания заявляет, что в конечном итоге выведет из эксплуатации старую модель, но пока не назначила дату.

GPT-4o доступен для бесплатных учетных записей ChatGPT с мая, но существуют ограничения по спросу. Согласно обновленной странице часто задаваемых вопросов , собственно GPT-4o по-прежнему имеет эти ограничения, но теперь при достижении лимита вы будете переведены на GPT-4o mini, а не на GPT-3.5. Теоретически это большая победа для тех, кто еще не обновился до ChatGPT Plus .

Согласно данным искусственного анализа , новейшая модель искусственного интеллекта OpenAI набрала 82% в тесте рассуждений MMLU, опередив Gemini 1.5 Flash на 3% и Claude 3 Haiku на 7%. Для справки, самый высокий на сегодняшний день тест MMLU был установлен Gemini Ultra, лучшим искусственным интеллектом Google, с показателем 90% .

Более того, OpenAI утверждает, что эксплуатация GPT-4o mini на 60% дешевле, чем GPT-3.5 Turbo. Разработчики будут платить 15 центов за миллион входных токенов и 60 центов за миллион выходных токенов. По данным CNBC , OpenAI заявляет, что GPT-4o mini — «самая мощная и экономичная небольшая модель, доступная сегодня».

Откуда такая экономия? Что ж, не каждая задача, которую можно улучшить с помощью ИИ, требует полного веса и возможностей полноразмерной модели, такой как GPT , Claude или Gemini . Подобно удару мух кувалдой, использование LLM стандартного размера для простых, но объемных задач является излишним и приводит к пустой трате денег и вычислительных ресурсов. Именно здесь используются небольшие LLM, такие как Google Gemini 1.5 Flash, Meta Llama 3 8b или Anthropic Claude 3. На сцену выходит Haiku. Они способны выполнять эти простые, повторяющиеся задачи быстрее и с меньшими затратами, чем более крупные итерации.

По данным OpenAI, GPT-4o mini будет иметь контекстное окно того же размера, 128 000 токенов (примерно содержание книги), что и полноразмерная версия с тем же пределом знаний, октябрь 2023 года, хотя компания не уточнила. точный размер новой модели. API модели в настоящее время предлагает только возможности текста и визуального представления, но в будущем также появятся видео и аудио.

Это объявление было сделано всего через несколько недель после того, как OpenAI представила долгожданное обновление своего ожидаемого расширенного голосового режима в рамках GPT-4o. В сообщении компании указано, что меньшая альфа-версия должна выйти в конце июля, а более широкое внедрение запланировано на эту осень.