Выпустив гибридную платформу обучения на основе гетерогенных чипов с калорийностью в несколько килокалорий, компания Wuwen Core Dome стремится создать наиболее экономичную инфраструктуру искусственного интеллекта WAIC 2024 |

Какую роль играет инфраструктура в эпоху ИИ? Некоторые говорят, что это как электричество, некоторые говорят, что это как вода.

Увэнь Синьцюн считает, что отличная инфраструктура — это своего рода «волшебство», которое может эффективно снизить стоимость больших моделей и позволить большему количеству людей освоить новые технологии.

4 июля Ся Лисюэ, соучредитель и генеральный директор Wuwen Core Dome, выпустил первую в мире гибридную обучающую платформу с гетерогенными чипами на килокалории. Использование вычислительной мощности гетерогенного гибридного тренировочного кластера с килокалориями достигло максимума 97,6%.

Четыре месяца назад облачная платформа разработки и обслуживания крупных моделей Infini-AI от Wuwen Core Dome объявила о своей первой публичной бета-версии. Клиенты из крупных модельных компаний, таких как Zhipu AI, Dark Side of the Moon и Shengshu Technology, стабильно используют Infini-AI. Что касается вычислительной мощности, существует более 20 стартапов приложений AI Native, которые продолжают вызывать различные API-интерфейсы предустановленных моделей на Infini-AI и использовать цепочку инструментов, предоставляемую Wuwen Core Dome, для разработки своих собственных бизнес-моделей.

Создание собственной инфраструктуры искусственного интеллекта в эпоху больших моделей может не только предоставить разработчикам искусственного интеллекта более универсальную, эффективную и удобную среду для исследований и разработок, но также является ключевым краеугольным камнем для достижения эффективной интеграции вычислительных ресурсов и поддержки устойчивого развития искусственного интеллекта. промышленность. По сравнению с «относительно концентрированной» структурой слоев модели и слоев чипов в мире, слои модели и слои чипов в Китае более разнообразны.

Однако разнообразие также означает проблемы. Большое количество разнородных чипов также образовало «экологические бункеры». Различные аппаратные экосистемы закрыты и несовместимы друг с другом, что создает ряд технических проблем для пользователей вычислительных мощностей. Это самая большая трудность в построении инфраструктуры AI Native, а также важная причина, по которой нынешняя индустрия крупных моделей сталкивается с «нехваткой вычислительной мощности».

Wuwen Core Qiong обладает первоклассными возможностями оптимизации вычислений с использованием искусственного интеллекта и возможностями решений по вычислительной мощности, а также дальновидным суждением об отраслевых моделях «типов моделей M» и «типов N микросхем» и взял на себя ведущую роль в создании Экологический шаблон среднего уровня «MxN» для достижения эффективного и унифицированного развертывания нескольких алгоритмов больших моделей на нескольких чипах.

На сегодняшний день Infini-AI поддерживает более 30 моделей, таких как серии Qwen2, GLM4, Llama3, Gemma, Yi, Baichuan2, ChatGLM3 и т. д., а также AMD, Huawei Shengteng, Biren, Cambrian, Suiyuan, Haiguang, Tianshu. Существует более 10 видов вычислительных карт, включая Zhixin, Muxi, Moore Thread и NVIDIA.

«Между повышением технического потолка и распространением технологий нет противоречия, и это зависит от того, как мы настроены относиться к этой технологии», — сказал Ся Лисюэ: «Когда мы будем использовать различные приложения искусственного интеллекта в будущем, мы не будем знать наверняка». какие базовые модели он вызывает и какие модели используются. Какая карта-ускоритель обладает вычислительной мощностью — это лучшая инфраструктура AI Native».

# Добро пожаловать на официальную общедоступную учетную запись WeChat Aifaner: Aifaner (идентификатор WeChat: ifanr). Более интересный контент будет предоставлен вам как можно скорее.

Ай Фанер | Исходная ссылка · Посмотреть комментарии · Sina Weibo