Официально выпущен процессор Intel Core Ultra первого поколения, создающий основу для ПК с искусственным интеллектом и способный запускать большие модели искусственного интеллекта без сети.
Когда мы используем инструменты искусственного интеллекта, поддерживаемые большими языковыми моделями, такими как ChatGPT, Wenxinyyan и Tongyi Qianwen, есть необходимое условие: Интернет должен быть подключен.
Потому что вычисления инструментов ИИ происходят в облаке, а не локально на компьютере. Тем не менее, с точки зрения производителей исходных микросхем и производителей терминалов, крупные модели в сетевой среде являются мощными, но их также необходимо дополнять крупными моделями на конечной стороне, которые могут работать без сети. идеальное решение.
Итак, на официальном мероприятии Intel по запуску Core Ultra первого поколения 15 декабря мы увидели, что большая модель Alibaba Cloud Tongyi Qianwen была успешно адаптирована к платформе Intel Core Ultra и в будущем может быть развернута на ПК и других устройствах.
Благодаря платформе Core Ultra первого поколения (под кодовым названием Meteor Lake) в ней реализовано самое значительное изменение архитектуры процессора Intel за последние 40 лет, а именно архитектура разделенных модулей и первый интегрированный процессор нейронной сети (NPU), который развернут на Intel Core. Устройства ультра-платформы Большая модель Тонги Цяньвэнь в Интернете может значительно сократить время отклика на вывод модели со средним ускорением до 3 раз.
Кроме того, Intel также ранее тестировала хорошую производительность большой модели LLaMa2-7B от Meta при работе без сети на стороне устройства.Концепция AI-ПК стала ясна благодаря постепенному внедрению большой модели на стороне устройства. .
С момента выпуска ChatGPT в конце прошлого года приложения AIGC, поддерживаемые технологией большой языковой модели, достигли большого развития. Основная позиция этой волны AI находится на ПК, поскольку ПК больше подходит для большинства пользователей с точки зрения взаимодействия и представления. Приложения AIGC, будь то ChatGPT или MidJourney, должны быть подключены к Интернету. Как только сети не будет, мы будем отключены от ИИ.
Таким образом, если ПК хочет по-настоящему превратиться в ПК с искусственным интеллектом, на нем можно будет легко запускать не только приложения AIGC, но и сам компьютер должен обладать мощными возможностями обработки искусственного интеллекта.
Поэтому новость о том, что большая модель Qwen-7B от Alibaba Cloud Tongyi Qianwen успешно адаптировалась к платформе Intel Core Ultra и в будущем может быть развернута на ПК и других терминалах, имеет два значения и символическое значение.
Первый уровень смысла заключается в том, на что опирается Intel, когда выкрикивает слоган AI PC?
На конференции по технологическим инновациям, состоявшейся в Кремниевой долине в сентябре этого года, генеральный директор Intel Пэт Гелсингер предложил революционную концепцию ПК-ИИ.
Если вы хотите эффективно выполнять вычисления с использованием искусственного интеллекта и запускать приложения с искусственным интеллектом на ПК, традиционная архитектура CPU+GPU не является оптимальным решением. история Intel Крупнейшее структурное изменение процессора в мире. Процессор будет состоять из четырех независимых модулей: вычислительного модуля, модуля SoC, графического модуля и модуля ввода-вывода и будет соединен с помощью технологии упаковки Foveros 3D:
Вычислительный модуль (Compute Tile): использует микроархитектуру энергоэффективного ядра и ядра производительности последнего поколения, а также расширенные функции. Этот модуль использует технологию нового поколения Intel 4 и достиг значительного прогресса в соотношении энергопотребления.
Модуль SoC (SoC Tile): инновационная островная конструкция с низким энергопотреблением (Low Power Island) объединяет процессор нейронной сети (NPU), обеспечивающий энергоэффективную производительность функций искусственного интеллекта на ПК, и совместим со стандартизированными программными интерфейсами, такими как OpenVINO. разработка и популяризация приложений искусственного интеллекта. Новое ядро энергоэффективности с низким энергопотреблением дополнительно оптимизирует баланс между энергосбережением и производительностью. Модуль SoC также включает в себя контроллер памяти, блок обработки медиакодеков и отображения, поддерживающий кодеки 8K HDR и AV1, а также стандарты HDMI 2.1 и Display Port 2.1. Также поддерживаются Wi-Fi и Bluetooth, включая Wi-Fi 6E.
Графический модуль (GPU Tile): Этот процессор объединяет графическую архитектуру Intel Sharp, которая может обеспечить независимую производительность на уровне видеокарты во встроенной видеокарте и поддерживает трассировку лучей и Intel XeSS. Благодаря новым графическим возможностям и улучшенной энергоэффективности Meteor Lake обеспечивает выдающуюся производительность на ватт.
Модуль ввода-вывода (IO Tile): обеспечивает превосходные возможности подключения, интегрируя Thunderbolt 4 и PCIe Gen 5.0.
Взяв в качестве примера процессор Core Ultra 7 165H (TDP 28 Вт), Intel заявила, что его многопоточная производительность более чем в три раза выше, чем у Qualcomm Snapdragon 8cx Gen 3, и в 1,11 раза выше, чем у его прямого конкурента AMD 7840U.
При этом в Intel заявили, что благодаря лучшей многопоточной производительности энергоэффективность Core Ultra 7 165H в различных сценариях также лучше, чем у AMD 7840U.
Кроме того, остров с низким энергопотреблением имеет очень интересную конструкцию: он имеет 2 ядра LPE-Cores со сверхнизким энергопотреблением, которые могут выполнять задачи, не требующие скорости отклика, такие как онлайн-воспроизведение и т. д., что еще больше снижает энергопотребление. . Что делает эту конструкцию интересной, так это то, что эти два ядра со сверхмалым энергопотреблением расположены в модуле SoC, а не в вычислительном модуле.
Конечно, самым важным и значительным обновлением является то, что новый модуль NPU будет в основном отвечать за вычисления AI.Поскольку это специальный вычислительный блок для ускорения искусственного интеллекта, преимуществом моделей NPU в вычислениях AI является высокая производительность и низкое энергопотребление. , Кроме того, процессоры с низкой задержкой и высокой скоростью отклика, а также высокопроизводительные и высокопроизводительные графические процессоры также будут нести спрос на вычислительную мощность ИИ.Сотрудничество этих трех формирует мощную вычислительную мощность ИИ на терминале.
Тем не менее, по сравнению с соседним процессором AMD 7840U, Intel заявила, что общая вычислительная мощность AI Core Ultra 7 165H не только превосходит его продукт предыдущего поколения, Core i7-1370P, но и превосходит AMD 7840U.
В качестве примера практического применения можно привести инструмент для редактирования видео Intel и ByteDance Jianying, который совместно оптимизировал функцию «умного ключа», которую часто используют пользователи, и переключил вычислительные требования этой функции на продукты Core Ultra первого поколения. мы обнаружили, что обработка видеоматериала не только занимает меньше времени, но и снижает энергопотребление.В это время свободные вычислительные мощности процессора и графического процессора можно использовать для других нужд редактирования.
Таким образом, так называемый AI-ПК может не только лучше выполнять функции AI, но также повысить эффективность и снизить энергопотребление.
Второе значение заключается в том, что может сделать такая крупная модель, как Тонги Цяньвэнь?
Теперь мы можем выполнять различные операции с искусственным интеллектом на ПК, включая, помимо прочего, Wenshengwen, Wenshengtu, Wenshengmusic, а также вырезание AI, распознавание жестов, захват движения и, более подробно, дублирование AI и изменение голоса, а также видеоконференции. Коррекция глаз и т.д.
Некоторые из них представляют собой совершенно новые возможности, основанные на больших языковых моделях, а некоторые уже давно реализованы на ПК. Например, Core 10-го поколения был первым, кто представил поддержку производительности искусственного интеллекта, которая может обеспечить автоматическое улучшение изображения и видео. повышение разрешения для ПК, интеллектуальное шумоподавление и другие функции искусственного интеллекта.
Технология больших языковых моделей считается путем к общему искусственному интеллекту (AGI, Artificial General Intelligence). AGI относится к системе искусственного интеллекта с широким диапазоном уровней интеллекта и способностей, подобных человеческим. Для сравнения, в настоящее время большие языковые модели наиболее Системы искусственного интеллекта фокусируются на конкретной задаче или области.
Исходя из этого, новую модель Tongyi Qianwen с 72 миллиардами параметров (Qwen-72B) с открытым исходным кодом от Alibaba Cloud можно назвать самой мощной на сегодняшний день большой моделью с открытым исходным кодом.Qwen-72B достигла лучших результатов среди моделей с открытым исходным кодом в 10 авторитетных тестах. Производительность превосходит тест с открытым исходным кодом Llama 2-70B и большинство коммерческих моделей с закрытым исходным кодом, и он уже имеет определенные общие возможности.
На основе четырех больших языковых моделей Qwen-72B, Qwen-14B, Qwen-7B и Qwen-1.8B с открытым исходным кодом Alibaba Cloud, а также большой модели визуального понимания Qwen-VL и большой модели понимания звука Qwen-Audio, Alibaba. Cloud добился «полноразмерного и полномодального» открытого исходного кода.
Это означает, что для разработчиков из всех слоев общества эти большие модели с открытым исходным кодом могут иметь на выбор множество пакетов, включая ПК, мобильные телефоны и даже устройства IoT, которые не знакомы с этими устройствами.
Большая модель Тонги Цяньвэня развернута на платформе Intel Core Ultra, и это одна из возможностей того, что в будущем ее можно будет развернуть на таких терминалах, как ПК.
Кроме того, команда XD Lab Восточно-Китайского университета науки и технологий разработала ряд крупных отраслевых моделей на основе моделей с открытым исходным кодом Tongyi Qianwen Qwen-7B и Qwen-14B, включая большую модель психического здоровья MindChat (Man Tan). , большая модель медицинского здравоохранения Суньсимяо (Sun Simiao), большая модель образования/экзамена GradChat (Koi) и так далее.
Университет Чжэцзян и издательство Higher Education Press разработали вертикальную модель образования Чжихай-Саньле на основе Qwen-7B. Она применяется в 12 университетах по всей стране и может обеспечивать интеллектуальные вопросы и ответы, генерацию тестовых вопросов, навигацию в обучении, оценку преподавания и другие возможности. Модель использовалась в Alibaba. Платформа Yunlingji предоставляет внешние сервисы, которые можно вызвать с помощью одной строки кода.
Отвернувшись от мира битов, в реальном мире компания Zhejiang Youlu Robot Technology Co., Ltd. интегрировала Qwen-7B в робота для уборки дорог, что позволяет роботу взаимодействовать с пользователями в режиме реального времени на естественном языке, понимать потребности, поставленные пересылать пользователями и выполнять инструкции пользователя высокого уровня. Анализировать и демонтировать, выполнять логический анализ высокого уровня и планирование задач, а также выполнять задачи очистки.
Короче говоря, этап развития ИИ касается не только ПК, а ПК — это не только приложения ИИ; они начинают пересекаться, создавая сценарии, которые изменят наши привычки использования ПК.
При рисовании следует ли вам использовать цифровой планшет и чувствительную к давлению ручку или вам следует использовать рисунок Винсента?
При письме вы используете клавиатуру для ввода слов одно за другим или используете для письма китайский язык?
Эти проблемы уже возникли, и каждый пользователь ПК с искусственным интеллектом постепенно сталкивается с изменениями в выборе и привычках использования.
# Добро пожаловать на официальную общедоступную учетную запись aifaner в WeChat: aifaner (идентификатор WeChat: ifanr). Более интересный контент будет предоставлен вам как можно скорее.
Ай Фанер | Исходная ссылка · Посмотреть комментарии · Sina Weibo