Qualcomm заявляет, что ее новые чипы в 4,5 раза быстрее в области искусственного интеллекта, чем конкуренты
Qualcomm только что анонсировала два новых мощных процессора, которые превосходно справляются с генеративным искусственным интеллектом: один для ноутбуков, а другой для телефонов. Поскольку потенциальные приложения искусственного интеллекта продолжают расширяться от текста к изображениям, видео и т. д., более быстрая обработка данных на вашем собственном устройстве становится все более важной.
Snapdragon X Elite — это новый потрясающий процессор Qualcomm для ноутбуков, который может похвастаться лучшей в своем классе производительностью процессора для ноутбуков с Windows и впечатляющей скоростью графического процессора. Что касается телефонов, Snapdragon 8 Gen 3 опережает предыдущее поколение , обеспечивая на 30 % большую скорость и потребляя при этом на 20 % меньше энергии от аккумулятора.
Спецификации процессора и графического процессора важны, но в своем последнем выпуске чипов Qualcomm подчеркнула вычислительную мощность своих последних чипов с использованием искусственного интеллекта. Благодаря этому повышению производительности Qualcomm оптимизировала несколько моделей генеративного искусственного интеллекта для локальной работы на ноутбуках и телефонах Snapdragon — и ее претензии к Intel, AMD и Apple впечатляют.
Так насколько же быстр он у ИИ? Что ж, по данным Qualcomm, новые чипы Snapdragon X Elite обеспечивают 45 TOPS (триллионы операций в секунду) в тестах производительности INT4 AI и 30 токенов в секунду на усовершенствованной модели Llama 2 AI от Meta . Qualcomm утверждает, что это в 4,5 раза быстрее, чем у конкурентов. Утверждается, что Snapdragon 8 Gen 3 обрабатывает 20 токенов в секунду, обеспечивает сегментацию в реальном времени для разделения объектов на изображении для расширенной обработки фотографий и обеспечивает стабильное распространение для генерации изображения менее чем за секунду.
Snapdragon X Elite также способен запускать на устройстве генеративные модели искусственного интеллекта с 13 миллиардами параметров. Что касается телефонов, модели с 10 миллиардами параметров могут работать на Snapdragon 8 Gen 3. Дурга Маллади, старший вице-президент Qualcomm и генеральный менеджер по технологическому планированию и периферийным решениям, говорит, что Snapdragon 8 Gen 3 является первым, поддерживающим мультимодальность (изображения , текстовые сообщения и многое другое) на телефонах.
Qualcomm утверждает, что помимо просто высокой производительности встроенный в устройство искусственный интеллект помогает обеспечивать безопасность запросов и результатов, обеспечивая конфиденциальность пользователей. Поскольку ваши селфи, личные фотографии и видео, голос и текст используются в новых мультимодальных приложениях искусственного интеллекта , ваши биометрические и личные данные потенциально подвергаются риску, если вы загружаете их в облачный искусственный интеллект.
В то время как облачный ИИ испытывает трудности с быстрым внедрением, а также трудности с достаточно быстрым масштабированием, локальная обработка ИИ может обеспечить меньшую задержку, меньшее энергопотребление и меньшие затраты.
Qualcomm объяснила, что все это возможно благодаря синергии технологий. Некоторые из наиболее популярных моделей искусственного интеллекта были оптимизированы для процессоров Snapdragon и используют совместную работу центрального процессора, графического процессора, NPU (нейронного процессора) и сенсорного концентратора для получения результатов значительно быстрее, чем в предыдущем поколении. Новые чипы также поддерживают сверхбыструю память LPDDR5X , что позволяет устранить узкие места обработки.
По мере роста спроса на искусственный интеллект процессоры Qualcomm Snapdragon X Elite для ноутбуков и Snapdragon 8 Gen 3 для телефонов готовы ускорить генерацию изображений, ускорить обработку текста и повысить безопасность за счет включения обработки на устройстве. Будет интересно посмотреть, что смогут сделать с этими расширенными возможностями первые ноутбуки и телефоны, выпущенные с новыми чипами Qualcomm.