Некоторые телефоны Android скоро получат сверхмощные приложения искусственного интеллекта

Возможно, вы уже опробовали на своем телефоне несколько генеративных приложений искусственного интеллекта. ChatGPT или HeyPi от OpenAI — это примеры приложений искусственного интеллекта для общения, а такие приложения, как Runway ML, позволят вам создавать видеоролики, сгенерированные искусственным интеллектом, прямо на вашем телефоне.

Но до сих пор почти каждое приложение генеративного ИИ полагалось на облачные вычисления, что означает, что вся магическая обработка ИИ происходит в облаке, точно так же, как комплекты Xbox выполняют тяжелую работу в серверных центрах Microsoft, когда вы транслируете консольную игру на своем компьютере. телефон или планшет.

MediaTek хочет изменить это, позволив выполнять генеративные вычисления на базе искусственного интеллекта прямо на вашем смартфоне. Этот амбициозный успех воплотится в жизнь со следующим флагманским чипсетом MediaTek, который появится в телефонах Android к концу этого года. В этом компании помогает компания Meta, материнская компания Facebook, которая предлагает модель Llama 2 в качестве основы для генеративных приложений искусственного интеллекта.

Производитель чипов рекламирует целый ряд преимуществ своего подхода к генеративной обработке искусственного интеллекта на устройстве, который включает в себя «бесшовную производительность, большую конфиденциальность, лучшую безопасность и надежность, меньшую задержку, возможность работать в областях с минимальным подключением или вообще без него, а также меньшую задержку». стоимость операции."

Ускорение генеративного искусственного интеллекта на телефонах

В грядущем топовом чипе MediaTek будут использованы три ключевые тактики для улучшения возможностей генеративного искусственного интеллекта для смартфонов. Во-первых, он будет включать специальный программный стек, оптимизированный для работы с Llama 2, моделью большого языка с открытым исходным кодом, разработанной Meta, которая призвана бросить вызов моделям OpenAI GPT и Google PaLM 2.

Llama 2, выпущенная в июле, «бесплатна для исследований и коммерческого использования». На данный момент появилось не так много приложений, основанных на языковой модели Llama 2, поскольку приложения искусственного интеллекта на основе GPT в настоящее время являются предметом разговоров в городе. Но Meta активно привлекает игроков в индустрии смартфонов, в том числе главного конкурента MediaTek, Qualcomm.

Как и MediaTek, Qualcomm также подписала соглашение с Meta о демонстрации обработки приложений на базе Llama на смартфонах, оснащенных ее флагманскими чипами, начиная с 2024 года. Обе компании также нацелены на другие области применения, такие как транспортные средства. Аппаратное обеспечение XR, устройства «умного дома» и многое другое, а также усилия по генеративному искусственному интеллекту на локальных устройствах, которым способствуют высококлассные микросхемы.

В своем новом флагманском чипе, дружественном к искусственному интеллекту, MediaTek также будет использовать усовершенствованный APU (блок обработки искусственного интеллекта), который опирается на «ускорение магистрали трансформатора». Трансформаторы — это тип архитектуры нейронной сети, задачей которого является создание больших языковых моделей, таких как GPT (генеративные предварительно обученные трансформаторы), которые породили такие продукты, как ChatGPT и Bing Chat от Microsoft .

Наконец, новый чип MediaTek также будет встроен в модуль DRAM, чтобы улучшить взаимодействие с пользователем в приложениях генеративного искусственного интеллекта на основе Llama. DRAM, сокращение от Dynamic Random Memory, — это высокоскоростной модуль памяти с малой задержкой, в котором хранятся рабочие данные приложения. Чем больше DRAM в вашем телефоне, тем больше приложений вы можете запускать в фоновом режиме без каких-либо проблем. Есть причина, по которой производители смартфонов, такие как OnePlus, установили в свои телефоны до 24 ГБ DRAM.

Что эти обновления ИИ означают для вас

MediaTek заявляет, что благодаря вышеупомянутым изменениям ее будущий чип AI улучшит возможности LLM и AIGC (контент, генерируемый искусственным интеллектом), перенеся основную часть требований к обработке на локальное оборудование.

Что касается типа задач, на ускорение которых вы можете рассчитывать, то это будет зависеть от возможностей модели Llama 2 от Meta и типа приложений, созданных на ее основе. Llama 2 — это текстовая модель естественного языка, поэтому можно ожидать, что она проделает те же трюки, что и ChatGPT или Bard. Он может обрабатывать запросы и предоставлять ответы на основе наборов обучающих данных, обобщать или расширять текст и многое другое.

Что касается MediaTek, то это будет не первое партнерство в области искусственного интеллекта такого рода. В июле этого года компания подписала соглашение с китайским подразделением Unity, которое разрабатывает одноименный движок для разработки игр, на исследование приложений генеративного искусственного интеллекта в игровом сегменте.

MediaTek ожидает, что ее новый чип с приложениями Llama 2 появится в смартфонах к концу года, поэтому нам не придется долго ждать, чтобы увидеть, как все это будет выглядеть в реальном продукте.