AMD снимает перчатки в гонке вооружений в области искусственного интеллекта
AMD, похоже, готова к бою. На мероприятии Advancing AI компания наконец представила свой AI-графический процессор Instinct MI300X, о котором мы впервые услышали несколько месяцев назад. Интересным достижением является производительность, о которой заявляет AMD, по сравнению с зеленым слоном искусственного интеллекта в комнате: Nvidia.
AMD утверждает, что MI300X превосходит AI-графический процессор Nvidia H100 по объему и пропускной способности памяти, а также способен в 1,3 раза превосходить теоретическую производительность H100 в операциях FP8 и FP16. AMD продемонстрировала это с помощью двух больших языковых моделей (LLM), использующих среднее и большое ядро. MI300X показал улучшение в 1,1–1,2 раза по сравнению с H100.
В момент, который выглядит прямо с конференции Nvidia, генеральный директор AMD Лиза Су представила платформу MI300X, которая объединяет восемь графических процессоров на одной плате. AMD заявляет, что эти платы обеспечивают ту же производительность обучения, что и H100 HGX от Nvidia, и в 1,6 раза большую производительность вывода. Кроме того, AMD заявляет, что вы можете запускать два LLM на систему, тогда как H100 HGX может обрабатывать только один.
Чтобы проиллюстрировать, насколько это важно, AMD пригласила технического директора Microsoft Кевина Скотта, чтобы тот рассказал о том, как AMD и Microsoft вместе работают над искусственным интеллектом. Важно подчеркнуть, что чрезвычайно популярный ChatGPT запускается на серверах Microsoft и изначально обучался на тысячах графических процессоров Nvidia .
По словам AMD, в дополнение к MI300X AMD анонсировала MI300A, который является первым APU для искусственного интеллекта. Он сочетает в себе архитектуру графического процессора AMD CDNA 3 AI с 24 ядрами процессора Zen 4 и 128 ГБ памяти HBM3. AMD заявляет, что это баланс между производительностью искусственного интеллекта и высокопроизводительными вычислениями, предлагающий центрам обработки данных мощь ЦП, которую мы недавно видели в Threadripper 7000 .
Несмотря на то, что AMD присоединилась к ИИ вместе с остальным миром технологий, до сих пор AMD отошла на второй план по сравнению с Nvidia. Nvidia начала активно инвестировать в искусственный интеллект несколько лет назад, что дало ей огромное преимущество перед AMD и Intel. Эти ранние инвестиции позволили Nvidia в этом году стать компанией с оборотом в триллион долларов .
Благодаря кластеру графических процессоров, способному бросить вызов Nvidia H100, а также партнерству с Meta и Microsoft, AMD наконец выходит на ринг. AMD может уйти избитая и окровавленная, но похоже, что AMD готова дать отпор.