Суперкомпьютер Nvidia может открыть новую эру ChatGPT
Nvidia только что анонсировала новый суперкомпьютер, который может изменить будущее ИИ. DGX GH200, оснащенный почти в 500 раз большим объемом памяти, чем системы, с которыми мы знакомы сейчас, скоро попадет в руки Google, Meta и Microsoft.
Цель? Революция в области генеративного ИИ , рекомендательных систем и обработки данных в масштабах, которых мы никогда раньше не видели. Принесут ли пользу такие языковые модели, как GPT , и что это будет означать для обычных пользователей?
Описание Nvidia DGX GH200 требует использования терминов, с которыми большинству пользователей никогда не приходится иметь дело. «Экзафлоп», например, потому что суперкомпьютер обеспечивает производительность в 1 экзафлоп и 144 терабайта общей памяти. Nvidia отмечает, что это означает почти в 500 раз больше памяти, чем в одной системе Nvidia DGX A100.
Давайте вернемся к цифре в 1 экзафлоп и немного разберем ее. Один экзафлоп равен квинтиллиону операций с плавающей запятой в секунду (FLOP). Для сравнения, RTX 4090 от Nvidia может достигать около 100 терафлопс (TFLOP) при разгоне. TFLOP равен одному триллиону операций с плавающей запятой в секунду. Разница ошеломляющая, но, конечно же, RTX 4090 — это не графический процессор для центров обработки данных. DGX GH200, с другой стороны, объединяет значительное количество этих высокопроизводительных графических процессоров, которые не подходят для потребительских ПК.
Компьютер оснащен суперчипом Nvidia GH200 Grace Hopper. Всего их 256, и благодаря технологии межсоединений Nvidia NVLink все они могут работать вместе как единая система, по сути, создавая один массивный графический процессор.
Используемые здесь суперчипы GH200 также не требуют традиционного соединения PCIe между процессором и графическим процессором. Nvidia говорит, что они уже оснащены Nvidia Grace CP,U на базе ARM, а также графическим процессором H100 Tensor Core. У Nvidia также есть несколько причудливых межсоединений чипов, на этот раз с использованием NVLink-C2C. В результате считается, что пропускная способность между процессором и видеокартой значительно улучшена (до 7 раз) и более энергоэффективна (до 5 раз).
Упаковать более 200 таких чипов в один мощный суперкомпьютер уже достаточно впечатляет, но становится еще лучше, если учесть, что раньше к NVLink одновременно можно было подключить только восемь графических процессоров. Скачок с восьми до 256 чипов, безусловно, дает Nvidia право похвастаться.
Чем же закончится DGX GH200 и что он может предложить миру? Nvidia строит собственный суперкомпьютер Helios в качестве средства продвижения своих исследований и разработок в области искусственного интеллекта. Он будет включать в себя четыре системы DGX GH200, соединенные с помощью Nvidia Quantum-2 InfiniBand. Ожидается, что он появится в сети к концу года.
Nvidia также делится своими новыми разработками со всем миром, начиная с Google Cloud, Meta и Microsoft. Цель почти та же — изучение генеративных рабочих нагрузок ИИ.
Когда дело доходит до Google и Microsoft, трудно не представить, что DGX GH200 может привести к улучшениям в Bard , ChatGPT и Bing Chat .
Значительная вычислительная мощность, обеспечиваемая одной системой DGX GH200, делает ее подходящей для обучения сложным языковым моделям. Трудно сказать, что именно это может означать, без комментариев одной из заинтересованных сторон, но мы можем немного порассуждать.
Большая мощность означает более крупные модели, а значит, более детальный и точный текст и более широкий диапазон данных для их обучения. Мы могли бы увидеть лучшее культурное понимание, больше знаний о контексте и большую согласованность. Также могут начать появляться специализированные чат-боты с искусственным интеллектом, которые заменят людей в таких областях, как технологии.
Должны ли мы беспокоиться о возможном сокращении рабочих мест, или мы должны быть в восторге от достижений, которые могут принести эти суперкомпьютеры? Ответ неоднозначен. Одно можно сказать наверняка — Nvidia DGX GH200 может встряхнуть мир искусственного интеллекта, и Nvidia только что снова упрочила свое лидерство в области искусственного интеллекта над AMD .