Эта новая технология решает самую большую проблему современных графических процессоров.

Это интересное событие для индустрии графических процессоров: память, подключаемая через PCIe, изменит наше представление о емкости и производительности памяти графического процессора. Panmnesia, компания, поддерживаемая южнокорейским исследовательским институтом KAIST, работает над технологией под названием Compute Express Link или CXL, которая позволяет графическим процессорам использовать ресурсы внешней памяти через интерфейс PCIe.

Традиционно графические процессоры, такие как RTX 4060, ограничены встроенной видеопамятью, что может ограничивать производительность в задачах с интенсивным использованием памяти, таких как обучение искусственного интеллекта, анализ данных и игры с высоким разрешением. CXL использует высокоскоростное соединение PCIe для подключения внешних модулей памяти непосредственно к графическому процессору.

Этот метод обеспечивает возможность расширения памяти с малой задержкой, а показатели производительности демонстрируют значительные улучшения по сравнению с традиционными методами. По имеющимся данным, новая технология позволяет достичь двузначной наносекундной задержки, что является существенным сокращением по сравнению со стандартными решениями на базе SSD.

Более того, эта технология не ограничивается только традиционной оперативной памятью. SSD-накопители также можно использовать для расширения памяти графического процессора, предлагая универсальное и масштабируемое решение. Эта возможность позволяет создавать гибридные системы памяти, сочетающие скорость оперативной памяти с емкостью твердотельных накопителей, что еще больше повышает производительность и эффективность.

Хотя CXL работает по каналу PCIe, интеграция этой технологии с графическими процессорами не является простой задачей. В графических процессорах отсутствует необходимая логическая структура и подсистемы CXL для поддержки конечных точек DRAM или SSD. Поэтому простое добавление контроллера CXL невозможно.

Системы кэша и памяти графического процессора распознают расширения только через унифицированную виртуальную память (UVM). Однако тесты, проведенные Panmnesia, показали, что UVM имел самую низкую производительность среди протестированных ядер графического процессора из-за накладных расходов из-за вмешательства во время выполнения хоста во время ошибок страниц и неэффективной передачи данных на уровне страницы.

Чтобы решить эту проблему, Panmnesia разработала ряд аппаратных уровней, поддерживающих все ключевые протоколы CXL, объединенных в единый контроллер. Этот корневой комплекс, совместимый с CXL 3.1, включает в себя несколько корневых портов для внешней памяти через PCIe и хост-мост с декодером памяти устройства, управляемым хостом. Этот декодер подключается к системной шине графического процессора и управляет системной памятью, обеспечивая прямой доступ к расширенному хранилищу с помощью инструкций загрузки/сохранения, эффективно устраняя проблемы UVM.

Последствия этой технологии далеко идущие. Для искусственного интеллекта и машинного обучения возможность добавлять больше памяти означает более эффективную обработку больших наборов данных, сокращение времени обучения и повышение точности модели. В играх разработчики могут расширить границы графической точности и сложности, не ограничиваясь ограничениями видеопамяти.

Для центров обработки данных и сред облачных вычислений технология CXL компании Panmnesia обеспечивает экономичный способ модернизации существующей инфраструктуры. Подключая дополнительную память через PCIe, центры обработки данных могут повысить свою вычислительную мощность, не требуя капитального ремонта оборудования.

Несмотря на свой потенциал, Panmnesia сталкивается с серьезной проблемой при принятии во всей отрасли. Лучшие видеокарты AMD и Nvidia не поддерживают CLX и, возможно, никогда не будут его поддерживать. Также существует высокая вероятность того, что игроки отрасли могут разработать свои собственные технологии памяти с подключением к PCIe для графических процессоров. Тем не менее, инновация Panmnesia представляет собой шаг вперед в устранении узких мест в памяти графического процессора и может существенно повлиять на высокопроизводительные вычисления и игры.