НПУ официально бесполезны — на данный момент
Мне жаль это говорить, но я бы солгал, если бы сказал иначе. НПУ бесполезны. Возможно, это покажется резким, но это исходит не из цинизма. Протестировав их самостоятельно, я искренне убежден, что в настоящее время NPU не имеют убедительного применения.
Когда вы пойдете покупать свой следующий ноутбук, велика вероятность, что внутри него будет установлен нейронный процессор (NPU) , и AMD и Intel поднимают большой шум по поводу того , как эти NPU будут определять будущее ПК с искусственным интеллектом. Я не сомневаюсь, что в конечном итоге мы этого добьемся, но с точки зрения современного варианта использования NPU на самом деле не так эффективен, как вы думаете.
Говоря о Meteor Lake на выставке CES 2024 , Intel объяснила, что использует различные процессоры на чипах Meteor Lake для работы ИИ. Не все это ложится на НПУ. Фактически, наиболее требовательные рабочие нагрузки искусственного интеллекта перекладываются на встроенный графический процессор Arc. NPU в основном используется как вариант с низким энергопотреблением для устойчивых и малоинтенсивных рабочих нагрузок ИИ , таких как размытие фона .
Ваш графический процессор вступает в игру для чего-то более интенсивного. Например, Intel продемонстрировала демоверсию в Audacity, где ИИ мог отделять звуковые дорожки из одного стереофайла и даже расшифровывать тексты песен. Он также показал работу искусственного интеллекта с помощью Metahuman от Unreal Engine, преобразующего видеозапись в анимацию реалистичного игрового персонажа. Оба работали на графическом процессоре.
Вот несколько отличных вариантов использования ИИ. НПУ им просто не нужно. Выделенный процессор искусственного интеллекта далеко не так мощный, как графический процессор, для таких бурных рабочих нагрузок искусственного интеллекта.
По мнению Intel, основной вариант использования заключается в том, что NPU эффективен, поэтому он должен продлить срок службы батареи при выполнении таких устойчивых, малоинтенсивных рабочих нагрузок искусственного интеллекта, как размытие фона, на нем, а не на графическом процессоре. Я тестировал это на MSI Studio 16 с одним из новых процессоров Intel Meteor Lake, и экономия энергии не такая большая, как можно было ожидать.
За 30 минут среднее энергопотребление графического процессора составило 18,9 Вт, а у NPU — 17,6 Вт. Что было интересно, так это то, что первоначально мощность графического процессора выросла примерно до 38 Вт общей мощности системы на кристалле, но постепенно она снизилась. NPU, с другой стороны, начинался с низкого уровня и постепенно увеличивался с течением времени, в конечном итоге установившись между 16 Вт и 17 Вт.
Я должен отметить, что это общая мощность пакета — другими словами, мощность всего чипа, а не только графического процессора или NPU. NPU более эффективен, но я не знаю, насколько важна эта эффективность в этих низкоинтенсивных рабочих нагрузках ИИ. Вероятно, это не сэкономит вам много времени автономной работы в реальных условиях.
Мне придется подождать, чтобы проверить время автономной работы, когда у меня будет больше времени с одним из этих ноутбуков Meteor Lake , но я не подозреваю, что это будет иметь большое значение. Даже лучшие ноутбуки с Windows имеют довольно посредственное время автономной работы по сравнению с конкурентами Apple , и я сомневаюсь, что NPU достаточно, чтобы изменить эту динамику.
Это не должно отвлекать от интересных приложений искусственного интеллекта, которые мы начинаем видеть на ПК. От Audacity до пакета Adobe и Stable Diffusion в GIMP — теперь существует множество способов использования ИИ. Однако большинство этих приложений обрабатываются либо в облаке, либо с помощью вашего графического процессора, а выделенный NPU мало что делает, кроме размытия фона.
Поскольку NPU становятся более мощными, а приложения искусственного интеллекта — более эффективными, я не сомневаюсь, что NPU найдут свое место. И вполне логично, что AMD и Intel закладывают основу для того, чтобы это произошло в будущем. Однако в нынешнем виде большое внимание к производительности ИИ в основном уделяется вашему графическому процессору, а не эффективному процессору ИИ, обрабатывающему ваши видеовызовы.