NPU в ноутбучных процессорах: модный тренд или необходимость?

Почти во всех современных процессорах — таких как Intel Core Ultra, AMD Ryzen AI, Apple M и Qualcomm Snapdragon X — интегрированы блоки NPU, аппаратные модули, предназначенные для ускорения задач, связанных с искусственным интеллектом и машинным обучением. Нейросети — это звучит современно, но есть ли какая-то реальная польза от NPU в 2024 году? Разбираемся.

Что такое NPU и как он работает

Главная особенность NPU (Neural Processing Unit) или нейропроцессоров — способность обрабатывать одновременно большие массивы данных, которые используются в задачах машинного обучения. По сравнению с традиционными процессорами у NPU следующие преимущества:

• Скорость. Благодаря тому, что их архитектура изначально создавалась для ИИ-задач, NPU справляется с подобными вычислениями быстрее. Например, по замерам ресурса PCWorld, в специализированном бенчмарке NPU в процессоре Intel Core Ultra 7 165H оказался быстрее на 82% чем процессорные ядра.
• Эффективность. NPU требуется меньше энергии, чем CPU, для выполнения того же объема задач. Это актуально для мобильных устройств, таких как ноутбуки и смартфоны, потому что позволяет добиться лучшего времени автономной работы
• Дополнительные возможности. Благодаря NPU ПК и ноутбуки могут выполнять функции, которые раньше были недоступны из-за недостаточной производительности — вроде продвинутой обработки фото и видео, перевода в режиме реального времени и других.

Зачем нужен NPU, если есть GPU

Стоит отметить, что графические процессоры (GPU) по своей архитектуре отлично подходят для задач ИИ и машинного обучения. Мало того, GPU по производительности лучше, чем любой существующий нейропроцессор, встроенный в CPU. В том же тесте от PC World, встроенный в Intel Core Ultra 7 165H видеочип оказался в бенчмарке почти вдвое быстрее, чем NPU. Любой ПК с дискретным графическим процессором среднего уровня может работать с искусственным интеллектом, если у вас не закончится видеопамять. И любой игровой ноутбук для энтузиастов, по сути, уже является «ПК с искусственным интеллектом».

Несмотря на то, что современные GPU отлично справляются с ИИ-вычислениями, большинство современных процессоров оснащаются выделенными блоками NPU

Однако нейропроцессоры, по сравнению с видеокартами, потребляют меньше энергии, по крайней мере, об этом заявляет Microsoft. Следовательно, они меньше нагружают систему и меньше расходуют заряд батареи мобильных устройств вроде ноутбуков или смартфонов.

Примеры использования NPU в гаджетах и ПК

В повседневных задачах, не связанных с профессиональной деятельностью в области машинного обучения, NPU чаще используются в мобильных устройствах, в которых критично экономить заряд аккумулятора: смартфонах, ноутбуках планшетах. В смартфонах NPU улучшает работу камер (например, в iPhone — используется в функциях Deep Fusion, Smart HDR и Night Mode), распознает речь и обрабатывает голосовые команды (Siri, Google Assistant).

Google Translate с помощью NPU ускоряет перевод и улучшает его качество в режиме реального времени.

Диспетчер задач в Windows 11 может отслеживать использование NPU

Хотя эра AI PC еще только начинается, многие приложения уже адаптированы для того, чтобы задействовать возможности NPU. Например, нейропроцессоры могут использоваться для ускорения профессиональных приложений — вроде Adobe Photoshop или Premiere Pro.

В Zoom, Snapchat и некоторых других приложениях для видеоконференций NPU помогают улучшать четкость видео, устранять фоновые шумы в аудио и накладывать виртуальные фоны и разные фильтры в реальном времени.

Для геймеров тайваньская компания PowerColor создает новую технологию, которая называется Edge AI. Она позволяет видеокартам AMD Radeon RX использовать NPU, чтобы снизить энергопотребление в видеоиграх (так, энергозатраты во время игры в Cyberpunk 2077 снизились с 263,2 Вт до 205,3 Вт).

Чтобы получить сертификат Copilot+ устройство должно обладать мощным NPU

Apple уже запатентовала технологию Face ID для ее фирменных ноутбуков. Это решение пока что работает только iPhone и iPad и тоже требует NPU. Нейропроцессор обрабатывает данные с камеры в реальном времени: справляется с ними даже в условиях плохой освещенности и при изменении внешности.

Ранее Microsoft представила новую категорию ПК под названием Copilot+. Это компьютеры, созданные для работы с ИИ-функциями, интегрированными в Windows 11 и приложения Microsoft. Для того чтобы устройство могло считаться Copilot+, оно должно быть оснащено NPU, способным выполнять более 40 триллионов операций в секунду (40 TOPS), и иметь минимум 16 ГБ оперативки.

Нейропроцессоры в таких компьютерах помогают интегрированному в продукты Microsoft искусственному интеллекту писать и редактировать тексты (в Word Copilot), рисовать диаграммы (в Excel), генерировать презентации (в PowerPoint) и используются в приложениях Windows Studio Effects, Paint Cocreator и других AI-инструментах для профессиональной работы

В каких процессорах есть NPU

На рынках ноутбуков поддержка NPU пока не так распространена, как в мобильных устройствах. Поэтому список не очень большой:

• процессоры Intel серии Core Ultra;
• процессоры AMD, поддерживающие технологию Ryzen AI (например, некоторые Ryzen серии 7000, Ryzen серии 8000 и новее);
• Qualcomm Snapdragon 8cx Gen2 и выше (например, Snapdragon X Elite, Snapdragon 8cx Gen 3);
• процессоры от Apple, начиная от M1.

В представленном поколении процессоров Lunar Lake встроенные NPU обладают производительность до 48 TOPS. У представленного AMD летом 2024 года Ryzen AI 300 это 55 TOPS. У нового M4 от Apple — 38 TOPS.

Что в итоге

Уже сейчас многие программы умеют задействовать возможности NPU, но главным образом это сказывается на автономность устройства — с точки зрения производительности интегрированный или дискретный видеоадаптер справляется с ИИ-задачами не хуже, чем NPU. Поэтому, специально гнаться за ноутбуком с NPU смысла нет, если у вас уже есть модель с современным мощным процессором – например, AMD Ryzen 7 8745H, Intel Core i9, AMD Ryzen 7000 серии. Но в ближайшие годы NPU в ноутбуке станет одним из стандартных блоков, как это произошло с чипами для смартфонов. После этого выбирать уже не придется — при покупке нового устройства, вы получите NPU автоматически.