В этой публикации, друзья, рассмотрим, что такое нейронный процессор (NPU). Это специализированный чип, предназначенный для ускорения задач, связанных с искусственным интеллектом (ИИ). Может быть интегрирован в процессор компьютера, мобильного или прочего устройства. На первый взгляд может показаться, что этой информацией рановато забивать себе голову. Может и рановато. Вот только технологии быстро развиваются. Очень вероятно, что в скором обозримом будущем при выборе процессора мы будем задумываться - а не взять ли его с нейропроцессором. А ещё через какое-то время интегрированный нейропроцессор может стать обыденностью, как, например, несколько ядер у процессора. Конечно, если развитию этих событий не помешают Джон и Сара Коннор.

↑ ***

Друзья, стадия готовности ИИ для массового использования на данный момент оставляет желать лучшего. Типичные задачи типа написания реферата или генерации непритязательной картинки могут выполнить нейросети, доступные онлайн, причём бесплатно – ChatGPT, Gemini от Google, Copilot от Microsoft, Алиса YandexGPT от Яндекса, Microsoft Designer, YandexART и прочие. Но есть пользовательские процессоры с интегрированным NPU для выполнения серьёзных ИИ-задач локально. Более того, уже появились оснащённые нейропроцессорами компьютерные устройства с эксклюзивными возможностями использования ИИ-функций в Windows 11. О процессорах и устройствах чуть позже, для начала давайте разберёмся с самим нейропроцессором.

↑ Нейронный процессор – что это

Нейронный процессор - это тип микропроцессора для выполнения вычислений, характерных для ИИ и машинного обучения. Предназначен для локальной обработки задач, связанных с глубокими нейронными сетями (DNN) и свёрточными нейронными сетями (CNN). Первые являют собой многоуровневые модели, используемые для сложных задач машинного обучения как то: классификация данных, распознавание речи, текста и многое другое. Вторые эффективны при работе с изображениями и видео, обрабатывают задачи типа распознавания объектов на изображениях или видео, улучшения качества фото и видео.

Нейронный процессор может существовать как в виде отдельного чипа, так и быть интегрированным в центральный процессор (CPU), системы на кристалле (SoC), графический процессор (GPU) или другие аппаратные компоненты, в зависимости от специфики устройства.

ChatGPT, Gemini, Copilot, Алиса YandexGPT и иже с ними – всё это облачные сервисы. Когда мы их используем, нам не нужен нейронный процессор локально на компьютере. Поскольку все вычисления и обработка данных происходят на серверах, где используются мощные серверные процессоры и специализированные чипы для ИИ. А вот выполнение серьёзных ИИ-операций локально на компьютере мы должны обеспечить аппаратно сами.

Почему ИИ-задачи не могут быть обработаны центральным процессором? Друзья, CPU может выполнять некоторые ИИ-операции, но для серьёзных он не годится. На всякое дело нужен свой инструмент. CPU – это универсальный процессор, созданный для выполнения широкого спектра задач, он отлично справляется с последовательными вычислениями. Но задачи ИИ требуют большого количества параллельных вычислений и операций с плавающей запятой, которые CPU выполняет медленнее, чем NPU. NPU разработан специально для работы с нейронными сетями, т.е. с ИИ. Может выполнять параллельные вычисления на уровне, недоступном CPU. Имеет серьёзное преимущество в скорости обработки задач ИИ. Плюс к этому, NPU спроектирован с учётом энергоэффективности при выполнении ИИ-задач, что важно для портативных компьютеров и мобильных устройств.

Итого, друзья: NPU необходим для локальных ИИ-задач, поскольку CPU с этими задачами справляется медленно и с большим энергопотреблением. Тогда как NPU специально разработан для обработки больших объёмов данных и выполнения сложных математических операций. Плюс к этому, за счёт своей специализации на ИИ NPU снижает нагрузку на CPU, позволяя ему свободно выполнять свои непосредственные задачи.

Нейронный процессор – это нечто тензорных ядер у RTX-видеокарт Nvidia. Тензорные ядра не являются NPU в традиционном смысле, но они оптимизированы для ИИ-задач в графических процессорах Nvidia.

NPU можно встретить в некоторых смартфонах, транспортных средствах с автопилотом, устройствах умного дома, серверных решениях для обработки данных ИИ. А с недавнего времени NPU появились и на пользовательских компьютерах.

↑ Локальные ИИ-операции

Наличие NPU на компьютере позволяет обрабатывать данные локально, без необходимости передачи их в облако. Что особенно важно для ИИ-операций, требующих низкой задержки. В числе таких операций:

• Обработка изображений и видео;
• Видеообработка в реальном времени – наложение фильтров, коррекция цвета, стабилизация и т.п. для потокового видео или видеозвонков;
• Шумоподавление и улучшение аудио в реальном времени;
• Ускорение работы локальных систем распознавания речи;
• Ускорение обработки биометрических данных;
• Обработка текста в реальном времени;
• Улучшение производительности в играх;
• Обработка задач ПО дополненной и виртуальной реальности.

↑ Устройства на базе нейронных процессоров

Впервые, в 2017 году нейронный процессор появился в процессоре от компании Apple. И присутствует во многих процессорах Apple-устройств. Позднее NPU появился в составе ARM-процессоров. Представители таковых от Snapdragon стали первыми, соответствующими системным требованиям класса устройств Copilot+ПК.

Copilot+ПК (Copilot+PC) — это класс устройств на базе Windows 11, оснащённых нейропроцессорами, с поддержкой технологий ИИ. Идея такого класса устройств принадлежит компании Microsoft, ибо она есть не кто иной, как создатель и разработчик ИИ-технологии Copilot, являющей собой интеграцию ИИ-функций в Windows 11. Microsoft сама производит устройства класса Copilot+ПК – ультрабуки Surface. И позволяет производить такие устройства другим производителям – Asus, Lenovo и др. – в соответствии с установленными Microsoft системными требованиями.

Заточенные под устройства Copilot+ ПК функции появились в Windows 11 начиная с версии 24H2. Их не так уж и много, и они на начальных этапах своего развития. Но Microsoft активно развивает экосистему устройств Copilot+ПК. Насколько хватит её запала, покажет время.

Первыми процессорами x64 с интегрированными нейропроцессорами стали Ryzen AI, представители Ryzen 8000 Series от компании AMD.

На базе этих процессоров поставляются (или готовятся к поставке) ноутбуки и ультрабуки Asus, Acer, Dell, HP, Lenovo. Которые также могут быть устройствами класса Copilot+ПК. Но более того, как заявляет AMD, ИИ-возможности, заточенные под процессоры Ryzen AI, поддерживают более 150 Windows-программ.

Сама же компания AMD вместе с этими процессорами реализует ИИ-технологии увеличения производительности в играх.

↑ ***

Вот такая, друзья, заря истории с нейропроцессорами. Конечно, всё ещё очень сыро. И, конечно, развитие этой истории будет упираться в аппаратные возможности, а, соответственно, не предоставит разработчикам ИИ-софта должного фидбэка как минимум первое время. Тем не менее у этой истории есть потенциал. Наблюдаем за его раскрытием, а там время покажет.