Що таке NPU (нейропроцесор) і навіщо він смартфону

NPU (Neural Processing Unit, нейропроцесор) - це частина чипа, створена спеціально для завдань штучного інтелекту: розпізнавання облич, обробки фото, перекладу, роботи ШІ-асистентів просто на пристрої.

NPU як група «відмінників», що швидко виконують однакові обчислення для ШІ

Простими словами

Звичайний процесор - як учень, який уміє все: і писати твір, і розв'язувати задачі, і малювати. А NPU - як учень, що знає лише таблицю множення, зате множить у сотні разів швидше за інших. Нейромережі якраз і складаються з мільйонів однакових множень. Тому для них вузький, але швидкий «відмінник» підходить ідеально.

Як це працює

Нейромережа - це велика таблиця чисел, через яку проганяють дані: фото, звук, текст.
Більша частина роботи - множення і додавання тих самих типів чисел.
NPU має сотні маленьких блоків, які роблять ці операції одночасно.
Через це він виконує ШІ-завдання швидше за звичайний процесор і витрачає менше батареї.
Результат - розмите тло на портреті, переклад розмови чи відповідь асистента без інтернету.

Що робить нейропроцесор у смартфоні: портрет, переклад, розблокування обличчям

Де ти це побачиш

NPU сидить усередині однокристальної системи (SoC) майже всіх сучасних смартфонів, планшетів і нових ноутбуків. У характеристиках його потужність часто пишуть у TOPS - трильйонах операцій на секунду. В Apple він називається Neural Engine, у Qualcomm - Hexagon NPU.

Чи важливо це при виборі

Залежить від того, як ти користуєшся телефоном. Якщо хочеш ШІ-функції на кшталт живого перекладу, підсумків записів чи генеративного редагування фото без інтернету - потужний NPU потрібен. Для звичайних завдань різниця майже непомітна. І ще: цифри TOPS різних виробників не завжди можна порівнювати напряму - вони рахують по-різному.

Міфи

Міф: NPU потрібен лише для чат-ботів. Насправді: Ні. Він уже давно працює в камері, розблокуванні обличчям, шумозаглушенні під час дзвінків.
Міф: Більше TOPS - завжди краще. Насправді: Не завжди. Важливо ще, чи вміють застосунки цей NPU використовувати.

Часті питання

Чи є NPU в моєму телефоні?

Майже напевно так, якщо він вийшов після 2020 року. Навіть бюджетні чипи мають бодай простий нейроблок.

Що таке TOPS?

Трильйони операцій на секунду - умовна міра того, скільки обчислень для ШІ встигає зробити NPU.

Чи працюють ШІ-функції без NPU?

Частина працює через хмару, тобто на серверах в інтернеті. Але тоді потрібен зв'язок, а дані йдуть із телефона.

Пов'язані терміни

Однокристальна система (SoC), TOPS, ШІ на пристрої, Нейронна мережа, Хмарний ШІ