Czym jest NPU (procesor neuronowy) i po co smartfonowi

NPU (Neural Processing Unit, procesor neuronowy) to część chipu stworzona specjalnie do zadań sztucznej inteligencji: rozpoznawania twarzy, obróbki zdjęć, tłumaczenia i działania asystentów AI bezpośrednio na urządzeniu.

NPU jak grupa „prymusów” szybko wykonujących identyczne obliczenia AI

Prostymi słowami

Zwykły procesor to jak uczeń, który umie wszystko: napisać wypracowanie, rozwiązać zadanie, narysować obrazek. NPU to jak uczeń, który zna tylko tabliczkę mnożenia, ale mnoży setki razy szybciej od innych. Sieci neuronowe składają się właśnie z milionów jednakowych mnożeń. Dlatego wąski, ale szybki „prymus” pasuje do nich idealnie.

Jak to działa

Sieć neuronowa to duża tabela liczb, przez którą przepuszcza się dane: zdjęcia, dźwięk, tekst.
Większość pracy to mnożenie i dodawanie tych samych typów liczb.
NPU ma setki małych bloków, które wykonują te operacje jednocześnie.
Dlatego wykonuje zadania AI szybciej niż zwykły procesor i zużywa mniej baterii.
Efekt: rozmyte tło na portrecie, tłumaczenie rozmowy czy odpowiedź asystenta bez internetu.

Co robi procesor neuronowy w smartfonie: portret, tłumaczenie, odblokowanie twarzą

Gdzie to zobaczysz

NPU siedzi w SoC prawie wszystkich nowoczesnych smartfonów, tabletów i nowych laptopów. W specyfikacji jego moc często podaje się w TOPS - bilionach operacji na sekundę. U Apple nazywa się Neural Engine, u Qualcomm - Hexagon NPU.

Czy to ważne przy wyborze

To zależy, jak korzystasz z telefonu. Jeśli chcesz funkcji AI, takich jak tłumaczenie na żywo, podsumowania nagrań czy generatywna edycja zdjęć bez internetu - mocne NPU jest potrzebne. Przy zwykłych zadaniach różnica jest prawie niezauważalna. I jeszcze: wartości TOPS różnych producentów nie zawsze da się porównać wprost - liczą je różnie.

Mity

Mit: NPU jest potrzebne tylko do chatbotów. W rzeczywistości: Nie. Od dawna pracuje w aparacie, odblokowaniu twarzą i redukcji szumów podczas rozmów.
Mit: Więcej TOPS zawsze znaczy lepiej. W rzeczywistości: Nie zawsze. Ważne jest też, czy aplikacje potrafią z tego NPU korzystać.

Częste pytania

Czy mój telefon ma NPU?

Prawie na pewno tak, jeśli wyszedł po 2020 roku. Nawet budżetowe chipy mają choćby prosty blok neuronowy.

Co to jest TOPS?

Biliony operacji na sekundę - umowna miara tego, ile obliczeń AI NPU zdąży wykonać.

Czy funkcje AI działają bez NPU?

Część działa przez chmurę, czyli na serwerach w internecie. Ale wtedy potrzebne jest połączenie, a dane opuszczają telefon.

Powiązane pojęcia

Układ SoC (system on a chip), TOPS, AI na urządzeniu, Sieć neuronowa, AI w chmurze