smartphone.uaТехнології. Досвід. Вибір.

TOPS: як міряють потужність ШІ в чипах

TOPS (Trillions of Operations Per Second) - це кількість трильйонів простих обчислювальних операцій на секунду, які може виконати нейропроцесор чи інший ШІ-прискорювач. Цим числом виробники хваляться потужністю ШІ в смартфонах і ноутбуках.

TOPS - як пікова швидкість на спідометрі

Простими словами

TOPS - як максимальна швидкість на спідометрі авто. 250 км/год виглядає круто, але ти рідко так їдеш, і багато залежить від дороги, шин і водія. Так і з TOPS: це пікова теоретична цифра, а реальна швидкість ШІ залежить від програм, пам'яті і того, як саме рахували.

Як це працює

  1. Нейропроцесор виконує множення і додавання чисел - основу роботи нейромереж.
  2. Виробник рахує, скільки таких операцій чип може зробити за секунду на максимумі.
  3. Трильйон операцій за секунду = 1 TOPS.
  4. Часто цифру наводять для коротких чисел (INT8 чи INT4) - так вона виходить більшою.
  5. Реальна швидкість ШІ-функцій залежить ще й від пам'яті та оптимізації застосунку.

Потужність ШІ в ноутбуках і смартфонах

Де ти це побачиш

TOPS пишуть у характеристиках чипів для смартфонів, планшетів і ноутбуків (для «AI PC» часто згадують поріг у 40 TOPS для NPU). Також - в описах прискорювачів для роботів, камер і автомобілів.

Чи важливо це при виборі

Для ноутбука з ШІ-функціями Windows - так, там є мінімальні вимоги до NPU. Для смартфона - менше, бо важливіше, які ШІ-функції реально є. Порівнюй TOPS лише між чипами одного виробника і однієї точності. Між різними брендами я б орієнтувався на тести конкретних функцій.

Міфи

  • Міф: Більше TOPS - швидші ШІ-функції завжди. Насправді: Не завжди: багато залежить від пам'яті, програм і оптимізації.
  • Міф: TOPS усіх виробників рахують однаково. Насправді: Ні, можуть відрізнятися точність чисел і методика.

Часті питання

Скільки TOPS у сучасних телефонах?

Флагманські NPU - десятки TOPS, але цифри часто наводять за різною методикою.

Що таке INT8 і INT4 поруч із TOPS?

Розрядність чисел. На коротших числах чип виконує більше операцій.

TOPS і TFLOPS - це одне й те саме?

Ні. TFLOPS зазвичай рахують для чисел з плаваючою комою (GPU), TOPS - для цілих чисел (NPU).

Пов'язані терміни

Нейропроцесор (NPU), ШІ на пристрої, Квантизація моделі, Однокристальна система (SoC)

← Терміни