Clasamentul performanțelor hardware AI

Bine ați venit la pagina noastră de clasificare a performanței AI. Aici, evaluăm componentele în funcție de puterea lor de procesare a IA, măsurată în TOPS (Tera Operații pe secundă) – o metrică critică care indică viteza de calcul, în special pentru sarcinile IA.

Prima coloană arată performanța de vârf pentru precizia INT8/FP8, care este cel mai răspândit parametru pentru evaluarea capacităților de inferență AI. Am exclus Sparsity pentru a oferi o reflectare mai exactă a performanței AI în scenarii de calcul dens în care optimizările de sparsity ar putea să nu fie aplicabile. A doua și a treia coloană arată performanța cu Sparsity și FP4 TFLOPS, atunci când sunt acceptate.

Pentru SoC-uri, rezultatele reflectă performanța maximă a NPU-ului integrat. În plus, este important să rețineți că, în conformitate cu Microsoft, o NPU trebuie să aibă cel puțin 40 TOPS de putere de calcul AI pentru ca PC-ul să fie considerat “AI-capabil”.