Cipurile de inteligență artificială (AI) de la Qualcomm Inc au învins Nvidia Corp în două din trei măsuri ale eficienței energetice într-un nou set de date de testare publicat miercuri și preluat de Reuters.
Nvidia domină piața pentru antrenarea modelelor AI cu cantități uriașe de date. Dar după ce aceste modele AI sunt antrenate, ele sunt utilizate mai pe scară largă în ceea ce se numește „inferență”, efectuând sarcini precum generarea de răspunsuri text la solicitări și decizia dacă o imagine conține o pisică.
Analiștii cred că piața cipurilor de inferență pentru centrele de date va crește rapid pe măsură ce companiile introduc tehnologii AI în produsele lor, dar companii precum Alphabet Inc, ce deține Google, explorează deja cum să mențină acoperirea costurilor suplimentare care vor face acest lucru.
Unul dintre aceste costuri majore este electricitatea, iar Qualcomm și-a folosit istoria proiectând cipuri pentru dispozitive alimentate cu baterii, cum ar fi smartphone-urile, pentru a crea un cip numit Cloud AI 100, care urmărește un consum de energie econom.
În datele de testare publicate miercuri de MLCommons, un consorțiu de inginerie care menține standardele de testare utilizate pe scară largă în industria cipurilor AI, Qualcomm AI 100 a depășit cip-ul emblematic H100 al Nvidia la clasificarea imaginilor, în funcție de câte interogări pe serverul centrului de date poate efectua fiecare cip per fiecare watt.
Cipurile Qualcomm au atins 227,4 interogări pe server pe watt față de 108,4 interogări pe watt pentru Nvidia.
Qualcomm a depășit, de asemenea, Nvidia la detectarea obiectelor, cu un scor de 3,8 interogări pe watt față de 2,4 interogări pe watt ale Nvidia. Detectarea obiectelor poate fi utilizată în aplicații precum analiza filmărilor din magazinele de vânzare cu amănuntul pentru a vedea unde merg cel mai des cumpărătorii.
Nvidia, totuși, a ocupat primul loc atât în termeni de performanță absolută, cât și în termeni de eficiență energetică, într-un test de procesare a limbajului natural, care este tehnologia AI cea mai utilizată în sisteme precum chatbot-urile. Nvidia a atins 10,8 interogări pe watt, în timp ce Qualcomm s-a clasat pe locul al doilea la 8,9 interogări pe watt.
