Čipovi veštačke inteligencije kompanije Kualcomm Inc (KCOM.O) pobedili su Nvidia Corp (NVDA.O) u dve od tri mere energetske efikasnosti u novom skupu testnih podataka objavljenih u sredu, dok je tajvanski startap bio bolji oboje u jednoj kategoriji.
Nvidia dominira tržištem za obuku AI modela sa ogromnim količinama podataka. Ali nakon što su ti modeli veštačke inteligencije obučeni, oni se stavljaju u širu upotrebu u onome što se zove „zaključivanje“ obavljanjem zadataka poput generisanja tekstualnih odgovora na upite i odlučivanja da li slika sadrži mačku.
Analitičari veruju da će tržište čipova za zaključivanje centara podataka brzo rasti kako kompanije stavljaju AI tehnologije u svoje proizvode, ali kompanije kao što je Alphabet Inc (GOOGL.O) Google već istražuju kako da zadrže poklopac na dodatnim troškovima koje će to učiniti dodati.
Jedan od tih glavnih troškova je struja, a Kualcomm je svoju istoriju dizajnirao čipove za uređaje na baterije kao što su pametni telefoni da bi napravio čip nazvan Cloud AI 100 koji ima za cilj štedljivu potrošnju energije.
U podacima o testiranju koje je u sredu objavio MLCommons, inženjerski konzorcijum koji održava merila testiranja koja se široko koriste u industriji AI čipova, Kualcomm-ov AI 100 je pobedio Nvidijin vodeći H100 čip u klasifikaciji slika, na osnovu toga koliko upita servera centra podataka svaki čip može da izvrši. vat.
Kualcommovi čipovi su dostigli 197,6 serverskih upita po vatu naspram 108,4 upita po vatu za Nvidiju. Neuchips, startup koji je osnovao veteran tajvanski akademik za čipove Ioun-Long Lin, zauzeo je prvo mesto sa 227 upita po vatu.
Kualcomm je takođe pobedio Nvidiju u detekciji objekata sa rezultatom od 3,2 upita po vatu naspram Nvidijinih 2,4 upita po vatu. Detekcija objekata se može koristiti u aplikacijama kao što je analiza snimaka iz maloprodajnih objekata kako bi se videlo gde kupci najčešće idu.
Nvidia je, međutim, zauzela prvo mesto u pogledu apsolutnih performansi i energetske efikasnosti u testu obrade prirodnog jezika, što je AI tehnologija koja se najčešće koristi u sistemima kao što su chatbotovi. Nvidia je dostigla 10,8 uzoraka po vatu, dok je Neuchips bio na drugom mestu sa 8,9 uzoraka po vatu, a Kualcomm je bio na trećem mestu sa 7,5 uzoraka po vatu.
