Životna sila generativne veštačke inteligencije je poluprovodnik veličine knjige poznat kao jedinica za grafičku obradu (GPU) — koju je napravila jedna kompanija, Nvidia.
Nvidijin izvršni direktor i osnivač Jensen Huang se kladio pre mnogo godina da će svet uskoro tražiti moćan čip koji se obično koristi za pravljenje video igara, ali to bi takođe moglo da izgradi AI.
Nijedna kompanija koja radi sa generativnim AI modelima koji podstiču današnju pomamu ne može se pokrenuti bez Nvidijinog jedinstvenog proizvoda: najnoviji model je H100 i njegov prateći softver.
Ta bolna stvarnost je stvar koju Amazon, Intel, AMD i drugi pokušavaju da poprave sopstvenim alternativama, ali ti pokušaji bi mogli da potraju godinama.
A sa najvećim tehnološkim kompanijama koje ulažu svu svoju finansijsku moć u generativnu veštačku inteligenciju, manje ribe moraju krenuti u lov kako bi osigurale Nvidijin sveti gral.
„Širom sveta postaje veoma teško nabaviti hiljade GPU-a jer sve ove velike kompanije ulažu milijarde dolara, stvarajući zalihe GPU-a“, rekao je Fangbo Tao, suosnivač Mindverse.AI, startapa sa sedištem u Singapuru.
„Nema mnogo GPU-a u blizini“, rekao je on.
Tao je razgovarao sa AFP-om na konferenciji TechCrunch Disrupt u San Francisku, gde su se startapi sa veštačkom inteligencijom borili da se prijave pred rizičnim kapitalistima Silikonske doline (VC).
ChatGPT je zauzeo svet kao što je Silicijumska dolina bila uhvaćena u gadnom mamurluku od pandemije kada su investitori bacali novac na startapove, uvereni da je život nepovratno otišao na mrežu.
Ispostavilo se da je to bilo nategnuto, a američka tehnološka scena je ušla u pad sa rundama otpuštanja i presušivanjem VC novca.
Zahvaljujući veštačkoj inteligenciji, neki od starih moda su se vratili, i svako ko ima ta dva slova u biografiji verovatno će videti crveni tepih razvučen na legendarnom Sand Hill Roadu, domu najvećih investitora Silikonske doline.
Ali kako startapi budu odlazili sa svojim VC gotovinom, novac u njihovim džepovima će brzo biti prebačen Nvidiji za GPU-e, bilo direktno ili preko provajdera, kako bi svoje AI snove doveli do izvršenja.
„Pozivamo mnoge velike dobavljače u oblaku (Microsoft, AVS i Google) i svi nam govore čak i da imaju problema sa nabavkom zaliha“, rekao je Loran Dode, izvršni direktor AI startup LightOn.
Problem je najakutniji za kompanije koje se bave obukom generativnih AI modela, što zahteva da GPU-ovi koji su gladni energije rade maksimalnim kapacitetom da obrađuju gomile podataka koji se unose sa interneta.
Računarske potrebe su toliko velike da samo nekoliko kompanija može da skupi novac da napravi jedan od ovih najsavremenijih modela velikih jezika.
Smatra se da je ulaganje od deset milijardi dolara od strane Microsofta u OpenAI isplaćeno kao kredit za pristup namenski izgrađenim centrima podataka koji brujaju sa Nvidia GPU-ovima.
Gugl je napravio sopstvene modele i sada je Amazon u ponedeljak rekao da ulaže četiri milijarde dolara u Anthropic AI, drugu kompaniju koja obučava veštačku inteligenciju.
Obuka na tom brdu podataka „trenutno isisava skoro sav kiseonik sa tržišta GPU-a“, rekao je Said Uissal, izvršni direktor Zededa, kompanije koja radi na tome da AI bude manje gladan energije.
„Gledate na sredinu sledeće godine, možda krajem sledeće godine pre nego što ćete zaista dobiti isporuku za nove porudžbine. Čini se da nestašica ne jenjava“, dodao je Ves Kamins, izvršni direktor Applied Digital, kompanije koji snabdeva AI infrastrukturu.
Kompanije na prvoj liniji AI takođe ističu da Nvidijina iskonska uloga čini je de-fakto kreatorom u tome kuda tehnologija ide.
Tržište je „skoro u potpunosti vođeno velikim igračima — Guglovima, Amazonima, Metasima“ koji imaju „ogromnu količinu podataka i ogroman kapital“, rekao je za The Information bivši Nvidijin inženjer Jakopo Pantaleoni.
„Ovo nije bio svet koji sam želeo da pomognem da se izgradi“, rekao je on.
Neki veterani Silicijumske doline rekli su da ludi dani Nvidia GPU-a neće trajati večno i da će se druge opcije neizbežno pojaviti.
