Un studiu recent realizat de VentureBeat Pulse Research pe un eșantion de 107 întreprinderi a identificat o „prăpastie de calcul” (compute gap) tot mai mare în industria tehnologică. Organizațiile investesc capital în infrastructura AI într-un ritm care depășește cu mult capacitatea lor de a măsura randamentul economic sau eficiența operațională a acestor investiții.
Putere subutilizată și costuri ascunse
Cercetarea evidențiază o ineficiență semnificativă în implementările actuale: 83% dintre companii raportează că gradul de utilizare a GPU-urilor lor este de 50% sau mai puțin, aproape jumătate funcționând la o capacitate de 25% sau chiar mai mică. În ciuda acestei capacități nefolosite, dorința de a achiziționa mai multă infrastructură rămâne ridicată. Studiul a constatat că mai puțin de jumătate dintre aceste organizații (44%) monitorizează riguros costurile și randamentele reale ale resurselor lor de calcul AI, ceea ce duce la o discrepanță între cheltuieli și vizibilitate.
Schimbarea preferințelor pentru infrastructură
Deși piața actuală este dominată de marii furnizori de tip hyperscaler, precum Google Cloud și Microsoft Azure, o schimbare majoră este la orizont. Aproximativ 64% dintre companii plănuiesc să schimbe sau să adauge furnizori de infrastructură în decursul anului viitor. Interesant este faptul că 45% dintre respondenți intenționează să evalueze serviciile cloud specializate pentru AI — o categorie care, în prezent, înregistrează o utilizare aproape nulă în cadrul grupului chestionat.
Integrarea primează în fața prețului
Atunci când selectează noi furnizori, companiile prioritizează integrarea cu ecosistemele software existente (41%) și costul total de proprietate (35%), în detrimentul prețului brut per token. Doar 8% dintre factorii de decizie au citat costul per milion de tokeni ca fiind un factor principal. Acest lucru sugerează că, deși cumpărătorii își doresc eficiență economică, le lipsesc momentan instrumentele de diagnosticare pentru a o obține, creând un ciclu de investiții „oarbe” în următoarea generație de hardware AI și servicii cloud specializate.
