Decalajul de maturitate în domeniul inteligenței artificiale
Într-o evaluare critică prezentată la simpozionul anual IT, analiștii Gartner au pus sub semnul întrebării capacitatea actualelor laboratoare de AI de a deservi sectorul enterprise. Potrivit analiștilor vicepreședinți Daryl Plummer și Kristin Moyer, principala problemă rezidă într-o discrepanță fundamentală între ciclurile agresive și rapide de lansare ale dezvoltatorilor de modele AI și cerințele riguroase de stabilitate pe termen lung ale mediilor corporative de mare amploare.
Plummer a subliniat că furnizorii actuali de AI nu reușesc, în mare măsură, să înțeleagă standardele esențiale pentru companii, inclusiv răspunderea legală, consistența și continuitatea. Deoarece aceste laboratoare prioritizează o mentalitate de tip „move fast” (a acționa rapid), acestea actualizează sau scot din uz modele în intervale de șase luni — un calendar incompatibil cu infrastructura de afaceri standard. Atunci când furnizorii forțează adoptarea rapidă a noilor iterații fără a menține suportul pentru versiunile anterioare, aceștia transmit, practic, semnalul că tehnologia lor nu este încă concepută pentru nevoile critice ale operațiunilor de afaceri moderne.
Proliferarea „deșeurilor AI” și utilizarea neglijentă
Provocările cu care se confruntă directorii IT (CIO) depășesc instabilitatea furnizorilor, extinzându-se în cultura internă a companiilor. Kristin Moyer a evidențiat faptul că 86% dintre aceștia consideră că riscurile introduse de AI cresc mai rapid decât valoarea pe care o generează tehnologia. Acest fenomen este alimentat în mare parte de ceea ce Moyer numește „utilizare neglijentă” — o situație în care angajații folosesc instrumente AI în contexte triviale sau nepotrivite. Rezultatul este apariția unor „deșeuri AI” (AI slop), adică un conținut de slabă calitate sau eronat, care forțează angajații să consume timp prețios pentru a curăța aceste reziduuri digitale.
Amploarea problemei este considerabilă; cercetările indică faptul că 40% dintre angajați s-au confruntat cu inadvertențe generate de AI care necesită un efort considerabil pentru corectare. Dincolo de pierderea directă de productivitate, companiile se luptă chiar și pentru a identifica amploarea utilizării AI în cadrul organizației. Deoarece AI-ul este integrat acum în nenumărate produse SaaS preexistente și instrumente interne, identificarea „agenților neautorizați” a devenit un coșmar de guvernanță tot mai complex pentru departamentele IT.
Argumentele pentru guvernanță și supraveghere AI
Analiștii Gartner au propus un cadru defensiv pentru a ajuta organizațiile să reia controlul, centrat pe conceptul unei „bănci centrale AI”. Acest organism organizațional ar fi responsabil cu supravegherea impactului sistemic al utilizării AI, asigurându-se că fiecare implementare este monitorizată și supusă unor protocoale de audit standard. Spre deosebire de sistemele ERP sau CRM tradiționale, care lasă urme clare de responsabilitate, AI-ul funcționează adesea ca o „cutie neagră”, ceea ce îngreunează capacitatea organizațiilor de a identifica sursa erorilor atunci când apar probleme.
Pentru a atenua aceste riscuri, firma recomandă trei piloni principali de apărare:
- Înființarea unei bănci centrale AI: O autoritate internă dedicată pentru supraveghere, gestionarea responsabilității și evaluarea riscului sistemic în întreaga companie.
- Implementarea agenților de gardă: Sisteme AI specializate, însărcinate cu monitorizarea altor agenți. Acești „gardieni” trebuie să aibă autoritatea de a opri sau dezactiva orice agent care acționează în afara limitelor de comportament sigure și predefinite.
- Recuperarea în caz de dezastru pentru AI: Organizațiile trebuie să formeze echipe dedicate exclusiv identificării și remedierii „dezastrelor provocate de AI”, deoarece scuza „așa a făcut AI-ul” nu va fi o apărare acceptabilă pentru lideri atunci când apar eșecuri.
În concluzie, Gartner avertizează că, deși automatizarea este esențială, companiile trebuie să prioritizeze tehnologiile dovedite. Pentru numeroase sarcini, apelurile de funcții simple și fiabile rămân mult superioare modelelor AI complexe, bazate pe agenți, pe care furnizorii le promovează doar pentru a monetiza utilizarea de token-uri.
