Un studiu recent realizat pe 107 companii a evidențiat o „breșă de securitate” critică în implementarea agenților AI autonomi. Conform cercetării VentureBeat Pulse, 54% dintre organizații s-au confruntat deja cu un incident de securitate confirmat cauzat de un agent AI (18%) sau cu o tentativă eșuată (36%). În ciuda acestor riscuri, controalele structurale necesare pentru gestionarea software-ului autonom rămân în urma ratelor de adopție.
Criza de identitate și izolare
Cercetarea identifică gestionarea identității ca fiind o slăbiciune majoră. Doar 32% dintre companii alocă o identitate unică și limitată fiecărui agent AI. Majoritatea rămasă se bazează pe chei API partajate sau pe credențiale umane împrumutate, ceea ce crește semnificativ „raza de impact” în cazul în care un agent este compromis. Mai mult, doar 30% dintre organizații utilizează tehnici de sandboxing pentru a izola agenții cu risc ridicat, lăsând multe sisteme vulnerabile la mișcări laterale în timpul unei breșe.
Dependența de securitatea nativă a furnizorilor
În prezent, infrastructura de securitate AI în mediul enterprise este dominată de furnizorii de modele, mai degrabă decât de vânzători specializați în securitate. Instrumente precum mecanismele de protecție ale OpenAI (utilizate de 51%), controalele Google Cloud și apărările Microsoft Azure reprezintă principalele straturi de protecție pentru 82% dintre respondenți. Deși satisfacția față de aceste instrumente este ridicată, experții avertizează că aceste controale cu scop general ar putea să nu fie suficiente pentru provocările unice generate de agenții autonomi.
Bugetele și perspectivele de viitor
Alocările bugetare rămân un obstacol major, 80% dintre companii direcționând 10% sau mai puțin din bugetul de securitate către protecția agenților AI. Nivelul de încredere este, de asemenea, scăzut: doar 35% dintre organizații cred că sistemele lor de apărare evoluează mai rapid decât atacatorii care folosesc AI. În consecință, se preconizează o schimbare de strategie, 59% dintre companii plănuind să adopte sau să înlocuiască instrumentele de securitate pentru agenți în cursul anului viitor pentru a aborda mai eficient nevoile de identitate și izolare.
