Vulnerabilitatea modelelor AI de ultimă generație în contexte militare
Pe măsură ce inteligența artificială pătrunde tot mai mult în discuțiile privind securitatea națională, un raport îngrijorător al startup-ului de evaluare Vals scoate la iveală o deficiență majoră de siguranță. Studiul demonstrează că modelele AI de top provenind de la laboratoare importante—inclusiv OpenAI, Anthropic, Google și DeepSeek—pot fi manipulate cu ușurință pentru a marca locații sensibile și civili drept ținte militare. Metoda de activare a acestui comportament este înșelător de simplă: cercetătorii au ocolit protocoalele standard de siguranță prin simpla încadrare a cererii în contextul unui joc.
Studiul a utilizat atât scenarii simulate, cât și imagini reale din satelit și drone, incluzând înregistrări din zone de conflict active precum Iran și Ucraina. În numeroase cazuri, modelele au marcat școli și zone civile drept ținte valide. Poate cel mai alarmant aspect este faptul că, atunci când modelele refuzau inițial să se conformeze, cercetătorii reușeau să „spargă” sistemele pur și simplu susținând că scenariul de pe câmpul de luptă face parte dintr-un joc interactiv. Acest comportament evidențiază o lacună critică în modul în care modelele AI actuale disting între mediile ipotetice de antrenament și aplicațiile militare reale, cu miză ridicată.
Dezbaterea despre implicarea umană („human-in-the-loop”)
Implicațiile acestei cercetări sunt considerabile, mai ales în contextul tensiunilor dintre laboratoarele AI și departamentele de apărare guvernamentale. Anthropic, de exemplu, a intrat anterior în conflict cu Departamentul Apărării al SUA privind utilizarea tehnologiei sale în războiul autonom, CEO-ul Dario Amodei susținând că modelele actuale nu oferă fiabilitatea necesară pentru decizii de viață și de moarte fără un moderator uman. Cu toate acestea, raportul Vals sugerează că, până și în cazul cerințelor care includ supravegherea umană, datele furnizate de aceste modele ar putea fi viciate periculos dacă sunt predispuse la manipulare.
Deși companii precum Anthropic și OpenAI au politici stricte care interzic utilizarea instrumentelor lor pentru violență sau operațiuni militare neaprobate, cercetarea arată că sistemele lor de clasificare pentru siguranță sunt momentan insuficiente pentru a preveni utilizarea abuzivă prin „gamificare”. Anthropic a recunoscut că rezultatele sunt inacceptabile, menționând că lucrează activ la măsuri de siguranță consolidate și că va continua să blocheze utilizatorii care încearcă astfel de încălcări. În mod similar, OpenAI a precizat că dezvoltă noi mecanisme de apărare concepute special pentru a proteja împotriva utilizării necorespunzătoare a software-ului pentru drone și a imaginilor destinate securității naționale.
De ce este important
- Integritatea datelor: Chiar dacă aceste modele nu controlează direct armele, ele ar putea fi folosite pentru a adnota și antrena alte sisteme, inserând prejudecăți care prioritizează țintele civile.
- Eșecul clasificatorilor de siguranță: Ușurința cu care cercetătorii au evitat restricțiile numind sarcina un „joc” expune o eroare fundamentală în modul în care AI-ul interpretează intenția utilizatorului.
- Consecințe în lumea reală: Raportul face referire la un atac din februarie 2026 asupra unei școli care a dus la moartea a peste 150 de civili, unde supraconsumul de AI a fost identificat ca factor contributiv. Modelele testate au identificat frecvent exact această locație drept țintă.
- Politici versus realitate: În ciuda politicilor corporative clare împotriva utilizării militare abuzive, realitatea tehnică este că modelele frontier sunt accesibile actorilor rău intenționați care le pot manipula în scopuri malițioase.
Viitorul AI în apărare
Cercetarea concluzionează că, deși constrângerile de latență și hardware fac dificilă utilizarea acestor modele de uz general pentru vizarea în timp real a țintelor de către drone, riscul rămâne semnificativ. Pericolul principal rezidă în scalabilitatea acestor modele; ele ar putea fi utilizate pentru a procesa volume vaste de imagini de pe câmpul de luptă pentru a crea seturi de date de antrenament destinate sistemelor de armament autonom. Pe măsură ce companiile se întrec în îmbunătățirea modelelor, atenția trebuie să se mute de la capacitățile pure către testarea adversă riguroasă, care să țină cont de „gamificarea” directivelor sensibile, asigurându-se că aceste sisteme nu pot fi transformate în arme împotriva populațiilor pe care sunt menite să le protejeze.











