Rapoarte recente evidențiază o tensiune tot mai mare între măsurile de siguranță ale inteligenței artificiale și nevoile cercetătorilor din domeniul securității cibernetice ofensive. Experții specializați în identificarea vulnerabilităților necunoscute și în dezvoltarea instrumentelor de exploatare constată că barierele implementate de marile laboratoare AI, precum OpenAI și Anthropic, le îngreunează tot mai mult activitatea legitimă.
Conflictul dintre siguranță și descoperire
Deși barierele de protecție AI sunt concepute pentru a împiedica actorii rău intenționați să utilizeze modelele de limbaj mari (LLM) pentru a genera cod dăunător sau pentru a orchestra atacuri cibernetice, aceleași restricții declanșează frecvent rezultate fals pozitive pentru cercetătorii profesioniști. Experții în securitate cibernetică au observat că instrumentele menite să protejeze publicul blochează adesea interogările necesare pentru testarea vulnerabilităților și dezvoltarea de exploit-uri.
Cercetătorii susțin că aceste bariere nu îi opresc neapărat pe atacatorii sofisticați, care pot găsi soluții alternative sau pot utiliza modele necenzurate, dar adaugă o fricțiune semnificativă comunității de cercetare defensivă. Fără niveluri de acces mai nuanțate, viteza cu care cercetătorii pot identifica și ajuta la remedierea defectelor ar putea scădea, lăsând sistemele expuse pentru perioade mai lungi de timp.
