Misiunea cibernetică Anthropic
Într-o inițiativă semnificativă de gestionare a naturii duale a AI-ului generativ, Anthropic a dezvăluit oficial „Anthropic Cyber Mission”. Proiectul reprezintă un efort concertat de a oferi instrumente de securitate defensivă organizațiilor vizate tot mai des de atacuri cibernetice asistate de AI. Compania recunoaște o realitate dură: în următorii doi ani, avantajul în războiul cibernetic va aparține probabil atacatorilor, care folosesc AI-ul pentru a identifica și exploata vulnerabilități mai rapid decât pot echipele umane să le corecteze.
Programul este structurat pe doi piloni distincți. Primul, Programul de Apărare a Infrastructurii Critice, se concentrează pe securizarea serviciilor publice. Al doilea, un scaner specializat pentru software open-source (OSS), are scopul de a oferi audituri de securitate riguroase pentru proiectele fundamentale. Prin utilizarea celor mai avansate modele ale sale, alături de expertiza umană, Anthropic intenționează să schimbe cursul, estimând că ar putea înclina balanța în favoarea apărării până în 2028.
Programul de Apărare a Infrastructurii Critice
Protejarea utilităților, precum rețelele electrice și sistemele de alimentare cu apă, împotriva vulnerabilităților specifice SCADA a devenit o prioritate pentru Anthropic. Pentru a combate riscul ca agenții AI să fie utilizați pentru perturbarea acestor sisteme, compania trimite „ingineri detașați”. Acești specialiști lucrează direct la sediul organizațiilor care ar putea duce lipsa expertizei necesare pentru gestionarea complexității arhitecturilor de securitate integrate cu AI.
Inițiativa este susținută de o coaliție solidă formată din giganți precum Deloitte, CrowdStrike, Palo Alto Networks și Rockwell Automation. Acești parteneri oferă accesul necesar la cadrele tehnice care stau la baza infrastructurii publice. Prin integrarea modelelor avansate Anthropic cu stivele de securitate ale acestor companii, programul urmărește să ofere un mecanism de apărare preventivă, detectând vulnerabilitățile de tip „zero-day” înainte ca acestea să fie transformate în arme de către agenții de exploatare automatizați.
Scanerul OSS și viitorul securității open-source
Dincolo de infrastructura industrială masivă, Anthropic își îndreaptă atenția către ecosistemul software open-source (OSS), care servește drept fundament pentru dezvoltarea modernă. Noul serviciu OSS Scanner furnizează audituri periodice de securitate pentru proiecte influente. Deși nu este accesibil oricărui depozit de cod pentru amatori, instrumentul respectă criterii stricte de eligibilitate, inspirate de proiectul OS-FUZZ al Google, vizând proiectele cu impact critic asupra securității utilizatorilor și cu o implementare pe scară largă.
Există totuși o condiție pentru dezvoltatorii care întrețin aceste proiecte: participarea la serviciul de scanare presupune acceptul ca datele de intrare și ieșire să poată fi utilizate pentru antrenarea viitoarelor modele. Totuși, Anthropic notează că majoritatea bazelor de cod open-source consacrate au fost deja incluse în seturile de date pentru antrenament. Compromisul, conform feedback-ului inițial de la dezvoltatori, este semnificativ. Raportarea erorilor prin AI a evoluat considerabil, Anthropic raportând că modelele sale identifică acum peste 85% din vulnerabilități — un salt major față de rata de detectare de 20% înregistrată în urmă cu doar 18 luni.
De ce este important
- Paritate defensivă: Oferind acces la cele mai avansate modele pentru auditul de securitate, Anthropic încearcă să echilibreze avantajele tehnice de care s-au bucurat hackerii de la adoptarea pe scară largă a agenților de programare.
- Reducerea deficitului de talente: Utilizarea inginerilor detașați recunoaște faptul că AI-ul nu este o soluție „set-and-forget”, subliniind nevoia de colaborare om-mașină în medii cu grad ridicat de risc.
- Evoluția raportării erorilor: Tranziția de la conținut AI de slabă calitate la rapoarte de erori precise marchează maturizarea modelelor de limbaj (LLM) ca instrumente specializate pentru profesioniștii din securitatea cibernetică.
