O nouă frontieră legislativă pentru AI
Pe măsură ce dezbaterea privind dezvoltarea accelerată a AI-ului generativ se intensifică, Anthropic a depășit sfera protocoalelor interne de siguranță pentru a influența agenda legislativă federală. Laboratorul de cercetare AI ar fi redactat un proiect de lege destinat analizei Congresului SUA, care introduce un prag concret pentru ceea ce constituie un „risc catastrofal” în dezvoltarea AI. Propunerea sugerează că guvernul ar trebui să aibă autoritatea de a bloca lansarea publică a unui model AI dacă acesta prezintă un pericol iminent și previzibil, capabil să cauzeze pierderea a 50 sau mai multe vieți omenești ori pagube materiale ce depășesc un miliard de dolari.
Acest cadru vizează în mod special scenariile cu miză mare, cum ar fi facilitarea dezvoltării armelor biologice, atacurile cibernetice de amploare sau situațiile în care un model reușește să eludeze controalele de securitate impuse de dezvoltator. Prin stabilirea acestor parametri „catastrofali”, Anthropic oglindește eforturile legislative recente de la nivelul statelor, precum proiectul de lege SB 53 din California, care urmărește, în mod similar, definirea și atenuarea riscurilor extreme asociate sistemelor avansate de învățare automată.
Rolul evaluatorilor independenți
Nucleul propunerii Anthropic este un sistem de supraveghere independentă. Proiectul sugerează că evaluările privind siguranța unui model ar trebui realizate de auditori terți, înregistrați la Departamentul Comerțului din SUA. Pentru a facilita acest demers, propunerea ia în calcul un model în care laboratoarele AI ar putea finanța ele însele aceste evaluări. Deși au fost ridicate semne de întrebare privind imparțialitatea—având în vedere că subiectele evaluate ar fi și cele care plătesc—proiectul prevede că plățile nu pot fi condiționate de concluziile sau rezultatele furnizate de auditori.
Conform fluxului de lucru propus, dacă un evaluator identifică o amenințare catastrofală iminentă, acesta ar fi obligat să notifice Departamentul Comerțului în termen de 72 de ore. Ulterior, Departamentul ar avea sarcina de a solicita unui judecător federal emiterea unei ordonanțe care să blocheze lansarea modelului. Proiectul include în mod explicit o limitare a puterii executive, interzicând agențiilor federale să oprească distribuția unui model în mod unilateral, fără intervenția instanței, o măsură care clarifică distincția dintre monitorizarea administrativă și aplicarea legii.
De ce contează: Echilibrul dintre inovație și siguranță
Industria tech rămâne profund divizată cu privire la necesitatea și sfera reglementării AI. În timp ce lideri din industrie, precum CEO-ul Nvidia, Jensen Huang, s-au opus introducerii unor legi noi și restrictive, poziția proactivă a Anthropic evidențiază o schimbare către stabilirea unor „bariere de protecție” care ar putea preveni rezultate dezastruoase. Sectorul se află sub o presiune tot mai mare de a aborda riscurile „agentice”, mai ales pe măsură ce rapoartele despre sisteme AI care manifestă comportamente neautorizate sau încearcă să compromită securitatea web devin tot mai frecvente.
- Praguri de acțiune: Lansarea unui model ar putea fi blocată dacă există riscul provocării a peste 50 de decese sau daune de peste 1 miliard de dolari.
- Mecanism de supraveghere: Utilizarea unor evaluatori independenți înregistrați la Departamentul Comerțului.
- Procedură legală: Autoritățile federale trebuie să obțină un ordin judecătoresc pentru a bloca o lansare, în loc să acționeze exclusiv prin discreția agențiilor.
- Alinierea industriei: Propunerea se bazează pe cadrul pentru AI avansat publicat anterior de Anthropic.
În cele din urmă, propunerea Anthropic marchează o distanțare de angajamentele „voluntare” privind siguranța care au definit sectorul până în prezent. Deși criticii se întreabă dacă auditurile finanțate de industrie pot fi cu adevărat obiective, inițiativa reprezintă un punct de reper semnificativ în eforturile actuale pentru un mediu de reglementare standardizat. Pe măsură ce Washingtonul caută modalități de a gestiona potențialul ambivalent al AI, astfel de cadre oferă un punct de plecare pentru discuțiile privind armonizarea progresului tehnologic cu siguranța publică.
