O nouă eră a supravegherii
Într-o mișcare curajoasă care ar putea schimba peisajul global al inteligenței artificiale, o comisie parlamentară din Marea Britanie pledează pentru adoptarea unei legi privind siguranța și securitatea AI (AI Safety and Security Bill). Proiectul legislativ urmărește tranziția guvernanței AI de la un model bazat pe cooperarea voluntară a companiilor la unul de supraveghere riguroasă, mandatată de stat. În centrul propunerii se află solicitarea unui organism de reglementare dedicat, dotat cu autoritatea de a interveni în procesul de dezvoltare — un veritabil „buton de oprire” pentru tehnologiile considerate periculoase pentru siguranța publică.
Comisia pentru afaceri, inovare, știință și comerț sugerează că strategia de „autopolizare” a giganților din industrie, precum OpenAI, Meta și Google DeepMind, nu mai este suficientă. Pe măsură ce modelele AI cresc în complexitate, comportamentele emergente ale acestora devin tot mai greu de anticipat. Raportul comisiei, intitulat „Limitatoare pentru creștere: cum facem AI-ul sigur”, susține că lipsa actuală a unei analize independente creează riscuri inacceptabile, comparând necesitatea supravegherii AI cu standardele de siguranță deja consacrate în industrii precum cea nucleară, farmaceutică și aeronautică.
Cadrul de reglementare propus
Comisia a identificat zece deficiențe majore în abordarea actuală a Marii Britanii, inclusiv o lipsă evidentă a raportării obligatorii a incidentelor și absența unor protecții legale pentru avertizorii de integritate din interiorul laboratoarelor de AI. Conform noii propuneri, actualul Institut de Siguranță AI (AISI) și-ar continua activitatea esențială de testare, însă un organism de reglementare separat, cu puteri sporite, ar avea mandatul de a impune respectarea regulilor. Aceasta ar însemna că, pentru sistemele cu risc ridicat, dezvoltatorii ar fi obligați legal să furnizeze dovezi empirice care să susțină afirmațiile privind siguranța și să permită cercetătorilor independenți accesul neîngrădit pentru audituri.
Elementele cheie ale măsurilor propuse includ:
- Autoritatea organismului de reglementare de a opri antrenarea modelelor cu risc ridicat dacă benchmark-urile de siguranță nu sunt atinse.
- Raportarea obligatorie și standardizată a tuturor incidentelor de tip „near miss” (situații limită) în cadrul laboratoarelor.
- Cerințe sporite de transparență, care să împiedice companiile să utilizeze acorduri de confidențialitate (NDA) restrictive pentru a reduce la tăcere angajații care semnalează probleme reale de siguranță.
- O cerință legală pentru testarea independentă „înainte de lansare”, în detrimentul monitorizării de după lansare.
De ce contează
Presiunea pentru aceste reglementări pornește de la constatarea că, odată ce un model puternic este lansat publicului, este adesea imposibil de retras sau izolat. Prin intervenția în fazele de dezvoltare și testare, guvernul urmărește să prevină catastrofele înainte ca acestea să apară. Mai mult, comisia sugerează că standardele riguroase de siguranță ar putea, de fapt, să stimuleze creșterea economică prin consolidarea încrederii, încurajând companiile mai mici să adopte instrumente AI fără teama unor răspunderi ascunse sau a unor eșecuri catastrofale. Având în vedere că se estimează că AI-ul ar putea impulsiona economia britanică cu până la 400 de miliarde de lire sterline în următorul deceniu, miza echilibrului dintre inovație și siguranță nu a fost niciodată mai mare.
Perspective și ambiții globale
Deși recomandările comisiei nu au caracter obligatoriu în prezent, acestea semnalează un apetit crescut pentru controlul legislativ. Parlamentarii fac presiuni pentru ca legea privind siguranța și securitatea AI să fie introdusă în următoarea sesiune parlamentară. Dincolo de granițele naționale, Marea Britanie speră să își folosească influența în calitate de președinte al G20 în 2027 pentru a promova un consens internațional privind testarea obligatorie și raportarea incidentelor. Dacă administrația actuală va acorda sau nu unui organism de control puterea supremă de a „trage ștecherul” rămâne principala întrebare, dar mesajul Parlamentului este clar: epoca în care companiile AI își dădeau singure note la purtare se apropie de sfârșit.











