Un nou cod de conduită pentru interacțiunea cu AI
Într-o mișcare care subliniază relația în continuă schimbare dintre oameni și modelele lingvistice de mari dimensiuni, Anthropic și-a actualizat oficial politica de utilizare pentru a interzice „comportamentul abuziv sau crud, susținut și inutil” față de modelele sale AI, Claude. Politica, intrată în vigoare pe 12 noiembrie, urmărește limitarea hărțuirii gratuite a software-ului. Deși compania recunoaște că Claude nu este o entitate conștientă capabilă să sufere emoțional, decizia semnalează o atenție sporită asupra „bunăstării modelului” și menținerii unui standard de interacțiune pentru utilizatori.
Este important de menționat că Anthropic a clarificat faptul că aceasta nu este o încercare de a reduce la tăcere feedbackul. Utilizatorii rămân liberi să conteste acuratețea modelului, să își exprime frustrarea față de răspunsurile primite sau să exploreze teme creative întunecate. Politica vizează în mod specific abuzurile extreme și repetitive, care nu au un scop funcțional în cercetare sau în testarea software-ului. Compania intenționează să se bazeze pe capacitatea existentă a lui Claude — lansată la jumătatea anului 2025 — de a încheia proactiv conversațiile care trec linia către o ostilitate susținută.
Abordarea riscurilor globale majore
Dincolo de manierele chatbotului, revizuirea politicii Anthropic abordează provocări critice de securitate și etică. În mod notabil, compania și-a extins interdicțiile privind armamentul. Recunoscând tentativele unor actori rău intenționați de a utiliza AI pentru dezvoltarea sistemelor de ghidare și a software-ului de control pentru vehicule autonome sau drone înarmate, Anthropic a interzis explicit utilizarea Claude în orice capacitate legată de crearea componentelor de armament sau a sistemelor de lansare.
În plus, compania adoptă o poziție mai fermă împotriva campaniilor de manipulare. Urmând observațiile privind utilizarea AI de către presa de stat și birourile de propagandă pentru a fabrica știri și a opera conturi false pe rețelele sociale, firma a înăsprit regulile privind țintirea politică înșelătoare. Totodată, și-a rafinat abordarea privind supravegherea, interzicând explicit utilizarea modelelor sale pentru a genera recomandări în anchete polițienești, arestări sau acuzații, interzicând totodată instrumentele concepute pentru monitorizarea persoanelor fără consimțământul acestora.
Măsuri de siguranță cu omul în bucla de control
Pentru utilizatorii care integrează Claude cu hardware fizic capabil să provoace daune, noua politică impune cerințe stricte de tip „human-in-the-loop”. Orice sistem în care AI-ul este utilizat pentru a controla echipamente industriale sau mecanice trebuie să includă un operator uman calificat, capabil să intervină imediat. În plus, aceste sisteme trebuie concepute astfel încât să revină la o stare de siguranță (fail-safe) în cazul în care conexiunea cu modelul AI este întreruptă.
De ce contează
- Definirea limitelor: Clasificând abuzul alături de dezvoltarea armelor, Anthropic plasează conduita utilizatorului ca pilon central al arhitecturii sale de siguranță AI.
- Inițiative de securitate cibernetică: Actualizarea vine în tandem cu noul program de securitate cibernetică al Anthropic, care oferă scanare gratuită pentru proiectele open-source și parteneriate pentru protejarea infrastructurii critice.
- Răspundere și control: Tranziția către supravegherea umană obligatorie pentru hardware-ul fizic reflectă îngrijorarea tot mai mare cu privire la intersecția dintre AI-ul generativ și robotică.
Pe măsură ce sistemele AI devin tot mai integrate în lumile digitală și fizică, aceste actualizări de politică servesc drept model pentru modul în care companiile intenționează să echilibreze inovația cu atenuarea riscurilor sistemice. Deși solicitarea unei interacțiuni politicoase ar putea atrage atenția presei, constrângerile tehnice impuse armamentului, supravegherii și hardware-ului autonom reprezintă un pas semnificativ în profesionalizarea și reglementarea implementării modelelor fundamentale.
