Paradoxul fiabilității
Gary Marcus, cofondator al Robust AI și o voce influentă în etica tehnologiei, și-a exprimat recent îngrijorările profunde cu privire la direcția actuală în dezvoltarea modelelor lingvistice complexe. Vorbind despre lipsa unor mecanisme de siguranță adecvate, Marcus susține că liderii din industrie, inclusiv organizații precum OpenAI, scalează agresiv sisteme pe care încă nu le înțeleg sau nu le pot controla pe deplin. Argumentul său principal vizează riscul inerent de a lansa instrumente generative puternice în mediul public, fără o bază de comportament predictibil și verificabil.
Problema, în opinia lui Marcus, rezidă în arhitectura fundamentală a modelelor actuale bazate pe transformatoare. Deoarece aceste sisteme sunt probabilistice, nu logice, ele rămân predispuse la halucinații și la rezultate impredictibile. Prin integrarea prematură a acestor instrumente în infrastructuri critice și aplicații de consum, dezvoltatorii tratează, în esență, populația globală ca pe niște subiecți de test pentru un software experimental de tip „black box”, căruia îi lipsesc supravegherea riguroasă sau verificarea formală a siguranței.
De ce contează
- Fragilitatea sistemică: Dependența de modele lipsite de consistență logică reprezintă riscuri pentru sectoare precum cel medical, financiar și juridic.
- Întârzierile legislative: Autoritățile de reglementare încearcă cu greu să țină pasul cu ritmul alert al lansărilor, lăsând adesea un vid acolo unde ar trebui să existe standarde de siguranță.
- Problema controlului: Dacă dezvoltatorii nu pot prezice sau limita în mod fiabil modul în care un model va răspunde la solicitări noi, potențialul pentru utilizări abuzive sau erori catastrofale crește exponențial.
În cele din urmă, Marcus pledează pentru o schimbare strategică către abordări mai solide, de tip neuro-simbolic, în dezvoltarea AI. El susține că, dacă industria nu își mută accentul de pe simpla creștere a numărului de parametri și viteză către fiabilitate și interpretabilitate, prăpastia dintre capabilitățile AI și siguranța centrată pe om va continua să crească. Mesajul este clar: dacă nu putem controla instrumentele pe care le construim, riscăm să ne expunem unor pericole care depășesc cu mult utilitatea actuală a acestor sisteme generative.
