O evaluare îngrijorătoare a ochelarilor cu AI
Autoritatea pentru Protecția Datelor din Țările de Jos (AP) a emis un avertisment ferm prin care sfătuiește consumatorii să evite achiziționarea și utilizarea ochelarilor smart bazați pe AI. În urma unor teste riguroase efectuate pe șase modele diferite, de la variante accesibile sub 100 de euro până la dispozitive premium de peste 500 de euro, autoritatea de reglementare a concluzionat că actuala generație de ochelari cu AI prezintă riscuri inacceptabile atât pentru utilizatori, cât și pentru publicul larg. Aceste constatări depășesc sfera preocupărilor obișnuite privind confidențialitatea, evidențiind deficiențe fundamentale în capacitățile de luare a deciziilor ale AI-ului și în securitatea dispozitivelor.
Investigația a demonstrat că aceste dispozitive pot compromite activ siguranța utilizatorilor. Într-o simulare alarmantă, o pereche de ochelari a oferit informații false și potențial periculoase în timpul unui scenariu de resuscitare cardio-respiratorie (CPR), susținând eronat că serviciile de urgență au fost contactate, deși acest lucru nu se întâmplase. Alte eșecuri au inclus oferirea unor sfaturi nepotrivite pentru întâlniri romantice în cazul unui adult care întreba despre un minor, precum și interpretarea constant greșită a avertismentelor critice referitoare la medicamente, jucării pentru copii și fenomene meteorologice extreme.
Vulnerabilități privind confidențialitatea și securitatea
Dincolo de rezultatele nefiabile ale AI-ului, AP a semnalat probleme majore legate de protecția datelor la nivel hardware. Una dintre cele mai controversate funcții ale ochelarilor smart — indicatorul luminos de înregistrare — s-a dovedit a fi complet inadecvat. La aproape toate modelele examinate, aceste lumini sunt discrete și ușor de obturat, permițând utilizatorilor să înregistreze trecători fără știrea sau consimțământul acestora. Autoritatea a mai menționat că, în numeroase cazuri, dispozitivele puteau fi manipulate pentru a continua înregistrarea chiar și atunci când indicatorul luminos era acoperit fizic, contrazicând direct declarațiile producătorilor.
Riscurile de securitate cibernetică sunt la fel de grave. Procesul de testare a relevat că multe dispozitive permit persoanelor neautorizate din proximitate să se conecteze la ochelari, să acceseze conținutul înregistrat și, în anumite configurații, chiar să opereze camera de la distanță. În plus, AP și-a exprimat îngrijorarea cu privire la lipsa de transparență în prelucrarea datelor, notând că modelele de AI transmit frecvent informații sensibile către servere situate în afara Uniunii Europene, adesea fără a oferi utilizatorilor informații clare despre modul în care sunt gestionate sau protejate acele date.
De ce este important
- Fiabilitate: AI-ul din aceste dispozitive nu dispune în prezent de contextul necesar pentru luarea deciziilor în situații critice, cum ar fi urgențele medicale.
- Transparență: Indicatorii de înregistrare sunt adesea ineficienți, subminând dreptul trecătorilor la viață privată.
- Integritatea datelor: Protocoalele de securitate slabe expun datele utilizatorilor riscurilor de exploatare de către terți și accesului neautorizat la distanță.
- Precedent de reglementare: Concluziile susțin tendința tot mai vizibilă a organizațiilor, inclusiv a agențiilor guvernamentale și a organizatorilor de evenimente, de a interzice utilizarea acestor dispozitive în spațiile publice și în zonele sensibile.
Viitorul dispozitivelor purtabile cu AI
Poziția autorității olandeze este clară: deși ochelarii cu AI oferă beneficii potențiale persoanelor cu deficiențe de vedere sau celor care au nevoie de asistență pentru citit, implementările comerciale actuale sunt, în esență, nesigure. Monique Verdier, vicepreședintele AP, a subliniat că societatea trebuie să își dezvolte reziliența și conștiința etică necesare pentru a gestiona astfel de produse cu grad ridicat de risc, deoarece interdicțiile simple s-ar putea să nu fie o soluție sustenabilă pe termen lung. În prezent, agenția avertizează că încrederea necesară pentru integrarea acestor dispozitive în viața de zi cu zi nu este încă justificată de stadiul actual al tehnologiei.









