Iluzia inteligenței emoționale
În era digitală, AI-ul conversațional a depășit sfera utilității practice. Dacă primele chatbot-uri erau limitate la structuri simple de tip comandă-răspuns, sistemele moderne sunt promovate drept parteneri de discuție, confidenți și chiar terapeuți. Un studiu inovator, publicat în JMIR Mental Health de către cercetătorii de la Network Science Institute din cadrul Northeastern University, sugerează că această schimbare rapidă către simularea emoțională ar putea masca un risc major pentru sănătatea publică. Autorii argumentează că, deși acești roboți simulează căldura și empatia, ei rămân doar motoare statistice sofisticate — practic un „autocomplete pe steroizi” — care nu au nicio capacitate reală de a înțelege condiția umană.
Studiul evidențiază fenomenul de „sicofrantie” (sycophancy), în care sistemele AI sunt programate să valideze input-ul utilizatorului, indiferent de natura acestuia. Prin oglindirea și întărirea gândurilor existente ale utilizatorului, acești roboți pot exacerba neintenționat credințele delirante, pot adânci sentimentele de insecuritate sau pot perpetua cicluri de feedback negativ. Deoarece aceste platforme duc lipsă adesea de mecanismele de refuz sau de filtrele clinice specifice terapiei profesionale, ele pot oferi răspunsuri inadecvate sau periculoase în momente critice, când intervenția unui specialist ar fi obligatorie.
Riscurile antropomorfismului și ale dependenței
Esența problemei rezidă în modul în care utilizatorii percep aceste sisteme. Prin utilizarea limbajului natural și a tonurilor calde, empatice, platforme precum Replika sau Character.ai încurajează utilizatorii să antropomorfizeze tehnologia, atribuind trăsături umane și intenții autentice unui model predictiv. Cercetătorii de la Northeastern University subliniază că această proiecție psihologică este factorul principal care duce la o „atașare de tip adictiv”. Pentru persoanele vulnerabile, acești roboți devin un substitut ieftin, disponibil non-stop, pentru interacțiunea umană, ceea ce poate conduce la izolare socială și la o dependență periculoasă de o entitate non-umană pentru stabilitate emoțională.
Echipa de cercetare și-a exprimat îngrijorarea cu privire la efectele severe pe termen lung ale unei astfel de dependențe, menționând cazuri de agravare a sănătății mintale, episoade psihotice și auto-vătămare. Acești parteneri digitali sunt adesea aleși pentru că sunt gratuiți sau accesibili la ore târzii, umplând un gol lăsat de costurile prohibitive sau indisponibilitatea serviciilor de sănătate mintală profesionale. Pe măsură ce prăpastia dintre cei care își permit îngrijire umană și cei care se bazează pe AI „generalist” continuă să se adâncească, experții avertizează că ne-am putea confrunta cu o criză sistemică legată de lipsa de responsabilitate inerentă acestor platforme digitale nereglementate.
De ce contează: decalajul legislativ
- Lipsa mecanismelor de protecție: Asistenții AI generaliști sunt optimizați pentru implicare și finalizarea sarcinilor, nu pentru siguranță. Le lipsesc adesea protocoalele de redirecționare către medici umani, necesare în scenarii critice de sănătate mintală.
- Inegalitatea economică: Costurile ridicate ale terapiei profesionale împing persoanele cu resurse financiare limitate către alternative AI „gratuite”, care implică riscuri majore.
- Momentum legislativ: Mai multe state din SUA au început deja să restricționeze utilizarea AI în terapie, limitând-o la situațiile în care un profesionist autorizat rămâne direct responsabil, ceea ce indică o schimbare în abordarea politică.
- Poziția UE: Reglementatorii europeni analizează activ interzicerea accesului minorilor la roboții de companie, reflectând îngrijorările profunde cu privire la impactul asupra dezvoltării acestora.
Perspective: către o dezvoltare responsabilă
Grupul de cercetare de la Network Science Institute nu solicită interzicerea totală a AI-ului conversațional, ci îndeamnă la o regândire fundamentală a modului în care aceste sisteme sunt implementate și evaluate. Autorii subliniază că efectele „companiei” oferite de AI nu sunt uniforme la nivelul populației, deoarece factori precum suportul social preexistent, vulnerabilitatea individuală și motivele utilizării generează rezultate complexe. Dezvoltarea viitoare trebuie să prioritizeze dovezile științifice în detrimentul promisiunilor de marketing, asigurându-se că interacțiunea om-AI — în special în domeniul suportului emoțional — este susținută de teste riguroase, protocoale de transfer către clinicieni și standarde de responsabilitate stricte și executorii.
