Inteligenta ArtificialaAnaliza tehnica

OpenAI lansează instrumente avansate bazate pe AI pentru combaterea exploatării minorilor în mediul online

Publicat
RRedactia ElectricBuzz
OpenAI lansează instrumente avansate bazate pe AI pentru combaterea exploatării minorilor în mediul online
3 min de citit562 cuvinteRedactia ElectricBuzz

Pe scurt

“OpenAI introduce o suită de funcții de siguranță, inclusiv un clasificator sofisticat de imagini și avertismente proactive în ChatGPT, pentru a detecta și preveni activ materialele care conțin abuzuri asupra minorilor.”

Combaterea CSAM cu precizie prin AI

OpenAI a lansat oficial un set solid de măsuri de siguranță menite să identifice și să atenueze proliferarea materialelor care conțin abuzuri asupra minorilor (CSAM). Pe măsură ce conținutul generat de AI devine tot mai răspândit, riscul de utilizare necorespunzătoare a determinat compania să integreze sisteme specializate de detecție direct în infrastructura sa. Elementul central al acestei inițiative este un nou clasificator de imagini de înaltă precizie, dezvoltat în colaborare cu National Center for Missing and Exploited Children (NCMEC).

Acest clasificator funcționează prin atribuirea unui scor de probabilitate imaginilor, semnalând echipei de moderatori probabilitatea ca un fișier să conțină conținut abuziv. Prin restrângerea volumului de muncă pe care trebuie să îl examineze moderatorii umani, instrumentul crește considerabil eficiența procesului. Testele inițiale, realizate împreună cu parteneri din industrie, au arătat că noul clasificator marchează cu 48% mai puține imagini benigne, menținând în același timp aceeași rată de detecție pentru materialele abuzive. Astfel, echipele de siguranță își pot concentra eforturile acolo unde este cea mai mare nevoie, asigurând identificarea și eliminarea rapidă a conținutului problematic.

Descurajare proactivă în ChatGPT

Dincolo de detectare, OpenAI adoptă o strategie de descurajare activă pentru utilizatorii ChatGPT. Interfața va afișa acum ecrane de avertizare sofisticate, declanșate atunci când un utilizator încearcă să genereze conținut care sexualizează minorii. Aceste alerte nu sunt pur pasive; ele direcționează utilizatorii către resurse de suport specializate, menite să combată tiparele comportamentale dăunătoare.

Pentru a consolida aceste avertismente, OpenAI a implementat un sistem disciplinar. Utilizatorii care încearcă să acceseze sau să genereze conținut interzis vor fi suspendați automat timp de 24 de ore. Încălcările repetate vor duce la închiderea definitivă a contului. Aceste linii directoare au fost elaborate cu atenție, pe baza contribuțiilor oferite de organizații de siguranță precum Lucy Faithfull Foundation și cercetători independenți, pentru a garanta că mesajele de descurajare sunt eficiente și corecte din punct de vedere etic.

Sprijin pentru dezvoltatori și autorități

Conștientizând că siguranța este o responsabilitate comună în întregul ecosistem tehnologic, OpenAI oferă gratuit acces la API-ul său pentru clasificarea imaginilor către companii selectate. Această extindere este susținută de parteneriate cu Tech Coalition și ROOST, asigurând desfășurarea tehnologiei pe mai multe platforme pentru a crea o barieră unitară împotriva exploatării. Mai mult, compania a lansat un set cuprinzător de recomandări pentru dezvoltatori, oferindu-le instrucțiuni privind integrarea instrumentelor de siguranță a minorilor și modul corect de raportare a descoperirilor către NCMEC.

Pentru agențiile de aplicare a legii, OpenAI oferă funcții de investigare specializate. Acestea includ module plug-in dedicate și instrumente avansate de analiză a datelor, concepute pentru a sprijini investigațiile complexe privind siguranța minorilor. Oferind investigatorilor atât instrumente software, cât și un ghid detaliat de utilizare a AI în activitatea lor, OpenAI urmărește să reducă discrepanța dintre capacitățile AI în plină evoluție și nevoile tehnice ale autorităților de aplicare a legii la nivel global.

De ce este important

  • Acuratețe îmbunătățită: Noul clasificator reduce oboseala moderatorilor umani, concentrând analizele pe conținutul cu probabilitate mare de a fi abuziv.
  • Colaborare la nivel industrial: OpenAI împărtășește activ tehnologia sa de clasificare cu alte companii și organizații pentru a standardiza practicile de siguranță.
  • Siguranță proactivă: Tranziția de la blocarea pasivă la avertizarea activă a utilizatorilor și suspendări marchează o poziție mai fermă privind responsabilitatea platformelor.
  • Sprijin strategic: Echipând autoritățile cu instrumente AI, compania își poziționează tehnologia drept un activ de investigare esențial în eforturile de protecție a minorilor.
SPONSORED
The 5 Best Over-Ear ANC Headphones of 2026, Tested & Ranked
Ghid Cumpărături Recomandat
92/100
Tech si Gadgeturi•12 min de citit

The 5 Best Over-Ear ANC Headphones of 2026, Tested & Ranked

We locked five over-ear ANC picks for 2026 — Sony WH-1000XM6, Bose QuietComfort Ultra 2, Soundcore Space One, Sennheiser Momentum 5, and Apple AirPods Max 2 — then stress-tested them on lab metrics, long-term owner truth, and live street prices.

Articole similare

Articole asemanatoare, ordonate semantic dupa subiect si actualitate.

Optimizarea fluxurilor de lucru AI cu noile adaptoare de tip „harness” de la Hugging Face
Inteligenta Artificiala

Optimizarea fluxurilor de lucru AI cu noile adaptoare de tip „harness” de la Hugging Face

Hugging Face revoluționează performanța modelelor prin noi adaptoare concepute pentru a elimina incompatibilitățile și a reduce considerabil costurile operaționale.

IPO-ul istoric al Anthropic ar putea debloca 156 de miliarde de dolari pentru filantropia globală
Inteligenta Artificiala

IPO-ul istoric al Anthropic ar putea debloca 156 de miliarde de dolari pentru filantropia globală

În urma unui IPO istoric, structura corporativă unică a Anthropic și programele de donații ale angajaților sunt pe cale să genereze unul dintre cele mai mari fluxuri filantropice din istoria modernă.

Obstacolul financiar major din calea centrelor de date spațiale
Inteligenta Artificiala

Obstacolul financiar major din calea centrelor de date spațiale

Deși hardware-ul pregătit pentru condiții spațiale devine realitate, modelele tradiționale de finanțare prin îndatorare utilizate pentru centrele de date terestre se lovesc de un zid insurmontabil pe orbită.

Era post-Huang la Nvidia: creșteri financiare pe fondul incertitudinii de la nivelul conducerii
Inteligenta Artificiala

Era post-Huang la Nvidia: creșteri financiare pe fondul incertitudinii de la nivelul conducerii

În timp ce Nvidia își stabilizează traiectoria financiară după înlăturarea lui Jensen Huang, gigantul semiconductorilor se confruntă cu obstacole geopolitice majore și presiuni tot mai mari pentru a-și regândi echipa executivă.

Optimizarea inferenței pentru modele lingvistice mari cu DeepSpeed și Accelerate
Inteligenta Artificiala

Optimizarea inferenței pentru modele lingvistice mari cu DeepSpeed și Accelerate

Noile instrumente open-source de optimizare lansate de Hugging Face și Microsoft reduc considerabil dificultățile întâmpinate în rularea modelelor masive precum BLOOM.

Superhuman extinde asistentul AI „Go” în fluxurile de lucru și documente
Inteligenta Artificiala

Superhuman extinde asistentul AI „Go” în fluxurile de lucru și documente

Superhuman își dezvoltă suita de productivitate prin integrarea asistentului AI „Go” direct în Docs și e-mailuri, beneficiind de noi integrări cu agenți terți și funcționalități de programare proactivă.

Asistăm la un „Y2K nativ AI”? Provocările sistemice ale erei digitale
Inteligenta Artificiala

Asistăm la un „Y2K nativ AI”? Provocările sistemice ale erei digitale

Un val de întreruperi recente în infrastructura tehnologică globală a declanșat dezbateri aprinse: este vorba despre dificultăți sistemice în integrarea AI-ului modern în arhitecturi IT învechite?

Meta pregătește „Muse Charm”, un dispozitiv AI de buzunar de 300 de dolari
Inteligenta Artificiala

Meta pregătește „Muse Charm”, un dispozitiv AI de buzunar de 300 de dolari

Se zvonește că Meta se pregătește să lanseze „Muse Charm”, un dispozitiv AI purtabil cu prețul de 300 de dolari, transformând software-ul său de tip agent într-un companion fizic de dimensiunea unui breloc.