Inteligenta ArtificialaAnaliza tehnica

OpenAI introduce un sistem de marcare invizibilă a textului pentru a respecta reglementările EU AI Act

Publicat
RRedactia ElectricBuzz
OpenAI introduce un sistem de marcare invizibilă a textului pentru a respecta reglementările EU AI Act
3 min de citit545 cuvinteRedactia ElectricBuzz

Pe scurt

“OpenAI lansează „textGrain”, o tehnologie de marcare invizibilă pentru ChatGPT și Codex în Uniunea Europeană, făcând un pas important spre transparența AI.”

Trecerea către un AI transparent

Într-o mișcare menită să respecte cerințele stricte de transparență impuse de EU AI Act, OpenAI a anunțat implementarea unui sistem de marcare invizibilă (watermarking) pentru textul generat de modelele sale principale, inclusiv ChatGPT și Codex. Această inițiativă reprezintă un răspuns direct la mandatul Uniunii Europene, intrat în vigoare pe 2 august, care obligă dezvoltatorii de AI să marcheze conținutul generat de mașină, astfel încât acesta să poată fi identificat programatic de alte sisteme.

Spre deosebire de marcajele tradiționale care apar sub formă de simboluri vizuale sau logouri, tehnologia implementată de OpenAI, denumită „textGrain”, este complet invizibilă pentru ochiul uman. Aceasta funcționează prin influențarea subtilă și matematică a modelelor de selecție a cuvintelor. Rezultatul este o semnătură unică, detectabilă, integrată direct în text. Deoarece această semnătură este țesută în structura conținutului, marcajul rămâne intact chiar dacă textul este copiat și lipit în alte documente sau platforme.

Cum funcționează textGrain

Fundamentul tehnic al textGrain a fost dezvoltat în colaborare cu cercetători de la University of Pennsylvania și Yale. Sistemul folosește o cheie secretă care ghidează modelul în predicția cuvintelor următoare. Atunci când zeci sau sute de astfel de predicții „ajustate” sunt agregate, documentul rezultat conține un tipar statistic pe care un detector specializat îl poate confirma ca fiind generat de un AI, cu condiția ca acesta să dețină cheia corespunzătoare.

OpenAI a subliniat că această funcționalitate nu va afecta performanța sau calitatea modelelor sale. În testele inițiale, compania nu a observat o degradare semnificativă a capacității de generare atunci când sistemul de marcare a fost activat. Deocamdată, implementarea este limitată la Uniunea Europeană pentru utilizatorii eligibili de ChatGPT și Codex, deși dezvoltatorii din întreaga lume pot alege să activeze funcția prin intermediul OpenAI API.

De ce este important

Promovarea marcajelor pentru conținutul AI este esențială în dezbaterea privind autenticitatea digitală și riscul de dezinformare generată de AI. Prin crearea unei metode standardizate de identificare a textelor generate automat, autoritățile de reglementare speră să limiteze proliferarea deepfake-urilor și a spamului automatizat. Totuși, tehnologia are propriile limitări.

  • Rezistența la editare: Testele OpenAI sugerează că marcajul este vulnerabil la intervenția umană. Editările simple, precum înlocuirea a aproximativ 10% din cuvinte cu sinonime, pot face ca rata de succes a detectorului să scadă de la 92% la aproximativ 66%.
  • Puncte moarte în detecție: Sistemul întâmpină dificultăți în cazul conținutului scurt, al formulelor matematice complexe și al pasajelor traduse.
  • Nu este o garanție: OpenAI a precizat clar că absența unui marcaj nu trebuie interpretată ca o dovadă definitivă a autoratului uman. Conținutul ar putea fi prea scurt pentru a fi detectat sau ar putea proveni de la un model al unui competitor care nu utilizează metoda textGrain.

Implicații viitoare

Decizia OpenAI de a limita accesul la detector doar pentru anumiți cercetători și organizații de experți subliniază echilibrul fragil dintre transparență și riscul de a „păcăli sistemul”. Păstrând instrumentele de detecție private, compania dorește să prevină tentativele actorilor rău-intenționați de a face inginerie inversă asupra marcajului pentru a-l ocoli. Pe măsură ce industria avansează, succesul textGrain va servi probabil ca punct de referință pentru modul în care alți jucători majori din spațiul AI generativ — inclusiv Google, Anthropic și Meta — vor gestiona intersecția dintre conformitatea obligatorie și fiabilitatea tehnică într-o lume din ce în ce mai automatizată.

SPONSORED
The 5 Best Over-Ear ANC Headphones of 2026, Tested & Ranked
Ghid Cumpărături Recomandat
92/100
Tech si Gadgeturi•12 min de citit

The 5 Best Over-Ear ANC Headphones of 2026, Tested & Ranked

We locked five over-ear ANC picks for 2026 — Sony WH-1000XM6, Bose QuietComfort Ultra 2, Soundcore Space One, Sennheiser Momentum 5, and Apple AirPods Max 2 — then stress-tested them on lab metrics, long-term owner truth, and live street prices.

Articole similare

Articole asemanatoare, ordonate semantic dupa subiect si actualitate.

Meta pregătește „Muse Charm”, un dispozitiv AI de buzunar de 300 de dolari
Inteligenta Artificiala

Meta pregătește „Muse Charm”, un dispozitiv AI de buzunar de 300 de dolari

Se zvonește că Meta se pregătește să lanseze „Muse Charm”, un dispozitiv AI purtabil cu prețul de 300 de dolari, transformând software-ul său de tip agent într-un companion fizic de dimensiunea unui breloc.

Apple se pregătește să intre în cursa AI-urilor autonome: O nouă viziune pentru macOS
Inteligenta Artificiala

Apple se pregătește să intre în cursa AI-urilor autonome: O nouă viziune pentru macOS

Apple dezvoltă un agent AI sofisticat capabil să opereze sistemul de operare macOS, marcând o schimbare strategică către automatizarea proactivă a fluxurilor de lucru complexe.

Nvidia în derivă: Plecarea neașteptată a lui Jensen Huang
Inteligenta Artificiala

Nvidia în derivă: Plecarea neașteptată a lui Jensen Huang

O analiză a crizei corporative de la Nvidia în urma demisiei subite a CEO-ului veteran Jensen Huang, pe fondul unor controverse personale și îngrijorări privind securitatea națională.

Everful, startup-ul care eficientizează lanțurile de aprovizionare, atrage 48,5 milioane de dolari pentru a automatiza achizițiile globale
Inteligenta Artificiala

Everful, startup-ul care eficientizează lanțurile de aprovizionare, atrage 48,5 milioane de dolari pentru a automatiza achizițiile globale

Everful facilitează legătura dintre micii retaileri și producătorii din China printr-o platformă complexă, bazată pe AI, care gestionează întregul lanț de aprovizionare.

Listarea Anthropic: Un angajament pentru evoluția controlată a AI
Inteligenta Artificiala

Listarea Anthropic: Un angajament pentru evoluția controlată a AI

Odată cu debutul istoric al Anthropic pe bursa publică, CEO-ul Dario Amodei întărește angajamentul companiei față de dezvoltarea responsabilă, promițând să prioritizeze controlul uman în detrimentul lansărilor rapide.

Agentul AI Muse de la Meta, sub lupa autorităților: breșe de confidențialitate și scurgeri de date între conturi
Inteligenta Artificiala

Agentul AI Muse de la Meta, sub lupa autorităților: breșe de confidențialitate și scurgeri de date între conturi

Rapoartele interne sugerează că Muse, agentul AI al Meta, expune din greșeală date private ale utilizatorilor și amestecă informații din conversații personale.

Anthropic debutează istoric pe Nasdaq, cu o evaluare de peste 2 trilioane de dolari
Inteligenta Artificiala

Anthropic debutează istoric pe Nasdaq, cu o evaluare de peste 2 trilioane de dolari

Puterea AI Anthropic a intrat oficial pe piața publică, acțiunile deschizând cu un avans surprinzător de 33% față de prețul deja ridicat al IPO-ului.

Google transformă Gemini pentru macOS într-un agent capabil să controleze computerul
Inteligenta Artificiala

Google transformă Gemini pentru macOS într-un agent capabil să controleze computerul

Google introduce funcționalități de tip agent pentru aplicația desktop Gemini pe Mac, permițând AI-ului să navigheze în aplicații, să gestioneze fișiere și să execute fluxuri de lucru complexe direct pe computerul utilizatorului.