Tech si GadgeturiAnaliza tehnica

Diferența de siguranță: Gary Marcus avertizează împotriva scalării necontrolate a AI

Publicat
RRedactia ElectricBuzz
Diferența de siguranță: Gary Marcus avertizează împotriva scalării necontrolate a AI
2 min de citit327 cuvinteRedactia ElectricBuzz

Pe scurt

“Cercetătorul în științe cognitive Gary Marcus trage un semnal de alarmă privind avansul rapid al modelelor de limbaj (LLM), argumentând că industria prioritizează viteza în detrimentul fiabilității fundamentale.”

Paradoxul fiabilității

Gary Marcus, cofondator al Robust AI și o voce influentă în etica tehnologiei, și-a exprimat recent îngrijorările profunde cu privire la direcția actuală în dezvoltarea modelelor lingvistice complexe. Vorbind despre lipsa unor mecanisme de siguranță adecvate, Marcus susține că liderii din industrie, inclusiv organizații precum OpenAI, scalează agresiv sisteme pe care încă nu le înțeleg sau nu le pot controla pe deplin. Argumentul său principal vizează riscul inerent de a lansa instrumente generative puternice în mediul public, fără o bază de comportament predictibil și verificabil.

Problema, în opinia lui Marcus, rezidă în arhitectura fundamentală a modelelor actuale bazate pe transformatoare. Deoarece aceste sisteme sunt probabilistice, nu logice, ele rămân predispuse la halucinații și la rezultate impredictibile. Prin integrarea prematură a acestor instrumente în infrastructuri critice și aplicații de consum, dezvoltatorii tratează, în esență, populația globală ca pe niște subiecți de test pentru un software experimental de tip „black box”, căruia îi lipsesc supravegherea riguroasă sau verificarea formală a siguranței.

De ce contează

  • Fragilitatea sistemică: Dependența de modele lipsite de consistență logică reprezintă riscuri pentru sectoare precum cel medical, financiar și juridic.
  • Întârzierile legislative: Autoritățile de reglementare încearcă cu greu să țină pasul cu ritmul alert al lansărilor, lăsând adesea un vid acolo unde ar trebui să existe standarde de siguranță.
  • Problema controlului: Dacă dezvoltatorii nu pot prezice sau limita în mod fiabil modul în care un model va răspunde la solicitări noi, potențialul pentru utilizări abuzive sau erori catastrofale crește exponențial.

În cele din urmă, Marcus pledează pentru o schimbare strategică către abordări mai solide, de tip neuro-simbolic, în dezvoltarea AI. El susține că, dacă industria nu își mută accentul de pe simpla creștere a numărului de parametri și viteză către fiabilitate și interpretabilitate, prăpastia dintre capabilitățile AI și siguranța centrată pe om va continua să crească. Mesajul este clar: dacă nu putem controla instrumentele pe care le construim, riscăm să ne expunem unor pericole care depășesc cu mult utilitatea actuală a acestor sisteme generative.

SPONSORED
The 5 Best Over-Ear ANC Headphones of 2026, Tested & Ranked
Ghid Cumpărături Recomandat
92/100
Tech si Gadgeturi•12 min de citit

The 5 Best Over-Ear ANC Headphones of 2026, Tested & Ranked

We locked five over-ear ANC picks for 2026 — Sony WH-1000XM6, Bose QuietComfort Ultra 2, Soundcore Space One, Sennheiser Momentum 5, and Apple AirPods Max 2 — then stress-tested them on lab metrics, long-term owner truth, and live street prices.

Articole similare

Articole asemanatoare, ordonate semantic dupa subiect si actualitate.

Conformitatea Big Tech în UE, sub semnul întrebării: tactici de fațadă și design subliminal
Tech si Gadgeturi

Conformitatea Big Tech în UE, sub semnul întrebării: tactici de fațadă și design subliminal

Organizațiile europene de protecție a consumatorilor solicită măsuri de sancționare mai dure, acuzând giganții tech de folosirea unor interfețe „subliminale” pentru a eluda reglementările Digital Markets Act.

Canonical anunță planurile pentru un desktop Ubuntu Core imuabil
Tech si Gadgeturi

Canonical anunță planurile pentru un desktop Ubuntu Core imuabil

Canonical a prezentat un calendar concret pentru tranziția către un sistem de operare desktop imuabil, vizând o lansare majoră în 2028 și obiective ambițioase pe termen lung.

SK Hynix își consolidează dominația pe piața de memorii pentru AI prin preluarea unei participații în Kioxia
Tech si Gadgeturi

SK Hynix își consolidează dominația pe piața de memorii pentru AI prin preluarea unei participații în Kioxia

Într-o schimbare strategică majoră, gigantul sud-coreean SK Hynix devine cel mai mare acționar al producătorului japonez de memorii Kioxia, marcând o nouă etapă de consolidare în lanțul de aprovizionare cu cipuri pentru AI.

Piețele globale resimt impactul noilor restricții americane privind exportul de cipuri AI
Tech si Gadgeturi

Piețele globale resimt impactul noilor restricții americane privind exportul de cipuri AI

Noile controale la export impuse de SUA asupra procesoarelor AI de înaltă performanță generează volatilitate, amenințând să perturbe lanțul global de aprovizionare cu semiconductori și să pună la încercare relațiile comerciale dintre SUA și China.

SpaceX atrage 32 de miliarde de dolari pentru a-și susține ambițiile în AI
Tech si Gadgeturi

SpaceX atrage 32 de miliarde de dolari pentru a-și susține ambițiile în AI

SpaceX apelează la o strategie de finanțare prin îndatorare de 32 de miliarde de dolari pentru a securiza hardware-ul necesar extinderii infrastructurii sale de inteligență artificială.

Fondatorul Kakao, achitat definitiv în procesul de manipulare a pieței bursiere
Tech si Gadgeturi

Fondatorul Kakao, achitat definitiv în procesul de manipulare a pieței bursiere

O curte de apel din Coreea de Sud a confirmat achitarea fondatorului Kakao Corp., Brian Kim, eliminând un obstacol juridic major pentru gigantul tehnologic.

Germ Network debutează pe Android pentru a consolida confidențialitatea utilizatorilor Bluesky
Tech si Gadgeturi

Germ Network debutează pe Android pentru a consolida confidențialitatea utilizatorilor Bluesky

Aplicația de mesagerie criptată Germ Network a sosit oficial pe Android, oferind utilizatorilor Bluesky o alternativă axată pe confidențialitate și gestionarea identității.

Giganții financiari, sub presiune după compromiterea unor date prin furnizori terți
Tech si Gadgeturi

Giganții financiari, sub presiune după compromiterea unor date prin furnizori terți

JPMorgan Chase, Visa și Mastercard investighează atacuri cibernetice separate asupra unor furnizori externi, care au dus la expunerea unor date de contact ale clienților.