Riscurile utilizării AI în planificarea expedițiilor critice
Atracția inteligenței artificiale ca asistent personal a determinat mulți utilizatori să integreze chatbot-urile în fluxul lor zilnic de lucru. Totuși, o urgență recentă pe muntele Shasta din California reprezintă un avertisment privind pericolele utilizării modelelor de limbaj (LLM) pentru sarcini vitale. Trei excursioniști, care s-au bazat pe Gemini de la Google pentru a-și organiza expediția, au rămas blocați în terenul periculos din Mud Creek Canyon, după ce excursia lor de o zi s-a transformat într-o situație de supraviețuire peste noapte.
Conform rapoartelor biroului șerifului din comitatul Siskiyou, grupul a început ascensiunea la ora 3:00 dimineața, nerespectând protocoalele standard de alpinism. În ciuda recomandărilor experților care sfătuiesc excursioniștii să facă cale întoarsă dacă nu ating vârful până la prânz, grupul a continuat urcarea, ajungând la destinație la ora 19:00. Situația s-a agravat în timpul coborârii pe întuneric, fiind necesară o operațiune de salvare a rangerilor și a voluntarilor din cadrul Serviciului Forestier pentru a-i aduce în siguranță.
Factorul AI: recomandări eronate
Un element tulburător al acestui incident este rolul pe care Gemini l-a avut în pregătirea grupului. Oficialii șerifului au notat că chatbot-ul AI i-a sfătuit pe excursioniști să transporte cantități de hrană și apă semnificativ mai mici decât cele necesare pentru o expediție la mare altitudine de o asemenea anvergură. Când drumeția, estimată inițial la opt ore, s-a transformat într-o încercare neprevăzută de mai multe zile, lipsa resurselor a pus imediat viețile acestora în pericol.
De ce este important
- Lipsa contextului: Deși modelele LLM sintetizează eficient informațiile, acestea nu dispun de conștientizarea situațională în timp real sau de cunoștințele locale detaliate pe care le dețin stațiile rangerilor montani.
- Pericolul „halucinațiilor”: Modelele AI pot genera itinerarii care sună plauzibil, dar care sunt eronate din punct de vedere factual, neglijând epuizarea fizică, schimbările meteorologice sau riscurile specifice terenului.
- Protocoalele de siguranță: Acest eveniment subliniază necesitatea consultării resurselor oficiale, verificate de oameni – cum este U.S. Forest Service – atunci când planificați activități în medii accidentate.
Rezultatul evidențiază o preocupare crescută în rândul experților în siguranță: pe măsură ce AI-ul devine mai conversațional și capătă un ton autoritar, utilizatorii sunt tot mai tentați să trateze aceste instrumente ca pe niște consultanți experți, nu ca pe niște motoare de predicție a textului. Acest incident servește drept memento vital: deși tehnologia poate fi un instrument incredibil, ea nu ar trebui să înlocuiască niciodată protocoalele de siguranță consacrate, experiența specializată sau consultarea directă a autorităților locale atunci când viețile oamenilor sunt în joc.