Securitatea modernă a email-ului se confruntă cu o provocare nostalgică, pe măsură ce cercetătorii descoperă că tehnicile clasice de „text salting” — tactici utilizate acum câteva decenii pentru a păcăli filtrele de bază — reușesc să treacă de detectoarele de spam sofisticate bazate pe Modele de Limbaj Mari (LLM).
Revenirea tehnicii Text Salting
Tehnica de „text salting” (adăugarea de „sare” în text) presupune inserarea unor șiruri de caractere invizibile sau irelevante într-un email pentru a dilua prezența cuvintelor cheie specifice spam-ului. Deși aceste trucuri au fost în mare parte neutralizate de filtrele bayesiene tradiționale, generația actuală de filtre bazate pe inteligență artificială pare a fi susceptibilă la același tip de manipulare. Prin adăugarea de text inofensiv sau „zgomot”, atacatorii pot deruta fereastra de context a LLM-ului, determinând sistemul să clasifice greșit conținutul malițios drept corespondență legitimă.
Reapariția acestor metode vechi subliniază un potențial punct vulnerabil în securitatea bazată pe AI: tendința modelelor de a fi influențate excesiv de distribuția generală a cuvintelor, în loc să identifice tipare specifice de intenție. Pe măsură ce atacatorii revin la aceste metode simple, dar eficiente, furnizorii de securitate ar putea fi nevoiți să regândească modul în care LLM-urile procesează metadatele email-urilor și conținutul ascuns.
