Într-o mișcare semnificativă pentru consolidarea securității în peisajul inteligenței artificiale, Hugging Face a anunțat o colaborare strategică cu VirusTotal. Acest parteneriat se concentrează pe abordarea îngrijorărilor tot mai mari privind codul malițios ascuns în modelele de machine learning și în seturile de date.
Scanarea amenințărilor în lanțul de aprovizionare AI
Fiind principalul hub pentru resurse AI open-source, Hugging Face găzduiește sute de mii de modele. Prin integrarea capacităților de scanare ale VirusTotal, platforma poate identifica acum mai eficient potențialele amenințări, cum ar fi backdoor-urile sau programele malware care ar putea fi ascunse în ponderile modelelor (weights) sau în fișierele de configurare. Această inițiativă este concepută pentru a proteja dezvoltatorii și organizațiile care descarcă și integrează aceste modele în propria infrastructură.
Construirea încrederii în AI-ul Open-Source
Colaborarea reprezintă un pas proactiv către securizarea lanțului de aprovizionare AI. Utilizând analiza multi-engine a VirusTotal, Hugging Face oferă un strat suplimentar de verificare, asigurându-se că tranziția către AI open-source rămâne protejată de amenințările cibernetice. Se preconizează că această mișcare va stabili un nou standard pentru protocoalele de securitate în cadrul comunității de dezvoltare AI.
