Protect AI și Hugging Face au atins o etapă semnificativă în efortul lor colaborativ de a securiza ecosistemul de inteligență artificială open-source. La șase luni de la lansarea inițiativei comune de securitate, organizațiile au scanat cu succes peste 4 milioane de modele de machine learning găzduite pe platforma Hugging Face.
Identificarea vulnerabilităților structurale
Procesul de scanare utilizează instrumentele de securitate specializate ale Protect AI pentru a detecta fișierele de tip „pickle” și alte formate de fișiere potențial malițioase care pot duce la vulnerabilități de executare de cod la distanță (RCE). Prin analizarea integrității structurale a acestor modele, parteneriatul își propune să prevină atacurile asupra lanțului de aprovizionare în cadrul ciclului de dezvoltare AI.
Consolidarea lanțului de aprovizionare AI
Pe măsură ce adoptarea AI-ului open-source continuă să accelereze, securitatea modelelor pre-antrenate a devenit o preocupare majoră pentru companii. Această inițiativă oferă dezvoltatorilor o transparență sporită în ceea ce privește siguranța activelor pe care le integrează în aplicațiile lor. Monitorizarea continuă ajută la stabilirea unui standard de referință pentru normele de securitate într-o industrie care evoluează rapid și care este tot mai des vizată de amenințări cibernetice sofisticate.
