Le spécialiste de la sécurité de la supply chain logicielle annonce un nouveau partenariat avec Hugging Face, afin d’approfondir les analyses de vulnérabilités et de modèles malveillants.
A l’occasion des MLOps Days, qui se tiennent en ce moment à New York, JFrog multiplie les annonces et les partenariats. Le spécialiste de la supply chain logicielle a notamment annoncé le renforcement de son association avec Hugging Face, hébergeur du plus grand dépôt mondial de modèles d’apprentissage machine (ML) publics.
Cette intégration consistera, schématiquement, à réaliser des des analyses de sécurité pour chaque modèle ML du Hugging Face Hub. « À mesure que les modèles ML deviennent essentiels pour les applications métier critiques, garantir la sécurité de ces modèles est crucial pour prévenir les violations, les fuites de données et les erreurs de prise de décision », explique Asaf Karas, CTO de JFrog Security.
Analyses approfondies
Les deux sociétés travaillent ensemble depuis 2023 sur la partie mise en production des modèles. Asaf Karas signale que JFrog a mis au jour des « modèles malveillants intentionnels » dans Hugging Face début 2024, « ce qui nous a poussés à consacrer davantage de nos experts en sécurité pour scanner et évaluer l’intégrité de tous les modèles Hugging Face afin de garantir leur sécurité pour une utilisation dans le développement d’applications IA » ajoute-t-il.
Les solutions JFrog Xray et JFrog Advanced Security, « conçues pour scanner les artefacts de modèles IA/ML à la recherche de menaces à chaque étape de leur cycle de vie », seront ainsi mis à contribution pour scanner chaque modèle avant son téléchargement, et les résultats de cette analyse seront rendus publics.
Peur sur l’IA
Selon JFrog, cette intégration se distingue des scanners de modèles ML existants grâce à la décompilation de code malveillant et à l’analyse approfondie des flux de données. « Tandis que les solutions existantes vérifient simplement la présence de code exécuté automatiquement dans un modèle, le scanner de modèles de JFrog utilise une approche améliorée pour extraire et analyser le code intégré ».
L’entreprise assure avoir ainsi mis en évidence 25 modèles malveillants de type Zero-Day, que les autres scanners avaient échoué à détecter. « Pendant longtemps, l’IA a été un domaine réservé aux chercheurs et les pratiques de sécurité étaient assez basiques, mais à mesure que la popularité et l’utilisation généralisée de l’IA augmentent, il en va de même pour le nombre d’acteurs potentiellement malveillants qui pourraient vouloir cibler la communauté de l’IA en général et notre plateforme plus spécifiquement », indique Julien Chaumond, CTO d’Hugging Face.
