NVIDIA a annoncé le 27 juillet la création de l’Open Secure AI Alliance, une coalition réunissant Microsoft, Cisco, IBM, Hugging Face, Dell Technologies, Palo Alto Networks, Red Hat, SpaceXAI ou encore Salesforce. Cette initiative vise à développer et partager des outils open source pour sécuriser les systèmes d’IA, quelques jours après un incident survenu chez Hugging Face impliquant un agent d’OpenAI.
Un incident chez Hugging Face à l’origine du projet
L’alliance naît directement des suites d’un incident de sécurité chez Hugging Face. Selon le communiqué publié sur le blog de NVIDIA, un modèle fermé n’a pas permis de mener l’analyse forensique nécessaire pour comprendre l’ampleur de l’intrusion. Hugging Face a alors fait appel à GLM 5.2, un modèle à poids ouverts déployé sur sa propre infrastructure, pour examiner plus de 17 000 actions et contenir l’attaque.
NVIDIA en tire une conclusion simple : quand les équipes de défense ne peuvent ni inspecter, ni adapter, ni exécuter elles-mêmes les systèmes d’IA qui protègent leur infrastructure, leur capacité de réaction se retrouve limitée au moment précis où la rapidité compte le plus. Sur X, Jensen Huang a résumé la philosophie du projet en expliquant que les attaquants disposent déjà d’IA de pointe, et que les défenseurs ont besoin d’un écosystème combinant les meilleurs modèles ouverts et fermés, renforcés par une communauté mondiale.
Attackers have frontier AI. Defenders need a frontier AI ecosystem—the best open and closed models, force-multiplied by a global community.
During the Hugging Face incident, closed AI blocked essential forensics. An open-weight frontier model helped contain the intrusion.… https://t.co/lCZWt9nPBQ
— Jensen Huang (@JensenHuang) July 27, 2026
L’Open Secure AI Alliance s’appuie sur des initiatives déjà existantes, notamment le programme Akrites de la Linux Foundation et les travaux menés au sein de l’OpenSSF. Elle réunit à son lancement des acteurs venus du cloud, de la cybersécurité, du logiciel d’entreprise et de la recherche en IA : Adobe, Cadence, Capital One, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Databricks, Dell Technologies, DoorDash, Elastic, HPE, Hugging Face, IBM, LangChain, Microsoft, NAVER, NetApp, Nous Research, OpenClaw, Palantir, Palo Alto Networks, Red Hat, Reflection AI, Salesforce, SAP, ServiceNow, Siemens, SK Telecom, Snowflake, SpaceXAI, Synopsys, Thinking Machines Lab et TrendAI complètent la liste des membres fondateurs, aux côtés de la Linux Foundation et de NVIDIA.
Des briques techniques déjà mises sur la table
Au-delà de la déclaration d’intention, plusieurs membres apportent d’ores et déjà des contributions concrètes à l’effort collectif. NVIDIA ouvre le code de NOOA (NVIDIA Labs Object-Oriented Agent), un projet disponible sur GitHub destiné à rendre les capacités de sécurité des agents plus accessibles et à faciliter le test, la traçabilité, l’audit et la gouvernance de leur comportement.
HPE contribue au standard SPIFFE/SPIRE, un cadre d’identité zero-trust qui permet de vérifier cryptographiquement les agents et services IA afin que seules les charges de travail autorisées puissent communiquer et accéder aux ressources d’entreprise. Hugging Face met à disposition de la PyTorch Foundation son format Safetensors, conçu pour stocker les poids des modèles sans risque d’exécution de code à distance. IBM et Red Hat, via leur solution Lightwell, renforcent la sécurité de la chaîne d’approvisionnement open source grâce à des correctifs signés numériquement.
Microsoft apporte MDASH, un dispositif d’analyse multi-agents capable d’orchestrer plusieurs IA spécialisées pour détecter, confronter et démontrer l’existence de failles exploitables. SpaceXAI, de son côté, a rendu open source son agent de développement en ligne de commande Grok Build, et prévoit d’ouvrir également les poids de sa gamme de modèles Grok à la communauté des chercheurs et développeurs.
Un message adressé aux régulateurs
Le communiqué de NVIDIA s’accompagne d’un appel direct aux pouvoirs publics. L’entreprise plaide pour que les modèles ouverts, les harnais d’agents et les outils de sécurité associés soient considérés comme des actifs défensifs plutôt que comme des risques dans les politiques de régulation de l’IA. Selon elle, des restrictions générales sur les systèmes d’IA ouverts de pointe affaibliraient la capacité de défense collective et concentreraient le pouvoir, la dépendance et la vulnérabilité entre les mains de quelques fournisseurs fermés.
NVIDIA reconnaît que les modèles ouverts comportent des risques de détournement, tout comme les modèles fermés, mais estime que la réponse ne consiste pas à priver les équipes de sécurité de systèmes ouverts performants. L’entreprise défend plutôt une combinaison d’ouverture, de garde-fous solides, de règles claires contre les usages malveillants et de remédiation rapide. Elle invite désormais gouvernements, industriels et chercheurs à rejoindre l’Open Secure AI Alliance pour construire ensemble les outils de défense de l’ère des agents IA.
