Google Cloud annonce AI Protection. Ce service doit protéger les workloads et les données liées à l’IA. “Cette solution globale permet aux équipes de sécurité de découvrir l’inventaire de l’IA, de sécuriser les actifs de l’IA et de gérer les menaces liées à l’IA. Ses fonctionnalités protègent contre des risques tels que l’injection de prompt, le jailbreak, la perte de données, les URL malveillantes et le contenu offensant.” précise l’éditeur.
AI Protection inclut aussi Google Security Command Center (SCC) pour donner aux entreprises une vue unifiée et centralisée.
AI Protection doit permettre :
- comprendre les environnements à risques
- déployer les contrôles et les règles aux couches IA
- détecter les possibles failles liées à l’IA
Par exemple, Model Armor est là pour contrer de possibles injections, de jailbreaks dans une GenIA.
Annonce complète : https://cloud.google.com/blog/products/identity-security/introducing-ai-protection-security-for-the-ai-era?hl=en
