À mesure que les agents d’IA gagnent en autonomie et accèdent à des ressources critiques, leur sécurisation devient un enjeu majeur pour les entreprises. Steve Riley, Field CTO chez Netskope, explique pourquoi identité propre, Zero Trust, moindre privilège et supervision continue doivent désormais s’appliquer à ces nouvelles entités numériques.
L’IA agentique s’impose comme un levier majeur de transformation pour les entreprises. Capables d’agir de manière autonome et complémentaires des systèmes d’information, les agents d’IA devraient se multiplier rapidement. Selon Gartner, d’ici 2028, une entreprise moyenne du classement Fortune 500 utilisera plus de 150 000 agents d’IA, contre moins de 15 en 2025. Cette évolution entraînera une complexité des systèmes d’information et de nouveaux défis en matière de cybersécurité.
Dans ce contexte, les approches de sécurité traditionnelles ne suffisent plus. Certains facteurs caractéristiques des agents d’IA, comme leur autonomie ou leur capacité à accéder à des ressources critiques et à manipuler des données sensibles, imposent de repenser les stratégies de protection. Les entreprises doivent désormais considérer ces agents comme de véritables entités de leur système d’information, disposant d’une identité propre, de droits d’accès strictement contrôlés et d’une supervision continue. Pour eux, l’IA agentique représente un outil, dont ils peuvent tirer parti des bénéfices tout en limitant les risques liés aux cyberattaques, aux vulnérabilités des modèles et aux usages malveillants.
L’IA agentique, une nouvelle catégorie d’acteurs aux vulnérabilités spécifiques
Le principal défi de l’IA agentique réside dans le fait que ces systèmes évoluent souvent dans des zones grises. Ils utilisent régulièrement des comptes de service existants ou empruntent l’identité d’utilisateurs humains pour effectuer des actions dans des environnements cloud ou des bases de données. Du point de vue de la gouvernance informatique, cette situation compromet la traçabilité des responsabilités.
Une intégration sécurisée de l’IA agentique exige donc son traitement en tant que « security principal » au niveau du système. Celui-ci constitue le socle de la confiance dans toute architecture informatique, englobant les personnes, les appareils ou les services identifiables et vérifiables de manière unique. Chaque agent d’IA doit ainsi disposer d’une identité propre et immuable, une forme de citoyenneté numérique reposant sur un identifiant de sécurité unique (SID).
Même avec une stratégie robuste de gestion des identités, les fondements technologiques de l’IA, en particulier les grands modèles de langage (LLM), demeurent vulnérables. Le « jailbreaking », technique consistant à contourner les mécanismes de protection internes d’un modèle grâce à une manipulation ciblée des prompts, en constitue l’une des principales menaces. Il met en lumière une contradiction inhérente aux modèles d’IA. En effet, ils doivent être suffisamment flexibles pour comprendre le langage naturel tout en restant suffisamment rigides pour respecter les politiques de sécurité. Les attaquants exploitent précisément cette flexibilité pour corrompre les modèles.
Les attaques indirectes représentent également un risque majeur. Dans ce cas, le modèle n’est pas manipulé directement par l’utilisateur, mais par les données qu’il traite. Par exemple, lorsqu’un agent d’IA résume des discussions de forums publics ou analyse des sites web externes, ces sources peuvent contenir du code malveillant dissimulé (comme des liens vers des téléchargements furtifs). L’agent reproduit alors ce contenu de bonne foi dans ses résultats, devenant malgré lui un vecteur de cyberattaque.
Face à ces menaces ciblant les systèmes d’IA, les méthodes traditionnelles de sécurité atteignent leurs limites. Contrairement aux logiciels classiques, aux défaillances déterministes, les modèles d’IA dépassent ce cadre préétabli. En effet, une même entrée peut produire des résultats différents selon le contexte ou le moment. Une analyse ponctuelle ne suffit donc plus. Des exercices continus de simulations d’attaques, permettent d’identifier des schémas d’erreurs. Des référentiels tels que MITRE ATLAS ou le Top 10 de l’OWASP pour les risques liés aux LLM fournissent la structure nécessaire à l’intégration de la sécurité de l’IA dans les workflows de défense existants.
Les fondements d’une sécurisation efficace des agents d’IA
La réponse ne réside pas dans une réinvention de la cybersécurité, mais dans l’application rigoureuse de principes éprouvés tels que le modèle Zero Trust, la gestion des identités et la surveillance continue. Une fois l’identité de l’agent établie, l’entreprise peut appliquer plusieurs mécanismes de sécurité. Les autorisations doivent être granulaires afin de respecter le principe du moindre privilège. Elles doivent également être limitées dans le temps et adaptées au contexte pour réduire les risques de mouvement latéral en cas de compromission.
La journalisation continue constitue également un élément essentiel. Chaque décision et chaque action de l’agent doivent être enregistrées afin de garantir une traçabilité complète et en temps réel, indispensable pour l’analyse des défaillances et les investigations exhaustives.
Plus largement, les organisations gagnent à adopter une stratégie globale reposant sur plusieurs piliers, qui fonctionnent de façon coordonnée. Premièrement, elles doivent désigner un responsable humain chargé de la supervision des agents. Deuxièmement, elles doivent mettre en place une restriction systématique des droits d’accès, ainsi qu’un mécanisme centralisé d’interruption en cas de comportement suspect. Enfin, elles s’assurent de réviser régulièrement les autorisations et le recours à des modèles de confiance adaptatifs capables d’ajuster dynamiquement le niveau de confiance accordé à chaque agent.
Ainsi, elles poursuivent avant tout un objectif central, à savoir la protection de leurs données, principales cibles des tentatives de jailbreak et des comportements autonomes inappropriés. Une architecture de sécurité moderne doit ainsi contrôler les interactions en temps réel tout en surveillant les flux de données au sein des workflows pilotés par l’IA. En considérant les agents d’IA comme de véritables entités au sein d’une architecture Zero Trust, les organisations peuvent exploiter leur potentiel d’autonomie tout en conservant la maîtrise de leurs données sensibles.
Au fur et à mesure que l’IA agentique se déploie au sein des entreprises, il devient indispensable de repenser les stratégies de cybersécurité. Au-delà de l’attribution d’une identité propre aux agents et de l’évaluation continue des modèles, les organisations doivent mettre en œuvre une stratégie de sécurité globale, qui s’appuie sur une gouvernance rigoureuse. Elles se trouvent confrontées à des techniques d’attaque telles que le jailbreaking, dont la mise en œuvre peut s’avérer relativement accessible pour des acteurs malveillants. Pour se protéger, seule une approche proactive et évolutive permettra de garantir un déploiement sécurisé de l’IA agentique tout en préservant les données et les ressources critiques des entreprises.
