Accueil Agents IA : Cato Networks veut bloquer les comportements à risque avant...

Agents IA : Cato Networks veut bloquer les comportements à risque avant leur exécution

Avec la montée en puissance des agents d’intelligence artificielle dans les entreprises, la question de leur sécurité ne se limite plus au contrôle des accès. Ces systèmes peuvent disposer d’autorisations légitimes tout en exécutant des actions qui dépassent le cadre de leur mission. Pour répondre à ce risque, Cato Networks lance AgentSense, une technologie brevetée développée par Cato AI Labs, conçue pour analyser en temps réel le comportement des agents d’IA et bloquer les actions dangereuses avant leur exécution.

L’approche repose sur un constat celui des mécanismes traditionnels de sécurité, notamment ceux fondés sur le Zero Trust, permettent de contrôler les identités et les permissions, mais ne suffisent pas toujours à déterminer si les actions entreprises par un agent sont conformes à la tâche qui lui a été confiée. Un agent peut, par exemple, disposer des droits nécessaires pour consulter des informations sensibles et utiliser des applications internes, sans que toutes les opérations réalisées à partir de ces accès soient pour autant légitimes.

Cette problématique prend de l’ampleur avec l’autonomie croissante des agents d’IA, désormais capables d’enchaîner plusieurs opérations sans intervention humaine à chaque étape. Selon Gartner, 71 % des organisations prévoient de déployer l’IA agentique au cours des douze prochains mois, tandis que seules 21 % disposent actuellement de capacités de gouvernance dans ce domaine. Un décalage qui soulève des questions sur la capacité des entreprises à encadrer ces nouveaux usages.

Identifier les tentatives de manipulation pendant l’exécution

Parmi les risques identifiés figure l’injection indirecte de prompts, une technique qui consiste à dissimuler des instructions malveillantes dans des contenus auxquels un agent accède au cours de son travail. Ces instructions peuvent se trouver dans des courriels, des documents, des pages Web ou des réponses provenant d’outils externes. Si l’agent les interprète comme des consignes légitimes, il peut être amené à effectuer des actions qui n’étaient pas prévues par l’utilisateur.

La menace devient particulièrement importante lorsque l’agent réunit trois caractéristiques : l’accès à des contenus non fiables, la possibilité de consulter des données sensibles et des permissions lui permettant d’agir sur d’autres systèmes. Cette combinaison, désignée sous le terme de « lethal trifecta », peut entraîner l’exposition d’informations confidentielles, l’exécution d’opérations non autorisées ou la manipulation de processus métier.

Pour limiter ce risque, AgentSense s’appuie notamment sur une fonction baptisée Untrusted Influence Detection. Celle-ci retrace l’influence des instructions et des données sur les décisions prises par l’agent pendant son exécution. Lorsqu’un contenu provenant d’une source non fiable semble orienter l’agent vers une opération dangereuse, le système peut bloquer cette action avant qu’elle ne soit réalisée.

Contrairement aux approches reposant principalement sur des classificateurs statiques ou des schémas d’attaque connus, cette méthode cherche à distinguer les instructions fiables des contenus non fiables au sein d’une même session. Elle analyse ensuite leur influence sur le comportement de l’agent et les résultats qu’il produit. L’objectif est notamment de détecter des tentatives de manipulation inédites, y compris celles qui ne correspondent pas à des techniques d’attaque déjà répertoriées.

Détecter les écarts entre les actions d’un agent et sa mission initiale

La manipulation par des contenus externes n’est toutefois pas le seul risque. Un agent peut également s’éloigner progressivement de son objectif initial au cours d’un processus comportant plusieurs étapes. Chaque opération peut être autorisée individuellement, sans que leur enchaînement corresponde nécessairement à la mission demandée.

Cato Networks prévoit ainsi de compléter AgentSense avec une fonction de détection des dérives, baptisée Drift Detection. Celle-ci devra examiner les actions entreprises tout au long d’un workflow afin de déterminer si elles restent cohérentes avec l’intention initiale de l’utilisateur. Elle viendra compléter l’analyse des influences externes en vérifiant non seulement l’origine des instructions, mais aussi la conformité des opérations avec la tâche attendue.

Cette distinction entre autorisation et légitimité des actions constitue l’un des enjeux de la sécurisation de l’IA agentique. Les entreprises doivent désormais pouvoir surveiller non seulement les ressources auxquelles un agent accède, mais également l’usage qu’il en fait et les facteurs qui influencent ses décisions.

Vers un contrôle continu des agents autonomes

La multiplication des interactions entre agents, applications et données internes rend cette surveillance plus complexe. Les contrôles effectués au moment de l’authentification ne permettent pas, à eux seuls, de vérifier qu’un agent respecte les limites de sa mission tout au long de son fonctionnement.

L’intégration de mécanismes de contrôle pendant l’exécution constitue une réponse à cette difficulté. Elle vise à intervenir au moment où une décision risquée est prise, plutôt qu’à constater ses conséquences une fois l’opération réalisée.

À mesure que les entreprises confient aux agents d’IA des processus de plus en plus sensibles, la sécurité doit ainsi évoluer d’une logique centrée sur les identités et les permissions vers une surveillance des comportements. L’enjeu ne consiste plus seulement à déterminer ce qu’un agent a le droit de faire, mais à vérifier que ses actions restent conformes à la mission qui lui a été confiée.