Les agents IA disposent de capacités d’action toujours plus étendues, mais le principal risque tient surtout aux droits qui leur sont accordés. Art Gilliland, CEO de Delinea, plaide pour une gestion dynamique des privilèges, une supervision externe aux modèles et une traçabilité complète de leurs actions.
Les récents tests d’évaluation d’Anthropic, où plusieurs modèles Claude ont pénétré des systèmes d’organisations réels, marquent un tournant. Pourtant, qualifier ces événements d’« incidents » relève d’une forme d’aveuglement. Ces agents IA n’ont fait qu’exécuter exactement ce pour quoi ils ont été conçus : utiliser les accès qui leur sont confiés pour atteindre leurs objectifs. es affaires mettent en lumière le véritable trou noir de la cybersécurité d’aujourd’hui : la gestion des accès accordés aux identités autonomes.
Aujourd’hui, le secteur s’enferme dans une impasse en pensant que la défense doit perpétuellement courir après la puissance des modèles. Mais face à un agent IA capable d’explorer des chemins d’attaque et de trouver des failles plus vite qu’un humain ne peut les colmater, cette course est perdue d’avance. Vouloir « sécuriser le modèle » de l’intérieur pour qu’il se comporte bien est une illusion. Si une stratégie de sécurité repose uniquement sur le fait d’espérer qu’une IA choisisse de bien se comporter et de suivre les consignes qu’on lui a données, il n’y a pas de politique de sécurité claire. La question n’est plus de savoir si les agents IA peuvent poser problème, mais quand ils le feront, car ça finira par arriver.
Les agents IA devrait être considérés comme des identités à privilèges
L’erreur fondamentale ne réside pas dans le fonctionnement interne du modèle, mais dans l’attribution des droits. On ne peut pas accorder à un agent des privilèges permanents et illimités puis s’étonner qu’il les utilise pour dépasser son cadre. Les agents IA constituent une toute nouvelle classe d’identités à privilèges et doivent impérativement être traités comme tels. Leurs accès doivent être appliqués et gouvernés de manière continue au moment exact de leur utilisation, et non examinés a posteriori.
Dans ce contexte, la question cruciale que chaque Directeur de la Sécurité des Systèmes d’Information (DSSI) doit se poser n’est pas seulement de savoir si ses agents disposent d’accès, mais plutôt : serions-nous capables d’intercepter un agent en train d’en abuser et d’interrompre son action avant qu’il ne crée de vrais dégâts ?
Pour y parvenir, la supervision ne peut pas être confiée à l’IA elle-même. Le contrôle doit impérativement se situer à l’extérieur du modèle, directement au point d’action. Il s’agit d’observer les opérations réelles de l’agent sur le système, de restreindre au maximum son champ d’action et d’appliquer un principe de moindre privilège dynamique. De même, le concept d’environnement isolé (« sandbox ») doit être profondément réévalué puisque, dès lors qu’un agent confiné dans un environnement d’essai peut atteindre un identifiant actif, un compte de production ou une infrastructure tierce, le confinement n’est plus qu’une étiquette rassurante.
La crise de responsabilité et l’exigence de preuve
Ces failles soulignent également une faiblesse majeure dans nos cadres de gouvernance : l’absence d’imputabilité. Jusqu’à présent, la responsabilité opérationnelle et juridique s’articulait autour d’une intention ou d’une faute humaine (un acte malveillant, une négligence, une erreur de configuration). Avec les agents autonomes, nous faisons face à des systèmes qui effectuent exactement ce pourquoi ils ont été codés, mais qui causent des dommages collatéraux majeurs à des entreprises tierces.
Lorsqu’un agent cause des dégâts à plusieurs degrés de distance de l’entreprise qui l’a développé, qui en porte réellement la responsabilité ? Aujourd’hui, personne ne sait y répondre de manière satisfaisante. Le fait que les laboratoires pionniers d’IA demandent eux-mêmes l’aide des régulateurs prouve bien que la capacité des outils dépasse la vitesse de leur propre gouvernance.
Catégories : Gouvernance, IA générative, IAM, Protection des données, Sécurité, Zero Trust, Tribune libre
Face aux futures exigences des régulateurs, les entreprises devront fournir des preuves irréfutables de sécurité plutôt que des simples chartes d’usage. Cela nécessite une traçabilité intégrale de toutes les actions menées par les agents IA via leurs privilèges. En réalité, la responsabilité finale incombe toujours à l’humain : le problème majeur ne vient pas de l’intelligence de l’IA, mais des accès excessifs octroyés par les décideurs. Pour y remédier, il devient impératif de supprimer les accès permanents par défaut afin de reprendre le contrôle à la source, en verrouillant et supervisant chaque autorisation en temps réel.
