En 2023, un internaute a réussi à convaincre le chatbot d’un concessionnaire américain de lui vendre un SUV à 1 dollar. Si l’affaire a prêté à sourire, elle révèle pourtant une menace bien réelle : celle d’agents intelligents capables d’agir de manière autonome, sans supervision humaine suffisante. Avec l’essor de l’intelligence artificielle agentique, la cybersécurité entre dans une nouvelle dimension.
Cette année, lors de son évènement SAP Sapphire, SAP a dévoilé sa vision élargie de la business AI, portée par un réseau croissant d’agents intelligents Joule capables de comprendre le contexte, de proposer des actions et de générer des résultats de manière autonome, tout en restant sous la supervision humaine. Cette avancée promet une productivité décuplée mais elle invite à adapter, voire repenser les approches traditionnelles de sécurité.
L’IA agentique, un nouveau défi pour la sécurité
Les systèmes autonomes remettent en question les garde-fous traditionnels. Comment sécuriser un agent capable d’apprendre, de raisonner ou d’interagir avec d’autres agents ? Pour l’éditeur allemand, cette question est devenue un axe stratégique. Depuis plusieurs années, sa pratique du threat modeling est intégrée dans le Secure Software Development & Operations Lifecycle (Secure SDOL), certifié ISO/IEC 27001. Ce cadre garantit que la sécurité est intégrée dès la conception et tout au long du cycle de vie des produits.
Avec l’arrivée de l’agentic AI, SAP a enrichi cette approche pour inclure de nouveaux types de risques : comportements inattendus liés à la mémoire ou au raisonnement de l’agent, points d’interaction avec l’humain ou entre agents eux-mêmes. L’objectif n’est plus seulement de corriger des vulnérabilités statiques mais d’anticiper comment l’autonomie et l’apprentissage peuvent générer des comportements non souhaités et d’y apporter des contrôles adaptés.
Cette réflexion s’appuie aussi sur le travail des équipes SAP Labs, dont les chercheurs en AI Security analysent les nouvelles menaces liées aux grands modèles de langage et partagent leurs avancées avec la communauté.
Une reconnaissance internationale : la certification ISO/IEC 42001
En 2025, SAP est devenu l’un des premiers acteurs mondiaux à obtenir la certification ISO/IEC 42001, la nouvelle norme internationale dédiée à la gouvernance de l’IA.
Cette certification atteste que l’éditeur applique une gestion rigoureuse, éthique et transparente de l’IA, alignée sur de meilleures pratiques et standards internationaux de sécurité et de conformité. Les clients peuvent en consulter les détails sur le SAP Trust Center, gage de transparence et de confiance.
Une IA responsable, sécurisée et humaine
La sécurité n’est jamais un effort ponctuel mais un processus continu, d’autant plus avec des systèmes capables d’évoluer et d’apprendre. SAP s’engage à développer une IA responsable, fondée sur les 10 principes directeurs de la recommandation de l’Unesco sur l’éthique de l’IA. Son approche repose sur le principe du human in the loop : toute décision issue d’une IA générative est systématiquement validée par un être humain avant d’être mise en œuvre.
Enfin, SAP contribue activement aux initiatives du secteur, notamment à l’Owasp GenAI, pour co-construire des standards de sécurité ouverts et concrets appliqués à la nouvelle génération de systèmes intelligents.
Sécuriser l’avenir de l’intelligence
L’IA agentique ouvre un champ d’innovations sans précédent mais aussi un territoire de vigilance. En intégrant la sécurité et l’éthique au cœur de ses innovations, SAP aide les entreprises à adopter l’IA en toute confiance. Parce qu’une IA réellement intelligente est avant tout une IA sécurisée, responsable et humaine.
