L’IRT SystemX lance un nouveau projet de recherche consacré à la confiance dans les systèmes d’IA générative et hybride. Derrière le sujet de l’explicabilité, l’enjeu est grand pour les industriels, qui doivent désormais documenter, contrôler et auditer des modèles intégrés à des environnements critiques.
L’IA de confiance rattrapée par la vague générative
Après Confiance.ai, place à CSIA. L’IRT SystemX a annoncé le lancement du projet « Confiance dans les Systèmes d’IA », prévu pour une durée de 48 mois. Il s’inscrit dans la continuité du programme Confiance.ai, qui avait permis de structurer une méthodologie et des outils pour l’ingénierie de l’IA industrielle et responsable.
Cette nouvelle étape vise cette fois les verrous propres à l’IA générative et à l’IA hybride. Le consortium réunit notamment Naval Group, Octopize, Safenai, Safran, Sopra Steria, Thales, l’ONERA, l’Université Paris-Saclay et l’IRT SystemX. Une dizaine de cas d’usage industriels doivent servir de terrain d’expérimentation, avec pour ambition d’enrichir les méthodes et composants technologiques maintenus par l’European Trustworthy AI Association.
Il ne s’agit plus seulement de savoir pourquoi un modèle a produit telle ou telle réponse. Dans l’industrie, l’IA générative est appelée à manipuler des données techniques, à assister des opérateurs, à interroger des bases de connaissances ou à contribuer à des décisions complexes. Dans ces conditions, l’explicabilité doit s’inscrire dans une chaîne beaucoup plus large, qui va de la qualité des données jusqu’au suivi du comportement du système en conditions réelles.
Expliquer ne suffit plus
Les travaux de CSIA doivent notamment porter sur les systèmes critiques fondés sur l’IA hybride, qui combinent par exemple apprentissage automatique, modèles physiques ou approches neuro-symboliques. Ces architectures promettent des usages plus proches des réalités industrielles, mais elles rendent aussi l’évaluation plus délicate.
Pour les entreprises, le défi consiste à démontrer qu’un système est fiable, sécurisé, transparent et utilisable dans un cadre maîtrisé. Il ne s’agit pas seulement de fournir une explication lisible à l’utilisateur final, mais de produire des éléments vérifiables sur le cycle de vie des données, les limites du modèle, son domaine d’emploi, sa robustesse, ses incertitudes ou encore les mécanismes de supervision humaine.
Cette approche rejoint directement les exigences posées par le règlement européen sur l’IA, en particulier pour les systèmes considérés comme à haut risque. La conformité ne pourra pas reposer uniquement sur des déclarations d’intention. Elle supposera des preuves techniques, des journaux, des procédures de contrôle et des méthodes d’évaluation reproductibles.
Un enjeu d’industrialisation
C’est là que le sujet devient stratégique. Beaucoup d’entreprises ont déjà expérimenté l’IA générative, mais le passage à des usages industriels exige une autre maturité. Les modèles doivent pouvoir être intégrés dans des processus qualité, des architectures logicielles, des chaînes de cybersécurité et des démarches de conformité.
SystemX veut ainsi contribuer à un socle européen de méthodes et d’outils ouverts pour l’IA de confiance. L’European Trustworthy AI Association, créée dans la continuité de Confiance.ai, porte déjà cette ambition en mettant à disposition des ressources open source pour concevoir, valider, déployer et surveiller des systèmes d’IA responsables.
Reste à transformer ces cadres en pratiques réellement adoptées sur le terrain. Avec l’IA générative, l’explicabilité ne peut plus être une couche ajoutée après coup. Elle devient une exigence d’ingénierie, au même titre que la sécurité, la robustesse ou la traçabilité.
