Yann Ferguson, Directeur de Recherches à l’Inria – LaborIA et le Club Datacraft viennent de publier un rapport sur le Shadow IA qui va à l’encontre des conceptions actuelles, en montrant les avantages de cette pratique.
SN : Quels sont les avantages du Shadow AI ?
YF : Le premier avantage du Shadow AI est la facilité d’accès à l’IA qui est passée, pour des millions de gens, d’un sujet de science fiction à un objet très concret. Le deuxième avantage est le retournement de la logique d’intégration de l’IA, d’une logique d’innovation technologique à une logique de métiers où chacun découvre par lui-même un cas d’usage de l’IA. On est moins dans la recherche d’innovation que dans la réponse à un problème.
Quels sont les risques que vous observez ?
Je pense en premier lieu au risque de sécurité: 1 prompt sur 12 contiendrait des données sensibles. Vient ensuite le problème de qualité: l’IA générative, qui est au coeur des pratiques shadow, entretient par design un rapport probabiliste à la vérité. Par exemple, s’il traite de la Constitution française, on doit considérer que 35% du contenu généré est faux ou approximatif. Un troisième risque est l’acquisition de compétences. Beaucoup de jeunes notamment sollicite l’IA plutôt que leurs collègues plus expérimentés quand ils sont en difficulté. Même si le résultat peut être satisfaisant, peut-on parler d’apprentissage, d’acquisition de compétences, qui nécessite au contraire un cheminement long, difficile et collectif ? Car cela a des incidences sur le collectif de travail. Avant, on “cherchait” sur Internet, désormais on “demande” à l’IA. Ce glissement sémantique n’est pas anodin. Demander à l’IA, ce n’est pas “demander” à un collègue. On dialogue avec un collègue. Avec l’IA, il s’agit davantage d’un “monologue assisté”.
Enfin, un dernier risque est la multiplication des pratiques ayant une balance bénéfice risque des défavorables, au regard en particulier de l’empreinte écologique de l’IA générative. Utiliser l’IA pour rédiger un mail de 3 lignes apporte une valeur minime avec un impact majeur. En multipliant les cas d’usage, les utilisateurs sont tombés dans le biais de l’outil: quand j’ai un marteau dans la main, tout ressemble à un clou. Aujourd’hui, on utilise l’IA pour tout et n’importe quoi.
Comment les organisations peuvent elles s’emparer de l’IA ?
Pendant des années, l’IA s’introduisait par les cas d’usage. On réalisait notamment une expérimentation, appelée “preuve de concept”. La porte d’entrée était technique et souvent pilotée la direction des systèmes d’information (DSI). Sous l’effet entre autres du shadow IA, de nombreuses organisations déplacent partiellement ou totalement la transformation vers les RH, en estimant que cette transformation est celle de métiers, du management, de l’organisation humaine avant d’être technologique. Le nouveau plan “Osez l’IA” de la ministre de l’IA incarne assez bien cette mutation puisqu’il est autant question d’innovation que de formation.
Comment conjuguer sécurité et shadow IA ?
Le premier niveau de sécurisation consiste à responsabiliser chacun en formant et en initiant aux risques RGPD et Réglement IA (RIA). L’idée est de diffuser les gestes professionnels qui sécurisent les usages. Le deuxième niveau est, à partir d’une cartographie des usages, de co-construire une charte de bonnes pratiques. Cette charte n’est pas le résultat d’une réunion du Comex. Elle est élaboré à partir des usages et avec les usagers. Elle n’est pas figée mais gouvernée par un collectif en charge de l’actualiser. Elle est aussi animée par les managers au sein de leurs équipes pour faire d’un document générique à l’organisation un outil pratique pour les métiers.
Comment voyez vous l’évolution de l’IA dans les organisations d’ici à 3 ans ?
Je pense qu’elle sera banalisée et j’espère qu’elle sera responsabilisée. Banalisée car l’IA sera dans la totalité des applications numériques, sans en être forcément le cœur. Elle intégrera des nouvelles applications utiles que nous utiliserons sans penser que c’est de l’IA, un peu comme Waze. J’espère qu’elle sera responsabilisée non seulement dans les usages mais également dans les applications. Les usages seraient réduits à un indice de valeur réelle par rapport à son coût et les applications intégreraient l’IA suivant ce même indice d’utilité sur la finalité et de frugalité par design. J’espère que les organisations limiteront les gros modèles aux tâches pour lesquels ils sont nécessaires, les petits pour les autres et surtout pas d’IA si ce n’est pas indispensable.
