Après la diffusion de contenus sexistes et à caractère sexuel générés par Grok, l’IA de X, le gouvernement français a saisi le procureur de la République, Pharos et l’Arcom. Une réaction qui s’inscrit dans un contexte plus large de durcissement réglementaire autour des IA génératives et des obligations des plateformes au titre du Digital Services Act.
Des contenus générés par IA jugés manifestement illicites
Plusieurs membres du gouvernement, dont Roland Lescure, Anne Le Hénanff et Aurore Bergé, ont signalé aux autorités judiciaires la diffusion de contenus sexistes et sexuels générés par Grok, l’intelligence artificielle intégrée à la plateforme X. Les signalements concernent notamment des deepfakes représentant des personnes sans leur consentement. Le gouvernement a activé l’article 40 du code de procédure pénale afin d’obtenir le retrait rapide de ces contenus et d’enclencher une analyse judiciaire.
Internet et IA : pas de zone d’exception juridique
Dans sa réaction, l’exécutif rappelle un principe clé déjà posé dans plusieurs textes récents. Les violences sexistes et sexuelles commises en ligne relèvent pleinement du droit pénal, y compris lorsqu’elles sont produites ou amplifiées par des systèmes automatisés. Cette prise de position vise aussi à contrer une idée encore répandue dans l’écosystème tech, où le caractère expérimental ou « génératif » d’une IA ne saurait exonérer ni les éditeurs de modèles, ni les plateformes qui les déploient, de leurs responsabilités.
X sous surveillance au titre du Digital Services Act
Au-delà du volet pénal, le gouvernement a saisi l’Arcom pour examiner d’éventuels manquements de X à ses obligations issues du Digital Services Act. Le DSA impose aux grandes plateformes des mesures concrètes de prévention, de détection et d’atténuation des risques systémiques, notamment en matière de diffusion de contenus illicites. L’affaire pourrait ainsi alimenter un débat plus large sur la capacité réelle des plateformes à encadrer des IA génératives intégrées nativement à leurs services.
Cette réaction intervient alors que les autorités européennes multiplient les rappels à l’ordre envers les acteurs du numérique, à la croisée de plusieurs textes structurants : DSA, DMA et futur encadrement des modèles d’IA générative à haut risque. Encore une fois, l’IA générative n’est plus seulement un sujet d’innovation, mais un sujet de conformité, de gouvernance et de responsabilité juridique.
