Voix clonées, vidéos truquées, faux contenus viraux… L’essor de l’intelligence artificielle générative ouvre de nouvelles perspectives, mais il offre également aux cybercriminels des outils toujours plus sophistiqués pour mener des escroqueries et manipuler l’information. Face à ces nouveaux risques, l’Union européenne a adopté l’AI Act, le premier cadre réglementaire au monde destiné à encadrer le développement et l’utilisation de l’intelligence artificielle. L’ambition est claire : encourager l’innovation tout en renforçant la sécurité et la confiance des citoyens dans les technologies d’IA.
Une priorité : davantage de transparence
L’une des mesures phares de l’AI Act consiste à renforcer la transparence autour des contenus générés par l’intelligence artificielle. Les utilisateurs devront être informés lorsqu’ils interagissent avec une IA et, dans de nombreux cas, les contenus synthétiques, notamment les deepfakes, devront être clairement identifiés.Le règlement prévoit également de nouvelles obligations pour les fournisseurs de modèles d’IA à usage général, qui devront documenter le fonctionnement de leurs modèles et respecter les exigences européennes en matière de droit d’auteur.
Ces dispositions constituent une avancée importante pour mieux informer les utilisateurs. Elles soulèvent toutefois une question essentielle : comment lutter contre ceux qui n’ont aucune intention de respecter ces nouvelles règles ?
Les cybercriminels ne joueront pas le jeu
Pour Tiberiu Cobzaru, Product Manager chez Bitdefender, l’AI Act représente une étape importante, mais il ne permettra pas, à lui seul, d’empêcher les usages malveillants de l’intelligence artificielle.
« Nous saluons les nouvelles exigences de transparence de l’AI Act européen concernant les contenus générés par l’intelligence artificielle. L’obligation pour les créateurs d’identifier clairement les contenus produits par l’IA constitue une première étape essentielle pour renforcer la confiance dans l’information numérique et favoriser une plus grande transparence des usages légitimes de l’intelligence artificielle.
Dans le même temps, ces nouvelles règles mettent en évidence une limite importante : elles s’appliquent principalement à ceux qui sont déjà disposés à les respecter. Les contenus générés par l’IA qui causent les préjudices les plus graves – notamment les deepfakes utilisés dans des escroqueries, des fraudes ou des usurpations d’identité – sont créés par des cybercriminels qui n’ont évidemment aucune intention de signaler qu’ils utilisent l’IA. Par conséquent, nombre des images, vidéos et enregistrements audio générés par l’IA les plus dangereux continueront de circuler sans aucune indication sur leur origine.
C’est pourquoi les exigences en matière de transparence doivent être complétées par des outils de vérification indépendants permettant aux utilisateurs d’évaluer eux-mêmes l’authenticité d’un contenu numérique, qu’il soit ou non étiqueté par son créateur. Des solutions contribuent déjà à combler cette lacune en permettant aux utilisateurs de vérifier de manière indépendante les contenus suspects générés par l’IA. Par ailleurs, l’adoption de normes reconnues à l’échelle internationale permettrait de garantir une application cohérente des labels liés à l’IA sur l’ensemble des plateformes et des juridictions.
Pour les consommateurs, le principal danger ne vient pas des contenus générés par l’IA qui sont correctement identifiés, mais des contenus malveillants qui échappent volontairement à toute obligation de transparence. Les cybercriminels ne signaleront jamais spontanément que leurs deepfakes ou leurs escroqueries ont été créés à l’aide de l’IA. Qu’il s’agisse d’une voix clonée évoquant une urgence familiale, d’une fausse vidéo d’investissement mettant en scène une célébrité ou encore d’une arnaque sentimentale, les utilisateurs doivent toujours vérifier les contenus suspects avant d’agir. La transparence constitue une première étape essentielle, mais seule une vérification indépendante permettra de combler les failles exploitées par les acteurs malveillants qui choisissent tout simplement d’ignorer les règles. »
Au-delà de la réglementation
L’AI Act constitue une avancée majeure pour encadrer l’intelligence artificielle en Europe. En imposant davantage de transparence et de responsabilités aux acteurs de l’IA, il contribue à instaurer un climat de confiance autour de ces technologies.
Mais la réglementation ne peut agir que sur les acteurs qui choisissent de s’y conformer. Les cybercriminels, eux, continueront à exploiter l’IA pour produire des contenus trompeurs toujours plus convaincants. Dans ce contexte, la vigilance des utilisateurs, le développement d’outils de vérification et la coopération entre les pouvoirs publics et les acteurs de la cybersécurité seront tout aussi déterminants que le cadre réglementaire lui-même. L’AI Act marque ainsi une étape essentielle, mais il ne représente que le début d’un défi plus large : garantir que l’intelligence artificielle demeure une technologie de confiance dans un environnement numérique où il devient chaque jour plus difficile de distinguer le vrai du faux.
