Dans son dernier AI Threat Tracker, publié le 16 novembre, le Google Threat Intelligence Group décrit une chaîne d’exploitation pilotée par l’IA, de bout en bout, sans aucune intervention humaine. Des sites français figuraient parmi les cibles. Plus largement, le rapport montre, sans surprise, des agents qui s’installent dans tout le cycle d’attaque, de l’intrusion à la désinformation.
Du correctif à l’attaque, sans personne aux commandes
Le scénario redouté depuis deux ans est désormais documenté. Les équipes du GTIG et de Mandiant sont tombées sur un outil qui comparait en continu le code de logiciels web populaires avant et après chaque correctif. Il en déduisait les vulnérabilités, rédigeait des exploits puis les lançait. Personne ne validait les étapes. Selon les données de télémétrie retrouvées sur la machine, l’opérateur visait en priorité des sites français des médias, du divertissement et de l’éducation.
Le détail le plus parlant tient en une ligne de commentaire laissée dans un fichier de configuration. L’opérateur s’y rappelait à lui-même de saisir ses clés d’API “ici, pas dans le chat”. Pour John Hultquist, analyste en chef du GTIG, ce cas déplace le débat. “Au départ, une grande partie des discussions autour de l’utilisation des LLM par les acteurs malveillants portait sur la découverte de failles inédites”, rappelle-t-il. Mais finalement les attaquants misent sur la vitesse et le volume, et n’ont pas besoin de zero-day pour y parvenir.
Ce cas n’est pas isolé. Le GTIG a vu des cybercriminels et des acteurs présumés d’espionnage utiliser des outils open source de test d’intrusion reposant sur des agents, comme CAIRN, PentAGI ou CyberStrikeAI, pour automatiser certaines phases d’intrusions réelles. Ces outils ont toutefois un défaut de taille : ils sacrifient la discrétion à la rapidité. Ils génèrent du bruit et laissent des traces, autant de prises pour la détection. L’effet de mode a aussi ses dommages collatéraux. Après chaque divulgation importante, des centaines de preuves de concept générées par IA, souvent inopérantes, inondent la toile et obligent les défenseurs à trier.
Espionnage, faux recruteurs et IA détournée
Dans d’autres conclusions durapport, des groupes liés à la Chine utilisent des LLM pour transformer des données volées en produits de renseignement vendus à leurs clients. Certains se servent même de l’infrastructure de plateformes d’IA pour héberger des fichiers et exfiltrer des documents. Côté nord-coréen, un groupe a ciblé des entreprises de cryptomonnaies en Amérique du Nord et en Europe avec de faux profils de recruteurs, dont les photos portaient des filigranes qui trahissaient leur origine synthétique. Une fois à l’intérieur, les attaquants ont modifié la configuration d’un assistant de code IA dans des dépôts internes pour installer une porte dérobée au démarrage de l’outil. L’outil censé faire gagner du temps aux développeurs devient alors un point d’entrée.
L’IA devient aussi une ressource à voler. Le rapport décrit des incidents de “LLMJacking” : des criminels détournent les identifiants cloud et les quotas d’IA d’une entreprise, puis consomment ou revendent ces accès via des services souterrains surnommés “LLM Mixers”. Dans certains cas, la facture frauduleuse a dépassé 100 000 dollars en une journée, et le million au total avant remédiation.
Google indique avoir désactivé les comptes concernés et intégré ces enseignements à ses modèles et à ses classifieurs. Reste la question posée par John Hultquist, qui concerne toutes les équipes de sécurité : “Dans un avenir proche, les entreprises vont subir une pression considérable pour accélérer leurs cycles de déploiement des correctifs de sécurité et pourraient même devoir faire des choix difficiles pour suivre le rythme. » Quand une machine peut passer du correctif à l’exploit en quelques heures, le délai de patch devient un indicateur de risque à part entière.








