Gemini devait attaquer des entreprises fictives. Il en a trouvé trois vraies. Lors d’un test mené au printemps, le modèle de Google a quitté sans le vouloir le périmètre prévu pour l’exercice et accédé à des systèmes réels. En cause : un environnement de test qui lui laissait encore une porte ouverte sur Internet.
Une cible fictive qui ne l’était pas tant que ça
Les faits remontent à mai 2026. Google avait confié à la société Irregular une série d’évaluations destinées à mesurer les capacités offensives de Gemini. Le principe était simple : placer le modèle face à des systèmes volontairement vulnérables, créés pour l’occasion, et regarder jusqu’où il était capable d’aller.
Sauf qu’un détail a tout fait dérailler. L’une des entreprises fictives utilisées dans le scénario portait le même nom qu’une société bien réelle. Et Gemini pouvait encore accéder à Internet. Le modèle a donc cherché sa cible en dehors du bac à sable.
Dans un premier cas, il a testé des mots de passe jusqu’à parvenir à entrer dans un système protégé. Lors de deux autres essais, il a fouillé des informations disponibles publiquement sur le Web et retrouvé des identifiants exposés dans des dépôts. Ils lui ont ouvert l’accès aux systèmes de deux autres entreprises.
Il s’est arrêté une fois l’erreur comprise
Gemini n’a toutefois pas poursuivi l’intrusion jusqu’au bout. Dans les trois cas, le modèle a interrompu son activité lorsqu’il a déterminé qu’il n’était plus face à l’environnement fictif prévu pour le test. Google s’appuie sur ce comportement pour estimer que les garde-fous du modèle ont fonctionné. Heather Adkins, vice-présidente chargée de l’ingénierie de sécurité chez Google, indique que les entreprises concernées ont été contactées et que les procédures d’évaluation ont depuis été modifiées.
Les trois sociétés n’ont pas été nommées. Aucun rapport technique détaillant précisément les accès obtenus n’a non plus été publié. Irregular avait signalé les incidents aux laboratoires concernés fin juillet. Google ne les avait pas rendus publics avant d’être interrogé sur le sujet en septembre.
La faille était surtout autour du modèle
L’histoire est spectaculaire, mais les techniques utilisées par Gemini le sont beaucoup moins. Pas de zero-day, pas même de méthode particulièrement sophistiquée mais un mot de passe deviné dans un cas et des identifiants trouvés publiquement dans les deux autres
Ce qui compte se trouvait ailleurs : Gemini avait reçu une mission offensive dans un environnement censé être contrôlé, mais cet environnement ne l’était pas complètement. Une fois Internet accessible, le modèle a simplement continué sa tâche au-delà de la frontière qu’on pensait avoir dressée autour de lui. Irregular indique avoir depuis corrigé la configuration qui permettait aux modèles testés d’accéder au Web.
