Les avions étaient déjà en vol. Des militaires américains se préparaient à monter à bord d’un navire chinois soupçonné de transporter des composants liés à un programme nucléaire. Puis quelqu’un a repris le rapport à l’origine de l’alerte. L’information était fausse. Elle avait été produite avec l’aide d’un chatbot d’IA.
Un manifeste mal interprété
L’incident s’est produit au printemps, pendant la guerre avec l’Iran. Un navire chinois traversait alors le Moyen-Orient lorsque son chargement a attiré l’attention du renseignement américain. Un analyste du commandement des opérations spéciales a utilisé un chatbot pour croiser des informations ouvertes avec des données de renseignement classifiées. Le système a mal identifié ce que transportait le navire.
L’erreur n’est pas restée enfermée dans une fenêtre de conversation. L’analyste a ensuite utilisé l’IA pour mettre ses conclusions en forme dans un rapport de renseignement. Le document a circulé dans la chaîne de commandement avec une conclusion lourde de conséquences : le bâtiment chinois était susceptible de transporter des composants liés à un programme d’armes nucléaires.
Selon les informations de CNN, reprises par TechCrunch, l’armée américaine a alors commencé à préparer une opération d’interception. Des militaires armés se tenaient prêts à monter à bord tandis que des avions avaient déjà décollé.
L’erreur découverte au dernier moment
Des responsables ont alors repris le rapport et les éléments qui l’avaient alimenté. Ils ont constaté que le chatbot avait mal interprété la cargaison du navire. L’opération a été annulée. Une source citée par CNN affirme que cet épisode a « presque déclenché une guerre ». La formule vient donc d’un interlocuteur de la chaîne américaine, pas d’une conclusion officielle. Aucun affrontement n’a finalement eu lieu.
Le chatbot utilisé n’a pas été identifié publiquement. On ignore aussi jusqu’où l’analyste avait vérifié les réponses du modèle avant de transformer son travail en rapport destiné à circuler dans la chaîne militaire. Le Pentagone n’a pas fourni de compte rendu public détaillé de l’incident.
Une erreur déjà devenue du renseignement
Ce qui frappe dans cette séquence n’est pas seulement qu’un chatbot se soit trompé. L’erreur avait déjà changé de forme. Une réponse générée par une IA avait été reprise dans un document de renseignement, diffusée dans la chaîne de commandement puis utilisée pour préparer une opération réelle. Lorsque l’information a finalement été contrôlée plus en profondeur, les avions étaient déjà dans les airs.
L’incident intervient alors que l’armée américaine cherche à accélérer l’utilisation de l’IA dans ses processus de décision et ses opérations. TechCrunch souligne que cette course à la vitesse pose une question très concrète : plus une analyse produite par une IA circule rapidement, moins il reste de temps pour repérer une erreur avant qu’elle ne produise des effets bien réels.
