Un rapport de renseignement généré par IA a failli déclencher une guerre avec la Chine

L'épisode s'est déroulé ce printemps, en pleine guerre contre l'Iran. Un rapport de renseignement diffusé dans les rangs de l'armée américaine affirmait qu'un navire chinois présent au Moyen-Orient transportait des composants liés à un programme d'armement nucléaire. Selon quatre sources citées par CNN, l'armée a immédiatement préparé une opération d'interception : des militaires armés s'apprêtaient à monter à bord du navire, et des avions militaires étaient déjà en vol.

Un rapport IA jugé « entièrement faux »

C'est seulement peu avant le lancement de l'opération que des responsables américains ont examiné le rapport de plus près. Il avait été rédigé par un analyste du Commandement des opérations spéciales à l'aide d'un agent conversationnel, qui avait mal identifié la nature du chargement du navire. CNN n'a pas pu déterminer ce que transportait réellement le bâtiment chinois. « Le rapport était entièrement faux », a déclaré une source à CNN, ajoutant qu'il avait « presque déclenché une guerre » : toute opération américaine contre un navire chinois aurait pu faire basculer les deux pays vers une confrontation armée.

L'analyste avait interrogé le système sur des données de renseignement provenant du Commandement des opérations spéciales du Pacifique, basé à Hawaï. L'outil a combiné du renseignement en source ouverte avec des données classifiées pour aboutir à une conclusion erronée, avant qu'un second usage de l'IA ne transforme ces éléments en un rapport formel, du type de document que les militaires ont l'habitude de considérer comme fiable.

Une adoption rapide, des garde-fous inégaux

Le Pentagone cherche à intégrer l'intelligence artificielle dans la quasi-totalité de ses fonctions, de l'analyse des volumes massifs de renseignement au choix des cibles de frappe, en passant par la gestion budgétaire et logistique. Le secrétaire à la Défense Pete Hegseth a présenté en janvier une stratégie d'accélération de l'IA militaire, promettant de « lever les barrières bureaucratiques » pour que les forces américaines gardent une avance technologique sur la Chine.

Plusieurs responsables cités par CNN décrivent toutefois un déploiement décentralisé : chaque service utilise des outils différents, selon des règles et des standards de sécurité variables, sans norme unique pour vérifier la fiabilité des informations produites. Un ancien haut responsable a résumé la situation en estimant que les outils internes sont « pour la plupart des copies d'outils commerciaux à peine maquillées ». Une source a précisé que ce type d'erreur, ou « hallucination », n'était pas un cas isolé depuis que ces systèmes se sont répandus dans le renseignement.