telex.hu · Külföld ·
Un rapport de renseignement erroné généré par l'IA a failli entraîner la détention d'un navire chinois par les Américains
L’armée américaine s’est préparée à intercepter un navire chinois du Moyen-Orient sur la base d’un rapport erroné produit par une intelligence artificielle. L’erreur a empêché le déclenchement d’une action militaire et souligné les risques liés à l’utilisation de l’IA dans les forces armées.
Au printemps, l’armée américaine a reçu un rapport de renseignement indiquant qu’un navire chinois du Moyen-Orient transportait des pièces destinées à un programme d’armes nucléaires. Selon ce rapport, des soldats et des avions étaient prêts à intercepter le navire.
Plus tard, il s’est avéré que le rapport avait été généré par un chatbot IA. L’analyste a interrogé le chatbot sur la liste de chargement du navire, mais le système a identifié à tort les marchandises transportées. Le rapport complet était faux et l’absence d’informations correctes aurait pu faire escalader rapidement une action militaire en conflit armé.
L’incident met en lumière que l’armée américaine et la communauté des renseignements utilisent de plus en plus l’IA. La technologie est employée dans le renseignement, la sélection des cibles, la logistique et le budget, mais il n’existe pas de règle uniforme pour vérifier les informations produites par l’IA. De telles erreurs peuvent compromettre le contrôle humain et entraîner des victimes civiles.
Le cas du navire chinois n’était pas isolé : plusieurs officiers craignent que la pression d’une analyse plus rapide et d’un reporting accéléré augmente le risque d’erreurs. L’IA permet à l’humain de parvenir plus rapidement à une mauvaise idée.