444.hu · Abraham Lincoln repülőgép-hordozó ·
Rapport de renseignement erroné dû à l'utilisation de l'IA dans l'armée américaine
Au printemps, l'armée américaine a planifié la saisie d'un navire chinois sur la base d'un rapport généré par intelligence artificielle. Le rapport identifia incorrectement le chargement du navire comme un composant d'arme nucléaire.
Au printemps, pendant la guerre contre l'Iran, l'armée américaine a examiné un rapport de renseignement reçu. Le document prétendait qu'un navire chinois transportait des pièces nécessaires à un programme d'armes nucléaires au Moyen-Orient. Sur cette base, ils ont planifié la saisie du navire.
Selon le reportage de CNN, c'est seulement avant l'opération que le document a été vérifié plus en détail. Il s'est alors avéré qu'un analyste avait utilisé une intelligence artificielle pour déterminer le chargement, et que le chatbot l'avait identifié à tort comme le contenu du navire. Le système mélangeait des données de renseignement open source avec des informations secrètes, puis affirmait que le navire transportait des pièces nucléaires.
L'affaire met en lumière les risques liés à l'utilisation de l'IA pour sélectionner des cibles militaires. Les analystes mentionnés dans la source ont exprimé leurs inquiétudes quant aux conclusions erronées produites par l'IA, surtout lorsqu'elle repose sur des données faibles ou falsifiées.
L'armée américaine et le renseignement utilisent de plus en plus l'IA dans divers domaines, mais il n'existe actuellement aucun cadre réglementaire unifié pour vérifier les informations générées. La technologie permet une prise de décision rapide, tout en augmentant la probabilité d'erreurs.
En parallèle à l'expansion de l'utilisation de l'intelligence artificielle, des experts avertissent que l'IA peut éviter le contrôle humain, ce qui pourrait entraîner de graves conséquences.