telex.hu · Külföld ·
Fast wurde ein chinesisches Schiff von den Amerikanern verhaftet, weil ein KI-generierter falscher Nachrichtendienstbericht vorlag
Das US-Militär hatte aufgrund eines fehlerhaften Berichts, der von einer künstlichen Intelligenz erstellt worden war, einen Versuch unternommen, ein nahöstliches chinesisches Schiff zu verhaften. Der Irrtum verhinderte die Durchführung einer militärischen Aktion und zeigte die Risiken des KI-Einsatzes im Militär auf.
Im Frühling erhielt das US-Militär einen Nachrichtendienstbericht, der besagte, dass ein nahöstliches chinesisches Schiff Teile für ein nukleares Waffensystem transportierte. Auf Basis dieses Berichts wurden Soldaten und Flugzeuge zur Verhaftung des Schiffs vorbereitet.
Später stellte sich heraus, dass der Bericht von einem KI-Chatbot erstellt worden war. Der Analyst hatte im Chatbot nach Daten zum Frachtschlüssel des Schiffes gefragt, doch das System identifizierte die transportierten Materialien fälschlicherweise. Der gesamte Bericht war falsch, und aufgrund fehlender korrekter Informationen hätte eine militärische Aktion leicht eskalieren können.
Der Vorfall verdeutlicht, dass das US-Militär und die Nachrichtendienstgemeinschaft KI immer weiter einsetzen. Die Technologie wird in den Bereichen Nachrichtendienst, Zielauswahl, Logistik und Budgetierung genutzt, jedoch gibt es keine einheitlichen Regeln zur Kontrolle von KI-generierten Informationen. Solche Fehler können die menschliche Kontrolle gefährden und zivile Opfer verursachen.
Der Fall des chinesischen Schiffes war nicht isoliert: mehrere Beamte befürchten, dass der Druck auf schnellere Analysen und Berichterstattungen das Risiko von Fehlern erhöht. KI ermöglicht es dem Menschen, schneller zu einer falschen Idee zu gelangen.