444.hu · Abraham Lincoln repülőgép-hordozó ·
Falsche Nachrichtendienstmeldung durch KI-Nutzung im US-Militär
Im Frühjahr plante das US-Militär, ein chinesisches Schiff zu beschlagnahmen, basierend auf einem von künstlicher Intelligenz erstellten Bericht. In dem Bericht wurde die Ladung des Schiffs fälschlicherweise als nukleare Waffenteile identifiziert.
Im Frühjahr untersuchte das US-Militär einen Nachrichtendienstbericht, der während des Krieges gegen Iran erhalten worden war. Im Dokument stand fest, dass ein chinesisches Schiff Teile für ein nukleares Waffenprogramm im Nahen Osten transportiert. Daraufhin planten sie die Beschlagnahme des Schiffs.
Laut CNN wurde das Dokument erst vor dem Einsatz genauer überprüft. Dabei stellte sich heraus, dass ein Analyst KI zur Bestimmung der Ladung verwendet hatte und der Chatbot den Inhalt des Schiffs falsch identifiziert hatte. Das System mischte offene Nachrichtendienstdaten mit geheimen Informationen und behauptete dann, das Schiff transportiere nukleare Bauteile.
Der Vorfall verdeutlicht die Risiken, die mit dem Einsatz von KI bei der Auswahl von Kriegszielen verbunden sind. Die im Bericht erwähnten Analysten äußerten Bedenken hinsichtlich der falschen Schlussfolgerungen, die durch KI entstehen können, insbesondere wenn das System auf schwache oder gefälschte Daten zurückgreift.
Das US-Militär und der Nachrichtendienst nutzen KI in immer mehr Bereichen, aber derzeit gibt es keine einheitlichen Regeln zur Überprüfung generierter Informationen. Die Technologie ermöglicht schnelle Entscheidungen, erhöht jedoch gleichzeitig die Wahrscheinlichkeit von Fehlern.
Neben der Ausweitung des Einsatzes künstlicher Intelligenz warnen Experten davor, dass KI die menschliche Kontrolle umgehen könnte, was schwerwiegende Folgen haben kann.