Es wäre beinahe zur Katastrophe gekommen: Das US-Militär bereitete sich auf die Enterung eines chinesischen Frachters vor, der angeblich Atomwaffenkomponenten transportierte. Spezialeinheiten machten sich bereit, Militärflugzeuge nahmen Kurs.
Erst kurz vor dem Angriffsbefehl flog der Schwindel auf: Der Geheimdienstbericht war völlig falsch. Ein Analyst hatte ihn mithilfe eines Chatbots erstellt, der die Ladung des Schiffes komplett falsch identifiziert hatte.
Wie t3n unter Berufung auf den US-Sender CNN und vier anonyme Quellen meldet, hätte der fehlerhafte Bericht "beinahe einen Krieg ausgelöst". Die Operation konnte gerade noch in letzter Minute abgewendet werden.
Der Vorfall unterstreicht die Risiken beim Einsatz von künstlicher Intelligenz im militärischen Bereich. Der Chatbot hatte öffentlich zugängliche Informationen mit geheimen Daten vermischt und dabei völlig falsche Schlüsse gezogen.
Die KI-Systeme beim Militär seien größtenteils nur "Kopien der kommerziellen Produkte, die etwas aufgepeppt wurden", so ein ehemaliger hochrangiger US-Beamter gegenüber CNN.
Laut Insidern hat KI den Druck auf Analysten erhöht, Erkenntnisse schneller zu liefern. Das begünstige Fehler. Vor allem jüngere Analysten würden den Tools zu unkritisch vertrauen.
"KI ermöglicht es, schneller auf eine schlechte Idee zu kommen", bringt es eine der Quellen auf den Punkt. Trotzdem drängt US-Verteidigungsminister Pete Hegseth darauf, KI noch stärker ins Militär zu integrieren.
