Ein Geheimdienstbericht sorgte im US-Militär für höchste Alarmbereitschaft. Darin hieß es, ein chinesisches Schiff im Nahen Osten transportiere Komponenten für ein Atomwaffenprogramm. Die Information verbreitete sich im Frühjahr mitten im Krieg zwischen den USA und dem Iran.
Das Militär reagierte nach Angaben von vier mit dem Vorfall vertrauten Quellen sofort. Es seien Pläne vorbereitet worden, das Schiff abzufangen. Bewaffnete US-Soldaten hätten sich demnach auf ein mögliches Entern vorbereitet, Militärflugzeuge seien bereits in der Luft gewesen. Erst kurz vor dem geplanten Einsatz wurde der Bericht noch einmal genauer geprüft.
Dabei zeigte sich der folgenschwere Fehler: Die Analyse war mithilfe künstlicher Intelligenz erstellt worden. Ein Chatbot hatte die Ladung des chinesischen Schiffes falsch identifiziert. Eine Quelle beschrieb den Bericht als "völlig falsch". Noch brisanter: Die Analyse hätte "beinahe einen Krieg ausgelöst", berichtet CNN.
Nach den Angaben soll ein Analyst des US Special Operations Command Pacific einen Chatbot zu einem Geheimdienstbericht über die Frachtliste des Schiffes befragt haben. Das System kombinierte öffentlich zugängliche Informationen mit geheimen Aufklärungsdaten – und kam zu einem falschen Schluss.
Anschließend wurde erneut KI eingesetzt, um die Ergebnisse in einen standardisierten Geheimdienstbericht zu bringen. Genau das machte den Vorgang besonders heikel: Solche Formate gelten im Militär als vertrauenswürdig.
Der Fall wirft ein Schlaglicht auf den raschen KI-Ausbau innerhalb der US-Streitkräfte. US-Verteidigungsminister Pete Hegseth hatte im Jänner eine Strategie zur Beschleunigung des KI-Einsatzes vorgestellt. Ziel sei es, Experimente zu erleichtern und bürokratische Hürden abzubauen.
Besonders sensibel ist der Einsatz bei der Zielerfassung. Eine mit den Richtlinien vertraute Quelle sagte laut CNN: "Der Einsatz von KI bei der Zielerfassung nimmt definitiv zu, und es gibt keine wirklichen Richtlinien dafür, wie die Einbeziehung eines Menschen zivile Opfer oder Eigenbeschuss verhindern kann."
Ein weiterer Satz bringt die Gefahr des Vorfalls auf den Punkt: "KI ermöglicht es einem, schneller auf eine schlechte Idee zu kommen."
