KI-Halluzination löste beinahe US-Militärschlag gegen chinesisches Schiff aus

KI-Halluzination löste beinahe US-Militärschlag gegen chinesisches Schiff aus

Im Frühjahr 2026, während des Krieges mit Iran, kursierte im US-Militär ein Geheimdienstbericht, der behauptete, ein chinesisches Schiff im Nahen Osten transportiere Komponenten eines Nuklearwaffenprogramms. Der Bericht löste nach Angaben mehrerer mit dem Vorfall vertrauter Quellen sofort Alarm aus. Das US-Militär leitete Planungen ein, das Schiff abzufangen. Bewaffnete Kräfte bereiteten sich auf eine Enterung vor, Militärflugzeuge waren bereits in der Luft.

Erst kurz vor der geplanten Operation entdeckten Beamte, dass der Bericht mit Hilfe von Künstlicher Intelligenz erstellt worden war. Ein vom Analysten genutzter Chatbot hatte die Fracht des Schiffes falsch identifiziert – eine sogenannte Halluzination. Zu dem Fehler kam es, weil der Chatbot offene und geheime Datenquellen zusammenführte und dabei die Frachtinformationen fehlinterpretierte. Die internen KI-Systeme des Militärs sind nach Angaben eines ehemaligen US-Beamten hauptsächlich Kopien kommerzieller Produkte „mit Lippenstift“; sie fusionieren routinemäßig Open-Source-Informationen mit klassifizierter Fernmeldeaufklärung und erzeugen so eine trügerische Genauigkeit. Einheitliche Standards zur Überprüfung KI-generierter Informationen zwischen Militär und Nachrichtendiensten fehlen bislang. Besonders jüngere Analysten neigen dazu, den KI-Tools unkritisch zu vertrauen, weil sie mit digitalen Werkzeugen aufgewachsen sind und deren Fehleranfälligkeit weniger hinterfragen als erfahrene Kollegen.

Die Operation wurde abgebrochen. Eine Quelle bezeichnete den Bericht als „entirely false“ und sagte, er hätte „almost started a war“. Jede US-Operation gegen ein chinesisches Schiff hätte als feindlicher Akt gegen die Volksrepublik China gewertet werden können und das Risiko einer militärischen Eskalation zwischen den beiden Atommächten in sich getragen. Der Vorfall wurde erstmals am 18. September 2026 öffentlich bekannt. Zuvor war über den Beinahe-Militärschlag nichts berichtet worden.

Fehler eines Analysten-Chatbots wurde kurz vor der Enterung entdeckt

Der Bericht wurde von einem Analysten des U.S. Special Operations Command Pacific mit Sitz in Hawaii erstellt. Der Analyst hatte einen Chatbot genutzt, um offene und geheime Daten zusammenzuführen. Dabei identifizierte das System die Fracht des Schiffes falsch. Anschließend nutzte der Analyst die KI erneut, um das Ergebnis im standardisierten Format eines Geheimdienstberichts zu verfassen, dem die Militärbehörden vertrauen, und verbreitete es.

Eine Quelle bezeichnete den Bericht als „entirely false“ und sagte, er hätte „almost started a war“. CNN konnte nicht in Erfahrung bringen, was das Schiff tatsächlich geladen hatte. Der Vorfall verdeutlicht die Risiken, wenn KI-Systeme in sicherheitskritische Abläufe eingebunden werden, ohne dass ausreichende Prüfmechanismen existieren: Fehlerhafte KI-Berichte können ungeprüft in operative Entscheidungen einfließen und militärische Aktionen auslösen, bevor eine menschliche Überprüfung stattfindet.

Das Pentagon beschleunigt die Einführung von KI, um Entscheidungen auf dem Gefechtsfeld schneller zu treffen und die sogenannte Kill Chain zu verkürzen. Hintergrund ist der geopolitische Wettbewerb mit China: Die US-Streitkräfte wollen bei der Verarbeitung großer Datenmengen und der Zielauswahl einen Geschwindigkeitsvorsprung bewahren, um im Konfliktfall schneller handeln zu können als der Gegner. Ein ehemaliger US-Beamter sagte, die internen Systeme seien hauptsächlich Kopien kommerzieller Produkte „mit Lippenstift“. Besonders jüngere Analysten neigten dazu, den KI-Tools unkritisch zu vertrauen, weil sie mit digitalen Werkzeugen aufgewachsen sind und deren Fehleranfälligkeit weniger hinterfragen als erfahrene Kollegen.