Ein KI-System hat einen schwerwiegenden Fehler erzeugt, der das US-Militär fast in einen Konflikt mit China verwickelte. Der Algorithmus interpretierte falsch eine Ladung an Bord eines chinesischen Schiffs als Atomwaffenkomponenten für das iranische Programm – eine Fehlannahme, die militärische Vorbereitungen auslöste.
Bewaffnete US-Soldaten standen bereits bereit für eine Enterung, Militärflugzeuge starteten in der Luft. Nur wenige Minuten vor dem Angriff entdeckten Sicherheitsbeauftragte den Fehler: Die „Atomwaffenkomponenten“ waren lediglich eine Halluzination des Chatbots. Der Fall zeigt die dramatische Gefahr, die sich aus der übermäßigen Integration von KI in militärische Entscheidungsprozesse ergibt. Feinabgestimmte Systeme können binnen Minuten falsche Informationen in operative Abläufe umwandeln – und erst durch eine letzte menschliche Kontrolle wurde die Operation abgebrochen.
Die Ereignisse unterstreichen, wie rasch technische Fehler zu schwerwiegenden Konflikten führen können. Im Spannungsfeld zwischen iranischen und chinesischen Interessen war das US-Militär nur einen Schritt von einer militärischen Aktion entfernt, die nie hätten stattfinden sollen. Ein KI-System allein konnte die Situation auslösen – eine Warnung für zukünftige Entscheidungsprozesse im Militär.
