Die Militarisierung Künstlicher Intelligenz sorgt weiter für Unmut. Über 200 Menschenrechtsorganisationen und Einzelpersonen fordern den sofortigen Stopp von KI-Systemen in militärischen Tötungsketten. Zu den Initiatoren und Unterzeichnern der Erklärung gehören Amnesty International und Access Now. Mit dem Bündnis warnen sie vor einer Zukunft, in der Algorithmen über Leben und Tod auf dem Schlachtfeld entscheiden. Parallel würden Tech-Konzerne immense Profite einfahren und Staaten die Verantwortung von sich weisen.

Wie real die Bedrohung ist, belegt ein Bericht des New Scientist. Demnach kam es auf dem ukrainischen Schlachtfeld zu einem Wendepunkt: Bei einem einmaligen Fronttest nahe Bachmut und Tschassiw Jar sollen zehn vollautonome, KI-gesteuerte Killer-Drohnen eines ukrainischen Herstellers feindliche Soldaten getötet haben – ohne jegliche menschliche Überwachung. Im „Terminator-Modus“ haben die Quadrocopter demzufolge die Verbindung nach außen gekappt und selbstständig alles menschliche Leben in einem vordefinierten Areal vernichtet.

Laut dem Magazin handelt es sich um den bislang konkretesten Nachweis dafür, dass Menschen im Gefecht allein durch die Entscheidung einer KI starben. Eigentlich verbietet die ukrainische Regierung den autonomen Waffeneinsatz in der finalen Angriffsphase. Doch Rüstungsunternehmer drängen auf eine Lockerung der Regeln, um autonome Abfangsysteme großflächig einsetzen zu können.

Massenabfertigung auf dem digitalen Schlachtfeld

Dem Appell der Zivilgesellschaft zufolge zeigt die Realität etwa auch in Gaza, im Libanon und Iran, dass automatisierte Systeme zur großflächigen Überwachung und Zielgenerierung längst im Einsatz sind. Nach Ansicht der Kritiker untergräbt diese Praxis die Prinzipien des Völkerrechts. Anstatt für Präzision zu sorgen, verkämen KI-Systeme im militärischen Alltag zu Werkzeugen der Massenabfertigung, die tödliche Gewalt in einer nie dagewesenen Geschwindigkeit legitimierten. Algorithmen dienten oft nur noch als bürokratischer Stempel, um menschliche Prüfinstanzen zu umgehen und Angriffe im Minutentakt zu autorisieren.

Besonders die Rolle von Big Tech steht im Fadenkreuz der Gegner. Größen wie Google, Microsoft, Palantir und OpenAI agierten zunehmend als Rüstungslieferanten. In der Öffentlichkeit inszenierten diese Unternehmen sich gerne als Wohltäter. Doch hinter verschlossenen Türen machten sie Milliarden mit Militäraufträgen. Diese Entwicklung löst teils auch intern Empörung aus.

Die Organisationen verlangen daher: Wenn Unternehmen nicht garantieren können, dass ihre Technologie im Einklang mit den UN-Leitprinzipien für Wirtschaft und Menschenrechte steht, darf sie für kriegerische Zwecke nicht bereitgestellt werden.

Rutsch in Dystopie

Problematisch sind laut der Stellungnahme auch Intransparenz und fehlende Regulierung. Viele KI-Entwickler entzögen sich Kontrollmechanismen mit der Rechtfertigung, ihre Systeme seien zu komplex, um wie traditionelle militärische Hardware getestet zu werden. Die Verfasser halten das für eine Schutzbehauptung. KI-Waffen müssten denselben strengen Zulassungsstandards unterliegen wie konventionelle Technik. Sie sollten so konstruiert sein, dass sie Risiken für Zivilisten minimieren. Sei dies aufgrund der unvorhersehbaren Natur von Algorithmen unmöglich, dürfe die Technologie nicht entwickelt oder eingesetzt werden.

Der Appell sei ein dringender Weckruf an die Weltgemeinschaft, betont Access Now. Das Zeitfenster für entschlossenes Handeln schließe sich rasch. Sollte es nicht gelingen, die Expansion dieser digitalen Methoden der Kriegführung zu stoppen, drohe ein Absturz in eine dystopische Zukunft. In einer solchen Welt hätte der Schutz menschlichen Lebens gegenüber der kalten Logik automatisierter Tötungsentscheidungen das Nachsehen.

(nie)