Was Ethiker:innen und die Vereinten Nationen seit Jahren befürchten, ist offenbar bereits Realität: Vollautonome Drohnen ohne „Human in the Loop“ haben auf dem Schlachtfeld Menschen getötet. Das berichtet das Wissenschaftsmagazin New Scientist unter Berufung auf Alexander Kokhanovskyy, eine führende Figur der ukrainischen Verteidigungsindustrie, der die Technologie für den Test geliefert hat.

Zehn Drohnen im „Terminator-Modus“

Der einmalige Test soll bereits vor rund zwei Jahren stattgefunden haben – im Raum Bachmut und Tschassiw Jar, im Zuge einer ukrainischen Gegenoffensive. Zehn KI-gesteuerte Quadcopter wurden demnach so programmiert, dass sie selbstständig drei bis fünf Kilometer in Richtung Frontlinie flogen und dort in einen Angriffsmodus wechselten, in dem ein KI-Modell eigenständig Ziele sucht und angreift. Eine Verbindung zu den Drohnen bestand währenddessen nicht – kein Videofeed, keine Eingriffsmöglichkeit, keine Abbruchoption.

Weil es keinerlei Aufzeichnungen der autonomen Angriffe gab, mussten anschließend bemannte, also von Pilot:innen gesteuerte Drohnen das Gebiet überfliegen, um die Ergebnisse zu überprüfen. Das Resultat laut Kokhanovskyy: mehrere getötete russische Soldaten und ein zerstörter Lkw. „Wir haben es ausprobiert“, sagte er dem New Scientist – breiter eingesetzt worden sei das System aber nie.

Ukraine verbietet KI in der finalen Angriffsphase

Bemerkenswert: Die Ukraine selbst verbietet derzeit den Einsatz von KI in der letzten Phase der Zielbekämpfung. KI-Unterstützung bei Zielerfassung, Navigation und Tracking ist auf den Schlachtfeldern längst Standard – die finale Entscheidung über Leben und Tod muss aber bei einem Menschen liegen. Laut Kokhanovskyy verhandelt die Regierung in Kyjiw allerdings bereits mit Verteidigungsunternehmen darüber, ob diese Regeln gelockert werden sollen. Das ukrainische Verteidigungsministerium ließ Anfragen des New Scientist zu dem Test unbeantwortet.

Ein hochrangiger Offizier des 21. Regiments für unbemannte Systeme betonte gegenüber dem Magazin, seine Einheit setze zwar teilautonome Systeme ein, die Ziele automatisch erfassen und in den letzten Metern selbstständig ansteuern können – vollautonome Systeme ohne Operator-Beteiligung kämen aber nicht zum Einsatz. Die Ukraine halte sich an das humanitäre Völkerrecht.

UNO fordert Verbot, Industrie drängt auf Lockerung

Ein internationales Verbot tödlicher autonomer Waffensysteme existiert bislang nicht, auch wenn UN-Generalsekretär António Guterres ein solches wiederholt gefordert hat. Die Bedenken: Autonome Systeme könnten gegen humanitäres Völkerrecht verstoßen, eigene Truppen angreifen oder Zivilist:innen treffen – ohne dass jemand die Verantwortung trägt. Die Oxford-Ethikerin Mariarosaria Taddeo bezeichnete das Töten durch KI gegenüber dem New Scientist als zutiefst verwerflich, weil es den getöteten Soldaten die Würde und den Angreifern die Verantwortung nehme.

Bereits 2021 hatte ein UN-Bericht nahegelegt, dass eine türkische Kargu-2-Drohne in Libyen möglicherweise autonom Menschen angegriffen haben könnte – Opfer wurden damals aber nie bestätigt. Auch Berichte aus dem Jahr 2023 über ukrainische KI-Drohnen, die ohne menschliche Hilfe Ziele attackierten, bezogen sich auf Fahrzeuge wie Panzer, nicht auf Infanterie.

Kokhanovskyy selbst ist mittlerweile CEO des Drohnenherstellers Aero Center, der an autonomen Abfangdrohnen gegen russische Shahed-Kamikazedrohnen arbeitet. Das System ALITA soll ab Oktober mit 64 Drohnen auf 16 Startrampen einsatzbereit sein und Ziele mit bis zu 450 km/h abfangen – die finale Freigabe muss nach geltenden ukrainischen Regeln aber weiterhin ein Mensch erteilen. Kokhanovskyy würde das gerne ändern.

Aus Datenschutz-Gründen ist dieser Inhalt ausgeblendet. Die Einbettung von externen Inhalten kann in den Datenschutz-Einstellungen aktiviert werden: