Ein Bericht des Wissenschaftsmagazins New Scientist sorgt weltweit für Aufsehen: Erstmals sollen vollautonome Drohnen auf dem Schlachtfeld Menschen getötet haben – ohne dass ein Mensch die Ziele auswählte oder den Angriff freigab.
Der Test sei bereits vor zwei Jahren nahe Bachmut und Tschassiw Jar durchgeführt worden. Dabei seien zehn Quadcopter-Drohnen gestartet worden. Nach ihrem Anflug auf das Zielgebiet schalteten sie den "Terminator"-Modus ein und suchten selbstständig nach Zielen, um diese anzugreifen.
"Wir starten sie einfach, und wir wissen, dass alles, was sich in diesem bestimmten Gebiet befindet, tot sein wird", schildert Alexander Kokhanovskyy, CEO des ukrainischen Drohnenentwicklers AeroCenter. "Es gibt überhaupt keine Verbindung zur Drohne, man kann das Video nicht sehen, gar nichts … Alles, was sie sieht, wird getötet."
Nach dem nur zehnminütigen Test wurden jedoch von menschlichen Piloten gesteuerte Drohnen in das Gebiet geschickt, um die Folgen zu überprüfen. Laut dem Unternehmenschef fanden sie mehrere getötete Soldaten sowie einen zerstörten Lastwagen. Daraus sei geschlossen worden, dass die autonomen Drohnen die Ziele vernichtet hatten.
Bislang galt der Mensch bei tödlichen Waffensystemen als letzte Entscheidungsinstanz. Zwar setzen Streitkräfte weltweit bereits künstliche Intelligenz zur Zielerkennung oder Navigation ein, die finale Entscheidung über einen Angriff bleibt aber normalerweise bei einem Bediener.
Kokhanovskyys Firma arbeitet derzeit an Drohnenschwärmen, die einfliegende russische Angriffsdrohnen abfangen sollen – völlig selbstständig. Die Ukraine verbietet nach Angaben von Branchenvertretern derzeit jedoch noch vollautonome Angriffe. Das "Terminator"-Projekt sei deshalb nach dem Test nicht weiterverfolgt worden.
Derzeit darf KI zwar viele Aufgaben übernehmen, die letzte Freigabe muss jedoch durch einen Menschen erfolgen, beklagt der Entwickler. "Jeder einzelne Schritt dieses Vorgangs kann entweder manuell oder automatisch erfolgen. Die letzte Phase dürfen wir jedoch nicht automatisch durchführen", sagt Kokhanovskyy. Er würde diese Regeln "liebend gerne" lockern.
International sorgt das Thema seit Jahren für heftige Debatten. UNO-Generalsekretär António Guterres fordert ein Verbot tödlicher autonomer Waffensysteme. Kritiker warnen vor Fehlentscheidungen, Angriffen auf Zivilisten und einer gefährlichen Verlagerung von Verantwortung auf Maschinen.
Militärexperten weisen zudem darauf hin, dass autonome Systeme bisher kaum eingesetzt werden. Trotz Millionen verwendeter Drohnen im Ukraine-Krieg seien vollständig selbstständig agierende Kampfdrohnen bislang die Ausnahme geblieben.
