Ishmael Bhila: Erste Berichte deuten darauf hin, dass das KI-System Maven Smart System an der Zielgenerierung beteiligt war – dasselbe System, das innerhalb der ersten 24 Stunden des Krieges gegen Iran über tausend Zielkoordinaten erzeugte. Solche Empfehlungsalgorithmen geben Entscheidungsträger*innen ein übersteigertes Selbstvertrauen, und die Illusion ihrer Genauigkeit führt dann zu solch schwerwiegenden Fehlern.

Gäbe es ein Verbot oder wenigstens eine Regulierung automatisierter Waffensysteme oder generell künstlicher Intelligenz im Krieg, hätte der Angriff möglicherweise nie stattgefunden.

Laut der Definition des Roten Kreuzes gilt eine Waffe als autonomes Waffensystem, wenn sie Ziele ohne menschliche Einwirkung auswählt und Gewalt auf sie anwendet. Die Entscheidung, Leben zu nehmen, wird dabei an Maschinen delegiert, ohne dass eine wirkliche menschliche Kontrolle stattfindet.

Bei einer ferngesteuerten Drohne verfolgt ein Mensch das Ziel auf einem Bildschirm, manchmal über Stunden oder Tage. Man sieht, wie jemand mit seiner Familie lebt, wo er schläft, wohin er geht. Die Forschung spricht von einer »moralischen Verletzung« – einer psychischen Wunde beim Bediener, wenn er sich mit der Moral seiner Handlungen bei einem Drohnenangriff auseinandersetzen muss. Das mag zynisch klingen, aber es stellt eine Form menschlicher Zurückhaltung dar.

Theoretisch ja. Die Entwickler autonomer militärischer Systeme sprechen von einem »human in the loop«, einer Person, die die Entscheidung bestätigt. Häufig gibt es aber bloß einen »human in the loop«: Jemand überwacht das System zwar, greift aber nur dann ein, wenn etwas schiefzulaufen scheint. Hinzu kommt der »automation bias«: Gibt die Technologie eine Empfehlung ab, neigen Menschen dazu, diese zu akzeptieren – weil sie Computern vertrauen. Wenn das System behauptet, eine bestimmte Person sei ein Terrorist – wer will da dem Algorithmus widersprechen? Dazu kommt der operative Druck: Wenn ein System innerhalb von Sekunden tausend potenzielle Ziele identifiziert, bleibt keine Zeit für eine Überprüfung.

Ja. Das System Lavender, das Israels Militär in Gaza einsetzt, vergibt Punkte an potenzielle Ziele. Es berechnet, wie viele zivile Todesopfer beim Angriff auf eine bestimmte Person als akzeptabel gelten. Bei einem rangniedrigen Kämpfer lag dieser Wert in den ersten Kriegswochen bei bis zu zehn oder fünfzehn; bei hochrangigen Kommandeuren überschritt er die Marke von hundert. Diese Logik stuft Menschen als entbehrlich ein, spricht ihnen das Recht auf Leben ab.  Das ist nicht abstrakt, das geschieht gerade.

Untersuchungen legen das Gegenteil nahe. Kriege werden durch diese Systeme stark beschleunigt – Ziele werden schneller ausgewählt, die Zerstörung schreitet rascher voran. In Gaza markierte Lavender Zehntausende Palästinenser*innen als potenzielle Ziele. Ein General der US Air Force merkte bereits 2021 an, dass ein KI-gestütztes Zielsystem unter realen Bedingungen eine Trefferquote von lediglich rund 25 Prozent erreichte – obwohl das System selbst seine eigene Zuverlässigkeit auf 90 Prozent schätzte. Die Maschine ist nicht präziser. Sie ist lediglich schneller.

Das ist ein besonders sadistisches Argument. Denn diese Systeme werden nicht nur in Laboren getestet – sie werden an echten Menschen erprobt. In Libyen, Äthiopien, Gaza, Iran. Es herrscht ein sehr westlicher, sehr »positivistisch«-naiver Glaube vor, Technologie sei von Natur aus neutral, objektiv und fortschrittlich – dass sie zwar Fehler mache, diese aber letztlich überwinden werde. Doch diese »Fehler« sind Menschenleben. Und die Modelle sind keineswegs frei von Ideologie.

Die Systeme tragen die Vorurteile jener in sich, die sie entwickelt haben – ein Phänomen, das als »algorithmische Verzerrung« bekannt ist. Die gesellschaftlichen Vorurteile, die wir hegen – Rassismus, Sexismus und dergleichen –, sind in diesen Systemen codiert und werden durch technologische Gewalt reproduziert. Project Maven – das zentrale KI-gestützte Zielerfassungsprogramm des US-Militärs – wurde explizit im Kontext des »Krieges gegen den Terror« entwickelt, wobei der Fokus auf einer ganz bestimmten Gruppe und einem spezifischen Profil von Menschen lag. Alex Karp, der CEO von Palantir, das bei der Entwicklung eine zentrale Rolle spielte, hat öffentlich erklärt, er wolle dem Westen »zu seiner offensichtlichen, ihm innewohnenden Überlegenheit verhelfen«. Genau diese Ideologie ist in den Systemen festgeschrieben.

Seit 2014 gibt es Bemühungen, automatisierte Waffensysteme in die Konvention über bestimmte konventionelle Waffen (CCW) aufzunehmen, einen Waffenkontrollvertrag der Uno, der den Einsatz besonders grausamer Waffen reguliert oder verbietet. Doch es gibt viele Hürden, etwa das Konsensprinzip der CCW: Demnach können Ergebnisse nur erzielt werden, wenn alle Vertragsstaaten zustimmen – jeder Staat besitzt also ein Vetorecht.

Vor allem die USA, Russland, Israel und die Türkei. Offiziell sagen sie, sie wollten der Innovation nicht im Weg stehen und hielten die bestehenden Gesetze für ausreichend. Inoffiziell verfolgen sie aber ökonomische und militärische Interessen. Eine verbindliche Regulierung würde ihren vermeintlichen strategischen Vorteil einschränken. Und Staaten mit imperialen Ambitionen sehen in diesen Waffen ein Mittel, um diese zu verfolgen, ohne das Leben eigener Soldat*innen aufs Spiel zu setzen.

Mehr als hundert Staaten – die meisten davon aus dem Globalen Süden – fordern ein völkerrechtlich verbindliches Instrument. Dazu gehören unter anderem Sierra Leone, Costa Rica, Mexiko und Uruguay. Ihnen haben sich europäische Länder wie Österreich, Irland und die Schweiz angeschlossen. Es gibt bereits einen Entwurf für ein Zusatzprotokoll zur CCW, das autonome Waffensysteme regulieren würde. Und im November stimmten in der Uno-Generalversammlung 156 Staaten für eine Resolution, die zu dringendem Handeln aufruft. Lediglich fünf Staaten stimmten dagegen.

Die Systeme ermöglichen es, die Souveränität eines Staates zu verletzen, ohne dabei Spuren zu hinterlassen, die eine potenzielle Verantwortung nach sich ziehen würden. Und historisch betrachtet, dies ist der Kern der Sache, haben viele dieser Staaten imperiale Gewalt am eigenen Leib erfahren. In diesen Technologien erkennen sie die gleiche Logik wieder – wenn auch in einer neuen Form.

Die nächste Überprüfungskonferenz der CCW ist für November in Genf angesetzt. Die Frage wird sein, ob ein Mandat für tatsächliche Vertragsverhandlungen verabschiedet wird – oder ob es bei unverbindlichen Diskussionen bleibt.

Das erleben wir bereits. Die Logik der Mächtigen setzt sich durch. Und das sind nicht nur die alten imperialen Mächte, sondern auch Länder wie die Türkei, die Vereinigten Arabischen Emirate oder Indien: Staaten, die wissen, dass diese Technologien günstiger sind als konventionelle militärische Machtmittel, und die ihre eigenen Einflusssphären aufbauen. Wenn es keine Regulierung gibt, sinkt die Schwelle zur Kriegsführung. Das Tempo der Zerstörung nimmt zu. Und die Frage, wer ein legitimes Ziel darstellt – wer als Mensch zählt und wer nicht –, wird nicht mehr von einem Menschen beantwortet, sondern von einer Maschine.