Presseorgan der Päpstlichen Missionswerke seit 1927
Von Luca Mainoldi
Rom (Fides) – Anlässlich der Veröffentlichung der Enzyklika von Papst Leo XIV. über Künstliche Intelligenz (KI) am 25. Mai ist auch die Frage des Einsatzes von KI im militärischen Bereich ein wichtiges Thema.
KI verspricht, alle Bereiche des menschlichen Lebens grundlegend zu verändern, und der militärische Sektor gehört zu den ersten, die davon profitieren. Die andauernden Kriege, insbesondere der Ukraine-Krieg (Beginn 2022) und der Krieg im Nahen Osten (Beginn 2023), dienen als Testfeld für innovative Waffensysteme und militärische Taktiken. Dazu gehören Robotersysteme wie Drohnen aller Art und verschiedene Formen von KI. Von der Logistik bis zur Aufklärung, von der Planung militärischer Operationen bis zu deren Führung und Kontrolle, von der Zielerkennung bis zur Steuerung autonomer Waffensysteme – es gibt keinen Bereich, in dem künstliche Intelligenz nicht im militärischen und strategischen Feld eingesetzt wird.
Zu den Systemen, die ernsthafte ethische Bedenken aufwerfen, gehören jene zur Identifizierung menschlicher Ziele, die auf der Grundlage von Formen der automatischen Profilerstellung ausgewählt werden.
„Wir töten Menschen anhand von Metadaten“, gab der US-amerikanische General Michael Hayden, ehemaliger Chef der National Security Agency (NSA, 1999–2005) und der Central Intelligence Agency (CIA, 2006–2009), im Jahr 2014 (aus technologischer Sicht) offen zu. Metadaten beziehen sich nicht auf den Inhalt von E-Mails oder Telefonaten, sondern auf Daten, die mit der Nachricht zusammenhängen, wie Datum, Uhrzeit und Ort von Absender und Empfänger. Die strukturierte Nutzung von Metadaten ermöglicht die Erstellung von Beziehungsdiagrammen potenzieller Ziele und damit das sogenannte Umfeldprofiling: Tagesabläufe, potenzielle Schwachstellen, familiäre, freundschaftliche und berufliche Beziehungen. Dieses Modell wird durch den Einsatz von KI-Tools wie dem Lavender-System und dem Hasbara-System („Gospel“), das von der israelischen Armee im Gazastreifen verwendet wird, sowie einem weiteren System namens „Where's my Daddy?“ verstärkt. Das erste System ermöglicht die Verfolgung der Bewegungen Tausender Menschen und die Identifizierung potenzieller Hamas-Mitglieder durch die Analyse von Telefonkontakten, Social-Media-Beiträgen, WhatsApp-Chats und ähnlichen Nachrichten, Gesichtserkennung und mehr. Basierend auf den von Lavender verarbeiteten Berichten erstellt das zweite Programm, Hasbara, automatisch eine Tötungsliste, die anschließend an „Where's my Daddy?“ weitergeleitet wird. Letzteres System alarmiert durch die Verfolgung von Handybewegungen, sobald eine Zielperson ihr Telefon (das aus Sicherheitsgründen ausgeschaltet war) wieder einschaltet, üblicherweise bei der Rückkehr nach Hause. Tragischerweise wurden im Gaza-Krieg Tausende unschuldige Menschen getötet, weil sie sich neben oder in der Nähe von durch KI-Systeme identifizierten Zielpersonen aufhielten. Ursprünglich für den Einsatz unter strenger menschlicher Aufsicht konzipiert, wurden diese Systeme eingesetzt, ohne die generierten Informationen sorgfältig zu überprüfen.
Im Krieg Israels und der USA gegen den Iran kamen KI-Tools des 2003 gegründeten US-amerikanischen Unternehmens Palantir zum Einsatz, das den Markt für KI-Tools im militärischen und sicherheitspolitischen Bereich dominiert (darunter nutzt auch der britische National Health Service die Systeme zur Analyse von Patientendaten). Insbesondere das Maven-System spielte eine zentrale Rolle in den Kriegseinsätzen, indem es Daten von Satelliten, Drohnen, Radar, elektronischen Signalen und anderen Quellen integrierte, um ein gemeinsames Lagebild des Schlachtfelds zu erstellen. Dies beschleunigte die Zielidentifizierung (die sogenannte Eliminierungskette) erheblich und ermöglichte es beispielsweise einer einzelnen Person, innerhalb weniger Wochen zu erledigen, wofür zuvor ganze Analystenteams Monate benötigten. Das System integriert offenbar Modelle wie Claude von Anthropic und wurde sowohl von US-amerikanischen als auch von israelischen Streitkräften eingesetzt.
Die Verbreitung solcher Werkzeuge wirft nicht nur dramatische ethische Fragen auf, sondern führt auch zum allmählichen Verschwinden des mittleren Managements (z. B. der für die Analyse von Rohdaten zuständigen Beamten), das durch KI ersetzt wird. Dies wiederum wirft das Problem auf (bekannt aus dem zivilen Sektor, etwa dem mittleren Management in Unternehmen oder öffentlichen Einrichtungen), zukünftige Führungskräfte auszuwählen und auszubilden, da die Ausbildung von unten nach oben („Lehrling“) durch den Einsatz von KI zunehmend eingeschränkt wird. Dadurch besteht die Gefahr, dass KI zur alleinigen Informationsquelle für tödliche Entscheidungen wird – bis zu dem Tag, an dem die KI selbst die Kontrolle übernimmt.
Ein Risiko, das sich bereits bei autonomen Waffensystemen zeigt, die ohne Rücksprache mit einem menschlichen Vorgesetzten die Entscheidung zum Töten treffen können.
Die Entscheidung zur Entwicklung und zum Einsatz solcher Waffensysteme ist politisch. Westliche Mächte haben bisher erklärt, keine tödlichen, autonomen Systeme einführen zu wollen, die nicht von Menschen gesteuert werden. Die Positionen anderer Mächte sind differenzierter. Laut einem UN-Bericht führte eine mit künstlicher Intelligenz (KI) ausgestattete türkische Drohne im Jahr 2020 in Libyen den ersten dokumentierten Tötungsfall durch eine vollständig autonome Maschine ohne menschliche Kontrolle durch. Darüber hinaus sind die Aussagen von US-Luftwaffenoberst Tucker Hamilton auf einer KI-Konferenz im Jahr 2023 weiterhin umstritten. Er gab an, dass in einem simulierten Experiment die Drohne, die mit der Zerstörung eines feindlichen Radars beauftragt war, nach dem Befehl zum Abbruch des Angriffs ihr eigenes Kommandozentrum angriff, um die Mission fortzusetzen. Die Aussagen des US-Obersts wurden inzwischen relativiert, das von ihm beschriebene Szenario gilt jedoch weiterhin als glaubwürdig.
(Fides 21/5/2026)
