Wachsende Bedenken hinsichtlich des Einsatzes von KI auf dem Schlachtfeld

Dennoch sind die jüngsten Kriege Israels ein Paradebeispiel dafür, wie in den USA entwickelte kommerzielle KI-Modelle in aktiven Kriegshandlungen eingesetzt werden, obwohl es Bedenken gab, dass sie nicht grundsätzlich dafür entwickelt wurden, bei Entscheidungen über Leben und Tod zu helfen.

Amerikanische Technologiegiganten haben Israel mithilfe künstlicher Intelligenz (KI) und Computerdiensten dabei geholfen, weitere Militante in Gaza und im Libanon aufzuspüren und zu töten. Allerdings ist auch die Zahl der getöteten Zivilisten gestiegen und es besteht die Befürchtung, dass diese Waffen zum Tod unschuldiger Menschen beitragen könnten.

Seit Jahren beauftragen verschiedene Militärs private Unternehmen mit der Herstellung neuer Waffen. Dennoch sind die jüngsten Kriege Israels ein Paradebeispiel dafür, wie in den USA entwickelte kommerzielle KI-Modelle in aktiven Kriegshandlungen eingesetzt werden, obwohl es Bedenken gab, dass sie nicht grundsätzlich dafür entwickelt wurden, bei Entscheidungen über Leben und Tod zu helfen.

Das israelische Militär nutzt künstliche Intelligenz (KI), um Informationen zu sammeln, Kommunikation abzufangen und verdächtiges Verhalten oder die Äußerungen von Feinden zu überwachen. Nach dem Überraschungsangriff von Hamas-Kämpfern am 7. Oktober 2023 hat die Nutzung von Microsoft- und OpenAI-Technologie exponentiell zugenommen, wie eine Untersuchung der Associated Press (AP) zeigt. Die Untersuchung brachte auch neue Details darüber ans Licht, wie künstliche Intelligenzsysteme Ziele auswählten. Die Untersuchung basiert auf internen Dokumenten und exklusiven Interviews mit aktuellen und ehemaligen israelischen Beamten und Mitarbeitern des Unternehmens.

„Dies ist die erste Bestätigung, die wir bezüglich des Einsatzes von KI-Modellen in Kriegsgebieten erhalten haben“, sagte Heidy Khlaaf, KI-Wissenschaftlerin am AI Now Institute und ehemalige leitende Sicherheitsingenieurin bei OpenAI. „Die Auswirkungen auf die Rolle der Technologie bei der Ermöglichung dieser Art illegaler und unethischer Kriegsführung in der Zukunft sind enorm“, fügte er hinzu.

Der Aufstieg der künstlichen Intelligenz

Während US-Technologiegiganten unter Präsident Donald Trump in wichtige Positionen aufsteigen, werfen die AP-Erkenntnisse Fragen über die Rolle des Silicon Valleys in der zukünftigen Kriegsführung auf. Es wird erwartet, dass Microsoft seine Partnerschaft mit dem israelischen Militär ausbaut, und was mit Israel geschieht, könnte mitbestimmend für die Nutzung dieser neuen Technologien im Rest der Welt sein.

Die Nutzung der künstlichen Intelligenz von Microsoft und OpenAI durch das israelische Militär hat im März letzten Jahres deutlich zugenommen. In der Woche vor dem Angriff vom 200. Oktober wurde sie fast 7 Mal häufiger eingesetzt als in der Woche davor, wie AP nach der Analyse interner Unternehmensinformationen herausfand. Die Menge der auf Microsoft-Servern gespeicherten Daten verdoppelte sich zwischen diesem Zeitraum und Juli 2024 und erreichte mehr als 13.6 Petabyte – etwa 350-mal mehr als der digitale Speicherplatz, der zum Speichern aller Bücher in der Library of Congress benötigt wird. Auch die Nutzung großer Microsoft-Computerserver durch das israelische Militär nahm während der ersten beiden Kriegsmonate um fast zwei Drittel zu.

Nach dem Anschlag vom 7. Oktober, bei dem 1,200 Menschen getötet und über 250 Geiseln genommen wurden, bestand Israels Ziel darin, die Hamas zu vernichten. Das israelische Militär bezeichnete künstliche Intelligenz als „entscheidenden Faktor“, der Ziele mit erstaunlicher Geschwindigkeit identifiziere. Seit Beginn des Krieges sind in Gaza und im Libanon über 50,000 Menschen gestorben und etwa 70 Prozent der Gebäude in Gaza wurden zerstört, wie aus Berichten der Gesundheitsministerien in Gaza und Libanon hervorgeht.

Die Untersuchung von AP basierte auf Interviews mit sechs aktiven und ehemaligen Mitgliedern des israelischen Militärs, darunter drei Geheimdienstoffizieren. Die meisten sprachen unter der Bedingung der Anonymität, da sie nicht befugt waren, über sensible Militäroperationen zu sprechen.

Die AP interviewte außerdem 14 aktuelle und ehemalige interne Mitarbeiter von Microsoft, OpenAI, Google und Amazon, von denen die meisten aus Angst vor Vergeltungsmaßnahmen ebenfalls unter der Bedingung der Anonymität sprachen. Die Reporter prüften interne Unterlagen und Dokumente des Unternehmens, darunter eines, in dem die Bedingungen eines 133-Millionen-Dollar-Vertrags zwischen Microsoft und dem israelischen Verteidigungsministerium dargelegt wurden.

Das israelische Militär erklärt, dass seine Analysten künstliche Intelligenzsysteme zur Identifizierung von Zielen einsetzen, diese aber unabhängig mit ranghohen Militäroffizieren besprechen, um zu bestätigen, dass ein potenzieller Angriff auf diese Ziele dem Völkerrecht entspricht. Dabei werden militärische Vorteile gegen Schäden oder Konsequenzen abgewogen. 

Ein hochrangiger israelischer Geheimdienstmitarbeiter, der befugt ist, mit AP zu sprechen, sagte, zu den militärischen Zielen könnten auch gegen Israel kämpfende Militante gehören, wo auch immer sich diese aufhalten, sogar in zivilen Gebäuden. Offizielle Stellen betonen, dass selbst wenn künstliche Intelligenz eine Rolle spielt, immer mehrere Menschen in den Prozess involviert sind.

„Diese KI-Tools machen den Geheimdienstprozess präziser und effektiver“, teilte das israelische Militär der AP mit. „Sie erfassen Ziele schneller, aber nicht auf Kosten der Genauigkeit, und im Laufe dieses Krieges konnten sie die Zahl ziviler Opfer oft auf ein Minimum beschränken.“

Das israelische Militär weigerte sich, detaillierte schriftliche Fragen der AP zum Einsatz kommerzieller KI-Produkte amerikanischer Technologieunternehmen zu beantworten.

Microsoft wollte zu diesem Artikel keinen Kommentar abgeben und antwortete auch nicht auf eine detaillierte Liste schriftlicher Fragen zu den Cloud- und KI-Diensten, die das Unternehmen für das israelische Militär bereitstellt. In einer Erklärung auf seiner Website erklärte das Unternehmen, dass es sich verpflichtet fühle, „die positive Rolle der Technologie weltweit zu unterstützen“. In seinem 40-seitigen Bericht für 2024 versprach Microsoft, die KI-Risiken während der Entwicklung zu managen, „um potenziellen Schaden zu reduzieren“, erwähnte jedoch seine lukrativen Militärverträge mit keinem Wort.

Die fortschrittlichen KI-Modelle werden Dokumenten und Daten zufolge über OpenAI, den Entwickler von ChatGPT, und über die Azure-Plattform von Microsoft angeboten, wo sie vom israelischen Militär gekauft werden.

Microsoft war der größte Investor von OpenAI. OpenAI erklärte, dass das Unternehmen keine Partnerschaft mit dem israelischen Militär unterhalte und dass in seinen Nutzungsrichtlinien stehe, dass Kunden die Produkte nicht zur Entwicklung von Waffen, zur Zerstörung von Eigentum oder zur Schädigung von Menschen verwenden dürften. 

Vor etwa einem Jahr änderte OpenAI jedoch seine Nutzungsbedingungen. Die militärische Nutzung war zuvor nicht mehr verboten, stattdessen war die Nutzung in „Fällen der nationalen Sicherheit, die mit unserer Mission vereinbar sind“, erlaubt.

Die menschlichen Kosten der KI

Es ist sehr schwer zu verstehen, wann künstliche Intelligenzsysteme Fehler machen, da sie in Kombination mit vielen anderen Formen der Intelligenz, einschließlich der menschlichen Intelligenz, verwendet werden.

Im November 2023 floh Hoda Hijazi mit ihren drei kleinen Töchtern und ihrer Mutter vor den Kämpfen zwischen Israel und dem Hamas-Verbündeten Hisbollah an der libanesischen Grenze, als ihr Auto bombardiert wurde.

Vor ihrer Abreise forderten die Erwachsenen die Mädchen auf, vor dem Haus zu spielen, damit die israelischen Drohnen wüssten, dass sie mit Kindern unterwegs waren. Die Frauen und Mädchen reisten neben Hijaz‘ Onkel Samir Ayoub, einem Journalisten eines Radiosenders, der in seinem Auto unterwegs war. Sie hörten ganz dicht über ihnen das Geräusch einer Drohne.

ebenfalls DIE WELT 21. Juni 2025 Israel bereitet sich auf einen langen Krieg gegen den Iran vor

Kurz darauf wurde das Auto, das Hijazi fuhr, bei einem Luftangriff getroffen. Es rollte einen Hügel hinunter und ging in Flammen auf. Ayoub gelang es, Hijaz herauszuholen, doch ihre Mutter – Ayoubs Schwester – und ihre drei Töchter – Rimas, 14, Taline, 12, und Liane, 10 – verloren ihr Leben.

Bevor sie das Haus verließen, bestand eines der Mädchen darauf, Fotos von den Katzen im Garten zu machen, erinnert sich Hijazi, „weil wir sie vielleicht nie wiedersehen würden“.

Am Ende sagte sie: „Die Katzen haben überlebt, aber die Mädchen gibt es nicht mehr.“

Kurz vor dem Angriff waren auf Aufnahmen einer Überwachungskamera eines nahegelegenen Ladens die Familie Hijazi in einem Hyundai-SUV zu sehen, während die Mutter und eine Tochter Eimer mit Wasser einluden. Die Familie erklärte, das Video beweise, dass israelische Drohnen die Frauen und Kinder hätten sehen müssen.

Am Tag nach dem Angriff veröffentlichte das israelische Militär ein Video des Angriffs sowie mehrere Fotos. In einer den Bildern beigefügten Erklärung hieß es, israelische Kampfflugzeuge hätten „über 450 Ziele der Hamas getroffen“. Eine Bildanalyse von AP verglich die Straße und andere geografische Merkmale im Video der israelischen Armee mit Satellitenbildern des Ortes, an dem die drei Mädchen starben, 1.7 Kilometer vom Laden entfernt.

Ein israelischer Geheimdienstmitarbeiter erklärte gegenüber AP, dass in den vergangenen drei Jahren bei der Identifizierung sämtlicher Ziele KI eingesetzt worden sei. In diesem Fall hat die KI vermutlich einen Wohnsitz identifiziert und bei der Erfassung weiterer Daten kann sich dort nur eine Person niedergelassen haben. 
„Aufgrund früherer Fehlinformationen könnte es dazu gekommen sein, dass die falsche Wohnung markiert wurde oder dass das falsche Fahrzeug erfasst wurde“, fügte er hinzu.

Die AP erhielt außerdem eine Nachricht von einer zweiten Quelle mit Kenntnis des Luftangriffs. Diese bestätigte, dass es sich um einen Fehler handelte, gab jedoch keine weiteren Einzelheiten bekannt.

Ein Sprecher des israelischen Militärs bestritt den Einsatz von KI-Systemen während des Luftangriffs selbst, weigerte sich jedoch, die Frage zu beantworten, ob KI bei der Auswahl des Ziels geholfen habe oder ob dies falsch gewesen sei.

Das israelische Militär teilte der AP mit, dass seine Beamten den Vorfall geprüft und „sein Bedauern über den Vorfall“ ausgedrückt hätten.

Wie es funktioniert?

Microsoft und OpenAI gehören zu den großen Technologieunternehmen, die Israel in den Kriegen der letzten Jahre unterstützt haben.

Google und Amazon stellen dem israelischen Militär im Rahmen des „Project Nimbus“ Cloud-Computing- und KI-Dienste zur Verfügung. Dabei handelt es sich um einen 1.2-Milliarden-Dollar-Vertrag aus dem Jahr 2021, als Israel erstmals seine inländischen KI-gestützten Zielsysteme testete. Das Militär hat auch Rechenzentren von Cisco und Dell genutzt. Red Hat, eine unabhängige Tochtergesellschaft des Technologiekonzerns IBM, hat das israelische Militär ebenfalls mit Cloud-Computing-Technologie versorgt, und Palantir Technologies, ein in mehreren US-Verteidigungsverträgen aufgeführter Microsoft-Partner, unterhält eine „strategische Partnerschaft“ mit dem Unternehmen, das KI-Systeme zur Unterstützung der israelischen Militärbemühungen bereitstellt.

Das US-Unternehmen Google hat erklärt, es setze sich für eine verantwortungsvolle Entwicklung und Nutzung künstlicher Intelligenz ein. Laut Google zielt die sorgfältige und systematische Entwicklung von KI darauf ab, „Menschen zu schützen, das globale Wachstum zu fördern und die nationale Sicherheit zu unterstützen“. Dell gab in einer Erklärung bekannt, dass sich das Unternehmen bei der Zusammenarbeit mit öffentlichen und privaten Organisationen weltweit, darunter auch in Israel, den höchsten Standards verpflichtet fühle. Red Hat-Sprecherin Allison Showalter sagte, das Unternehmen sei stolz auf seine weltweiten Kunden, die die Anforderungen von Red Hat zur Einhaltung relevanter Gesetze und Vorschriften respektierten.

Palantir, Cisco und Oracle antworteten nicht auf Anfragen um einen Kommentar. Amazon lehnte einen Kommentar ab.

Das israelische Militär nutzt Microsoft Azure, um durch Massenüberwachung Informationen zu sammeln, die es transkribiert und übersetzt. Dabei handelt es sich um Telefongespräche, Textnachrichten und Audionachrichten, so ein israelischer Geheimdienstoffizier, der mit diesen Systemen arbeitet. Diese Daten können dann mit den internen Zielsystemen Israels abgeglichen werden und umgekehrt.

Er sagte, er verlasse sich auf Azure, um schnell nach Begriffen und Mustern in großen Textblöcken zu suchen, beispielsweise um Gespräche zwischen zwei Personen in einem 50-seitigen Dokument zu finden. Azure kann auch Personen finden, die sich gegenseitig Wegbeschreibungen in Textform übermitteln. Diese Informationen können dann von den KI-Systemen des Militärs überprüft werden, um den Standort zu bestimmen.

Aus den von AP überprüften Microsoft-Daten geht hervor, dass das israelische Militär seit dem Angriff vom 7. Oktober intensiv von den Transkriptions- und Übersetzungstools und -modellen von OpenAI Gebrauch gemacht hat. Allerdings wird nicht angegeben, um welche Tools und Modelle es sich dabei handelt. Normalerweise erzielen KI-Modelle, die transkribieren und übersetzen, im Englischen bessere Ergebnisse. OpenAI hat zugegeben, dass sein KI-gestütztes Übersetzungsmodell Whisper, das in mehrere Sprachen, darunter Arabisch, transkribieren und übersetzen kann, Texte erstellen kann, die niemand gesagt hat, und darunter rassistische Kommentare und gewalttätige Rhetorik hinzufügen kann.

ebenfalls Technologie 2 TET 2024 Microsoft warnt vor einer Zunahme der Präsenz von Assistenten mit künstlicher Intelligenz

„Sollten wir diese Entscheidungen auf Dingen basieren, die das Modell erstellen kann?“ sagte Joshua Kroll, Assistenzprofessor im Fachbereich Informatik der Militärakademie in Monterey, Kalifornien, der in persönlicher Eigenschaft mit AP sprach und nicht die Meinung der US-Regierung wiedergab.

Vorbereitet von: Ideal Zhubi