Αυξανόμενες ανησυχίες σχετικά με τη χρήση της τεχνητής νοημοσύνης στο πεδίο της μάχης

Ωστόσο, οι πρόσφατοι πόλεμοι του Ισραήλ σηματοδοτούν μια σημαντική περίπτωση κατά την οποία εμπορικά μοντέλα τεχνητής νοημοσύνης, που αναπτύχθηκαν στις Ηνωμένες Πολιτείες, έχουν χρησιμοποιηθεί σε ενεργό πόλεμο, παρά τις ανησυχίες ότι δεν αναπτύχθηκαν κατ' αρχήν για να βοηθήσουν στη λήψη αποφάσεων ζωής ή θανάτου.

Αμερικανικοί τεχνολογικοί γίγαντες βοήθησαν το Ισραήλ να εντοπίσει και να σκοτώσει περισσότερους μαχητές στη Γάζα και τον Λίβανο, μέσω τεχνητής νοημοσύνης (AI) και υπηρεσιών υπολογιστών. Αλλά ο αριθμός των αμάχων που σκοτώθηκαν έχει επίσης αυξηθεί, εγείροντας φόβους ότι αυτά τα εργαλεία θα μπορούσαν να συμβάλουν στο θάνατο αθώων ανθρώπων.

Για χρόνια, διάφοροι στρατοί έχουν συνάψει συμβάσεις με ιδιωτικές εταιρείες για την κατασκευή νέων όπλων. Ωστόσο, οι πρόσφατοι πόλεμοι του Ισραήλ σηματοδοτούν μια σημαντική περίπτωση κατά την οποία εμπορικά μοντέλα τεχνητής νοημοσύνης, που αναπτύχθηκαν στις Ηνωμένες Πολιτείες, έχουν χρησιμοποιηθεί σε ενεργό πόλεμο, παρά τις ανησυχίες ότι δεν αναπτύχθηκαν κατ' αρχήν για να βοηθήσουν στη λήψη αποφάσεων ζωής ή θανάτου.

Ο ισραηλινός στρατός χρησιμοποιεί τεχνητή νοημοσύνη (AI) για τη συλλογή πληροφοριών, την παρακολούθηση επικοινωνιών και την παρακολούθηση ύποπτης συμπεριφοράς ή ομιλίας των εχθρών. Μετά την αιφνιδιαστική επίθεση από τους μαχητές της Χαμάς στις 7 Οκτωβρίου 2023, η χρήση της τεχνολογίας Microsoft και OpenAI έχει αυξηθεί εκθετικά, αποκαλύπτει έρευνα του Associated Press (AP). Η έρευνα αποκάλυψε επίσης νέες λεπτομέρειες σχετικά με το πώς τα συστήματα τεχνητής νοημοσύνης επέλεγαν στόχους. Η έρευνα βασίζεται σε εσωτερικά έγγραφα και αποκλειστικές συνεντεύξεις με νυν και πρώην Ισραηλινούς αξιωματούχους και υπαλλήλους της εταιρείας.

"Αυτή είναι η πρώτη επιβεβαίωση που λάβαμε σχετικά με τη χρήση μοντέλων τεχνητής νοημοσύνης σε εμπόλεμες ζώνες", δήλωσε η Heidy Khlaaf, επιστήμονας AI στο Ινστιτούτο AI ​​Now και πρώην ανώτερος μηχανικός ασφαλείας στο OpenAI. «Οι επιπτώσεις είναι τεράστιες για τον ρόλο της τεχνολογίας στην ενεργοποίηση αυτού του τύπου παράνομου και ανήθικου πολέμου στο μέλλον», πρόσθεσε.

Η άνοδος της τεχνητής νοημοσύνης

Καθώς οι τιτάνες της τεχνολογίας των ΗΠΑ ανεβαίνουν σε σημαντικές θέσεις υπό τον Πρόεδρο Ντόναλντ Τραμπ, τα ευρήματα του AP έχουν εγείρει ερωτήματα σχετικά με τον ρόλο της Silicon Valley στο μέλλον του πολέμου. Η Microsoft αναμένεται να αυξήσει τη συνεργασία της με τον ισραηλινό στρατό και αυτό που συμβαίνει με το Ισραήλ θα μπορούσε να βοηθήσει στον καθορισμό της χρήσης αυτών των αναδυόμενων τεχνολογιών για τον υπόλοιπο κόσμο.

Η χρήση της τεχνητής νοημοσύνης Microsoft και OpenAI από τον ισραηλινό στρατό αυξήθηκε σημαντικά τον Μάρτιο του περασμένου έτους, χρησιμοποιώντας σχεδόν 200 φορές περισσότερο από ό,τι πριν από την εβδομάδα πριν από την επίθεση της 7ης Οκτωβρίου, διαπίστωσε το AP μετά από ανάλυση εσωτερικών πληροφοριών της εταιρείας. Ο όγκος των δεδομένων που αποθήκευε στους διακομιστές της Microsoft διπλασιάστηκε μεταξύ εκείνης της περιόδου και του Ιουλίου 2024, φτάνοντας τα 13.6 petabyte — περίπου 350 φορές περισσότερο από τον ψηφιακό χώρο που απαιτείται για την αποθήκευση κάθε βιβλίου στη Βιβλιοθήκη του Κογκρέσου. Η χρήση μεγάλων διακομιστών υπολογιστών Microsoft από τον ισραηλινό στρατό αυξήθηκε επίσης κατά σχεδόν τα δύο τρίτα κατά τους δύο πρώτους μήνες του πολέμου.

Ο στόχος του Ισραήλ μετά την επίθεση της 7ης Οκτωβρίου, που σκότωσε 1,200 ανθρώπους και πήρε 250 ομήρους, ήταν να εξοντώσει τη Χαμάς. Ο ισραηλινός στρατός έχει χαρακτηρίσει την τεχνητή νοημοσύνη «καθοριστικό παράγοντα», ο οποίος εντοπίζει στόχους με εκπληκτική ταχύτητα. Από την έναρξη του πολέμου, πάνω από 50,000 άνθρωποι έχουν χάσει τη ζωή τους στη Γάζα και τον Λίβανο και περίπου το 70 τοις εκατό των κτιρίων της Γάζας έχουν καταστραφεί, σύμφωνα με αναφορές από τα υπουργεία υγείας στη Γάζα και τον Λίβανο, αντίστοιχα.

Η έρευνα του AP βασίστηκε σε συνεντεύξεις με έξι νυν και πρώην μέλη του ισραηλινού στρατού, συμπεριλαμβανομένων τριών αξιωματικών πληροφοριών. Οι περισσότεροι μίλησαν υπό τον όρο της ανωνυμίας επειδή δεν είχαν εξουσιοδότηση να συζητήσουν ευαίσθητες στρατιωτικές επιχειρήσεις.

Το AP πήρε επίσης συνεντεύξεις από 14 νυν και πρώην εσωτερικούς υπαλλήλους της Microsoft, της OpenAI, της Google και της Amazon, οι περισσότεροι από τους οποίους μίλησαν επίσης υπό τον όρο της ανωνυμίας λόγω φόβου για αντίποινα. Οι δημοσιογράφοι εξέτασαν εσωτερικά αρχεία και έγγραφα της εταιρείας, συμπεριλαμβανομένου ενός που περιγράφει τους όρους μιας σύμβασης 133 εκατομμυρίων δολαρίων μεταξύ της Microsoft και του Υπουργείου Άμυνας του Ισραήλ.

Ο ισραηλινός στρατός λέει ότι οι αναλυτές του χρησιμοποιούν συστήματα τεχνητής νοημοσύνης για τον εντοπισμό στόχων, αλλά τα συζητούν ανεξάρτητα με ανώτερους στρατιωτικούς για να επιβεβαιώσουν εάν μια πιθανή επίθεση σε αυτούς τους στόχους ανταποκρίνεται στο διεθνές δίκαιο, σταθμίζοντας το στρατιωτικό πλεονέκτημα έναντι της βλάβης ή των συνεπειών. 

Ανώτερος αξιωματούχος των ισραηλινών πληροφοριών, εξουσιοδοτημένος να μιλήσει στο AP, είπε ότι οι στρατιωτικοί στόχοι θα μπορούσαν να περιλαμβάνουν μαχητές που πολεμούν εναντίον του Ισραήλ, όπου κι αν βρίσκονται, ακόμη και σε πολιτικά κτίρια. Οι αξιωματούχοι επιμένουν ότι, ακόμη και όταν η τεχνητή νοημοσύνη παίζει ρόλο, υπάρχουν πάντα στρώματα ανθρώπων που εμπλέκονται στη διαδικασία.

«Αυτά τα εργαλεία τεχνητής νοημοσύνης κάνουν τη διαδικασία πληροφοριών πιο ακριβή και αποτελεσματική», είπε ο ισραηλινός στρατός στο AP. «Εντοπίζουν στόχους πιο γρήγορα, αλλά όχι σε βάρος της ακρίβειας, και πολλές φορές κατά τη διάρκεια αυτού του πολέμου κατάφεραν να ελαχιστοποιήσουν τις απώλειες αμάχων».

Ο ισραηλινός στρατός αρνήθηκε να απαντήσει σε λεπτομερείς γραπτές ερωτήσεις του AP σχετικά με τη χρήση εμπορικών προϊόντων τεχνητής νοημοσύνης που δημιουργήθηκαν από αμερικανικές εταιρείες τεχνολογίας.

Η Microsoft αρνήθηκε να σχολιάσει αυτή την ιστορία και δεν απάντησε σε μια λεπτομερή λίστα γραπτών ερωτήσεων σχετικά με το cloud και τις υπηρεσίες τεχνητής νοημοσύνης που παρέχει στον ισραηλινό στρατό. Σε μια δήλωση στον ιστότοπό της, η εταιρεία δήλωσε ότι δεσμεύεται «να υποστηρίξει τον θετικό ρόλο της τεχνολογίας σε όλο τον κόσμο». Στην έκθεσή της για το 40, 2024 σελίδων, η Microsoft υποσχέθηκε να διαχειριστεί τους κινδύνους της τεχνητής νοημοσύνης κατά την ανάπτυξη «για να μειώσει την πιθανή βλάβη», αλλά δεν κάνει καμία αναφορά στα επικερδή στρατιωτικά συμβόλαιά της.

Τα προηγμένα μοντέλα AI προσφέρονται μέσω του OpenAI, του δημιουργού του ChatGPT, και μέσω της πλατφόρμας Azure της Microsoft, όπου αγοράζονται από τον ισραηλινό στρατό, σύμφωνα με έγγραφα και δεδομένα.

Η Microsoft υπήρξε ο μεγαλύτερος επενδυτής του OpenAI. Η OpenAI είπε ότι δεν έχει καμία συνεργασία με τον ισραηλινό στρατό και ότι οι πολιτικές χρήσης του ορίζουν ότι οι πελάτες δεν πρέπει να χρησιμοποιούν τα προϊόντα για να αναπτύξουν όπλα, να καταστρέψουν περιουσίες ή να βλάψουν ανθρώπους. 

Ωστόσο, πριν από περίπου ένα χρόνο, το OpenAI άλλαξε τους όρους χρήσης του από απαγόρευση στρατιωτικής χρήσης σε επιτρεπόμενη χρήση για «υποθέσεις εθνικής ασφάλειας που συνάδουν με την αποστολή μας».

Το ανθρώπινο κόστος της τεχνητής νοημοσύνης

Είναι πολύ δύσκολο να καταλάβουμε πότε τα συστήματα τεχνητής νοημοσύνης κάνουν λάθη, γιατί χρησιμοποιούνται σε συνδυασμό με πολλές άλλες μορφές νοημοσύνης, συμπεριλαμβανομένης της ανθρώπινης νοημοσύνης.

Τον Νοέμβριο του 2023, η Hoda Hijazi διέφυγε με τις τρεις μικρές κόρες της και τη μητέρα της από τις μάχες μεταξύ του Ισραήλ και της συμμάχου της Χαμάς, της Χεζμπολάχ, στα σύνορα του Λιβάνου, όταν το αυτοκίνητό τους βομβαρδίστηκε.

Πριν φύγουν, οι ενήλικες είπαν στα κορίτσια να παίξουν μπροστά από το σπίτι για να καταλάβουν τα ισραηλινά drones ότι ταξίδευαν με παιδιά. Οι γυναίκες και τα κορίτσια ταξίδεψαν μαζί με τον θείο του Hijaz, Samir Ayoub, δημοσιογράφο σε ραδιοφωνικό σταθμό, ο οποίος ταξίδευε με το αυτοκίνητό του. Άκουσαν τον ήχο ενός drone πολύ κοντά από πάνω.

επίσης Ο ΚΟΣΜΟΣ 21 Ιουνίου 2025 Το Ισραήλ προετοιμάζεται για μακροχρόνιο πόλεμο εναντίον του Ιράν

Λίγο αργότερα, μια αεροπορική επιδρομή έπληξε το αυτοκίνητο που οδηγούσε ο Χιτζάζι. Κατέβηκε από ένα λόφο και τυλίχτηκε στις φλόγες. Η Ayoub κατάφερε να βγάλει τη Hijaz, αλλά η μητέρα της — η αδερφή του Ayoub — και οι τρεις κόρες — Rimas, 14, Taline, 12, και Liane, 10 — έχασαν τη ζωή τους.

Πριν φύγουν από το σπίτι, ο Χιτζάζι θυμάται ότι ένα από τα κορίτσια επέμενε να βγάλει φωτογραφίες τις γάτες στον κήπο «γιατί μπορεί να μην τις ξαναδούμε ποτέ».

Στο τέλος είπε «οι γάτες επέζησαν και τα κορίτσια δεν υπάρχουν πια».

Πλάνα από κάμερα ασφαλείας σε κοντινό κατάστημα λίγο πριν την επίθεση δείχνει την οικογένεια Hijazi μέσα σε ένα SUV Hyundai, με τη μητέρα και τη μια κόρη να φορτώνουν κουβάδες με νερό. Η οικογένεια είπε ότι το βίντεο αποδεικνύει ότι τα ισραηλινά drones έπρεπε να έχουν δει τις γυναίκες και τα παιδιά.

Την επομένη της επίθεσης, ο ισραηλινός στρατός δημοσίευσε βίντεο από την επίθεση μαζί με αρκετές φωτογραφίες. Σε δήλωση που συνόδευε τις εικόνες ανέφερε ότι ισραηλινά πολεμικά αεροσκάφη «χτύπησαν πάνω από 450 στόχους της Χαμάς». Η οπτική ανάλυση του AP ταίριαξε με τον δρόμο και άλλα γεωγραφικά χαρακτηριστικά στο βίντεο του Ισραηλινού Στρατού με δορυφορικές εικόνες της τοποθεσίας όπου πέθαναν τα τρία κορίτσια, 1.7 χιλιόμετρα από το κατάστημα.

Ένας ισραηλινός αξιωματικός πληροφοριών είπε στο AP ότι η τεχνητή νοημοσύνη έχει χρησιμοποιηθεί για να βοηθήσει στον εντοπισμό όλων των στόχων τα τελευταία τρία χρόνια. Σε αυτήν την περίπτωση, το AI έχει πιθανώς προσδιορίσει μια κατοικία και ότι κατά τη συλλογή άλλων δεδομένων, μόνο ένα άτομο μπορεί να έχει εγκατασταθεί εκεί. 
«Προηγούμενες λανθασμένες πληροφορίες μπορεί να σημάδεψαν λάθος διαμέρισμα ή μπορεί να χτύπησαν λάθος όχημα», πρόσθεσε.

Το AP έλαβε επίσης ένα μήνυμα από μια δεύτερη πηγή με γνώση της αεροπορικής επιδρομής, η οποία επιβεβαίωσε ότι ήταν λάθος, αλλά δεν έδωσε περισσότερες λεπτομέρειες.

Ένας ισραηλινός στρατιωτικός εκπρόσωπος αρνήθηκε ότι χρησιμοποίησε συστήματα τεχνητής νοημοσύνης κατά τη διάρκεια της ίδιας της αεροπορικής επιδρομής, αλλά αρνήθηκε να απαντήσει εάν η τεχνητή νοημοσύνη βοήθησε στην επιλογή του στόχου ή αν ήταν λάθος.

Ο ισραηλινός στρατός είπε στο AP ότι οι αξιωματούχοι του εξέτασαν το περιστατικό και εξέφρασαν «λύπη για το συμβάν».

Πως δουλεύει?

Η Microsoft και η OpenAI είναι από τις μεγαλύτερες εταιρείες τεχνολογίας που έχουν υποστηρίξει το Ισραήλ στους πολέμους των τελευταίων ετών.

Η Google και η Amazon παρέχουν υπηρεσίες υπολογιστικού νέφους και τεχνητής νοημοσύνης στον ισραηλινό στρατό στο πλαίσιο του "Project Nimbus", μιας σύμβασης 1.2 δισεκατομμυρίων δολαρίων που υπογράφηκε το 2021, όταν το Ισραήλ δοκίμασε για πρώτη φορά τα εγχώρια συστήματα στόχευσης με τεχνητή νοημοσύνη. Ο στρατός έχει επίσης χρησιμοποιήσει τα κέντρα δεδομένων Cisco και Dell. Η Red Hat, μια ανεξάρτητη θυγατρική της εταιρείας τεχνολογίας IBM, έχει επίσης προσφέρει τεχνολογία υπολογιστικού νέφους στον ισραηλινό στρατό και η Palantir Technologies, συνεργάτης της Microsoft που περιλαμβάνεται σε πολλά αμυντικά συμβόλαια των ΗΠΑ, έχει μια «στρατηγική συνεργασία» που παρέχει συστήματα AI για να βοηθήσει τις στρατιωτικές προσπάθειες του Ισραήλ.

Η αμερικανική εταιρεία Google έχει δηλώσει ότι έχει δεσμευτεί να αναπτύξει και να χρησιμοποιεί την τεχνητή νοημοσύνη υπεύθυνα. Σύμφωνα με την Google, η προσεκτική και συστηματική ανάπτυξη της τεχνητής νοημοσύνης στοχεύει στην «προστασία των ανθρώπων, την προώθηση της παγκόσμιας ανάπτυξης και την υποστήριξη της εθνικής ασφάλειας». Η Dell εξέδωσε μια δήλωση λέγοντας ότι η εταιρεία δεσμεύεται για τα υψηλότερα πρότυπα στη συνεργασία με δημόσιους και ιδιωτικούς οργανισμούς παγκοσμίως, συμπεριλαμβανομένου του Ισραήλ. Η εκπρόσωπος της Red Hat, Allison Showalter, δήλωσε ότι η εταιρεία είναι περήφανη για τους παγκόσμιους πελάτες της, οι οποίοι σέβονται τις απαιτήσεις της Red Hat για συμμόρφωση με τους σχετικούς νόμους και κανονισμούς.

Η Palantir, η Cisco και η Oracle δεν απάντησαν σε αιτήματα για σχολιασμό. Η Amazon αρνήθηκε να σχολιάσει.

Ο ισραηλινός στρατός χρησιμοποιεί το Microsoft Azure για να συγκεντρώσει πληροφορίες μέσω μαζικής παρακολούθησης, τις οποίες μεταγράφει και μεταφράζει, συμπεριλαμβανομένων τηλεφωνικών κλήσεων, μηνυμάτων κειμένου και ηχητικών μηνυμάτων, σύμφωνα με ισραηλινό αξιωματικό πληροφοριών που εργάζεται με αυτά τα συστήματα. Αυτά τα δεδομένα μπορούν στη συνέχεια να διασταυρωθούν με τα εσωτερικά συστήματα στόχευσης του Ισραήλ και αντίστροφα.

Είπε ότι βασίζεται στο Azure για γρήγορη αναζήτηση όρων και μοτίβων σε μεγάλα κομμάτια κειμένου, όπως η εύρεση συνομιλιών μεταξύ δύο ατόμων σε ένα έγγραφο 50 σελίδων. Το Azure μπορεί επίσης να βρει ανθρώπους που δίνουν οδηγίες ο ένας στον άλλο σε κείμενο, το οποίο στη συνέχεια μπορεί να ελεγχθεί από τα συστήματα τεχνητής νοημοσύνης του στρατού για τον προσδιορισμό τοποθεσιών.

Τα δεδομένα της Microsoft, τα οποία εξέτασε το AP, δείχνουν ότι από την επίθεση της 7ης Οκτωβρίου, ο ισραηλινός στρατός έχει κάνει εντατική χρήση των εργαλείων και μοντέλων μεταγραφής και μετάφρασης του OpenAI, αν και δεν διευκρινίζει ποια. Συνήθως, τα μοντέλα τεχνητής νοημοσύνης που μεταγράφουν και μεταφράζουν αποδίδουν καλύτερα στα αγγλικά. Το OpenAI παραδέχτηκε ότι το μεταφραστικό του μοντέλο με τεχνητή νοημοσύνη, το Whisper, το οποίο μπορεί να μεταγράψει και να μεταφράσει σε πολλές γλώσσες, συμπεριλαμβανομένων των αραβικών, μπορεί να δημιουργήσει κείμενο που κανείς δεν είπε, συμπεριλαμβανομένης της προσθήκης ρατσιστικών σχολίων και βίαιης ρητορικής.

επίσης Tech 2 Οκτωβρίου 2024 Η Microsoft προειδοποιεί για αύξηση της παρουσίας βοηθών με τεχνητή νοημοσύνη

«Θα πρέπει να βασίσουμε αυτές τις αποφάσεις σε πράγματα που μπορεί να δημιουργήσει το μοντέλο;» είπε ο Joshua Kroll, επίκουρος καθηγητής στο Τμήμα Επιστήμης Υπολογιστών στη Στρατιωτική Ακαδημία στο Monterey της Καλιφόρνια, ο οποίος μίλησε στο AP με την προσωπική του ιδιότητα, χωρίς να αντικατοπτρίζει τις απόψεις της κυβέρνησης των ΗΠΑ.

Προετοιμάστηκε από: Ideal Zhubi