Μια φορά και έναν καιρό ο πόλεμος γίνονταν σώμα με σώμα, με ρόπαλα και πέτρες πρώτα, ύστερα με σπαθιά, τόξα και στρατούς που συγκρούονταν στο ίδιο πεδίο μάχης…
Κάποτε ήρθε ο Πρώτος Παγκόσμιος Πόλεμος, εκείνος των χαρακωμάτων, των αερίων, των νέων πυροβόλων όπλων, που τον αποκαλούσαν «ο πόλεμος που θα τελείωνε όλους τους πολέμους», the war to end all wars, γιατί η καταστροφή του φαινόταν αδιανόητη, απάνθρωπη και φρικτά αιματηρή. Ωσπου λίγα, μόλις χρόνια αργότερα, ο Δεύτερος Παγκόσμιος Πόλεμος, απέδειξε πως μπορούμε ακόμα χειρότερα, με τις πυρηνικές βόμβες σε Χιροσίμα και Ναγκασάκι, να είναι αιωνίως εφιάλτης για κάθε έννοια ανθρωπιάς. Και σήμερα; Ω! Τώρα πια ο σύγχρονος πόλεμος δεν περιμένει πια στρατηγούς γύρω από χάρτες. Έχει αλγόριθμους, στρατιωτικά συστήματα τεχνητής νοημοσύνης να αναλύουν βίντεο από drones, υποκλοπές επικοινωνιών και δορυφορικά δεδομένα σε πραγματικό χρόνο, παράγοντας λίστες στόχων και προτάσεις επιθέσεων μέσα σε δευτερόλεπτα. Εκεί όπου κάποτε απαιτούνταν ημέρες ή εβδομάδες σχεδιασμού, η απόφαση μπορεί σήμερα να φτάσει στην εκτόξευση μέσα σε λίγα λεπτά και ο θάνατος να εξαπολύεται χωρίς σταματημό. Στρατιωτικά συστήματα που συνδυάζουν τεχνητή νοημοσύνη, ανάλυση πληροφοριών και επιχειρησιακά δεδομένα χρησιμοποιήθηκαν, ήδη, σε επιχειρήσεις στη Μέση Ανατολή, όπου σχεδόν 900 πλήγματα εξαπολύθηκαν μέσα στις πρώτες 12 ώρες μιας εκστρατείας εναντίον ιρανικών στόχων. Η ταχύτητα, τώρα πια, είναι το νέο, απόλυτο στρατηγικό δόγμα. Ο νέος όρος είναι «αλυσίδα θανάτου» και θα πει τη διαδικασία από την αναγνώριση ενός στόχου έως την τελική έγκριση και την εκτόξευση της επίθεσης. Η τεχνητή νοημοσύνη κάνει θαύματα αποτελεσματικότητας στον ταχύτατο όλεθρο, την οδύνη, τον σπαραγμό.
Τα πιο εξελιγμένα στρατιωτικά συστήματα τεχνητής νοημοσύνης αναλύουν αστραπιαία αμέτρητες πληροφορίες. Μπορούν να επεξεργάζονται ταυτόχρονα βίντεο από drones, δορυφορικές εικόνες, τηλεπικοινωνιακές υποκλοπές και δεδομένα από ανθρώπινες πηγές. Η προηγμένη αμερικανική στρατιωτική υποδομή αναπτύχθηκε σε συνεργασία με την εταιρεία Palantir, που το όνομα της πρόηλθε από το Lord of the Rings και τις «πέτρες που βλέπουν τα πάντα», ενώ ο CEO της, από το 2005 και συνιδρυτής της, ο Αλεξ Καρπ, έχει σπουδές και εργασιακό πεδίο τη φιλοσοφία και όχι στην πληροφορική! Η Palantir δεν είναι γνωστή γιατί δεν φτιάχνει apps για το κοινό όπως η Apple ή η Google, αλλά λογισμικό ανάλυσης δεδομένων και AI που χρησιμοποιούν κυβερνήσεις, στρατοί και μεγάλες εταιρείες για να συνδυάζουν τεράστιες ποσότητες δεδομένων και να παίρνουν αποφάσεις. Έχει δεχτεί κριτική για τεχνολογίες παρακολούθησης και αστυνομικής ανάλυσης δεδομένων, ενώ έχει χρησιμοποιηθεί για ανάλυση δεδομένων στο πεδίο μάχης στην Ουκρανία. Θεωρείται μια από τις πιο ισχυρές αλλά αόρατες εταιρείες AI στον κόσμο και αρκετοί την αποκαλούν «η εταιρεία της CIA της Silicon Valley». Ο αμερικανικός στρατός, λοιπόν, χρησιμοποιεί τα συστήματα τεχνητής νοημοσύνης της Palantir για να αναλύει τεράστιες ποσότητες δεδομένων και να εντοπίζει πιθανούς στόχους. Τα προγράμματα αυτά βοηθούν να αποφασιστεί ποιος στόχος θεωρείται πιο σημαντικός και ποιο όπλο θα χρησιμοποιηθεί, λαμβάνοντας υπόψη πράγματα όπως τα διαθέσιμα αποθέματα ή τι λειτούργησε σε προηγούμενες επιθέσεις. Σε ορισμένες περιπτώσεις, η τεχνητή νοημοσύνη εξετάζει ακόμη και αν μια επίθεση θα μπορούσε να θεωρηθεί νόμιμη με βάση τους κανόνες του πολέμου, προσπαθώντας να δει αν πληρούνται οι προϋποθέσεις του διεθνούς ανθρωπιστικού δικαίου. Ο Κρεγκ Τζόουνς, ανώτερος λέκτορας πολιτικής γεωγραφίας στο Πανεπιστήμιο του Newcastle, το περιγράφει ως έχει. Στον σύγχρονο πόλεμο, λέει, η μηχανή δεν περιμένει τον άνθρωπο να σκεφτεί. Αναλύει δεδομένα, συγκρίνει εικόνες, υπολογίζει πιθανότητες και προτείνει ποιος πρέπει να γίνει στόχος. Όλα συμβαίνουν με τέτοια ταχύτητα, που πολλές φορές η απόφαση φαίνεται να γεννιέται πρώτα μέσα στον αλγόριθμο και μόνο μετά στο ανθρώπινο μυαλό.
Οι στρατιωτικοί αναλυτές μιλούν πλέον για κάτι που αποκαλούν «συμπίεση της απόφασης». Με απλά λόγια, η τεχνητή νοημοσύνη δεν αλλάζει μόνο το πώς γίνεται ένας πόλεμος, αλλά και το πόσο γρήγορα πρέπει να αποφασίσουν οι άνθρωποι. Παλιά, μια πολύπλοκη στρατιωτική επιχείρηση μπορούσε να σχεδιάζεται για μέρες ή και εβδομάδες. Συλλέγονταν πληροφορίες, νομικοί εξέταζαν αν μια επίθεση ήταν νόμιμη και στο τέλος οι διοικητές έπαιρναν την απόφαση. Σήμερα μεγάλο μέρος αυτής της διαδικασίας μπορεί να γίνει μέσα σε λίγα λεπτά. Ο Ντέιβιντ Λέσλι, καθηγητής Ηθικής, Τεχνολογίας και Κοινωνίας στο Queen Mary University of London, λέει ότι το πρόβλημα δεν είναι μόνο τεχνικό. Όταν ένα σύστημα έχει ήδη αναλύσει τα δεδομένα και σου προτείνει τι να κάνεις, ο άνθρωπος που πρέπει να εγκρίνει την επίθεση έχει πολύ λιγότερο χρόνο να σταματήσει και να πει «περίμενε λίγο, μήπως είναι λάθος;». Σιγά σιγά οι άνθρωποι αρχίζουν να απομακρύνονται ψυχολογικά από την ίδια την απόφαση. Η ανάλυση έχει ήδη γίνει από τη μηχανή και η τελική έγκριση μοιάζει περισσότερο με επιβεβαίωση μιας πρότασης παρά με μια πραγματικά δική τους κρίση. Κι όμως, στο τέλος της διαδικασίας μιλάμε για αποφάσεις ζωής και θανάτου.
Η χρήση τεχνητής νοημοσύνης στον πόλεμο ανοίγει δύσκολες ερωτήσεις. Πρώτα απ’ όλα την ευθύνη. Αν ένα σύστημα προτείνει έναν στόχο και ένας αξιωματικός εγκρίνει την επίθεση μέσα σε λίγα δευτερόλεπτα, ποιος, πραγματικά, φέρει το βάρος της απόφασης. Υπάρχει και το θέμα της ακρίβειας. Τα συστήματα τεχνητής νοημοσύνης μπορούν να επεξεργάζονται τεράστιες ποσότητες δεδομένων, αλλά στο τέλος δουλεύουν με πιθανότητες. Μικρά λάθη στα δεδομένα ή στις συσχετίσεις μπορεί να οδηγήσουν σε ολέθρια αποτελέσματα. Ο Ντέιβιντ Λέσλεϊ, που ασχολείται με την ηθική της τεχνητής νοημοσύνης, τονίζει ότι το πρόβλημα δεν είναι μόνο τεχνολογικό. Όταν η μηχανή έχει ήδη αναλύσει τα πάντα και προτείνει μια επιλογή, ο άνθρωπος που πρέπει να αποφασίσει έχει πολύ λιγότερο χρόνο να αμφισβητήσει την πρόταση. Κι όμως αυτή η μικρή στιγμή είναι συχνά η μόνη που χωρίζει μια απόφαση από μια τραγωδία.
Οι Ηνωμένες Πολιτείες και η Κίνα θεωρούνται ήδη οι δύο μεγάλες δυνάμεις στη στρατιωτική τεχνητή νοημοσύνη. Επενδύουν τεράστια ποσά σε ανάλυση πληροφοριών, αυτόνομα drones και συστήματα που βοηθούν στον σχεδιασμό επιχειρήσεων. Το Ιράν λέει ότι χρησιμοποιεί τεχνητή νοημοσύνη σε συστήματα στόχευσης πυραύλων, αν και πολλοί ειδικοί θεωρούν ότι οι δυνατότητές του παραμένουν περιορισμένες λόγω κυρώσεων. Η τεχνολογία μπαίνει πλέον σχεδόν παντού μέσα στον στρατό. Από τη διαχείριση εφοδιασμού και τη συντήρηση εξοπλισμού μέχρι την εκπαίδευση μονάδων και την ανάλυση πληροφοριών. Η ερευνήτρια Πρεράνα Τζόσι από το Royal United Services Institute εξηγεί ότι η πραγματική δύναμη αυτών των συστημάτων βρίσκεται στο ότι μπορούν να παίρνουν έναν τεράστιο όγκο πληροφοριών και να τον μετατρέπουν σε άμεσες επιλογές για τους ανθρώπους που πρέπει να αποφασίσουν. Όλα αυτά τα στοιχεία που δημοσιεύτηκαν στη Gurdian, καταλήγουν στο ότι οι μηχανές δεν πολεμούν! Οι άνθρωποι το κάνουν! Η τεχνητή νοημοσύνη μπορεί να προτείνει στόχους, να υπολογίζει πιθανότητες ή να επεξεργάζεται δεδομένα με απίστευτη ταχύτητα. Δεν μπορεί όμως να αναλάβει ευθύνη. Και όσο πιο γρήγορα παίρνονται οι αποφάσεις, τόσο μεγαλύτερη γίνεται η πίεση στον άνθρωπο που καλείται να πατήσει το τελικό κουμπί. Και όσο περισσότερο η ανάλυση περνά στους αλγορίθμους, τόσο πιο εύκολο είναι να ξεχαστεί πως πίσω από κάθε συντεταγμένη στον χάρτη υπάρχει ένας πραγματικός άνθρωπος. Γιατί, πάντα θα είναι αλήθεια εκείνο που έγραψε ο Τζορτζ Όργουελ: «Ο πιο αποτελεσματικός τρόπος να καταστρέψεις ανθρώπους είναι να αρνηθείς και να σβήσεις τη δική τους κατανόηση της ιστορίας τους».
