του Υποστράτηγου ε.α. Κωνσταντίνου Βαλαλή
Όλες οι παραδοσιακά ισχυρές δυνάμεις επενδύουν την τελευταία δεκαετία στην στρατιωτική ΤΝ, έχοντας αναγνωρίσει τη δυνατότητά της να μεταβάλει θεμελιωδώς τον χαρακτήρα του πολέμου και να εξασφαλίσει την στρατιωτική κυριαρχία. Αν και η ανάπτυξη στρατιωτικών συστημάτων ΤΝ βρίσκεται ακόμα σε πειραματικό στάδιο, στο άμεσο μέλλον θα παρατηρηθεί μια σταθερή αύξηση της χρήσης τους. Οι διαδικασίες ανάπτυξης και η χρήση της στρατιωτικής ΤΝ απαιτείται να παρέχουν εγγυήσεις για την ασφάλεια και την αξιοπιστία των συστημάτων και να εστιάζουν στην καλλιέργεια κατάλληλης κουλτούρας συνεργασίας του προσωπικού με τις μηχανές. Η ικανοποίηση των παραπάνω απαιτήσεων αποτελεί ένα πολυ-παραγοντικό πρόβλημα, η επίλυση του οποίου κρύβει μια σειρά από παγίδες και κινδύνους.
Το κοινό σημείο αφετηρίας των ενδεχόμενων κινδύνων είναι η πιθανότητα βιαστικής ανάπτυξης στρατιωτικών μηχανών που θα λειτουργούν χωρίς ανθρώπινο έλεγχο. Ο βαθμός ωριμότητας της τεχνολογίας δεν δικαιολογεί την ανάθεση κρίσιμων στρατιωτικών λειτουργιών σε τέτοια συστήματα. Αν και οι πολιτικές και στρατιωτικές ηγεσίες των προηγμένων τεχνολογικά χωρών φαίνεται να έχουν κατανοήσει τη σημασία της παρουσίας του ανθρώπου εντός του κύκλου λήψης απόφασης, η πίεση του ανταγωνισμού ενέχει τον κίνδυνο της επιλογής στρατιωτικών λύσεων μεγάλης αυτονομίας.
Συνεπώς, είναι κρίσιμο να δοθεί απόλυτη προτεραιότητα στην ανάπτυξη των «ημιαυτόνομων» συστημάτων (human-in-the-loop), έναντι των συστημάτων «εποπτευόμενης» και «πλήρους αυτονομίας»,32 τα οποία αναφέρονται σε απόδοση μεγαλύτερης ευθύνης στις μηχανές. Όλα τα, υποβοηθούμενα από την ΤΝ, μελλοντικά οπλικά συστήματα θα εντοπίζουν εχθρικούς στόχους και θα κατευθύνουν τα όπλα εναντίον τους, με αυτόματο τρόπο. Όμως, τα ημιαυτόνομα συστήματα θα εκτελούν την προσβολή μόνο κατόπιν ανθρώπινης εξουσιοδότησης. Τα συστήματα εποπτευόμενης αυτονομίας θα εκτελούν αυτόνομα την αλληλουχία των προγραμματισμένων εμπλοκών, πλην όμως ο χειριστής θα μπορεί να παρακολουθεί, να παρεμβαίνει και να διακόπτει τη δράση τους. Σε ένα ημιαυτόνομο σύστημα ο άνθρωπος λογοδοτεί για τις ενέργειες και τη συμπεριφορά του, διασφαλίζοντας ότι αυτό συμμορφώνεται με τους κανόνες εμπλοκής και το Δίκαιο του Πολέμου.
Ωστόσο, η ημι-αυτονομία ενδέχεται να μειώσει την ικανότητα αντιμετώπισης των απειλών και να οδηγήσει σε ανταγωνιστικό μειονέκτημα, ιδιαίτερα όταν ο αντίπαλος έχει υιοθετήσει την αυτονομία. Αυτό και μόνο το ενδεχόμενο αποτελεί ένα ισχυρό κίνητρο για την υιοθέτηση μεγαλύτερης αυτονομίας. Ο αυξημένος βαθμός αυτονομίας μεγεθύνει μια σειρά από προκλήσεις που σχετίζονται με τις ιδιαιτερότητες της τεχνολογίας της ΤΝ (π.χ., αυτοεκπαίδευση μοντέλων). Το πρώτο βασικό ζήτημα είναι αυτό της αξιοπιστίας και της ασφάλειας. Ειδικοί της στρατιωτικής ΤΝ επισημαίνουν ότι η τρέχουσα τεχνολογία δεν διασφαλίζει το απαιτούμενο επίπεδο ασφάλειας των στρατιωτικών συστημάτων, υπογραμμίζοντας την ανάγκη για εντατικοποίηση της επιστημονικής έρευνας. Η αξιοπιστία των μοντέλων εξαρτάται από την ακεραιότητα και την ποιότητα των δεδομένων εκπαίδευσης που καθορίζουν το περιβάλλον και το εύρος λειτουργίας τους. Συνεπώς, η προστασία της ακεραιότητας και η εξασφάλιση της κατάλληλης ποιότητας αυτών των δεδομένων είναι παράγοντες ζωτικής σημασίας. Τα δεδομένα, ως προϊόντα της ανθρώπινης δραστηριότητας, ενσωματώνουν τις προκαταλήψεις και την υποκειμενικότητα των ανθρώπων. Η ενσωμάτωση τέτοιων προκαταλήψεων στα στρατιωτικά συστήματα θα εκφραστεί ως μια εγγενής αρνητική προσέγγιση προς κάποιους δρώντες και με αντίστοιχα προκατειλημμένες αποφάσεις.
Επιπρόσθετα, ελλοχεύει ο κίνδυνος παραβίασης της ακεραιότητας των δεδομένων εκπαίδευσης ή/και των ίδιων των συστημάτων από εχθρικές ενέργειες στον Κυβερνοχώρο. Η τεράστια υπολογιστική ισχύς είναι δεδομένο ότι θα μεγεθύνει το αποτύπωμα τυχόν λαθών που ενσωματώθηκαν κατά την εκπαίδευσή τους ή προκλήθηκαν από κακόβουλες ενέργειες. Ενδεχομένως, θα οδηγήσει σε απροσδόκητη συμπεριφορά και αποτυχίες των συστημάτων.
Η αξιόπιστη λειτουργία των συστημάτων εξαρτάται επιπλέον και από τη σαφήνεια των προδιαγραφών, τον επαρκή χρόνο εκπαίδευσης, τις εξαντλητικές δοκιμές, τη λεπτομερή αξιολόγηση, την εκτίμηση όλων των πιθανών κινδύνων και τη διάφανη λειτουργία τους. Η διαφάνεια των εφαρμογών ΤΝ εκφράζεται ως η ικανότητα των χρηστών να αντιλαμβάνονται τη λογική βάση κάθε απόφασης. Η ενεργός εμπλοκή εξειδικευμένου στρατιωτικού προσωπικού σε όλες τις φάσεις της ανάπτυξης ενός συστήματος (συμπεριλαμβανομένης και της επιλογής και επεξεργασίας των δεδομένων εκπαίδευσης) θα ενισχύσει το βαθμό αξιοπιστίας του. Παράλληλα, θα αυξήσει την πιθανότητα αποτελεσματικής ενσωμάτωσης των δογμάτων και της στρατιωτικής κουλτούρας στις εξελιγμένες εφαρμογές.
Τα κενά σε ζητήματα ασφάλειας, αξιοπιστίας και διαφάνειας των στρατιωτικών συστημάτων υπονομεύουν την εμπιστοσύνη των χειριστών και της ιεραρχίας.
Η ανάπτυξη κουλτούρας εμπιστοσύνης του στρατιωτικού προσωπικού στην ΤΝ είναι μια δυναμική διαδικασία που διασφαλίζει την αποτελεσματική συνεργασία ανθρώπου-μηχανής. Η έλλειψη εξοικείωσης και η δυσκολία κατανόησης των ιδιαιτεροτήτων της ΤΝ θα οδηγήσει σε δύο ακραία προβληματικές προσεγγίσεις: (α) υπερβολική επιφυλακτικότητα, έναντι αξιόπιστων συστημάτων, και (β) άκριτη εμπιστοσύνη σε συστήματα περιορισμένης αξιοπιστίας. Η δεύτερη προσέγγιση, η οποία στη βιβλιογραφία περιγράφεται ως «προκατάληψη αυτοματοποίησης» (automation bias), είναι πιθανό να οδηγήσει σε απόλυτη εξάρτηση από τα συστήματα ΤΝ και σε συναισθηματική εμπλοκή του προσωπικού, με σοβαρές ψυχολογικές επιπτώσεις. 37 Η εκπαίδευση και εξοικείωση του προσωπικού με τη φύση και τις ιδιαιτερότητες της ΤΝ είναι ζωτικής σημασίας. Οι λήπτες απόφασης (ιεραρχία) και οι χειριστές θα απαιτηθεί να είναι σε θέση να αποφασίζουν υπό ποιες συνθήκες μπορούν να εμπιστευτούν ή όχι ένα σύστημα. Όσοι ασχολούνται με την ανάπτυξη και την χρήση της στρατιωτικής ΤΝ είναι σκόπιμο να έχουν υπόψη τους μια σειρά από ενδεχόμενους κινδύνους.
Πρώτον, ο ισχυρός εταιρικός ανταγωνισμός έχει επιβάλει την ανάπτυξη εφαρμογών που λειτουργούν αδιαφανώς, έναντι των χρηστών δηλαδή (ως «μαύρα κουτιά»).
Δεύτερον, η βελτιστοποίηση των συστημάτων αυξάνει εκθετικά το κόστος και είναι πολύ πιθανόν οι πάροχοι στρατιωτικών συστημάτων να προτιμήσουν να την αποφύγουν. Επιπρόσθετα, δοκιμές έχουν δείξει ότι η βελτιστοποίηση ενός συστήματος, προκειμένου να λειτουργεί υπό οριακές συνθήκες, μπορεί να μειώσει την ακρίβεια και την ασφάλειά του, υπό κανονικές συνθήκες λειτουργίας.
Τρίτον, ενώ η στρατιωτική ΤΝ θεωρητικά συνεισφέρει στην εξάλειψη της αβεβαιότητας και την επιτάχυνση της διαδικασίας λήψης απόφασης, τυχόν ασυνεπή λειτουργία της θα εισάγει νέου τύπου αβεβαιότητες, οι οποίες θα είναι δύσκολα ανιχνεύσιμες και κατανοητές, λόγω της φύσης τους.
Τέταρτον, η αναπόφευκτη διασύνδεση των διάφορων εφαρμογών θα δημιουργήσει πολύπλοκα «συστήματα συστημάτων» και θα δυσχεράνει την πρόβλεψη λαθών και την αποφυγή ατυχημάτων. Πέμπτον, η χρήση συστημάτων αυξημένης αυτονομίας θα μειώσει τη δυνατότητα των χειριστών να παρακολουθούν την ταχύτητα με την οποία αυτά κλιμακώνουν τη δράση τους, ιδιαίτερα σε περιβάλλοντα με κορεσμένο ηλεκτρομαγνητικό φάσμα.
Έκτον, το προσδοκώμενο αποφασιστικό στρατηγικό πλεονέκτημα από τη χρήση αυτόνομων συστημάτων αυξάνει τον ανταγωνισμό των ισχυρών του πλανήτη και ελαχιστοποιεί τις προσδοκίες διεθνούς συναίνεσης για τη ρύθμιση της ανάπτυξης της στρατιωτικής ΤΝ.
Οι μελλοντικοί πόλεμοι είναι πολύ πιθανό να διεξάγονται μεταξύ συστημάτων αυξημένης αυτονομίας. Το ενδεχόμενο αυτό εγείρει εύλογα ηθικά διλήμματα και καθιστά την ΤΝ, ως μια επιπλέον πιθανή πηγή αστάθειας και αποσταθεροποίησης, σε παγκόσμιο επίπεδο. Οι επιμέρους παράγοντες που ενδέχεται να επιβαρύνουν το παγκόσμιο καθεστώς ασφάλειας αναλύονται παρακάτω:
- Μετασχηματισμός απειλών στον κυβερνοχώρο: Η δυνατότητα χρήσης της ΤΝ για στρατιωτικούς και πολιτικούς σκοπούς θα δυσχεράνει την ικανότητα των κρατών να προβλέψουν, να αποδώσουν ευθύνες και να αντιμετωπίσουν αποτελεσματικά κακόβουλες ενέργειες στον κυβερνοχώρο. Παράλληλα, η αυξημένη διασύνδεση μεταξύ των ψηφιακών και των φυσικών υποδομών, που εκφράζεται από το Διαδίκτυο των Πραγμάτων (Internet of Things), θα αυξήσει τις συνέπειες των κυβερνοεπιθέσεων.
- Κλιμάκωση: Η ανάθεση μιας μεγάλης ποικιλίας ρόλων σε προκατειλημμένα αυτόνομα συστήματα θα καταστήσει περισσότερο πιθανό το ενδεχόμενο παρερμηνείας των προθέσεων του αντιπάλου και ακούσιας κλιμάκωσης. Επιπλέον, η ανάπτυξη ενός ευρύτερου πλέγματος αλληλεπιδραστικών αυτόνομων συστημάτων μπορεί να οδηγήσει σε εχθροπραξίες που κλιμακώνονται με ταχύτητα μηχανής και να θέσει τη διαπραγμάτευση σε δεύτερη μοίρα. Υπό αυτές τις συνθήκες είναι ορατός ο κίνδυνος ενός αστραπιαίου πολέμου, τον οποίο καμιά πλευρά δεν θα είχε την πρόθεση να ξεκινήσει. Τέλος, η αυτονομία των μη επανδρωμένων συστημάτων θα αυξήσει το εύρος των «ασφαλών» στρατιωτικών επιλογών, οι οποίες θα μπορούν να προκριθούν έναντι μη στρατιωτικών λύσεων, με μεγαλύτερη ευκολία.
- Ευκολία διάδοσης: Η σταδιακή μείωση του κόστους της τεχνολογίας TN και η δυνατότητα διττής χρήσης της δυσχεραίνουν τον έλεγχο της διάδοσής της.
Εύλογα, εκφράζονται φόβοι για το ενδεχόμενο να αποκτήσουν πρόσβαση σε πανίσχυρες εφαρμογές ΤΝ διάφοροι κακόβουλοι δρώντες, οι οποίοι προφανώς δεν θα ενδιαφέρονται για την υπεύθυνη χρήση της.
- Στρατηγική σταθερότητα: Η ανάπτυξη προηγμένων αυτόνομων συστημάτων είναι πολύ πιθανό να θέσει σε κίνδυνο τη στρατηγική ισορροπία, η οποία μετά τον Β’ Παγκόσμιο Πόλεμο εξασφαλίζεται μέσω της πυρηνικής αποτροπής και το φόβο της αμοιβαία εξασφαλισμένης καταστροφής (Mutual Assured Destruction - MAD).
Οι παγκόσμιοι ηγέτες μπορεί να θεωρήσουν (λανθασμένα ή όχι, δεν έχει μεγάλη σημασία) ότι οι δικές τους δυνατότητές στην ΤΝ υπονομεύουν τις δυνατότητες δεύτερου πλήγματος (second-strike capabilities) του αντιπάλου και να προβούν με μεγαλύτερη ευκολία στο πρώτο πλήγμα.
- Διεθνής ανταγωνισμός: Για πρώτη φορά μετά τον Β’ Παγκόσμιο Πόλεμο, σε αντίθεση με άλλες στρατιωτικές τεχνολογίες αιχμής, φαίνεται ότι οι ΗΠΑ δεν θα έχουν το μονοπώλιο στην ανάπτυξη της στρατιωτικής ΤΝ. Αυτή η νέα πραγματικότητα εγείρει σοβαρές ανησυχίες για την κλιμάκωση του διεθνούς ανταγωνισμού και την τροφοδότηση ενός φαύλου κύκλου ανασφάλειας. Υπό αυτό το πρίσμα, είναι πιθανό να τεθούν σε δεύτερη μοίρα οι κανόνες ηθικής και τα ζητήματα ασφάλειας, αξιοπιστίας και διαφάνειας της ΤΝ. Συμπερασματικά, η ραγδαία εξέλιξη της Τεχνητής Νοημοσύνης εγείρει πλήθος προκλήσεων, οι οποίες επηρεάζουν σχεδόν κάθε πεδίο της ανθρώπινης δραστηριότητας. Όλες αυτές οι προκλήσεις συγκλίνουν σε μια κοινή αφετηρία:
τον φόβο ότι η ανάπτυξη πλήρως αυτόνομων μηχανών μπορεί να οδηγήσει σε καταστάσεις, στις οποίες ο άνθρωπος δεν θα είναι ο πρωταγωνιστής. Η ανάπτυξη στρατιωτικών συστημάτων μεγάλης αυτονομίας και η διττή χρήση μιας τόσο ισχυρής τεχνολογίας αποτελούν δυνητικούς παράγοντες αποσταθεροποίησης του παγκόσμιου καθεστώτος ασφαλείας. Επιπλέον, δεν πρέπει να παραγνωρίζονται οι ηθικές και νομικές συνέπειες των στρατιωτικών χρήσεων της ΤΝ. Είναι αδιαμφισβήτητη η ανάγκη ευρείας συναίνεσης για τη ρύθμιση της ανάπτυξης της ΤΝ και τη διασφάλιση της υπεύθυνης χρήσης της.
Οι σχεδιαστές της Εθνικής Στρατιωτικής Στρατηγικής οφείλουν να διασφαλίσουν την ομαλή και αποτελεσματική ενσωμάτωση της στρατιωτικής ΤΝ στις λειτουργίες των Ενόπλων Δυνάμεων της Χώρας. Η επιτυχία αυτού του εγχειρήματος εξαρτάται από τρεις παράγοντες:
(α) την σε βάθος κατανόηση της φύσης, των δυνατοτήτων και των περιορισμών της συγκεκριμένης τεχνολογίας,
(β) τη συνεχή παρακολούθηση της τεχνολογικής εξέλιξης και την επιλογή «έξυπνων» λύσεων που θα λειτουργήσουν ως πολλαπλασιαστές ισχύος, και
(γ) την καλλιέργεια των απαραίτητων δεξιοτήτων του στρατιωτικού προσωπικού, έτσι ώστε να εξασφαλιστεί η ασφαλής, υπεύθυνη και αξιόπιστη χρήση των συστημάτων αυξημένης αυτονομίας. Αυτό αποτελεί μια από τις μεγαλύτερες σύγχρονες προκλήσεις που καλείται να αντιμετωπίσει η στρατιωτική ηγεσία, σε στενή συνεργασία με την αντίστοιχη πολιτική και το εξειδικευμένο επιστημονικό δυναμικό της Χώρας.
* Το κείμενο είναι απόσπασμα από τη μελέτη του συγγραφέα με τίτλο «Τεχνητή Νοημοσύνη: Τεχνολογικό Υπόβαθρο, Προοπτικές και Προκλήσεις από τη Στρατιωτική Χρήση της». Δημοσιεύθηκε στο περιοδικό της ΑΔΙΣΠΟ «Διακλαδική Επιθεώρηση» Τεύχος 61ο, Νοε. 24-Φεβ.25, σελ.31-44