Ανατριχίλα, προκαλούν οι επισημάνσεις της ηλικίας 45 ετών Ιταλίδας φιλοσόφου και καθηγήτριας ψηφιακής ηθικής και αμυντικών τεχνολογιών στο Πανεπιστήμιο της Οξφόρδης (τμήμα Oxford Internet Institute), Μαριαροζαρία Ταντέο, για τη μετάλλαξη του πολέμου με τη χρήση drones, των ανθρώπων που τα χειρίζονται σαν να ήταν βιντεοπαιχνίδια, και την κατάρρευση των «κανόνων του πολέμου», έτσι όπως έχουν οριστεί στο διεθνές Δίκαιο.
Σύγκρυο, επίσης, προκαλεί και η προοπτική των «αυτόνομων οπλικών συστημάτων» με Τεχνητή Νοημοσύνη. Η ίδια καλεί σε άμεση θέσπιση κανόνων χρήσης αυτών των «μηχανών – δολοφόνων». Ωστόσο, υπογραμμίζει με έμφαση: «Όσους κανόνες κι αν επινοήσουμε, δεν θα έχουν σημασία αν το διεθνές ανθρωπιστικό δίκαιο δεν τηρείται ή σχεδόν δεν τηρείται. Κάτι που, δυστυχώς, συμβαίνει σήμερα σε πολλές περιπτώσεις. Ελπίζω να μην φτάσουμε εκεί. Αλλιώς θα πετάξουμε στα σκουπίδια 80 χρόνια ιστορίας και όλα τα μαθήματα που πήραμε από τον Β΄ Παγκόσμιο Πόλεμο».
Αναλυτικά, η συνέντευξή της στο γερμανικό περιοδικό, Spiegel, έχει ως εξής:
SPIEGEL, δημοσιογράφος, Φρανκ Χόρνιγκ: Τι συμβαίνει με τον χειριστή ενός drone όταν, μακριά από την πρώτη γραμμή της μάχης, πιλοτάρει ένα θανατηφόρο όπλο από υπολογιστή;
Μαριαροζαρία Ταντέο: Εννοείτε μάλλον, όταν εκείνος ή εκείνη που εξολοθρεύει έναν εχθρό ο οποίος βρίσκεται πολλά χιλιόμετρα μακριά, μετά το τέλος της υπηρεσίας του κλείνει την οθόνη και ενδεχομένως πάει να πάρει τα παιδιά από το σχολείο; Αυτό δημιουργεί συναισθηματική απόσταση από τον πόλεμο. Και φοβάμαι ότι οδηγεί σε ηθική αποξένωση, σε ψυχρά εγκλήματα, σε δολοφονίες χωρίς καμία συναισθηματική αναστολή.
SPIEGEL: Μέχρι τώρα ξέραμε ότι στους πολέμους, οι στρατιώτες και στα δύο αντίπαλα στρατόπεδα ρίσκαραν τη ζωή τους…
Ταντέο: … και αυτό, πάντα στο πλαίσιο του πολέμου, γεννούσε μια «ηθική ισορροπία», μια μορφή ηθικής συμμετρίας. Ο στρατιώτης πρέπει να μην δηλιάσει για να αντιμετωπίσει τον εχθρό, αλλά ταυτόχρονα μοιράζεται μαζί του τον κίνδυνο και τον φόβο. Οι χειριστές των drone δεν έχουν πλέον αυτή την ισορροπία. Αν δεν αντισταθμίσουμε με κάποιο τρόπο αυτήν την αποξένωση, οι κτηνωδίες θα γίνουν καθημερινότητα, επειδή οι στρατιώτες πίσω από τις οθόνες χάνουν κάθε αίσθηση φόβου και λειτουργούν πιο επιθετικά.
Ταντέο: Είναι ανεπίτρεπτο να ταυτίζουμε τον πόλεμο με βιντεοπαιχνίδι. Αυτοί που πιλοτάρουν drone χρειάζονται στρατιωτική εκπαίδευση. Δεν μπορείς έτσι απλά να βάλεις κάποιον μπροστά σε έναν υπολογιστή. Τέτοιου είδους μέθοδοι εκ μέρους των Ρώσων και των Ουκρανών σηματοδοτούν ένα ρήγμα στην στρατιωτική ιστορία. Ο χαρακτήρας του πολέμου έχει αλλάξει ριζικά.
Πόλεμοι με Τεχνητή Νοημοσύνη
SPIEGEL: Προς το παρόν τα drones στις περισσότερες περιπτώσεις ελέγχονται από ανθρώπους. Αλλά ο ανθρώπινος παράγοντας περιορίζεται στη λήψη αποφάσεων και σε κάποιες περιπτώσεις μπορεί να μηδενιστεί. Πόσο απέχουμε από αυτή την αυτοματοποίηση;
Ταντέο: Πριν από τον πόλεμο στην Ουκρανία, τον Φεβρουάριο του 2022, θανατηφόρα οπλικά συστήματα με αυτονομία δράσης στην πράξη δεν είχαν ακόμη χρησιμοποιηθεί. Γνωρίζω μόνο μία περίπτωση που ανέφερε ο ΟΗΕ. Στη Λιβύη το 2021. Γενικά, τα κράτη σε όλο τον κόσμο επέδειξαν αυτοσυγκράτηση στη χρήση τέτοιων τεχνολογιών. Τώρα ξέρουμε ότι αυτό το ταμπού έχει πέσει. Στον ρωσο-ουκρανικό πόλεμο και οι δύο πλευρές το λιγότερο που έκαναν, ήταν να δοκιμάσουν τέτοια οπλικά συστήματα. Προς το παρόν, πάντως, οι πιο κρίσιμες αποφάσεις στα πολεμικά μέτωπα συνδέονται όχι τόσο με τις τεχνολογίες όσο με τους ανθρώπους που τις λαμβάνουν.
SPIEGEL: Ποιες θα είναι οι ηθικές συνέπειες εάν μια μέρα οι μηχανές αρχίσουν να σκοτώνουν εχθρούς χωρίς τη συμμετοχή του ανθρώπου;
Ταντέο: Κατ’ αρχήν, προτού συζητήσουμε αν αυτό είναι νόμιμο ή όχι, πρέπει να διευκρινίσουμε το εξής: Μέχρι σήμερα δεν υπάρχει ένας κοινά αποδεκτός ορισμός για τα αυτόνομα οπλικά συστήματα. Ούτε έχουν συμφωνηθεί οι κανόνες χρήσης τους.
SPIEGEL: Οι Συμβάσεις της Γενεύης και οι Συμφωνίες της Χάγης, που ορίζουν τους κανόνες του πολέμου, γράφτηκαν πριν την εμφάνιση της Τεχνητής Νοημοσύνης (ΤΝ). Χρειάζονται καινούργιοι;
Ταντέο: Οι θεμελιώδεις αρχές του διεθνούς ανθρωπιστικού δικαίου εξακολουθούν να ισχύουν, αλλά πρέπει να γίνει περαιτέρω επεξεργασία τους. Ενα παράδειγμα. Αν ένα όπλο διαθέτει τεχνητή νοημοσύνη, σημαίνει ότι μαθαίνει από το περιβάλλον στο οποίο λειτουργεί. Από τεχνικής άποψης κάθε νέα «εμπειρία» του από το περιβάλλον όπου κινείται, το εξελίσσει σε «νέο» όπλο.
SPIEGEL: Οι επικριτές των αυτόνομων οπλικών συστημάτων θεωρούν ανήθικο να δίδεται στην ΤΝ η δυνατότητα να αποφασίζει για ζωή ή για θάνατο. Οι υποστηρικτές τους, αντίθετα, ισχυρίζονται ότι ένα τέτοιο όπλο μπορεί να είναι και πιο … ηθικό, επειδή δεν έχει την τάση να εκδικείται ή μνα φοβάται.
Ταντέο: Το να μεταβιβάζεις την απόφαση για τη δολοφονία ανθρώπων σε μια μηχανή είναι ηθικώς απαράδεκτο. Ωστόσο τα επιχειρήματα και των δύο πλευρών συνδέονται ελάχιστα με τον πραγματικό σύγχρονο πόλεμο. Και σε αυτό το στάδιο είναι μάλλον επιζήμια.
SPIEGEL: Γιατί;
Ταντέο: Η πόλωση που προκλήθηκε σε αυτό το ζήτημα, δημιούργησε ένα κενό. Και μέσα σε αυτό το κενό ήδη χρησιμοποιούνται αυτόνομα οπλικά συστήματα. Στον πόλεμο στην Ουκρανία, στη Γάζα, στη σύγκρουση Ισραήλ-Ιράν …. Πρέπει να απομακρυνθούμε από τον σχολαστικισμό και να συζητήσουμε τα πραγματικά πρακτικά προβλήματα των αυτόνομων οπλικών συστημάτων.
Μπορούν να ελεγχθούν οι «μηχανές δολοφόνοι»;
SPIEGEL: Ποια ακριβώς;
Ταντέο: Πρώτο ζήτημα είναι ότι πρέπει να τα καταστήσουμε προβλέψιμα. Εμείς μπορεί να τους εισάγουμε δεδομένα, αλλά μόνο μέχρι ενός σημείου μπορούμε να είμαστε βέβαιοι για τι θα πράξει η Τεχνητή Νοημοσύνη. Μπορεί να αναπτύξει και να εφαρμόσει πρότυπα λήψης αποφάσεων που δεν τα είχαμε προβλέψει. Σκεφτείτε τι θα συμβεί στο πεδίο της μάχης, αν τα αυτόνομα οπλικά συστήματα επιλέγουν στόχους που το στρατιωτικό επιτελείο δεν θέλει καν να πλήξει. Έτσι δημιουργείται ένα χάσμα ανάμεσα στους στόχους που βάζει το κάθε εμπόλεμο στρατόπεδο και στις ενέργειες των μηχανών.
SPIEGEL: Ποιος φέρει λοιπόν την ηθική ευθύνη για τις αυτοματοποιημένες «ομάδες δολοφόνων»;
Ταντέο: Αυτό είναι το ζήτημα. «Τα εγκλήματα κατά του διεθνούς δικαίου τα διαπράττουν άνθρωποι, όχι αφηρημένες οντότητες, και μόνον η τιμωρία των προσώπων που διαπράττουν τέτοια εγκλήματα διασφαλίζει την εφαρμογή των κανόνων του διεθνούς δικαίου». Αυτή είναι η διατύπωση του Διεθνούς Δικαστηρίου της Νυρεμβέργης. Αυτό, κατά τη γνώμη μου, ισχύει και σήμερα. Αν εγκαταλείψουμε αυτή την αρχή, έχει τελειώσει και η ηθική του πολέμου.
Κανόνες άμεσα για την Τεχνητή Νοημοσύνη του πολέμου
SPIEGEL: Αλλά τι σημαίνει αυτό πρακτικά για οπλικά συστήματα με Τεχνητή Νοημοσύνη;
Ταντέο: Πρέπει να καθορίσουμε με σαφήνεια και αιτιολογημένα την ηθική ευθύνη σε περίπτωση «όπλων ΤΝ». Και αντί για αφηρημένες θεωρήσεις περί ανθρώπινης αξιοπρέπειας, πρέπει να γίνουν αξιολογήσεις κινδύνου. Η κοινωνία, για παράδειγμα, πρέπει να αποφασίσει πόση αυτονομία είμαστε διατεθειμένοι να δώσουμε σε τέτοια συστήματα στην επιλογή στόχων. Και ποιο ποσοστό σφαλμάτων δεχόμαστε … «10%» μας ικανοποιεί;
SPIEGEL: Έχετε απάντηση σε αυτό;
Ταντέο: Όχι, αυτό πρέπει να το αποφασίσει η κοινωνία. Εγώ έφερα το «10%» ως παράδειγμα. Υποτίθεται ότι αυτό το επίπεδο λάθους έχουν τα συστήματα ΤΝ που, προφανώς, χρησιμοποιεί το Ισραήλ στη Λωρίδα της Γάζας.
SPIEGEL: Ποιους περιορισμούς πρέπει να ορίσουμε για όπλα βασισμένα στην ΤΝ;
Ταντέο: Η ζημία δεν πρέπει να υπερβαίνει το όφελος και πρέπει να ελαχιστοποιείται για την επίτευξη ενός νόμιμου σκοπού. Οι μη μαχητές δεν πρέπει ποτέ να γίνονται επιλεγμένοι στόχοι. Σε τέτοιες αρχές πρέπει να προσαρμοστούν οι νέες τεχνολογίες. Κάποια σενάρια χρήσης μπορεί να απαγορευτούν και άλλα να θεωρηθούν αποδεκτά βάσει αξιολόγησης κινδύνου.
SPIEGEL: Είναι αποδεκτό γενικά να επιτρέπεται ο αυτόματος εντοπισμός στόχων ή όχι;
Ταντέο: Για μένα κρίσιμα ερωτήματα είναι αν μπορούν οι χειριστές να καταλάβουν τι προτείνει το σύστημα ΤΝ; Πώς μπορούν να επέμβουν αν πιστεύουν ότι συνέβη λάθος; Με άλλα λόγια, μιλάμε για το αν αφήνουμε την επιλογή στόχων στη μηχανή — κάτι που θεωρώ απαράδεκτο — ή αν συμπληρώνουμε την ανθρώπινη διαδικασία λήψης αποφάσεων, κάτι που μπορεί να είναι επιθυμητό.
SPIEGEL: Ίσως θα είναι καλύτερα να απαγορευτούν εντελώς τα όπλα με ΤΝ.
Ταντέο: Αυτή η άποψη δεν οδηγεί πουθενά. Τέτοια όπλα παράγονται, πωλούνται και στο μέλλον θα χρησιμοποιούνται παντού. Και κάτι που είναι ίσως ακόμη πιο σημαντικό: η ΤΝ ενσωματώνεται ολοένα περισσότερο και σε «συμβατικά» όπλα.
SPIEGEL: Μια λύση θα μπορούσε να είναι ο ρόλος του ανθρώπου στον κύκλο λήψης αποφάσεων των αυτόνομων οπλικών συστημάτων, αντίστοιχος ίσως με αυτόν των πιλότων μαχητικών αεροσκαφών.
Ταντέο: Αυτά είναι για να χαϊδεύουμε τα αυτιά του κόσμου. Κι’ αν ο άνθρωπος που εμπλέκεται δεν έχει χρόνο να κατανοήσει τις γρήγορες αποφάσεις της μηχανής και σε αμφιλεγόμενες στιγμές να τις σταματήσει; Ο πραγματικός έλεγχος είναι δυνατός μόνο όταν ο άνθρωπος έχει εκτεταμένα δικαιώματα παρέμβασης, ώστε να μπορεί να διακόψει τη λειτουργία της μηχανής ανά πάσα στιγμή. Τα κρίσιμα ερωτήματα είναι: μπορούν οι άνθρωποι να απενεργοποιήσουν αυτά τα συστήματα όταν εντοπίζουν λάθη; Εχουμε αρκετό και εκπαιδευμένο προσωπικό που τα συνοδεύει και τα επιτηρεί;
Το νέο – παλιό Δίκαιο του πολέμου
SPIEGEL: Οι θεωρίες της «δίκαιης» ή «σωστής» διεξαγωγής του πολέμου έχουν βαθιές ρίζες … από τον Κικέρωντα μέχρι τον Θωμά Ακινάτη. Μπορούν να μας βοηθήσουν σήμερα;
Ταντέο: Ναι. Όταν μιλάμε για το «ius in bello», το δίκαιο στον πόλεμο, τα στρατιωτικά Επιτελεία που χρησιμοποιούν ΤΝ πρέπει να εφαρμόζουν αυτές τις αρχές. Για παράδειγμα ότι οι μη μαχητές δεν πρέπει ποτέ να γίνονται στόχος. Δεν χρειάζεται να αλλάξουμε τους παλιούς κανόνες. Πρέπει να καταλάβουμε πως οι συγκεκριμένοι κανόνες πρέπει να εφαρμοστούν στον σημερινό κόσμο.
SPIEGEL: Γιατί είναι τόσο δύσκολο;
Ταντέο: Όταν ξεκίνησα να προβληματίζομαι πάνω σε αυτό το θέμα, το 2010, συζητούσαμε για ένα μακρινό μέλλον. Και όντως, οι στρατοί ανακάλυψαν την ΤΝ αν και αργότερα από άλλους τομείς. Τώρα, όμως, όλα τρέχουν με τεράστιες ταχύτητες. Αν τα κράτη του ΝΑΤΟ αυξήσουν τους προϋπολογισμούς τους στο 5%, τα επόμενα χρόνια θα διοχετευτούν τεράστια ποσά στην ψηφιακή στρατιωτική τεχνολογία και στα όπλα με ΤΝ. Οι κανόνες πρέπει να τεθούν τώρα, όχι εκ των υστέρων.
Γενικολογίες
SPIEGEL: Ωστόσο, οι ΗΠΑ, η Βρετανία και το ΝΑΤΟ έχουν καταρτίσει ορισμένες ηθικές κατευθυντήριες γραμμές για τη χρήση αυτόνομων όπλων.
Ταντέο: Σε όλες τις περιπτώσεις λένε ότι ο άνθρωπος πρέπει να παραμένει στο κέντρο, καθώς και ότι η ΤΝ πρέπει να είναι υπό έλεγχο. Καλά όλα αυτά, αλλά πολύ γενικά.
SPIEGEL: Ο πόλεμος στην Ουκρανία θεωρείται το εργαστήριο του μέλλοντος για τις νέες στρατιωτικές τεχνολογίες και στρατηγικές. Είναι και εργαστήριο για μια νέα ηθική του πολέμου;
Ταντέο: Μέχρι στιγμής όχι.
SPIEGEL: Πρέπει ο ΟΗΕ να προωθήσει μια σύμβαση για την ΤΝ;
Ταντέο: Ο ΟΗΕ συζητά για τα αυτόνομα οπλικά συστήματα εδώ και 13 χρόνια. Αυτό δεν οδήγησε πουθενά. Οι συζητήσεις καθορίζονται από γεωπολιτικές σκοπιμότητες. Είναι πολύ δύσκολο να καθίσεις στο τραπέζι τους μεγάλους παίκτες. Θα χαιρόμουν αν η ΕΕ αναλάμβανε πρωτοβουλία και έπαιρνε τη συζήτηση στα χέρια της, όπως έκανε με τη ρύθμιση άλλων ψηφιακών τεχνολογιών. Αυτό θα μπορούσε να οδηγήσει σε μια παγκόσμια συμφωνία.
SPIEGEL: Δεν είναι εύκολο να συζητάς το πώς ο δικός σου στρατός πρέπει να σκοτώνει όσο πιο αποτελεσματικά γίνεται και ταυτόχρονα να είναι ηθικός.
Ταντέο: Η κοινωνία μας χρειάζεται αξίες. Το δείχνει όταν για παράδειγμα συζητά για το Κλίμα, την Υγεία, κ.ο.κ.. Το ίδιο χρειάζεται να γίνει και για τον πόλεμο. Αλλιώς δεν είναι φιλελεύθερη δημοκρατία. Είναι ολοφάνερο ότι υπάρχει ένας «μεγάλος ελέφαντας στο δωμάτιο».
SPIEGEL: Δηλαδή;
Ταντέο: Όσους κανόνες κι αν επινοήσουμε, δεν θα έχουν σημασία αν το διεθνές ανθρωπιστικό δίκαιο δεν τηρείται ή σχεδόν δεν τηρείται. Κάτι που, δυστυχώς, συμβαίνει σήμερα σε πολλές περιπτώσεις. Ελπίζω να μην φτάσουμε εκεί. Αλλιώς θα πετάξουμε στα σκουπίδια 80 χρόνια ιστορίας και όλα τα μαθήματα που πήραμε από τον Β΄ Παγκόσμιο Πόλεμο.
neostrategy.gr
%20(1).jpg)
0 Σχόλια