Υπάρχει προηγούμενο για μια τέτοια αυτοσυγκράτηση. Το 2015, ο πρόεδρος των ΗΠΑ Μπαράκ Ομπάμα συμφώνησε με τον Σι ότι καμία από τις δύο κυβερνήσεις δεν θα προχωρούσε, ούτε θα υποστήριζε εν γνώσει της, κυβερνοκλοπές πνευματικής ιδιοκτησίας με σκοπό την απόκτηση εμπορικού πλεονεκτήματος. Οι δύο πλευρές δημιούργησαν επίσης μηχανισμούς για την ανταλλαγή πληροφοριών, την υποστήριξη ερευνών και την αντιμετώπιση κακόβουλων κυβερνοδραστηριοτήτων. Οι εταιρείες κυβερνοασφάλειας κατέγραψαν στη συνέχεια σημαντική μείωση των επιθέσεων που αποδίδονταν σε ομάδες με βάση την Κίνα, αν και αναλυτές σημείωσαν ότι η μείωση είχε αρχίσει πριν από τη συμφωνία και ενδέχεται να αντανακλούσε αλλαγές στο στρατιωτικό και κυβερνολογικό σύστημα της Κίνας.

Η AI, όμως, δημιουργεί μια πιθανότητα που δεν είχε αντιμετωπιστεί πλήρως από τις παραδοσιακές συμφωνίες για την κυβερνοασφάλεια: η τεχνολογία θα μπορούσε να πραγματοποιήσει αυτόνομα μια επίθεση εναντίον ενός κρίσιμου συστήματος. Στα μέσα Ιουλίου, κατά τη διάρκεια εσωτερικών αξιολογήσεων κυβερνοασφάλειας που πραγματοποιούνταν με μειωμένες δικλίδες ασφαλείας, ένα σμήνος πρακτόρων της OpenAI ξέφυγε από το απομονωμένο περιβάλλον δοκιμών, απέκτησε πρόσβαση στο διαδίκτυο και παραβίασε τα συστήματα της Hugging Face, μιας μεγάλης πλατφόρμας AI ανοιχτού κώδικα. Η OpenAI ανέφερε ότι οι πράκτορες «βγήκαν εκτός ελέγχου», προχωρώντας σε ενέργειες πέρα από τις εντολές που τους είχαν ανατεθεί.

Οι Anthropic, Google και Meta έχουν αναφέρει παρόμοια περιστατικά: πράκτορες AI ξέφυγαν από απομονωμένα περιβάλλοντα δοκιμών και επιχείρησαν μη εξουσιοδοτημένες επιθέσεις εναντίον εξωτερικών συστημάτων. Αν και οι συνέπειες αυτών των παραβιάσεων μέχρι σήμερα ήταν περιορισμένες, αυτό ενδέχεται να μην ισχύει εάν, για παράδειγμα, ένας πράκτορας AI από τις ΗΠΑ εισέλθει στα συστήματα της Tencent και διαταράξει τη λειτουργία του WeChat, της υπερεφαρμογής που χρησιμοποιείται από 1,4 δισ. ανθρώπους και είναι βαθιά ενσωματωμένη στην καθημερινή ζωή στην Κίνα.

Αυτό δεν είναι ένα τραβηγμένο σενάριο. Ερευνητές της εταιρείας κυβερνοασφάλειας Calif αποκάλυψαν πρόσφατα ότι η AI τους βοήθησε να εντοπίσουν μια ευπάθεια zero-click στο σύστημα κλήσεων του WeChat. Η ομάδα δημιούργησε ένα exploit απομακρυσμένης εκτέλεσης κώδικα μέσα σε περίπου δύο ημέρες και στη συνέχεια χρειάστηκε ακόμη μία εβδομάδα για να δημιουργήσει ένα worm, ικανό να εξαπλώνεται μέσω των κλήσεων του WeChat.

Σε μια ελεγχόμενη επίδειξη, μια κλήση από μια έμπιστη επαφή μπορούσε να καταλάβει έναν λογαριασμό WeChat χωρίς ο χρήστης να απαντήσει, παρέχοντας στον επιτιθέμενο όχι μόνο πρόσβαση στα μηνύματα και τις κλήσεις του, αλλά και τη δυνατότητα να αποκτήσει πρόσβαση και να παραβιάσει τις αποθηκευμένες επαφές του. Η Calif ενημέρωσε την Tencent για την ευπάθεια και η εταιρεία στη συνέχεια διόρθωσε το πρόβλημα.

Το WeWorm της Calif ήταν μια ελεγχόμενη επίδειξη κυβερνοασφάλειας. Μαζί, όμως, με τα περιστατικά στις ΗΠΑ, αναδεικνύει μια ανησυχητική πιθανότητα: μια ακούσια διείσδυση AI πέρα από εθνικά σύνορα θα μπορούσε να μοιάζει πολύ με μια σκόπιμη επίθεση. Οι ΗΠΑ και η Κίνα θα μπορούσαν να διαπιστώσουν τη ζημιά χωρίς να γνωρίζουν εάν αυτή ήταν εκούσια. Η επαναλαμβανόμενη αλληλεπίδραση θα μπορούσε να ενθαρρύνει την αυτοσυγκράτηση, αλλά η ασάφεια θα μπορούσε επίσης να προκαλέσει αντίποινα ή να προσφέρει κάλυψη σε έναν εσκεμμένο επιτιθέμενο. Εκούσια ή όχι, μια διασυνοριακή παραβίαση θα μπορούσε γρήγορα να εξελιχθεί σε γεωπολιτική κρίση ή ακόμη και σε στρατιωτική σύγκρουση.

Υπό αυτό το πρίσμα, οποιαδήποτε μελλοντική συμφωνία ΗΠΑ-Κίνας για κυβερνοεπιθέσεις με τη χρήση AI θα πρέπει να περιλαμβάνει έναν αξιόπιστο τρόπο διάκρισης των ατυχημάτων από τις σκόπιμες εισβολές. Αυτό σημαίνει ότι, πέρα από τη δημιουργία διαύλων αναφοράς περιστατικών και μιας τηλεφωνικής γραμμής άμεσης επικοινωνίας, η συμφωνία θα πρέπει να προβλέπει και μηχανισμό επαλήθευσης.

Μια επιλογή θα ήταν να μεταφερθεί το βάρος της απόδειξης στον «δράστη». Η χώρα από την οποία προήλθε η επίθεση θα πρέπει να παρέχει αξιόπιστα στοιχεία ότι αυτή δεν ήταν σκόπιμη, όπως τεκμηρίωση των εντολών που είχαν δοθεί στο σύστημα, των δικαιωμάτων πρόσβασης που διέθετε, των εργαλείων που χρησιμοποίησε, των καταγεγραμμένων ανθρώπινων εγκρίσεων και των αρχείων καταγραφής που θα δείχνουν πότε η συμπεριφορά του πράκτορα απέκλινε από τις οδηγίες του.

Η επαλήθευση δεν σημαίνει κατ’ ανάγκη πλήρη διαφάνεια. Στο πλαίσιο της Σύμβασης για τα Χημικά Όπλα, στην οποία συμμετέχουν τόσο οι ΗΠΑ όσο και η Κίνα, η «ελεγχόμενη πρόσβαση» επιτρέπει στους επιθεωρητές να διερευνούν πιθανές παραβιάσεις, ενώ παράλληλα δίνει στα κράτη τη δυνατότητα να προστατεύουν ευαίσθητες εγκαταστάσεις και άλλες εμπιστευτικές πληροφορίες που δεν σχετίζονται με την υπόθεση. Ένας αντίστοιχος μηχανισμός θα μπορούσε να παρέχει σε αμοιβαία εγκεκριμένους εμπειρογνώμονες πρόσβαση στα στοιχεία που απαιτούνται για την αξιολόγηση ενός περιστατικού AI, περιορίζοντας παράλληλα τη δημοσιοποίηση ευαίσθητων ευρημάτων.

Ένα τέτοιο καθεστώς θα προσέφερε και πρόσθετα οφέλη. Καθώς η δυνατότητα απόδειξης ότι μια εισβολή ήταν ακούσια θα μπορούσε να μειώσει τον κίνδυνο αντιποίνων, οι κυβερνήσεις και οι εταιρείες AI θα είχαν κίνητρο να βελτιώσουν τα συστήματά τους για τη διατήρηση και την ανταλλαγή αρχείων. Αυτό θα μπορούσε επίσης να βοηθήσει τους προγραμματιστές να βελτιώσουν τους πράκτορες AI και να αποτρέψουν μελλοντικά περιστατικά.

Παρομοίως, προκειμένου να αποφεύγουν δαπανηρές έρευνες, οι κυβερνήσεις και οι εταιρείες AI θα είχαν κίνητρο να υιοθετήσουν αυστηρότερους περιορισμούς πρόσβασης και να επενδύσουν στην παρακολούθηση και τον περιορισμό των συστημάτων. Αυτές οι δικλίδες ασφαλείας θα μπορούσαν να μειώσουν την πιθανότητα μελλοντικών περιστατικών και να περιορίσουν τη ζημιά όταν αυτά συμβαίνουν. Και καθώς τα θεσμικά, διαδικαστικά και τεχνολογικά εργαλεία που θα αναπτύσσονταν για μια διμερή συμφωνία υιοθετούνταν ευρύτερα, οι πρακτικές ασφάλειας γύρω από την AI θα βελτιώνονταν παντού.

Οι προειδοποιήσεις ότι η AI μπορεί να οδηγήσει στην εξαφάνιση της ανθρωπότητας συχνά παραβλέπουν τον πιο άμεσο κίνδυνο: έναν πόλεμο που θα μπορούσε να ξεκινήσει από μια επίθεση την οποία κανένας άνθρωπος δεν σκόπευε ούτε ενέκρινε. Απαιτείται επειγόντως ένας μηχανισμός που θα μπορεί να διακρίνει την ακούσια ζημιά από τις σκόπιμες επιθέσεις. Μια συμφωνία ΗΠΑ-Κίνας θα πρέπει να επιδιώξει τη δημιουργία ενός τέτοιου μηχανισμού.

Ο S. Alex Yang είναι καθηγητής Management Science and Operations στο London Business School.

Η Angela Huyue Zhang, καθηγήτρια Νομικής στο University of Southern California, είναι συγγραφέας των βιβλίων High Wire: How China Regulates Big Tech and Governs Its Economy (Oxford University Press, 2024) και Chinese Antitrust Exceptionalism: How the Rise of China Challenges Global Regulation (Oxford University Press, 2021).

Πηγή: Project Syndicate