Ενώ η Σίλικον Βάλεϊ συζητά ολοένα και περισσότερο το ενδεχόμενο η τεχνητή νοημοσύνη να εξελιχθεί σε μια ανεξέλεγκτη δύναμη που θα μπορούσε ακόμη και να απειλήσει την ίδια την ανθρωπότητα, το Πεκίνο εστιάζει σε έναν πολύ πιο άμεσο και πρακτικό κίνδυνο.

Όχι στο σενάριο μιας «μηχανής» που θα αποφασίσει να εξοντώσει τον άνθρωπο, αλλά στο ενδεχόμενο οι ίδιοι οι άνθρωποι να χρησιμοποιήσουν την AI για να προκαλέσουν μαζική αποσταθεροποίηση της κοινωνίας.

Αυτό είναι το βασικό μήνυμα που προκύπτει από πρόσφατη παρέμβαση του Κινέζου υπουργού Κρατικής Ασφάλειας Τσεν Γιξίν, ο οποίος απέρριψε τις πιο ακραίες προειδοποιήσεις που διατυπώνονται στη Δύση για την «αποκάλυψη» της τεχνητής νοημοσύνης.

Deepfakes, επιρροή και γνωσιακός πόλεμος

Στο επίκεντρο των κινεζικών ανησυχιών βρίσκονται οι δυνατότητες της AI να δημιουργεί μαζικά παραπλανητικό περιεχόμενο, να χειραγωγεί την κοινή γνώμη και να ενισχύει επιχειρήσεις επιρροής.

Τα deepfakes, η αυτοματοποιημένη παραγωγή προπαγανδιστικού υλικού και ο λεγόμενος γνωσιακός πόλεμος μπορούν να αποκτήσουν πρωτοφανή κλίμακα όταν συνδυαστούν με προηγμένα συστήματα τεχνητής νοημοσύνης.

Ο δεύτερος μεγάλος κίνδυνος αφορά την κυβερνοασφάλεια.

Η AI μπορεί να μειώσει δραματικά το κόστος και τον χρόνο που απαιτούνται για τον εντοπισμό ευπαθειών σε ψηφιακά συστήματα, αλλά και να διευκολύνει επιθέσεις που στοχεύουν προσωπικά δεδομένα, επιχειρήσεις και κρίσιμες υποδομές.

Και ένα πρόσφατο περιστατικό με το WeChat δείχνει πόσο κοντά μπορεί να βρίσκονται οι δύο αυτές απειλές.

Το «WeWorm» και η ευπάθεια του WeChat

Μια ομάδα ερευνητών κυβερνοασφάλειας στην Καλιφόρνια παρουσίασε πρόσφατα ένα πείραμα που προκάλεσε ιδιαίτερη ανησυχία.

Οι ερευνητές της Calif, εταιρείας με έδρα το Πάλο Άλτο, περιέγραψαν τον τρόπο με τον οποίο χρησιμοποίησαν εργαλεία τεχνητής νοημοσύνης για να δημιουργήσουν ένα λογισμικό εκμετάλλευσης ευπάθειας, το οποίο θα μπορούσε να αποκτήσει τον έλεγχο ενός λογαριασμού στο WeChat μέσα σε ελάχιστα δευτερόλεπτα.

Το συγκεκριμένο σενάριο ονομάστηκε «WeWorm».

Για τον απλό χρήστη, η επίθεση θα μπορούσε να είναι σχεδόν αόρατη: μια εισερχόμενη κλήση από κάποιον που ήδη βρίσκεται στις επαφές του.

Το WeChat, άλλωστε, δεν είναι απλώς μια εφαρμογή ανταλλαγής μηνυμάτων. Για περισσότερους από ένα δισεκατομμύριο χρήστες αποτελεί βασικό τμήμα της καθημερινής ψηφιακής ζωής στην Κίνα, καθώς χρησιμοποιείται για επικοινωνία, πληρωμές και επιχειρηματικές συναλλαγές.

Η Tencent, μητρική εταιρεία του WeChat, ενημερώθηκε από τους ερευνητές και, σύμφωνα με την Calif, αντέδρασε άμεσα. Ο Μπρους Ντανγκ της εταιρείας δήλωσε ότι η συνεργασία με τους μηχανικούς της Tencent ήταν ομαλή και ότι τα προβλήματα αντιμετωπίστηκαν γρήγορα.

Έτσι, μια δυνητικά πολύ σοβαρή επίθεση δεν εξελίχθηκε σε πραγματική κρίση.

Το μάθημα δεν είναι να σταματήσει η AI

Το περιστατικό δημιουργεί ένα διαφορετικό ερώτημα: μήπως το πρόβλημα δεν είναι η ίδια η ανάπτυξη της τεχνητής νοημοσύνης, αλλά το γεγονός ότι οι ψηφιακές υποδομές που ήδη χρησιμοποιούμε έχουν ευπάθειες τις οποίες η AI μπορεί πλέον να εντοπίζει πολύ ταχύτερα;

Ο διευθύνων σύμβουλος της Calif, Τάι Ντουόνγκ, υποστήριξε ότι το περιστατικό αποτελεί λόγο για μεγαλύτερη συνεργασία μεταξύ ΗΠΑ, Κίνας και ιδιωτικού τομέα.

Το επιχείρημά του είναι ότι οι ευπάθειες υπήρχαν ήδη. Αυτό που αλλάζει είναι ότι η AI μπορεί να τις εντοπίσει, να τις αναλύσει και, υπό προϋποθέσεις, να βοηθήσει και στην αντιμετώπισή τους.

Η ίδια τεχνολογία, επομένως, μπορεί να λειτουργήσει ταυτόχρονα ως επιθετικό εργαλείο και ως αμυντικό όπλο.

Αυτό είναι ίσως ένα από τα σημαντικότερα παράδοξα της νέας εποχής της τεχνητής νοημοσύνης.

Πεκίνο και Ουάσινγκτον αναζητούν διαφορετικούς κανόνες

Η κινεζική προσέγγιση αποκτά ιδιαίτερη σημασία καθώς ο πρόεδρος Σι Τζινπίνγκ έχει ζητήσει τη δημιουργία ενός «ανοιχτού οικοσυστήματος» για την τεχνητή νοημοσύνη και ενός διεθνούς πλαισίου διακυβέρνησης που θα βασίζεται στη συναίνεση.

Πρόκειται και για μια γεωπολιτική θέση.

Το Πεκίνο δεν θέλει οι κανόνες για την AI να διαμορφωθούν αποκλειστικά από τις ΗΠΑ και τις εταιρείες της Σίλικον Βάλεϊ. Ταυτόχρονα, η Κίνα εμφανίζεται διατεθειμένη να συζητήσει διεθνείς κανόνες για κινδύνους στους οποίους μπορούν να συμφωνήσουν διαφορετικές χώρες.

Η διαφορά προσέγγισης είναι χαρακτηριστική.

Στις ΗΠΑ, μεγάλο μέρος της συζήτησης επικεντρώνεται στο πόσο γρήγορα εξελίσσονται τα πλέον προηγμένα συστήματα και στο αν θα πρέπει να υπάρξουν δικλείδες ασφαλείας ή ακόμη και περιορισμοί στην ανάπτυξή τους.

Στην Κίνα, η έμφαση φαίνεται να δίνεται περισσότερο στο πώς η τεχνολογία μπορεί να χρησιμοποιηθεί από ανθρώπους για να επηρεάσει κοινωνίες, να παραβιάσει συστήματα και να συγκεντρώσει τεράστιες ποσότητες δεδομένων.

Η συζήτηση για το «pace the frontier»

Την ίδια στιγμή, στη Σίλικον Βάλεϊ εντείνεται η συζήτηση για την ανάγκη επιβράδυνσης ή αυστηρότερου ελέγχου της ανάπτυξης των πιο προηγμένων μοντέλων.

Ο Ντάριο Αμοντέι της Anthropic έχει χρησιμοποιήσει τη φράση «pace the frontier», ζητώντας μεγαλύτερη προσοχή καθώς τα συστήματα γίνονται ισχυρότερα. Στην ίδια γενικότερη συζήτηση έχουν τοποθετηθεί και οι επικεφαλής άλλων μεγάλων εταιρειών τεχνητής νοημοσύνης.

Ωστόσο, το βασικό ερώτημα παραμένει: τι ακριβώς σημαίνει «επιβράδυνση» όταν η τεχνολογία αναπτύσσεται ταυτόχρονα σε δεκάδες χώρες και από εκατοντάδες εταιρείες;

Εάν οι φόβοι αφορούν πραγματικούς κινδύνους, τότε η απλή έκκληση για λιγότερη ταχύτητα δεν αρκεί.

Χρειάζονται διαφάνεια, ανεξάρτητοι έλεγχοι, άμεση κοινοποίηση κρίσιμων ευπαθειών και σαφείς κανόνες για το πώς χρησιμοποιούνται τα συστήματα AI.

Το μεγάλο κενό: η διαφάνεια

Εδώ βρίσκεται ίσως το κοινό σημείο ΗΠΑ και Κίνας.

Ανεξάρτητα από τις διαφορές τους ως προς τη ρύθμιση, την τεχνολογία και τη γεωπολιτική, οι δύο πλευρές έχουν κοινό συμφέρον να γνωρίζουν όταν μια νέα ευπάθεια μπορεί να επηρεάσει εκατοντάδες εκατομμύρια ή ακόμη και δισεκατομμύρια ανθρώπους.

Το παράδειγμα του WeChat δείχνει ότι η συνεργασία μπορεί να λειτουργήσει όταν υπάρχει ένα συγκεκριμένο και άμεσο πρόβλημα.

Το κρίσιμο επόμενο βήμα είναι να δημιουργηθούν δίαυλοι ώστε ερευνητές, εταιρείες και κυβερνήσεις να μπορούν να ανταλλάσσουν πληροφορίες για νέες απειλές πριν αυτές μετατραπούν σε πραγματικές κρίσεις.

Η AI δεν χρειάζεται να γίνει «μηχανή-Θεός» για να γίνει επικίνδυνη

Ίσως τελικά η πιο ρεαλιστική απειλή της τεχνητής νοημοσύνης να μην είναι μια αυτόνομη υπερνοημοσύνη που θα αποφασίσει να καταστρέψει την ανθρωπότητα.

Μπορεί να είναι κάτι πολύ πιο απλό.

Ένα εργαλείο που επιτρέπει σε έναν άνθρωπο να εξαπολύσει κυβερνοεπίθεση σε πολύ μεγαλύτερη κλίμακα. Ένα σύστημα που παράγει εκατομμύρια πειστικά ψεύτικα μηνύματα. Μια τεχνολογία που αποκαλύπτει προσωπικά δεδομένα δισεκατομμυρίων ανθρώπων. Ή ένας μηχανισμός που μπορεί να χειραγωγήσει την κοινή γνώμη με ταχύτητα και ακρίβεια που δεν είχε ποτέ στο παρελθόν.

Η τεχνητή νοημοσύνη έχει ήδη αλλάξει το διαδίκτυο και τον τρόπο με τον οποίο προστατεύεται η ιδιωτικότητα.

Το πραγματικό στοίχημα πλέον δεν είναι αν η ανθρωπότητα θα σταματήσει την AI. Αυτό είναι εξαιρετικά δύσκολο να συμβεί.

Το κρίσιμο ερώτημα είναι αν θα μπορέσει να δημιουργήσει τους μηχανισμούς ασφαλείας αρκετά γρήγορα ώστε η τεχνολογική κούρσα να μη μετατραπεί σε κούρσα προς την αποσταθεροποίηση.

Και σε αυτό το σημείο, η συνεργασία Ουάσινγκτον και Πεκίνου μπορεί να αποδειχθεί πολύ πιο σημαντική από οποιαδήποτε συζήτηση για το ποιος θα κατακτήσει πρώτος την παγκόσμια πρωτοκαθεδρία στην τεχνητή νοημοσύνη.

Γιατί αν οι δύο μεγαλύτερες δυνάμεις της AI δεν μπορούν να συνεργαστούν για τους κινδύνους που είναι ήδη ορατοί, τότε η διαχείριση εκείνων που ακόμη και οι δημιουργοί της τεχνολογίας θεωρούν δυνητικά υπαρξιακούς θα γίνει πολύ δυσκολότερη.