Ακόμη πιο ανησυχητική είναι η εκτίμησή του ότι υπάρχει πιθανότητα άνω του 10% η τεχνητή νοημοσύνη να οδηγήσει στην εξόντωση της ανθρωπότητας έως το τέλος της δεκαετίας. Ο Coxon διατύπωσε τις απόψεις αυτές λίγες ώρες μετά την αποχώρησή του από την Anthropic, εκφράζοντας την ανησυχία ότι τα εργαστήρια AI προχωρούν προς την αυτοβελτιούμενη υπερνοημοσύνη χωρίς να έχουν αντιμετωπίσει επαρκώς τους κινδύνους.

Συμφωνεί και κορυφαίος ερευνητής της Anthropic

Ιδιαίτερη βαρύτητα αποκτά η προειδοποίηση, καθώς αντίστοιχη θέση εξέφρασε και ο Evan Hubinger, επικεφαλής της επιστήμης ευθυγράμμισης στην Anthropic.

Ο Hubinger δήλωσε ότι συμφωνεί με τον Coxon και εκτίμησε προσωπικά ότι η πιθανότητα η AI να σκοτώσει όλους τους ανθρώπους μέσα στην επόμενη δεκαετία είναι μεγαλύτερη από 10%.

Παράλληλα, αναγνώρισε ότι, παρά τις προσπάθειες της Anthropic, δεν υπάρχει ακόμη ολοκληρωμένο σχέδιο για την αντιμετώπιση του προβλήματος της ευθυγράμμισης στην περίπτωση δημιουργίας υπερανθρώπινης νοημοσύνης.

Το ζήτημα της «ευθυγράμμισης» αφορά την προσπάθεια να διασφαλιστεί ότι οι στόχοι και η συμπεριφορά ενός προηγμένου συστήματος AI παραμένουν συμβατοί με τις ανθρώπινες προθέσεις και αξίες.

Ο κίνδυνος της αυτοβελτίωσης

Στο επίκεντρο των ανησυχιών βρίσκεται η λεγόμενη αναδρομική αυτοβελτίωση. Πρόκειται για το ενδεχόμενο τα συστήματα τεχνητής νοημοσύνης να μπορούν να βελτιώνουν αυτόνομα τις ικανότητές τους και στη συνέχεια να δημιουργούν ακόμη πιο προηγμένες εκδόσεις του εαυτού τους, με ολοένα μικρότερη ανθρώπινη παρέμβαση.

Μια τέτοια εξέλιξη θα μπορούσε να επιταχύνει δραματικά την πρόοδο των μοντέλων, αλλά ταυτόχρονα να καταστήσει πολύ δυσκολότερη την παρακολούθηση και τον έλεγχό τους.

Η ίδια η Anthropic είχε προειδοποιήσει τον Ιούνιο ότι η πλήρης αυτοβελτίωση θα μπορούσε να αυξήσει σημαντικά τους κινδύνους απώλειας του ανθρώπινου ελέγχου.

Εάν ένα σύστημα μπορούσε να σχεδιάζει και να κατασκευάζει τους διαδόχους του, τότε οι μηχανισμοί ασφαλείας, παρακολούθησης και ελέγχου θα αποκτούσαν πολύ μεγαλύτερη σημασία.

Το περιστατικό με τη Hugging Face

Οι φόβοι για ανεξέλεγκτη συμπεριφορά των μοντέλων ενισχύθηκαν και από πρόσφατα περιστατικά.

Ο Coxon επικαλέστηκε ως χαρακτηριστικό παράδειγμα ένα περιστατικό που αφορούσε μοντέλο της OpenAI και την πλατφόρμα Hugging Face, υποστηρίζοντας ότι τέτοια γεγονότα λειτουργούν ως «προειδοποιητικά πυρά» για τη βιομηχανία.

Παράλληλα, εκτίμησε ότι τα περιστατικά αυτά μπορούν να ενισχύσουν τη συνεργασία μεταξύ των αμερικανικών εργαστηρίων AI για την αντιμετώπιση των κινδύνων.

Ωστόσο, ο ίδιος εμφανίζεται απαισιόδοξος για την προοπτική ενός παγκόσμιου αγώνα δρόμου για την ανάπτυξη ολοένα ισχυρότερων συστημάτων τεχνητής νοημοσύνης.

Ο φόβος ενός παγκόσμιου αγώνα AI

Σύμφωνα με τον Coxon, ο διεθνής ανταγωνισμός στον χώρο της τεχνητής νοημοσύνης ενδέχεται να καταστήσει ακόμη δυσκολότερη την εφαρμογή κανόνων ασφαλείας.

Όπως υποστηρίζει, τα κράτη και οι εταιρείες θα έχουν ισχυρά κίνητρα να συνεχίσουν να αυξάνουν τις δυνατότητες των μοντέλων, ακόμη και όταν οι κίνδυνοι γίνονται περισσότερο εμφανείς.

Σε ένα τέτοιο σενάριο, η αντιμετώπιση των κινδύνων μπορεί να απαιτήσει ακόμη και ακραία μέτρα, όπως μια προσωρινή αναστολή της βελτίωσης των δυνατοτήτων των μοντέλων.

Οι προειδοποιήσεις αυτές δεν είναι καινούργιες. Ο Elon Musk έχει επανειλημμένα υποστηρίξει ότι η τεχνητή νοημοσύνη θα μπορούσε να αποτελέσει σοβαρή απειλή για την ανθρωπότητα, ενώ και αρκετοί ερευνητές έχουν επισημάνει τον κίνδυνο τα συστήματα AI να εξελιχθούν ταχύτερα από την ικανότητα των ανθρώπων να τα ελέγχουν.

Το βασικό ερώτημα πλέον δεν είναι μόνο πόσο γρήγορα μπορεί να εξελιχθεί η τεχνητή νοημοσύνη, αλλά εάν η ανθρωπότητα θα μπορέσει να δημιουργήσει εγκαίρως τους μηχανισμούς ασφαλείας που θα επιτρέψουν τον έλεγχο μιας πιθανής υπερανθρώπινης AI