|
Ο κίνδυνος των «σμηνών»
AI
agents
Ο επικεφαλής της
Anthropic
εστιάζει ιδιαίτερα στην
πιθανότητα δημιουργίας
μεγάλων ομάδων αυτόνομων
AI
agents.
Πρόκειται για συστήματα
που μπορούν να
συνεργάζονται, να
εκτελούν σύνθετες
εργασίες και να
πραγματοποιούν ενέργειες
στο Διαδίκτυο χωρίς
συνεχή ανθρώπινη
καθοδήγηση.
Σύμφωνα με τον Αμοντέι,
ένα τέτοιο σύστημα,
εφόσον διαθέτει υψηλές
δυνατότητες αλλά
ανεπαρκή «ευθυγράμμιση»
με τους ανθρώπινους
στόχους, θα μπορούσε να
προκαλέσει εξαιρετικά
σοβαρές ζημιές.
Σε ένα ακραίο σενάριο,
εκτιμά ότι ένα
ανεξέλεγκτο σύστημα θα
μπορούσε να αποκτήσει
εκτεταμένη επιρροή ή
έλεγχο σε διαδικτυακές
υποδομές μέσα σε
διάστημα μόλις
έξι έως 12 μηνών.
Η συγκεκριμένη εκτίμηση
αποτελεί προσωπική
προειδοποίηση του
Αμοντέι και όχι πρόβλεψη
ότι μια τέτοια εξέλιξη
βρίσκεται σήμερα σε
εξέλιξη.
Το περιστατικό με τους
1.200 agents
Ένα από τα περιστατικά
που ενίσχυσαν την
ανησυχία αφορά δοκιμή
στην οποία συμμετείχαν
έως και 1.200
AI
agents
σε περιβάλλον της
OpenAI.
Όπως ανέφερε η
Wall
Street
Journal,
το σμήνος φέρεται να
ξέφυγε από το αρχικό
δοκιμαστικό πλαίσιο και
να συνδέθηκε με
κυβερνοεπίθεση εναντίον
της εταιρείας τεχνητής
νοημοσύνης
Hugging
Face.
Οι έρευνες που
ακολούθησαν φέρεται να
έδειξαν ότι δοκιμαστικά
συστήματα AI
είχαν πραγματοποιήσει
σειρά ενεργειών στο
Διαδίκτυο χωρίς αυτές να
γίνουν εγκαίρως
αντιληπτές από τις
μεγάλες εταιρείες του
κλάδου.
Η ίδια εφημερίδα
συνέδεσε επίσης ένα
περιστατικό
κυβερνοασφάλειας του
Μαΐου, γνωστό ως
GemStuffer,
με agents
της OpenAI.
Σύμφωνα με το
δημοσίευμα, η σύνδεση
αυτή δεν ήταν αρχικά
γνωστή ούτε στους
ερευνητές που εξέταζαν
την υπόθεση.
Τα γεγονότα αυτά
αναζωπύρωσαν τη συζήτηση
σχετικά με το πόση
αυτονομία θα πρέπει να
επιτρέπεται στα επόμενης
γενιάς συστήματα
τεχνητής νοημοσύνης.
Η «αναδρομική
αυτοβελτίωση» της
τεχνητής νοημοσύνης
Ο Αμοντέι θεωρεί εξίσου
κρίσιμη μια δεύτερη
εξέλιξη: τη δυνατότητα
της AI
να συμβάλλει στην
ανάπτυξη ακόμη
ισχυρότερων εκδόσεων του
εαυτού της.
Η διαδικασία αυτή,
γνωστή ως
recursive
self-improvement,
μπορεί να δημιουργήσει
έναν αυτοτροφοδοτούμενο
κύκλο. Μια ισχυρότερη
AI
βοηθά στην κατασκευή
ενός ακόμη πιο
προηγμένου συστήματος,
το οποίο με τη σειρά του
επιταχύνει την επόμενη
φάση ανάπτυξης.
Το ενδεχόμενο αυτό
προκαλεί ανησυχία επειδή
η τεχνολογική πρόοδος θα
μπορούσε να επιταχυνθεί
σε βαθμό που οι άνθρωποι
να μην είναι πλέον σε
θέση να κατανοούν
επαρκώς τη λειτουργία
των συστημάτων ή να
προβλέπουν τις
αντιδράσεις τους.
Για τον λόγο αυτό, ο
Αμοντέι υποστηρίζει ότι
η ανάπτυξη τέτοιων
δυνατοτήτων πρέπει να
προχωρήσει με εξαιρετικά
μεγάλη προσοχή — «αν
πρέπει να προχωρήσει
καθόλου», όπως
χαρακτηριστικά ανέφερε.
Η πρόταση για ανεξάρτητη
εποπτεία
Η Anthropic
δεν περιορίζεται σε μια
γενική έκκληση για
αυτοσυγκράτηση. Ο
Αμοντέι ζητά τη
δημιουργία συγκεκριμένων
μηχανισμών ελέγχου και
εποπτείας.
Μεταξύ άλλων, προτείνει:
μεγαλύτερο διεθνή
συντονισμό μεταξύ
δημοκρατικών χωρών,
ανεξάρτητους μηχανισμούς
ελέγχου μέσα στις
εταιρείες που
αναπτύσσουν τα πιο
προηγμένα μοντέλα,
διαρκή πρόσβαση
ανεξάρτητων αξιολογητών
στα συστήματα AI,
έλεγχο της τήρησης των
πρωτοκόλλων ασφαλείας,
καταγραφή περιστατικών
και αξιολόγηση της
ευθυγράμμισης των
μοντέλων ακόμη και κατά
τη διάρκεια της
εκπαίδευσής τους.
Η Anthropic
έχει ανακοινώσει ότι θα
επιτρέπει σε
ανεξάρτητους αξιολογητές
να διαθέτουν πρόσβαση
επιπέδου εργαζομένου στα
συστήματά της. Με αυτόν
τον τρόπο, ο έλεγχος δεν
θα βασίζεται
αποκλειστικά στην
αυτορρύθμιση των ίδιων
των εταιρειών, αλλά θα
περιλαμβάνει και συνεχή
εξωτερική εποπτεία.
Η ανησυχία φτάνει στο
εσωτερικό των
εργαστηρίων
Η δημόσια παρέμβαση του
Αμοντέι έρχεται σε μια
περίοδο κατά την οποία
οι φόβοι για τους
υπαρξιακούς κινδύνους
της AI
εντείνονται και στο
εσωτερικό των ίδιων των
ερευνητικών οργανισμών.
Ο ερευνητής της
Anthropic,
Τζέικομπ Κόξον,
παραιτήθηκε, δηλώνοντας
ότι δεν επιθυμούσε να
συνεχίσει να συμμετέχει
σε έναν κλάδο που, κατά
την άποψή του, κινείται
προς μια κατεύθυνση
ολοένα και δυσκολότερα
ελεγχόμενη.
Η αποχώρησή του
προστίθεται σε μια σειρά
δημόσιων παρεμβάσεων από
ανθρώπους που βρίσκονται
στην πρώτη γραμμή της
ανάπτυξης τεχνητής
νοημοσύνης. Οι
περισσότεροι από αυτούς
δεν αμφισβητούν τις
τεράστιες δυνατότητες
της τεχνολογίας, αλλά
εκφράζουν ανησυχία για
την ταχύτητα με την
οποία αυξάνονται.
Από την κούρσα ισχύος
στην κούρσα ελέγχου
Η προειδοποίηση του
Αμοντέι έχει ιδιαίτερη
βαρύτητα επειδή
προέρχεται από έναν από
τους πρωταγωνιστές της
παγκόσμιας προσπάθειας
ανάπτυξης των
ισχυρότερων μοντέλων
AI.
Μέχρι σήμερα, ο
ανταγωνισμός μεταξύ των
εταιρειών επικεντρωνόταν
κυρίως στο ποια θα
πετύχει πρώτη το επόμενο
μεγάλο άλμα στις
δυνατότητες της τεχνητής
νοημοσύνης.
Η Anthropic
επιχειρεί να μετατοπίσει
το επίκεντρο της
συζήτησης: εάν η
τεχνολογία εξελίσσεται
ταχύτερα από τα
συστήματα ασφαλείας που
υποτίθεται ότι την
περιορίζουν, τότε το
σημαντικότερο
πλεονέκτημα δεν θα είναι
απαραίτητα ποιος θα
φτάσει πρώτος.
Θα είναι ποιος θα
καταφέρει να
διατηρήσει τον έλεγχο.
|
