|
Η Anthropic
ανέφερε ότι το
Fable
θα διατεθεί με αυστηρούς
μηχανισμούς ασφαλείας
και περιορισμούς στη
χρήση, τονίζοντας
παράλληλα πως η
κυκλοφορία ενός τόσο
ισχυρού μοντέλου ενέχει
εγγενείς κινδύνους. Όπως
χαρακτηριστικά σημείωσε,
οι δυνατότητές του
υπερβαίνουν κάθε
προηγούμενο μοντέλο που
έχει διατεθεί στο κοινό.
Κατά την αρχική
δοκιμαστική φάση του
Mythos
σε επιλεγμένους
οργανισμούς, η εταιρεία
είχε επιλέξει
περιορισμένη πρόσβαση,
καθώς υπήρχαν φόβοι ότι
το σύστημα θα μπορούσε
να αξιοποιηθεί για την
εκμετάλλευση ή την
παραβίαση υπολογιστικών
συστημάτων.
Ο Καναδός υπουργός
Οικονομικών, François-Philippe
Champagne,
είχε τότε δηλώσει ότι η
προσοχή γύρω από το
μοντέλο είναι
δικαιολογημένη,
περιγράφοντάς το ως μια
τεχνολογία με άγνωστες
ακόμη παραμέτρους
κινδύνου.
Παράλληλα, παρότι η
Anthropic
βρίσκεται σε νομική
διαμάχη με το
αμερικανικό Πεντάγωνο
σχετικά με τη χρήση των
συστημάτων της,
αμερικανικές
κυβερνητικές υπηρεσίες
έχουν ήδη δοκιμάσει το
Mythos
σε πιλοτικά προγράμματα.
Σύμφωνα με την εταιρεία,
οργανισμοί που
χρησιμοποίησαν το
σύστημα έχουν εντοπίσει
πάνω από 10.000 κρίσιμα
κενά ασφαλείας σε
υποδομές τους, γεγονός
που υπογραμμίζει τόσο
τις δυνατότητες όσο και
τους κινδύνους των
προηγμένων AI
εργαλείων.
Ο συνιδρυτής της
Anthropic,
Jack
Clark,
έχει επισημάνει ότι η
ταχύτητα εξέλιξης της
τεχνητής νοημοσύνης
είναι τέτοια που καθιστά
αναγκαία μια πιο
ελεγχόμενη προσέγγιση
στην κυκλοφορία της
τεχνολογίας,
συγκρίνοντας τον κλάδο
με όχημα που διαθέτει
μόνο «γκάζι και όχι
φρένο».
Τέλος, η
Anthropic
προετοιμάζεται για
πιθανή είσοδο στο
χρηματιστήριο, σε μια
συγκυρία όπου η
αποτίμησή της πλησιάζει
το 1 τρισ. δολάρια,
ενισχύοντας περαιτέρω το
ενδιαφέρον γύρω από τον
ρόλο της στην παγκόσμια
αγορά τεχνητής
νοημοσύνης.
|