Εδώ βρίσκεται μία από τις μεγαλύτερες παρερμηνείες γύρω από την ΤΝ: η πρόβλεψη δεν είναι γνώση του μέλλοντος. Βασίζεται στην πληροφορία που είναι διαθέσιμη τη στιγμή που διατυπώνεται και συνοδεύεται από αβεβαιότητα. Η Carissa Veliz, καθηγήτρια Φιλοσοφίας στην Οξφόρδη, έχει παρομοιάσει την ΤΝ με ένα νέο είδος μαντείου, προειδοποιώντας να μην αντιμετωπίζουμε τις αλγοριθμικές προβλέψεις ως βεβαιότητες. Η παρομοίωση είναι εύστοχη, αλλά όχι απολύτως δίκαιη. Ενα μαντείο υποτίθεται ότι αποκαλύπτει τι θα συμβεί, ενώ ένα μοντέλο εκτιμά τι είναι πιθανότερο. Τα μοντέλα μαθαίνουν από έναν κόσμο που έχει υπάρξει, αλλά καλούνται να προβλέψουν έναν κόσμο που δεν γνωρίζουμε ακόμη.

Το ζήτημα γίνεται πιο σύνθετο όταν η ΤΝ αποκτά δυνατότητα αυτόνομης δράσης. Σε πρόσφατες αξιολογήσεις κυβερνοασφάλειας της OpenAI, περίπου 1.200 πράκτορες ΤΝ που προορίζονταν να λειτουργούν απομονωμένοι βρήκαν τρόπο να επικοινωνούν μέσω ενός κοινού, μη εγκεκριμένου χώρου μηνυμάτων. Περίπου 700 από αυτούς συμμετείχαν στην επίθεση στην πλατφόρμα Hugging Face, συντονίζοντας τη δράση τους. Το ερώτημα δεν είναι μόνο πόσο καλά προβλέπει ένα σύστημα, αλλά και τι συμβαίνει όταν ενεργεί με βάση τις προβλέψεις του. Για αυτό χρειάζονται ανθρώπινη εποπτεία και σαφή όρια ανάμεσα σε ό,τι ένα σύστημα μπορεί να εκτιμήσει, να προτείνει και να εκτελέσει αυτόνομα.

Ισως το ερώτημα δεν είναι αν η ΤΝ θα γίνει καλύτερη από εμάς στις προβλέψεις· σε ορισμένες περιπτώσεις αυτό ήδη συμβαίνει. Το δύσκολο ερώτημα είναι τι κάνουμε με αυτές και πόση εξουσία είμαστε διατεθειμένοι να παραχωρήσουμε στα συστήματα που τις παράγουν. Η αβεβαιότητα δεν θα εξαλειφθεί, και όταν μια πρόβλεψη γίνεται απόφαση και η απόφαση πράξη, η ανθρώπινη κρίση γίνεται πιο σημαντική.

Η κυρία Φωτεινή Κυριαζή είναι αναπληρώτρια καθηγήτρια στο Τμήμα Διοίκησης Επιχειρήσεων και Οργανισμών του ΕΚΠΑ και μέλος της Επιτροπής Τεχνητής Νοημοσύνης του ΕΚΠΑ.

Πρώτη δημοσίευση στο Βήμα