|
Στην Ελλάδα δεν έχω δει
πραγματικά στοιχεία ότι
οι εταιρείες
προμηθεύονται,
εγκαθιστούν και
χρησιμοποιούν
εξειδικευμένα συστήματα
ΤΝ. Η προσωπική μου
εκτίμηση είναι ότι, όπου
χρησιμοποιείται σήμερα,
χρησιμοποιείται κυρίως
μέσα από το ChatGPT ή
κάποιο αντίστοιχο
εργαλείο, και ότι σε
αυτές τις χρήσεις δεν
γίνεται ουσιαστικός
έλεγχος. Όταν όμως η ΤΝ
μπει σε αποφάσεις για
δάνεια, ασφαλίσεις ή
προσλήψεις, ο έλεγχος,
κατά την εκτίμησή μου,
θα κριθεί σε ένα
συγκεκριμένο σημείο:
στην οθόνη όπου ένας
άνθρωπος βλέπει την
πρόταση του συστήματος
και αποφασίζει.
Μία
οθόνη, δύο δρόμοι
Το
μοτίβο είναι γνώριμο σε
όποιον σχεδιάζει τέτοιες
οθόνες. Το σύστημα
παρουσιάζει μια πρόταση,
συνήθως μαζί με ένα
ποσοστό βεβαιότητας που
την κάνει να φαίνεται
πιο σίγουρη απ’ όσο
είναι, και δίπλα ένα
εμφανές κουμπί
«Έγκριση». Η έγκριση
θέλει ένα κλικ. Η
απόρριψη ανοίγει δεύτερη
οθόνη, όπου διαλέγεις
λόγο, εξηγείς γιατί
διαφωνείς και, ορισμένες
φορές, στέλνεις την
υπόθεση σε κάποιον άλλον
για έγκριση.
Οι
περισσότερες ομάδες δεν
το σχεδιάζουν έτσι
επίτηδες. Το προϊόν
θέλει λιγότερα βήματα, η
λειτουργία θέλει
ταχύτητα και η
συμμόρφωση θέλει
καταγραφή κάθε
απόρριψης, και κάθε
απαίτηση στέκει μόνη
της. Σε πραγματικές
συνθήκες εργασίας, η
συμφωνία καταλήγει να
μην κοστίζει τίποτα και
η διαφωνία να είναι
διοικητική δουλειά για
κάποιον που έχει ουρά
αιτημάτων ή ανοιχτών
υποθέσεων να αδειάσει.
Όταν ο άνθρωπος εγκρίνει
μια λανθασμένη πρόταση,
λέμε ότι εμπιστεύτηκε
υπερβολικά τη μηχανή.
Μπορεί. Πριν το πούμε,
όμως, αξίζει να
ρωτήσουμε αν του δείξαμε
τα στοιχεία που
χρειαζόταν για να
διαφωνήσει και αν είχε
τον χρόνο να το κάνει.
Αν περιμένουμε από
κάποιον να ελέγξει
εξήντα υποθέσεις την
ώρα, και του αφήνουμε
ένα λεπτό για την
καθεμία, μάλλον
προδικάζουμε το
αποτέλεσμα.
Τι
να ζητήσετε πριν
υπογράψετε
Μια
εταιρεία που αγοράζει
ένα τέτοιο σύστημα θα
πρέπει να ζητήσει από
τον προμηθευτή να
καταγράψει τα ακριβή
σημεία όπου ο άνθρωπος
μπορεί να παρέμβει, και
να έχει ελεγχθεί και
καταγραφεί πώς ακριβώς
λειτουργεί αυτή η
παρέμβαση: πώς
λειτουργεί το σύστημα,
ποια στοιχεία
παρουσιάζονται ώστε να
μπορεί να κρίνει ο
άνθρωπος, και τι
συμβαίνει όταν διαφωνεί
με την πρόταση. Το
τελευταίο μετράει
περισσότερο απ’ όσο
φαίνεται, γιατί ένα
κουμπί που καταγράφει τη
διαφωνία χωρίς να
αλλάζει την απόφαση δεν
προσφέρει πολλή
εποπτεία.
Για
να δείξετε ότι η
εποπτεία λειτουργεί,
χρειάζεστε στοιχεία από
το τι κάνουν οι άνθρωποι
στην πράξη, και ο πιο
άμεσος τρόπος είναι μια
δοκιμή. Σε μια
ελεγχόμενη δοκιμή,
βάζετε στην ουρά
προτάσεις που ξέρετε ότι
είναι λανθασμένες, μαζί
με σωστές, και ορίζετε
από πριν πόσες πρέπει να
εντοπιστούν. Οι σωστές
χρειάζονται κι αυτές,
αλλιώς ένας ελεγκτής που
απορρίπτει τα πάντα θα
έμοιαζε τέλειος.
Μια
άσκηση για αυτή την
εβδομάδα
Ανοίξτε μία πραγματική
οθόνη ελέγχου στην
εταιρεία σας, αυτήν που
χρησιμοποιεί κάποιος για
να εγκρίνει ή να
απορρίψει μια πρόταση
του συστήματος. Μετρήστε
τι χρειάζεται για να
συμφωνήσει και τι για να
διαφωνήσει, και
ακολουθήστε την απόρριψη
μέχρι το σημείο όπου
πράγματι αλλάζει κάτι.
Υπολογίστε πόσος χρόνος
μένει για κάθε απόφαση
με τον σημερινό φόρτο.
Και, σε μια ασφαλή
δοκιμή, βάλτε μπροστά
του μια λανθασμένη
πρόταση για να δείτε αν
θα την εντοπίσει.
Αν
δεν την εντοπίσει, μην
ξεκινήσετε με
περισσότερη εκπαίδευση.
Κοιτάξτε πρώτα την
οθόνη. Μπορεί να
ανακαλύψετε ότι ο
άνθρωπος έκανε ακριβώς
αυτό που η οθόνη τον
ενθάρρυνε να κάνει.
*Ο κ. Ματθαίος
Μάντζιος είναι ιδρυτής
της UXellence, εταιρείας
συμβούλων εμπειρίας
χρήστη (user experience,
UX), Head of UX & Design
στην ITML και
εμπειρογνώμονας που έχει
οριστεί από τον ΕΛΟΤ για
την Ελλάδα στην ομάδα
εργασίας 4 της
CEN-CENELEC JTC 21, που
συντάσσει ευρωπαϊκά
πρότυπα για τον
Κανονισμό για την
Τεχνητή Νοημοσύνη.
Πρώτη δημοσίευση στον
Ο.Τ.
|