|
Ακόμη πιο ανησυχητικό είναι
ότι η επίθεση σε δημοτικό σχολείο θηλέων στο
Μινάμπ φαίνεται να σχεδιάστηκε με τη βοήθεια του
Maven Smart System, μιας προηγμένης πλατφόρμας
ΤΝ που ενσωμάτωσε το εργαλείο Claude της
Anthropic για την ιεράρχηση στόχων.
Παρότι οι υποστηρικτές
αυτών των τεχνολογιών μιλούν για μεγαλύτερη
ακρίβεια και αποτελεσματικότητα, η
πραγματικότητα είναι ότι η ΤΝ εισάγει ένα νέο
βαθιά προβληματικό καθεστώς πολεμικής λήψης
αποφάσεων. Οταν τα αλγοριθμικά συστήματα
προτείνουν στόχους μέσα σε ελάχιστα
δευτερόλεπτα, τα περιθώρια ουσιαστικού
ανθρώπινου ελέγχου συρρικνώνονται δραματικά. Το
αποτέλεσμα είναι αυτό που οι ειδικοί αποκαλούν
«decision compression»: η ανθρώπινη παρέμβαση
παραμένει τυπικά παρούσα, αλλά ουσιαστικά
λειτουργεί ως διαδικαστική επικύρωση μιας
απόφασης που έχει ήδη ληφθεί από έναν αλγόριθμο.
Σε ένα τέτοιο περιβάλλον,
το ερώτημα της ευθύνης γίνεται όλο και πιο
ασαφές. Εάν οι στρατιωτικές αποφάσεις βασίζονται
ολοένα και περισσότερο σε αυτοματοποιημένη
αλγοριθμική ανάλυση, ποιος φέρει τελικά την
ευθύνη για τα λάθη; Ο προγραμματιστής, ο
χειριστής, ο διοικητής ή το ίδιο το πολιτικό
σύστημα που επέλεξε να παραχωρήσει κρίσιμες
αποφάσεις ζωής και θανάτου σε μηχανές;
Η χρήση της ΤΝ σε
στρατιωτικές επιχειρήσεις στο Ιράν θέτει βαθιά
πολιτικά και ηθικά ερωτήματα για το μέλλον της
ίδιας της ανθρώπινης ευθύνης στον πόλεμο. Ο
αλγόριθμος εισέρχεται στο πεδίο της μάχης όχι ως
ουδέτερο εργαλείο, αλλά ως μηχανισμός που
αποδυναμώνει συστηματικά τον ανθρώπινο
παράγοντα. Απομένει να φανεί αν η ήδη εύθραυστη
αρχιτεκτονική της διεθνούς έννομης τάξης είναι
σε θέση να επιβάλει λογοδοσία και διαφάνεια στη
χρήση τέτοιων συστημάτων ή αν ο πόλεμος του
μέλλοντος θα διαμορφωθεί σε ένα κυριαρχικά
αλγοριθμικό περιβάλλον, όπου οι αποφάσεις ζωής
και θανάτου θα λαμβάνονται με την ψυχρή λογική
του κώδικα.
O δρ Μιχάλης Kρητικός είναι
κύριος ερευνητής του ΕΛΙΑΜΕΠ, επίκουρος
καθηγητής σε θέματα ΤΝ και Ψηφιακής Μετάβασης
στη Σχολή Διακυβέρνησης του Πανεπιστημίου των
Βρυξελλών και συγγραφέας του βιβλίου «Ethical AI
Surveillance in the Workplace».
Πρώτη δημοσίευση στο Βήμα
|