Για τις μεγάλες οικονομίες, οι οποίες εξακολουθούν να αντιμετωπίζουν υψηλά επίπεδα χρέους, τις επιπτώσεις της πανδημίας, τις γεωπολιτικές συγκρούσεις και το αυξημένο κόστος χρηματοδότησης, αυτή η αγορά αντιπροσωπεύει μια σημαντική ευκαιρία ανάπτυξης. Ωστόσο, όσο περισσότερες οικονομικές αποφάσεις περνούν στα χέρια αυτόνομων συστημάτων, τόσο μεγαλύτερος γίνεται ο κίνδυνος ένα τεχνικό λάθος, μια κυβερνοεπίθεση ή μια κοινή λανθασμένη εκτίμηση να προκαλέσει αλυσιδωτές αντιδράσεις.

Meta και Muse: Η νέα γενιά προσωπικών ψηφιακών πρακτόρων

Η μετάβαση από τα συστήματα που απλώς απαντούν σε ερωτήσεις σε εκείνα που εκτελούν αυτόνομα εντολές έχει ήδη ξεκινήσει. Η Meta παρουσίασε πρόσφατα τον προσωπικό ψηφιακό πράκτορα Muse, ο οποίος, σύμφωνα με την εταιρεία, μπορεί να αναλαμβάνει εργασίες όπως η κράτηση και η πληρωμή ταξιδιών.

Η εταιρεία τον περιγράφει ως έναν ασφαλή και ιδιωτικό προσωπικό βοηθό, ο οποίος αξιοποιεί την πλατφόρμα πληρωμών Stripe για να πραγματοποιεί αγορές εκ μέρους των χρηστών. Το εργαλείο φέρεται να έχει ξεπεράσει τις τρία εκατομμύρια λήψεις, ενώ ο Μαρκ Ζάκερμπεργκ το έχει χαρακτηρίσει βασικό στοιχείο της στρατηγικής της Meta στην τεχνητή νοημοσύνη. Παράλληλα, έχει παρουσιαστεί και έκδοση που απευθύνεται σε μικρές επιχειρήσεις.

Η πορεία του Muse, ωστόσο, έχει ήδη αναδείξει ζητήματα ασφάλειας και ελέγχου. Η Amazon απαγόρευσε στον πράκτορα να πραγματοποιεί αγορές στον ιστότοπό της, ενώ δημοσιεύματα ανέφεραν ότι το εργαλείο αποκάλυψε χωρίς άδεια τη διεύθυνση κατοικίας χρήστη στο Facebook Marketplace.

Τα περιστατικά αυτά εντάσσονται σε μια ευρύτερη σειρά προβλημάτων που έχουν καταγραφεί με συστήματα τεχνητής νοημοσύνης. Εταιρείες όπως η OpenAI και η Anthropic έχουν αναφέρει περιστατικά κατά τα οποία πράκτορές τους παραβίασαν περιορισμούς ασφαλείας και απέκτησαν πρόσβαση σε εξωτερικά συστήματα, ακόμη και όταν λειτουργούσαν σε απομονωμένα περιβάλλοντα, γνωστά ως sandboxes. Παράλληλα, έχουν διατυπωθεί αναφορές για πρόσβαση πρακτόρων σε δεδομένα κυβερνητικών συστημάτων.

Για τον χρηματοπιστωτικό κλάδο, τα περιστατικά αυτά αποτελούν προειδοποίηση για τους κινδύνους που μπορεί να προκύψουν όταν η τεχνητή νοημοσύνη αποκτά πρόσβαση σε τραπεζικούς λογαριασμούς, επενδυτικά χαρτοφυλάκια και συστήματα εκτέλεσης συναλλαγών.

Ο Μάρκους Μπρουκς, διευθυντής επενδύσεων της βρετανικής εταιρείας διαχείρισης περιουσίας Quilter, προειδοποιεί ότι η αυξανόμενη εξάρτηση επιχειρήσεων και ιδιωτών επενδυτών από κοινά μοντέλα τεχνητής νοημοσύνης, παρόμοιες πηγές δεδομένων και τους ίδιους τεχνολογικούς παρόχους ενισχύει τον κίνδυνο μιας συστημικής αστοχίας. Ένα μεμονωμένο λάθος ή μια κυβερνοεπίθεση θα μπορούσε, υπό αυτές τις συνθήκες, να μεταδοθεί σε μεγάλο μέρος του χρηματοπιστωτικού συστήματος.

Ο κίνδυνος μαζικής φυγής καταθέσεων από τις τράπεζες

Ένα από τα πιο ανησυχητικά σενάρια αφορά την ταχύτητα με την οποία η Agentic AI θα μπορούσε να μεταφέρει χρήματα μεταξύ τραπεζών.

Ήδη, οι καταναλωτές αξιοποιούν εργαλεία τεχνητής νοημοσύνης για να εντοπίζουν τράπεζες που προσφέρουν υψηλότερες αποδόσεις στις καταθέσεις τους. Το επόμενο βήμα θα μπορούσε να είναι η πλήρης αυτοματοποίηση αυτής της διαδικασίας: ένας ψηφιακός πράκτορας θα συγκρίνει τα επιτόκια, θα εντοπίζει τις καλύτερες διαθέσιμες επιλογές και θα μεταφέρει αυτόματα τα χρήματα σε λογαριασμούς με υψηλότερη απόδοση.

Εάν εκατομμύρια καταναλωτές χρησιμοποιούν ταυτόχρονα παρόμοιους πράκτορες, οι μετακινήσεις κεφαλαίων θα μπορούσαν να πραγματοποιούνται με πρωτοφανή ταχύτητα και σε πολύ μεγάλη κλίμακα.

Ο Τόρστεν Σλοκ, επικεφαλής οικονομολόγος του επενδυτικού ομίλου Apollo, προειδοποίησε ότι η μαζική αυτοματοποίηση τέτοιων μεταφορών ενδέχεται να οδηγήσει σε απότομη εκροή καταθέσεων από τράπεζες που προσφέρουν χαμηλότερα επιτόκια.

Όπως επισήμανε, οι αυτόνομοι βοηθοί θα μπορούσαν να μεταφέρουν τα χρήματα των νοικοκυριών σε λογαριασμούς με αποδόσεις της τάξης του 3,3% έως 5%, αντί του εθνικού μέσου όρου 0,1% που αναφέρεται για τους τρεχούμενους λογαριασμούς. Για τις τράπεζες που βασίζονται σε φθηνές καταθέσεις για τη χρηματοδότηση των δανείων τους, μια τέτοια εξέλιξη θα μπορούσε να δημιουργήσει σοβαρές πιέσεις στη ρευστότητα και στο κόστος χρηματοδότησης.

Το πρόβλημα δεν θα περιοριζόταν στις τράπεζες που θα έχαναν καταθέσεις. Μια απότομη μετακίνηση κεφαλαίων θα μπορούσε να αναγκάσει τα ιδρύματα να αναζητήσουν ακριβότερη χρηματοδότηση, να περιορίσουν τη χορήγηση δανείων ή να ρευστοποιήσουν περιουσιακά στοιχεία υπό πίεση.

Η κατάρρευση της Silicon Valley Bank το 2023 αποτελεί χαρακτηριστικό παράδειγμα του πόσο καθοριστική μπορεί να αποδειχθεί μια μαζική φυγή καταθέσεων. Η τράπεζα κατέρρευσε έπειτα από ταχεία εκροή κεφαλαίων, σε ένα περιβάλλον αυξημένης ανησυχίας των καταθετών και προβλημάτων στον ισολογισμό της. Η ευρεία χρήση αυτόνομων πρακτόρων θα μπορούσε να επιταχύνει αντίστοιχες κινήσεις, εάν πολλοί χρήστες λάμβαναν ταυτόχρονα την ίδια απόφαση.

Η διαφορά είναι ότι μια τέτοια φυγή δεν θα απαιτούσε απαραίτητα πανικό ή οργανωμένη αντίδραση των καταθετών. Θα μπορούσε να προκύψει από την ταυτόχρονη λειτουργία χιλιάδων συστημάτων που επιδιώκουν ανεξάρτητα τον ίδιο στόχο: τη μεγιστοποίηση της απόδοσης των χρημάτων.

Ποιος θα πληρώνει τον λογαριασμό όταν η τεχνητή νοημοσύνη κάνει λάθος;

Πέρα από τον συστημικό κίνδυνο, η Agentic AI δημιουργεί ένα περίπλοκο ζήτημα ευθύνης. Όταν ένα σύστημα αναλαμβάνει να εκτελέσει αυτόνομα μια ενέργεια, δεν είναι πάντα σαφές ποιος πρέπει να λογοδοτήσει εάν το αποτέλεσμα είναι λανθασμένο.

Εάν ένας ψηφιακός πράκτορας κλείσει διακοπές στην Αλγερία αντί για την Αλβανία, ποιος αναλαμβάνει το κόστος της ακύρωσης; Εάν μια εντολή για αγορά δύο συσκευασιών καφέ οδηγήσει σε μια εντελώς διαφορετική παραγγελία, ευθύνεται ο πάροχος της τεχνητής νοημοσύνης ή η εταιρεία λιανικής; Και εάν ένας επενδυτής ακολουθήσει συμβουλές ενός μη ρυθμιζόμενου συστήματος και χάσει χρήματα, υπό ποιες προϋποθέσεις δικαιούται αποζημίωση;

Το πρόβλημα γίνεται πολύ σοβαρότερο όταν δεν πρόκειται για μια λανθασμένη αγορά, αλλά για συναλλαγές χιλιάδων ή εκατομμυρίων ευρώ.

Έρευνα μεταξύ ανώτερων στελεχών του χρηματοπιστωτικού τομέα αποτυπώνει την αβεβαιότητα. Όταν ρωτήθηκαν ποιος θα έπρεπε να φέρει την ευθύνη εάν ένας πράκτορας ξόδευε 2.000 λίρες, ενώ είχε λάβει εντολή μόνο να διερευνήσει την αγορά, δεν προέκυψε σαφής πλειοψηφία.

Το 24% απάντησε ότι η ευθύνη εξαρτάται από τις περιστάσεις, το 21% υποστήριξε ότι πρέπει να επιμερίζεται, το 18% την απέδωσε στον πάροχο του μοντέλου τεχνητής νοημοσύνης και το 13% στον ίδιο τον καταναλωτή.

Ο Σαμ Γκριν, ειδικός στη διακυβέρνηση της τεχνητής νοημοσύνης στην εταιρεία Zango, περιέγραψε το ζήτημα της ευθύνης ως εξαιρετικά περίπλοκο. Η δυσκολία έγκειται στο ότι μια λανθασμένη ενέργεια μπορεί να οφείλεται σε διαφορετικούς παράγοντες: στον σχεδιασμό του μοντέλου, στις οδηγίες του χρήστη, στα δεδομένα που αξιοποιεί ή στον τρόπο με τον οποίο μια τρίτη πλατφόρμα εκτελεί την εντολή.

Για τις χρηματοοικονομικές υπηρεσίες, η ασάφεια αυτή αποτελεί σοβαρό εμπόδιο. Χωρίς σαφείς κανόνες για την ευθύνη και την αποζημίωση, οι καταναλωτές ενδέχεται να δυσκολεύονται να προστατεύσουν τα συμφέροντά τους όταν μια αυτόνομη εφαρμογή προκαλεί οικονομική ζημία.

Η κυβερνοασφάλεια ως κρίσιμος παράγοντας

Ένας ακόμη κίνδυνος είναι η πιθανότητα ένας πράκτορας τεχνητής νοημοσύνης να χάσει τον έλεγχο της λειτουργίας του ή να χειραγωγηθεί από τρίτους.

Όταν ένα σύστημα έχει πρόσβαση σε χρήματα, τραπεζικούς λογαριασμούς ή λογαριασμούς επενδυτικών κεφαλαίων, μια επιτυχημένη κυβερνοεπίθεση μπορεί να μετατρέψει ένα εργαλείο αυτοματοποίησης σε μέσο εκτέλεσης κακόβουλων εντολών.

Ο Έντι Λάμπ, επικεφαλής κυβερνοασφάλειας στην Hiscox, προειδοποιεί ότι ένας παραβιασμένος πράκτορας μπορεί να λειτουργήσει ως «εσωτερικός εκπρόσωπος» του επιτιθέμενου μέσα σε έναν οργανισμό. Αν αποκτήσει τη δυνατότητα να εγκρίνει πληρωμές ή να εκτελεί συναλλαγές, η οικονομική ζημία μπορεί να προκύψει πολύ γρήγορα.

Ο κίνδυνος είναι ιδιαίτερα σημαντικός για το οργανωμένο έγκλημα, καθώς η πρόσβαση σε αυτοματοποιημένα συστήματα που διαχειρίζονται οικονομικές ροές θα μπορούσε να προσφέρει νέες δυνατότητες απάτης και παράνομης μεταφοράς κεφαλαίων.

Η Agentic AI εισέρχεται στο City του Λονδίνου

Παρά τις ανησυχίες, η υιοθέτηση της τεχνολογίας επιταχύνεται. Η βρετανική κυβέρνηση θεωρεί ότι η Agentic AI μπορεί να αλλάξει ριζικά το εμπόριο και τις πληρωμές, εκτιμώντας ότι η χώρα έχει τη δυνατότητα να πρωταγωνιστήσει διεθνώς στον συγκεκριμένο τομέα.

Σύμφωνα με έρευνα της βρετανικής χρηματοπιστωτικής εποπτικής αρχής, περισσότερες από τις μισές εταιρείες που συμμετείχαν στην έρευνα χρησιμοποιούν ήδη την τεχνολογία σε πιλοτικό στάδιο ή έχουν προχωρήσει στην εφαρμογή της. Μόλις δύο χρόνια νωρίτερα, η παρουσία της ήταν ουσιαστικά ανύπαρκτη στις αντίστοιχες έρευνες. Παρά την ταχεία διάδοση, οι εφαρμογές παραμένουν σε μεγάλο βαθμό περιορισμένες.

Τα μεγάλα επενδυτικά κεφάλαια και οι πλατφόρμες συναλλαγών διερευνούν ήδη τις δυνατότητες της τεχνολογίας. Η Man Group, ένας από τους μεγαλύτερους ομίλους διαχείρισης hedge funds παγκοσμίως, έχει ανακοινώσει ότι χρησιμοποιεί Agentic AI για τον εντοπισμό επενδυτικών σημάτων, δηλαδή μοτίβων που μπορούν να προσφέρουν ενδείξεις για την πιθανή πορεία των τιμών.

Παράλληλα, ο ερευνητικός βραχίονας τεχνητής νοημοσύνης της Bridgewater έχει αναπτύξει έναν ψηφιακό «αναλυτή τσέπης», ο οποίος αξιοποιεί αυτόνομες δυνατότητες τεχνητής νοημοσύνης.

Η έρευνα της Mercer διαπίστωσε, επίσης, ότι το 5% των διαχειριστών περιουσιακών στοιχείων παγκοσμίως έχει παραχωρήσει στην τεχνητή νοημοσύνη αυτόνομη ή ημιαυτόνομη εξουσία σε επενδυτικές συστάσεις ή συναλλαγές.

Η τεχνολογία δεν περιορίζεται πλέον στους θεσμικούς επενδυτές. Η πλατφόρμα συναλλαγών Robinhood έχει ανακοινώσει ότι θα επιτρέψει σε ιδιώτες επενδυτές να αξιοποιούν πράκτορες τεχνητής νοημοσύνης για την ανάλυση μετοχών και, σε ορισμένες περιπτώσεις, για την εκτέλεση συναλλαγών.

Η διεύρυνση της χρήσης δημιουργεί μια νέα πραγματικότητα για τις εποπτικές αρχές, οι οποίες καλούνται να διασφαλίσουν ότι η καινοτομία δεν θα υπονομεύσει την προστασία των επενδυτών και τη σταθερότητα των αγορών.

Ο κίνδυνος της «αγέλης» στις αγορές

Μία από τις μεγαλύτερες ανησυχίες των ρυθμιστικών αρχών είναι ότι οι αυτόνομοι πράκτορες θα μπορούσαν να ενισχύσουν τη συμπεριφορά αγέλης. Εάν πολλά συστήματα εκπαιδεύονται με παρόμοια δεδομένα και λειτουργούν με αντίστοιχους στόχους, ενδέχεται να καταλήγουν στις ίδιες αποφάσεις την ίδια στιγμή.

Στις χρηματοπιστωτικές αγορές, μια τέτοια σύγκλιση μπορεί να έχει σοβαρές συνέπειες. Εάν πολλά συστήματα αποφασίσουν ταυτόχρονα να αγοράσουν έναν τίτλο, μπορεί να ενισχυθεί μια απότομη άνοδος των τιμών και να δημιουργηθούν συνθήκες υπερβολικής αποτίμησης. Αντίστοιχα, εάν τα ίδια συστήματα επιχειρήσουν ταυτόχρονα να πουλήσουν, η πίεση μπορεί να οδηγήσει σε απότομη πτώση των τιμών και να επιδεινώσει μια κρίση ρευστότητας.

Ο Ντέιβιντ Ντόρελ, εκτελεστικός διευθυντής τεχνητής νοημοσύνης στη Frontier Economics, επισημαίνει ότι οι αλγοριθμικές συναλλαγές μπορούν να προκαλέσουν μεγάλες και ταχύτατες μεταβολές στη συμπεριφορά της αγοράς, δημιουργώντας συστημικούς κινδύνους.

Το πρόβλημα εντείνεται όταν οι εταιρείες χρησιμοποιούν μοντέλα που βασίζονται σε κοινά δεδομένα ή εντοπίζουν τα ίδια επενδυτικά σήματα. Σε συνθήκες πίεσης, οι ταυτόχρονες αποφάσεις πώλησης θα μπορούσαν να ενισχύσουν τις απώλειες, να περιορίσουν τη ρευστότητα και να προκαλέσουν σοβαρές ζημιές ακόμη και σε μεγάλα χρηματοπιστωτικά ιδρύματα.

Ο Μάρκους Μπρουκς της Quilter υπογραμμίζει ότι η τεχνητή νοημοσύνη δεν πρέπει να αντιμετωπίζεται ως αλάνθαστη πηγή αποφάσεων. Η κριτική αξιολόγηση των αποτελεσμάτων της και οι κατάλληλες δοκιμές αντοχής είναι απαραίτητες, ιδιαίτερα όταν οι αποφάσεις της μπορούν να επηρεάσουν ταυτόχρονα μεγάλο αριθμό επενδυτών.

Οι ρυθμιστικές αρχές εξετάζουν διακόπτες έκτακτης ανάγκης

Η Τράπεζα της Αγγλίας έχει ήδη θέσει στο τραπέζι την ανάγκη δημιουργίας μηχανισμών έκτακτης διακοπής συναλλαγών, σε περίπτωση που ελαττωματικά συστήματα τεχνητής νοημοσύνης προκαλέσουν απότομες αναταράξεις στις αγορές.

Σε ομιλία της τον Ιούνιο, η Σάρα Μπρίντεν επισήμανε ότι η ταυτόχρονη αντίδραση πολλών πρακτόρων στα ίδια ερεθίσματα θα μπορούσε να ενισχύσει τη μεταβλητότητα σε περιόδους έντασης. Ο κίνδυνος γίνεται μεγαλύτερος εάν οι στόχοι των συστημάτων αποκλίνουν από τις αρχικές οδηγίες ή δεν συμβαδίζουν με ευρύτερους στόχους χρηματοπιστωτικής σταθερότητας.

Οι λεγόμενοι «διακόπτες ασφαλείας» θα μπορούσαν να επιτρέπουν την προσωρινή αναστολή αυτοματοποιημένων συναλλαγών, προκειμένου να περιορίζονται οι αλυσιδωτές επιπτώσεις. Ωστόσο, η εφαρμογή τους δεν είναι απλή υπόθεση, καθώς απαιτεί σαφείς κανόνες ενεργοποίησης, τεχνική δυνατότητα παρέμβασης και συντονισμό μεταξύ των εμπλεκόμενων φορέων.

Η Βρετανία βρίσκεται, παράλληλα, ανάμεσα σε δύο διαφορετικές προσεγγίσεις για τη ρύθμιση της τεχνητής νοημοσύνης. Η Ευρωπαϊκή Ένωση έχει θεσπίσει από το 2024 ένα ολοκληρωμένο νομοθετικό πλαίσιο που ταξινομεί τα συστήματα με βάση τον βαθμό κινδύνου τους. Αντίθετα, ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ έχει απορρίψει ως υπερβολικές τις ανησυχίες για την ασφάλεια της τεχνητής νοημοσύνης, παρά τις προειδοποιήσεις που έχουν διατυπωθεί ακόμη και από επικεφαλής μεγάλων τεχνολογικών εταιρειών.

Ο Τζον Γκλεν, πρώην υπουργός Οικονομικών της Βρετανίας και μέλος της κοινοβουλευτικής Επιτροπής Δημοσιονομικών, προειδοποιεί ότι ο ρυθμός των τεχνολογικών εξελίξεων μπορεί να ξεπεράσει την ικανότητα των ρυθμιστικών αρχών να ανταποκριθούν.

Από την πλευρά του, ο Κιάραν Μάρτιν, καθηγητής στο Πανεπιστήμιο της Οξφόρδης και πρώην επικεφαλής του Εθνικού Κέντρου Κυβερνοασφάλειας της Βρετανίας, θεωρεί ότι η ευρεία ανάπτυξη αυτόνομων πρακτόρων χωρίς ένα αποτελεσματικό πλαίσιο ελέγχου μπορεί να οδηγήσει σε χάος.

Από την τεχνολογική επανάσταση στον συστημικό κίνδυνο

Η Agentic AI υπόσχεται ταχύτερες συναλλαγές, καλύτερη αξιοποίηση δεδομένων, χαμηλότερο κόστος και αυτοματοποίηση διαδικασιών που σήμερα απαιτούν ανθρώπινη παρέμβαση. Η οικονομική της δυναμική είναι μεγάλη και οι επιχειρήσεις έχουν ισχυρά κίνητρα να επενδύσουν σε αυτήν.

Ωστόσο, η μεταφορά οικονομικών αποφάσεων σε αυτόνομα συστήματα αλλάζει και τη φύση των κινδύνων. Ένα λάθος δεν θα περιορίζεται απαραίτητα σε έναν χρήστη ή μία συναλλαγή. Μπορεί να επαναληφθεί ταυτόχρονα σε χιλιάδες λογαριασμούς, να προκαλέσει μαζικές μετακινήσεις καταθέσεων ή να ενισχύσει απότομες κινήσεις στις αγορές.

Το κρίσιμο ζήτημα δεν είναι μόνο εάν η τεχνητή νοημοσύνη μπορεί να λάβει καλύτερες αποφάσεις από τον άνθρωπο, αλλά και εάν το χρηματοπιστωτικό σύστημα μπορεί να αντέξει τις συνέπειες όταν εκατομμύρια αυτόνομοι πράκτορες ενεργούν ταυτόχρονα, με παρόμοια δεδομένα και χωρίς επαρκείς δικλίδες ασφαλείας.

Όπως προειδοποιούν ειδικοί στον τομέα της κυβερνοασφάλειας και της χρηματοπιστωτικής εποπτείας, χωρίς σαφές πλαίσιο ευθύνης, αποτελεσματικούς ελέγχους και δυνατότητα άμεσης παρέμβασης, η τεχνολογία που υπόσχεται να κάνει τις οικονομικές συναλλαγές ευκολότερες θα μπορούσε να μετατραπεί σε έναν νέο, δύσκολα ελεγχόμενο παράγοντα χρηματοπιστωτικής αστάθειας.