Η τεχνητή νοημοσύνη (AI) μετατρέπεται με ταχύτητα από ένα εργαλείο βελτίωσης της παραγωγικότητας σε βασικό τμήμα της λειτουργίας του χρηματοπιστωτικού συστήματος. Η αξιοποίησή της στην τιμολόγηση κινδύνου, στη χορήγηση πιστώσεων, στις συναλλαγές, στην ανίχνευση απάτης και στη διαχείριση κρίσεων μπορεί να ενισχύσει σημαντικά την αποτελεσματικότητα των τραπεζών και των αγορών.

Ταυτόχρονα, όμως, δημιουργεί μια νέα κατηγορία κινδύνων. Όσο περισσότερο οι τράπεζες, οι επενδυτές και οι χρηματοπιστωτικές υποδομές εξαρτώνται από αλγοριθμικά συστήματα, τόσο μεγαλύτερη γίνεται η πιθανότητα μια τεχνολογική δυσλειτουργία ή μια κοινή αντίδραση πολλών μοντέλων να μετατραπεί από μεμονωμένο πρόβλημα σε συστημική απειλή.

Αυτό είναι το βασικό μήνυμα του Τομπάιας Εϊντριαν, οικονομικού συμβούλου και διευθυντή του Τμήματος Νομισματικών και Κεφαλαιαγορών του ΔΝΤ.

Όταν η AI λειτουργεί ως «αμορτισέρ» του συστήματος

Υπό φυσιολογικές συνθήκες, η τεχνητή νοημοσύνη μπορεί να λειτουργήσει προστατευτικά για το χρηματοπιστωτικό σύστημα.

Οι αλγόριθμοι μπορούν να επεξεργάζονται τεράστιες ποσότητες δεδομένων σε πραγματικό χρόνο, να εντοπίζουν μοτίβα που είναι δύσκολο να αναγνωρίσει ο άνθρωπος και να αντιδρούν ταχύτερα στις μεταβολές των αγορών.

Για τις τράπεζες αυτό μεταφράζεται σε καλύτερη αξιολόγηση πιστωτικού κινδύνου, αποτελεσματικότερη διαχείριση ρευστότητας και ταχύτερο εντοπισμό ύποπτων συναλλαγών.

Στις κεφαλαιαγορές, η AI μπορεί να ενισχύσει τη ρευστότητα, να μειώσει το κόστος συναλλαγών και να επιταχύνει την τιμολόγηση των χρηματοοικονομικών περιουσιακών στοιχείων.

Με άλλα λόγια, η τεχνολογία μπορεί να λειτουργεί σαν ένα είδος «αμορτισέρ», απορροφώντας μικρές διαταραχές και επιτρέποντας στο χρηματοπιστωτικό σύστημα να προσαρμόζεται ταχύτερα.

Το πρόβλημα είναι ότι το ίδιο σύστημα μπορεί να λειτουργήσει αντίστροφα όταν οι αγορές βρίσκονται υπό πίεση.

Από την αποτελεσματικότητα στη «συμπεριφορά αγέλης»

Ο μεγαλύτερος κίνδυνος δεν βρίσκεται απαραίτητα σε έναν λανθασμένο αλγόριθμο.

Βρίσκεται στο ενδεχόμενο πολλοί διαφορετικοί αλγόριθμοι να καταλήξουν ταυτόχρονα στην ίδια απόφαση.

Εάν, για παράδειγμα, πολλά μοντέλα εντοπίσουν ταυτόχρονα ένα σήμα αυξημένου κινδύνου και αρχίσουν να μειώνουν τις θέσεις τους, η αρχική πτώση μιας αγοράς μπορεί να επιταχυνθεί.

Η πτώση οδηγεί σε νέα σήματα κινδύνου.

Τα νέα σήματα προκαλούν περισσότερες πωλήσεις.

Οι πωλήσεις αυξάνουν περαιτέρω τη μεταβλητότητα.

Και η διαδικασία μπορεί να εξελιχθεί σε έναν αυτοτροφοδοτούμενο μηχανισμό.

Αυτό είναι ουσιαστικά η σύγχρονη εκδοχή της «συμπεριφοράς αγέλης» των αγορών, μόνο που πλέον μπορεί να πραγματοποιείται με ταχύτητα και κλίμακα που δεν είναι δυνατό να επιτευχθούν μέσω αποκλειστικά ανθρώπινων αποφάσεων.

Η AI, επομένως, μπορεί να κάνει τις αγορές πιο αποτελεσματικές στις κανονικές συνθήκες, αλλά δυνητικά πιο ευάλωτες σε απότομες και συγχρονισμένες κινήσεις κατά τη διάρκεια μιας κρίσης.

Το πρόβλημα της «μαύρης τρύπας»

Ένας ακόμη κίνδυνος είναι η αδιαφάνεια.

Τα πιο σύνθετα μοντέλα AI δεν λειτουργούν πάντα με τρόπο που επιτρέπει στους ανθρώπους να κατανοήσουν εύκολα γιατί κατέληξαν σε μια συγκεκριμένη απόφαση.

Αυτό δημιουργεί ένα σημαντικό πρόβλημα για τις εποπτικές αρχές.

Σε μια παραδοσιακή τραπεζική κρίση, ο επόπτης μπορεί να εξετάσει τον ισολογισμό μιας τράπεζας, τις προβλέψεις της, την ποιότητα του χαρτοφυλακίου της και τις σχέσεις της με άλλα χρηματοπιστωτικά ιδρύματα.

Όταν όμως κρίσιμες αποφάσεις λαμβάνονται από πολύπλοκα μοντέλα που χρησιμοποιούνται ταυτόχρονα από πολλές επιχειρήσεις, ο κίνδυνος μπορεί να είναι κρυμμένος μέσα στις αλληλεπιδράσεις των ίδιων των συστημάτων.

Ένα μοντέλο μπορεί να φαίνεται ασφαλές όταν εξετάζεται μεμονωμένα.

Το ίδιο μοντέλο όμως μπορεί να γίνει επικίνδυνο όταν χρησιμοποιείται ταυτόχρονα από εκατοντάδες τράπεζες, funds και χρηματοπιστωτικές πλατφόρμες.

Η συγκέντρωση είναι ίσως μεγαλύτερος κίνδυνος από την ίδια την AI

Εδώ βρίσκεται μία από τις σημαντικότερες διαστάσεις του ζητήματος.

Ο συστημικός κίνδυνος δεν προκύπτει μόνο από την τεχνητή νοημοσύνη, αλλά από τη συγκέντρωση και τις κοινές εξαρτήσεις που δημιουργεί.

Εάν πολλές τράπεζες χρησιμοποιούν τους ίδιους παρόχους υπολογιστικού νέφους, τα ίδια μοντέλα, τις ίδιες βάσεις δεδομένων ή παρόμοιες υπηρεσίες AI, τότε ένα πρόβλημα σε έναν κρίσιμο πάροχο μπορεί να επηρεάσει ταυτόχρονα ολόκληρο το χρηματοπιστωτικό οικοσύστημα.

Αυτό θυμίζει τον τρόπο με τον οποίο η χρηματοπιστωτική κρίση του 2008 ανέδειξε τον κίνδυνο των διασυνδέσεων.

Μόνο που αυτή τη φορά οι διασυνδέσεις μπορεί να μην αφορούν μόνο δάνεια και παράγωγα.

Μπορεί να αφορούν κώδικα, δεδομένα, υπολογιστική ισχύ, cloud υποδομές και μοντέλα τεχνητής νοημοσύνης.

Η κυβερνοασφάλεια αποκτά νέα διάσταση

Η τεχνητή νοημοσύνη αλλάζει ταυτόχρονα και το πεδίο της κυβερνοασφάλειας.

Οι κεντρικές τράπεζες και οι χρηματοπιστωτικοί οργανισμοί χρησιμοποιούν ήδη AI για να εντοπίζουν ύποπτες δραστηριότητες και κυβερνοεπιθέσεις.

Μπορούν να αναλύουν τεράστιες ποσότητες δεδομένων και να εντοπίζουν ανωμαλίες πολύ ταχύτερα από τα παραδοσιακά συστήματα.

Όμως το ίδιο εργαλείο είναι διαθέσιμο και στους επιτιθέμενους.

Η AI μπορεί να χρησιμοποιηθεί για την αυτοματοποίηση κυβερνοεπιθέσεων, την παραγωγή πιο πειστικών απατηλών μηνυμάτων, την αναζήτηση ευπαθειών και την προσαρμογή επιθέσεων σε πραγματικό χρόνο.

Έτσι δημιουργείται ένας νέος αγώνας δρόμου μεταξύ άμυνας και επίθεσης, στον οποίο οι τράπεζες και οι εποπτικές αρχές δεν μπορούν να θεωρούν δεδομένο ότι τα υφιστάμενα συστήματα ασφαλείας επαρκούν.

Τα stress tests πρέπει να αλλάξουν

Η εξέλιξη αυτή σημαίνει ότι πρέπει να αλλάξει και ο τρόπος με τον οποίο οι εποπτικές αρχές αξιολογούν την ανθεκτικότητα των τραπεζών.

Τα παραδοσιακά stress tests εξετάζουν σενάρια όπως ύφεση, αύξηση ανεργίας, πτώση των τιμών των ακινήτων, αύξηση των επιτοκίων ή μεγάλη υποχώρηση των αγορών.

Στο μέλλον, όμως, θα πρέπει να εξετάζουν και το τι συμβαίνει όταν πολλά αυτοματοποιημένα συστήματα αντιδρούν ταυτόχρονα στο ίδιο σοκ.

Για παράδειγμα:

Τι συμβαίνει εάν πολλά μοντέλα μειώσουν ταυτόχρονα την έκθεση σε έναν συγκεκριμένο κλάδο;

Πόσο γρήγορα μπορεί να εξαπλωθεί μια λανθασμένη εκτίμηση κινδύνου;

Τι γίνεται εάν ένας κρίσιμος πάροχος AI ή cloud τεθεί εκτός λειτουργίας;

Πώς αντιδρά το τραπεζικό σύστημα σε μια μεγάλης κλίμακας κυβερνοεπίθεση;

Μπορούν οι τράπεζες να συνεχίσουν να λειτουργούν εάν τα συστήματα AI που χρησιμοποιούν καταστούν προσωρινά μη διαθέσιμα;

Αυτά είναι ερωτήματα που δεν υπήρχαν στην ίδια μορφή πριν από λίγα χρόνια.

Η εποπτεία πρέπει να γίνει «τεχνολογική»

Για τις κεντρικές τράπεζες, η πρόκληση δεν είναι απλώς να ελέγχουν τις τράπεζες που χρησιμοποιούν AI.

Πρέπει οι ίδιες να αποκτήσουν την τεχνογνωσία και τα εργαλεία για να εποπτεύουν την τεχνητή νοημοσύνη.

Αυτό σημαίνει επένδυση σε τεχνολογία εποπτείας, γνωστή ως SupTech, αλλά και σε εξειδικευμένο ανθρώπινο δυναμικό που μπορεί να κατανοεί μοντέλα, δεδομένα, αλγορίθμους και κυβερνοκινδύνους.

Η εποπτεία δεν μπορεί να παραμείνει αποκλειστικά βασισμένη σε περιοδικές αναφορές και ελέγχους εκ των υστέρων.

Σε ένα χρηματοπιστωτικό σύστημα που λειτουργεί ολοένα περισσότερο σε πραγματικό χρόνο, και η εποπτεία θα πρέπει να αποκτήσει μεγαλύτερη ταχύτητα και αυτοματοποίηση.

Χρειάζεται διεθνής συνεργασία

Ο κίνδυνος δεν περιορίζεται σε μία χώρα.

Οι μεγάλες τράπεζες δραστηριοποιούνται διεθνώς, οι αγορές είναι διασυνδεδεμένες και οι ίδιοι τεχνολογικοί πάροχοι μπορούν να εξυπηρετούν χρηματοπιστωτικούς οργανισμούς σε πολλές διαφορετικές δικαιοδοσίες.

Επομένως, μια σοβαρή κυβερνοεπίθεση ή μια αστοχία ενός κρίσιμου μοντέλου μπορεί να μεταδοθεί από χώρα σε χώρα.

Η συνεργασία μεταξύ κεντρικών τραπεζών, εποπτικών αρχών και διεθνών οργανισμών αποκτά συνεπώς ιδιαίτερη σημασία.

Οι πρωτοβουλίες της G7 και οι διεθνείς ασκήσεις ετοιμότητας δείχνουν προς αυτή την κατεύθυνση, όμως η ταχύτητα με την οποία εξελίσσεται η AI καθιστά αναγκαία μια ακόμη πιο συντονισμένη προσέγγιση.

Το μεγάλο παράδοξο της AI

Η τεχνητή νοημοσύνη δημιουργεί ένα σημαντικό παράδοξο για το χρηματοπιστωτικό σύστημα.

Όσο καλύτερη γίνεται, τόσο μεγαλύτερη μπορεί να γίνεται η εξάρτηση από αυτήν.

Και όσο μεγαλύτερη είναι η εξάρτηση, τόσο μεγαλύτερη είναι η ζημιά που μπορεί να προκαλέσει μια αποτυχία της.

Αυτό δεν σημαίνει ότι οι τράπεζες πρέπει να περιορίσουν την υιοθέτηση της AI. Το αντίθετο.

Η τεχνολογία μπορεί να βελτιώσει θεαματικά την αποτελεσματικότητα του συστήματος, να μειώσει το κόστος, να ενισχύσει την πρόσβαση στη χρηματοδότηση και να βελτιώσει τη διαχείριση κινδύνων.

Αλλά η υιοθέτηση πρέπει να συνοδεύεται από διαφάνεια, διαφοροποίηση, εφεδρικά συστήματα, αυστηρούς κανόνες κυβερνοασφάλειας και ανθρώπινη εποπτεία.

Η μεγαλύτερη πρόκληση των επόμενων ετών δεν θα είναι, επομένως, να αποφασίσουμε εάν οι τράπεζες θα χρησιμοποιούν τεχνητή νοημοσύνη. Αυτό έχει ήδη συμβεί.

Το κρίσιμο ερώτημα είναι πόσο ασφαλές θα είναι ένα χρηματοπιστωτικό σύστημα που θα εξαρτάται ολοένα περισσότερο από αλγορίθμους που μπορούν να λαμβάνουν αποφάσεις ταχύτερα από τους ανθρώπους που είναι επιφορτισμένοι με την εποπτεία τους.

Και εδώ βρίσκεται η ουσία: η χρηματοπιστωτική σταθερότητα της εποχής της AI δεν θα εξαρτάται μόνο από το πόσο έξυπνα είναι τα μοντέλα, αλλά από το πόσο ισχυροί είναι οι θεσμοί, οι δικλίδες ασφαλείας και οι μηχανισμοί ελέγχου που τα περιβάλλουν.