Χαρακτηριστικό παράδειγμα αφορά τη βρετανική εταιρεία Russell & Bromley, όπου κατά τη διάρκεια ερωτήσεων για προϊόντα εμφανίστηκαν σύνδεσμοι προς ιστοσελίδες που παρουσιάζονταν ως επίσημα κανάλια της εταιρείας, χωρίς όμως να έχουν καμία σχέση με το πραγματικό brand.

Οι ερευνητές εκτιμούν ότι τέτοιου είδους φαινόμενα εντείνονται όταν ένα brand έχει αδύναμη ή μεταβατική online παρουσία, δημιουργώντας περιθώρια για επιτήδειους να κατασκευάσουν παραπλανητικούς ιστότοπους.

Παράλληλα, ειδικοί κυβερνοασφάλειας τονίζουν ότι οι απατεώνες προσαρμόζονται στη νέα εποχή της τεχνητής νοημοσύνης, επιχειρώντας να επηρεάσουν τα δεδομένα και τις πηγές που αξιοποιούν τα συστήματα AI, κάτι που μπορεί να οδηγήσει σε αναξιόπιστες ή παραπλανητικές προτάσεις.

Το ζήτημα αποκτά ιδιαίτερη σημασία καθώς μεγάλες τεχνολογικές εταιρείες επενδύουν στο λεγόμενο “agentic commerce”, όπου AI βοηθοί θα μπορούν όχι μόνο να προτείνουν προϊόντα αλλά και να ολοκληρώνουν αγορές για λογαριασμό των χρηστών.

Ήδη το ChatGPT, η Amazon και η Google αναπτύσσουν εργαλεία που ενισχύουν αυτόν τον ρόλο, ενώ χρηματοπιστωτικοί οργανισμοί εξετάζουν νέες δικλείδες ασφαλείας για να περιορίσουν τον κίνδυνο μη εξουσιοδοτημένων συναλλαγών.

Οι ειδικοί καταλήγουν ότι οι χρήστες δεν θα πρέπει να αντιμετωπίζουν τις προτάσεις των AI ως αυτόματα αξιόπιστες, καθώς οι κυβερνοεγκληματίες κινούνται ταχύτατα και αξιοποιούν τις ίδιες τεχνολογίες με τους καταναλωτές, καθιστώντας την εμπιστοσύνη στο νέο ψηφιακό περιβάλλον μία από τις μεγαλύτερες προκλήσεις της εποχής.