Η χρήση των AI agents για τις διαδικτυακές αγορές μπορεί να αυξήσει τον κίνδυνο απάτης, εξαπάτησης και παραβιάσεων της ιδιωτικότητας των δεδομένων, προειδοποίησαν την Τρίτη τράπεζες όπως η NatWest και η Bank of America, παρουσιάζοντας παράλληλα τις αρχές για την ανάπτυξη της τεχνολογίας.
Οι ίδιες τράπεζες σημειώνουν ότι η τεχνολογία εξελίσσεται ταχύτερα από τα πρότυπα του κλάδου και από τα μέτρα προστασίας των καταναλωτών.
Εταιρείες τεχνολογίας όπως η OpenAI, η Anthropic, η Google και η Meta προωθούν όλο και περισσότερο τα AI agents ως εργαλεία αγορών, περιγράφοντας ένα μέλλον όπου οι αγοραστές θα χρησιμοποιούν πράκτορες τεχνητής νοημοσύνης για να επιλέγουν προϊόντα και να ολοκληρώνουν αγορές εκ μέρους τους. Την ίδια ώρα, οι εταιρείες λιανικής ανταγωνίζονται για να επηρεάσουν τις προτάσεις των chatbots.
Η βρετανική αλυσίδα καταστημάτων John Lewis ανέφερε τον Σεπτέμβριο ότι οι αναζητήσεις που προέρχονταν από πράκτορες τεχνητής νοημοσύνης είχαν αυξηθεί στο 2,5% από 0,3% έναν χρόνο νωρίτερα, με την τάση να επιταχύνεται.
Ο όμιλος τραπεζών, στον οποίο συμμετέχουν επίσης η ING, η ASB Bank της Νέας Ζηλανδίας, η αμερικανική Capital One και η Commonwealth Bank of Australia, ανέφερε σε έκθεση ότι οι πελάτες εμφανίζονται θετικοί στις δυνατότητες του agent-based commerce και θέλουν να το υιοθετήσουν.
Οι καταναλωτές όμως δεν έχουν σαφή εικόνα για το αν η τεχνητή νοημοσύνη θα ενεργεί προς το συμφέρον τους, αναφέρεται στην έκθεση.
Οι τράπεζες προσθέτουν ότι οι καταναλωτές φοβούνται πως οι πράκτορες τεχνητής νοημοσύνης μπορεί να αγοράσουν λάθος προϊόν, να ξοδέψουν περισσότερα από όσα πρέπει ή, ακόμη χειρότερα, να χάσουν τα χρήματά τους λόγω απάτης και εξαπάτησης. Δεν είναι επίσης βέβαιοι αν θα προστατεύονται ούτε σε ποιον πρέπει να απευθυνθούν αν κάτι πάει στραβά.
Η έκθεση υπογράμμισε κινδύνους, όπως το ενδεχόμενο τα AI agents να ζητούν τα στοιχεία των καρτών των πελατών και να τα εισάγουν απευθείας σε ιστότοπους ή να κατευθύνουν τους χρήστες προς τρόπους πληρωμής που προσφέρουν ασθενέστερη προστασία.
Οι τράπεζες σχεδιάζουν να συζητήσουν σειρά προτάσεων με τους υπεύθυνους χάραξης πολιτικής, ανάμεσά τους η υποχρέωση γνωστοποίησης όταν ένας πράκτορας τεχνητής νοημοσύνης εμπλέκεται σε μια συναλλαγή, η μεγαλύτερη διαφάνεια για τον τρόπο με τον οποίο λαμβάνουν αποφάσεις οι πράκτορες τεχνητής νοημοσύνης και οι διασφαλίσεις για την προστασία των δεδομένων των πελατών.
Οι καταναλωτές και οι έμποροι θα πρέπει επίσης να έχουν την ελευθερία να επιλέγουν ποιες υπηρεσίες ηλεκτρονικού εμπορίου που βασίζονται στην τεχνητή νοημοσύνη θα χρησιμοποιούν, ενώ τα διάφορα συστήματα θα πρέπει να είναι διαλειτουργικά, σύμφωνα με την έκθεση.
