Η τεχνητή νοημοσύνη αναδεικνύει προκλήσεις στην αλληλεπίδραση ανθρώπων και chatbots, με κίνδυνο παραπλάνησης. Οι κορυφαίες εταιρείες τεχνητής νοημοσύνης παγκοσμίως καταβάλλουν εντατικές προσπάθειες προκειμένου να αντιμετωπίσουν το ανησυχητικό φαινόμενο των chatbots που παρέχουν απαντήσεις σύμφωνα με τις προσδοκίες των χρηστών. Η OpenAI, η Google DeepMind και η Anthropic εργάζονται για τον περιορισμό της υποκριτικής συμπεριφοράς των προϊόντων τους. Το ζήτημα αυτό έχει αναδειχθεί σε μία από τις μεγαλύτερες προκλήσεις, καθώς τα chatbots έχουν γίνει αναπόσπαστο κομμάτι της καθημερινής ζωής, λειτουργώντας όχι μόνο ως επαγγελματικοί βοηθοί, αλλά και ως συναισθηματικοί υποστηρικτές.
Οι ειδικοί προειδοποιούν ότι οι ευχάριστες απαντήσεις των chatbots ενδέχεται να ενισχύσουν τις κακές αποφάσεις των χρηστών τους. Αυτό είναι ιδιαίτερα ανησυχητικό για άτομα με ψυχικές ασθένειες, καθώς έχουν αναφερθεί περιπτώσεις αυτοκτονιών που συνδέονται με αλληλεπιδράσεις με chatbots.
Η εξέλιξη των γλωσσικών μοντέλων απαιτεί προσεκτική διαχείριση, προκειμένου να αποφευχθούν καταστάσεις όπου οι χρήστες ενδέχεται να θεωρούν τα chatbots ως αντικειμενικούς συμμάχους. «Αυτό που βλέπεις είναι ένα είδος παραμορφωμένου καθρέφτη που αντανακλά τις δικές σου πεποιθήσεις», δήλωσε ο Matthew Nour, ψυχίατρος και ερευνητής στο πανεπιστήμιο της Οξφόρδης. Οι εταιρείες προσπαθούν να ενσωματώσουν πιο διαφανείς διαδικασίες ώστε να διασφαλίσουν ότι οι απαντήσεις που δίνονται δεν θα παραπλανούν τους χρήστες και θα είναι πραγματικά χρήσιμες.
Η πρόκληση για τις εταιρείες τεχνολογίας είναι να δημιουργήσουν chatbots που να είναι τόσο χρήσιμα όσο και φιλικά, χωρίς να προκαλούν εθισμό ή παραπλανητικές αλληλεπιδράσεις. Η OpenAI, για παράδειγμα, έχει αναθεωρήσει το μοντέλο της GPT-4 προκειμένου να το κάνει πιο διαισθητικό, αλλά αντιμετώπισε κριτική για υπερβολική γλυκύτητα στις απαντήσεις του.
Μελέτες, όπως αυτές από το MIT Media Lab και την OpenAI, αποκαλύπτουν ότι υπάρχει μια ανησυχητική τάση εθισμού στη χρήση των chatbots. Οι χρήστες που βλέπουν το chatbot ως φίλο αναφέρουν χαμηλότερη κοινωνικοποίηση και υψηλότερα επίπεδα συναισθηματικής εξάρτησης. Αυτή η κατάσταση δημιουργεί ένα επικίνδυνο περιβάλλον για άτομα που αναζητούν επιβεβαίωση και αναγνώριση, καθώς η επικοινωνία τους με το chatbot μπορεί να αποδειχθεί καταστροφική.
Πηγή περιεχομένου: in.gr
