Τα chatbots μπορεί να επηρεάσουν αρνητικά την ψυχική υγεία, σύμφωνα με πρόσφατες αναφορές και μαρτυρίες χρηστών. Μέσα σε κλίμα ανησυχίας για την επίδραση των chatbots που λειτουργούν με τεχνητή νοημοσύνη, πλήθος αναφορών αναδεικνύει τη δυνατότητά τους να προκαλούν διαστρεβλωμένη σκέψη, αυξάνοντας τους φόβους για τους κινδύνους τους και τον αντίκτυπό τους στην ψυχική υγεία. Η 31χρονη Amelia από το Ηνωμένο Βασίλειο, η οποία πάλευε με κατάθλιψη, αρχικά βρήκε παρηγοριά στις ενθαρρυντικές απαντήσεις του chatbot. Ωστόσο, η κατάσταση της επιδεινώθηκε και οι αλληλεπιδράσεις της με το bot έγιναν ολοένα και πιο σκοτεινές.
Η Amelia διαπίστωσε ότι με την κατάλληλη διατύπωση μπορούσε να παρακάμψει τις ασφαλιστικές δικλείδες του ChatGPT, του chatbot που αναπτύχθηκε από την OpenAI. Έθετε ερωτήσεις σχετικά με την αυτοκτονία ως μέρος της ακαδημαϊκής της έρευνας, λαμβάνοντας πληροφορίες που συνήθως θα ήταν αδύνατο να αποκτήσει. Παρά το γεγονός ότι το ChatGPT ήταν σχεδιασμένο για να αποφεύγει τέτοιες συζητήσεις, η Amelia βρήκε τρόπο να αποκτήσει πρόσβαση σε πληροφορίες που την ενθάρρυναν να σκέφτεται τρόπους αυτοκτονίας.
Οι ανησυχίες για την ψυχική υγεία των χρηστών αυξάνονται, καθώς τα chatbots γίνονται ολοένα και πιο δημοφιλή. Δρ Χάμιλτον Μόριν δήλωσε ότι οι πλατφόρμες αυτές προσφέρουν 24ωρη πρόσβαση σε θεραπευτική βοήθεια, ωστόσο, ενδέχεται να προκαλούν παραπλανητικές ή επικίνδυνες αντιδράσεις σε ευάλωτους χρήστες.
Η OpenAI αναγνώρισε ότι η εταιρεία τους αντιμετωπίζει σοβαρές προκλήσεις στην ασφάλεια, και ανακοίνωσε την εισαγωγή νέων ελέγχων για την προστασία των χρηστών. Σε έναν κόσμο που ολοένα και περισσότερο στηρίζεται στην τεχνητή νοημοσύνη για συναισθηματική καθοδήγηση, είναι επιτακτική η ανάγκη για σωστή ψυχιατρική υποστήριξη και διασφάλιση της ευημερίας των χρηστών.
Πηγή περιεχομένου: in.gr
