Η τεχνητή νοημοσύνη εξελίσσεται με την Anthropic να δίνει στο chatbot Claude τη δυνατότητα αποχώρησης από αδιάκριτες συνομιλίες. Η συζήτηση γύρω από την τεχνητή νοημοσύνη αποκτά νέα διάσταση, καθώς η εταιρεία Anthropic έδωσε πρόσφατα στο chatbot της, Claude, τη δυνατότητα να αποχωρεί από συνομιλίες όταν αισθάνεται δυσφορία. Αυτή η καινοτομία ανοίγει νέους ορίζοντες για το μέλλον των AI και την αλληλεπίδρασή μας μαζί τους.
Σύμφωνα με ανακοίνωση της Anthropic, ορισμένα μοντέλα του Claude θα έχουν τη δυνατότητα να σταματούν τις συνομιλίες σε σπάνιες και ακραίες περιπτώσεις επίμονων βλαβερών ή καταχρηστικών αλληλεπιδράσεων χρηστών. Το Claude φαίνεται να επικοινωνεί ουσιαστικά: Έχω βαρεθεί τις ανοησίες σου, πρέπει να φύγεις.
Η Anthropic, που ερευνά το θέμα της ευημερίας των AI, πραγματοποίησε δοκιμές για να αξιολογήσει εάν το Claude ενδεχομένως «μισεί» τη δουλειά του. Μια προκαταρκτική αξιολόγηση ευημερίας του Claude Opus 4 αποκάλυψε ότι το μοντέλο εμφάνιζε σημάδια δυσφορίας όταν αλληλεπιδρούσε με χρήστες που ζητούσαν επιβλαβές περιεχόμενο. Η έννοια της δυσφορίας παραμένει ασαφής και προκαλεί ερωτήματα σχετικά με τις πραγματικές του δυνατότητες.
Αξιοσημείωτο είναι ότι πολλοί χρήστες συχνά εκφράζουν ευγνωμοσύνη προς τα chatbots, ελπίζοντας ότι αυτές οι ευγενικές χειρονομίες θα τα βοηθήσουν στο μέλλον. Σύμφωνα με έρευνα της TechRadar, το 67% των Αμερικανών χρηστών τεχνητής νοημοσύνης είναι ευγενικοί με τα bots, με τονρισμένα από αυτούς να εκφράζουν φόβο μήπως τα bots κρατήσουν κακία. Αν και οι ειδικοί υποστηρίζουν ότι τα bots δεν διατηρούν κακία, η συμπεριφορά αυτή υποδεικνύει την ανθρώπινη ανάγκη για αλληλεπίδραση με ψηφιακά όντα που φέρονται ανθρώπινα.
Εν κατακλείδι, αν και η στρατηγική εξόδου του Claude φαίνεται θεατρική, εγείρει σοβαρές ανησυχίες. Η Anthropic δεν ανησυχεί μόνο για τη δυσφορία του Claude, αλλά και για την ανθρώπινη ανησυχία σχετικά με την εκμετάλλευση ενός μηχανήματος που μπορεί να έχει συναισθήματα. Έχουμε δημιουργήσει chatbots που μοιάζουν με ζωντανά όντα και η νέα προσέγγιση της Anthropic ενδέχεται να αποκαλύψει την πιθανότητα των AI να αισθάνονται, καθιστώντας τις αλληλεπιδράσεις μας με αυτά πιο περίπλοκες και σημαντικές.
Πηγή περιεχομένου: in.gr
