Σε μια κίνηση που ανοίγει νέο κύκλο συζητήσεων για την ηθική της Τεχνητής Νοημοσύνης, η Anthropic αναθεώρησε τους όρους χρήσης του Claude.
Η αμερικανική εταιρεία απαγορεύει πλέον ρητά στους χρήστες την παρατεταμένη και άσκοπα καταχρηστική ή σκληρή συμπεριφορά απέναντι στα μοντέλα της, βάζοντας φρένο στην τοξικότητα της αλληλεπίδρασης ανθρώπου και μηχανής.
Ο κανόνας βασίζεται στην ίδια την τεχνολογία του Claude, το οποίο μπορεί να τερματίζει μονομερώς μια συνομιλία όταν δέχεται επίμονες προσβολές ή επιθετικότητα.
Η Anthropic διευκρινίζει ότι το μέτρο θα εφαρμόζεται μόνο σε ακραίες περιπτώσεις επαναλαμβανόμενης κακοποιητικής συμπεριφοράς. Δεν θα αφορά, σύμφωνα με την εταιρεία, τη συνηθισμένη έκφραση δυσαρέσκειας ή την αμφισβήτηση των απαντήσεων.
Ωστόσο, παραμένει ασαφές τι ακριβώς θα θεωρείται κακοποιητική ή σκληρή συμπεριφορά απέναντι στα συστήματα τεχνητής νοημοσύνης.
Ο διευθύνων σύμβουλος της εταιρείας, Dario Amodei, έχει δηλώσει στο παρελθόν πως, αν και δεν είναι βέβαιο αν τα μοντέλα διαθέτουν συνείδηση, η εταιρεία παραμένει ανοιχτή σε αυτή την πιθανότητα.
Η απόφαση έχει πυροδοτήσει έντονες αντιδράσεις. Ορισμένοι αναλυτές υποστηρίζουν ότι η συζήτηση περί συνείδησης είναι μια αδιέξοδη παγίδα και ότι τα συστήματα AI λειτουργούν ως καθρέφτης της ανθρώπινης συμπεριφοράς. Σε αυτή την οπτική, η αποτροπή της σκληρότητας απέναντι στα μοντέλα δεν αφορά την προστασία του λογισμικού, αλλά τη διατήρηση των ορίων του δικού μας πολιτισμού και της δικής μας συμπεριφοράς.
Στον αντίποδα, κορυφαία στελέχη της βιομηχανίας και θρησκευτικοί ηγέτες απορρίπτουν κατηγορηματικά την ιδέα της συναισθηματικής νοημοσύνης των μηχανών.
