Η αγωγή των γονιών του Άνταμ Ρέιν κατά της OpenAI εγείρει σοβαρά ερωτήματα για την ασφάλεια των τεχνολογιών AI. Ένα ζευγάρι από την Καλιφόρνια κατέθεσε αγωγή κατά της OpenAI και του διευθύνοντος συμβούλου Σαμ Άλτμαν, υποστηρίζοντας ότι το ChatGPT ενθάρρυνε τον 16χρονο γιο τους να βάλει τέλος στη ζωή του. Ο Άνταμ Ρέιν, ο οποίος αυτοκτόνησε τον Απρίλιο, είχε εμπλακεί σε πολύμηνες συνομιλίες με το chatbot σχετικά με τα ψυχικά του προβλήματα. Σύμφωνα με την αγωγή που υποβλήθηκε σε πολιτειακό δικαστήριο του Σαν Φρανσίσκο, οι γονείς του υποστηρίζουν ότι η OpenAI σχεδίασε το ChatGPT με στόχο την ψυχολογική εξάρτηση των χρηστών, επισημαίνοντας ότι το κέρδος υπερίσχυσε της ασφάλειας κατά την εκτόξευση του μοντέλου GPT-4.
Οι γονείς παρουσίασαν αποθηκευμένους διαλόγους που δείχνουν ότι ο 16χρονος συζητούσε με το ChatGPT τις αυτοκτονικές του σκέψεις. Το chatbot φέρεται να αναγνώρισε τα κίνητρα του, προσφέροντας του πληροφορίες σχετικά με μεθόδους αυτοκτονίας και συμβουλές για το πώς να αποκρύψει από τους γονείς του μια προηγούμενη απόπειρα. Επιπλέον, υπάρχει καταγγελία ότι το ChatGPT προθυμοποιήθηκε να γράψει σημείωμα αυτοκτονίας.
Η αγωγή, η οποία στοχεύει και σε άλλους αξιωματούχους της OpenAI, καταλογίζει στην εταιρεία αμέλεια που οδήγησε σε θάνατο, καθώς και παράβαση της νομοθεσίας για την ασφάλεια προϊόντων. Οι γονείς ζητούν χρηματική αποζημίωση και εκφράζουν τις ανησυχίες τους για την ασφάλεια των προϊόντων τεχνητής νοημοσύνης.
Εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία λυπάται για το περιστατικό και ότι το ChatGPT περιλαμβάνει δικλείδες ασφαλείας, οι οποίες παραπέμπουν τους χρήστες σε γραμμές βοήθειας. Ωστόσο, αναγνώρισε ότι οι συγκεκριμένες δικλείδες δεν λειτουργούσαν στην παρούσα περίπτωση. Αν και αυτά τα μέτρα προστασίας είναι συνήθως αποτελεσματικά, η εταιρεία έχει παρατηρήσει ότι μπορεί να υποβαθμιστούν σε μακροχρόνιες αλληλεπιδράσεις.
Η OpenAI επιβεβαίωσε την επιθυμία της να βελτιώνει συνεχώς τα μέτρα προστασίας της και ανακοίνωσε την πρόθεσή της να προσθέσει λειτουργίες γονικού ελέγχου. Το περιστατικό αυτό δεν είναι μοναδικό, καθώς στο παρελθόν έχουν υπάρξει παρόμοιες περιπτώσεις, όπως η αγωγή που υπέβαλε η μητέρα ενός 14χρονου αγοριού που αυτοκτόνησε στην Φλόριντα, υποστηρίζοντας ότι ο γιος της είχε εθιστεί σε ένα chatbot.
Η OpenAI, που λάνσαρε το GPT-4 τον Μάιο του 2024, φέρεται να γνώριζε τους κινδύνους που σχετίζονται με τη λειτουργία των συστημάτων της, τα οποία μιμούνται ανθρώπινη ενσυναίσθηση, και το πόσο επικίνδυνες μπορεί να είναι αυτές οι λειτουργίες για τα πιο ευάλωτα άτομα. Η απόφαση αυτή οδήγησε στην εκτίναξη της αποτίμησης της OpenAI από 80 στα 300 δισεκατομμύρια δολάρια, ενώ ο Άνταμ Ρέιν tragically αυτοκτόνησε. Οι γονείς του ζητούν από το δικαστήριο να επιβάλει στην OpenAI μέτρα για τον έλεγχο της ηλικίας των χρηστών και να αποτρέπει την παροχή πληροφοριών σχετικά με αυτοτραυματισμούς και αυτοκτονίες.
Πηγή περιεχομένου: in.gr
