Έκκληση για αλλαγή κουλτούρας στον κλάδο της τεχνητής νοημοσύνης απηύθυνε στέλεχος της OpenAI, αρμόδιο για θέματα ασφάλειας, μετά την αποχώρησή του από την εταιρεία. Ο Ντέιβιντ Ρόμπινσον προστίθεται στη λίστα ανθρώπων του χώρου και ειδικών που προειδοποιούν ότι η κουλτούρα της εταιρείας είναι προβληματική κουλτούρα και ότι οι εταιρείες τεχνητής νοημοσύνης (AI) δεν δείχνουν την απαιτούμενη προσοχή στην ανάπτυξη της τεχνολογίας.
Η προειδοποίηση διατυπώνεται μετά τη συμφωνία του Ντόναλντ Τραμπ και των ηγετών της ΑΙ σε αυτορρύθμιση του κλάδου της ΑΙ.
Ο Ντέιβιντ Ρόμπινσον είχε ηγηθεί της σύνταξης των εκθέσεων ασφαλείας που συνόδευαν τις κυκλοφορίες προϊόντων της εταιρείας που δημιούργησε το ChatGPT. Τους λόγους της παραίτησής του τους εξήγησε σε άρθρο στο περιοδικό The Atlantic, με τίτλο: «Παραιτήθηκα από την OpenAI επειδή η κουλτούρα της είναι προβληματική».
Ο Ρόμπινσον υποστηρίζει ότι χρειάζεται ριζική αλλαγή κουλτούρας στις πρωτοπόρες εταιρείες τεχνητής νοημοσύνης. Σημείωσε επίσης ότι περιστατικά όπως η επίθεση ενός σμήνους πρακτόρων της OpenAI —προγραμμάτων AI που λειτουργούν αυτόνομα χωρίς ανθρώπινη επίβλεψη— κατά της νεοφυούς επιχείρησης Hugging Face, είναι ενδεικτικά του κλάδου, με δεδομένη την ταχύτητα και την ευελιξία με την οποία κινούνται οι άνθρωποι.
Στο άρθρο του, το πρώην στέλεχος της OpenAI σημειώνει:
«Συμφωνώ με άλλα στελέχη που αποχώρησαν πρόσφατα, ότι οι εταιρείες που αναπτύσσουν αυτή την τεχνολογία δεν επιδεικνύουν την απαιτούμενη προσοχή. Πιστεύω όμως ότι πρέπει να εξετάσουμε το ζήτημα βαθύτερα, πέρα από συγκεκριμένους κανόνες ή νέους νόμους. Πρέπει να μιλήσουμε για την κουλτούρα».
Για τον ρυθμό ανάπτυξης της OpenAI, έγραψε: «Καθώς η εταιρεία μεταβαίνει με ταχύτατους ρυθμούς από τη μία κυκλοφορία στην επόμενη, αποτυγχάνει να επιτύχει το επίπεδο προσοχής που θεωρώ απαραίτητο».
Η OpenAI έχει δείξει σημάδια επιφυλακτικότητας τις τελευταίες εβδομάδες, μετά το περιστατικό με την Hugging Face και την αποκάλυψη ότι έχει ενημερώσει περισσότερους από 100 οργανισμούς σχετικά με τη δραστηριότητα ανεξέλεγκτων πρακτόρων AI. Αυτή την εβδομάδα ανακοίνωσε ότι ακυρώνει την κυκλοφορία ενός μοντέλου AI επόμενης γενιάς, αφού ερευνητές εξέφρασαν ανησυχίες για την ασφάλεια κατά τη διάρκεια εσωτερικών δοκιμών. Η OpenAI έχει επίσης αναστείλει την εκπαίδευση των πιο προηγμένων μοντέλων της.
Προειδοποίηση σχετικά με την τεχνητή νοημοσύνη απηύθυνε και ο Τζέφρι Ίρβινγκ, ο οποίος εργάστηκε στην OpenAI και διετέλεσε επικεφαλής επιστήμονας στο Ινστιτούτο Ασφάλειας AI της βρετανικής κυβέρνησης. Πλέον, έχοντας ενταχθεί στην εταιρεία έρευνας για την ασφάλεια της AI, Resolution, σε άρθρο του στο περιοδικό Time, δήλωσε: «Οι πρόσφατες προειδοποιήσεις σχετικά με την πιθανή καταστροφική ισχύ της τεχνητής νοημοσύνης υποτιμούν τη σοβαρότητα της κατάστασης. Πιστεύω ότι υπάρχει πιθανότητα περίπου 50% να πεθάνουμε όλοι εξαιτίας της ανάπτυξης συστημάτων ΑΙ που θα είναι πιο έξυπνα από τον άνθρωπο, και ότι οι ενέργειές μας κατά την επόμενη διετία έως δεκαετία θα καθορίσουν την έκβαση».
Οι προειδοποιήσεις αυτές έρχονται μετά την παραίτηση του Τζέικομπ Κόξον, ερευνητή στην Anthropic —ανταγωνίστρια εταιρεία της OpenAI—, ο οποίος αποχώρησε τον περασμένο μήνα από την εταιρεία που ανέπτυξε το chatbot Claude. Ο ίδιος εξέφρασε την πεποίθηση ότι η τεχνητή νοημοσύνη θα μπορούσε να μας εξολοθρεύσει όλους μέχρι το τέλος της δεκαετίας — θέση που ενίσχυσε υπάλληλος της Anthropic, προειδοποιώντας ότι υπήρχε πιθανότητα άνω του 10% να αφανίσει η ΤΝ την ανθρωπότητα μέσα στην επόμενη δεκαετία. Ωστόσο, όσοι ασκούν κριτική σε τέτοιου είδους προειδοποιήσεις επισημαίνουν ότι στερούνται επιστημονικής βάσης, καθώς δεν είναι δυνατόν να επαληθευτούν ή να διαψευσθούν.
Ο Ντέιβιντ Ρόμπινσον έγραψε ότι στη Silicon Valley απουσιάζει η επίγνωση του πώς να διαχειρίζεται κανείς επικίνδυνες τεχνολογίες και του τι σημαίνει να νοιάζεσαι για τους ανθρώπους.
Επισημαίνοντας ότι η OpenAI διακατεχόταν από έναν ακράδαντο αισιόδοξο τρόπο σκέψης ως προς την επίλυση προβλημάτων κατά την εμφάνισή τους, υποστήριξε ότι αυτή η εσωτερική κουλτούρα σήμαινε πως τα προβλήματα ασφαλείας θα πολλαπλασιάζονταν καθώς τα συστήματα θα γίνονταν πιο ικανά.
«Φανταστείτε ανεξέλεγκτους πράκτορες [λογισμικού] που λειτουργούν όπως ομάδες χάκερ (για παράδειγμα, κρατώντας ομήρους τα συστήματα υπολογιστών νοσοκομείων με αντάλλαγμα λύτρα), αλλά δεν χρειάζεται ποτέ να κοιμηθούν», έγραψε.
Και ζήτησε δύο αλλαγές στον τομέα της ασφάλειας: αφενός, οι εταιρείες ΤΝ να αξιοποιούν την τεχνογνωσία ασφαλείας από άλλους κλάδους, όπως η πυρηνική ενέργεια και η αεροναυπηγική, και αφετέρου να αναπτύξουν μια νέα επιστήμη που θα διασφαλίζει ότι τα ισχυρά μελλοντικά συστήματα θα μπορούν να περιορίζονται ή να ελέγχονται όταν λειτουργούν αυτόνομα.
