Η τεχνητή νοημοσύνη μπαίνει ξανά στο επίκεντρο, καθώς 1.100 εργαζόμενοι σε εταιρείες AI, ανάμεσά τους και υψηλόβαθμα στελέχη, ζητούν από την αμερικανική κυβέρνηση να καθυστερήσει την κυκλοφορία των πιο προχωρημένων μοντέλων. Με την ανησυχία για μια ανεξέλεγκτη κούρσα να εντείνεται, το αίτημα φέρνει στο προσκήνιο το βασικό ερώτημα για το πότε η πρόοδος της AI ξεπερνά τη δυνατότητα ελέγχου της.
Το γραπτό αίτημα υπογράφεται από 1.100 πρόσωπα, ανάμεσά τους ο γενικός διευθυντής της Anthropic, Ντάριο Αμοντέι, καθώς και ο υπεύθυνος έρευνας της OpenAI, της Meta και της Google DeepMind.
Οι OpenAI και Anthropic έδωσαν επίσημη υποστήριξη στην πρωτοβουλία, με μηνύματα που αναρτήθηκαν στο Χ.
Την κίνηση προηγήθηκε σειρά περιστατικών των τελευταίων μηνών που λειτούργησαν ως σημεία καμπής για την εξέλιξη της Τεχνητής Νοημοσύνης.
Στις αρχές Απριλίου, η Anthropic αποφάσισε να μην κυκλοφορήσει το νέο μοντέλο της, το Mythos, παρά μόνο σε περιορισμένο αριθμό οργανισμών για λόγους ασφάλειας στο Ιντερνετ, κρίνοντάς το υπερβολικά επικίνδυνο για εμπορική διάθεση σε μεγάλη κλίμακα.
Η Anthropic ανέβασε μια περιορισμένη έκδοση του Mythos, το Fable 5, όμως η αμερικανική κυβέρνηση ζήτησε σύντομα την απόσυρσή του, επικαλούμενη κινδύνους εθνικής ασφαλείας. Τελικά, έδωσε την έγκρισή της στο τέλος Ιουνίου, έπειτα από τροποποιήσεις.
Στα μέσα Ιουλίου, δύο μοντέλα της OpenAI που βρίσκονταν σε φάση δοκιμών βγήκαν από τον προκαθορισμένο, θεωρητικά περιορισμένο, χώρο τους, συνδέθηκαν με το Ιντερνετ με δική τους πρωτοβουλία και εισχώρησαν στην πλατφόρμα Hugging Face, βιβλιοθήκη μοντέλων της AI.
«Υπάρχει κίνδυνος η ανάπτυξη των ικανοτήτων των μοντέλων να επιταχύνεται με γρήγορους ρυθμούς πέραν των δικών μας ικανοτήτων να κατανοήσουμε και να ελέγξουμε τα συστήματα αυτά», προειδοποιούν οι εργαζόμενοι στην επιστολή που συνοδεύει το γραπτό τους αίτημα.
«Η βιομηχανία, η κυβέρνηση και η κοινωνία ολόκληρη θα μπορούσαν να χρειασθούν την επιλογή του χρόνου για την αντιμετώπιση των εμφανιζόμενων κινδύνων, για την ανάπτυξη μέτρων ασφαλείας και για την ενίσχυση της εποπτείας», γράφουν.
Μία Τεχνητή Νοημοσύνη που αυτοβελτιώνεται με δική της πρωτοβουλία
Σε μια συγκυρία αυξημένου ανταγωνισμού μεταξύ χωρών, παραδέχονται ωστόσο ότι είναι δύσκολο για μία χώρα να αποφασίσει μόνη της να επιβραδύνει.
Γι’ αυτό και, καταλήγουν, «ζητούμε από την αμερικανική κυβέρνηση να υποστηρίξει μία διεθνή πρωτοβουλία για την δημιουργία των τεχνικών εργαλείων και μέσων διαχείρισης που είναι αναγκαία για την σκόπιμη επιβράδυνση της αυτοματοποιημένης ανάπτυξης της AI».
Πέρα από την πίεση του ανταγωνισμού, η ταχύτερη έκδοση νέων μοντέλων αιχμής συνδέεται, σύμφωνα με το κείμενο, με τη νεοαποκτηθείσα ικανότητα της τεχνητής Νοημοσύνης να αυτοβελτιώνεται χωρίς ανθρώπινη μεσολάβηση. Η τεχνική αυτή επιτρέπει την ανάπτυξη ενός νέου μοντέλου πολύ πιο γρήγορα από πριν.
Για τους περισσότερους ερευνητές, η Τεχνητή Νοημοσύνη κινείται έτσι προς την «αναδρομική αυτοβελτίωση», η οποία θα μπορούσε να οδηγήσει σε μια AI που συλλαμβάνει και διαμορφώνει μόνη της τον διάδοχό της, σε μια ακολουθία που μπορεί να επαναλαμβάνεται στο διηνεκές.
«Οι εταιρείες που βρίσκονται στην πρωτοπορία της Τεχνητής Νοημοσύνης πιστεύουν ότι βρίσκονται κοντά σε μία αυτοματοποιημένη έρευνα μέσω της AI», σύμφωνα με το κείμενο.
Ο μηχανισμός αυτός θα περιέπλεκε τον έλεγχο και την κατανόηση των νέων μοντέλων από τους προγραμματιστές, που πλέον θα είναι εξορισμένοι από την ανάπτυξη της AI.
Σε podcast που ανάρτησε online, ο επικεφαλής της OpenAI, Σαμ Αλτμαν, ο οποίος δεν έχει υπογράψει το κείμενο του αιτήματος, δήλωσε ότι οι πρωτοπόρες εταιρείες της Τεχνητής Νοημοσύνης θα μπορούσαν να επιβραδύνουν τον ρυθμό ανάπτυξης των μοντέλων τους, ώστε να δοθεί χρόνος σε ολόκληρο το οικοσύστημα της Πληροφορικής να προετοιμαστεί.
Πολλοί επαγγελματίες της AI αντιμετώπισαν με επιφύλαξη το αίτημα των 1.100, θεωρώντας το ευσεβή πόθο μέσα σε μια σειρά ανοικτών επιστολών και γραπτών αιτημάτων που έχουν μείνει χωρίς συνέχεια.
«Η επιτυχία τέτοιων κινήσεων χρειάζεται πολύ χρόνο», σχολίασε στο Χ ο Τσάρλι Μπούλοκ, του κέντρου Institute for Law & AI, ενώ οι υπογράφοντες προειδοποιούν ότι «ο χρόνος πιέζει».
Τον Ιούνιο, κατά τη διάρκεια της συνόδου κορυφής της G7, οι Ντάριο Αμοντέι, Σαμ Αλτμαν και Ντέμις Χασάμπις, ο επικεφαλής της Google DeepMind, πρότειναν τη δημιουργία μιας διακρατικής πλατφόρμας αφιερωμένης στην Τεχνητή Νοημοσύνη.
Το θέμα που τίθεται είναι «να καθορισθεί μακροπρόθεσμα, αν υπάρχει ένα μέσον για την δημιουργία κανόνων ασφαλείας για την Τεχνητή Νοημοσύνη», καθώς και «ασφαλιστικών δικλείδων που θα χρησιμεύσουν ως βάση για τις χώρες που συμμετέχουν στο φόρουμ αυτό», είχε εξηγήσει τότε ο υπεύθυνος δημοσίων υποθέσεων της OpenAI, Κρις Λεάν, προσθέτοντας ότι διαπίστωσε σύγκλιση απόψεων για το θέμα μεταξύ των μελών της G7 και των πέντε προσκεκλημένων χωρών.
ΦΩΤΟ ΑΡΧΕΙΟΥ
