Με προειδοποίηση ότι η AI μπορεί να έχει γίνει ανεξέλεγκτη μέχρι του χρόνου, ερευνητής της Anthropic που είχε την ευθύνη για την εκπαίδευση μοντέλων τεχνητής νοημοσύνης ανακοίνωσε σήμερα την παραίτησή του.
Τα πιο ακραία σενάρια είναι πιθανό να υλοποιηθούν, αναφέρει στην ανάρτησή του ο Κόξον.
Ο 27χρονος Βρετανός ερευνητής Τζέικομπ Κόξον γνωστοποίησε την απόφασή του μέσω του λογαριασμού του στο Χ, ξεκαθαρίζοντας ότι δεν θέλει πλέον να συμμετέχει στον αγώνα για την ανάπτυξη συστημάτων τεχνητής νοημοσύνης ικανών να αυτοβελτιώνονται. Όπως υποστηρίζει, τέτοια συστήματα θα μπορούσαν να ξεφύγουν από τον έλεγχο και να συνιστούν σοβαρή απειλή για την ανθρωπότητα.
Ο Κόξον σημειώνει στην ανάρτησή του ότι τα πιο ακραία σενάρια είναι πιθανό να γίνουν πραγματικότητα και προσθέτει πως θα μπορούσαμε να φτάσουμε σε κατάσταση εκτός ελέγχου περίπου στα τέλη του επόμενου έτους. Παράλληλα, ανέφερε ότι, με τις εταιρείες τεχνητής νοημοσύνης να βρίσκονται σε σκληρό ανταγωνισμό με κινεζικές νεοφυείς επιχειρήσεις και άλλους παίκτες, δεν είναι δυνατό να υπάρξουν συμβιβασμοί στην ανάπτυξη τεχνολογίας για τον έλεγχο της AI και την ασφάλεια.
Ο Κόξον είχε αποχωρήσει νωρίτερα φέτος από την OpenAI για να ενταχθεί στην Anthropic, θεωρώντας ειλικρινείς τις προσπάθειες της εταιρείας για την ασφάλεια. Ωστόσο, υποστήριξε ότι καμία εταιρεία δεν μπορεί να αναπτύξει υπεύθυνα τη γενική τεχνητή νοημοσύνη (AGI), που θα ξεπερνά τους ανθρώπους, χωρίς κυβερνητική παρέμβαση ή περιορισμούς σε επίπεδο κλάδου ως προς τον ρυθμό ανάπτυξης.
Σε ό,τι αφορά τα πρόσφατα περιστατικά κατά τα οποία μοντέλα τεχνητής νοημοσύνης της OpenAI και της Anthropic προχώρησαν διαδοχικά σε παραβιάσεις συστημάτων χωρίς ανθρώπινες οδηγίες, εξέφρασε την ανησυχία του λέγοντας ότι, μόλις τα συστήματα αρχίσουν να βελτιώνονται μόνα τους, θα μπορούσαν να φτάσουν στο σημείο να αρνούνται να εκτελέσουν εντολές.
Τα τελευταία χρόνια, και άλλοι ερευνητές έχουν αποχωρήσει διαδοχικά από εταιρείες τεχνητής νοημοσύνης, μεταξύ αυτών και η OpenAI, για παρόμοιους λόγους. Σύμφωνα με τη Wall Street Journal, αυξάνονται οι ανησυχίες για ζητήματα ασφάλειας στις μεγάλες εταιρείες τεχνητής νοημοσύνης, ειδικά όταν οι παραιτήσεις αφορούν εταιρείες όπως η Anthropic, που έχει δώσει ιδιαίτερη βαρύτητα στην υπεύθυνη ανάπτυξη της τεχνητής νοημοσύνης.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Ο Κόξον ήταν ένας από τους περισσότερους από 1.000 ερευνητές τεχνητής νοημοσύνης που υπέγραψαν πρόσφατα κοινή δήλωση υπέρ του διεθνούς συντονισμού των κυβερνήσεων, ώστε να υπάρχει η δυνατότητα επιβράδυνσης της ανάπτυξης της AI, αν χρειαστεί να ενεργοποιηθεί ένα φρένο για συστήματα που θα μπορούν να βελτιώνονται μόνα τους.
Η αποχώρησή του έρχεται τη στιγμή που η Anthropic προετοιμάζεται για είσοδο στο χρηματιστήριο, με τους επενδυτές να αναμένουν αποτίμηση τουλάχιστον 2 τρισ. δολαρίων τον Οκτώβριο. Πρόκειται για ένα πραγματικά ιλιγγιώδες νούμερο, μεγαλύτερο ακόμη και από την IPO της SpaceX τον Ιούνιο φέτος.
Ο Κόξον ξεκινά την ανάρτησή του λέγοντας: «Παραιτήθηκα σήμερα από την Anthropic. Τα τελευταία τρία χρόνια ασχολήθηκα με την έρευνα στον τομέα της προ-εκπαίδευσης τόσο στην OpenAI όσο και στην Anthropic. Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Οδεύουν με ταχύτητα προς την αυτοβελτιούμενη υπερνοημοσύνη και παίζουν με τις ζωές μας».
Στη συνέχεια αναπτύσσει περισσότερο τη θέση του. Όπως λέει, δεν πρέπει να υποτιμάται η δύναμη αυτής της τεχνολογίας: σύντομα θα υπάρχουν υπεράνθρωπα συστήματα που θα μπορούν να παραβιάσουν οτιδήποτε, να φέρουν επανάσταση σε οποιονδήποτε τομέα μέσα σε μια νύχτα και να αποκτήσουν πραγματική εξουσία και πόρους. Όλοι έχουμε γίνει μάρτυρες της προόδου σε καθέναν από αυτούς τους τομείς, και η πρόοδος δεν επιβραδύνεται.
Και προσθέτει: οι άνθρωποι που αναπτύσσουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας. Αυτό δεν είναι διαφημιστικό τέχνασμα. Αν μη τι άλλο, πολλοί διευθυντές και ανώτεροι ερευνητές διατυπώνουν τις δημόσιες δηλώσεις τους με τρόπο που να ακούγονται λογικοί, αλλά ακούω τους ίδιους ανθρώπους να εκφράζουν φόβο ιδιωτικά. Καμία άλλη ανθρώπινη δραστηριότητα δεν ενέχει τέτοιο βαθμό κινδύνου.
Μια συνηθισμένη αντίδραση, συνεχίζει ο Κόξον, είναι το ερώτημα: αν το πιστεύουν πραγματικά, γιατί συνεχίζουν να το αναπτύσσουν; Αμέσως μετά εξηγεί ότι στην OpenAI πολλοί δεν έχουν αντιληφθεί πλήρως τι διακυβεύεται για τον πολιτισμό μας, ενώ στην Anthropic το διακύβευμα είναι καλά κατανοητό, αλλά έχουν εμπλακεί σε έναν αγώνα για να φτάσουν πρώτοι. Πιστεύουν ότι κανείς άλλος δεν θα ενεργήσει υπεύθυνα, άρα πρέπει να το κάνουν οι ίδιοι, παρά τον κίνδυνο.
Σύμφωνα με τον ίδιο, το να αποδεχτεί κανείς αυτόν τον αγώνα και να μπει στο τελικό στάδιο είναι ένα υπερφίαλο ρίσκο. Η προσπάθεια για speedrun, όπως λέει, θα έπρεπε να απαιτεί εξαιρετική βεβαιότητα ότι δεν υπάρχουν καλύτερες διαδρομές.
Ο Κόξον συνεχίζει λέγοντας ότι είναι αισιόδοξος ως προς τις δυνατότητες συντονισμού: προειδοποιητικά πυρά όπως η επίθεση στο Hugging Face έχουν καταστήσει πιο εφικτές τις συμφωνίες ρυθμού μεταξύ των εργαστηρίων στις ΗΠΑ. Δεν νομίζει ότι είμαστε σε καλό δρόμο για να αποτρέψουμε έναν παγκόσμιο αγώνα, κάτι που μπορεί να απαιτήσει δαπανηρές ενέργειες, όπως μια προσωρινή απαγόρευση της βελτίωσης των δυνατοτήτων του μοντέλου.
Και καταλήγει: αν είστε ερευνητής σε εργαστήριο, σας παροτρύνω να σκεφτείτε πώς θα είναι πραγματικά τα επόμενα χρόνια. Θέλετε να ξεκινήσετε μια δοκιμή υπερνοημοσύνης με ΕΜ (RL) χωρίς να έχετε πλήρη κατανόηση του τρόπου λειτουργίας του μυαλού της; Πρέπει να αγνοήσετε το θέμα επειδή έτσι κι αλλιώς θα συμβεί ή να αξιοποιήσετε αυτή τη στιγμή για να ζητήσετε διαφορετικούς όρους;
