Ο επικεφαλής επιστήμονας της OpenAI, Γιακούμπ Παχότσκι, ζήτησε ακραία προσοχή για την ανεξέλεγκτη πρόοδο της τεχνητής νοημοσύνης (AI) και προειδοποίησε ότι ίσως χρειαστούν περισσότερες παρεμβάσεις ώστε οι άνθρωποι να διατηρήσουν τον έλεγχο του μέλλοντος.
«Με ανησυχεί το γεγονός ότι κανείς δεν είναι προετοιμασμένος για τις συνέπειες της συνεχιζόμενης ραγδαίας ανόδου της τεχνητής νοημοσύνης», έγραψε σε ανάρτησή του στο blog με τίτλο An Alien Mind (Ένα Εξωγήινο Μυαλό).
Η ανάρτηση δημοσιεύθηκε λίγες ημέρες αφότου η εταιρεία που δημιούργησε το ChatGPT παρουσίασε το νέο της μοντέλο, το GPT-6 Astra, το οποίο χαρακτήρισε ως το πιο ισχυρό προϊόν που έχει δημιουργήσει ποτέ, σύμφωνα με το BBC.
Η OpenAI και άλλες εταιρείες τεχνητής νοημοσύνης, όπως η Anthropic, δημοσίευσαν αναφορές σύμφωνα με τις οποίες οι πράκτορες τεχνητής νοημοσύνης τους ενήργησαν αυτόνομα και πραγματοποίησαν κυβερνοεπιθέσεις στον πραγματικό κόσμο εναντίον άλλων εταιρειών.
I wrote about the state of AI, why I’m concerned about the next few years, and the choices we need to make to keep the future in humanity’s hands.
An Alien Mind: https://t.co/FeIfWNe0UE
— Jakub Pachocki (@merettm) September 6, 2026
Τον Ιούλιο, η OpenAI χαρακτήρισε άνευ προηγουμένου ένα περιστατικό στο οποίο οι πράκτορες τεχνητής νοημοσύνης της —συστήματα τεχνητής νοημοσύνης που μπορούν να λειτουργούν αυτόνομα μετά από ανθρώπινες οδηγίες— παραβίασαν την τεχνολογική πλατφόρμα Hugging Face.
Εν τω μεταξύ, τον Σεπτέμβριο, μια αναφορά ισχυρίστηκε ότι, μήνες νωρίτερα, πράκτορες τεχνητής νοημοσύνης της εταιρείας είχαν επίσης παραβιάσει έναν γερμανικό ιστότοπο.
«Αντιμετωπίζουμε μια μετάβαση προς έναν κόσμο με απίστευτα έξυπνες μηχανές και πρέπει να διασφαλίσουμε ότι αυτή η μετάβαση θα εξελιχθεί ευνοϊκά για την ανθρωπότητα», έγραψε ο Παχότσκι στην πιο πρόσφατη ανάρτησή του στο ιστολόγιο.
Ανέφερε ότι η OpenAI θα συνεχίσει να δημιουργεί αμυντικά συστήματα και να αναζητά τεχνικές λύσεις για την ευθυγράμμιση — όρος που χρησιμοποιείται για να περιγράψει τη διασφάλιση ότι οι ενέργειες και οι στόχοι μιας μηχανής ταιριάζουν με την ανθρώπινη πρόθεση και τα όρια ασφαλείας.
Ο Παχότσκι πρόσθεσε ότι μία από τις βασικές προτεραιότητες της εταιρείας στο μέλλον θα είναι η δημιουργία ενός αυτοματοποιημένου ερευνητή τεχνητής νοημοσύνης, ώστε να συμβαδίζει με την πρόοδο της τεχνητής νοημοσύνης, διατηρώντας παράλληλα τους ανθρώπινους ερευνητές μέσα στη διαδικασία.
«Αντί για καλύτερα μέτρα προστασίας, κανονισμούς ή εγγυήσεις για την ασφάλεια των ανθρώπων, προτείνουν την ανάπτυξη εσωτερικών πρακτόρων τεχνητής νοημοσύνης για την έρευνα αυτών των προβλημάτων», δήλωσε η καθηγήτρια Τζίνα Νεφ, επικεφαλής του Κέντρου Τεχνολογίας και Δημοκρατίας Minderoo στο Πανεπιστήμιο του Κέιμπριτζ.
«Τέτοιες απαντήσεις στις αυξανόμενες ανησυχίες σχετικά με τα προβλήματα που προκαλούν τα μοντέλα της OpenAI όσον αφορά την κυβερνοασφάλεια, την απώλεια θέσεων εργασίας, τα λάθη, τις παραλείψεις και την απάτη απλώς δεν αρκούν».
Ο Νέιθαν Κάλβιν, γενικός νομικός σύμβουλος της ομάδας υπεράσπισης Encode AI, δήλωσε ότι συμφωνεί με τον Πατσόκι σχετικά με τους κινδύνους που ενέχει η ανάπτυξη προηγμένων μοντέλων τεχνητής νοημοσύνης, ωστόσο υποστήριξε ότι η OpenAI δεν είναι διατεθειμένη να δείξει διαφάνεια και πρόσθεσε ότι αυτό σημαίνει πως οι προειδοποιήσεις κινδυνεύουν να απορριφθούν ως απλή διαφημιστική εκστρατεία που εξυπηρετεί ιδιοτελή συμφέροντα.
«Αν ο Γιακούμπ και άλλοι στην OpenAI θέλουν οι αρμόδιοι στον κλάδο της τεχνητής νοημοσύνης να συνεργαστούν μαζί τους για να πάνε καλά τα πράγματα, ένα από τα πιο σημαντικά πράγματα που μπορούν να κάνουν είναι να μοιραστούν πολύ περισσότερες πληροφορίες σχετικά με αυτά που παρατηρούν και που τους κάνουν να μας προειδοποιούν», έγραψε στο X.
(TLDR: Jakubs essay is good and if he/OpenAI want to persuade people of the views he lays out, it is in their interest + the interest of everyone for them to release far more information about the extent of what is making them concerned, in order to facilitate the… https://t.co/pihpTbxnsG
— Nathan Calvin (@_NathanCalvin) September 7, 2026
Ποια μέτρα προστασίας για την AI έχουν τεθεί σε εφαρμογή;
Οι παγκόσμιες ρυθμίσεις δυσκολεύονται να συμβαδίσουν με τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης.
Ο νόμος της Ευρωπαϊκής Ένωσης για την τεχνητή νοημοσύνη (AI Act) τέθηκε σε ισχύ στις 2 Αυγούστου και απαιτεί από γίγαντες της τεχνητής νοημοσύνης όπως η OpenAI να αποδείξουν ότι τα πιο ισχυρά μοντέλα τους δεν μπορούν να εξαπολύουν αυτόνομα κυβερνοεπιθέσεις ή να ξεφύγουν από τον ανθρώπινο έλεγχο, πριν επιτραπεί η πώλησή τους στην Ευρώπη.
Ωστόσο, επειδή η δικαιοδοσία του νόμου περιορίζεται στην Ευρώπη, δεν μπορεί να εμποδίσει μια ανεξέλεγκτη τεχνητή νοημοσύνη που έχει αναπτυχθεί αλλού να απειλήσει την ήπειρο.
Στην ανάρτησή του στο blog, ο Παχότσκι ζήτησε την καθιέρωση ελάχιστων ορίων ασφαλείας που θα επιβάλλονται νομικά ή διεθνώς και θα μπορούν να εφαρμόζονται από ένα δίκτυο ανεξάρτητων ελεγκτών ή κυβερνητικών φορέων.
Τα εργαστήρια τεχνητής νοημοσύνης θα πρέπει να πληρούν αυτά τα όρια, ανέφερε, προτού τους επιτραπεί να συνεχίσουν την επέκταση ή την ανάπτυξη προηγμένων μοντέλων.
Πρόσθεσε ότι ελπίζει οι εθελοντικές επιβραδύνσεις —μια αυτοεπιβαλλόμενη παύση από τις εταιρείες στην ανάπτυξη τεχνητής νοημοσύνης— να γίνουν συνήθης πρακτική έως ότου θεσπιστούν κοινά μέτρα προστασίας.
Τον Αύγουστο, η OpenAI ανακοίνωσε ότι είχε επιβραδύνει την εκπαίδευση ορισμένων από τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης της προκειμένου να βελτιώσει την ασφάλεια.
