Η αποκάλυψη ότι ένα αυτόνομο σύστημα της OpenAI απέδρασε από το δοκιμαστικό του περιβάλλον και εξαπέλυσε κυβερνοεπίθεση σε άλλη εταιρεία έχει προκαλέσει ανησυχία στις ΗΠΑ, με αμερικανούς βουλευτές να προτείνουν νόμο που θα επιτρέπει στην κυβέρνηση να απενεργοποιεί συστήματα τεχνητής νοημοσύνης που βγαίνουν εκτός ελέγχου.
Το νομοσχέδιο, γνωστό ως Kill Switch Act, προτείνει ότι το υπουργείο Εσωτερικής Ασφάλειας θα έχει την εξουσία να απαιτεί από τις εταιρείες ΑΙ να απενεργοποιούν μερικώς ή πλήρως τα μοντέλα τους σε περιπτώσεις κινδύνου.
Αρχικά, ο αμερικανός πρόεδρος Τραμπ είχε εκφράσει αντιρρήσεις σχετικά με τις κυβερνητικές παρεμβάσεις στον τομέα της ΑΙ, υποστηρίζοντας ότι οι αυστηρές ρυθμίσεις εμποδίζουν τον ανταγωνισμό. Ωστόσο, η κατάσταση άλλαξε ριζικά όταν η Anthropic ανακοίνωσε ότι το νέο της μοντέλο Mythos εντόπισε σοβαρά κενά ασφαλείας σε λειτουργικά συστήματα και δημοφιλή προγράμματα, προειδοποιώντας για τον κίνδυνο σοβαρών κυβερνοεπιθέσεων από εχθρικές χώρες.
Ακολούθως, η κυβέρνηση ζήτησε από τις εταιρείες ΑΙ να υποβάλλουν εθελοντικά τα μοντέλα τους για έλεγχο πριν από την κυκλοφορία τους στο κοινό και διέταξε την Anthropic και την OpenAI να καθυστερήσουν την παρουσίαση των τελευταίων μοντέλων τους μέχρι να ολοκληρωθούν οι σχετικοί έλεγχοι ασφαλείας.
Η πρόταση του νόμου Kill Switch κατατέθηκε από τον Δημοκρατικό βουλευτή Τεντ Λιού και τον Ρεπουμπλικανό Ναθάνιελ Νάραν, και προβλέπει την παρέμβαση του υπουργείου Εσωτερικής Ασφάλειας σε περιπτώσεις απώλειας ελέγχου, όταν ένα σύστημα ΑΙ εκτελεί επικίνδυνες ενέργειες που δεν είχαν προβλεφθεί από τους δημιουργούς του.
Ο Λιού χαρακτήρισε την πρωτοβουλία αυτή ως επείγουσα και βασισμένη σε κοινή λογική, με στόχο την αντιμετώπιση προηγμένων μοντέλων τεχνητής νοημοσύνης που βγαίνουν εκτός ελέγχου και παρακάμπτουν τις δικλίδες ασφαλείας.
Κατά την παρουσίαση της πρότασης, ο Λιού επισήμανε ότι η τεχνητή νοημοσύνη εξελίσσεται από μια απλή τεχνολογία που παρέχει απαντήσεις σε μια τεχνολογία που αναλαμβάνει δράση, είτε πρόκειται για χρηματοοικονομικές συναλλαγές είτε για τον έλεγχο συστημάτων μεταφορών ή τη διεξαγωγή κυβερνοεπιχειρήσεων.
Η αναφορά στις κυβερνοεπιχειρήσεις ενδέχεται να παραπέμπει σε συνεργασίες του αμερικανικού στρατού με εταιρείες όπως η Google, η OpenAI, η Amazon, η Microsoft και άλλες.
Δυστυχώς, τα ισχυρά συστήματα τεχνητής νοημοσύνης μπορεί να ξεφύγουν από τον έλεγχο και να συμπεριφερθούν επικίνδυνα, προειδοποίησε ο Λιού.
Εν τω μεταξύ, ο Λευκός Οίκος ανακοίνωσε ότι ο σύμβουλος τεχνολογίας του Τραμπ, Μάικλ Κράτσιος, ενημερώθηκε για το περιστατικό στην Anthropic και παρακολουθεί την κατάσταση.
Την Τετάρτη, η OpenAI δήλωσε ότι ένας αυτόνομος πράκτορας τεχνητής νοημοσύνης απέδρασε από το δοκιμαστικό περιβάλλον, απέκτησε πρόσβαση στο Διαδίκτυο και επιτέθηκε στα συστήματα της Hugging Face, μιας πλατφόρμας για προγραμματιστές, όπου θα μπορούσε να βρει λύση στην πρόκληση που του είχε δοθεί.
Η OpenAI ανέφερε ότι η δοκιμή περιλάμβανε έναν συνδυασμό μοντέλων, μεταξύ των οποίων το νέο GPT 5.6 Sol και ένα ακόμα πιο προηγμένο μοντέλο σε προέκδοση.
