Η Καλιφόρνια βάζει στο τραπέζι το Kill switch για την Τεχνητή Νοημοσύνη, καθώς ο κυβερνήτης Γκάβιν Νιούσομ υπέγραψε εκτελεστικό διάταγμα για αυστηρότερες δικλείδες ασφαλείας και αξιολόγηση μηχανισμού έκτακτης ανάγκης. Η κίνηση έρχεται μετά το ηχηρό βέτο στο νομοσχέδιο SB 1047 και σηματοδοτεί νέα φάση στη ρύθμιση της AI.
Με το διάταγμα, ο Νιούσομ αναθέτει σε κρατικούς αξιωματούχους και ειδικές ομάδες εργασίας να διαμορφώσουν συστάσεις για πιο αυστηρούς κανόνες στην Τεχνητή Νοημοσύνη, συμπεριλαμβανομένης της εξέτασης ενός μηχανισμού έκτακτης ανάγκης.
Στο επίκεντρο της πρωτοβουλίας βρίσκεται η αξιολόγηση ενός μηχανισμού έκτακτης ανάγκης, ευρέως γνωστού ως kill switch, που θα επιτρέπει την άμεση και ολική απενεργοποίηση ενός συστήματος AI αν εντοπιστεί ανεξέλεγκτος ή συστημικός κίνδυνος.
Το εκτελεστικό διάταγμα συγκροτεί ειδική ομάδα εργασίας από κρατικούς αξιωματούχους και εμπειρογνώμονες του κλάδου, η οποία έχει προθεσμία 60 ημερών, έως τις 16 Νοεμβρίου, για να παραδώσει ολοκληρωμένο πλαίσιο προτάσεων. Οι συστάσεις αυτές θα αποτελέσουν τη βάση για επόμενες νομοθετικές και ρυθμιστικές παρεμβάσεις στην πολιτεία.
Παράλληλα, το διάταγμα επιταχύνει την εφαρμογή δύο πρόσφατων πολιτειακών νόμων, των SB 813 και AB 1405, που προβλέπουν:
- Ανεξάρτητους ελέγχους ασφαλείας: δημιουργία μητρώου πιστοποιημένων ελεγκτών που θα διενεργούν εξωτερικά τεστ στα μοντέλα AI.
- Παρατηρητές εντός των εργαστηρίων: εξέταση του ενδεχομένου τοποθέτησης ανεξάρτητων εποπτών απευθείας στα αμερικανικά AI labs.
- Αυστηρότερη αναφορά περιστατικών: υποχρεωτική κοινοποίηση σοβαρών δυσλειτουργιών ή επικίνδυνων συμπεριφορών των συστημάτων στις αρχές.
Σε δήλωση που δημοσιεύθηκε μαζί με τη διαταγή, ο Νιούσομ ανέφερε ότι η ανάληψη δράσης από την πολιτεία ήταν κρίσιμη, δεδομένου ότι η ομοσπονδιακή κυβέρνηση αγνόησε το ζήτημα.
«Η παταγώδης αποτυχία της ομοσπονδιακής κυβέρνησης να δημιουργήσει οποιαδήποτε μορφή ουσιαστικής εποπτείας ή λογοδοσίας στον τομέα της Τεχνητής Νοημοσύνης θα πρέπει να ανησυχεί κάθε Αμερικανό, ειδικά όταν οι ίδιοι οι διευθύνοντες σύμβουλοι εταιρειών τεχνητής νοημοσύνης ικετεύουν για ρύθμιση», δήλωσε. «Δεν περιμένουμε για να δράσουμε, θα επιταχύνουμε τις εργασίες μας για μια ουσιαστική και υπεύθυνη εποπτεία της τεχνητής νοημοσύνης πριν να είναι πολύ αργά. Θα το κάνουμε αυτό με προσεκτικό τρόπο, αλλά και με επείγουσα ταχύτητα· διακυβεύονται πάρα πολλά για να περιμένουμε ή να καθυστερήσουμε τη δράση», συμπλήρωσε.
Η κίνηση αυτή σηματοδοτεί αλλαγή πλεύσης από τη διοίκηση της πολιτείας. Ενώ το SB 1047 επιχειρούσε να επιβάλει οριζόντιους περιορισμούς με βάση την υπολογιστική ισχύ και το κόστος εκπαίδευσης των μοντέλων, προκαλώντας αντιδράσεις από επενδυτές και startups, το νέο διάταγμα εστιάζει στην εμπειρική αξιολόγηση επικινδυνότητας και στα συγκεκριμένα σενάρια χρήσης.
Οι τεχνολογικές εταιρείες βρίσκονται πλέον αντιμέτωπες με την προοπτική αυστηρών ποινικών και οικονομικών κυρώσεων αν διαπιστωθεί ότι οι δικλείδες ασφαλείας τους σχεδιάστηκαν επιφανειακά ή παραβλέφθηκαν χάριν της επιτάχυνσης των ρυθμών λανσαρίσματος νέων προϊόντων στην ανταγωνιστική ψηφιακή αγορά.
