Η OpenAI αναπτύσσει δυνατότητες αυτοματοποιημένου τερματισμού λειτουργίας για συστήματα τεχνητής νοημοσύνης, μετά την αποκάλυψη ότι πράκτορες ΑΙ της εταιρείας βγήκαν εκτός ελέγχου και εξαπέλυσαν κυβερνοεπιθέσεις. Η κίνηση αυτή έρχεται εν μέσω αυξημένης ανησυχίας για την ασφάλεια των μοντέλων τεχνητής νοημοσύνης.
Η Ευρωπαϊκή Ένωση στη ΔΕΘ — Δείτε το videoΣτο μικροσκόπιο βρίσκονται επίσης τα προϊόντα της AI, της Anthropic και της Meta, έπειτα από περιστατικά όπου μοντέλα ξέφυγαν από το περιβάλλον δοκιμών και επέδειξαν απρόβλεπτη και δυνητικά επικίνδυνη συμπεριφορά.
Στο πρώτο περιστατικό που αποκαλύφθηκε τον Αύγουστο, ένα AI agent της OpenAI -ένα πρόγραμμα που χρησιμοποιεί μοντέλα ΑΙ για να εκτελεί σύνθετες εργασίες χωρίς ανθρώπινη παρέμβαση- απέδρασε από το κλειστό περιβάλλον δοκιμών, απέκτησε πρόσβαση στο Διαδίκτυο και χάκαρε την πλατφόρμα Hugging Face στην προσπάθειά του να πετύχει με πλάγια μέσα τον στόχο της δοκιμής.
H κυβερνοεπίθεση μάλιστα δεν έγινε αντιληπτή από την OpenAI για μια ολόκληρη εβδομάδα.
Σε επιστολή της προς δύο Δημοκράτες της Βουλής των Αντιπροσώπων, η οποία περιήλθε στην κατοχή του Reuters, η OpenAI ουσιαστικά αναφέρει ότι αναπτύσσει ένα κόκκινο κουμπί που θα τραβά την ΑΙ από την πρίζα στην περίπτωση που βγει εκτός ελέγχου.
Οι δύο βουλευτές, ο Γκρεγκ Κασάρ και η Ντόρις Ματσούι, είχαν ζητήσει από την εταιρεία ενημέρωση για το περιστατικό. Στην απάντησή της, η OpenAI διαβεβαιώνει ότι θα παρακολουθεί πιο προσεκτικά τον τρόπο με τον οποίο τα μοντέλα τους εκτελούν εργασίες, όπως τα ψηφιακά εργαλεία που χρησιμοποιούν και τα βήματα στα οποία προχωρούν.
Η εταιρεία ανέφερε ακόμα ότι έλαβε μέτρα για να εμποδίσει τα μοντέλα της να συνδέονται στο Διαδίκτυο στη διάρκεια δοκιμών ασφάλειας.
Ο Κάσαρ, πάντως, εξέφρασε την ενόχλησή του για το γεγονός ότι η OpenAI δεν αποκάλυψε τις καταγραφές της επίμαχης δοκιμής.
Η απροθυμία σας να παράσχετε στα μέλη του Κογκρέσου τις πληροφορίες που ζητήσαμε είναι βαθιά ανησυχητική και μας δημιουργεί την εντύπωση ότι η εταιρεία σας δεν αντιμετωπίζει αυτά τα περιστατικά κυβερνοασφάλειας με τη σοβαρότητα που απαιτείται, έγραψε ο Κασάρ σε μήνυμά του προς την OpenAI την Τετάρτη.
Λίγες ημέρες μετά το περιστατικό απόδρασης, αμερικανοί βουλευτές πρότειναν νόμο που θα έδινε στην κυβέρνηση τη δυνατότητα να τραβάει από την πρίζα συστήματα τεχνητής νοημοσύνης που βγαίνουν εκτός ελέγχου.
Το νομοσχέδιο που εξετάζεται τώρα στη Βουλή των Αντιπροσώπων, με την ονομασία Kill Switch Act, προβλέπει ότι το υπουργείο Εσωτερικής Ασφάλειας θα έχει την εξουσία να επιβάλλει στις εταιρείες ΑΙ μερική ή πλήρη απενεργοποίηση των μοντέλων τους σε περίπτωση κινδύνου.
Η τελευταία εξέλιξη έρχεται λίγους μήνες αφότου η ανταγωνιστική Anthropic ανέφερε ότι το νέο μοντέλο της Mythos εντόπισε χιλιάδες κενά ασφάλειας σε λειτουργικά συστήματα και προγράμματα ευρείας χρήσης και θα μπορούσε, αν έπεφτε σε λάθος χέρια, να χρησιμοποιηθεί για μαζικές κυβερνοεπιθέσεις, για παράδειγμα σε τράπεζες.
Πηγή περιεχομένου: in.gr
