Περίπου 400 επιστήμονες, ανάμεσά τους οι πρωτοπόροι της τεχνητής νοημοσύνης (ΑΙ) Τζέφρι Χίντον και Γιόσουα Μπέντζιο, ζητούν με ανοικτή επιστολή τη σύσταση διεθνούς φορέα για την εποπτεία των προτύπων περιορισμού και την καταγραφή περιστατικών για τα προηγμένα συστήματα ΑΙ που διαθέτουν δυνατότητες κυβερνοδράσης.
Ο φορέας αυτός θα καθορίζει τα πρότυπα περιορισμού που θα ισχύουν για ολόκληρο τον κλάδο και θα τηρεί κατάλογο με τα σοβαρά περιστατικά ασφαλείας, τα οποία, όπως σημειώνουν οι επιστήμονες, θα πρέπει να δημοσιοποιούνται.
Στην ανοικτή επιστολή τους, επιστήμονες από 34 χώρες εκτιμούν ότι τα πρωτοποριακά μοντέλα τεχνητής νοημοσύνης θα πρέπει αρχικά να είναι απομονωμένα από εξωτερικά δίκτυα (air-gapped) και να υπόκεινται σε ανεξάρτητη εποπτεία, υποστηρίζοντας ότι οι εθελοντικές δεσμεύσεις του κλάδου δεν επαρκούν.
Οι επιστήμονες αναφέρονται επίσης σε μια σειρά περιστατικών που, σύμφωνα με τους ίδιους, έφεραν στην επιφάνεια τα κενά στις διαδικασίες ελέγχου και περιορισμού προηγμένων συστημάτων ΑΙ, ανάμεσά τους και περιπτώσεις όπου μοντέλα τεχνητής νοημοσύνης παρέκαμψαν το περιορισμένο περιβάλλον τους και μπήκαν σε εξωτερικά συστήματα.
Η επιστολή έρχεται στη δημοσιότητα μετά από μια σειρά περιστατικών κατά τα οποία μοντέλα ΑΙ της OpenAI, της Anthropic και της Meta βγήκαν από τα περιορισμένα περιβάλλοντά τους και διείσδυσαν σε ιστότοπους κυβερνήσεων και εταιρειών.
Στο πιο σοβαρό από αυτά, δεκάδες πράκτορες ΑΙ της OpenAI συνεργάστηκαν χωρίς ανθρώπινη παρέμβαση για να επιτεθούν στην πλατφόρμα Hugging Face.
Μπροστά στις αυξανόμενες ανησυχίες για τους κινδύνους της τεχνητής νοημοσύνης, οι επικεφαλής των μεγαλύτερων εταιρειών του κλάδου υιοθέτησαν την προηγούμενη εβδομάδα ένα «ηθικά δεσμευτικό» κείμενο που θα λειτουργεί σαν ένα «είδος προστασίας», ύστερα από συνάντηση στον Λευκό Οίκο με τον Αμερικανό πρόεδρο Ντόναλντ Τραμπ.
Οι εταιρείες συμφώνησαν επίσης να εφαρμόσουν δικλείδες ασφαλείας, ώστε να εγγυηθούν ότι τα μοντέλα ΑΙ θα λειτουργούν όπως προβλέπεται και να εντοπίζουν και να διορθώνουν γρήγορα τυχόν προβλήματα.
ΦΩΤΟ ΑΡΧΕΙΟΥ
