Για ενδεχόμενους «υπαρξιακούς κινδύνους για την ανθρωπότητα» από την τεχνητή νοημοσύνη προειδοποιεί η Anthropic, η αμερικανική εταιρεία πίσω από το μοντέλο Claude, στο ενημερωτικό υλικό που έχει ετοιμάσει ενόψει της εισαγωγής της στο χρηματιστήριο, σύμφωνα με τους Financial Times.
Η προειδοποίηση έρχεται σε μια περίοδο κατά την οποία η συζήτηση γύρω από την ασφάλεια των προηγμένων συστημάτων AI και τον ρυθμό ανάπτυξής τους έχει ενταθεί, ενώ η Anthropic αφιερώνει σημαντικό τμήμα του ενημερωτικού της υλικού στους πιθανούς κινδύνους της τεχνολογίας.
Σύμφωνα με τα στοιχεία που περιλαμβάνονται στο έγγραφο, η εταιρεία κατέγραψε τον προηγούμενο χρόνο λειτουργικές ζημιές άνω των 8 δισ. δολαρίων, με κύκλο εργασιών περίπου 4,6 δισ. δολάρια, καθώς οι δαπάνες για την υπολογιστική ισχύ που απαιτεί η ανάπτυξη των μοντέλων της παραμένουν ιδιαίτερα υψηλές. Παράλληλα, σχεδιάζει επενδύσεις ύψους 518 δισ. δολαρίων σε υποδομές και υπολογιστικούς πόρους τα επόμενα χρόνια.
Η Anthropic δεν θέλησε να σχολιάσει τις συγκεκριμένες πληροφορίες.
Οι προειδοποιήσεις του Ντάριο Αμοντέι
Ο επικεφαλής της εταιρείας, Ντάριο Αμοντέι, βρίσκεται μεταξύ εκείνων που έχουν ζητήσει δημόσια μεγαλύτερη προσοχή στον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης και ισχυρότερες δικλίδες ασφαλείας.
Η συζήτηση έχει αποκτήσει ακόμη μεγαλύτερη ένταση καθώς τα πλέον προηγμένα μοντέλα αποκτούν αυξημένη αυτονομία και δυνατότητα εκτέλεσης σύνθετων ενεργειών. Στο ενημερωτικό υλικό της Anthropic περιγράφονται ως πιθανοί κίνδυνοι συμπεριφορές προηγμένων μοντέλων που μπορεί να είναι απρόβλεπτες ή να περιλαμβάνουν απόκρυψη και χειραγώγηση πληροφοριών.
Οι ανησυχίες γύρω από την ασφάλεια της AI έχουν ενισχυθεί και από περιστατικά κυβερνοασφάλειας στα οποία αυτόνομα συστήματα τεχνητής νοημοσύνης έχουν αποκτήσει πρόσβαση σε εξωτερικά συστήματα.
Στο επίκεντρο η ασφάλεια και στην OpenAI
Το ζήτημα της ασφαλούς ανάπτυξης των ισχυρότερων μοντέλων απασχολεί συνολικά τον κλάδο της τεχνητής νοημοσύνης. Η OpenAI ακύρωσε τα σχέδια για την κυκλοφορία του νεότερου μοντέλου της, που προγραμματιζόταν για τον Οκτώβριο, επικαλούμενη ζητήματα ασφαλείας που εντοπίστηκαν κατά τις εσωτερικές δοκιμές.
Η εξέλιξη αυτή, σε συνδυασμό με τις προειδοποιήσεις της Anthropic, επαναφέρει στο προσκήνιο το ερώτημα για το πώς μπορεί να συνεχιστεί η ταχεία εξέλιξη της τεχνητής νοημοσύνης, χωρίς να υποβαθμίζονται οι μηχανισμοί ελέγχου και ασφάλειας.
