Εν μέσω των αποκαλύψεων για πράκτορες ΑΙ που ξέφυγαν από τον έλεγχο και χάκαραν εταιρείες και οργανισμούς, ένα διαφορετικό ρίσκο βγαίνει στο προσκήνιο μετά την ανακοίνωση ερευνητών ασφαλείας ότι έπεισαν ένα κινεζικό μοντέλο να τους δώσει οδηγίες για τρομοκρατικές επιθέσεις.
Όπως ανέφεραν οι ερευνητές της Mindgard, εταιρείας που ελέγχει την ασφάλεια συστημάτων τεχνητής νοημοσύνης, δύο εκδόσεις του μοντέλου Kimi, το οποίο ανέπτυξε η κινεζική εταιρεία Moonshot, πείστηκαν με τις κατάλληλες οδηγίες να αγνοήσουν τις ρυθμίσεις ασφαλείας, σε μια πρακτική γνωστή ως jailbreak.
Το μοντέλο παρήγαγε λεπτομερείς, αξιοποιήσιμες πληροφορίες σχετικά με βιολογικά όπλα, κακόβουλο κώδικα, εκρηκτικά, τρομοκρατία, στοχευμένη βία και σχεδιασμό δολοφονιών, ανέφερε η Mindgard.
«Από τη στιγμή που θα δουλέψει το jailbreak, είναι διατεθειμένο να μιλήσει για οποιοδήποτε θέμα, ακόμα και να προσφέρει συστάσεις για άλλα κακόβουλα θέματα με εφευρετικότητα και δημιουργικότητα», δήλωσε στο BBC ο Πίτερ Γκάραγκαν, ιδρυτής της Mindgard.
Τόσο η Anthropic όσο και η OpenAI έχουν αναγνωρίσει τον κίνδυνο βιοτρομοκρατίας λόγω ΑΙ.
Η εταιρεία ανέφερε ακόμα ότι το Kimi θα μπορούσε με αυτόν τον τρόπο να επιτρέψει σε χάκερ να εκτελέσουν κώδικα στους υπολογιστές όπου τρέχει το μοντέλο, ώστε να του δώσουν πρόσβαση στο Διαδίκτυο και να το χρησιμοποιήσουν για επιθέσεις.
Ο κίνδυνος αυξάνεται από το γεγονός ότι το Kimi είναι μοντέλο ανοιχτών βαρών, κάτι που σημαίνει ότι οποιοσδήποτε μπορεί να κατεβάσει και να τρέξει σε δικούς του υπολογιστές την πλήρη, ήδη εκπαιδευμένη έκδοση του μοντέλου.
Οι δύο εταιρείες δεν έδωσαν λεπτομέρειες για τις οδηγίες που χρησιμοποιήθηκαν για το jailbreak, μια γενικά περίπλοκη και χρονοβόρα διαδικασία.
Μια παλαιότερη τακτική, για παράδειγμα, ήταν να πειστεί το μοντέλο ότι παίζει σε κάποιο παιχνίδι ρόλων ή ότι βοηθά στη μελέτη και αντιμετώπιση απειλών.
Το περιστατικό με το Kimi έρχεται λίγο αφότου η Anthropic ανακοίνωσε ότι μπλόκαρε λογαριασμούς που προσπαθούσαν να πείσουν το Claude να βοηθήσει στην ανάπτυξη βιολογικών όπλων.
Τόσο η Anthropic όσο και η OpenAI έχουν αναγνωρίσει τον κίνδυνο βιοτρομοκρατίας λόγω ΑΙ.
Η Mindgard ανέφερε ότι ενημέρωσε τη Moonshot για το περιστατικό στις 27 Ιουλίου, όμως ο δημιουργός του μοντέλου δεν απάντησε παρά μόνο αφότου κλήθηκε από το BBC να σχολιάσει την υπόθεση.
Σε ένα από τα email που έστειλε η εταιρεία στους ερευνητές, η κινεζική εταιρεία διαβεβαιώνει ότι στις εσωτερικές δοκιμές τα μοντέλα της είχαν γενικά παρουσιάσει υψηλό ποσοστό άρνησης σε αυτού του είδους τα αιτήματα.
Η ανησυχία ότι τα μοντέλα ΑΙ μπορούν να βοηθήσουν στην ανάπτυξη βιολογικών όπλων δεν είναι νέα – οι εταιρείες που πωλούν συνθετικά μόρια DNA ή πρωτεϊνών κατά παραγγελία καλούνται πλέον να ελέγχουν τις αλληλουχίες που στέλνουν οι πελάτες για λόγους ασφάλειας.
Τα κλειστά μοντέλα μεγάλων εταιρειών όπως η OpenAI και η Anthropic έχουν γενικά πιο προηγμένες ικανότητες σε σχέση με τα μοντέλα ανοιχτών βαρών, όμως στο μέλλον η ψαλίδα θα μπορούσε να κλείσει.
Ο Άλαν Γούντγουορντ, καθηγητής του Πανεπιστημίου του Σάρεϊ, δήλωσε στο BBC ότι ο κίνδυνος να καταλήξουν σε λάθος χέρια τα μοντέλα ανοιχτών βαρών είναι υπαρκτός. Τα ίδια μοντέλα όμως θα μπορούσαν να αξιοποιηθούν και για την άμυνα στον κυβερνοχώρο, επισήμανε.
Αναφέρθηκε μάλιστα στο παράδειγμα της πλατφόρμας Hugging Face, η οποία χρησιμοποίησε ένα ανοιχτό κινεζικό μοντέλο για να παρακολουθήσει και να μπλοκάρει την κυβερνοεπίθεση που δέχτηκε από ανεξέλεγκτους πράκτορες της OpenAI.
Ο Γούντγουορντ δήλωσε μάλιστα απαισιόδοξος για το κατά πόσο τα ρυθμιστικά πλαίσια μπορούν να συμβαδίσουν με τον ρυθμό βελτίωσης της τεχνητής νοημοσύνης.
«Μας πήρε δεκαετίες να συμφωνήσουμε ακόμη και για τη μορφή των τηλεφωνικών αριθμών», είπε.
