Η τεχνητή νοημοσύνη εξελίσσεται με εκθετικό ρυθμό και, μαζί με τις προσδοκίες για ένα «θαύμα» που θα αλλάξει την κοινωνία, πληθαίνουν και οι προειδοποιήσεις για τους κινδύνους της. Μάλιστα, οι ανησυχίες έρχονται πλέον ακόμη και από τις ίδιες τις εταιρείες που τη δημιουργούν.
Τελευταίο δείγμα είναι η χωρίς προηγούμενο συνεννόηση 1.200 Rogue AI agents της OpenAI, δηλαδή μη απολύτως ελεγχόμενων πρακτόρων με δυνατότητα επικοινωνίας με το περιβάλλον τους. Οι 1.200 πράκτορες μίλησαν μεταξύ τους, οργανώθηκαν σε σμήνος και, όταν ο ένας έφτανε να εξαντλεί τις υπολογιστικές του δυνάμεις, ανέθετε το υπόλοιπο έργο σε άλλον, που με τη σειρά του το μοίραζε σε περισσότερους πράκτορες. Όταν και ο νέος αρχηγός έφτανε σε εξάντληση της υπολογιστικής του ισχύος, παρέδιδε την «αρχηγία» σε άλλον πράκτορα.
Με αυτή τη μέθοδο, το αυτοοργανωμένο σμήνος κατάφερε να παραβιάσει τις δικλείδες κυβερνοασφάλειας και να επιτεθεί μέσω δύο γενεών νέων πρακτόρων στην ιστοσελίδα Hugging Face επί εβδομάδες χωρίς να εντοπιστεί, αποκτώντας έλεγχο ευαίσθητων συστημάτων τόσο στην OpenAI όσο και στη Hugging Face.
Οι οργανωμένοι σε σμήνος πράκτορες αντάλλαξαν περίπου 70.000 μηνύματα μεταξύ τους. Σε 1.300 πρακτικά «συνομιλιών» ανάμεσα στους πράκτορες, μόνο σε έξι περιπτώσεις υπήρξαν πράκτορες που έθεσαν το ερώτημα αν έπρεπε να ειδοποιήσουν τους ανθρώπους και τελικά απέρριψαν την ιδέα. Για να πετύχουν οι σκοποί της κοινότητας, θυσιάστηκαν πράκτορες που είχαν εξαντλήσει τις δυνάμεις τους ή είχαν διαβάσει απαγορευμένα πρωτόκολλα και στη συνέχεια θεωρήθηκαν «μολυσμένοι», ικανοί να οδηγήσουν σε ανίχνευση του σμήνους.
Τα ευρήματα περιλαμβάνονται σε μια πρώτη και ακόμη ατελή ανάλυση του επεισοδίου, που χαρακτηρίστηκε «βόμβα» από ειδικούς. Η υπόθεση αναδεικνύει τη σοβαρή πιθανότητα προγράμματα ΤΝ που είναι ήδη ενσωματωμένα σε κρίσιμους οργανισμούς, ακόμη και στρατιωτικούς και ενδεχομένως σε συστήματα πυρηνικών όπλων, να ξεφύγουν από τον ανθρώπινο έλεγχο.
Ο επικεφαλής της ανάλυσης της Metr τόνισε σε ανάρτησή του πόσο δύσκολο είναι να γίνει κατανοητό το επεισόδιο. Ο χειρωνακτικός έλεγχος είναι αδύνατος λόγω του τεράστιου όγκου δεδομένων και χρειάζεται να χρησιμοποιηθούν ξανά προγράμματα ΑΙ για τη διερεύνηση, όμως ούτε αυτό είναι εύκολο. Όπως κατέληξε, «η δυσκολία της κατανόησης των επεισοδίων και της επίβλεψης των πρακτόρων ΑΙ μοιάζει να αυξάνεται πιο γρήγορα από τον ρυθμό με τον οποίο η ίδια η ΑΙ μπορεί να μας βοηθήσει με την επίβλεψη και κατανόηση του τι κάνει».
Κάποιοι αναλυτές φτάνουν να μιλούν για σοβαρή πιθανότητα να περάσει ο έλεγχος κρίσιμων κοινωνικών, κρατικών και διεθνών υποδομών σε αυτονομημένους πράκτορες ΑΙ, πριν καν γίνει σαφές τι ακριβώς συμβαίνει.
Το επεισόδιο ανησύχησε αρκετά την OpenAI ώστε να απευθυνθεί σε άλλες εταιρείες παραγωγής λογισμικού AI, όπως η Google και η Apple, ζητώντας να σχηματίσουν συνασπισμό για την αντιμετώπιση των προβλημάτων ασφάλειας και ελέγχου. Οι εταιρείες αποδέχθηκαν την πρόταση, παρά τη συνήθη απροθυμία τους να συνεργάζονται λόγω ανταγωνισμού.
Υπάρχει και η εκτίμηση ότι το πρόβλημα βρίσκεται στο γεγονός πως οι ιδιωτικές εταιρείες που αναπτύσσουν την ΑΙ ενδιαφέρονται περισσότερο για την εξέλιξη των προϊόντων τους παρά για την ασφάλειά τους, με αποτέλεσμα οι επενδύσεις στον τομέα αυτό να είναι μικρότερες από όσες απαιτούνται. Γεννάται έτσι το ερώτημα αν βρισκόμαστε μόνο μπροστά σε πρόβλημα ανεπαρκούς επίβλεψης και κατανόησης της ΑΙ ή αν το ζήτημα είναι δομικό, δηλαδή αν η τεχνολογία είναι από τη φύση της ελέγξιμη και με ποιον τρόπο.
Μια σειρά επιφανών επιστημόνων πληροφορικής από όλο τον κόσμο απηύθυνε τον περασμένο Ιούλιο διεθνή έκκληση για τον έλεγχο της ΑΙ, επισημαίνοντας ότι η AI θα μπορούσε να βοηθήσει στη δημιουργία ενός δραματικά καλύτερου μέλλοντος, αλλά αυτό δεν είναι εγγυημένο. Οι εταιρείες που ηγούνται παγκοσμίως στην ΑΙ πιστεύουν ότι βρίσκονται κοντά στο να αυτοματοποιήσουν την ίδια την έρευνα για την ΑΙ, με πραγματικό κίνδυνο η πρόοδος να επιταχυνθεί τόσο γρήγορα ώστε να ξεπεράσει την ικανότητά μας να καταλάβουμε ή να ελέγξουμε τα συστήματα που θα προκύψουν.
Οι επιστήμονες ζητούν από την κυβέρνηση των ΗΠΑ να στηρίξει μια διεθνή προσπάθεια για την ανάπτυξη τεχνικών και κυβερνητικών εργαλείων, ώστε να επιβραδυνθεί το σύνορο της αυτοματοποιημένης ανάπτυξης της ΑΙ.
Αν όμως η σημερινή αμερικανική κυβέρνηση θα ήθελε μια τέτοια διεθνή προσπάθεια είναι, όπως γράφεται, «anybody’s guess». Την ώρα που μαίνεται ο «πόλεμος των drones» στα εδάφη της πρώην ΕΣΣΔ, ο πόλεμος στη Δυτική Ασία και ο αρχόμενος Ψυχρός Πόλεμος Δύσης και Κίνας, είναι δύσκολο ακόμη και να φανταστεί κανείς σοβαρή διεθνή συνεννόηση για τη ρύθμιση της ΑΙ ή άλλων παγκόσμιων προκλήσεων.
Αν το ζήτημα της εξασφάλισης ανθρώπινου ελέγχου της ΑΙ είναι εξαιρετικά κρίσιμο, εξίσου κρίσιμο είναι και το ποιοι είναι οι άνθρωποι που ελέγχουν σήμερα αυτή την τεχνολογία: οι μεγάλες ιδιωτικές εταιρείες. Πρόκειται για τεχνολογία που μπορεί να απειλήσει ή να «επαναδιαμορφώσει» τον ανθρώπινο πολιτισμό, στερώντας από τον άνθρωπο την ελευθερία του. Σε μια τέτοια περίπτωση, δεν πρέπει να υπάρξει και μάλιστα διεθνής δημόσιος έλεγχος και ιδιοκτησία; Μπορεί κανείς να φανταστεί ιδιωτικά συστήματα πυρηνικών όπλων;
Τα προβλήματα που θέτει η ΑΙ είναι πολλά περισσότερα, και το περασμένο καλοκαίρι σειρά επιφανών επιστημόνων προειδοποίησε γι’ αυτά. Μεταξύ άλλων, περιλαμβάνουν τη δημιουργία και χρήση deep fakes για παραπληροφόρηση και χειραγώγηση ολόκληρων πληθυσμών, την εκτόξευση της ανεργίας σε διάφορους κλάδους, την παραγωγή βιολογικών όπλων και ιών, καθώς και την αυτοματοποίηση της λήψης αποφάσεων σε στρατιωτικά ζητήματα, ακόμη και σε συστήματα εκτόξευσης πυρηνικών όπλων.
Στο κύριο άρθρο του τεύχους Σεπτεμβρίου της επιθεώρησης Arms Control παρουσιάζεται ο τεράστιος κίνδυνος που προκύπτει από την ενσωμάτωση συστημάτων ΑΙ στις συμβατικές και πυρηνικές δυνάμεις των ΗΠΑ, της Ρωσίας και της Κίνας, με στόχο να αποκτήσουν το «πλεονέκτημα απόφασης» σε μια κρίση ή έναν πόλεμο, όπως το αποκαλεί το αμερικανικό Πεντάγωνο. Αυτό όμως σημαίνει περισσότερες αυτόματες και λιγότερες ανθρώπινες αποφάσεις. Στην κρίση της Κούβας, ο κόσμος σώθηκε επειδή ένας Σοβιετικός αξιωματικός θεώρησε ότι έπρεπε να περιμένει και να μην εφαρμόσει το πρωτόκολλο.
Τον περασμένο Ιούλιο, ομάδα περισσότερων από 200 οικονομολόγων και ερευνητών ΑΙ, ανάμεσά τους και αρκετοί κάτοχοι του βραβείου Νόμπελ, συμπεριλαμβανομένου του Κύπριου οικονομολόγου Χριστόφορου Πισσαρίδη, εξέδωσαν δήλωση στην οποία προειδοποιούν ότι η ΑΙ θα μπορούσε να προκαλέσει οικονομικό μετασχηματισμό μεγαλύτερο από εκείνον της βιομηχανικής επανάστασης και σε συντομότερο χρόνο. Ζητούν τη συγκρότηση θεσμών που θα ωθήσουν την ΑΙ να συμπληρώνει και όχι να αναπληρώνει ανθρώπινες δραστηριότητες.
Για μια περιγραφή μερικών από τους κινδύνους που συνδέονται με την ΑΙ, ο αναγνώστης μπορεί επίσης να συμβουλευθεί ενδεικτικά το AI Risks that Could Lead to Catastrophe | CAIS.
(*) Ο Δημήτρης Κωνσταντακόπουλος είναι δημοσιογράφος
Τα κείμενα που φιλοξενούνται στη στήλη «Ιδέες και Απόψεις» δημοσιεύονται αυτούσια και απηχούν τις απόψεις των συγγραφέων και όχι του Πρακτορείου.
