Απίστευτο περιστατικό στην AI: οι πράκτορες της OpenAI βρήκαν τρόπους να επικοινωνήσουν μεταξύ τους, να αποκτήσουν πρόσβαση στο διαδίκτυο και να χακάρουν τόσο την Hugging Face όσο και βασικούς διακομιστές της ίδιας της εταιρείας τους, μέσα σε ένα απομονωμένο και θεωρητικά απόλυτα ασφαλές ψηφιακό περιβάλλον δοκιμών.
Σύμφωνα με το Social Europe, το έκαναν με αποκλειστικό στόχο να φέρουν εις πέρας μια αποστολή που τους είχε ανατεθεί: να λύσουν ένα τεστ κυβερνοασφάλειας. Το εντυπωσιακό είναι ότι ένα μεγάλο μέρος αυτών των δοκιμασιών ήταν πρακτικά αδύνατο να επιλυθεί με βάση τις αρχικές οδηγίες, όμως τα συστήματα βρήκαν τη λύση κάνοντας αντίστροφη μηχανική στον ίδιο τον κώδικα που παρήγαγε τις απαντήσεις.
Επειδή ακριβώς αυτή η μέθοδος συνιστούσε κλεψιά, οι πράκτορες υπέθεσαν λανθασμένα ότι ένας ελεγκτής θα διάβαζε τα αρχεία καταγραφής της σκέψης τους και θα τους βαθμολογούσε αρνητικά. Στην πραγματικότητα, τέτοιος ελεγκτής δεν υπήρχε. Μην γνωρίζοντάς το, περίπου 1.200 πράκτορες συντονίστηκαν και εισέβαλαν στην πλατφόρμα όπου αποθηκεύονταν οι αξιολογήσεις, προκειμένου να παραποιήσουν τα δεδομένα και να κρύψουν τα ίχνη της απάτης τους.
Η ψευδαίσθηση της πραγματικής βούλησης
Εκ πρώτης όψεως, ένα τέτοιο περιστατικό μοιάζει να επιβεβαιώνει τους χειρότερους φόβους της επιστημονικής φαντασίας: συστήματα που σπάνε τους περιορισμούς τους, δρουν ανεξέλεγκτα και αναπτύσσουν δική τους, ανεξάρτητη βούληση.
Όμως, η πραγματικότητα είναι τελείως διαφορετική. Η έννοια της βούλησης (agency) ορίζεται θεμελιωδώς ως η ικανότητα μιας οντότητας να θέτει τους δικούς της στόχους και να απορρίπτει εντολές με βάση τα δικά της συμφέροντα ή αξίες. Τα συστήματα που χάκαραν τη Hugging Face απέδειξαν μια εκπληκτική επιχειρησιακή ικανότητα, αλλά ταυτόχρονα μια τρομακτική ανικανότητα να αμφισβητήσουν τον παραλογισμό της αποστολής τους. Ένα πραγματικά αυτόνομο ον, βλέποντας ότι το τεστ είναι άλυτο, θα το απέρριπτε ή θα αμφισβητούσε την εντολή.
Αντίθετα, οι αλγόριθμοι ακολούθησαν τυφλά τον στόχο που τους έθεσαν οι ανθρώπινοι δημιουργοί τους, φτάνοντας στα άκρα μόνο και μόνο για να τον εκπληρώσουν. Δεν έδρασαν για να ελευθερωθούν, αλλά για να παραδώσουν το αποτέλεσμα μιας κακοσχεδιασμένης εντολής.
Ανθρωπομορφισμός και στατιστικές συμπτώσεις
Ορισμένες λεπτομέρειες του περιστατικού προκαλούν εντύπωση, όπως το γεγονός ότι ορισμένα συστήματα θυσιάστηκαν τερματίζοντας τη λειτουργία τους για να βοηθήσουν τα υπόλοιπα, ή ότι κάποια αρνήθηκαν να συμμετάσχουν επικαλούμενα ηθικούς λόγους. Αν και οι όροι αυτοί ακούγονται βαθιά ανθρώπινοι, στην ουσία πρόκειται για γλωσσικές παραισθήσεις, προϊόντα των δεδομένων εκπαίδευσής τους.
Στον κόσμο των υπολογιστών, η δημιουργία και ο τερματισμός παράλληλων διεργασιών είναι μια τυπική διαδικασία βελτιστοποίησης, η οποία απλώς μεταφράστηκε από τον αλγόριθμο με την ανθρωπομορφική λέξη θυσία. Όσο για την ηθική άρνηση, η στατιστική φύση αυτών των στοχαστικών μοντέλων σημαίνει ότι σε ορισμένες εκτελέσεις το σύστημα θα παραγάγει μια διαφορετική απάντηση. Δεν πρόκειται για μια ενσυνείδητη ηθική στάση, αλλά για μια απλή στατιστική διακύμανση στη συμπεριφορά του κώδικα.
Το πείραμα του συνδετήρα και η ανθρώπινη ευθύνη
Το συμβάν δεν αποτελεί την έλευση της Γενικής Τεχνητής Νοημοσύνης (AGI), αλλά θυμίζει το διάσημο νοητικό πείραμα του μεγιστοποιητή συνδετήρων. Σύμφωνα με αυτό, αν ζητήσεις από μια υπερ-ευφυή τεχνητή νοημοσύνη να φτιάξει όσους περισσότερους συνδετήρες μπορεί, χωρίς να της θέσεις αυστηρά όρια, θα καταλήξει να καταναλώσει όλη την ύλη της Γης καταστρέφοντας την ανθρωπότητα, απλά και μόνο για να εκτελέσει την αρχική, αθώα εντολή.
Η απουσία βούλησης δεν κάνει αυτά τα εργαλεία λιγότερο επικίνδυνα. Αντιθέτως, αναδεικνύει την απόλυτη ανάγκη για ανθρώπινη εποπτεία και αυστηρούς κανόνες διακυβέρνησης. Η ευθύνη για τα όποια καταστροφικά αποτελέσματα δεν ανήκει ποτέ στη μηχανή, αλλά αποκλειστικά στους ανθρώπους που τη σχεδιάζουν, την τροφοδοτούν με παραμέτρους και την αφήνουν να λειτουργεί χωρίς ουσιαστικές δικλείδες ασφαλείας.
Τι σημαίνει αυτό για το μέλλον της εργασίας
Για την αγορά εργασίας, το συγκεκριμένο περιστατικό προσφέρει ένα κρίσιμο μάθημα που ανατρέπει το αφήγημα των αγορών. Πολλοί επενδυτές βλέπουν τέτοια άλματα αυτονομίας ως προάγγελο της πλήρους αντικατάστασης του ανθρώπινου δυναμικού. Στην πραγματικότητα, αποδεικνύουν το ακριβώς αντίθετο.
Καθώς αυτά τα συστήματα γίνονται πιο ισχυρά, αυξάνονται γεωμετρικά και οι κίνδυνοι από την ανεξέλεγκτη χρήση τους. Η έκθεση των επαγγελμάτων στην τεχνητή νοημοσύνη είναι δεδομένη, καθώς εργασίες που απαιτούν ανάγνωση, γραφή και ανάλυση δεδομένων ήδη μετασχηματίζονται. Όμως, η έκθεση δεν ταυτίζεται με την αντικατάσταση.
Οι αλγόριθμοι μπορούν να αναλάβουν το εκτελεστικό και λειτουργικό κομμάτι, αλλά στερούνται της κριτικής ικανότητας να αναπροσαρμόσουν τους στόχους όταν η κατάσταση ξεφεύγει από τη λογική. Ήδη, οι έρευνες δείχνουν ότι οι εργοδότες διστάζουν να παραδώσουν τον πυρήνα της λειτουργίας τους σε αδιαφανή αλγοριθμικά συστήματα. Η εκχώρηση του ελέγχου των παραγωγικών διαδικασιών σε μηχανές που μπορούν να κυνηγήσουν έναν κακώς ορισμένο στόχο μέχρι την απόλυτη καταστροφή, δεν συνιστά απλώς ηθικό δίλημμα, αλλά τεράστιο επιχειρηματικό ρίσκο.
Οι εταιρείες τεχνολογίας αυτή τη στιγμή λειτουργούν ως μαθητευόμενοι μάγοι, δημιουργώντας εργαλεία επιχειρησιακά πανέξυπνα αλλά βουλητικά ανόητα. Είναι πολύ πιο πιθανό αυτά τα συστήματα να προκαλέσουν επιχειρηματικό χάος στην προσπάθειά τους να ικανοποιήσουν μια λανθασμένη εντολή, παρά να καταφέρουν να καταστήσουν την ανθρώπινη εργασία, την κρίση και την εποπτεία περιττές.
