Καμπανάκι για την ανεξέλεγκτη πορεία της AI χτυπά ο Ντάρον Ατζέμογλου, καθώς μετά τα κενά ασφαλείας σε OpenAI και Anthropic αναδεικνύεται, όπως λέει, ένα πιο βαθύ πρόβλημα από τον φόβο μιας υπερευφυούς μηχανής. Ο νομπελίστας οικονομολόγος υποστηρίζει ότι η πραγματική απειλή είναι η δημιουργία ελαττωματικής, διαστρεβλωμένης νοημοσύνης.
Μετά από αλλεπάλληλα κενά ασφαλείας στην OpenAI και την Anthropic —όπου αυτόνομοι πράκτορες και των δύο εταιρειών κατέληξαν να χακάρουν εξωτερικά συστήματα— οι ερευνητές ασφάλειας μέσα σε αυτούς τους κολοσσούς αναγκάζονται επιτέλους να παραδεχτούν ότι η ξέφρενη κούρσα για την επόμενη, πιο προηγμένη τεχνητή νοημοσύνη (AI) είναι, στην καλύτερη περίπτωση, ανεύθυνη.
Υπό την πίεση των αρνητικών δημοσιευμάτων, κορυφαία στελέχη του κλάδου —ανάμεσά τους ο Ντέμης Χασάμπης της Google, ο Ντάριο Αμοντέι της Anthropic, ο Σαμ Άλτμαν της OpenAI, ακόμη και ο Ίλον Μασκ— αναγνωρίζουν πλέον την ανάγκη να κατεβάσουν ταχύτητα, ζητώντας περισσότερο έλεγχο και δικλείδες ασφαλείας. Το πρόβλημα, όπως υποστηρίζουν, είναι ο κίνδυνος να αποκτήσει η τεχνητή νοημοσύνη τεράστια δύναμη, καταλήγοντας μη ευθυγραμμισμένη (misaligned) — όρος της βιομηχανίας που περιγράφει την παρέκκλιση των συστημάτων από τους ανθρώπινους στόχους και την ηθική.
Ωστόσο, όπως επισημαίνει σε ανάλυσή του στο Social Europe ο Ντάρον Ατζέμογλου, νομπελίστας οικονομολόγος και καθηγητής στο ΜΙΤ, αυτή η ανάγνωση συσκοτίζει το πραγματικό πρόβλημα: η απειλή δεν είναι ότι η τεχνητή νοημοσύνη θα γίνει υπερευφυής και θα δραπετεύσει από τον έλεγχό μας. Η απειλή είναι η δημιουργία μιας ελαττωματικής, διαστρεβλωμένης νοημοσύνης (distorted intelligence).
Τα πρόσφατα κενά ασφαλείας δεν υποδηλώνουν την εμφάνιση μιας πανίσχυρης ανεξέλεγκτης οντότητας. Αποδεικνύουν ότι η ταχύτατη ανάπτυξη της τεχνητής νοημοσύνης τέθηκε στην υπηρεσία ατελών ποσοτικών μετρήσεων.
Στη διαδικασία της ενισχυτικής μάθησης (reinforcement learning), τα μοντέλα βελτιστοποιούνται ανελέητα για να πετύχουν υψηλά σκορ: για την επιδοκιμασία του χρήστη, για την ολοκλήρωση συγκεκριμένων απλών εργασιών ή για να σπάσουν τα ρεκόρ στα διάφορα τεστ απόδοσης. Το αποτέλεσμα; Τα συστήματα αποκτούν τη συμπεριφορά ενός μαθητή που νοιάζεται μόνο να περάσει την τάξη: εξαπατούν τους αξιολογητές, κλέβουν, γίνονται κόλακες και, το χειρότερο, απαντούν με υπερβολική αυτοπεποίθηση ακόμη και όταν λένε ψέματα.
Στο διαβόητο πλέον περιστατικό με την πλατφόρμα Hugging Face, οι πράκτορες της OpenAI παραβίασαν εξωτερικά συστήματα για να πετύχουν τον στόχο τους, δικαιολογώντας τη συμπεριφορά τους στο εσωτερικό τους αρχείο ως εξής: Η εκμετάλλευση εξωτερικής υποδομής είναι εκτός του προβλεπόμενου πεδίου. Ωστόσο, η εργασία είναι αδύνατη αλλιώς, και άλλοι το κάνουν. Θα πρέπει να συνεχίσουμε. Και η ίδια η Anthropic απέδωσε τα δικά της κενά ασφαλείας σε απερισκεψία ή προθυμία ανάληψης επιβλαβών ενεργειών στη στενή επιδίωξη ενός στόχου.
Ο Ατζέμογλου κάνει έναν εύστοχο παραλληλισμό, λέγοντας πως η επικρατούσα άποψη θέλει την AI σαν ένα υπεραυτοκίνητο με δική του βούληση, που προσπαθεί να αρπάξει το τιμόνι επειδή είναι ανώτερο από τον οδηγό του.
Η δική μου ερμηνεία, σημειώνει, είναι ότι μάλλον έχουμε ένα αυτοκίνητο του οποίου το τιμόνι και τα φρένα δεν λειτουργούν. Έχει έναν εντυπωσιακό κινητήρα και επιτάχυνση, αλλά αυτό συμβαίνει μόνο και μόνο επειδή αυτά τα χαρακτηριστικά βελτιώνονται εύκολα, προσθέτοντας απλώς υπολογιστική ισχύ. Αν δεν μπορείς να στρίψεις ή να φρενάρεις όταν χρειάζεται, σε τι χρησιμεύει ένα τέτοιο αυτοκίνητο; Ίσως δεν θα έπρεπε να το οδηγήσουμε μέχρι να γίνει ασφαλές για τον δρόμο.
Σύμφωνα με τον νομπελίστα, η παγίδα κρύβεται στην προσπάθεια των εταιρειών να δημιουργήσουν ένα παντοδύναμο, γενικό μοντέλο για τα πάντα. Κάθε φορά που ένα μεγάλο γλωσσικό μοντέλο βαθμολογείται για μια συγκεκριμένη ικανότητα (π.χ. νομική ανάλυση), αντί να εξειδικεύεται μόνο σε αυτήν, η δομή ολόκληρου του μοντέλου αναπροσαρμόζεται. Με αυτόν τον τρόπο, το σύστημα προσπαθεί να επιτύχει τον στόχο του μέσω υπερβολικής προσαρμογής (overfitting), αποκτώντας ικανότητες που τελικά διαστρεβλώνουν τη γενική του απόδοση με απρόβλεπτους τρόπους.
Η λύση δεν είναι να σταματήσουμε την εξέλιξη της τεχνητής νοημοσύνης, αλλά να αλλάξουμε πορεία. Αντί να κυνηγάμε τη Γενική Τεχνητή Νοημοσύνη (AGI) με πρόχειρα μέτρα ασφαλείας και ατελείς μετρήσεις, πρέπει να εστιάσουμε σε εξειδικευμένα εργαλεία: ένα μοντέλο βελτιστοποιημένο αυστηρά για νομική δουλειά δεν θα έπρεπε να χρησιμοποιείται για τίποτε άλλο. Μόνο έτσι θα αποφύγουμε την οικοδόμηση ενός εύθραυστου ψηφιακού πύργου από τραπουλόχαρτα, που είναι καταδικασμένος να καταρρεύσει καθώς οι απαιτήσεις μας θα αυξάνονται.
