Τεχνητή νοημοσύνη: Ποιος πατάει το γκάζι, ποιος το φρένο και ποιος αποφασίζει;
Για χρόνια, η τεχνολογική πρόοδος παρουσιάζεται ως μια σχεδόν αυτόνομη διαδικασία, απέναντι στην οποία οι κοινωνίες οφείλουν απλώς να προσαρμοστούν. Οι εταιρείες επενδύουν και καινοτομούν, οι κυβερνήσεις διευκολύνουν και οι εργαζόμενοι καλούνται να αποκτήσουν τις κατάλληλες δεξιότητες, ώστε να μη μείνουν πίσω.
Μέσα σε αυτή τη γραμμική αφήγηση, το ερώτημα ποιος αποφασίζει για την κατεύθυνση της προόδου παραμένει συνήθως στο περιθώριο ή καλύτερα αποφασίζουν οι λίγοι κατέχοντες των μέσων παραγωγής. Ωστόσο, οι διαφωνίες που εκδηλώνονται πλέον στο εσωτερικό της Big Tech γύρω από την τεχνητή νοημοσύνη αποκαλύπτουν ότι ακόμη και οι πρωταγωνιστές της συγκεκριμένης κούρσας δεν συμφωνούν για το πού ακριβώς μπορεί να οδηγήσει όλο αυτό το αέναο κυνήγι της προόδου.
Επιτάχυνση, επιβράδυνση και ο παράγοντας Κίνα
Τον Σεπτέμβριο, ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, ζήτησε επιβράδυνση της ανάπτυξης των προηγμένων συστημάτων τεχνητής νοημοσύνης, προειδοποιώντας για κινδύνους απώλειας ελέγχου. Ο Σαμ Άλτμαν της OpenAI και ο Έλον Μασκ υποστήριξαν την έκκληση, ενώ ο Άλτμαν δεσμεύτηκε να επιτρέψει την πρόσβαση εξωτερικών αξιολογητών στην εταιρεία του.
Θα ήταν, βέβαια, ανακριβές να περιγράψουμε αυτή τη μετατόπιση ως ξαφνική μεταστροφή όλων από την με κλειστά μάτια πίστη στην επιτάχυνση στην ανησυχία για αυτή και στην προτίμηση προς την επιβράδυνση.
Ο Μασκ είχε ήδη συνυπογράψει έκκληση για εξάμηνη παύση το 2023. Η Anthropic, επίσης, είχε τοποθετήσει την ασφάλεια στον πυρήνα της δημόσιας ταυτότητάς της. Το ενδιαφέρον βρίσκεται στην ένταση των σημερινών προειδοποιήσεων και στην απόσταση ανάμεσα στις διακηρύξεις και στον ανταγωνισμό που συνεχίζει να καθορίζει τις επιχειρηματικές αποφάσεις. Εργαζόμενοι αποχωρούν ακόμη και από την Anthropic, υποστηρίζοντας ότι η ανταγωνιστική πίεση υπονομεύει την ασφάλεια.
Στην απέναντι πλευρά, ο Τζένσεν Χουάνγκ της Nvidia απορρίπτει τα σενάρια επικείμενης καταστροφής και υποστηρίζει τη συνέχιση της ανάπτυξης. Ο Τραμπ, αντίστοιχα, επικαλείται τον κίνδυνο να αποκτήσει προβάδισμα η Κίνα.
Ανάμεσα στις δύο θέσεις υπάρχει και μια ουσιαστική διάκριση: άλλο η εθελοντική επιβράδυνση που επιλέγει μια επιχείρηση και άλλο η υποχρεωτική ρύθμιση που επιβάλλει η πολιτεία. Ο Ντέιβιντ Σακς, για παράδειγμα, εμφανίστηκε δεκτικός απέναντι σε υπεύθυνες εταιρικές αποφάσεις περιορισμού του ρυθμού ανάπτυξης, απορρίπτοντας όμως την κυβερνητική επικύρωση μιας συντονισμένης παύσης. Όλα και όλα, ελεύθερη αγορά έχουμε…
Η διαφωνία, επομένως, αφορά και την εξουσία: ποιος θα ορίσει τα αποδεκτά όρια και ποιος θα ελέγξει την τήρησή τους; Μια συμφωνία μεταξύ διευθυνόντων συμβούλων μπορεί να περιορίσει ορισμένους κινδύνους. Δεν αποκτά, όμως, μόνο γι’ αυτό δημοκρατική νομιμοποίηση.
Επιπλέον, ο παράγοντας Κίνα περιπλέκει περισσότερο την κατάσταση. Η τεχνητή νοημοσύνη αντιμετωπίζεται ως εργαλείο οικονομικής και γεωπολιτικής ισχύος, δημιουργώντας μια γνώριμη λογική ανταγωνισμού: κάθε πλευρά επικαλείται την πιθανή πρόοδο της άλλης για να δικαιολογήσει τη δική της επιτάχυνση. Ακόμη και όταν αναγνωρίζεται η ανάγκη κοινών δικλίδων ασφαλείας, παραμένει η δυσπιστία για το αν μια παύση θα εφαρμοστεί αμοιβαία.
Στη συνάντηση Τραμπ–Σι στην Ουάσιγκτον, στις 24 Σεπτεμβρίου, αυτή η αντίφαση έγινε ορατή. Ο Σι υποστήριξε ότι η ανάπτυξη της τεχνητής νοημοσύνης πρέπει να παραμείνει υπό ανθρώπινο έλεγχο. Ο Τραμπ είχε προηγουμένως απορρίψει ένα διεθνές σχήμα ελέγχου, παρουσιάζοντάς το ως εμπόδιο στην ανάπτυξη. Παράλληλα, συζητήθηκε αμερικανική πρόταση για μηχανισμό επικοινωνίας σχετικά με επικίνδυνα περιστατικά τεχνητής νοημοσύνης.
Πρόταση Μπέρνι Σάντερς πιο αναγκαία από ποτέ
Είναι κάτι παραπάνω από αναγκαίο να δούμε λίγο αναλυτικά την προσέγγιση ενός από τους σημαντικότερους ριζοσπάστες ακτιβιστές και πολιτικούς των τελευταίων πολλών δεκαετιών στην Αμερική, του Μπέρνι Σάντερς.
Η παρέμβαση του Μπέρνι Σάντερς μεταφέρει τη συζήτηση στο πεδίο της δημοκρατίας και της κοινωνικής δικαιοσύνης. Τον Αύγουστο ζήτησε από τις OpenAI, Anthropic και Meta να παγώσουν την ανάπτυξη, επικαλούμενος τις δικές τους δεσμεύσεις για διακοπή όταν ξεπερνιούνται συγκεκριμένα όρια ασφαλείας. Η επιστολή του απαιτούσε από τους επιχειρηματίες να αναλάβουν ευθύνη για τις προειδοποιήσεις τους.
Η απάντησή του, όμως, προχωρά παραπέρα. Τον Μάρτιο, μαζί με την Αλεξάντρια Οκάσιο-Κορτέζ, παρουσίασε νομοσχέδιο για μορατόριουμ στα νέα κέντρα δεδομένων τεχνητής νοημοσύνης μέχρι να θεσπιστούν ουσιαστικές εγγυήσεις. Πρόκειται για νομοθετική πρόταση, όχι για απαγόρευση που έχει ήδη εφαρμοστεί. Οι προϋποθέσεις περιλαμβάνουν ασφάλεια, προστασία δικαιωμάτων, συμμετοχή των εργαζομένων στα οικονομικά οφέλη και αποτροπή επιβαρύνσεων στις κοινότητες, στο περιβάλλον και στους λογαριασμούς ενέργειας. Η παύση προτείνεται ως χρόνος για δημόσια συζήτηση και δημοκρατικό έλεγχο.
Εδώ βρίσκεται η ουσιαστικότερη πολιτική διαφορά. Για τον Σάντερς, η αξιολόγηση της τεχνητής νοημοσύνης περιλαμβάνει τον τρόπο με τον οποίο θα αναδιανεμηθεί ο πλούτος που ενδέχεται να παράγει. Αν αυξάνει την παραγωγικότητα, προτείνει σημαντική μείωση του χρόνου εργασίας χωρίς μείωση αποδοχών. Αν δημιουργεί πρωτοφανή πλούτο, αυτός πρέπει να εξασφαλίζει αξιοπρεπή στέγαση, υγεία και εκπαίδευση.
Η τεχνολογική εξέλιξη μπορεί, επομένως, να αποκτήσει διαφορετικό κοινωνικό περιεχόμενο: περισσότερο ελεύθερο χρόνο και ασφάλεια για τους πολλούς, αντί η αύξηση της παραγωγικότητας να μετατρέπεται αποκλειστικά σε απολύσεις και επιχειρηματικά κέρδη.
Απέναντι στο επιχείρημα της Κίνας, ο Σάντερς προτείνει διεθνή συνεννόηση. Στην παρέμβασή του στις 15 Σεπτεμβρίου επικαλέστηκε τις συμφωνίες ελέγχου των πυρηνικών εξοπλισμών για να υποστηρίξει μια αντίστοιχη συμφωνία ΗΠΑ-Κίνας με επαληθεύσιμους κανόνες.
Ενώ, την ίδια στιγμή, κάλεσε τους επικεφαλής των εταιρειών που δηλώνουν ανήσυχοι να σταματήσουν να χρηματοδοτούν πολιτικούς μηχανισμούς εναντίον υποψηφίων που διεκδικούν αυστηρές δικλίδες ασφαλείας. Η συνέπεια των διακηρύξεων κρίνεται, τελικά, και από τις πολιτικές πρακτικές.
Η συζήτηση αυτή ανοίγει και ένα ευρύτερο ζήτημα. Όπως επισημαίνει σχετική ανάλυση στο Jacobin, ακόμη και η δημόσια ιδιοκτησία χρειάζεται δημοκρατικούς θεσμούς ώστε να εξασφαλίζει πραγματικό κοινωνικό έλεγχο. Εργαζόμενοι και κοινότητες χρειάζονται ουσιαστικό λόγο στις αποφάσεις που μετασχηματίζουν τη ζωή τους.
Το ερώτημα της τεχνητής νοημοσύνης παραμένει, λοιπόν, βαθιά πολιτικό. Ποια έρευνα χρηματοδοτείται, ποιοι κίνδυνοι γίνονται αποδεκτοί, ποιος απολαμβάνει τα οφέλη και ποιος πληρώνει το κόστος; Η παρέμβαση του Σάντερς έχει σημασία επειδή διεκδικεί να επιστρέψουν αυτές οι αποφάσεις στη δημόσια αντιπαράθεση. Η κοινωνία δικαιούται να συναποφασίσει για το μέλλον της πριν κληθεί, για ακόμη μία φορά, να προσαρμοστεί σε τετελεσμένα.
