Τη δημιουργία διεθνών τεχνικών προτύπων για την ασφάλεια των προηγμένων συστημάτων τεχνητής νοημοσύνης προτείνει η OpenAI, καλώντας τις Ηνωμένες Πολιτείες να αναλάβουν ηγετικό ρόλο στη διαμόρφωση ενός κοινού παγκόσμιου πλαισίου.
Η πρόταση αφορά, μεταξύ άλλων, συστήματα τεχνητής νοημοσύνης που θα μπορούσαν να αποκτήσουν δυνατότητες αναδρομικής αυτοβελτίωσης, δηλαδή να ενισχύουν αυτόνομα τις ίδιες τους τις ικανότητες.
Το ζήτημα της AI αναμένεται να βρεθεί ψηλά στην ατζέντα των συζητήσεων στον ΟΗΕ αυτή την εβδομάδα, σε μια περίοδο κατά την οποία στελέχη του κλάδου έχουν εκφράσει ανησυχίες για την ταχύτητα ανάπτυξης ολοένα ισχυρότερων συστημάτων και τους ενδεχόμενους κινδύνους που μπορεί να προκύψουν.
Μεταξύ αυτών βρίσκεται και ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, ο οποίος αναμένεται να ενημερώσει το Συμβούλιο Ασφαλείας του ΟΗΕ για ζητήματα που αφορούν την τεχνητή νοημοσύνη και τη διεθνή ασφάλεια.
Η πρόταση της OpenAI
Σε ανάρτησή της, η OpenAI υποστήριξε ότι είναι απαραίτητη η ανάπτυξη ενός μηχανισμού που θα διευκολύνει τη δημιουργία συμπληρωματικών εθνικών και διεθνών προτύπων για την προηγμένη AI.
Στην πρόταση περιλαμβάνονται κοινά κριτήρια μέτρησης των συστημάτων και πρωτόκολλα αναφοράς περιστατικών, με στόχο να καταστεί αποτελεσματικότερη η συνεργασία μεταξύ κρατών απέναντι σε ενδεχόμενους κινδύνους.
«Η ανάληψη ηγετικού ρόλου τώρα θα καθορίσει αν οι Ηνωμένες Πολιτείες θα διαμορφώσουν το παγκόσμιο πλαίσιο για την τεχνητή νοημοσύνη ή αν θα παρακολουθήσουν ένα κατακερματισμένο, άνισο και γεμάτο συγκρούσεις σύστημα να εδραιώνεται γύρω τους. Αυτό θα καθορίσει επίσης αν η προηγμένη τεχνητή νοημοσύνη θα ενισχύσει τα δίκτυα που διαθέτουν ήδη οι Ηνωμένες Πολιτείες και οι σύμμαχοί τους· η αποτυχία να αναλάβουν ηγετικό ρόλο ενδέχεται να τα αποδυναμώσει», έγραψε η OpenAI στην ανάρτηση του ιστολογίου της τη Δευτέρα.
Η συζήτηση για επιβράδυνση της AI
Οι ανησυχίες για τις μελλοντικές δυνατότητες των συστημάτων τεχνητής νοημοσύνης έχουν ανοίξει παράλληλα τη συζήτηση στον τεχνολογικό κλάδο για το ενδεχόμενο σκόπιμης επιβράδυνσης του ρυθμού ανάπτυξης της AI.
Σύμφωνα με την OpenAI, ωστόσο, το ζήτημα δεν περιορίζεται στον καθορισμό μιας συγκεκριμένης ταχύτητας ανάπτυξης, αλλά αφορά κυρίως τη σχέση ανάμεσα στις νέες δυνατότητες των μοντέλων και στην έρευνα για την ασφαλή λειτουργία τους.
«Ο ρυθμός ανάπτυξης της τεχνητής νοημοσύνης δεν έχει να κάνει με τη διατήρηση ενός προκαθορισμένου ρυθμού. Από τεχνική άποψη, έχει να κάνει με τη διασφάλιση ότι η έρευνα για την ευθυγράμμιση και η εφαρμογή αυτής της έρευνας προηγούνται των δυνατοτήτων», δήλωσε η OpenAI.
Η «ευθυγράμμιση» αναφέρεται στην προσπάθεια ώστε τα συστήματα τεχνητής νοημοσύνης να λειτουργούν σύμφωνα με τις ανθρώπινες αξίες και τους στόχους που τους έχουν τεθεί.
Ο Σαμ Άλτμαν στο Συμβούλιο Ασφαλείας
Ο Σαμ Άλτμαν αναμένεται την Τετάρτη να ενημερώσει το 15μελές Συμβούλιο Ασφαλείας του ΟΗΕ σχετικά με τις επιπτώσεις της AI στη διεθνή ασφάλεια.
Η συνεδρίαση έχει συγκληθεί από τη Γαλλία, η οποία ασκεί την προεδρία του Συμβουλίου για τον Σεπτέμβριο, ενώ θα προεδρεύσει ο Γάλλος υπουργός Ευρώπης και Εξωτερικών Ζαν-Νοέλ Μπαρότ.
Το Συμβούλιο Ασφαλείας είχε πραγματοποιήσει την πρώτη του συνεδρίαση για τους κινδύνους της τεχνητής νοημοσύνης το 2023. Τότε, η Κίνα είχε επισημάνει ότι η τεχνολογία δεν θα πρέπει να μετατραπεί σε «αχαλίνωτο άλογο», ενώ οι ΗΠΑ είχαν προειδοποιήσει για τον κίνδυνο αξιοποίησής της για λογοκρισία ή καταστολή πολιτών.
Η διαφορετική προσέγγιση της κυβέρνησης Τραμπ
Η κυβέρνηση του Ντόναλντ Τραμπ έχει, από την πλευρά της, απορρίψει τις εκκλήσεις για επιβράδυνση της ανάπτυξης της AI, εκφράζοντας την ανησυχία ότι μια τέτοια κίνηση θα μπορούσε να επιτρέψει στην Κίνα να περιορίσει το τεχνολογικό χάσμα από τις ΗΠΑ.
Για την Ουάσιγκτον, η συγκεκριμένη τεχνολογία αντιμετωπίζεται ως πεδίο ιδιαίτερης σημασίας τόσο για την εθνική όσο και για την οικονομική ασφάλεια.
Ο Αμερικανός πρόεδρος υποστήριξε νωρίτερα μέσα στον μήνα ότι οι ΗΠΑ διαθέτουν ήδη μηχανισμούς ελέγχου για τη ρύθμιση της ανάπτυξης της τεχνητής νοημοσύνης, εκτιμώντας παράλληλα ότι η Κίνα θα μπορούσε να επωφεληθεί από τις αμφιβολίες και τις καθυστερήσεις γύρω από την περαιτέρω ανάπτυξή της.
Η συζήτηση για την AI αποκτά πρόσθετο ενδιαφέρον ενόψει και της προγραμματισμένης συνάντησης του Ντόναλντ Τραμπ με τον Κινέζο πρόεδρο Σι Τζινπίνγκ αυτή την εβδομάδα στην Ουάσιγκτον.
