Παραλίγο να εξελιχθεί σε τραγωδία και πολεμικό επεισόδιο ανάμεσα στην Κίνα και τις ΗΠΑ μια υπόθεση με πρωταγωνίστρια την τεχνητή νοημοσύνη, σε μια περίοδο που ο Ντόναλντ Τραμπ την υπερασπίζεται άνευ όρων. Η ψευδείς πληροφορίες που περιείχε αναφορά συνταγμένη με τη βοήθεια της ΑΙ ανέφερε λανθασμένα ότι κινεζικό πλοίο μετέφερε εξαρτήματα πυρηνικών όπλων, σύμφωνα με ρεπορτάζ του CNN.
Αμερικανικό πολεμικό πλοίο ήταν έτοιμο να πλήξει το κινεζικό σκάφος. Λίγο πριν από την προγραμματισμένη ενέργεια, όμως, αξιωματούχοι διαπίστωσαν ότι η αναφορά είχε παραχθεί με χρήση ΑΙ και περιείχε ανακριβείς πληροφορίες.
Το περιστατικό προστίθεται σε μια σειρά ανησυχιών για τους κινδύνους που δημιουργεί η εξάρτηση από την τεχνητή νοημοσύνη στη λήψη αποφάσεων για στρατιωτικές πληροφορίες και στον καθορισμό στόχων.
Αμερικανοί στρατιώτες
Λάθος συναγερμός λόγω ΑΙ
Πηγές που μίλησαν στο CNN ανέφεραν ότι το επεισόδιο αποφεύχθηκε την τελευταία στιγμή. Ένοπλη ομάδα του αμερικανικού στρατού ετοιμαζόταν να επιβιβαστεί στο κινεζικό πλοίο που μετέφερε τα πυρηνικά εξαρτήματα, ενώ πολεμικά αεροσκάφη βρίσκονταν ήδη στον αέρα.
Πολύ λίγο πριν από την έναρξη της προγραμματισμένης επιχείρησης, οι αξιωματούχοι εξέτασαν πιο προσεκτικά την αναφορά που είχε συντάξει αναλυτής της διοίκησης ειδικών επιχειρήσεων. Διαπίστωσαν τότε ότι η ανάλυση είχε δημιουργηθεί με τη βοήθεια τεχνητής νοημοσύνης (AI) και ότι το chatbot που είχε χρησιμοποιήσει ο αναλυτής αναγνώρισε λανθασμένα το υλικό που μετέφερε το πλοίο.
Το CNN δεν μπόρεσε να διαπιστώσει ποιο ήταν τελικά το φορτίο του πλοίου.
Μία από τις πηγές σημείωσε ότι η αναφορά ήταν εντελώς ψευδής και ότι παραλίγο να ξεκινήσει πόλεμος. Σύμφωνα με την ίδια πηγή, οποιαδήποτε αμερικανική επιχείρηση εναντίον κινεζικού πλοίου θα μπορούσε να οδηγήσει σε ένοπλη σύγκρουση μεταξύ των δύο χωρών.
ΑΙ παντού
Στις ΗΠΑ υπάρχει έντονη πίεση προς τον αμερικανικό στρατό και την κοινότητα των μυστικών υπηρεσιών να ενσωματώσουν την ΑΙ σχεδόν σε κάθε πτυχή της δουλειάς τους. Από την ανάλυση των τεράστιων όγκων ακατέργαστων πληροφοριών που συλλέγουν οι ΗΠΑ και την επιλογή στόχων για επιθέσεις, μέχρι πιο απλές εφαρμογές όπως η διαχείριση του προϋπολογισμού και η εφοδιαστική αλυσίδα.
Ο υπουργός Άμυνας των ΗΠΑ, Πιτ Χέγκσεθ, θέλει την ΑΙ παντού REUTERS/Jonathan Ernst
Το επεισόδιο αυτό αναδεικνύει τους σοβαρούς κινδύνους από τη χρήση της ισχυρής, νέας τεχνολογίας, την οποία ελάχιστοι κατανοούν. Ενισχύει επίσης τα επιχειρήματα αναλυτών που φοβούνται ότι η ΑΙ μπορεί να οδηγήσει σε καταστροφικό λάθος υπολογισμό. Αν τα κράτη βασίζονται σε κακά ή αλλοιωμένα δεδομένα, μπορεί να προκύψει μοιραίο σφάλμα και ένας πόλεμος που πιθανόν αποφεύχθηκε την τελευταία στιγμή.
Τι συνέβη
Σύμφωνα με το CNN, ο αναλυτής του αμερικανικού στρατού ρώτησε ένα chatbot για ορισμένες αναφορές πληροφοριών σχετικά με το δηλωτικό φορτίου του κινεζικού πλοίου. Δεν έχει διευκρινιστεί αν επρόκειτο για εμπορικό AI chatbot ή για προϊόν αποκλειστικής χρήσης από την αμερικανική κυβέρνηση.
Η ΑΙ συνδύασε πληροφορίες ανοιχτού κώδικα με μυστικά σήματα σε κυβερνητικές αποθήκες και κατέληξε στο συμπέρασμα ότι το πλοίο μετέφερε εξαρτήματα πυρηνικών όπλων.
Στη συνέχεια, ο αναλυτής χρησιμοποίησε ξανά την τεχνητή νοημοσύνη για να συντάξει την έκθεση πληροφοριών, στη μορφή που συμβουλεύονται οι αξιωματικοί, και μετά τη διέδωσε…
Η Διοίκηση Ειδικών Επιχειρήσεων των ΗΠΑ στον Ειρηνικό και το Πεντάγωνο δεν απάντησαν σε αίτημα για σχολιασμό.
Η κούρσα της ΑΙ
Η κυβέρνηση των ΗΠΑ έχει αναγάγει την κούρσα για την τεχνητή νοημοσύνη σε έναν από τους βασικούς στόχους της. Στον στρατό θεωρούν ότι η ΑΙ μπορεί να βοηθήσει στη λήψη αποφάσεων στο πεδίο της μάχης, δηλαδή για το ποιους στόχους θα χτυπήσουν ή ποια στρατιωτικά περιουσιακά στοιχεία θα μετακινηθούν και πού, πιο γρήγορα. Υποστηρίζουν επίσης ότι είναι απαραίτητο οι ΗΠΑ να διατηρήσουν το προβάδισμα, αν χρειαστεί κάποια μέρα να πολεμήσουν την Κίνα ή άλλον αντίπαλο με ισχυρή ΑΙ.
Ο υπουργός Άμυνας Πιτ Χέγκσεθ, στη Στρατηγική Επιτάχυνσης Τεχνητής Νοημοσύνης, έγραψε: «Θα εξαπολύσουμε πειραματισμούς, θα εξαλείψουμε τα γραφειοκρατικά εμπόδια, θα εστιάσουμε τις επενδύσεις μας και θα επιδείξουμε την προσέγγιση εκτέλεσης που απαιτείται για να διασφαλίσουμε ότι θα ηγηθούμε στην στρατιωτική Τεχνητή Νοημοσύνη».
Ωστόσο, η προσπάθεια είναι αποκεντρωμένη, σύμφωνα με πολλούς Αμερικανούς αξιωματούχους που γνωρίζουν τη δυναμική. Διαφορετικά τμήματα της κυβέρνησης χρησιμοποιούν διαφορετικά εργαλεία υπό διαφορετικές εντολές και πρότυπα ασφαλείας, ενώ δεν υπάρχει ενιαίο σύνολο προτύπων για τον τρόπο με τον οποίο οι ΗΠΑ επαληθεύουν τις πληροφορίες που παράγονται από εργαλεία ΑΙ. Έτσι, η αξιοπιστία και η λειτουργικότητά τους διαφέρουν σημαντικά.
Οι μηχανικοί της Σίλικον Βάλεϊ και οι CEO των εταιρειών υψηλής τεχνολογίας προειδοποιούν ότι η τεχνητή νοημοσύνη μπορεί να ξεφύγει από τον ανθρώπινο έλεγχο και να οδηγήσει ακόμη και στο τέλος της ανθρωπότητας.
Τώρα, το επεισόδιο με το κινεζικό πλοίο αναδεικνύει έναν διαφορετικό και πιο άμεσο κίνδυνο: άνθρωποι να παίρνουν καταστροφικές αποφάσεις βασισμένες σε ανακριβείς ή παραπλανητικές πληροφορίες που παράγονται από την ΑΙ.
• Με τα στοιχεία του CNN
