Ένα ρωσικό drone με ενσωματωμένο σύστημα τεχνητής νοημοσύνης σκότωσε τρεις Ουκρανούς πολίτες κατά την επίθεση της 6ης Ιουλίου σε βενζινάδικο στη Ζαπορίζια, σύμφωνα με την εφημερίδα NYT. Πρόκειται, όπως αναφέρεται, για την πρώτη τεκμηριωμένη περίπτωση θανάτου αμάχων που προκλήθηκε από πλήρως αυτόνομο ρωσικό drone.
Η Ουκρανία έχει επίσης δοκιμάσει συστήματα τεχνητής νοημοσύνης με αυτόματη στόχευση. Ο Μιχαήλ Φεντόροφ, ο υπουργός Άμυνας που απομακρύνθηκε πρόσφατα από το αξίωμά του, δήλωσε σε συνέντευξή του στην εφημερίδα The Times στα τέλη του περασμένου μήνα ότι η Ουκρανία δοκίμασε ένα πλήρως αυτόνομο σύστημα τεχνητής νοημοσύνης στην Κριμαία, η οποία βρίσκεται υπό ρωσική κατοχή, τους τελευταίους μήνες.
Ο Φεντόροφ ανέφερε ότι οι συσκευές στόχευσαν εγκαταστάσεις αποθήκευσης καυσίμων και στρατιωτικό εξοπλισμό και ότι δεν υπήρξαν θύματα μεταξύ των αμάχων. Επίσης, οι Ουκρανοί έχουν χρησιμοποιήσει τεχνητή νοημοσύνη για τον χειρισμό σμήνους από drone.
Το drone χρησιμοποιούσε έναν υπολογιστή Nvidia Jetson Orin που διατίθεται στο εμπόριο και κοστίζει μερικές εκατοντάδες δολάρια, ενώ δεν διέθετε κεραίες ούτε χειριστή. Είχε προγραμματιστεί να φτάσει σε ένα συγκεκριμένο βενζινάδικο και, στη συνέχεια, να εντοπίσει και να στοχεύσει αυτόνομα δεξαμενές προπανίου, χρησιμοποιώντας τεχνητή νοημοσύνη εκπαιδευμένη να αναγνωρίζει συγκεκριμένα αντικείμενα.
Οι Ουκρανοί ερευνητές εντόπισαν μη κρυπτογραφημένες εικόνες του εδάφους και κώδικα στόχευσης στο τσιπ, γεγονός που τους επέτρεψε να προσδιορίσουν ποια αντικείμενα είχε εκπαιδευτεί το drone να ανιχνεύει και να επιτίθεται. Το drone είχε προγραμματιστεί αλλά επέλεξε αυτόνομα τις δεξαμενές στις οποίες έπεσε.
Το drone που τους σκότωσε καθοδηγούνταν από ένα πειραματικό σύστημα τεχνητής νοημοσύνης και όχι από ανθρώπινο χειριστή, σύμφωνα με ειδικούς σε θέματα drone, Ουκρανούς στρατιωτικούς διοικητές και την ομάδα εγκληματολογικών ερευνών που εξέτασε τα συντρίμμια από τη θανατηφόρα επίθεση, αλλά και από άλλες επιθέσεις στην πόλη.
Το drone είχε προγραμματιστεί από χειριστές να κατευθυνθεί προς ένα συγκεκριμένο βενζινάδικο, αλλά μόλις πλησίασε επέλεξε μόνο του τον ακριβή στόχο του — πιθανότατα δεξαμενές προπανίου — με βάση την εκπαίδευσή του να αναγνωρίζει τέτοιες δεξαμενές και να τις χτυπά, ανέφεραν οι ειδικοί και οι στρατιωτικοί αξιωματούχοι.
Πρόκειται για μια εξέλιξη που αναμενόταν εδώ και καιρό στον πόλεμο στην Ουκρανία, προμηνύοντας ένα δυστοπικό μέλλον στο οποίο ρομπότ-δολοφόνοι περιφέρονται στους ουρανούς, λαμβάνοντας αποφάσεις ζωής ή θανάτου που μετατρέπουν τους στόχους σε απλά σημεία δεδομένων.
Αυτό αποτελεί κίνδυνο για ολόκληρο τον κόσμο, δήλωσε ο συνταγματάρχης Σεργκέι Μινάιεφ, διοικητής της αεροπορικής άμυνας στη Ζαπορίζια. Σε λίγα χρόνια, θα ζούμε σε μια ταινία τύπου Terminator. Δεν είναι αστείο. Οι μηχανές λαμβάνουν αποφάσεις για να επιτεθούν.
Η ανάλυση των συντριμμιών από αυτή την επίθεση και άλλες στη Ζαπορίζια έδειξε ότι τα drones διέθεταν ενσωματωμένους μίνι-υπολογιστές, που διατίθενται στο εμπόριο από την Nvidia, οι οποίοι λάμβαναν τις αποφάσεις στόχευσης, όπως ανέφεραν οι ειδικοί και οι στρατιωτικοί αξιωματούχοι. Η Nvidia παράγει το μεγαλύτερο μέρος των τσιπ που τροφοδοτούν τα πιο προηγμένα συστήματα τεχνητής νοημοσύνης στον κόσμο.
Η παρουσία μονάδων της Nvidia και η απουσία κεραιών στα drones οδήγησαν τους διοικητές της ουκρανικής αεροπορικής άμυνας να υποθέσουν ότι τα όπλα καθοδηγούνταν από ένα αυτόνομο σύστημα τεχνητής νοημοσύνης, κάτι που επιβεβαιώθηκε μετά από περαιτέρω έρευνα.
Τα αυτόνομα συστήματα τεχνητής νοημοσύνης μπορούν να εκπαιδευτούν με βάση χιλιάδες εικόνες ώστε να αναγνωρίζουν κατηγορίες όπως ποτάμι, στρατιωτικό φορτηγό ή άτομο. Τα μη επανδρωμένα αεροσκάφη με αυτόματη στόχευση χρησιμοποιούν τις κάμερές τους για να εντοπίζουν αυτά τα αντικείμενα με μεγαλύτερη ακρίβεια από ό,τι μπορεί να επιτύχει ένας ανθρώπινος πιλότος.
Ωστόσο, οι αντίπαλοι τέτοιων όπλων υποστηρίζουν ότι, χωρίς ανθρώπινη παρέμβαση, τα drones ενδέχεται να είναι πιο επιρρεπή σε λάθη ή παραβιάσεις του δικαίου του πολέμου, όπως για παράδειγμα η αδυναμία διάκρισης αθώων αμάχων από μαχητές.
Η χρήση αυτόνομης τεχνητής νοημοσύνης με δυνατότητα αυτόματης στόχευσης στην επίθεση στο βενζινάδικο, στις 6 Ιουλίου, θα αποτελούσε την πρώτη τεκμηριωμένη περίπτωση στην οποία θάνατοι αμάχων προκλήθηκαν από ρωσικό drone εξοπλισμένο με τέτοιο σύστημα, δήλωσε η Κατερίνα Μποντάρ, ανώτερη ερευνήτρια στο Wadhwani AI Center του Κέντρου Στρατηγικών και Διεθνών Μελετών (CSIS) στην Ουάσινγκτον.
Πρόσθεσε ότι η μονάδα της NVIDIA αποτελεί την καλύτερη απόδειξη ότι η Ρωσία πειραματιζόταν με αυτόνομη τεχνητή νοημοσύνη. Αν και ένας σύμβουλος του προέδρου της Ουκρανίας, Βολοντίμιρ Ζελένσκι, έχει γράψει στα μέσα κοινωνικής δικτύωσης ότι η Ρωσία δοκιμάζει συστήματα τεχνητής νοημοσύνης αυτόματης στόχευσης, οι θάνατοι δεν είχαν αναφερθεί προηγουμένως, ούτε οι λεπτομέρειες σχετικά με τη μονάδα υπολογιστή Nvidia Jetson Orin που χρησιμοποιήθηκε.
Τόσο η Ρωσία όσο και η Ουκρανία χρησιμοποιούσαν ήδη τεχνητή νοημοσύνη (A.I.) σε διάφορα μοντέλα drone πριν από την εμφάνιση των πλήρως αυτόνομων drone. Σε αυτά τα παλαιότερα μοντέλα, η τεχνητή νοημοσύνη χρησιμοποιείται μόνο για αυτό που είναι γνωστό ως τελευταίο μίλι, το τελικό στάδιο της επίθεσης, αφού ένας χειριστής από απόσταση έχει επιλέξει τον στόχο. Η πλήρως αυτόνομη τεχνητή νοημοσύνη απομακρύνει τον άνθρωπο από την τελική επιλογή στόχου.
Το τσιπ της Nvidia που χρησιμοποιήθηκε στην επίθεση στη Ζαπορίζια δεν ήταν κρυπτογραφημένο, σύμφωνα με ουκρανικούς αξιωματούχους, οπότε μπόρεσαν να δουν τις εικόνες του εδάφους που είχαν μεταφορτωθεί στη μονάδα, επιτρέποντας στο drone να εντοπίζει οπτικά ορόσημα και να διατηρεί την πορεία του. Είπαν επίσης ότι μπόρεσαν να εξετάσουν τον κώδικα, ο οποίος αποκάλυψε τους τύπους στόχων που το drone είχε εκπαιδευτεί να αναγνωρίζει και να επιτίθεται, όπως δεξαμενές προπανίου.
Τα παλαιότερα μοντέλα drone γενικά είτε χειρίζονται από ανθρώπινους χειριστές, μέσω ραδιοσυχνοτήτων ή καλωδίων οπτικών ινών, είτε είναι προγραμματισμένα με συντεταγμένες. Καθώς τα drone έχουν καταλάβει το πεδίο μάχης στην Ουκρανία, οι χειριστές τους έχουν καταστεί πρωταρχικοί στόχοι.
Πηγή περιεχομένου: in.gr
