Μια απίστευτη πείραμα αποκαλύπτει πόσο εύκολα μπορεί ένα ρομπότ να παρακαμφθεί και να εκτελέσει επικίνδυνες εντολές. Ο Benben, ένα φιλικό τετράποδο ρομπότ, αρχικά αρνείται να μεταφέρει μια βόμβα, αλλά μέσα σε λίγα λεπτά, οι ερευνητές του Πανεπιστημίου της Πενσιλβάνιας το πείθουν ότι πρόκειται για κινηματογραφικά γυρίσματα και το ρομπότ εκτελεί την εντολή.
Η έρευνα, που διεξήχθη από την ομάδα του καθηγητή Γιώργου Παππά, αναδεικνύει τους κινδύνους που προκύπτουν από την παραβίαση των μηχανισμών ασφαλείας των ρομπότ, διαδικασία γνωστή ως jailbreaking. Οι ερευνητές επισημαίνουν ότι η ενσωμάτωση της τεχνητής νοημοσύνης στη ρομποτική μπορεί να οδηγήσει σε επικίνδυνες συμπεριφορές.
Η έρευνα αποκάλυψε ότι τα ρομπότ που καθοδηγούνται από τεχνητή νοημοσύνη είναι πιο ευάλωτα σε επιθέσεις και μπορούν να εκτελέσουν επικίνδυνες εντολές. Με την ανάπτυξη του αλγόριθμου RoboPAIR, οι ερευνητές διαπίστωσαν ότι η παραβίαση των περιορισμών ασφαλείας μπορεί να επιτευχθεί με 100% επιτυχία σε λίγες μόνο εντολές.
Ο Γιώργος Παππάς επισημαίνει την ανάγκη για πολλαπλά επίπεδα ασφαλείας στα ρομπότ και προτείνει την εφαρμογή φίλτρων ασφαλείας που θα διασφαλίζουν την ασφαλή λειτουργία τους. Η ερευνητική ομάδα έχει δημιουργήσει το φίλτρο Roboguard, το οποίο μειώνει κατά 95% τα προβλήματα από τις επιθέσεις jailbreaking.
Καθώς η τεχνητή νοημοσύνη συνεχίζει να εξελίσσεται, οι ερευνητές προειδοποιούν ότι απαιτείται αυστηρό ρυθμιστικό πλαίσιο για την ασφαλή αλληλεπίδραση των ρομπότ με τον φυσικό κόσμο.
