Η παραπληροφόρηση στα social media δεν κρύβεται πάντα σε ψεύτικες λέξεις, αλλά και στην ξαφνική αλλαγή κατεύθυνσης μιας συζήτησης. Νέα έρευνα δείχνει πώς η AI μπορεί να εντοπίζει όταν ένα σχόλιο προσπαθεί να εκτροχιάσει το αρχικό θέμα.
Έχετε παρατηρήσει ποτέ ότι μια συζήτηση στα social media μπορεί να ξεκινήσει από ένα συγκεκριμένο θέμα και, μέσα σε λίγα σχόλια, να καταλήξει σε μια εντελώς διαφορετική και πολύ πιο έντονη πολιτική αντιπαράθεση;
Για παράδειγμα, μια συζήτηση για το αυξημένο κόστος ζωής μπορεί ξαφνικά να μετατραπεί σε συζήτηση για τη μετανάστευση. Μια ανάρτηση για τον πόλεμο στην Ουκρανία μπορεί να οδηγήσει σε σχόλια για τη διαφθορά μιας κυβέρνησης. Ένα θέμα για την οικονομία μπορεί να καταλήξει σε προσωπικές επιθέσεις εναντίον πολιτικών ή άλλων χρηστών.
Μερικές φορές αυτές οι αλλαγές θέματος είναι απολύτως φυσιολογικές. Οι άνθρωποι συχνά συνδέουν διαφορετικά ζητήματα και οδηγούν μια συζήτηση σε απρόβλεπτες κατευθύνσεις.
Σε άλλες περιπτώσεις, όμως, η αλλαγή αυτή μπορεί να είναι σκόπιμη.
Ο στόχος μπορεί να είναι να απομακρυνθεί η συζήτηση από το αρχικό θέμα και να οδηγηθεί σε ένα πιο διχαστικό ζήτημα. Με αυτόν τον τρόπο, η συζήτηση γίνεται πιο έντονη, οι χρήστες αντιπαρατίθενται μεταξύ τους και το αρχικό θέμα χάνεται.
Η εξέλιξη της γενετικής τεχνητής νοημοσύνης κάνει αυτή την πρακτική ακόμη πιο δύσκολο να εντοπιστεί.
Τα τελευταία χρόνια, η τεχνητή νοημοσύνη έχει γίνει πολύ πιο ικανή στην παραγωγή κειμένου. Τα σύγχρονα συστήματα μπορούν να δημιουργήσουν σχόλια που είναι γραμματικά σωστά, φυσικά και πειστικά.
Αυτό δημιουργεί ένα σημαντικό πρόβλημα.
Στο παρελθόν, ένας τρόπος για να εντοπιστεί ένας ύποπτος λογαριασμός ήταν να εξεταστεί ο τρόπος με τον οποίο έγραφε. Για παράδειγμα, κάποιος που χρησιμοποιούσε μια γλώσσα που δεν ήταν η μητρική του μπορεί να έκανε ασυνήθιστα γραμματικά λάθη ή να χρησιμοποιούσε περίεργες εκφράσεις.
Αυτά τα στοιχεία μπορούσαν να βοηθήσουν τα συστήματα ανίχνευσης να αναγνωρίσουν ύποπτες δραστηριότητες.
Σήμερα, όμως, η εικόνα είναι διαφορετική.
Η γενετική τεχνητή νοημοσύνη μπορεί να παράγει κείμενα που μοιάζουν πολύ περισσότερο με φυσιολογική ανθρώπινη επικοινωνία. Μπορεί, επίσης, να προσαρμόζει το ύφος, το λεξιλόγιο και τη δομή μιας απάντησης.
Έτσι, η προσπάθεια να εντοπιστεί ένα κακόβουλο μήνυμα μόνο από τις λέξεις που χρησιμοποιεί γίνεται όλο και πιο δύσκολη.
Οι αυτοματοποιημένοι λογαριασμοί μπορούν να πλημμυρίσουν τα κοινωνικά δίκτυα σχόλια που έχουν σχεδιαστεί για να σπέρνουν διχασμό, να πυροδοτούν την πολιτική αντιπαράθεση και να υπονομεύουν την εμπιστοσύνη σε αξιόπιστες πληροφορίες.
Ωστόσο, η τελευταία έρευνα των Γλωσσολόγων Σέαν Ρόμπερτ και Κατερίνα Κρυκόνιουκ προσφέρει έναν τρόπο να εντοπίσουμε αυτές τις προσπάθειες.
Αντί να προσπαθούμε να προσδιορίσουμε αν μια ανάρτηση γράφτηκε από τεχνητή νοημοσύνη, εστιάζουμε σε κάτι διαφορετικό: αν προσπαθεί να εκτροχιάσει τη συζήτηση.
Μια πρώτη προσέγγιση είναι να εξετάζεται αν ένα σχόλιο απαντά πραγματικά σε αυτό που προηγήθηκε.
Ας υποθέσουμε ότι κάποιος γράφει ένα σχόλιο για μια πολιτική συνάντηση του Ουκρανού προέδρου Βολοντίμιρ Ζελένσκι με Βρετανούς πολιτικούς.
Ένας άλλος χρήστης μπορεί να απαντήσει σχετικά με τις αλλαγές στην πολιτική ηγεσία του Ηνωμένου Βασιλείου. Αυτό μπορεί να είναι μια φυσιολογική εξέλιξη της συζήτησης, επειδή εξακολουθεί να υπάρχει σύνδεση με το αρχικό θέμα.
Αν όμως η επόμενη απάντηση εγκαταλείψει ουσιαστικά το αρχικό ζήτημα και αρχίσει να μιλά για την απαγόρευση της αντιπολίτευσης στην Ουκρανία, τότε η συζήτηση έχει αρχίσει να αλλάζει κατεύθυνση.
Το σημαντικό εδώ δεν είναι απαραίτητα αν ο συγκεκριμένος ισχυρισμός είναι αληθινός ή ψευδής.
Το πρόβλημα είναι ότι η απάντηση δεν ασχολείται πραγματικά με αυτό που συζητούσαν οι χρήστες πριν. Εισάγει ένα νέο και πιο φορτισμένο πολιτικό ζήτημα.
Αυτή η τεχνική μπορεί να περιγραφεί ως εκτροπή της συζήτησης ή ως μια παραπλανητική τακτική που μεταφέρει την προσοχή σε ένα διαφορετικό θέμα.
Η εκτροπή μιας συζήτησης μπορεί να είναι ιδιαίτερα αποτελεσματική στα social media επειδή οι πλατφόρμες ευνοούν συχνά το περιεχόμενο που προκαλεί έντονες αντιδράσεις.
Ένα ήρεμο σχόλιο για την οικονομία μπορεί να μην προκαλέσει ιδιαίτερο ενδιαφέρον.
Ένα σχόλιο, όμως, που συνδέει το ίδιο θέμα με ένα έντονα πολιτικό ζήτημα μπορεί να προκαλέσει δεκάδες απαντήσεις.
Κάποιοι χρήστες θα συμφωνήσουν, άλλοι θα διαφωνήσουν και άλλοι θα απαντήσουν με ακόμη πιο επιθετικό τρόπο.
Έτσι δημιουργείται ένας κύκλος αντιπαράθεσης.
Η αρχική συζήτηση μπορεί τελικά να έχει χαθεί, αλλά η διαμάχη συνεχίζεται.
Αυτό ακριβώς κάνει την τεχνική ενδιαφέρουσα για όσους θέλουν να χειραγωγήσουν μια διαδικτυακή συζήτηση. Δεν χρειάζεται απαραίτητα να δημιουργήσουν ένα εντελώς ψεύτικο γεγονός. Μπορούν απλώς να αλλάξουν την κατεύθυνση της συζήτησης.
Οι ερευνητές Σέαν Ρόμπερτ και Κατερίνα Κρυκόνιουκ προσπάθησαν να εξετάσουν αν αυτού του είδους η συμπεριφορά μπορεί να εντοπιστεί αυτόματα, όπως έγραψαν σε άρθρο τους στο The Conversation.
Για τον σκοπό αυτό, μελέτησαν περισσότερα από 1.600 σχόλια που είχαν δημοσιευτεί κάτω από βίντεο του BBC News στο YouTube.
Τα σχόλια εξετάστηκαν με βάση 25 διαφορετικά χαρακτηριστικά που σχετίζονται με τον τρόπο με τον οποίο εξελίσσονται οι διαδικτυακές συζητήσεις.
Τα αποτελέσματα έδειξαν ορισμένα ενδιαφέροντα μοτίβα.
Περίπου 36% των σχολίων που απομακρύνονταν από το αρχικό θέμα περιείχαν παραπλανητικά στοιχεία.
Περίπου 65% παρουσίαζαν λογικά άλματα, δηλαδή συμπεράσματα που δεν προέκυπταν άμεσα από όσα είχαν ειπωθεί προηγουμένως.
Επίσης, περίπου 20% περιείχαν προσωπικές επιθέσεις.
Ένα ακόμη χαρακτηριστικό ήταν ότι αυτά τα σχόλια ήταν λιγότερο πιθανό να αναφέρονται σε προηγούμενα σχόλια ή να δείχνουν ότι ο χρήστης είχε κατανοήσει την άποψη του συνομιλητή του.
Με άλλα λόγια, δεν έμοιαζαν τόσο με πραγματική συζήτηση.
Έμοιαζαν περισσότερο με προσπάθεια να οδηγηθεί η συζήτηση κάπου αλλού.
Το επόμενο ερώτημα ήταν αν ένας αλγόριθμος τεχνητής νοημοσύνης θα μπορούσε να αναγνωρίσει αυτόματα αυτές τις αλλαγές.
Η ιδέα ήταν αρκετά διαφορετική από τις κλασικές μεθόδους ανίχνευσης.
Αντί να εκπαιδευτεί ένα σύστημα ώστε να ψάχνει συγκεκριμένες ύποπτες λέξεις, οι ερευνητές χρησιμοποίησαν ένα μεγάλο γλωσσικό μοντέλο για να δημιουργήσει πιθανές φυσιολογικές απαντήσεις σε ένα σχόλιο.
Με απλά λόγια, το σύστημα προσπαθούσε να απαντήσει στην ερώτηση:
Αν κάποιος απαντούσε κανονικά σε αυτό το σχόλιο, τι θα έλεγε;
Στη συνέχεια, η πραγματική απάντηση ενός χρήστη συγκρινόταν με αυτές τις πιθανές απαντήσεις.
Αν η πραγματική απάντηση ήταν πολύ διαφορετική από αυτό που θα περίμενε κανείς ως φυσιολογική συνέχεια της συζήτησης, αυτό μπορούσε να αποτελέσει ένδειξη ότι η συζήτηση είχε εκτραπεί.
Έτσι, η τεχνητή νοημοσύνη δεν προσπαθεί να αποφασίσει αν ένα σχόλιο είναι αληθινό ή ψεύτικο.
Προσπαθεί να καταλάβει αν ταιριάζει με τη φυσιολογική πορεία της συζήτησης.
Όταν η μέθοδος δοκιμάστηκε στο σύνολο των σχολίων που είχαν προηγουμένως αξιολογηθεί από ανθρώπους, το σύστημα κατάφερε να εντοπίσει σωστά τα σχόλια που απομακρύνονταν από το θέμα περίπου στο 77% των περιπτώσεων.
Το ποσοστό αυτό δεν σημαίνει ότι η τεχνολογία μπορεί να αναγνωρίζει με βεβαιότητα κάθε προσπάθεια χειραγώγησης.
Ωστόσο, είναι ένα σημαντικό αποτέλεσμα.
Σύμφωνα με την έρευνα, η συγκεκριμένη προσέγγιση είχε περίπου διπλάσια απόδοση από παλαιότερες μεθόδους που βασίζονταν κυρίως στην ανάλυση του συναισθηματικού περιεχομένου των λέξεων.
Παράλληλα, τα αποτελέσματά της ήταν συγκρίσιμα με τον βαθμό συμφωνίας που υπήρχε μεταξύ των ανθρώπων που αξιολόγησαν τα ίδια σχόλια.
Αυτό δείχνει ότι η τεχνητή νοημοσύνη μπορεί να αναζητήσει κάτι πιο σύνθετο από συγκεκριμένες λέξεις: τη συνοχή και την κατεύθυνση μιας ολόκληρης συζήτησης.
Εδώ χρειάζεται προσοχή.
Το γεγονός ότι ένα σχόλιο αλλάζει θέμα δεν σημαίνει αυτομάτως ότι ο χρήστης προσπαθεί να παραπλανήσει τους άλλους.
Οι πραγματικές ανθρώπινες συζητήσεις δεν είναι πάντα γραμμικές.
Κάποιος μπορεί να θυμηθεί ένα άλλο γεγονός, να κάνει έναν συνειρμό ή να αλλάξει θέμα χωρίς καμία κακή πρόθεση.
Για παράδειγμα, μια συζήτηση για το κόστος της ενέργειας μπορεί φυσιολογικά να οδηγήσει σε συζήτηση για την οικονομική πολιτική μιας κυβέρνησης. Το ότι η συζήτηση μετακινήθηκε δεν σημαίνει ότι υπήρξε οργανωμένη προσπάθεια χειραγώγησης.
Γι’ αυτό οι ερευνητές δεν αντιμετωπίζουν την τεχνολογία ως ένα σύστημα που θα αποφασίζει αυτόματα ποιος λέει αλήθεια και ποιος ψέματα.
Η ιδέα είναι περισσότερο να λειτουργεί ως σύστημα έγκαιρης προειδοποίησης.
Μια τέτοια τεχνολογία θα μπορούσε στο μέλλον να βοηθήσει τις πλατφόρμες κοινωνικής δικτύωσης να εντοπίζουν συζητήσεις που παρουσιάζουν ασυνήθιστη συμπεριφορά.
Για παράδειγμα, ένα σύστημα θα μπορούσε να επισημαίνει μια συζήτηση στην οποία:
- οι απαντήσεις απομακρύνονται συνεχώς από το αρχικό θέμα,
- εμφανίζονται ξαφνικά έντονα πολιτικά ζητήματα,
- υπάρχουν πολλά λογικά άλματα,
- εμφανίζονται προσωπικές επιθέσεις,
- οι χρήστες δεν απαντούν πραγματικά ο ένας στον άλλον,
- ή επαναλαμβάνονται παρόμοιες αλλαγές θέματος.
Αυτό δεν θα αποδείκνυε ότι υπάρχει οργανωμένη εκστρατεία παραπληροφόρησης.
Θα έδινε, όμως, στους διαχειριστές ένα σήμα ότι μια συγκεκριμένη συζήτηση ίσως χρειάζεται περισσότερη προσοχή.
Η τελική απόφαση θα έπρεπε να παραμένει στους ανθρώπους και, ιδανικά, σε εκπαιδευμένους ειδικούς.
Η έρευνα δείχνει κάτι σημαντικό για το μέλλον της διαδικτυακής παραπληροφόρησης.
Όσο η τεχνητή νοημοσύνη γίνεται καλύτερη στη δημιουργία φυσικού και πειστικού κειμένου, τόσο πιο δύσκολο είναι να εντοπίζουμε την παραπληροφόρηση απλώς κοιτάζοντας τις λέξεις.
Ωστόσο η ίδια τεχνητή νοημοσύνη μπορεί επίσης να χρησιμοποιηθεί για τον εντοπισμό ορισμένων από τις τεχνικές που χρησιμοποιούνται για τη διάδοσή τέτοιου περιεχομένου.
Η πραγματική πρόκληση, επομένως, δεν είναι να βρούμε ένα τέλειο σύστημα που θα αποφασίζει ποιο σχόλιο είναι κακό.
Είναι να δημιουργήσουμε εργαλεία που θα μας βοηθούν να αναγνωρίζουμε πότε μια διαδικτυακή συζήτηση αλλάζει ύποπτα κατεύθυνση — και να αφήνουμε την τελική κρίση στους ανθρώπους.
Σε έναν ψηφιακό κόσμο όπου η τεχνητή νοημοσύνη μπορεί να παράγει σχεδόν ατελείωτο περιεχόμενο, ίσως το σημαντικότερο στοιχείο δεν είναι πλέον μόνο τι λέγεται, αλλά και πού οδηγείται η συζήτηση.
Πηγή περιεχομένου: in.gr
