Η Κομισιόν διερευνά τις λειτουργίες του Grok στο X, εστιάζοντας σε παραβιάσεις που αφορούν την κακή χρήση του AI. Η Κομισιόν ανακοίνωσε την έναρξη εκτενούς έρευνας σχετικά με το chatbot Grok, το οποίο είναι ενσωματωμένο στην πλατφόρμα X του Έλον Μασκ. Η αιτία για την έρευνα αυτή είναι το σκάνδαλο που προέκυψε από τις σεξουαλικά άσεμνες εικόνες, συμπεριλαμβανομένων και παιδιών, οι οποίες δημιουργήθηκαν και αναρτήθηκαν στο διαδίκτυο από χρήστες. Το σκάνδαλο ξεκίνησε στα τέλη του 2025, όταν το Grok, ένα chatbot τεχνητής νοημοσύνης, δημοσίευσε ένα κύμα ψηφιακά επεξεργασμένων γυμνών εικόνων γυναικών και παιδιών, έπειτα από αιτήματα χρηστών.
Αρκούσε η απλή εντολή Grok, φόρεσέ της μπικίνι, για να γδύνουν χιλιάδες χρήστες γυναίκες, έφηβες και παιδιά χωρίς τη συγκατάθεσή τους. Σύμφωνα με το αμερικανικό Κέντρο για την Καταπολέμηση του Ψηφιακού Μίσους, τουλάχιστον 3 εκατομμύρια τέτοιες εικόνες δημιουργήθηκαν μέσα σε μόλις έντεκα ημέρες.
Η παγκόσμια κατακραυγή που ακολούθησε είχε ως αποτέλεσμα την αρχική ανακοίνωση από την X ότι το εργαλείο θα περιοριζόταν σε συνδρομητές που πληρώνουν. Ωστόσο, η εταιρεία αποφάσισε να απαγορεύσει σε όλους τους χρήστες τη χρήση του Grok για τη γδύνση πραγματικών ανθρώπων. Η Ευρωπαϊκή Επιτροπή, μέσω της πλατφόρμας X, ανέφερε ότι η έρευνα θα εξετάσει αν η X αξιολόγησε και μετρίασε σωστά τους κινδύνους που σχετίζονται με την ανάπτυξη των λειτουργιών του Grok στην ΕΕ.
Το σκάνδαλο έχει αποκτήσει διεθνή διάσταση. Η Κομισιόν ανακοίνωσε την έρευνα κατά της πλατφόρμας βάσει του Νόμου περί Ψηφιακών Υπηρεσιών (DSA), υπογραμμίζοντας ότι η Ευρώπη δεν θα ανεχτεί την παράνομη συμπεριφορά των κοινωνικών δικτύων. «Καμία πλατφόρμα δεν είναι υπεράνω του νόμου», τόνισε η υπουργός Ψηφιακών Υποθέσεων της Γαλλίας, Αν Λε Ενάνφ, προσθέτοντας ότι η γαλλική κυβέρνηση έχει ήδη παραπέμψει το ζήτημα στα δικαστήρια.
Στο Ηνωμένο Βασίλειο, το σκάνδαλο θεωρείται ως παιδική πορνογραφία, καθώς το Grok διευκόλυνε τη δημιουργία σεξουαλικοποιημένων εικόνων ατόμων κάτω των 18 ετών, με αποτέλεσμα να ξεκινήσει και εκεί μια άλλη έρευνα. Παρά την παρέμβαση της πλατφόρμας για να σταματήσει την παραγωγή των ενοχλητικών εικόνων, οι Βρυξέλλες αποφάσισαν να προχωρήσουν μόνο σε έρευνα, χωρίς προσωρινά μέτρα.
Η έρευνα της Κομισιόν βασίζεται στον κανονισμό της ΕΕ για τις Ψηφιακές Υπηρεσίες. Το X, όπως και άλλες πλατφόρμες, υποχρεούται να υποβάλει ετήσια έκθεση για την αξιολόγηση κινδύνου, περιγράφοντας τους κινδύνους και τις μεθόδους μετριασμού τους. Επιπλέον, η έρευνα δεν περιορίζεται μόνο στη δημιουργία σεξουαλικοποιημένων εικόνων, αλλά εξετάζει και όλους τους συστημικούς κινδύνους που σχετίζονται με το Grok, το οποίο έχει δεχθεί κριτική για το αντισημιτικό του περιεχόμενο και την προώθηση του ναζιστικού λόγου. Η διάδοση αυτού του παράνομου περιεχομένου μπορεί να εκθέσει τους Ευρωπαίους πολίτες σε σοβαρούς κινδύνους.
in.gr
