Η ΕΕ βάζει πλέον υποχρεωτική αόρατη σήμανση στο περιεχόμενο ΑΙ, με τις εταιρείες τεχνητής νοημοσύνης να οφείλουν να σημαδεύουν με υδατογραφήματα τις εικόνες, τα βίντεο και τα κείμενα που παράγονται από τα προϊόντα τους. Πρόκειται για το πρώτο μέτρο απέναντι στο λεγόμενο AI Slop και τα deepfake που θολώνουν τα όρια ανάμεσα στην αλήθεια και το ψέμα.
Το υδατογράφημα λειτουργεί ως αόρατη ψηφιακή υπογραφή που προστίθεται αυτόματα στο συνθετικό περιεχόμενο, ώστε να μην παραπλανώνται οι χρήστες. Σε περίπτωση παράβασης, οι εταιρείες κινδυνεύουν με πρόστιμο έως 15 εκατ. δολάρια ή το 3% του παγκόσμιου τζίρου τους.
Το μέτρο είναι υποχρεωτικό για τα νέα μοντέλα που κυκλοφορούν μετά τις 2 Αυγούστου, ενώ για τα ήδη διαθέσιμα μοντέλα η προθεσμία λήγει τον Δεκέμβριο.
Ήδη, πάντως, ορισμένες εταιρείες έχουν αρχίσει να συμμορφώνονται με τη νέα απαίτηση, έστω και μερικώς. Η Google ανέπτυξε και χρησιμοποιεί από το 2023 την τεχνολογία υδατογραφήματος SynthID για τα κείμενα που δημιουργούνται από το μοντέλο Gemini, ενώ η OpenAI έχει υιοθετήσει το ίδιο σύστημα για τις εικόνες και τα αρχεία ήχου που παράγονται από τα μοντέλα της.
Τη Δευτέρα, αντίστοιχη κίνηση ανακοίνωσε και η Anthropic, η οποία θα ενσωματώνει ψηφιακό υδατογράφημα στα κείμενα που παράγει το Claude.
Για τον χρήστη, όμως, η ψηφιακή υπογραφή θα παραμένει αόρατη. «Δεν θα μπορείτε να το δείτε και δεν αλλάζει το νόημα, την ποιότητα ή την αναγνωσιμότητα της απάντησης του Claude», ανέφερε η Anthropic. Επειδή το υδατογράφημα αποτελεί μέρος του κειμένου, θα μεταφέρεται μαζί του όταν γίνεται αντιγραφή και επικόλληση αλλού, πρόσθεσε.
Το υδατογράφημα κειμένου βασίζεται σε αλγόριθμο που αλλάζει τον τρόπο επιλογής λέξεων, αφήνοντας στο παραγόμενο κείμενο ένα στατιστικά ανιχνεύσιμο ίχνος. Με αυτόν τον τρόπο επιχειρείται να εντοπίζεται πιο εύκολα το συνθετικό περιεχόμενο.
Μέχρι στιγμής, ωστόσο, η Anthropic δεν έχει διαθέσει εργαλεία που θα επέτρεπαν στους χρήστες να ελέγχουν αν υπάρχει υδατογράφημα.
Εργαλεία ανίχνευσης συνθετικών εικόνων και ήχου προσφέρουν πάντως η OpenAI και η Google.
Τέτοια εργαλεία θα μπορούσαν να αξιοποιηθούν από μεγάλες πλατφόρμες, όπως το YouTube, προκειμένου να αναγνωρίζουν το συνθετικό περιεχόμενο και να προσθέτουν τη σήμανση που απαιτεί η ευρωπαϊκή νομοθεσία.
Παρά ταύτα, είναι απίθανο η τεχνολογία του υδατογραφήματος να σταματήσει πλήρως τη διάδοση παραπλανητικού ή ψευδούς περιεχομένου. Στην περίπτωση του Claude, για παράδειγμα, ένας κακόβουλος χρήστης θα μπορούσε να αλλάξει αρκετά το κείμενο —ενδεχομένως χρησιμοποιώντας άλλα μοντέλα ΑΙ— ώστε να μην αναγνωρίζεται πλέον ως συνθετικό.
Η νομική απαίτηση της ΕΕ είναι ένα πρώτο βήμα για την αντιμετώπιση του παραπλανητικού συνθετικού περιεχομένου, καθώς οι ΗΠΑ δείχνουν απρόθυμες να παρέμβουν στη βιομηχανία ΑΙ. Παρά την άρνηση της αμερικανικής κυβέρνησης να λάβει μέτρα, η ΕΕ κατάφερε να προστατεύσει καλύτερα την ιδιωτικότητα με το GDPR και, μέσω του νέου Κανονισμού για τις Ψηφιακές Υπηρεσίες, ανάγκασε τις μεγάλες πλατφόρμες να λάβουν μέτρα κατά του επιβλαβούς και παράνομου περιεχομένου.
Πηγή περιεχομένου: in.gr
