Οι γονείς μιας 13χρονης κοπέλας κατέθεσαν αγωγή κατά της Google, υποστηρίζοντας ότι η κόρη τους χρησιμοποίησε την τεχνολογία τεχνητής νοημοσύνης της εταιρείας μέσω σχολικού υπολογιστή, προκειμένου να σχεδιάσει την αυτοκτονία της και την κηδεία της.
Η αγωγή κατατέθηκε τη Δευτέρα 2 Νοεμβρίου σε δικαστήριο της Καλιφόρνιας. Είναι η πρώτη φορά που η Google κατηγορείται για αμέλεια σχετικά με τις λειτουργίες τεχνητής νοημοσύνης που διαθέτει η μηχανή αναζήτησής της και στις οποίες έχουν πρόσβαση μαθητές μέσω των σχολικών υπολογιστών Chromebook. Πρόκειται για οικονομικούς φορητούς υπολογιστές της Google, που χρησιμοποιούνται ευρέως στα σχολεία.
Η 13χρονη δεν μπορούσε να χρησιμοποιήσει τις εφαρμογές Gemini της Google και ChatGPT της OpenAI, καθώς το σχολείο της είχε αποκλείσει την πρόσβαση σε αυτές. Ωστόσο, εξακολουθούσε να έχει πρόσβαση στη μηχανή αναζήτησης της Google, η οποία διαθέτει ενσωματωμένες λειτουργίες τεχνητής νοημοσύνης.
Σύμφωνα με την αγωγή, η Έμα δεν είχε προηγούμενο ιστορικό ψυχικών διαταραχών. Ωστόσο, μέσα σε λίγους μήνες από τότε που άρχισε να χρησιμοποιεί τη μηχανή αναζήτησης, η ψυχολογική της κατάσταση επιδεινώθηκε σταδιακά.
Στις 17 Μαρτίου, το σχολείο ενημέρωσε τους γονείς της, καθώς το λογισμικό παρακολούθησης εντόπισε ένα έγγραφο με τίτλο «Κηδεία». Λίγο αργότερα, η μητέρα της την είδε να γράφει ένα αποχαιρετιστήριο γράμμα και ειδοποίησε τον πατέρα της, ο οποίος παρενέβη.
«Τα σχολεία θα πρέπει να απενεργοποιήσουν τη μηχανή αναζήτησης και να την κρατήσουν απενεργοποιημένη, μέχρι η Google να αφαιρέσει τη λειτουργία AI Mode από την αναζήτηση ή να διασφαλίσει ότι κάθε μαθητής είναι ασφαλής όταν αλληλεπιδρά με την τεχνητή νοημοσύνη», δήλωσε στο AFP την Πέμπτη 5 Νοεμβρίου ο Άντριου Λίντελ, ένας από τους δικηγόρους της οικογένειας.
Αυξάνεται ο νομικός έλεγχος στις εταιρείες τεχνολογίας
Από την πλευρά της, η Google υποστηρίζει ότι η λειτουργία AI Mode διαθέτει μηχανισμούς ασφαλείας για την αποτροπή περιστατικών αυτοτραυματισμού, καθώς και προστασία απέναντι σε προσπάθειες παράκαμψής τους.
«Εξετάζουμε τους ισχυρισμούς που διατυπώνονται στην αγωγή και αντιμετωπίζουμε το ζήτημα με τη μέγιστη σοβαρότητα», δήλωσε στο AFP ο εκπρόσωπος της εταιρείας, Χοσέ Καστανιέντα.
Την ίδια στιγμή, η OpenAI βρίσκεται αντιμέτωπη με αρκετές αγωγές που αφορούν θανάτους και συνδέονται, σύμφωνα με τους ενάγοντες, με τη χρήση της τεχνολογίας της. Ανάμεσά τους βρίσκεται και η αγωγή των γονέων του 16χρονου Άνταμ Ρέιν, ο οποίος αυτοκτόνησε, αφού, σύμφωνα με τους ισχυρισμούς τους, έλαβε επιβλαβείς συμβουλές από το ChatGPT.
Τον περασμένο Ιανουάριο, η Google και η Character.AI συμφώνησαν επίσης να διευθετήσουν εξωδικαστικά αρκετές αγωγές που είχαν καταθέσει οικογένειες εφήβων.
Σε μια άλλη δικαστική διαμάχη, η Google, το TikTok και η Meta κατέθεσαν την Τετάρτη αγωγές κατά της πολιτείας της Καλιφόρνιας, ζητώντας να μπλοκάρουν την εφαρμογή νόμου που απαγορεύει τη χρήση εθιστικών λειτουργιών στις πλατφόρμες κοινωνικής δικτύωσης από άτομα κάτω των 16 ετών.
Ο νόμος υπογράφηκε τον περασμένο Σεπτέμβριο από τον κυβερνήτη της Καλιφόρνιας, Γκάβιν Νιούσομ, και πρόκειται να τεθεί σε ισχύ την 1η Ιανουαρίου 2027.
