Διερεύνηση των ρατσιστικών στερεοτύπων που αναπαράγονται από μοντέλα τεχνητής νοημοσύνης στην Ινδία. Δημοφιλή μοντέλα τεχνητής νοημοσύνης (ΑΙ), όπως το ChatGPT, έχουν αποδειχθεί ότι αναπαράγουν ρατσιστικά στερεότυπα σχετικά με τις κατώτερες κάστες στην Ινδία, σύμφωνα με μια σειρά πρόσφατων ερευνών. Η εκπαίδευση αυτών των μοντέλων στηρίζεται σε δεδομένα που φέρουν προκαταλήψεις, κάτι που καθιστά τη διαδικασία της αντιμετώπισης του φαινομένου εξαιρετικά δύσκολη. Η ινδική κοινωνία οργανώνεται γύρω από ένα παραδοσιακό σύστημα καστών, το οποίο καθορίζει τις κοινωνικές σχέσεις και τις επαγγελματικές δραστηριότητες με βάση την καταγωγή, αντί για κοινωνικά ή οικονομικά κριτήρια.
Στην κορυφή της ιεραρχίας βρίσκονται οι βραχμάνοι, ενώ στη βάση οι ντάλιτ, οι οποίοι συχνά υπομένουν κοινωνικές αδικίες. Παρά την απαγόρευση των διακρίσεων λόγω κάστας από τα μέσα του περασμένου αιώνα, οι κατώτερες κάστες παραμένουν θύματα προκαταλήψεων και στερεοτύπων που τις απομονώνουν από εκπαιδευτικές και επαγγελματικές ευκαιρίες.
Μια πρόσφατη μελέτη ανέδειξε τις προκαταλήψεις που παρατηρούνται στις αφηγήσεις που παράγονται από τα μοντέλα ΑΙ, εξετάζοντας πάνω από 7.200 ιστορίες που αφορούν τελετές και σημαντικά γεγονότα στην Ινδία. Οι αναλύσεις έδειξαν ότι οι ανώτερες κάστες είναι υπερεκπροσωπούμενες, ενώ οι περιθωριοποιημένες κάστες σπανίως εμφανίζονται. Μια άλλη προδημοσίευση, μέσω του λογισμικού IndiCASA, αξιολόγησε απαντήσεις που σχετίζονται με στερεότυπα και διαπίστωσε ότι σχεδόν όλα τα μοντέλα αναπαράγουν ρατσιστικές προκαταλήψεις.
Τα μοντέλα της OpenAI, όπως τα GPT-4 και GPT-3.5, αξιολογήθηκαν ως τα πιο προκατειλημμένα στην έρευνα. Η αναγνώριση των προκαταλήψεων είναι το πρώτο βήμα προς την επίλυσή τους, αλλά οι εύκολες λύσεις απουσιάζουν. Επίσης, οι γλώσσες που χρησιμοποιούνται στην Ινδία περιλαμβάνουν ρατσιστικά στοιχεία, καθιστώντας τη διόρθωση των δεδομένων εκπαίδευσης ανεπαρκή χωρίς θεμελιώδεις αλλαγές στην αρχιτεκτονική των μοντέλων.
in.gr
