Μπορεί ένας υπολογιστής να γίνει ρατσιστής; Το ερώτημα αυτό απασχολεί ολοένα και πιο συχνά τη δημόσια συζήτηση, καθώς η Τεχνητή Νοημοσύνη επηρεάζει όλο και περισσότερες αποφάσεις που αγγίζουν την καθημερινότητα των ανθρώπων.
Σήμερα, η Τεχνητή Νοημοσύνη (AI) αποφασίζει όλο και περισσότερο για τη ζωή των ανθρώπων. Από το ποιος θα βρει δουλειά και σπίτι, μέχρι το ποιος δικαιούται ένα επίδομα.
Πολλοί θεωρούν ότι οι μηχανές λειτουργούν με απόλυτη δικαιοσύνη και αντικειμενικότητα, όμως η εικόνα αυτή δεν ανταποκρίνεται στην πραγματικότητα.
Η AI δεν έχει δικά της συναισθήματα, αλλά λειτουργεί σαν ένας ψηφιακός καθρέφτης της κοινωνίας μας. Αν την εκπαιδεύσουμε με δεδομένα που περιέχουν ανθρώπινες προκαταλήψεις και στερεότυπα, το μόνο που θα κάνει είναι να τα επαναλάβει και να τα ενισχύσει.
Πίσω από τις «έξυπνες» οθόνες κρύβεται ένας σοβαρός κίνδυνος: νέες μορφές διακρίσεων που επηρεάζουν τις ζωές χιλιάδων ανθρώπων, χωρίς οι ίδιοι να καταλαβαίνουν το γιατί.
Ο ψηφιακός καθρέφτης των λαθών μας
Μιλώντας στον βελγικό ραδιοτηλεοπτικό φορέα BX1 τον περασμένο Ιούνιο, ο Patrick Charlier, διευθυντής της Unia, του ανεξάρτητου δημόσιου φορέα του Βελγίου για την καταπολέμηση των διακρίσεων και την προώθηση της ισότητας, είπε: «Η Tεχνητή Nοημοσύνη μπορεί να είναι ρατσιστική».
Ο Hugues Bersini, καθηγητής πληροφορικής στο Ελεύθερο Πανεπιστήμιο των Βρυξελλών (ULB), ξεκαθάρισε όμως, μιλώντας στους The Brussels Times, ότι χρειάζεται μια κρίσιμη διάκριση.
«Δεν μπορούμε να πούμε ότι η Τεχνητή Νοημοσύνη είναι ρατσιστική επειδή το να είσαι ρατσιστής συνεπάγεται λήψη θέσης ή αρνητικά συναισθήματα απέναντι στους ξένους. Η Τεχνητή Νοημοσύνη δεν έχει ούτε συναισθήματα ούτε προθέσεις», είπε.
«Εξακολουθεί να είναι μια αντανάκλαση της ανθρωπιάς μας, είτε μέσω των δεδομένων (τα οποία προέρχονται από ανθρώπους) είτε μέσω των αλγορίθμων (οι οποίοι γράφονται από ανθρώπους)» συμπλήρωσε.
Παρόλα αυτά, η Τεχνητή Νοημοσύνη μπορεί να αναπαράγει και να ενισχύει τις προκαταλήψεις που υπάρχουν στις πληροφορίες που επεξεργάζεται, μετατρέποντας τα ήδη υπάρχοντα στερεότυπα σε φαινομενικά έγκυρες απαντήσεις.
Τα μοντέλα τεχνητής νοημοσύνης εκπαιδεύονται με βάση τεράστιες ποσότητες πληροφοριών, πολλές από τις οποίες προέρχονται από το διαδίκτυο. Αυτό το υλικό αντικατοπτρίζει τις ανισότητες και τα στερεότυπα της κοινωνίας, αλλά και τους ανθρώπους των οποίων οι φωνές κυριαρχούν στο διαδίκτυο.
Ο ρόλος της προκατάληψης
«Η Τεχνητή Νοημοσύνη αναπτύσσει μια συγκεκριμένη αντίληψη για τον κόσμο», είπε ο Bersini. Επειδή το διαδικτυακό περιεχόμενο ιστορικά παράγεται δυσανάλογα από λευκούς άνδρες, οι αντιδράσεις που παράγονται από την Τεχνητή Νοημοσύνη μπορεί να αντικατοπτρίζουν πιο έντονα τις απόψεις τους από εκείνες άλλων ομάδων.
Η προκατάληψη μπορεί να προκύψει και από τον τρόπο με τον οποίο αναπτύσσονται τα συστήματα τεχνητής νοημοσύνης. «Το να αποκαλούμε την τεχνητή νοημοσύνη ρατσίστρια ισοδυναμεί με την απαλλαγή των προγραμματιστών λογισμικού, οι οποίοι είναι οι μόνοι που είναι πραγματικά υπεύθυνοι», τόνισε ο Bersini.
Ο σχεδιασμός αυτών των συστημάτων πρέπει επίσης να ελέγχεται. Η Élise Degrave, καθηγήτρια ψηφιακού δικαίου στο Πανεπιστήμιο της Ναμούρ, εντόπισε δύο κύριες πηγές μεροληψίας: τα μεροληπτικά δεδομένα εκπαίδευσης και τις επιλογές που κάνουν οι προγραμματιστές κατά τον σχεδιασμό αλγορίθμων.
«Ορισμένα από αυτά τα κριτήρια μπορούν να οδηγήσουν σε διακρίσεις, ακόμη και αν φαίνονται ουδέτερα», δήλωσε στους The Brussels Times.
Για παράδειγμα, μια διοίκηση που δίνει εντολή σε έναν αλγόριθμο να δώσει προτεραιότητα στην ανίχνευση απάτης σε μια φτωχή γειτονιά μπορεί να εκθέσει τους κατοίκους της σε περισσότερους ελέγχους από ό,τι σε άτομα που ζουν σε πλουσιότερες περιοχές. Οι ταχυδρομικοί κώδικες και τα ονόματα μπορούν επίσης να λειτουργήσουν ως δείκτες κοινωνικού υπόβαθρου ή εθνικής καταγωγής, ακόμη και όταν η φυλή δεν λαμβάνεται ρητά υπόψη.
Όταν οι διακρίσεις φαίνονται αντικειμενικές
Οι συνέπειες γίνονται ιδιαίτερα σοβαρές όταν οι αλγόριθμοι επηρεάζουν την πρόσβαση στην απασχόληση, τη στέγαση ή τα κοινωνικά επιδόματα. «Ένας αλγόριθμος μπορεί να δώσει σε αυτές τις μορφές διακρίσεων την εντύπωση επιστημονικής αντικειμενικότητας», προειδοποίησε η Degrave.
Αποφάσεις που θα αμφισβητούνταν αν λαμβάνονταν από έναν άνθρωπο μπορεί να γίνουν πιο εύκολα αποδεκτές όταν παρουσιάζονται ως αποτέλεσμα ενός αυτοματοποιημένου υπολογισμού.
Οι αλγόριθμοι μπορούν επίσης να υποβάλουν ορισμένες ομάδες σε επαναλαμβανόμενους ελέγχους. Η Degrave το αποκαλεί αυτό «αλγοριθμική παρενόχληση»: οι άνθρωποι ελέγχονται εξονυχιστικά χωρίς απαραίτητα να κατανοούν το γιατί, ακόμα και όταν δεν έχουν κάνει τίποτα κακό.
Εν τω μεταξύ, η πολυπλοκότητα και η αδιαφάνεια των αυτοματοποιημένων συστημάτων καθιστούν δύσκολο τον εντοπισμό και την αμφισβήτηση των μεροληπτικών αποφάσεων.
Ο νόμος της ΕΕ για την τεχνητή νοημοσύνη εισάγει διασφαλίσεις για ορισμένα συστήματα υψηλού κινδύνου, συμπεριλαμβανομένων εκείνων που χρησιμοποιούνται στην απασχόληση, την εκπαίδευση και τις δημόσιες υπηρεσίες. Αυτά τα συστήματα αντιμετωπίζουν αυστηρότερες απαιτήσεις που αποσκοπούν στην προστασία των θεμελιωδών δικαιωμάτων.
Ωστόσο, η ρύθμιση δεν αποτελεί ολοκληρωμένη λύση. Η Degrave επεσήμανε ότι οι συμβατικοί αλγόριθμοι μπορούν επίσης να κάνουν διακρίσεις χωρίς να εμπίπτουν στον ορισμό της Τεχνητής Νοημοσύνης του Νόμου. Υποστηρίζει ευρύτερες διασφαλίσεις, συμπεριλαμβανομένων των προκαταρκτικών δοκιμών προκατάληψης, των ανεξάρτητων ελέγχων και της συμμετοχής δικηγόρων, ηθικολόγων και άλλων μη τεχνικών εμπειρογνωμόνων στο σχεδιασμό συστημάτων.
Η ευθύνη πρέπει επίσης να παραμείνει ανθρώπινη. Η Τεχνητή Νοημοσύνη δεν έχει νομική προσωπικότητα: η λογοδοσία βαρύνει τους προγραμματιστές, τους οργανισμούς που αναπτύσσουν την τεχνολογία και τους υπεύθυνους λήψης αποφάσεων που βασίζονται στα αποτελέσματά της. Οι άνθρωποι πρέπει να είναι σε θέση να κατανοήσουν πώς ελήφθησαν οι αποφάσεις που τους επηρεάζουν και να τις αμφισβητήσουν όταν είναι απαραίτητο.
Μια άλλη ανησυχία, προειδοποίησε ο Bersini, είναι ότι τα συστήματα Τεχνητής Νοημοσύνης διατρέχουν ολοένα και μεγαλύτερο κίνδυνο να μαθαίνουν από περιεχόμενο που παράγεται από την ίδια την Τεχνητή Νοημοσύνη. Καθώς το υλικό που παράγεται από μηχανές εξαπλώνεται στο διαδίκτυο, τα μελλοντικά μοντέλα ενδέχεται να απορροφήσουν και να ενισχύσουν τις προκαταλήψεις προηγούμενων συστημάτων, δημιουργώντας έναν βρόχο ανατροφοδότησης.
Η γενετική τεχνητή νοημοσύνη μπορεί επίσης να παρακινηθεί σκόπιμα να παράγει ρατσιστικό περιεχόμενο ή χειραγωγημένες εικόνες. Η ικανότητά της να δημιουργεί πειστικό υλικό αυξάνει τον κίνδυνο πολιτικής παραπληροφόρησης, συμπεριλαμβανομένης της αντιμεταναστευτικής προπαγάνδας.
Για την Degrave, η αντιμετώπιση αυτών των προβλημάτων απαιτεί περισσότερα από τεχνικές προσαρμογές.
«Ο σχεδιασμός αλγοριθμικών συστημάτων δεν πρέπει να επαφίεται αποκλειστικά στους επιστήμονες ή τους μηχανικούς υπολογιστών», υποστήριξε. Πολίτες, δημόσιοι αξιωματούχοι, νομικοί εμπειρογνώμονες και η κοινωνία των πολιτών πρέπει επίσης να συμμετέχουν στην αξιολόγηση των συνεπειών τους.
