Η τεχνητή νοημοσύνη μπαίνει ολοένα και πιο βαθιά στις προσλήψεις, όμως μαζί της έρχονται και σοβαρά ερωτήματα για το ποιος τελικά προσλαμβάνεται ή απορρίπτεται. Κύμα αγωγών στις ΗΠΑ για ηλικιακές διακρίσεις, έλλειψη διαφάνειας και άλλες πρακτικές φέρνει στο επίκεντρο τα αλγοριθμικά συστήματα που φιλτράρουν υποψηφίους χωρίς εκείνοι να γνωρίζουν ότι τους αξιολογεί μηχανή.
Ένα αλγοριθμικό σύστημα μπορεί να αποκλείει συστηματικά τον ίδιο υποψήφιο από πολλές θέσεις εργασίας.
Το βασικό ζήτημα είναι ότι οι περισσότεροι εργοδότες δεν αναπτύσσουν δικά τους συστήματα πρόσληψης με AI, αλλά στηρίζονται στα ίδια λογισμικά τρίτων. Έτσι, μια αρνητική αξιολόγηση μπορεί να ακολουθεί τον υποψήφιο από εταιρεία σε εταιρεία, κάτι που οι ερευνητές περιγράφουν ως αλγοριθμικό αποκλεισμό. Με άλλα λόγια, εκατοντάδες εργοδότες μπορεί να βασίζονται στην ίδια κρίση για τον ίδιο άνθρωπο.
Όταν ένας άνθρωπος απορρίπτει έναν υποψήφιο σε συνέντευξη, υπάρχει πάντα η δυνατότητα να δοκιμάσει αλλού. Αντίθετα, ένα αλγοριθμικό σύστημα που χρησιμοποιείται ταυτόχρονα από δεκάδες εταιρείες μπορεί να αποθηκεύει την αξιολόγηση και το αρνητικό σήμα να διαχέεται σε ολόκληρο το σύστημα προσλήψεων, αποκλείοντας συστηματικά τον ίδιο υποψήφιο από πολλές θέσεις εργασίας. Από εδώ προκύπτει και το βασικό ερώτημα: πόση διαφάνεια και έλεγχο πρέπει να έχουν οι υποψήφιοι πάνω σε μηχανές που αποφασίζουν για το επαγγελματικό τους μέλλον;
Τα βιογραφικά χάνονται συχνά σε μια «μαύρη τρύπα» πριν φτάσουν ποτέ σε ανθρώπινο μάτι.
Όπως αναφέρει δημοσίευμα του Guardian, τα τελευταία τέσσερα χρόνια η Erin Kistler έχει στείλει αιτήσεις για χιλιάδες θέσεις εργασίας σε εταιρείες όπως η Paypal, η Microsoft και η Netflix, μόνο για να διαπιστώσει ότι το βιογραφικό της εξαφανιζόταν σε μια μαύρη τρύπα. Με σχεδόν 20 χρόνια εμπειρίας ως διευθύντρια προϊόντων, θεωρεί ότι κάλυπτε τις προϋποθέσεις για κάθε θέση, όμως δεν κλήθηκε ποτέ ούτε σε μία συνέντευξη.
Η ίδια μηνύει πλέον την Eightfold AI, τη εταιρεία της Silicon Valley που αναπτύσσει λογισμικό πρόσληψης το οποίο χρησιμοποιούν εκατοντάδες εταιρείες, ανάμεσά τους και εκείνες στις οποίες υπέβαλε αίτηση, στο πλαίσιο ομαδικής αγωγής. Η υπόθεση κατατέθηκε τον Ιανουάριο σε δικαστήριο της Καλιφόρνιας και είναι από τις πρώτες που υποστηρίζουν ότι η αυτοματοποιημένη διαλογή υποψηφίων λειτουργεί ως φάκελος υποψηφίων, κατατάσσοντάς τους με βάση την πιθανότητα επιτυχίας τους, χωρίς να έχουν την ευκαιρία να δουν ή να αμφισβητήσουν τα αποτελέσματα.
Άλλοι εργαζόμενοι στρέφονται κατά της Meta για εσωτερικό σύστημα τεχνητής νοημοσύνης που, σύμφωνα με τις καταγγελίες, τους στόχευσε για απολύσεις επειδή είχαν πάρει γονική ή ιατρική άδεια. Παράλληλα, πρόσφατη αγωγή κατά της IBM υποστηρίζει ότι εργαλεία AI έκαναν διακρίσεις σε βάρος εργαζομένων μεγαλύτερης ηλικίας. Και οι τρεις εταιρείες, όπως αναφέρει το βρετανικό μέσο, αρνούνται τις κατηγορίες, ενώ η Eightfold και η IBM τις χαρακτηρίζουν αβάσιμες.
Το 90% των εργοδοτών χρησιμοποίησε κάποια μορφή αυτοματοποίησης στις προσλήψεις πέρυσι.
Οι αμερικανικές εταιρείες στρέφονται όλο και περισσότερο στην τεχνητή νοημοσύνη για ταχύτερες και πιο αποδοτικές αποφάσεις στον χώρο εργασίας, συχνά στο όνομα της αντικειμενικότητας. Ειδικοί που μελετούν αυτό το είδος λογισμικού προειδοποιούν, όμως, ότι μπορεί να εισάγει ή να ενισχύσει προκαταλήψεις που ακολουθούν τους υποψηφίους σε κάθε προσπάθεια να βρουν δουλειά.
Στην πράξη, δεν υπάρχει νόμος που να απαιτεί ειδοποίηση ή γνωστοποίηση της χρήσης τέτοιων συστημάτων πρόσληψης με τεχνητή νοημοσύνη, δήλωσε η Ifeoma Ajunwa, καθηγήτρια στη Νομική Σχολή του Πανεπιστημίου Emory και ιδρυτική διευθύντρια του προγράμματος AI and the Future of Work. Έτσι, οι εταιρείες δεν ενημερώνουν πάντα τους εργαζόμενους όταν αξιολογούνται με τη βοήθεια της τεχνητής νοημοσύνης, πρόσθεσε.
Πέρυσι, το 90% των εργοδοτών χρησιμοποίησε κάποια μορφή αυτοματοποίησης στη διαδικασία πρόσληψης, σύμφωνα με έκθεση του Παγκόσμιου Οικονομικού Φόρουμ. Τα εργαλεία αυτά κυμαίνονται από βασικό φιλτράρισμα, όπως ο αποκλεισμός υποψηφίων που δεν διαθέτουν πτυχίο τετραετούς φοίτησης ή κάποια άλλη προϋπόθεση, έως τη χρήση τεχνητής νοημοσύνης για την αξιολόγηση των δεξιοτήτων ενός υποψηφίου ή ακόμη και για την αρχική τηλεφωνική συνέντευξη.
Στην περίπτωση της Eightfold, η εταιρεία περιγράφει τον εαυτό της ως τη μεγαλύτερη, αυτοανανεούμενη πηγή δεδομένων ταλέντων στον κόσμο. Ενημερώνει διαρκώς μια εσωτερική βάση δεδομένων με στοιχεία από βιογραφικά, προφίλ στο LinkedIn και προφίλ στα κοινωνικά δίκτυα, πάνω από ενός δισεκατομμυρίου υποψηφίων που έχουν υποβάλει αιτήσεις για δουλειά μέσω της πλατφόρμας της.
Με αυτά τα δεδομένα, εφαρμόζει τεχνητή νοημοσύνη για να βαθμολογεί τους υποψηφίους από 0 έως 5, προβλέποντας πόσο καλά θα αποδώσουν σε μια συγκεκριμένη θέση εργασίας. Αυτή η βαθμολογία μπορεί να δώσει προτεραιότητα σε ορισμένους υποψηφίους έναντι άλλων για συνεντεύξεις.
Το μεγάλο πρόβλημα, σύμφωνα με τη Rachel Dempsey, δικηγόρο που εκπροσωπεί την Kistler, είναι ότι οι υποψήφιοι για εργασία δεν γνωρίζουν τι αναφέρουν οι φάκελοί τους. Όπως τονίζει, δικαιούνται την ίδια διαφάνεια σχετικά με τα στοιχεία που λαμβάνονται υπόψη στη διαδικασία πρόσληψης, ώστε να μπορούν είτε να αμφισβητήσουν ανακρίβειες είτε να βελτιώσουν παράγοντες που επηρεάζουν την υποψηφιότητά τους. Χωρίς καμία εικόνα, λέει, είναι αδύνατο να ξέρει κανείς αν οι αλγόριθμοι κάνουν ρητή διάκριση εις βάρος τους. Η έννοια του μαύρου κουτιού είναι πολύ τρομακτική, προσθέτει.
Σχεδόν όλα τα συστήματα τεχνητής νοημοσύνης έχουν εκπαιδευτεί να αναζητούν μοτίβα, τα οποία μπορούν να ενισχύσουν στερεότυπα ή παλιές προκαταλήψεις. Όπως επισήμανε η Ajunwa, όσο περισσότερη έρευνα γίνεται στα συστήματα πρόσληψης με AI, τόσο φαίνεται ότι τείνουν να αναπαράγουν πολλές από τις ίδιες προκαταλήψεις που έχουν και οι ανθρώπινοι διευθυντές.
Ενώ οι ανθρώπινοι υπεύθυνοι προσλήψεων μπορεί να είναι άδικοι επιλέγοντας, για παράδειγμα, τον υποψήφιο που ανήκε στην ίδια αδελφότητα, το εύρος της μεροληψίας είναι ακόμη μεγαλύτερο με την τεχνητή νοημοσύνη, δήλωσε από την πλευρά του ο Xuechunzi Bai, επίκουρος καθηγητής στο Πανεπιστήμιο του Σικάγου, ο οποίος έχει ερευνήσει τη μεροληψία στις προσλήψεις.
Σε μελέτη του Bai με φανταστικές δημογραφικές ομάδες, τα μοντέλα AI κατέληξαν να στερεοτυποποιούν υποψηφίους με βάση άσχετα χαρακτηριστικά, που δεν συνδέονταν με τα προσόντα τους. Διαπιστώθηκε μεγαλύτερη μεροληψία από την τεχνητή νοημοσύνη σε σχέση με τις ανθρώπινες αποφάσεις πρόσληψης που εξετάστηκαν πέρυσι, ενώ τα νεότερα και πιο προηγμένα μοντέλα AI έβγαζαν αποφάσεις με ακόμη μεγαλύτερη μεροληψία.
Οι συνέπειες αυτών των προκαταλήψεων για έναν υποψήφιο μπορεί να ξεπερνούν τη μία θέση εργασίας. Σύμφωνα με την Ajunwa, στην πράξη κάποιος έχει τεθεί αλγοριθμικά στον μαύρο κατάλογο, ενώ η Katie Creel, συν-συγγραφέας πρόσφατης μελέτης για τους κινδύνους του αλγοριθμικού αποκλεισμού στα συστήματα πρόσληψης, υπογράμμισε ότι οι άνθρωποι μπορεί να καταλήξουν να αποκλείονται από δουλειές περισσότερο απ’ ό,τι θα συνέβαινε διαφορετικά.
Ορισμένες εταιρείες, όπως η Incredible Health, επιμένουν ότι η AI δεν πρέπει να λαμβάνει η ίδια τις αποφάσεις για το πώς θα βαθμολογηθεί ο υποψήφιος και ποιος θα περάσει στην επόμενη φάση των συνεντεύξεων, αλλά μόνο να υποβοηθά την αξιολόγηση από ανθρώπους, μια προσέγγιση που έχει μετατραπεί σε νομική υποχρέωση σε αρκετές αμερικανικές πολιτείες.
Στη Νέα Υόρκη, νόμος που τέθηκε σε ισχύ το 2023 απαιτεί από τους εργοδότες που χρησιμοποιούν αυτοματοποιημένα συστήματα στις προσλήψεις να διενεργούν ετήσιους ελέγχους για μεροληψία και να ενημερώνουν εκ των προτέρων τους υποψηφίους για τη χρήση της τεχνολογίας. Ωστόσο, ο νόμος ισχύει μόνο για λογισμικό που βοηθά ουσιαστικά ή αντικαθιστά τη λήψη αποφάσεων, αφήνοντας κενό σε περιπτώσεις όπου οι άνθρωποι συμμετέχουν στη διαδικασία. Πρόσφατοι νόμοι από το Ιλινόις και το Κολοράντο απαγορεύουν επίσης τη χρήση εργαλείων τεχνητής νοημοσύνης από εργοδότες όταν οδηγούν σε παράνομη διάκριση.
Πηγή περιεχομένου: in.gr
