Η ανθρώπινη επίβλεψη και η λογοδοσία βρίσκονται στον πυρήνα για να χτιστούν αξιόπιστα και αποδοτικά συστήματα τεχνητής νοημοσύνης, ανέφεραν οι ομιλητές στις εναρκτήριες τοποθετήσεις του MANOLO Summer School on Trustworthy AI & Innovation Lab, που άρχισε σήμερα το πρωί υπό την αιγίδα της Περιφέρειας Κεντρικής Μακεδονίας στο Διεθνές Πανεπιστήμιο της Ελλάδος (ΔΙΠΑΕ) στη Θέρμη. Η συζήτηση επικεντρώθηκε στους κινδύνους της τεχνητής νοημοσύνης, όπως η αναπαραγωγή συστημικών μεροληψιών, η αδιαφάνεια και οι παραβιάσεις της ιδιωτικότητας.
«Είμαστε ιδιαίτερα χαρούμενοι που βλέπουμε την πόλη μας να μετατρέπεται σε ένα σημείο συνάντησης ερευνητών, φοιτητών, επιστημόνων και επαγγελματιών της τεχνολογίας από όλη την Ευρώπη, οι οποίοι συγκεντρώνονται εδώ για να διευρύνουν τις γνώσεις τους και να εξερευνήσουν τις τελευταίες εξελίξεις στον τομέα της αξιόπιστης και ανθρωποκεντρικής Τεχνητής Νοημοσύνης», επισήμανε ο αντιπεριφερειάρχης Ψηφιακής Διακυβέρνησης Κεντρικής Μακεδονίας, Νίκος Τζόλλας, καλωσορίζοντας στο θερινό σχολείο τους συμμετέχοντες, οι οποίοι προέρχονται από πανεπιστήμια και ερευνητικά κέντρα του εξωτερικού, εθνικούς ερευνητικούς φορείς, οργανισμούς και επιχειρήσεις τεχνολογίας.
«Η Τεχνητή Νοημοσύνη εξελίσσεται με ιδιαίτερα ταχείς ρυθμούς. Ελπίζω να αξιοποιήσετε αυτές τις τρεις ημέρες, όχι μόνο για να αποκτήσετε νέες γνώσεις, αλλά και για να αμφισβητήσετε ιδέες, να διασυνδεθείτε και να βρείτε λύσεις που θα υποστηρίξουν τους δικούς σας επιστημονικούς και επαγγελματικούς στόχους», ανέφερε ο κ. Τζόλλας, διαβεβαιώνοντας ότι «για την Κεντρική Μακεδονία, η υποστήριξη πρωτοβουλιών όπως αυτό το θερινό σχολείο αποτελεί επένδυση στη γνώση και πάνω απ’ όλα επένδυση στους ανθρώπους», καθώς «θέλουμε να είμαστε ένας τόπος όπου οι ερευνητές και τα ταλέντα συναντώνται, συνεργάζονται και δημιουργούν νέες ευκαιρίες».
«Ένα αξιόπιστο μοντέλο δεν αρκεί, αλλά απαιτείται ένα συνολικά αξιόπιστο σύστημα»
Το πλαίσιο μέσα στο οποίο η τεχνητή νοημοσύνη πρέπει να περάσει από την απλή ακρίβεια στην αξιοπιστία περιέγραψε ο καθηγητής του Τμήματος Μηχανικών Πληροφορικής και Ηλεκτρονικών Συστημάτων του ΔΙΠΑΕ, Κωνσταντίνος Διαμαντάρας. Όπως εξήγησε, η υψηλή ακρίβεια ενός γλωσσικού μοντέλου δεν εγγυάται την αξιοπιστία του, την ώρα που σοβαρές αστοχίες των συστημάτων τεχνητής νοημοσύνης, όπως οι μεροληπτικές αξιολογήσεις κατά κοινωνικών ομάδων, οι ψευδαισθήσεις, η έκθεση της ιδιωτικότητας και οι μη ασφαλείς ενέργειες, κάνουν την αξιοπιστία επιτακτική.
Ο καθηγητής διαχώρισε την ερμηνευσιμότητα από την επεξηγηματικότητα, εξηγώντας ότι η πρώτη αφορά την εγγενή κατανόηση της δομής κάθε γλωσσικού μοντέλου και των κανόνων με τους οποίους καταλήγει σε συμπεράσματα, ενώ η δεύτερη προσφέρει εκ των υστέρων κατανοητές εξηγήσεις για τις απαντήσεις του μοντέλου.
Η οικοδόμηση αξιόπιστων συστημάτων τεχνητής νοημοσύνης, όπως είπε, πρέπει να στηριχθεί στους πυλώνες της ιδιωτικότητας, της στιβαρότητας, της διαφάνειας, της δικαιοσύνης και της επεξηγηματικότητας. «Ένα αξιόπιστο μοντέλο δεν αρκεί, αλλά απαιτείται ένα συνολικά αξιόπιστο σύστημα. Αυτό προϋποθέτει τη διασφάλιση της αξιοπιστίας σε ολόκληρο τον κύκλο ζωής του συστήματος, ο οποίος περιλαμβάνει τα δεδομένα, την εκπαίδευση, την αξιολόγηση, την υλοποίηση και την παρακολούθηση», εξήγησε.
Ο καθηγητής τόνισε ότι πρέπει να δοθεί ιδιαίτερη βαρύτητα στην ανθρώπινη επίβλεψη, ειδικά όταν πρόκειται για πράκτορες ΤΝ (agentic AI), όπου αυξάνεται η έκθεση των χρηστών και το ρίσκο μη αξιόπιστων απαντήσεων και κατευθύνσεων σε κρίσιμους τομείς, όπως η ιατρική και οι τραπεζικές συναλλαγές. «Σε περίπτωση σφάλματος, κάποιος άνθρωπος πρέπει να φέρει την ευθύνη. Η Ευρωπαϊκή Ένωση πρωτοστατεί σε αυτό μέσω των οδηγιών περί ηθικής και του AI ACT, ταξινομώντας τις εφαρμογές ανάλογα με το επίπεδο επικινδυνότητάς τους», σημείωσε, καταλήγοντας ότι «στόχος μας δεν πρέπει να είναι η κατασκευή συστημάτων τεχνητής νοημοσύνης που οι άνθρωποι απλώς εμπιστεύονται, αλλά συστημάτων που αποδεδειγμένα αξίζουν την εμπιστοσύνη μας».
Από τις ψευδαισθήσεις των γλωσσικών μοντέλων στις ανθρώπινες ψευδαισθήσεις
Η ερευνήτρια και επιστήμονας υπολογιστών στη Deutsche Telekom, Tina Böttger, μίλησε για τις προκλήσεις που αναδύονται καθώς η τεχνητή νοημοσύνη ξεπερνά τα όρια σε πεδία που θεωρούνταν αποκλειστικά ανθρώπινα, όπως η δημιουργικότητα και η ενσυναίσθηση.
Η τεχνητή νοημοσύνη μπορεί πλέον να συγκινήσει χωρίς να έχει τέτοια πρόθεση, όμως το ζήτημα, όπως είπε, δεν είναι αν είναι δημιουργική, αλλά ότι η δημιουργικότητα γίνεται τόσο «φθηνή» ώστε πλημμυρίζει το διαδίκτυο με κατασκευασμένο περιεχόμενο, ανάμεσά του χιλιάδες πλήρως αυτοματοποιημένες ψευδείς ειδησεογραφικές ιστοσελίδες. Στην ενσυναίσθηση, επισήμανε ότι η τεχνητή νοημοσύνη προσφέρει έναν «ασφαλή χώρο» χωρίς επικρίσεις, όμως αυτό εμπεριέχει κινδύνους, καθώς όταν τείνει να συμφωνεί πάντα με τον χρήστη και να τον κολακεύει, δημιουργεί έναν θάλαμο αντήχησης που κάνει τις πραγματικές ανθρώπινες σχέσεις πιο κοπιαστικές και μπορεί να τροφοδοτήσει ακόμη και ανθρώπινες ψευδαισθήσεις.
Η ομιλήτρια σημείωσε ότι η πορεία προς τη Γενική Τεχνητή Νοημοσύνη επιταχύνεται και πως αυτό επιβεβαιώνεται από τα αποτελέσματα του Humanity’s Last Exam, ενός προηγμένου τεστ αξιολόγησης για γλωσσικά μοντέλα τεχνητής νοημοσύνης, σχεδιασμένου να δοκιμάζει τα απόλυτα όρια των πιο σύγχρονων συστημάτων ΤΝ. Πρόσθεσε, ωστόσο, ότι παρότι οι εντυπωσιακές επιδόσεις των γλωσσικών μοντέλων σε σχέση με τις ανθρώπινες προκαλούν ανησυχία για την αντικατάσταση θέσεων εργασίας, η ιστορία δείχνει πως κάθε τεχνολογική επανάσταση δημιουργεί τελικά περισσότερες θέσεις από όσες καταστρέφει.
Αξιόπιστη ΤΝ: Το πιλοτικό μοντέλο που εφαρμόζει η Περιφέρεια Κεντρικής Μακεδονίας
Την πολιτική υπεύθυνης και αξιόπιστης αξιοποίησης της τεχνητής νοημοσύνης που ακολουθεί η Περιφέρεια Κεντρικής Μακεδονίας παρουσίασε ο Στυλιανός Μπουρμπούλιας από το γραφείο του αντιπεριφερειάρχη Ψηφιακής Διακυβέρνησης. Όπως ανέφερε, η τεχνητή νοημοσύνη προσφέρει μεγάλες δυνατότητες για τη βελτιστοποίηση των δημόσιων υπηρεσιών, των μεταφορών και της λήψης αποφάσεων, αλλά ενέχει και σοβαρούς κινδύνους που απαιτούν άμεση αντιμετώπιση, όπως τα deepfakes, οι μεροληπτικές αποφάσεις αλγορίθμων και οι απειλές για την ιδιωτικότητα.
Εστίασε στο πρόβλημα των «μαύρων κουτιών», δηλαδή συστημάτων των οποίων οι εσωτερικές λειτουργίες και οι ακριβείς υπολογισμοί παραμένουν κρυμμένοι από τους χρήστες και τους δημιουργούς τους, εξηγώντας ότι οι πολίτες δεν μπορούν να αμφισβητήσουν αποφάσεις δημόσιων αρχών όταν ούτε οι ειδικοί δεν κατανοούν πώς προέκυψε μια απόφαση.
Για την αντιμετώπιση αυτών των προκλήσεων, η Περιφέρεια Κεντρικής Μακεδονίας, όπως είπε, έχει αναπτύξει ένα πολιτικό μοντέλο που βασίζεται στην προώθηση της καινοτομίας, την προστασία των ανθρωπίνων δικαιωμάτων και την κοινωνική συνοχή. Το μοντέλο αυτό δομείται σε τρεις άξονες: στην οριοθέτηση, όπου «η ΤΝ δεν αντιμετωπίζεται μόνο ως εργαλείο οικονομικής ανάπτυξης, αλλά μέσα από το πρίσμα των δικαιωμάτων, της λογοδοσίας και της ανθρώπινης επίβλεψης», στις δυναμικές επιλογές που περιλαμβάνουν στρατηγική συνεχούς μάθησης, αξιολόγησης και διαχείρισης της τεχνολογικής αβεβαιότητας, και στις δράσεις που εστιάζουν στη μετατροπή των αξιών σε συγκεκριμένες πολιτικές. «Η Περιφέρεια επιλέγει τον δρόμο της ευθύνης και της συμπερίληψης, με στόχο να διασφαλίσει ότι ο σχεδιασμός, η διακυβέρνηση και η χρήση των μηχανών θα είναι πραγματικά άξια της εμπιστοσύνης των ανθρώπων», υπογράμμισε ο κ. Μπουρμπούλιας.
Το θερινό σχολείο MANOLO Summer School on Trustworthy AI & Innovation Lab θα διαρκέσει έως τις 28 Αυγούστου. Στη διάρκεια του τριημέρου θα παρουσιαστούν εισηγήσεις και τεχνικές συνεδρίες για την αξιόπιστη και αποδοτική τεχνητή νοημοσύνη, την Επεξηγήσιμη Τεχνητή Νοημοσύνη (Explainable AI), τις νομικές και ηθικές διαστάσεις των συστημάτων ΤΝ, καθώς και ζητήματα που αφορούν την ποιότητα και την προέλευση των δεδομένων. Παράλληλα, θα παρουσιαστούν εφαρμογές της τεχνητής νοημοσύνης στη ρομποτική, στο Medical IoT και στις κινητές εφαρμογές.
Ξεχωριστή θέση στο πρόγραμμα έχει το Innovation Lab, ένα διαδραστικό εργαστήριο καινοτομίας, όπου οι συμμετέχοντες θα εργαστούν σε ομάδες πάνω σε πραγματικές προκλήσεις τεχνητής νοημοσύνης, θα ανταλλάξουν ιδέες και θα αναπτύξουν προτάσεις και λύσεις, συνδυάζοντας τη θεωρητική γνώση με την πρακτική εμπειρία και την ομαδική συνεργασία.
