Ένας ερευνητής τεχνητής νοημοσύνης (AI) που έφυγε από την OpenAI για να πάει στην Anthropic —την οποία θεωρούσε πιο συνετή— εγκατέλειψε τελικά τον κλάδο, κατηγορώντας και τις δύο αμερικανικές εταιρείες ότι «παίζουν με τη ζωή μας» στην κούρσα για AI ικανή να βελτιώνεται μόνη της.
Ο Τζέικομπ Κόξον, 27χρονος Βρετανός, εργάστηκε επί τρία χρόνια στην προ-εκπαίδευση, το στάδιο κατά το οποίο τα μοντέλα τεχνητής νοημοσύνης απορροφούν τεράστιες ποσότητες δεδομένων, πρώτα στην OpenAI και στη συνέχεια, φέτος, στον βασικό της ανταγωνιστή, την Anthropic.
«Καμία από τις δύο εταιρείες δεν ενεργεί με υπεύθυνο τρόπο. Κατευθύνονται ολοταχώς προς μια υπερνοημοσύνη ικανή να αυτοβελτιώνεται και παίζουν με τις ζωές μας», έγραψε χθες, Τρίτη, στο Χ.
«Οι άνθρωποι που δημιουργούν την ΑΙ πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους ως το τέλος της δεκαετίας. Δεν πρόκειται για κόλπο μάρκετινγκ», υπογράμμισε.
Ο Έβαν Χάμπιντζερ, στέλεχος της Anthropic αρμόδιος για την ασφάλεια, συμφώνησε με τον Κόξον σε σχόλιό του στο Χ: «Πράγματι, πιστεύουμε ειλικρινά ότι η ΑΙ θα μπορούσε να σκοτώσει όλους τους ανθρώπους», εκτιμώντας ότι ο κίνδυνος αυτός ξεπερνά το 10% μέσα στη δεκαετία.
Ο Χάμπιντζερ πρόσθεσε ότι η Anthropic κάνει «ό,τι καλύτερο» μπορεί, ωστόσο ακόμη «δεν έχει σχέδιο» για το πώς θα διασφαλίσει ότι μια τεχνητή νοημοσύνη που ξεπερνά τις ανθρώπινες δυνατότητες θα συνεχίσει να υπακούει στους δημιουργούς της, αν και εκτίμησε πως ο κίνδυνος να συμβεί αυτό με τα σημερινά μοντέλα AI είναι «μικρός».
Η παραίτηση του Κόξον έγινε τη στιγμή που η Anthropic ετοιμάζεται να εισαχθεί στο χρηματιστήριο και έπειτα από ένα καλοκαίρι κατά το οποίο αποκαλύφθηκαν περιστατικά πειρατείας με εργαλεία AI που χρησιμοποιήθηκαν χωρίς άδεια.
Οι δύο εταιρείες δεν έχουν απαντήσει μέχρι στιγμής σε αίτημα του AFP για σχόλιο.
Οι πρωταγωνιστές της τεχνητής νοημοσύνης υποστηρίζουν ότι βρίσκονται κοντά στο στάδιο της «αναδρομικής αυτοβελτίωσης», δηλαδή σε ένα σημείο πέρα από το οποίο ένα μοντέλο θα σχεδιάζει μόνο του τον διάδοχό του, χωρίς ανθρώπινο έλεγχο.
Σύμφωνα με τον Κόξον, οι συνάδελφοί του χρησιμοποιούν τους όρους «crunchtime» (ώρα της κρίσης) και «endgame» (τέλος του παιχνιδιού) για να περιγράψουν αυτή την πορεία.
Ο ίδιος έκρινε ότι οι προσπάθειες της Anthropic είναι ειλικρινείς, αλλά σημείωσε πως καμία εταιρεία δεν μπορεί να αναπτύξει με υπεύθυνο τρόπο μια τεχνητή νοημοσύνη που θα ξεπερνά τους ανθρώπους χωρίς κυβερνητική παρέμβαση ή συντονισμένη επιβράδυνση από όλες τις εταιρείες.
«Στην Anthropic κατανοούν πολύ καλά το διακύβευμα, αλλά έχουν εμπλακεί σε έναν αγώνα δρόμου για να φτάσουν πρώτοι», επεσήμανε.
Τον Φεβρουάριο, η Anthropic αφαίρεσε από την πολιτική ασφαλείας της τη δέσμευση να σταματήσει την ανάπτυξη των μοντέλων της εάν δεν καταφέρει να διαχειριστεί τους σχετικούς κινδύνους, υποστηρίζοντας ότι μια μονομερής παύση θα επέτρεπε σε λιγότερο προσεκτικούς παίκτες να κυριαρχήσουν ανεξέλεγκτα στον ανταγωνισμό.
