Μια προειδοποίηση που προκαλεί αίσθηση μέσα από τα ίδια τα «εργαστήρια» της τεχνητής νοημοσύνης απηύθυνε ο Τζέικομπ Κόξον, παραιτούμενος από την Anthropic. Ο 27χρονος ερευνητής, που έχει εργαστεί και στην OpenAI, υποστηρίζει ότι οι άνθρωποι που αναπτύσσουν τα ισχυρότερα συστήματα AI θεωρούν πραγματικό το ενδεχόμενο η τεχνολογία «να μας σκοτώσει όλους» έως το τέλος της δεκαετίας, κατηγορώντας τις δύο εταιρείες ότι επιδίδονται σε μια επικίνδυνη κούρσα προς την αυτοβελτιούμενη υπερνοημοσύνη.
Ο 27χρονος ερευνητής, ο οποίος είχε προηγουμένως εργαστεί στην OpenAI και ειδικεύεται στην προεκπαίδευση νέων μοντέλων μέσω τεράστιων όγκων δεδομένων, κατηγόρησε τόσο την OpenAI όσο και την Anthropic ότι συμμετέχουν σε μια επικίνδυνη κούρσα προς την ανάπτυξη προηγμένης τεχνητής νοημοσύνης χωρίς να έχει προηγουμένως διασφαλιστεί ότι αυτή θα παραμείνει υπό ανθρώπινο έλεγχο. Ανακοινώνοντας την παραίτησή του μέσω της πλατφόρμας Χ, υποστήριξε ότι καμία από τις δύο εταιρείες δεν ενεργεί πλέον με επαρκώς υπεύθυνο τρόπο.
“Παίζουν με τις ζωές μας”
«Παραιτήθηκα από την Anthropic σήμερα. Πέρασα τα τελευταία τρία χρόνια κάνοντας έρευνα προεκπαίδευσης τόσο στην OpenAI όσο και στην Anthropic. Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Τρέχουν ολοταχώς προς την αυτοβελτιούμενη υπερνοημοσύνη, παίζοντας με τις ζωές μας», ανέφερε.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
«Η AI θα μπορούσε να μας σκοτώσει όλους»
Ο Κόξον προχώρησε ακόμη περισσότερο στις προειδοποιήσεις του, υποστηρίζοντας ότι ακόμη και άνθρωποι που βρίσκονται στην πρώτη γραμμή της ανάπτυξης προηγμένων συστημάτων AI θεωρούν υπαρκτό το ενδεχόμενο καταστροφικών συνεπειών. «Οι άνθρωποι που δημιουργούν την AI πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους έως το τέλος της δεκαετίας. Δεν πρόκειται για κόλπο μάρκετινγκ», έγραψε. Τη συζήτηση ενίσχυσε ο Εβαν Χάμπιντζερ, στέλεχος της Anthropic με αντικείμενο την ασφάλεια της τεχνητής νοημοσύνης, ο οποίος σχολίασε ότι πράγματι θεωρεί πιθανό ένα τέτοιο ακραίο σενάριο.
Όπως ανέφερε, εκτιμά ότι ο κίνδυνος η AI να οδηγήσει σε καταστροφική έκβαση για την ανθρωπότητα είναι μεγαλύτερος από 10% μέσα στην τρέχουσα δεκαετία.
«Δεν έχουμε ακόμη σχέδιο» για μια AI ισχυρότερη από τον άνθρωπο
Ο Χάμπιντζερ υποστήριξε ότι η Anthropic προσπαθεί να αντιμετωπίσει τους κινδύνους, παραδέχθηκε όμως ότι δεν υπάρχει ακόμη ολοκληρωμένο σχέδιο που να εγγυάται ότι ένα σύστημα τεχνητής νοημοσύνης το οποίο θα ξεπερνά τις ανθρώπινες δυνατότητες θα εξακολουθήσει να υπακούει στους δημιουργούς του. Διευκρίνισε, πάντως, ότι θεωρεί μικρό τον συγκεκριμένο κίνδυνο όσον αφορά τα σημερινά μοντέλα. Η παραίτηση του Κόξον έρχεται σε μια περίοδο κατά την οποία η Anthropic προετοιμάζεται για εισαγωγή στο χρηματιστήριο, ενώ ο κλάδος βρίσκεται αντιμέτωπος με ολοένα περισσότερα ερωτήματα σχετικά με την ασφάλεια και την ανεξέλεγκτη χρήση προηγμένων εργαλείων AI. OpenAI και Anthropic δεν είχαν απαντήσει άμεσα σε αίτημα του AFP για σχολιασμό.
Η κούρσα προς την «αυτοβελτιούμενη» τεχνητή νοημοσύνη
Στο επίκεντρο των ανησυχιών βρίσκεται η λεγόμενη «αναδρομική αυτοβελτίωση»: το ενδεχόμενο ένα προηγμένο μοντέλο τεχνητής νοημοσύνης να αποκτήσει τη δυνατότητα να σχεδιάζει και να βελτιώνει μόνο του τον διάδοχό του, μειώνοντας σταδιακά την ανθρώπινη παρέμβαση. Σύμφωνα με τον Κόξον, εργαζόμενοι στον χώρο χρησιμοποιούν όρους όπως «crunchtime» και «endgame» για να περιγράψουν το σημείο στο οποίο θεωρούν ότι πλησιάζει η τεχνολογική κούρσα.
Ο ίδιος αναγνωρίζει ότι οι προσπάθειες της Anthropic γύρω από την ασφάλεια της AI είναι ειλικρινείς, θεωρεί όμως ότι ούτε αυτή ούτε οποιαδήποτε άλλη μεμονωμένη εταιρεία μπορεί να αναπτύξει υπεύθυνα μια τεχνητή νοημοσύνη ανώτερη από τον άνθρωπο χωρίς ισχυρή κυβερνητική παρέμβαση ή συντονισμένη επιβράδυνση από ολόκληρο τον κλάδο.
«Στην Anthropic κατανοούν πολύ καλά το διακύβευμα, αλλά έχουν εμπλακεί σε έναν αγώνα δρόμου για να φτάσουν πρώτοι», ανέφερε.
Η αλλαγή στην πολιτική ασφαλείας της Anthropic
Στο επίκεντρο της κριτικής βρίσκεται και η απόφαση της Anthropic να αφαιρέσει τον Φεβρουάριο από την πολιτική ασφαλείας της τη δέσμευση ότι θα σταματούσε την ανάπτυξη μοντέλων εφόσον δεν μπορούσε να διαχειριστεί επαρκώς τους κινδύνους τους. Το σκεπτικό πίσω από την αλλαγή ήταν ότι μια μονομερής επιβράδυνση θα μπορούσε να επιτρέψει σε λιγότερο προσεκτικούς ανταγωνιστές να αποκτήσουν τεχνολογικό προβάδισμα.
Για τον Κόξον, όμως, ακριβώς αυτή η λογική αποτυπώνει το βασικό πρόβλημα: κάθε εταιρεία φοβάται ότι, αν επιβραδύνει, κάποιος ανταγωνιστής θα συνεχίσει.
Εντείνονται οι προειδοποιήσεις μέσα από τον ίδιο τον κλάδο
Η παραίτηση του Κόξον έρχεται να προστεθεί σε μια ευρύτερη συζήτηση μεταξύ ερευνητών και στελεχών της Silicon Valley για το κατά πόσο η ανάπτυξη προηγμένων μοντέλων τεχνητής νοημοσύνης κινείται ταχύτερα από την ικανότητα των εταιρειών και των κυβερνήσεων να ελέγξουν τους πιθανούς κινδύνους. Τον Ιούλιο, κορυφαίοι ερευνητές και στελέχη του κλάδου υπέγραψαν τη δήλωση «Pacing the Frontier», ζητώντας να παραμείνει ανοιχτή η δυνατότητα επιβράδυνσης της ανάπτυξης των ισχυρότερων συστημάτων AI.
Στόχος, όπως υποστήριξαν, είναι να υπάρχει επαρκής χρόνος για τη δημιουργία αποτελεσματικότερων μηχανισμών ασφαλείας, την αντιμετώπιση νέων κινδύνων και την ενίσχυση της εποπτείας. Μεταξύ των υπογραφόντων βρίσκονταν οι συνιδρυτές της Anthropic Ντάριο Αμοντέι και Τζάρεντ Κάπλαν, καθώς και κορυφαία στελέχη της OpenAI και της Meta AI.
Η αποχώρηση του Κόξον επαναφέρει έτσι ένα από τα μεγαλύτερα ερωτήματα γύρω από την τεχνητή νοημοσύνη: εάν η τεχνολογική κούρσα μπορεί να συνεχιστεί με τον σημερινό ρυθμό χωρίς οι δικλίδες ασφαλείας να μείνουν πίσω.
Με πληροφορίες από ΑΠΕ-ΜΠΕ, Wall Street Journal
