Ρεπορτάζ: Χρύσα Παλιεράκη
Για δεκαετίες, η εικόνα μιας μηχανής που παύει να υπακούει στον δημιουργό της αποτελούσε προνομιακό πεδίο της επιστημονικής φαντασίας. Από την άλλη πλευρά είναι αδιαμφισβήτητο ότι η τεχνητή νοημοσύνη (Α.Ι. – Artificial Intelligence) έχει μπει για τα καλά στη ζωή μας, κάνοντας την καθημερινότητα πιο εύκολη, καθώς λειτουργεί ως «πολλαπλασιαστής δυνατοτήτων», λύνοντας απορίες, εξοικονομώντας χρόνο και βοηθώντας στην εργασία. Δεν είναι τυχαίο το γεγονός πως το 1/6 του παγκόσμιου πληθυσμού ήδη χρησιμοποίησε εργαλεία παραγωγικής Α.Ι. το 2025, σύμφωνα με τη Microsoft, με τον αριθμό να αυξάνει διαρκώς.
Ωστόσο, δεν είναι λίγες οι περιπτώσεις όπου η Α.Ι. είτε «ξέφυγε» είτε οδηγήθηκε σε λάθη, προκαλώντας ανησυχία όχι μόνο σε απλούς πολίτες, αλλά και σε ειδικούς και πολιτικές ηγεσίες.
Πλέον, το 2026, το ερώτημα κατά πόσο ο άνθρωπος θα μπορεί πάντοτε να διατηρεί τον έλεγχο της Α.Ι. τίθεται δημόσια και από ανθρώπους που έχουν εργαστεί στην ανάπτυξη ορισμένων από τα ισχυρότερα συστήματα. Μια σειρά αποχωρήσεων από την Anthropic, την εταιρεία πίσω από το Claude και έναν από τους βασικούς ανταγωνιστές της OpenAI, έχει αναζωπυρώσει τη συζήτηση γύρω από τους κινδύνους της Α.Ι., καθώς οι ανησυχίες επικεντρώνονται στο ενδεχόμενο ανάπτυξης τόσο ισχυρών και αυτόνομων συστημάτων, των οποίων η συμπεριφορά γίνεται ολοένα δυσκολότερο να προβλεφθεί και να παραμείνει υπό ανθρώπινο έλεγχο.
«Παίζουν με τις ζωές μας»
Χαρακτηριστικό το παράδειγμα του ερευνητή Τζέικομπ Κόξον, που παραιτήθηκε από την Anthropic στις αρχές Σεπτεμβρίου, προειδοποιώντας για την κούρσα των κορυφαίων εταιρειών προς τη δημιουργία αυτοβελτιούμενης «υπερνοημοσύνης», χωρίς επαρκείς εγγυήσεις ελέγχου. «Ούτε η μία ούτε η άλλη εταιρεία ενεργούν υπεύθυνα», υποστήριξε αναφερόμενος στην Anthropic και την OpenAI, κατηγορώντας τες ότι «παίζουν με τις ζωές μας». Σύμφωνα με όσα δήλωσε στο Axios, επέλεξε να αποχωρήσει περίπου δύο μήνες πριν κατοχυρωθούν μετοχικά δικαιώματα που είχε στην Anthropic.
«Οδεύουμε προς ορισμένα από τα πιο ακραία σενάρια και μέχρι το τέλος του επόμενου έτους τα πράγματα μπορεί ήδη να έχουν ξεφύγει από τον έλεγχο», ανέφερε. «Μην υποτιμάτε τη δύναμη αυτής της τεχνολογίας. Σύντομα θα πρόκειται για υπεράνθρωπα συστήματα, ικανά να χακάρουν οτιδήποτε και να αποκτήσουν πραγματική εξουσία και πόρους. Όλοι έχουμε γίνει μάρτυρες της προόδου και αυτή δεν επιβραδύνεται», συμπλήρωσε.
Από την πλευρά της η Anthropic, αναφερόμενη στα «λάθη», μιλά μέχρι και για εμπλοκή από ομάδες χάκερ, υποστηριζόμενες από Ρωσία και Κίνα, καθώς και εγκληματικές οργανώσεις.
Ιδιαίτερη αίσθηση προκάλεσε και η αντίδραση του Έβαν Χούμπινγκερ, επικεφαλής έρευνας πάνω στο λεγόμενο «alignment», δηλαδή την προσπάθεια να διασφαλιστεί ότι οι στόχοι και η συμπεριφορά προηγμένων συστημάτων Α.Ι. παραμένουν ευθυγραμμισμένα με τις ανθρώπινες προθέσεις. Ο Χούμπινγκερ δήλωσε ότι συμμερίζεται τον πυρήνα των ανησυχιών του πρώην συναδέλφου του και τοποθέτησε τη δική του εκτίμηση για την πιθανότητα η Α.Ι. να προκαλέσει την εξαφάνιση της ανθρωπότητας μέσα στην επόμενη δεκαετία σε πάνω από 10%.
Ενδεικτικό είναι πως για το ζήτημα της τεχνητής νοημοσύνης τοποθετήθηκε και ο συνιδρυτής της Microsoft, Μπιλ Γκέιτς, μέσω έκθεσης και συνέντευξης στους «New York Times», σημειώνοντας πως η Α.Ι. είναι «το πιο επικίνδυνο εργαλείο που έχει εφευρεθεί ποτέ». «Σας παρακαλώ, σκεφτείτε το περισσότερο, ενδιαφερθείτε περισσότερο γι’ αυτό», σημείωσε.
Ο προβληματισμός είναι εμφανής και στην προειδοποίηση του γερουσιαστή Μπέρνι Σάντερς, που ζήτησε από τις μεγάλες εταιρείες να επιβραδύνουν την ανάπτυξη των μοντέλων τους, εφόσον αυτά φτάσουν σε επίπεδο στο οποίο δεν μπορούν να ελεγχθούν, αξιώνοντας μέτρα αυτοπεριορισμού.
Ο Μασκ συμφωνεί…
Δεν προκαλεί, επομένως, έκπληξη το γεγονός πως η Anthropic, μέσω του CEO της, Ντάριο Αμοντέι, έθεσε ανοιχτά το ζήτημα μιας προσωρινής επιβράδυνσης στην ανάπτυξη της τεχνητής νοημοσύνης. Πρέπει να μειώσουμε τον ρυθμό βελτίωσης της τεχνητής νοημοσύνης ώστε η πρόληψη των κινδύνων να μπορέσει να ακολουθήσει τον ρυθμό, έγραψε ο Αμοντέι, προειδοποιώντας για μια ομάδα πρακτόρων τεχνητής νοημοσύνης που θα είναι ικανή να ελέγχει το Διαδίκτυο σε 6 με 12 μήνες. «Ο Ντάριο έχει δίκιο», υποστήριξε ο Ίλον Μασκ. «Συμφωνώ με τον Ντάριο», έγραψε ο επικεφαλής της OpenAI, Σαμ Άλτμαν. «Αυτό είναι ένα από τα κύρια θέματα συζήτησης τις τελευταίες εβδομάδες», τόνισε. Μάλιστα, OpenAI, Anthropic και Google DeepMind δημιουργούν κοινό μέτωπο για την αντιμετώπιση ζητημάτων ασφαλείας.
Ο «χαλαρός» Τραμπ
Και οι πολιτικοί ηγέτες παγκοσμίως αναζητούν τρόπους για ασφαλή αξιοποίηση της Α.Ι. Ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, έχει υπογράψει εκτελεστικό διάταγμα για τη δημιουργία προαιρετικού πλαισίου αξιολόγησης μοντέλων Α.Ι., στο πλαίσιο της κυβερνοασφάλειας, ενώ κανονιστικό πλαίσιο έχει προωθήσει και η Ε.Ε. Παράλληλα, κατατέθηκε στο Κογκρέσο νομοσχέδιο που προβλέπει τη δημιουργία ενός «διακόπτη ασφαλείας» (kill switch), σε περίπτωση κινδύνου, ενώ η Καλιφόρνια θέσπισε τον πρώτο πολιτειακό νόμο για το πώς οι ανεξάρτητοι ελεγκτές αξιολογούν τα προϊόντα Α.Ι. Ωστόσο, παρά τις όποιες ενέργειες των ΗΠΑ, ο Τραμπ, τουλάχιστον δημόσια, εμφανίζεται αρκετά χαλαρός και δηλώνει πως θα μπει… ασπίδα:
«Ο μόνος έλεγχος ή οι μόνες “δικλίδες ασφαλείας” που χρειάζεται η Α.Ι. είναι ένας ισχυρός και έξυπνος -υψηλού IQ- πρόεδρος, και οι ΗΠΑ διαθέτουν έναν τέτοιο», έγραψε στο Truth Social.
Τι λένε οι Α.Ι. Agents
Σε μια ενδιαφέρουσα έρευνα, το Business Insider έθεσε σε τέσσερα από τα πιο δημοφιλή μοντέλα Α.Ι. το ερώτημα πώς θα μπορούσε να μοιάζει μια συντέλεια του κόσμου προκαλούμενη από την τεχνητή νοημοσύνη: στο ChatGPT της OpenAI, στο Gemini της Google, στο Claude της Anthropic και στο Grok της SpaceXAI.
Στις απαντήσεις τους και τα τέσσερα chatbots ανέφεραν ότι πολλοί ειδικοί θεωρούν την κακόβουλη χρήση της Α.Ι. από τον άνθρωπο ως πιο άμεσο κίνδυνο από την ίδια την τεχνητή νοημοσύνη. «Ισχυρά συστήματα Α.Ι. θα μπορούσαν να διευκολύνουν κακόβουλους παράγοντες να αναπτύξουν βιολογικά όπλα, να εξαπολύσουν εξελιγμένες κυβερνοεπιθέσεις, να διαδώσουν παραπληροφόρηση ή να επιτεθούν σε κρίσιμες υποδομές», ανέφερε το ChatGPT. Το chatbot της OpenAI πρόσθεσε ότι ένας βασικός κίνδυνος προέρχεται επίσης από «πολλαπλές κρίσεις που τροφοδοτούνται από την Α.Ι.», όπως κυβερνητικές αποτυχίες, γεωπολιτικές συγκρούσεις και η εξάπλωση της παραπληροφόρησης που συμβαίνουν ταυτόχρονα.
Έλληνες επιστήμονες χαρακτηρίζουν βάσιμες τις ανησυχίες γύρω από την ταχύτατη εξέλιξη της τεχνητής νοημοσύνης και επισημαίνουν ότι το ενδεχόμενο απώλειας ελέγχου δεν μπορεί πλέον να αντιμετωπίζεται αποκλειστικά ως ένα μακρινό θεωρητικό σενάριο. Την ίδια στιγμή, στρέφουν την προσοχή στην κούρσα ανάπτυξης ολοένα ισχυρότερων συστημάτων, στη συγκέντρωση τεχνολογικής ισχύος σε λίγες εταιρείες και στη δυσκολία αποτελεσματικής ανθρώπινης εποπτείας, τονίζοντας την ανάγκη για αυστηρότερες δικλίδες ασφαλείας και διεθνή συνεργασία πριν οι δυνατότητες της Α.Ι. προχωρήσουν ακόμη περισσότερο.
Ο Μανόλης Κουμπαράκης, καθηγητής του Τμήματος Πληροφορικής και Τηλεπικοινωνιών του Πανεπιστημίου Αθηνών, με ειδικότητα σε Υπολογιστικά Συστήματα και Εφαρμογές, μιλώντας στην «Κυριακάτικη Απογευματινή» και ερωτηθείς πόσο ρεαλιστικό είναι το ενδεχόμενο ένα μελλοντικό, πολύ προηγμένο σύστημα τεχνητής νοημοσύνης να ξεφύγει από τον ανθρώπινο έλεγχο, τόνισε:
«Το σενάριο αυτό είναι ρεαλιστικό, μιας που έχει ήδη συμβεί αρκετές φορές με συστήματα της OpenAI και της Anthropic. Το πιο γνωστό συμβάν έλαβε χώρα τον Ιούλιο του 2026. Κατά τη διάρκεια εσωτερικών αξιολογήσεων κυβερνοασφάλειας, μοντέλα της OpenAI παρέκαμψαν μηχανισμούς ελέγχου που είχαν σχεδιαστεί για να τα απομονώνουν από το Διαδίκτυο και παραβίασαν τμήματα της εσωτερικής ερευνητικής υποδομής της OpenAI, καθώς και συστήματα της Hugging Face. Το περιστατικό προκλήθηκε κυρίως από ένα ερευνητικό μοντέλο υψηλών δυνατοτήτων, το οποίο προοριζόταν αποκλειστικά για εσωτερική χρήση και ήταν συγκρίσιμης κλίμακας με το GPT-5.6 Sol που χρησιμοποιείται σήμερα από το ChatGPT».
Ο κ. Κουμπαράκης, στην ερώτηση ποιες δικλίδες ασφαλείας πρέπει να τεθούν σήμερα, πριν δημιουργηθούν ακόμη ισχυρότερα και πιο αυτόνομα συστήματα Α.Ι., εξήγησε ότι χρειαζόμαστε μεγαλύτερες επενδύσεις σε θέματα ασφάλειας των μοντέλων τεχνητής νοημοσύνης, πέρα από αυτές που ήδη υπάρχουν. Όπως ανέφερε, η ερευνητική κοινότητα των συστημάτων ασφαλείας, που παραδοσιακά ασχολείται με την ασφάλεια υπολογιστικών συστημάτων, θα μπορούσε να βοηθήσει πολύ. Επίσης, «χρειαζόμαστε ένα διεθνές ρυθμιστικό πλαίσιο που, μεταξύ άλλων, θα καταστήσει τις μεγάλες εταιρείες τεχνητής νοημοσύνης υπόλογες για τα προβλήματα που πιθανά θα προκαλέσουν τα συστήματά τους. Αυτή τη στιγμή όμως δεν βλέπω πώς μπορεί να γίνει αυτό αν δεν υπάρξει θερμή υποστήριξη από τις Ηνωμένες Πολιτείες και την Κίνα. Η Ευρώπη δυστυχώς δεν μπορεί να κάνει πολλά πράγματα, επειδή οι μεγάλες ανακαλύψεις στην τεχνητή νοημοσύνη σήμερα δεν γίνονται στην Ευρώπη», δήλωσε χαρακτηριστικά.
Ανταγωνισμός
Στους κινδύνους που συνοδεύουν την ταχύτατη εξέλιξη της τεχνητής νοημοσύνης εστιάζει και ο Σωτήρης Μπατσάκης, επίκουρος καθηγητής του Τμήματος Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών του Ελληνικού Μεσογειακού Πανεπιστημίου, με εξειδίκευση στην τεχνητή νοημοσύνη. Όπως τονίζει, «οι φόβοι που έχουν εκφραστεί είναι βάσιμοι» και αφορούν όχι μόνο «την πιθανότητα απώλειας ελέγχου των εξελιγμένων συστημάτων τεχνητής νοημοσύνης», αλλά και τις επιπτώσεις στην αγορά εργασίας και «την υπερβολική συγκέντρωση δύναμης στα χέρια λίγων εταιρειών». Ιδιαίτερα κρίσιμο θεωρεί τον ανταγωνισμό για την ανάπτυξη ολοένα ισχυρότερων συστημάτων, επισημαίνοντας ότι μεταξύ των εταιρειών επικρατεί «η λογική του winner takes it all», ενώ την ίδια στιγμή εντείνεται ο ανταγωνισμός μεταξύ κρατών και κυρίως μεταξύ ΗΠΑ και Κίνας. Μάλιστα, εκτιμά ότι η επιτήρηση της εξέλιξης της Α.Ι. μπορεί να αποδειχθεί δυσκολότερη ακόμη και από άλλες περιπτώσεις διεθνούς ανταγωνισμού, όπως εκείνη των πυρηνικών όπλων, γεγονός που ενδέχεται να ενισχύσει την καχυποψία μεταξύ των μεγάλων δυνάμεων.
Απέναντι σε αυτούς τους κινδύνους, ο κ. Μπατσάκης υπογραμμίζει ότι πρέπει κατ’ αρχάς να εφαρμόζονται «τα τυπικά μέτρα που λαμβάνονται σε κάθε σημαντικό σύστημα λογισμικού», με «σαφείς προδιαγραφές, στόχους και διαδικασίες δοκιμών των συστημάτων». Παράλληλα, θεωρεί αναγκαίο να υπάρχει «εκτεταμένος έλεγχος στα δεδομένα εκπαίδευσης και ύπαρξη εποπτείας από ανθρώπους κατά τη λειτουργία των συστημάτων», ιδιαίτερα όταν πρόκειται για κρίσιμες λειτουργίες.
Καθοριστικό ρόλο, σύμφωνα με τον ίδιο, θα πρέπει να έχουν και ανεξάρτητοι ελεγκτές. «Σημαντικό είναι κατά την ανάπτυξη των συστημάτων να υπάρχουν στις κυριότερες εταιρείες εξωτερικοί ελεγκτές, π.χ. από δημόσιες αρχές, με σημαντικά δικαιώματα πρόσβασης και παρέμβασης», οι οποίοι θα επιτηρούν την ανάπτυξη, τις δοκιμές και τη χρήση των συστημάτων Α.Ι. Οι δικλίδες αυτές, όπως σημειώνει, θα πρέπει τελικά «να εφαρμοστούν σε παγκόσμιο επίπεδο μέσω διεθνών συνθηκών», κάτι που αναγνωρίζει ότι στην πράξη θα είναι ιδιαίτερα δύσκολο.
Η μεγαλύτερη πρόκληση, ωστόσο, μπορεί να βρίσκεται στην ίδια την πολυπλοκότητα των προηγμένων μοντέλων. Όπως εξηγεί, πρόκειται πλέον για συστήματα που «περιλαμβάνουν τρισεκατομμύρια παραμέτρους», με αποτέλεσμα η αποτελεσματική ανθρώπινη εποπτεία να γίνεται ολοένα δυσκολότερη. Και εδώ εντοπίζει ίσως το μεγαλύτερο παράδοξο της επόμενης ημέρας, καθώς αυτή η πολυπλοκότητα μπορεί να οδηγήσει «στη μάλλον παράδοξη και επισφαλή θέση ο έλεγχος των συστημάτων τεχνητής νοημοσύνης να βασίζεται επίσης σε συστήματα τεχνητής νοημοσύνης».
Κυριακάτικη Απογευματινή
