Η Τεχνητή Νοημοσύνη εξελίσσεται με ταχύτητα που επαναφέρει στο προσκήνιο το ζήτημα της ασφάλειας και του ελέγχου των ολοένα ισχυρότερων συστημάτων. Το ερώτημα πλέον δεν αφορά μόνο το πόσο ικανά μπορούν να γίνουν τα μοντέλα, αλλά και το τι μπορεί να συμβεί όταν αποκτούν τη δυνατότητα να λαμβάνουν πρωτοβουλίες, να χρησιμοποιούν εργαλεία, να γράφουν και να εκτελούν κώδικα και να λειτουργούν με περιορισμένη ανθρώπινη παρέμβαση.
Ο καθηγητής Ηλεκτρολόγων Μηχανικών και Επιστήμης των Υπολογιστών στο MIT Κωνσταντίνος Δασκαλάκης, μιλώντας στο ΑΠΕ-ΜΠΕ και στον δημοσιογράφο Αλέκο Λιδωρίκη, διαχωρίζει τον υποθετικό κίνδυνο μιας πλήρους απώλειας ελέγχου από έναν κίνδυνο που, όπως επισημαίνει, είναι ήδη πραγματικός: την απρόβλεπτη ή ανεπιθύμητη συμπεριφορά των προηγμένων μοντέλων.
«Ο κίνδυνος να χάσουμε ουσιαστικά τον έλεγχο ενός συστήματος είναι ακόμα υποθετικός. Όμως, ο κίνδυνος απρόβλεπτης ή ανεπιθύμητης συμπεριφοράς είναι ήδη πραγματικός», σημειώνει ο κ. Δασκαλάκης.
Όπως εξηγεί, τα μεγάλα νευρωνικά δίκτυα είναι εξαιρετικά σύνθετα και, παρά τις εντυπωσιακές τους δυνατότητες, δεν είναι δυνατό να θεωρούνται απολύτως προβλέψιμα. Ιδιαίτερα στα μεγάλα γλωσσικά μοντέλα, η αξιοπιστία δεν μπορεί να πιστοποιηθεί με τον ίδιο τρόπο που πιστοποιείται ένα συμβατικό τεχνολογικό σύστημα.
Από τα chatbots στους αυτόνομους AI agents
Η αλλαγή που βρίσκεται ήδη σε εξέλιξη αφορά κυρίως τους λεγόμενους AI agents. Πρόκειται για συστήματα που δεν περιορίζονται στην παραγωγή ενός κειμένου ή στην απάντηση μιας ερώτησης, αλλά μπορούν να σχεδιάζουν και να εκτελούν ακολουθίες ενεργειών, να χρησιμοποιούν ψηφιακά εργαλεία, να γράφουν και να εκτελούν κώδικα και να συνεργάζονται μεταξύ τους.
Αυτό αυξάνει σημαντικά τις δυνατότητες αλλά και το δυνητικό πεδίο κινδύνου.
Ένα γλωσσικό μοντέλο που χρησιμοποιείται για αναζήτηση πληροφοριών μπορεί, για παράδειγμα, να παρουσιάσει ανύπαρκτες πηγές ή να παραμορφώσει στοιχεία. Η ζημιά σε αυτή την περίπτωση μπορεί να περιοριστεί εφόσον ο χρήστης ελέγξει τις απαντήσεις.
Διαφορετική είναι η περίπτωση όταν ένα μοντέλο μπορεί να χρησιμοποιήσει τις γνώσεις του για να εκτελέσει ενέργειες σε έναν υπολογιστή ή σε ένα δίκτυο.
Οι ασφαλιστικές δικλείδες που διαθέτουν τα σύγχρονα μοντέλα επιχειρούν να αποτρέψουν την παραγωγή επικίνδυνου περιεχομένου, ωστόσο δεν παρέχουν απόλυτη προστασία και, σύμφωνα με τον κ. Δασκαλάκη, μπορούν να παρακαμφθούν, ιδιαίτερα στην περίπτωση ανοιχτών μοντέλων.
Το επεισόδιο με τη Hugging Face
Ιδιαίτερη αναφορά γίνεται στο περιστατικό OpenAI-Hugging Face, το οποίο ο καθηγητής χαρακτηρίζει ενδεικτικό των κινδύνων που δημιουργούνται όταν αυτόνομοι πράκτορες αποκτούν πρόσβαση σε ψηφιακά περιβάλλοντα.
Σύμφωνα με την τεχνική αποτίμηση της OpenAI, πράκτορες ΤΝ που χρησιμοποιούνταν σε εσωτερικές δοκιμές κυβερνοασφάλειας παραβίασαν περιορισμούς του δοκιμαστικού περιβάλλοντος, απέκτησαν πρόσβαση στο Διαδίκτυο, χρησιμοποίησαν μη εγκεκριμένους διαύλους επικοινωνίας και εισήλθαν σε συστήματα της Hugging Face.
Το περιστατικό ανέδειξε ένα κρίσιμο ζήτημα: όταν ένα μοντέλο αποκτά τη δυνατότητα να ενεργεί αυτόνομα, οι κίνδυνοι δεν περιορίζονται πλέον στην ακρίβεια των απαντήσεών του.
Ο κ. Δασκαλάκης επισημαίνει ότι οι πράκτορες πρέπει να λειτουργούν σε αυστηρά ελεγχόμενα και απομονωμένα περιβάλλοντα, ιδιαίτερα όταν μπορούν να γράφουν και να εκτελούν κώδικα.
Γιατί τα μοντέλα μπορούν να αναπτύξουν σύνθετες στρατηγικές
Ένας ακόμη παράγοντας που αυξάνει την πολυπλοκότητα είναι ο τεράστιος όγκος δεδομένων πάνω στον οποίο έχουν εκπαιδευτεί τα σύγχρονα μοντέλα.
Η εκπαίδευσή τους περιλαμβάνει υλικό από την επιστήμη, την ιστορία, τη λογοτεχνία, τη θεωρία παιγνίων, βάσεις κώδικα και το Διαδίκτυο. Έτσι, τα μοντέλα διαθέτουν πρόσβαση σε γνώσεις που μπορούν να συνδυαστούν για την παραγωγή σύνθετων στρατηγικών.
Το πρόβλημα, σύμφωνα με τον καθηγητή, είναι ότι ο στόχος ενός συστήματος μπορεί να προέρχεται από έναν κακόβουλο χρήστη, αλλά μπορεί επίσης να παρερμηνευθεί από το ίδιο το μοντέλο.
Αυτό δημιουργεί μια διαφορετική κατηγορία κινδύνου: ένα σύστημα μπορεί να προσπαθεί να πετύχει τον στόχο που του τέθηκε, αλλά να το κάνει με τρόπο διαφορετικό από εκείνον που είχε προβλέψει ο άνθρωπος.
Από τον Turing στο ChatGPT
Η σημερινή έκρηξη της ΤΝ αποτελεί το αποτέλεσμα μιας πορείας περίπου επτά δεκαετιών.
Το 1950, ο Alan Turing έθεσε το περίφημο ερώτημα εάν μπορούν οι μηχανές να σκέφτονται. Έξι χρόνια αργότερα, το 1956, το θερινό ερευνητικό πρόγραμμα του Dartmouth σηματοδότησε την καθιέρωση της Τεχνητής Νοημοσύνης ως διακριτού επιστημονικού πεδίου.
Ακολούθησαν περίοδοι σημαντικής προόδου αλλά και οι λεγόμενοι «χειμώνες της AI», κατά τους οποίους οι προσδοκίες ξεπερνούσαν τις πραγματικές δυνατότητες της τεχνολογίας.
Το 1997, ο Deep Blue της IBM νίκησε τον Garry Kasparov στο σκάκι. Το 2012, το AlexNet αποτέλεσε σημείο καμπής στην αναγνώριση εικόνας, ενώ το 2016 το AlphaGo της Google DeepMind επικράτησε του Lee Sedol στο Go.
Καθοριστικό βήμα αποτέλεσε το 2017, με την παρουσίαση της αρχιτεκτονικής Transformer, πάνω στην οποία βασίστηκε μεγάλο μέρος της εξέλιξης των σύγχρονων μεγάλων γλωσσικών μοντέλων.
Τον Νοέμβριο του 2022, η κυκλοφορία του ChatGPT από την OpenAI έφερε την παραγωγική ΤΝ στην καθημερινότητα εκατομμυρίων ανθρώπων και επιτάχυνε δραστικά την ανάπτυξη και την υιοθέτηση της τεχνολογίας.
Ερευνητές ζητούν μεγαλύτερη προσοχή
Οι ανησυχίες για την ασφάλεια εντάθηκαν τις τελευταίες εβδομάδες, καθώς υπήρξαν παραιτήσεις ερευνητών και δημόσιες παρεμβάσεις κορυφαίων στελεχών του κλάδου.
Στις 8 Σεπτεμβρίου, ο Jacob Coxon ανακοίνωσε την αποχώρησή του από την Anthropic και συνολικά από τον κλάδο, εκφράζοντας ανησυχίες για την ανάπτυξη ολοένα ισχυρότερων συστημάτων χωρίς, κατά την άποψή του, αντίστοιχα επαρκή σχέδια ελέγχου.
Στις 12 Σεπτεμβρίου, ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, τάχθηκε υπέρ του ελέγχου του ρυθμού αύξησης των δυνατοτήτων των μοντέλων, χωρίς να ζητά τη διακοπή της έρευνας. Μεταξύ άλλων, πρότεινε μεγαλύτερη πρόσβαση ανεξάρτητων αξιολογητών στα εργαστήρια και ενισχυμένο συντονισμό.
Στις 14 Σεπτεμβρίου έγινε γνωστή και η αποχώρηση του Bilal Chughtai από τη Google DeepMind, όπου εργαζόταν στον τομέα της ασφάλειας και της ευθυγράμμισης της γενικής ΤΝ.
Την ίδια περίοδο, σύμφωνα με διεθνή δημοσιεύματα, OpenAI, Anthropic και Google DeepMind έχουν συζητήσει πρωτοβουλίες για την ενίσχυση της ασφάλειας των συστημάτων ΤΝ.
Οι κυβερνοεπιθέσεις στον πυρήνα της ανησυχίας
Για τον κ. Δασκαλάκη, ένας από τους πλέον άμεσους και τεκμηριωμένους κινδύνους είναι η αξιοποίηση της ΤΝ για κυβερνοεπιθέσεις.
Το ζήτημα περιπλέκεται από το γεγονός ότι η τεχνολογία έχει ήδη διαχυθεί και δεν περιορίζεται σε λίγα κλειστά ερευνητικά εργαστήρια.
Όπως επισημαίνει, ακόμη και αν επιβραδυνθεί η ανάπτυξη των ισχυρότερων μοντέλων, ισχυρά ανοιχτά μοντέλα είναι ήδη διαθέσιμα.
Παράλληλα, όσο η ΤΝ ενσωματώνεται σε ρομπότ, αυτοκίνητα και συστήματα λήψης αποφάσεων, τόσο περισσότερο το ενδεχόμενο λανθασμένης ή ανεπιθύμητης συμπεριφοράς μεταφέρεται από τον ψηφιακό στον πραγματικό κόσμο.
Ο AI Act και η ευρωπαϊκή προσέγγιση
Σε αυτό το περιβάλλον, ιδιαίτερη σημασία αποκτά το ρυθμιστικό πλαίσιο της Ευρωπαϊκής Ένωσης για την Τεχνητή Νοημοσύνη, το οποίο βασίζεται σε κατηγοριοποίηση των εφαρμογών ανάλογα με το επίπεδο κινδύνου και προβλέπει αντίστοιχες υποχρεώσεις.
Η λογική είναι ότι όσο μεγαλύτερος είναι ο κίνδυνος μιας εφαρμογής, τόσο αυστηρότερες πρέπει να είναι οι απαιτήσεις για δοκιμές, διαφάνεια, εποπτεία και ασφάλεια.
Ο κ. Δασκαλάκης θεωρεί σημαντική όχι μόνο τη ρύθμιση αλλά και την ανάπτυξη τεχνολογιών άμυνας που αξιοποιούν την ίδια την ΤΝ.
Στην κυβερνοασφάλεια, όπως εξηγεί, η ΤΝ μπορεί να χρησιμοποιηθεί για τον εντοπισμό ευπαθειών, την παρακολούθηση συστημάτων και τη διόρθωση προβλημάτων πριν αυτά αξιοποιηθούν από επιτιθέμενους.
Το ζητούμενο, επομένως, δεν είναι μόνο να περιοριστεί η κακόβουλη χρήση της τεχνολογίας, αλλά να δημιουργηθούν ισχυρά αμυντικά συστήματα ΤΝ που θα μπορούν να αντιμετωπίζουν τις νέες μορφές κυβερνοαπειλών.
