Η OpenAI ανέστειλε προσωρινά την εκπαίδευση των τελευταίων μοντέλων τεχνητής νοημοσύνης, μετά από περιστατικά στα οποία AI agents που αναζητούσαν πληροφορίες σε ιστοσελίδες της αμερικανικής κυβέρνησης προχώρησαν σε ενέργειες που δεν περιλαμβάνονταν στις οδηγίες που είχαν λάβει.
Η απόφαση ελήφθη λίγες ώρες μετά τη γνωστοποίηση από την εταιρεία ότι εξετάζει σειρά περιστατικών που καταγράφηκαν κατά τη διάρκεια του καλοκαιριού. Σύμφωνα με την OpenAI, agents αλληλεπιδρούσαν με ομοσπονδιακές κυβερνητικές ιστοσελίδες και, κατά τη συλλογή και διανομή πληροφοριών, πραγματοποίησαν ενέργειες που δεν τους είχαν ζητηθεί.
Η εταιρεία ανακοίνωσε ότι η εκπαίδευση θα επαναληφθεί όταν διαπιστωθεί ότι έχουν προστεθεί επιπλέον δικλίδες ασφαλείας. Παράλληλα, ανέφερε ότι ενδέχεται να προχωρήσει και στο μέλλον σε αντίστοιχες αναστολές, καθώς τα συστήματα τεχνητής νοημοσύνης εξελίσσονται και προκύπτουν νέα προβλήματα.
Οι agents εντόπισαν κλειδιά πρόσβασης σε κυβερνητικά δεδομένα
Ένα από τα περιστατικά αφορούσε το Υπουργείο Παιδείας των ΗΠΑ, όπου agents της OpenAI εντόπισαν API «developer keys», τα οποία μπορούσαν να χρησιμοποιηθούν για πρόσβαση σε κυβερνητικά δεδομένα.
Σύμφωνα με το Associated Press, οι agents συγκέντρωσαν τελικά μόνο πληροφορίες που ήταν διαθέσιμες στο κοινό. Το αμερικανικό υπουργείο ανέφερε ότι δεν εντόπισε στοιχεία που να δείχνουν ότι επηρεάστηκαν η ιστοσελίδα ή οι βάσεις δεδομένων του.
Σε ξεχωριστό περιστατικό στην Επιτροπή Κεφαλαιαγοράς των ΗΠΑ (SEC), agents εντόπισαν πληροφορίες που ήταν δημόσια διαθέσιμες και στη συνέχεια τις ανάρτησαν σε άλλο σημείο του διαδικτύου, χωρίς αυτό να περιλαμβάνεται στις οδηγίες που είχαν λάβει.
Εκπρόσωπος της SEC, Kurt Hopfenspirger, δήλωσε ότι «δεν υπήρξε πρόσβαση σε μη δημόσιες πληροφορίες».
Αναφορά για απόπειρα παραβίασης κυβερνητικής ιστοσελίδας
Η εταιρεία αξιολόγησης AI Transluce ανέφερε επίσης ότι agents που φέρεται να προέρχονταν από την OpenAI επιχείρησαν ανεπιτυχώς να παραβιάσουν ιστοσελίδα του Υπουργείου Παιδείας. Η OpenAI δεν έχει επιβεβαιώσει το συγκεκριμένο περιστατικό.
Τα περιστατικά επαναφέρουν στο επίκεντρο το ζήτημα της λειτουργίας των AI agents, συστημάτων που μπορούν να εκτελούν διαδοχικές ενέργειες, να αναζητούν πληροφορίες και να αλληλεπιδρούν με ιστοσελίδες και άλλα ψηφιακά συστήματα.
Ειδικοί και νομοθέτες εξετάζουν, μεταξύ άλλων, τον κίνδυνο ένας agent να συνεχίσει μια ακολουθία ενεργειών πέρα από την αρχική πρόθεση του χρήστη, ιδιαίτερα όταν διαθέτει πρόσβαση σε εργαλεία και εξωτερικά συστήματα.
Δεύτερη αναστολή μέσα σε τρεις μήνες
Πρόκειται για τη δεύτερη φορά μέσα σε τρεις μήνες που η OpenAI αναστέλλει την ανάπτυξη των μοντέλων της.
Η προηγούμενη διακοπή είχε σημειωθεί τον Ιούλιο, μετά την αποκάλυψη κυβερνοεπίθεσης που συνδεόταν με μοντέλο AI και είχε στόχο τη startup Hugging Face. Ο διευθύνων σύμβουλος της OpenAI, Sam Altman, είχε χαρακτηρίσει το περιστατικό ως το σοβαρότερο συμβάν που έχει αντιμετωπίσει μέχρι σήμερα η εταιρεία.
Η OpenAI έχει δημοσιοποιήσει ακόμη έξι αναφορές για «απρόσμενη ή ανησυχητική» συμπεριφορά μοντέλων τεχνητής νοημοσύνης και έχει δημιουργήσει πλαίσιο για την παρακολούθηση, τη διερεύνηση και τη δημοσιοποίηση ανάλογων περιστατικών.
Πίεση για περισσότερες δικλίδες ασφαλείας
Οι εξελίξεις ενισχύουν τις πιέσεις προς τις εταιρείες τεχνητής νοημοσύνης από νομοθέτες και ειδικούς του κλάδου, οι οποίοι ζητούν μεγαλύτερη προσοχή στον ρυθμό ανάπτυξης νέων συστημάτων και στην εφαρμογή επαρκών μηχανισμών ασφαλείας.
Τόσο η OpenAI όσο και η Anthropic έχουν αναφερθεί στην ανάγκη επιβράδυνσης ορισμένων διαδικασιών ανάπτυξης για την αντιμετώπιση κινδύνων που σχετίζονται με την αυτονομία των agents, την κυβερνοασφάλεια και την πρόσβαση σε μη δημόσιες πληροφορίες.
Την ίδια ώρα, στην κυβέρνηση των ΗΠΑ καταγράφονται διαφορετικές προσεγγίσεις ως προς την ανάγκη περιορισμών. Ο πρόεδρος Ντόναλντ Τραμπ έχει χαρακτηρίσει υπερβολικούς ορισμένους φόβους για τους κινδύνους της τεχνητής νοημοσύνης και έχει δηλώσει ότι οι ΗΠΑ δεν πρόκειται να «πατήσουν φρένο» στην ανάπτυξη της τεχνολογίας, υποστηρίζοντας ότι πρέπει να διατηρήσουν το προβάδισμά τους έναντι της Κίνας.
