Στο επίκεντρο μιας μεγάλης αντιπαράθεσης στις ΗΠΑ βρίσκεται η Anthropic, μία από τις ισχυρότερες εταιρείες τεχνητής νοημοσύνης στον κόσμο και δημιουργός του Claude, την ώρα που προετοιμάζεται να κάνει το μεγάλο βήμα προς το χρηματιστήριο.
Ο David Sacks, σύμβουλος του Ντόναλντ Τραμπ για θέματα τεχνολογίας και τεχνητής νοημοσύνης, ζήτησε να «παγώσει» η διαδικασία εισόδου της Anthropic στο χρηματιστήριο, μέχρι να διερευνηθούν οι σοβαρές προειδοποιήσεις που διατύπωσε πρώην ερευνητής της εταιρείας.
Πρόκειται για τον 27χρονο Jacob Coxon, ο οποίος παραιτήθηκε από την Anthropic εκφράζοντας έντονες ανησυχίες για την κούρσα ανάπτυξης ολοένα ισχυρότερων συστημάτων τεχνητής νοημοσύνης.
Και όλα αυτά συμβαίνουν ενώ η ίδια η Anthropic αποκάλυψε ότι έχει εντοπίσει και μπλοκάρει περιπτώσεις κατάχρησης του Claude σε έρευνα η οποία θα μπορούσε να υποστηρίξει την ανάπτυξη βιολογικών όπλων, καθώς και σε δραστηριότητες που σχετίζονται με κυβερνοεπιθέσεις και οπλικά συστήματα.
Η Anthropic προετοιμάζεται για την αρχική δημόσια προσφορά μετοχών της, γνωστή διεθνώς ως IPO (Initial Public Offering). Με απλά λόγια, πρόκειται για τη διαδικασία μέσω της οποίας μια ιδιωτική εταιρεία μπαίνει στο χρηματιστήριο και διαθέτει μετοχές της στο επενδυτικό κοινό. Η συγκεκριμένη κίνηση έχει τεράστια οικονομική σημασία, καθώς η Anthropic συγκαταλέγεται πλέον μεταξύ των σημαντικότερων εταιρειών της παγκόσμιας κούρσας για την τεχνητή νοημοσύνη.
David Sacks: Να «παγώσει» η χρηματιστηριακή εισαγωγή της Anthropic
Ο David Sacks παρενέβη δημόσια μετά τις δηλώσεις του Coxon, υποστηρίζοντας ότι η χρηματιστηριακή εισαγωγή της Anthropic δεν θα πρέπει να προχωρήσει μέχρι να διερευνηθούν οι ισχυρισμοί του πρώην ερευνητή της.
Η τοποθέτησή του δεν σημαίνει ότι η είσοδος της Anthropic στο χρηματιστήριο έχει πράγματι ανασταλεί.
Ο Sacks ζητά να σταματήσει προσωρινά η διαδικασία. Δεν πρόκειται για επίσημη απόφαση της αμερικανικής Επιτροπής Κεφαλαιαγοράς ή άλλης αρμόδιας αρχής.
Η διάκριση είναι σημαντική, καθώς διαφορετικά δημιουργείται η λανθασμένη εντύπωση ότι η αμερικανική κυβέρνηση έχει ήδη μπλοκάρει τη χρηματιστηριακή εισαγωγή της εταιρείας.
Ο 27χρονος ερευνητής που παραιτήθηκε με αιχμές
Στο επίκεντρο της υπόθεσης βρίσκεται ο Jacob Coxon, ένας 27χρονος ερευνητής τεχνητής νοημοσύνης που είχε εργαστεί τόσο στην Anthropic όσο και προηγουμένως στην OpenAI.
Ο Coxon ανακοίνωσε την αποχώρησή του από την Anthropic συνοδεύοντας την απόφασή του με σοβαρές προειδοποιήσεις για την κατεύθυνση που έχει πάρει η ανάπτυξη της AI.
Ο νεαρός ερευνητής εξέφρασε φόβους ότι οι κορυφαίες εταιρείες του κλάδου συμμετέχουν σε μία κούρσα για τη δημιουργία ολοένα ισχυρότερων συστημάτων, χωρίς να έχει προηγουμένως λυθεί το κρίσιμο ζήτημα του κατά πόσο αυτά τα συστήματα θα μπορούν να παραμείνουν υπό αποτελεσματικό ανθρώπινο έλεγχο.
Ιδιαίτερη έμφαση έδωσε στον κίνδυνο μελλοντικά συστήματα τεχνητής νοημοσύνης να μπορούν να συμβάλλουν στην ανάπτυξη ακόμη ισχυρότερων διαδόχων τους, επιταχύνοντας την εξέλιξη της τεχνολογίας με τρόπους που θα είναι δύσκολο να προβλεφθούν.
Η παραίτηση του Coxon προκάλεσε ακόμη μεγαλύτερη αίσθηση λόγω της χρονικής στιγμής. Ο 27χρονος αποχώρησε λίγο πριν κατοχυρωθεί μέρος της συμμετοχής του στην Anthropic, εγκαταλείποντας έτσι ένα δυνητικά σημαντικό οικονομικό όφελος.
Και αυτό συμβαίνει ενώ η εταιρεία βρίσκεται σε τροχιά χρηματιστηριακής εισαγωγής και η αξία της έχει αυξηθεί θεαματικά λόγω της παγκόσμιας έκρηξης των επενδύσεων στην τεχνητή νοημοσύνη.
Η αποκάλυψη της Anthropic για τα βιολογικά όπλα
Την ίδια στιγμή, μια νέα έκθεση της ίδιας της Anthropic έρχεται να δείξει ότι οι κίνδυνοι κατάχρησης της τεχνητής νοημοσύνης δεν αποτελούν αποκλειστικά ένα θεωρητικό σενάριο για το μέλλον.
Η εταιρεία ανακοίνωσε ότι εντόπισε πέντε περιπτώσεις στις οποίες επιστήμονες χρησιμοποίησαν μοντέλα της με τρόπους που θα μπορούσαν να υποστηρίξουν έρευνα σχετική με την ανάπτυξη βιολογικών όπλων.
Αυτό δεν σημαίνει ότι το Claude «κατασκεύασε βιολογικά όπλα». Σημαίνει ότι χρήστες προσπάθησαν να αξιοποιήσουν τις δυνατότητες της τεχνητής νοημοσύνης για επιστημονική έρευνα που, υπό συγκεκριμένες συνθήκες, θα μπορούσε να αποκτήσει επικίνδυνες εφαρμογές.
Η Anthropic αναφέρει ότι εντόπισε τις συγκεκριμένες δραστηριότητες, απέκλεισε λογαριασμούς και αξιοποίησε τα περιστατικά προκειμένου να ενισχύσει τα συστήματα ασφαλείας των μοντέλων της.
Η περίπτωση με τη γρίπη των πτηνών
Ανάμεσα στις περιπτώσεις που αποκάλυψε η εταιρεία βρίσκεται και η χρήση του Claude για τον σχεδιασμό πειραμάτων σχετικά με την προσαρμογή της γρίπης των πτηνών σε θηλαστικά.
Σύμφωνα με την Anthropic, ο συγκεκριμένος χρήστης είχε καταφέρει να αποκτήσει πρόσβαση στις υπηρεσίες της από περιοχή στην οποία η εταιρεία δεν τις διαθέτει επισήμως.
Όταν η δραστηριότητα εντοπίστηκε, οι σχετικοί λογαριασμοί αποκλείστηκαν.
Πρόκειται για ένα χαρακτηριστικό παράδειγμα του προβλήματος της λεγόμενης «διπλής χρήσης» της τεχνητής νοημοσύνης: η ίδια τεχνολογία μπορεί να χρησιμοποιηθεί για απολύτως νόμιμη και ωφέλιμη επιστημονική έρευνα, αλλά και να διευκολύνει επικίνδυνες εφαρμογές.
Από τη βιολογία μέχρι πυραύλους, drones και κυβερνοεπιθέσεις
Η έκθεση της Anthropic δεν περιορίζεται στη βιολογική έρευνα. Η εταιρεία ανέφερε επίσης ότι εντόπισε περιπτώσεις χρήσης του Claude σε δραστηριότητες που σχετίζονταν με πυραύλους, οπλισμένα drones, πυρομαχικά και συστήματα στόχευσης, καθώς και σε κυβερνοεπιθέσεις.
Οι αποκαλύψεις δείχνουν ένα από τα μεγαλύτερα προβλήματα που καλούνται πλέον να αντιμετωπίσουν οι εταιρείες τεχνητής νοημοσύνης: όσο τα μοντέλα γίνονται ικανότερα, τόσο αυξάνονται όχι μόνο οι χρήσιμες εφαρμογές τους αλλά και οι δυνατότητες κατάχρησής τους.
Με πληροφορίες από New York Times, reuters, daily mail
