Μόλις μία ημέρα μετά την παραίτηση στελέχους της Anthropic, το οποίο αποχωρώντας εξαπέλυσε σοβαρές προειδοποιήσεις για τους κινδύνους που εγκυμονεί η ανεξέλεγκτη εξέλιξη της τεχνητής νοημοσύνης, νέα στοιχεία έρχονται να εντείνουν την ανησυχία γύρω από τη χρήση της AI. Σύμφωνα με τους New York Times, η Anthropic εντόπισε και μπλόκαρε αρκετές περιπτώσεις στις οποίες τα μοντέλα της χρησιμοποιήθηκαν για έρευνα που θα μπορούσε δυνητικά να συμβάλει στην ανάπτυξη βιολογικών όπλων.
Σύμφωνα με έκθεση της εταιρείας για την κακόβουλη ή καταχρηστική αξιοποίηση των μοντέλων τεχνητής νοημοσύνης της, επιστήμονες φέρονται να χρησιμοποίησαν τις πλατφόρμες της για έρευνα που δυνητικά θα μπορούσε να αξιοποιηθεί στην ανάπτυξη βιολογικών όπλων, όπως αναφέρουν οι New York Times.
Η Anthropic διευκρίνισε ότι δεν κατέστη δυνατό να εξακριβωθεί εάν η συγκεκριμένη δραστηριότητα είχε νόμιμο επιστημονικό σκοπό ή εάν πίσω από αυτήν υπήρχαν κακόβουλες προθέσεις. Η εταιρεία επισημαίνει ότι η βιολογική έρευνα έχει διττή φύση. Mπορεί να οδηγήσει σε σημαντικές επιστημονικές ανακαλύψεις, όπως η ανάπτυξη νέων εμβολίων, αλλά παρόμοιες γνώσεις και τεχνικές μπορούν δυνητικά να αξιοποιηθούν και για τη δημιουργία επικίνδυνων παθογόνων οργανισμών. Για τον λόγο αυτό, όπως αναφέρει, επέλεξε να κινηθεί προληπτικά και να περιορίσει τη συγκεκριμένη δραστηριότητα.
Από όπλα και drones μέχρι παρακολούθηση αντιφρονούντων
Η έκθεση, η οποία δημοσιοποιήθηκε την Πέμπτη, περιγράφει και άλλες περιπτώσεις κατάχρησης των συστημάτων της Anthropic, συμπεριλαμβανομένου του chatbot Claude, οι οποίες φέρεται να καταγράφηκαν κατά τους τελευταίους οκτώ μήνες.
Σύμφωνα με τα ευρήματα που παρουσιάζονται, χρήστες που συνδέονται με την Κίνα, τη Ρωσία και την Υεμένη επιχείρησαν να αξιοποιήσουν το Claude για την ανάπτυξη λογισμικού σχετικού με τον σχεδιασμό πυροβόλων όπλων, πυραύλων, οπλισμένων drones και εκρηκτικών μηχανισμών.
Παράλληλα, ύποπτοι φορείς που φέρονται να συνδέονται με τις κυβερνήσεις της Κίνας και του Ιράν εντοπίστηκαν, σύμφωνα με την ίδια έκθεση, να χρησιμοποιούν την τεχνολογία με στόχο την παρακολούθηση αντιφρονούντων και κοινοτήτων της διασποράς.
Αναφορές και για προπαγάνδα ενόψει εκλογών
Η Anthropic αναφέρει ακόμη ότι ρωσικά κρατικά μέσα ενημέρωσης αξιοποίησαν το Claude για την παραγωγή πολιτικού και εκλογικού προπαγανδιστικού περιεχομένου. Μεταξύ των περιπτώσεων που καταγράφηκαν ήταν, σύμφωνα με την έκθεση, η δημιουργία κατασκευασμένων ισχυρισμών σχετικά με τις βουλευτικές εκλογές στη Μολδαβία. Τα στοιχεία περιλαμβάνονται στη νεότερη αποτίμηση της Anthropic για τους τρόπους με τους οποίους κακόβουλοι ή κρατικά συνδεδεμένοι παράγοντες επιχειρούν να εκμεταλλευτούν προηγμένα συστήματα τεχνητής νοημοσύνης, αναδεικνύοντας παράλληλα τις δυσκολίες που αντιμετωπίζουν οι εταιρείες του κλάδου στο να διαχωρίζουν τη νόμιμη επιστημονική χρήση από δραστηριότητες που θα μπορούσαν να δημιουργήσουν σοβαρούς κινδύνους ασφαλείας.
Με πληροφορίες από Daily Mail, New York Times
