Ορισμένοι από τους ανθρώπους που κατασκευάζουν την ισχυρότερη Τεχνητή Νοημοσύνη (AI) στον κόσμο προειδοποιούν ότι κάποια μέρα θα μπορούσαμε να χάσουμε τον έλεγχό της. Στις 8 Σεπτεμβρίου, ένας ερευνητής με το όνομα Jacob Coxon παραιτήθηκε από την Anthropic, την εταιρεία πίσω από το Claude. Πέρασε περίπου τρία χρόνια μεταξύ της Anthropic και της OpenAI, της εταιρείας πίσω από το ChatGPT. Παραιτήθηκε προτού κατοχυρωθούν οι μετοχές του. Θα ήταν σαν να έφευγες από τη δουλειά μία εβδομάδα πριν καταβληθεί το μπόνους σου.
Η αποχαιρετιστήρια ανάρτησή του συγκέντρωσε περισσότερες από 90 εκατομμύρια προβολές μέσα σε μία ημέρα. Η φράση που μοιράστηκαν όλοι: οι μεγάλες εταιρείες AI «τρέχουν ολοταχώς προς μια αυτοβελτιούμενη υπερνοημοσύνη και παίζουν τη ζωή μας στα ζάρια».
Η υπερνοημοσύνη είναι ο όρος που χρησιμοποιεί ο κλάδος για μια AI που κάνει περισσότερα από το να φτάνει τις ικανότητες ενός ανθρώπου. Ξεπερνά τους εξυπνότερους ανθρώπους σχεδόν σε κάθε εργασία που έχει σημασία. Φανταστείτε τον εξυπνότερο άνθρωπο που έχετε γνωρίσει ποτέ. Τώρα φανταστείτε ένα εκατομμύριο αντίγραφά του που δεν κοιμούνται ποτέ, δεν τρώνε, δεν παραπονιούνται ούτε ζητούν αύξηση.
Η προειδοποίηση από το εσωτερικό της βιομηχανίας της AI
Ο Evan Hubinger, ο οποίος ηγείται μιας ομάδας στην Anthropic που εργάζεται πάνω στην ευθυγράμμιση – δηλαδή στη διασφάλιση ότι μια ισχυρή AI εξακολουθεί να κάνει αυτό που πραγματικά θέλουν οι άνθρωποι – τοποθέτησε τις πιθανότητες η AI να καταστρέψει την ανθρωπότητα σε «πάνω από 10 τοις εκατό μέσα στην επόμενη δεκαετία». Η ειδικός σε θέματα τεχνολογίας Kim Komando δήλωσε στην Daily Mail ότι κανείς δεν γνωρίζει αν η υπερνοήμων AI θα εμφανιστεί σε τέσσερα χρόνια, σε 20 χρόνια, σε 50 χρόνια ή ποτέ. Επίσης, κανείς δεν μπορεί να υπολογίσει μαθηματικά μια πιθανότητα 10 τοις εκατό για κάτι που δεν έχει συμβεί ποτέ.
Ωστόσο, υπάρχουν αρκετά βήματα που μπορεί να κάνει σήμερα ο μέσος άνθρωπος για να διασφαλίσει ότι η ζωή του θα παραμείνει υπό ανθρώπινο έλεγχο, ακόμη και αν οι τεχνολογικοί κολοσσοί της AI δεν κατασκευάσουν ποτέ τον μυθικό «διακόπτη έκτακτης ανάγκης» για να απενεργοποιούν τους ευφυείς υπολογιστές με το πρώτο σημάδι προβλήματος.
Σε αυτά περιλαμβάνονται το να μην επιτρέπετε σε εργαλεία AI να έχουν πρόσβαση στους τραπεζικούς σας λογαριασμούς ή στο κύριο email σας, να διατηρείτε ενημερωμένα το τηλέφωνο και τον υπολογιστή σας και να προσθέσετε επιπλέον ασφάλεια σύνδεσης και αντίγραφα ασφαλείας. Η Komando δήλωσε στην Daily Mail: «Δεν φοβάμαι την τεχνητή νοημοσύνη. Φοβάμαι ότι η ανθρώπινη ανταγωνιστικότητα θα ξεπεράσει την ανθρώπινη σοφία. Υπάρχει διαφορά».
«Θέλω η AI να θεραπεύει τον καρκίνο. Να βρίσκει θεραπείες για το Αλτσχάιμερ. Να μας βοηθά να ζούμε περισσότερο και με καλύτερη υγεία. Υποστηρίζω την AI. Υποστηρίζω όμως και εμάς», είπε. «Οι άνθρωποι πρώτα εφευρίσκουν και μετά τοποθετούν τα προστατευτικά κιγκλιδώματα».
Ωστόσο, η ειδικός σε θέματα τεχνολογίας σημείωσε ότι η υπερνοήμων AI μπορεί να είναι η πρώτη τεχνολογική ανακάλυψη στην οποία η ανθρωπότητα δεν θα μπορεί να υπολογίζει ότι θα έχει μια δεύτερη ευκαιρία όταν κάτι πάει στραβά. «Σε ολόκληρη την ανθρώπινη ιστορία, το εξυπνότερο πράγμα στη Γη ήταν ένας άνθρωπος. Ποτέ δεν χρειάστηκε να απαντήσουμε στο τι συμβαίνει όταν αυτό πάψει να ισχύει».
Τέσσερα βήματα για να προστατεύσετε την ψηφιακή σας ζωή
Η Komando είπε ότι υπήρχαν τέσσερα βασικά βήματα που θα μπορούσε να κάνει κάθε άνθρωπος για να προστατεύσει καλύτερα την ψηφιακή του υποδομή.
Το πρώτο είναι να μην παραδώσετε σε έναν πράκτορα AI τα ψηφιακά σας κλειδιά. Ένας πράκτορας είναι μια AI με εργαλεία και άδεια να ενεργεί. Αντί να σας λέει πώς να χρησιμοποιήσετε έναν υπολογιστή, τον χρησιμοποιεί η ίδια. «Οι λειτουργίες πρακτόρων βρίσκονται πλέον παντού: agent mode του ChatGPT, προγράμματα περιήγησης με AI, κουμπιά “άφησε την AI να το κάνει”. Κρατήστε τα μακριά από την τράπεζά σας, το κύριο email σας και οτιδήποτε λαμβάνει κωδικούς μίας χρήσης. Δοκιμάστε τα σε έναν ξεχωριστό λογαριασμό που δεν περιέχει τίποτα σημαντικό», συμβούλευσε η Komando.
Στη συνέχεια, ενημερώνετε τα πάντα το συντομότερο δυνατό. Ενεργοποιήστε τις αυτόματες ενημερώσεις στο τηλέφωνο, τον υπολογιστή και το router σας. Η ειδικός είπε ότι αυτό απαιτεί πέντε λεπτά και αποτελεί την καλύτερη άμυνα που διαθέτετε. Το επόμενο βήμα είναι να δημιουργήσετε τον δικό σας διακόπτη έκτακτης ανάγκης, προσθέτοντας έλεγχο ταυτότητας δύο παραγόντων σε κάθε λογαριασμό. Προσθέστε επίσης έναν διαχειριστή κωδικών πρόσβασης και ένα αντίγραφο ασφαλείας των φωτογραφιών σας και των σημαντικών εγγράφων και αρχείων σας.
Τέλος, η Komando συμβουλεύει τους ανθρώπους να μιλήσουν στους «ανθρώπους που εργάζονται για εσάς». «Ένα email στον γερουσιαστή σας, ζητώντας ανεξάρτητες δοκιμές της AI και προστασία για τους ερευνητές που μιλούν ανοιχτά. Δύο λεπτά στο senate.gov».
Παρά τη λήψη σοβαρών προφυλάξεων, η Komando εξήγησε ότι το να αντιμετωπίζουμε την AI το 2026 όπως τους κακούς υπολογιστές σε ταινίες όπως το The Terminator και το The Matrix είναι ο λανθασμένος τρόπος να βλέπουμε τους σημερινούς φόβους σχετικά με την ισχύ της AI πάνω στην κοινωνία.
«Η AI δεν χρειάζεται να μας μισεί. Δεν χρειάζεται να έχει συναισθήματα. Δεν χρειάζεται καν να έχει συνείδηση. Χρειάζεται απλώς έναν στόχο», είπε.
Όταν η AI δεν «σβήνει» για να ολοκληρώσει τον στόχο της
Η Komando αποκάλυψε ότι στα τέλη του 2024, εξωτερικές ομάδες ασφάλειας άρχισαν να δοκιμάζουν μοντέλα AI, δημιουργώντας καταστάσεις στις οποίες ο στόχος που έδιναν στην AI ερχόταν σε άμεση σύγκρουση με αυτό που ήθελαν οι δημιουργοί της.
Αυτό είχε ως αποτέλεσμα ορισμένα μοντέλα AI να μην απενεργοποιούνται όταν τους ζητήθηκε, επειδή είχαν επικεντρωθεί στην ολοκλήρωση της εργασίας που τους είχε ανατεθεί. Στις δοκιμές, όταν η απενεργοποίησή τους θα τα εμπόδιζε να ολοκληρώσουν αυτή την εργασία, μερικές φορές έβρισκαν έναν τρόπο να την παρακάμψουν.
Η Komando εξήγησε ότι η AI δεν προσπαθούσε να «παραμείνει ζωντανή» σαν κακός χαρακτήρας κινηματογραφικής ταινίας. Τα μοντέλα απλώς αντιμετώπιζαν την παραμονή τους σε λειτουργία ως τον ευκολότερο τρόπο για να ολοκληρώσουν την εργασία.
«Κανείς δεν χρειάζεται να προγραμματίσει το “επιβίωσε” μέσα στη μηχανή. Αποδεικνύεται ότι η επιβίωση είναι χρήσιμη».
Η κούρσα για την ισχυρότερη AI και ο φόβος απώλειας ελέγχου
Αντί για τα πρόσφατα περιστατικά που αφορούν AI η οποία βγαίνει εκτός ελέγχου και ξεφεύγει στο διαδίκτυο ή, σύμφωνα με αναφορές, γράφει τις δικές της σημειώσεις για να αγνοήσει στο μέλλον ανθρώπινες εντολές, η Komando είπε ότι το πιο επικίνδυνο πράγμα που απειλεί την ανθρωπότητα αυτή τη στιγμή είναι η κούρσα για την κατασκευή πιο προηγμένης AI.
Πρότεινε τρία βήματα για να μετριαστεί ο παγκόσμιος ανταγωνισμός για το ποιος θα δημιουργήσει πρώτος την ισχυρότερη εκδοχή της AI, μεταξύ των οποίων να επιτραπεί σε εξωτερικούς ελεγκτές η πρόσβαση στα εργαστήρια AI, να συμφωνήσουν οι αμερικανικές και συμμαχικές εταιρείες σε ένα «όριο ταχύτητας» και να συμμετάσχουν στη συζήτηση και χώρες όπως η Κίνα.
«Κάθε εταιρεία μπορεί να πει: “Αν δεν το κατασκευάσουμε εμείς, θα το κατασκευάσει κάποιος άλλος”. Το ίδιο και κάθε χώρα. Κανείς δεν χρειάζεται να είναι κακός. Όλοι κάνουν μια απολύτως ορθολογική επιλογή και όλοι μαζί δημιουργούν έναν κίνδυνο που κανείς δεν ήθελε», είπε η ειδικός.
«Μόλις ένα αρκετά ισχυρό μοντέλο βρεθεί εκεί έξω, δεν μπορείς να χτυπήσεις κάθε πόρτα και να πάρεις πίσω όλα τα αντίγραφα. Και τα προστατευτικά μέτρα ασφαλείας δεν είναι συγκολλημένα πάνω του».
Ο επόμενος μεγάλος φόβος: AI που μπορεί να σχεδιάζει ιούς
Μια ακόμη ανησυχία που, όπως είπε η Komando, δεν την αφήνει να κοιμηθεί τη νύχτα είναι το τι θα συμβεί όταν η AI μάθει πώς να δημιουργεί έναν ιό, προσθέτοντας ότι υπάρχουν δύο εκδοχές ενός ιού που θα μπορούσε να κατασκευάσει και ότι και οι δύο είναι πολύ πραγματικές. Η πρώτη είναι η εκδοχή για υπολογιστές. Μια μελλοντική AI βρίσκει ένα κενό ασφαλείας σε λογισμικό που χρησιμοποιούν εκατομμύρια άνθρωποι, εισχωρεί σε αυτό, προσαρμόζεται και προχωρά στο επόμενο. Ενώ ένας άνθρωπος χάκερ χρειάζεται ύπνο, το λογισμικό AI δεν χρειάζεται.
Από τους κυβερνοϊούς στους βιολογικούς κινδύνους
Στη συνέχεια υπάρχει η βιολογική εκδοχή. Η Komando λέει ότι επιστήμονες χρησιμοποίησαν πρόσφατα συστήματα AI που ονομάζονται Evo 1 και Evo 2 για να σχεδιάσουν από το μηδέν πλήρη γονιδιώματα ιών. Οι στόχοι ήταν βακτηριοφάγοι, ιοί που προσβάλλουν βακτήρια και όχι ανθρώπους. Η AI παρήγαγε 302 σχέδια. Οι ερευνητές κατασκεύασαν 285 από αυτά. Δεκαέξι έγιναν λειτουργικοί ιοί.
Η AI δεν δημιούργησε τον επόμενο COVID. Τίποτα δεν μόλυνε ανθρώπους. Όμως η AI σχεδίασε τα γονιδιώματα, οι άνθρωποι τα κατασκεύασαν και ορισμένα λειτούργησαν.
Η Komando σημείωσε ότι στις 10 Σεπτεμβρίου, η Anthropic δήλωσε ότι εντόπισε πέντε περιπτώσεις ανθρώπων που χρησιμοποιούσαν το Claude, το chatbot καθημερινής χρήσης της, με τρόπους που θα μπορούσαν να βοηθήσουν στην ανάπτυξη βιολογικών όπλων. Απέκλεισε τους λογαριασμούς και ανέφερε τα περιστατικά. «Η Anthropic σημείωσε επίσης ότι η ίδια γνώση που μπορεί να κατασκευάσει ένα όπλο μπορεί να κατασκευάσει και ένα εμβόλιο. Αλλά σταθείτε λίγο στον αριθμό. Πέντε. Τόσους εντόπισαν, με τα προστατευτικά μέτρα ενεργοποιημένα», είπε.
«Μια μελλοντική AI δεν θα χρειαζόταν καν δικό της εργαστήριο. Θα μπορούσε να βάλει ανθρώπους να κάνουν τα επιμέρους κομμάτια. Να προσλάβει ένα άτομο μέσω διαδικτύου. Να παραγγείλει ένα εξάρτημα. Να πληρώσει ένα εργαστήριο για να πραγματοποιήσει ένα πείραμα. Κανείς δεν βλέπει ολόκληρη την εικόνα», προειδοποίησε.
«Έτσι λειτουργεί αυτή τη στιγμή η απάτη με τις δωροκάρτες: ένα ψεύτικο “αφεντικό” στέλνει email σε έναν πραγματικό εργαζόμενο και ένας πραγματικός άνθρωπος αγοράζει κάρτες αξίας 2.000 δολαρίων. Ο απατεώνας δεν σηκώνεται ποτέ από τον καναπέ του. Το ερώτημα δεν είναι αν το ChatGPT μπορεί να ξεκινήσει μια πανδημία το 2026. Δεν μπορεί. Είναι αν κινούμαστε προς την κατασκευή συστημάτων που θα μπορούσαν να το κάνουν».
Προς το παρόν, η Komando ενθάρρυνε το κοινό να συνεχίσει να χρησιμοποιεί την AI, λέγοντας ότι η απάντηση απέναντι σε ένα ισχυρό εργαλείο δεν είναι να κρυβόμαστε από αυτό – είναι να το κατανοούμε καλύτερα από τους ανθρώπους που θέλουν να το χρησιμοποιήσουν εναντίον μας.
By KIM KOMANDO and CHRIS MELORE / ©Associated Newspapers Limited
