Ο Τζέφρι Χίντον (Geoffrey Hinton), ένας από τους τρεις θρυλικούς επιστήμονες υπολογιστών που έχουν γίνει γνωστοί ως οι νονοί της τεχνητής νοημοσύνης (Artificial Intelligence), προειδοποιεί άλλη μια φορά ότι η ταχέως αναπτυσσόμενη και ελαφρώς ρυθμιζόμενη βιομηχανία τεχνητής νοημοσύνης αποτελεί απειλή για την ανθρωπότητα. Ο Χίντον είπε ότι οι άνθρωποι δεν καταλαβαίνουν τι έρχεται και πως υπάρχει 10 έως 20 τοις εκατό πιθανότητα η τεχνητή νοημοσύνη τελικά να αφαιρέσει τον έλεγχο από τους ανθρώπους.
Ήταν οι ιδέες του Χίντον που δημιούργησαν τα τεχνικά θεμέλια που καθιστούν δυνατή τη δημιουργία μοντέλων μεγάλης κλίμακας, όπως το ChatGPT, συμπεριλαμβανομένου του πρώτου πρακτικού τρόπου εκπαίδευσης βαθιών στοιβών (deep stacks) τεχνητών νευρώνων από άκρο σε άκρο.
Μιλώντας σε συνέντευξη που έδωσε νωρίτερα αυτόν τον μήνα, η οποία μεταδόθηκε στο CBS το περασμένο Σάββατο το πρωί, ο Χίντον, ο οποίος κέρδισε από κοινού το βραβείο Νόμπελ Φυσικής πέρυσι, εξέδωσε μια προειδοποίηση σχετικά με την κατεύθυνση στην οποία οδεύει η ανάπτυξη της τεχνητής νοημοσύνης.
«Ο καλύτερος τρόπος για να το καταλάβουμε συναισθηματικά είναι να είμαστε σαν κάποιον που έχει αυτό το πολύ χαριτωμένο τιγράκι», είπε ο Χίντον. «Εκτός αν μπορείς να είσαι απόλυτα σίγουρος ότι δεν θα θέλει να σε σκοτώσει όταν μεγαλώσει, θα πρέπει να ανησυχείς». . . «Ο κόσμος δεν το έχει καταλάβει ακόμα, ο κόσμος δεν έχει καταλάβει τι έρχεται», προειδοποίησε.
Παρά τη συμβολή του στην τεχνολογία, ο Χίντον προειδοποιεί εδώ και καιρό για το τι θα μπορούσε να συμβεί εάν η ανάπτυξη της τεχνητής νοημοσύνης συνεχιστεί με ταχύτητα και χωρίς διασφαλίσεις. Έφυγε από την Google το 2023, ώστε να μπορεί να μιλάει για τους κινδύνους της χωρίς να επηρεάζει την εταιρεία στην οποία εργαζόταν. «Δείτε πώς ήταν πριν από πέντε χρόνια και πώς είναι τώρα», είπε ο Χίντον για την κατάσταση της τεχνητής νοημοσύνης εκείνη την εποχή. «Πάρτε τη διαφορά και διαδώστε τη προς τα εμπρός. Αυτό είναι τρομακτικό», πρόσθεσε.
Ο καθηγητής έχει επίσης επανειλημμένως εκφράσει ανησυχίες ότι η τεχνητή νοημοσύνη θα μπορούσε να προκαλέσει ένα συμβάν επιπέδου εξαφάνισης, ειδικά καθώς η τεχνολογία βρίσκει ολοένα και περισσότερο τον δρόμο της σε στρατιωτικά όπλα και οχήματα. Ο Χίντον είπε ότι ο κίνδυνος είναι οι εταιρείες τεχνολογίας να αποφεύγουν την ασφάλεια υπέρ τού να ξεπερνούν τους ανταγωνιστές στην αγορά και να φτάνουν σε τεχνολογικά ορόσημα.
«Βρίσκομαι στη δυσάρεστη θέση να συμφωνώ με τον Έλον Μασκ σε αυτό, ότι δηλαδή υπάρχει 10 έως 20 τοις εκατό πιθανότητα αυτά τα πράγματα να κυριαρχήσουν, αλλά αυτή είναι απλώς μια αβάσιμη εικασία», είπε ο Χίντον.
Ενώ πλέον περνάει περισσότερο χρόνο μαχόμενος την τεχνητή νοημοσύνη στα δικαστήρια και προωθώντας το δικό του Grok ως chatbot, ο Mασκ μιλούσε συχνά για την υπαρξιακή απειλή που αυτή θέτει.
Ο Χίντον επανέλαβε τις ανησυχίες του σχετικά με το γεγονός ότι οι εταιρείες τεχνητής νοημοσύνης δίνουν προτεραιότητα στα κέρδη έναντι της ασφάλειας. «Αν κοιτάξετε τι κάνουν οι μεγάλες εταιρείες αυτή τη στιγμή – ασκούν πιέσεις για να επιτύχουν λιγότερη ρύθμιση για την τεχνητή νοημοσύνη. Δεν υπάρχει σχεδόν καθόλου ρύθμιση αυτή τη στιγμή, αλλά θέλουν λιγότερη», είπε.
Ο Χίντον πιστεύει ότι οι εταιρείες θα πρέπει να αφιερώσουν πολύ περισσότερο από τη διαθέσιμη υπολογιστική ισχύ τους, περίπου το ένα τρίτο, στην έρευνα για την ασφάλεια, αντί για το ελάχιστο κλάσμα που διατίθεται σήμερα.
Ο ίδιος είναι επίσης ιδιαίτερα απογοητευμένος από την Google, που αθέτησε τον λόγο της να μην επιτρέψει ποτέ τη χρήση της τεχνητής νοημοσύνης για στρατιωτικές εφαρμογές. Η εταιρεία, η οποία δεν χρησιμοποιεί πλέον το σύνθημα «Μην είσαι κακός», έκανε αλλαγές στην πολιτική της για την τεχνητή νοημοσύνη νωρίτερα φέτος, ανοίγοντας τον δρόμο για τη χρήση της τεχνολογίας της σε στρατιωτικά όπλα.
Ο νονός της τεχνητής νοημοσύνης δεν είναι κατά της. Όπως και ο Μπιλ Γκέιτς, πιστεύει ότι η τεχνολογία θα μπορούσε να μεταμορφώσει την εκπαίδευση, την ιατρική, την επιστήμη και ενδεχομένως να λύσει το πρόβλημα της κλιματικής αλλαγής – δηλαδή της κρίσης που οφείλεται στην ασυδοσία του χυδαίου καπιταλισμού, για να ξέρουμε τι λέμε.
Την ποικιλία της επιστημονικής τριάδας σφραγίζει ο καθηγητής Γιαν Λεκάν (Yann LeCun), ο τρίτος από τους τρεις νονούς της τεχνητής νοημοσύνης, ο οποίος ανησυχεί λιγότερο για την ταχεία ανάπτυξή της, έχοντας δηλώσει ήδη από το 2023 ότι η υποτιθέμενη απειλή για την ανθρωπότητα είναι «απαράδεκτα γελοία». Κάποιοι πάντως θα έλεγαν ότι το θέμα μάλλον είναι απαράδεκτα εφιαλτικό.
Πηγή: techspot.com | Σύνταξη: Ρομπ Θάμπρον (Rob Thubron)
https://www.techspot.com/news/107706-godfather-ai-geoffrey-hinton-warns-there-10-20.html
Εφημερίδα Απογευματινή
