Η OpenAI ενισχύει τις δικλίδες ασφαλείας για τους ανήλικους χρήστες του ChatGPT, με στόχο η τεχνητή νοημοσύνη να λειτουργεί περισσότερο ως εργαλείο μάθησης και υποστήριξης και λιγότερο ως «έτοιμη λύση» για τις σχολικές εργασίες.
Η νέα εμπειρία για εφήβους βασίζεται σε ήδη υπάρχουσες λειτουργίες, όπως το Study Mode, αλλά προσθέτει ηλικιακές δικλίδες, περιορισμούς σε ευαίσθητο περιεχόμενο και εργαλεία γονικού ελέγχου.
Όχι πλέον απλώς «λυσάρι» για τις σχολικές εργασίες
Στόχος είναι το ChatGPT να βοηθά τον μαθητή να κατανοεί τη διαδικασία και όχι απλώς να παραδίδει την τελική απάντηση. Για παράδειγμα, μπορεί να εξηγήσει βήμα προς βήμα τη λύση μιας εξίσωσης ή να βοηθήσει στη διαμόρφωση μιας βασικής θέσης για μια έκθεση, αντί να γράψει ολόκληρη την εργασία.
Το Study Mode έχει σχεδιαστεί ακριβώς προς αυτή την κατεύθυνση, ενθαρρύνοντας την ενεργή συμμετοχή του μαθητή στη διαδικασία μάθησης.
Παράλληλα, οι έφηβοι μπορούν να χρησιμοποιούν το ChatGPT για δημιουργία κουίζ και επανάληψη της ύλης, ώστε να ελέγχουν αν έχουν πραγματικά κατανοήσει ένα αντικείμενο.
Το ChatGPT θα προσπαθεί να καταλάβει την ηλικία του χρήστη
Μία από τις σημαντικότερες αλλαγές αφορά την πρόβλεψη ηλικίας. Η OpenAI χρησιμοποιεί σύστημα που εξετάζει διαφορετικά σήματα σχετικά με τον τρόπο χρήσης ενός λογαριασμού, όπως τα γενικά θέματα των συνομιλιών, τις ώρες χρήσης, τον τρόπο και τη διάρκεια χρήσης του λογαριασμού.
Εφόσον το σύστημα εκτιμήσει ότι ένας χρήστης πιθανότατα είναι κάτω των 18 ετών, μπορεί να εφαρμοστεί αυτόματα η teen experience, ακόμη και αν έχει δηλωθεί διαφορετική ημερομηνία γέννησης κατά τη δημιουργία του λογαριασμού.
Η πρόβλεψη ηλικίας βρίσκεται σε σταδιακή παγκόσμια διάθεση. Για την Ευρωπαϊκή Ένωση, η OpenAI αναφέρει ότι η ανάπτυξη της λειτουργίας θα γίνει λαμβάνοντας υπόψη τις περιφερειακές απαιτήσεις.
Περισσότερα «φρένα» σε ευαίσθητο περιεχόμενο
Στους λογαριασμούς που εντάσσονται στην εμπειρία για εφήβους εφαρμόζονται πρόσθετες προστασίες. Μεταξύ άλλων, το ChatGPT περιορίζει ή αντιμετωπίζει με μεγαλύτερη προσοχή περιεχόμενο που αφορά γραφική βία, επικίνδυνες διαδικτυακές προκλήσεις, σεξουαλικό ή βίαιο roleplay, ακραία πρότυπα ομορφιάς, ανθυγιεινές δίαιτες και body shaming.
Η OpenAI επισημαίνει πάντως ότι κανένα σύστημα ασφαλείας δεν είναι αλάνθαστο, ενώ συνεχίζει να βελτιώνει τις δικλίδες απέναντι στις προσπάθειες παράκαμψής τους.
Τι μπορούν να κάνουν οι γονείς
Οι γονείς μπορούν να συνδέσουν τον δικό τους λογαριασμό με τον λογαριασμό του εφήβου μέσω των γονικών ελέγχων. Με αυτόν τον τρόπο μπορούν να διαχειρίζονται επιλεγμένες ρυθμίσεις, να ορίζουν ώρες κατά τις οποίες το ChatGPT δεν θα μπορεί να χρησιμοποιείται και να λαμβάνουν ειδοποιήσεις ασφαλείας σε περιορισμένες περιπτώσεις.
Μπορούν επίσης, ανάλογα με τις διαθέσιμες ρυθμίσεις, να περιορίσουν λειτουργίες όπως η μνήμη, η φωνητική λειτουργία ή η δημιουργία εικόνων, καθώς και να επιλέξουν αν οι συνομιλίες του εφήβου θα χρησιμοποιούνται για τη βελτίωση των μοντέλων.
Σημαντικό: οι γονικοί έλεγχοι δεν δίνουν στους γονείς πρόσβαση στις συνομιλίες του παιδιού τους. Οι γονείς μπορούν να διαχειρίζονται συγκεκριμένες ρυθμίσεις, αλλά δεν μπορούν να διαβάζουν το ιστορικό συνομιλιών του εφήβου.
Αυτόματες παρεμβάσεις όταν χρειάζεται
Ένα ακόμη στοιχείο των νέων προστασιών αφορά την ψυχική ασφάλεια των εφήβων. Το σύστημα έχει σχεδιαστεί ώστε να αναγνωρίζει ενδείξεις ότι ένας έφηβος ενδέχεται να βρίσκεται σε κατάσταση έντονης ψυχολογικής δυσφορίας και, σε περιορισμένες περιπτώσεις, να ενεργοποιεί ειδοποιήσεις προς τον συνδεδεμένο γονέα ή κηδεμόνα.
Παράλληλα, η OpenAI έχει αναπτύξει ειδικές προσεγγίσεις για τις αλληλεπιδράσεις με ανηλίκους, με στόχο να μειωθεί ο κίνδυνος συναισθηματικής εξάρτησης από το chatbot.
Το ChatGPT δεν είναι άνθρωπος
Μέρος της φιλοσοφίας των νέων προστασιών είναι να αποφεύγεται η δημιουργία της εντύπωσης ότι το chatbot αποτελεί πρόσωπο με πραγματικά συναισθήματα, ανάγκες ή συνείδηση.
Για τους γονείς, αυτό αποτελεί ίσως ένα από τα σημαντικότερα σημεία: η χρήση της τεχνητής νοημοσύνης από έναν έφηβο χρειάζεται να συνοδεύεται από ψηφιακό γραμματισμό και κριτική σκέψη. Το ChatGPT μπορεί να αποτελέσει ένα ιδιαίτερα χρήσιμο εκπαιδευτικό εργαλείο, αλλά δεν αντικαθιστά τον εκπαιδευτικό, τον γονέα ή την ανθρώπινη σχέση.
