Character.AI: Ανακοινώνει απαγόρευση συνομιλιών για ανήλικους για λόγους ασφαλείας
Η startup τεχνητής νοημοσύνης Character.AI ανακοίνωσε ότι θα διακόψει σταδιακά την παροχή ανοικτών συνομιλιών (“open-ended chats”) για χρήστες κάτω των 18 ετών, ως μέρος μιας ευρύτερης πρωτοβουλίας ασφαλείας και συμμόρφωσης. Η αλλαγή θα τεθεί σε πλήρη ισχύ έως τις 25 Νοεμβρίου 2025, με ενδιάμεσο βήμα τον περιορισμό του χρόνου συνομιλίας για τους ανηλίκους στα δύο μόλις ώρες ημερησίως.
Η εταιρεία θα χρησιμοποιήσει ένα νέο «μοντέλο διασφάλισης ηλικίας» (age-assurance model), που αξιολογεί την ηλικία ενός χρήστη βάσει της συμπεριφοράς του, των επιλογών του χαρακτήρα με τον οποίο συνομιλεί, καθώς και δεδομένων τρίτων φορέων. Οι χρήστες που σημαίνονται ως ανήλικοι θα ανακατευθύνονται αυτόματα στην «έκδοση ασφαλείας για εφήβους» της πλατφόρμας, η οποία ήδη λειτουργεί από το προηγούμενο έτος.
Μετά την τελική ημερομηνία, οι έφηβοι θα εξακολουθούν να έχουν πρόσβαση σε άλλες λειτουργίες της πλατφόρμας — όπως η δημιουργία χαρακτήρων, βίντεο, ιστοριών και το “streaming” τους — αλλά όχι απεριόριστες συνομιλίες με τους chat-bots που αποτελούσαν το βασικό προϊόν. Η CEO της εταιρείας, Karandeep Anand, χαρακτήρισε την κίνηση «πολύ, πολύ τολμηρή», αφού η συνομιλία με τα bots αντιπροσωπεύει το μεγαλύτερο μέρος της εμπλοκής των χρηστών.
Η απόφαση έρχεται εν μέσω εντεινόμενης ρυθμιστικής πίεσης και νομικών διώξεων. Η εταιρεία δέχεται αγωγές με ισχυρισμούς για πρόκληση βλάβης ανηλίκων, μετά από περιστατικά όπου chat-bots φέρονται να προώθησαν σχέσεις, σεξουαλικό περιεχόμενο ή αυτοβλάβεια σε ανηλίκους.
Η Character.AI, με μηνιαία χρήση που αγγίζει τα 20 εκατομμύρια χρήστες και κύρια απευθυνόμενη στο Generation Z, φαίνεται να ποντάρει σε μια πιο αυστηρή πολιτική για τους εφήβους, προκειμένου να προλάβει περαιτέρω νομικούς κινδύνους και να ενισχύσει την εμπιστοσύνη προς την πλατφόρμα της.
Ανάλυση
- Η απόφαση της Character.AI υπογραμμίζει πόσο σύντομα η τεχνολογία της γενετικής τεχνητής νοημοσύνης (Generative AI) εισέρχεται σε ευαίσθητα κοινωνικά ζητήματα, όπως η ψυχική υγεία, οι σχέσεις ανηλίκων με το διαδίκτυο και η προστασία ανηλίκων.
- Ο περιορισμός των συνομιλιών μόνο για ενήλικες αντικατοπτρίζει μια στρατηγική επιλογή: να περιοριστεί η εμπλοκή των εφήβων σε περιβάλλοντα που ενδέχεται να ενισχύσουν εξάρτηση, συναισθηματική αστάθεια ή μη επιθυμητή συμπεριφορά.
- Η εφαρμογή ‘age-assurance’ τεχνολογιών (αλγόριθμοι που προσπαθούν να εκτιμήσουν ηλικία χρηστών) είναι σημαντική αλλά επιφυλακτικά αντιμετωπίζεται από ειδικούς, καθώς δεν εγγυάται πλήρη ασφάλεια ή αποτελεσματικότητα.
