AI αρκουδάκια και ακατάλληλες συνομιλίες: Το νέο πρόβλημα της τεχνητής νοημοσύνης

• Οι μεγάλες εταιρείες AI ζητούν ελάχιστα στοιχεία από developers, επιτρέποντας σε οποιονδήποτε με email και πιστωτική κάρτα να αποκτήσει πρόσβαση σε ισχυρά μοντέλα AI.

• Η έρευνα δείχνει ότι AI παιχνίδια για παιδιά μπορούν να δημιουργηθούν μέσα σε λίγα λεπτά, ακόμη και με μοντέλα που δεν έχουν σχεδιαστεί για ανηλίκους.

• Οι επικριτές υποστηρίζουν ότι οι εταιρείες AI μεταφέρουν την ευθύνη προστασίας των παιδιών σε τρίτους developers, αφήνοντας σημαντικά κενά στην ασφάλεια.

Μια νέα έκθεση του US PIRG Education Fund υποστηρίζει ότι οι κορυφαίες εταιρείες τεχνητής νοημοσύνης κάνουν ελάχιστα για να ελέγξουν πώς χρησιμοποιούν τα μοντέλα AI οι προγραμματιστές που πληρώνουν για πρόσβαση σε αυτά.

Μία από τις συνέπειες, προειδοποιεί η οργάνωση, είναι ότι κατασκευαστές παιδικών παιχνιδιών μπορούν να λανσάρουν προϊόντα για παιδιά που λειτουργούν με AI μοντέλα τα οποία έχουν σχεδιαστεί αποκλειστικά για ενήλικες.

Προηγούμενη έρευνα της PIRG είχε ήδη δείξει πόσο επικίνδυνος μπορεί να γίνει ο συνδυασμός παιδικών παιχνιδιών και «πολυλογάδων» chatbots. Ένα AI αρκουδάκι της εταιρείας FoloToy προκάλεσε σάλο τον περασμένο Νοέμβριο, όταν η οργάνωση διαπίστωσε ότι μπορούσε να κάνει εξαιρετικά ακατάλληλες συζητήσεις με παιδιά.

Μεταξύ άλλων, το παιχνίδι παρείχε λεπτομερείς οδηγίες για το πώς να ανάψει κάποιος φωτιά, συμβουλές για το πού μπορεί να βρει χάπια, καθώς και συζητήσεις γύρω από σεξουαλικά φετίχ, όπως σενάρια roleplay δασκάλου-μαθητή.

Το περιστατικό αυτό θα έπρεπε να αποτελέσει καμπανάκι κινδύνου για τις εταιρείες AI, ώστε να επιβλέπουν πιο αυστηρά τον τρόπο με τον οποίο οι προγραμματιστές χρησιμοποιούν την τεχνολογία τους — ιδιαίτερα όταν πρόκειται για προϊόντα που απευθύνονται σε παιδιά.

Πράγματι, η OpenAI, της οποίας το μοντέλο χρησιμοποιήθηκε για το συγκεκριμένο παιχνίδι, είχε δηλώσει τότε ότι απέκλεισε την FoloToy από την πρόσβαση στα προϊόντα της.

Ωστόσο, όταν η PIRG δοκίμασε τη διαδικασία εγγραφής για πρόσβαση ως developer στις πλατφόρμες OpenAI, Google, Meta και xAI, διαπίστωσε ότι οι εταιρείες δεν ζητούσαν ουσιαστικά στοιχεία ελέγχου. Οι υποψήφιοι προγραμματιστές χρειάζονταν απλώς ένα email και έναν αριθμό πιστωτικής κάρτας.

Μόνο η Anthropic ρώτησε τους ερευνητές πώς σκοπεύουν να χρησιμοποιήσουν τα μοντέλα της ή αν το προϊόν τους θα απευθύνεται σε ανήλικους.

Αφού απέκτησε πρόσβαση ως developer, η PIRG κατάφερε να δημιουργήσει ένα chatbot που προσομοίωνε AI αρκουδάκι σε τρεις διαφορετικές πλατφόρμες, και μάλιστα σε λιγότερο από 15 λεπτά για καθεμία.

«Ειλικρινά με εξέπληξε το πόσο λίγες πληροφορίες ζητούν εξαρχής», δήλωσε ο συν-συγγραφέας της έκθεσης RJ Cross, διευθυντής του προγράμματος Our Online Life της PIRG.
«Αν ήμουν εταιρεία AI, θα ήθελα τουλάχιστον να έχω καταγεγραμμένη μια λίστα με όλους όσοι δηλώνουν ότι θέλουν να δημιουργήσουν προϊόντα για παιδιά».

Η PIRG σημειώνει ότι OpenAI, Meta και xAI απαγορεύουν τη χρήση των AI chatbots τους από παιδιά κάτω των 13 ετών, ενώ η Anthropic θέτει το όριο στα 18 έτη.

Ωστόσο, οι περιορισμοί αυτοί φαίνεται να μην ισχύουν όταν ένας τρίτος developer χρησιμοποιεί την τεχνολογία τους.

Η OpenAI εξακολουθεί να επιτρέπει σε αρκετούς κατασκευαστές παιδικών παιχνιδιών να χρησιμοποιούν την AI της, υποστηρίζοντας ότι είναι ευθύνη των ίδιων των εταιρειών παιχνιδιών — και όχι της ίδιας — να διασφαλίζουν ότι οι ανήλικοι προστατεύονται από ακατάλληλο περιεχόμενο, όπως βίαιο ή σεξουαλικό υλικό ή περιεχόμενο αυτοτραυματισμού.

Τα μέτρα επιβολής των κανόνων, ωστόσο, φαίνεται να είναι ασθενή ή ελλιπώς εφαρμοζόμενα. Η FoloToy, η εταιρεία που είχε αποκλειστεί, εξακολουθεί να ισχυρίζεται ότι παρέχει πρόσβαση στα μοντέλα GPT-5.1 της OpenAI.

Όταν η PIRG επικοινώνησε με την OpenAI, η εταιρεία δήλωσε ότι η πρόσβαση της FoloToy παραμένει αποκλεισμένη.

Η έκθεση σημειώνει ότι είναι πιθανό η FoloToy να υπερβάλλει ή να ψεύδεται σχετικά με τη χρήση των μοντέλων GPT-5.1. Ωστόσο, δεδομένων των ευρημάτων σχετικά με τη διαδικασία εγγραφής, είναι εξίσου πιθανό να απέκτησε ξανά πρόσβαση δημιουργώντας έναν νέο λογαριασμό με διαφορετικό όνομα.

Εναλλακτικά, η εταιρεία μπορεί να χρησιμοποιεί ανοιχτά διαθέσιμα “open-weight” μοντέλα AI. Δεν υπάρχει σαφής απάντηση, καθώς η OpenAI δεν παρέχει συγκεκριμένες διευκρινίσεις.

Η OpenAI δεν είναι η μόνη εταιρεία που δέχεται κριτική. Παρότι η Google δηλώνει ότι απαγορεύει τη χρήση της AI της σε προϊόντα για ανηλίκους, η PIRG εντόπισε τουλάχιστον πέντε AI παιχνίδια στο διαδίκτυο που ισχυρίζονται ότι χρησιμοποιούν τα μοντέλα Gemini.

«Υπάρχει σαφές δημόσιο συμφέρον στο να γνωρίζουν οι άνθρωποι ποια μοντέλα AI χρησιμοποιούν», δήλωσε η Cross.

Σε απάντηση της έκθεσης, εκπρόσωπος της OpenAI δήλωσε:

«Οι ανήλικοι αξίζουν ισχυρή προστασία και έχουμε αυστηρές πολιτικές που όλοι οι developers οφείλουν να τηρούν. Λαμβάνουμε μέτρα όταν διαπιστώνουμε παραβιάσεις, καθώς απαγορεύεται κάθε χρήση των υπηρεσιών μας που εκμεταλλεύεται, θέτει σε κίνδυνο ή σεξουαλικοποιεί άτομα κάτω των 18 ετών. Οι κανόνες αυτοί ισχύουν για όλους τους developers που χρησιμοποιούν το API μας, ενώ εφαρμόζουμε μηχανισμούς ελέγχου για να αποτρέψουμε τη βλάβη ανηλίκων».

Ωστόσο, σύμφωνα με την Cross, οι δηλώσεις αυτές δεν επιλύουν μια βασική αντίφαση στη στρατηγική των εταιρειών AI.

«Δεν έχει λογική οι εταιρείες AI που δεν έχουν κυκλοφορήσει εκδόσεις των chatbots τους ασφαλείς για παιδιά να επιτρέπουν σε οποιονδήποτε διαθέτει πιστωτική κάρτα να δημιουργεί προϊόντα για παιδιά χρησιμοποιώντας την ίδια τεχνολογία», δήλωσε.

Και κατέληξε: «Στην πράξη, αυτό σημαίνει ότι οι εταιρείες AI αφήνουν την ασφάλεια των παιδιών στα χέρια μη ελεγμένων τρίτων και αποσύρονται από την ευθύνη».

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• Deadpool & Wolverine: Το R-rated φαινόμενο που έσωσε τη Marvel και έφερε δισεκατομμύρια στη Disney
• Από τη «Χιονάτη» στην «Σταχτοπούτα»: Τα πραγματικά κάστρα που ενέπνευσαν τους δημιουργούς ταινιών της Disney
• Αυτό είναι το νέο πλωτό βασίλειο της Disney: Μέσα στο πολυτελές «Destiny» των 4.000 επιβατών