YouTube και AI: Τι βλέπουν τα παιδιά και γιατί ανησυχούν οι ειδικοί

• Το YouTube κατακλύζεται από AI-generated παιδικό περιεχόμενο, μεγάλο μέρος του οποίου περιέχει λάθη, παραπληροφόρηση ή επικίνδυνα μηνύματα.

• Έρευνες δείχνουν ότι έως και 21% του περιεχομένου της πλατφόρμας είναι χαμηλής ποιότητας AI, ενώ ο αλγόριθμος φαίνεται να το προωθεί ενεργά.

• Οι ειδικοί προειδοποιούν ότι τέτοιο περιεχόμενο μπορεί να επηρεάσει αρνητικά την εγκεφαλική ανάπτυξη των παιδιών, δημιουργώντας λανθασμένες γνωστικές συνδέσεις και καθυστερήσεις στη μάθηση.

Το YouTube κατακλύζεται από AI-generated “εκπαιδευτικά” βίντεο για παιδιά, όμως πολλά από τα μηνύματα που μεταφέρουν — αν υπάρχει καν σαφές μήνυμα — ενδέχεται να βλάπτουν την ανάπτυξή τους.

Σύμφωνα με νέα έρευνα των The 74 και Mother Jones, εντοπίστηκαν πολυάριθμα παραδείγματα βίντεο που είτε προωθούν πλήρη ανοησία είτε μεταδίδουν επικίνδυνα πρότυπα συμπεριφοράς στο παιδικό κοινό.

Επικίνδυνο και παραπλανητικό περιεχόμενο

Σε ένα βίντεο που υποτίθεται ότι είναι παιδικό τραγούδι για αυτοκίνητα, παιδιά εμφανίζονται να:

• κινούνται χωρίς ζώνη ασφαλείας

• περπατούν στη μέση του δρόμου με αυτοκίνητα να περνούν από πίσω

Σε άλλο AI-generated βίντεο για τις 50 πολιτείες των ΗΠΑ, εμφανίζονται λανθασμένες και παραμορφωμένες ονομασίες, όπως:

• “Ribio Island”

• “Conmecticut”

• “Oklolodia”

• “Louggisslia”

Η Carla Engelbrecht, με εμπειρία σε παιδικά media όπως το Sesame Street και το PBS Kids, εντόπισε ακόμη πιο ανησυχητικά παραδείγματα:

• μωρό να καταπίνει ολόκληρα σταφύλια (κίνδυνος πνιγμού)

• μωρό να τρώει μέλι (μπορεί να αποβεί μοιραίο για βρέφη)

• μωρό να τρώει μήλο που “αιμορραγεί”

Είναι εύκολο να κατανοήσει κανείς πώς τέτοια βίντεο μπορούν να οδηγήσουν παιδιά στο να θεωρήσουν επικίνδυνες συμπεριφορές ως φυσιολογικές.

Μαζική παραγωγή, ελάχιστος έλεγχος

Τα βίντεο αυτά παράγονται με ιλιγγιώδη ταχύτητα, τη στιγμή που πολλοί γονείς βασίζονται στο YouTube για να απασχολούν τα παιδιά τους.

Ένα μόνο κανάλι που δημιουργεί τέτοιο περιεχόμενο έχει ανεβάσει:

• πάνω από 10.000 βίντεο σε περίπου 7 μήνες

• περίπου 50 νέα βίντεο την ημέρα

Παράλληλα, έκθεση της πλατφόρμας Kapwing εκτιμά ότι «το 21% του feed του YouTube αποτελείται πλέον από χαμηλής ποιότητας AI περιεχόμενο».

Ο ρόλος του αλγορίθμου

Έρευνα των New York Times σε περισσότερα από 1.000 YouTube Shorts που προτάθηκαν σε παιδιά έδειξε ότι:

• σχεδόν τα μισά περιείχαν AI-generated visuals

Αυτό υποδηλώνει ότι:

• είτε ο αλγόριθμος ευνοεί τέτοιο περιεχόμενο

• είτε οι δημιουργοί έχουν μάθει να τον εκμεταλλεύονται

• είτε το φαινόμενο είναι απλώς εκτεταμένο σε ανησυχητικό βαθμό

Πιθανότατα ισχύουν και τα τρία.

Οι επιπτώσεις στον παιδικό εγκέφαλο

Τα περισσότερα από αυτά τα βίντεο παρουσιάζονται ως εκπαιδευτικά, υποσχόμενα να διδάξουν:

• γράμματα

• ζώα

• βασικές έννοιες

Ωστόσο, συχνά παρέχουν αντιφατικές ή λανθασμένες πληροφορίες.

Η Engelbrecht προειδοποιεί: «Τα μικτά μηνύματα καθυστερούν την κατανόηση αιτίας-αποτελέσματος. Αν ένα παιδί μάθει ότι το κόκκινο είναι μπλε και το μπλε κόκκινο, αυτό δημιουργεί καθυστέρηση.»

Και προσθέτει: «Κάθε καθυστέρηση μεταθέτει όλη τη μαθησιακή διαδικασία προς τα πίσω.»

Η Dana Suskind, καθηγήτρια στο University of Chicago, περιγράφει το φαινόμενο ως: «παραπληροφόρηση AI για νήπια σε βιομηχανική κλίμακα» και προειδοποιεί ότι:«είναι εξαιρετικά επικίνδυνο για τον αναπτυσσόμενο εγκέφαλο»

Μάλιστα, παρομοιάζει τις επιπτώσεις με ένα πιο σοβαρό φαινόμενο από το λεγόμενο “brain rot”: ένα “brain stunt” — δηλαδή παρεμπόδιση της φυσιολογικής εγκεφαλικής ανάπτυξης

Καθώς, όπως εξηγεί: «Κάθε εμπειρία δημιουργεί εκατομμύρια νέες νευρωνικές συνδέσεις — και υπάρχει ο κίνδυνος να “καλωδιωθεί” ο εγκέφαλος με λάθος τρόπο.»

Τα κενά του YouTube

Παρότι τα συγκεκριμένα βίντεο δεν εντοπίστηκαν αρχικά στο YouTube Kids, η έρευνα των NYT βρήκε αρκετά παραδείγματα και εκεί.

Το βασικό πρόβλημα είναι ότι πολλά από αυτά τα βίντεο στοχεύουν ξεκάθαρα παιδιά, ενώ οι γονείς συχνά επιτρέπουν τη χρήση της πλατφόρμας μέσω κανονικών accounts.

Το YouTube υποστηρίζει ότι διαθέτει αυστηρότερα “quality principles” για παιδικό περιεχόμενο, ωστόσο, στην πράξη πολλά τέτοια βίντεο περνούν τα φίλτρα χωρίς έλεγχο. Ένας βασικός λόγος είναι η πολιτική της πλατφόρμας, σύμφωνα με την οποία:

• απαιτείται σήμανση AI μόνο όταν το περιεχόμενο φαίνεται ρεαλιστικό

• κάτι που δεν ισχύει για τα περισσότερα cartoon-style βίντεο

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• Το AI αλλάζει τα social media – Οι influencers ανησυχούν για το μέλλον τους
• Ταξίδια και Τεχνητή Νοημοσύνη: Οι ταξιδιώτες στρέφονται σε AI αλλά οι προκλήσεις παραμένουν
• Τι συμβαίνει όταν η τεχνητή νοημοσύνη κάνει λάθη: Ο νέος «πονοκέφαλος. για τις επιχειρήσεις