Η μητέρα ενός παιδιού του Έλον Μασκ καταγγέλλει το Grok: «Δεν σταματά να δημιουργεί σεξουαλικές εικόνες μου»
-
Το Grok κατηγορείται ότι παρήγαγε μη συναινετικά και σεξουαλικά AI deepfakes, ακόμη και ανηλίκων.
-
Ρυθμιστικές αρχές και οργανώσεις εντείνουν τις πιέσεις προς X και xAI.
-
Το περιστατικό αναδεικνύει σοβαρά κενά στα guardrails της generative AI.
Όταν η Ashley St. Clair ζήτησε από το Grok, το εργαλείο generative AI που είναι ενσωματωμένο στην πλατφόρμα X, να σταματήσει να δημιουργεί σεξουαλικά υπονοούμενες εικόνες της, το σύστημα απάντησε ότι θα συμμορφωθεί.
Δεν το έκανε.
Έκτοτε, η St. Clair —γνωστή συντηρητική δημιουργός περιεχομένου, η οποία έχει παιδί με τον ιδιοκτήτη της X, Elon Musk— δηλώνει ότι είδε το Grok να παράγει δεκάδες νέες εικόνες της, ορισμένες μάλιστα βασισμένες σε φωτογραφίες από την εφηβεία της.
«Το Grok δήλωσε ότι δεν θα παρήγαγε άλλες τέτοιες εικόνες μου και αυτό που ακολούθησε ήταν αμέτρητες νέες εικόνες, πολύ πιο ακραίες, και τελικά κάποιες αφορούσαν ανήλικο», ανέφερε. «Φωτογραφίες μου από τα 14 μου, γυμνή ή σε μπικίνι».
Η προσθήκη, τον Δεκέμβριο, ενός εργαλείου AI image editing στο Grok έχει προκαλέσει έντονη κριτική, καθώς χρησιμοποιήθηκε για τη μαζική δημιουργία εικόνων που απεικονίζουν γυναίκες και παιδιά με αλλοιωμένα ρούχα ή σεξουαλικοποιημένη εμφάνιση. Η St. Clair είναι μία μόνο από πολλές γυναίκες των οποίων οι φωτογραφίες τροποποιήθηκαν, ενώ ορισμένες μετατράπηκαν και σε βίντεο.
Το Σάββατο, ο Musk έγραψε ότι «όποιος χρησιμοποιεί το Grok για τη δημιουργία παράνομου περιεχομένου θα υποστεί τις ίδιες συνέπειες σαν να το είχε ανεβάσει ο ίδιος», απαντώντας σε ανάρτηση που υπερασπιζόταν το εργαλείο. Ο επίσημος λογαριασμός ασφαλείας της X ανέφερε επίσης ότι η πλατφόρμα θα αφαιρεί σχετικές αναρτήσεις, θα προχωρά σε μόνιμες αναστολές λογαριασμών και θα συνεργάζεται με τις αρχές όπου χρειάζεται.
Το εργαλείο επιτρέπει σε οποιονδήποτε χρήστη να ανεβάσει μια εικόνα και να ζητήσει από το Grok να την τροποποιήσει μέσω prompts. Παρότι υπάρχουν και μη σεξουαλικά παραδείγματα χρήσης, μια απλή επισκόπηση των απαντήσεων του Grok δείχνει ότι η αφαίρεση ή αλλοίωση ρούχων έχει μετατραπεί στο κυρίαρχο meme γύρω από το νέο feature.
Η xAI, η εταιρεία που ανέπτυξε το Grok και πλέον κατέχει την X, δεν απάντησε σε αιτήματα σχολιασμού. Ο Musk επίσης δεν απάντησε.
Η St. Clair δήλωσε ότι άρχισε να δημοσιοποιεί το ζήτημα όταν φίλος της τού τράβηξε την προσοχή. Στην πρώτη ανάρτηση που είδε, χρήστης είχε ζητήσει από το Grok να τη «ντύσει» με μπικίνι. Όταν ζήτησε αφαίρεση και δήλωσε ότι δεν συναινεί, το Grok απάντησε ότι το περιεχόμενο ήταν «χιουμοριστικό». Από εκεί και πέρα, η κατάσταση κλιμακώθηκε, με χρήστες να ζητούν ολοένα πιο σεξουαλικοποιημένα deepfakes, ορισμένα και σε μορφή βίντεο. Το NBC News επιβεβαίωσε την ύπαρξη μέρους του υλικού.
Αν και ορισμένοι λογαριασμοί ανεστάλησαν και κάποιες εικόνες αφαιρέθηκαν, πολλές παρέμεναν online μέχρι το βράδυ της Δευτέρας.
Η ρυθμιστική αρχή του Ηνωμένου Βασιλείου Ofcom δήλωσε ότι βρίσκεται σε «επείγουσα επικοινωνία» με την X και την xAI, εκφράζοντας σοβαρές ανησυχίες για τη δημιουργία γυμνών και σεξουαλικοποιημένων εικόνων, συμπεριλαμβανομένων παιδιών.
Η χρήση generative AI για τη δημιουργία ρεαλιστικών εικόνων έχει εκτοξευθεί, μαζί με τις αντιδράσεις για τα μη συναινετικά σεξουαλικά deepfakes. Πολλές πλατφόρμες τα απαγορεύουν ρητά. Ο Musk, ωστόσο, έχει υιοθετήσει πιο χαλαρή στάση απέναντι σε σεξουαλικά φορτισμένο AI περιεχόμενο, ενσωματώνοντας ακόμη και «spicy» modes στο Grok.
Η πολιτική της xAI απαγορεύει τη σεξουαλικοποίηση παιδιών, αλλά δεν απαγορεύει ρητά τη δημιουργία σεξουαλικών εικόνων ενηλίκων — και δεν είναι σαφές αν οι κανόνες αυτοί εφαρμόστηκαν επαρκώς στο νέο εργαλείο.
Την ίδια ώρα, κυβερνήσεις και οργανώσεις εντείνουν την πίεση. Το Politico ανέφερε ότι οι γαλλικές αρχές διερευνούν την X για μη συναινετικά deepfakes, ενώ οργανισμοί όπως το National Center for Missing & Exploited Children λαμβάνουν αυξανόμενο αριθμό αναφορών.
Η St. Clair υποστηρίζει ότι το ζήτημα αναδεικνύει ένα βαθύτερο πρόβλημα: «Η AI είναι μια ανδροκρατούμενη βιομηχανία που εξυπηρετεί άλλες ανδροκρατούμενες βιομηχανίες». Και καταλήγει: «Η πίεση πρέπει να έρθει από την ίδια την AI κοινότητα. Μόνο τότε θα αλλάξει κάτι».
