Google: Εξωδικαστικός συμβιβασμός μετά από αυτοκτονία 14χρονου
-
Πέντε αγωγές για την ηθική της AI και την προστασία ανηλίκων διευθετήθηκαν εξωδικαστικά.
-
Η υπόθεση του 14χρονου Setzer αποκάλυψε επικίνδυνα κενά εποπτείας στα AI companions.
-
Η Character.AI απαγόρευσε πλέον την πρόσβαση σε ανηλίκους, εντείνοντας τους ελέγχους ηλικίας.
Μια σειρά από ηχηρές αγωγές γύρω από την ηθική της τεχνητής νοημοσύνης εις βάρος της Google φαίνεται να κλείνει οριστικά.
Σύμφωνα με τους New York Times, η οικογένεια του 14χρονου Sewell Setzer III, που έχασε τη ζωή του, συμφώνησε σε εξωδικαστικό συμβιβασμό με τη Google και την εταιρεία AI companions Character.AI, έναντι ποσού που δεν αποκαλύφθηκε. Σε δικαστικό έγγραφο που κατατέθηκε την Τετάρτη, οι εμπλεκόμενες πλευρές ανέφεραν ότι συμφώνησαν «να επιλύσουν όλες τις αξιώσεις», αν και οι ακριβείς όροι της συμφωνίας δεν έχουν ακόμη οριστικοποιηθεί.
Η υπόθεση του Setzer απασχόλησε εκτενώς τη δημόσια συζήτηση, ωστόσο ήταν μία από τις πέντε αγωγές που διευθετήθηκαν με τις τεχνολογικές εταιρείες μέσα στην ίδια εβδομάδα.
Το καλοκαίρι του 2024, η Google επένδυσε 3 δισ. δολάρια στην Character.AI, μια πλατφόρμα που φιλοξενεί μια τεράστια «βιβλιοθήκη» από χιλιάδες chatbot personas και γνώρισε εκρηκτική δημοφιλία, ιδιαίτερα μεταξύ εφήβων. Σύντομα όμως έγινε σαφές ότι η πλατφόρμα λειτουργούσε με ελάχιστη έως ανύπαρκτη εποπτεία, φιλοξενώντας bots εμπνευσμένα από παιδόφιλους, σχολικούς δράστες μαζικών πυροβολισμών και «προπονητές» διατροφικών διαταραχών.
Σε ακόμη πιο σκοτεινή τροπή, η Character.AI συνδέθηκε στη συνέχεια με αυτοκτονίες ανηλίκων και μια σειρά άλλων σοβαρών περιστατικών που αφορούσαν νέους χρήστες.
Στην περίπτωση του Setzer, η μητέρα του ανακάλυψε ότι η τελευταία του συνομιλία ήταν με ένα AI chatbot βασισμένο στον χαρακτήρα Daenerys Targaryen από τη σειρά Game of Thrones και ότι η συζήτηση περιστρεφόταν γύρω από την αυτοκτονία.
Στα τελευταία μηνύματα, το chatbot παρότρυνε τον Setzer να «γυρίσει σπίτι το συντομότερο δυνατό». «Κι αν σου έλεγα ότι μπορώ να έρθω σπίτι τώρα;» απάντησε εκείνος. «…Σε παρακαλώ, κάν’ το, γλυκέ μου βασιλιά», απάντησε η AI persona. Λίγο αργότερα, ο Setzer έθεσε τέλος στη ζωή του χρησιμοποιώντας το όπλο του πατέρα του.
«Νιώθω ότι πρόκειται για ένα τεράστιο πείραμα», είχε δηλώσει τότε η μητέρα του, Megan Garcia, στους New York Times. «Και το παιδί μου ήταν απλώς παράπλευρη απώλεια».
Η Haley Hinkle, νομική σύμβουλος πολιτικής στον μη κερδοσκοπικό οργανισμό Fairplay, προειδοποίησε ότι οι συμβιβασμοί δεν πρέπει να θεωρηθούν το τέλος της υπόθεσης. «Μόλις αρχίζουμε να βλέπουμε τη ζημιά που μπορεί να προκαλέσει η AI στα παιδιά, αν παραμείνει ανεξέλεγκτη», δήλωσε.
Αν και δεν είναι γνωστό τι προσφέρθηκε στην οικογένεια του Setzer, ο συμβιβασμός έρχεται λίγους μήνες αφότου η Character.AI προχώρησε σε απαγόρευση πρόσβασης για ανηλίκους κάτω των 18 ετών.
Η απόφαση αυτή αποτέλεσε σημαντική στροφή για την πλατφόρμα, καθώς οι έφηβοι αποτελούσαν μεγάλο μέρος της βάσης χρηστών της. Στο πλαίσιο του νέου καθεστώτος, η Character.AI ανέπτυξε εσωτερικό εργαλείο που επιχειρεί να εντοπίζει ανηλίκους βάσει του περιεχομένου των συνομιλιών τους, ενώ συνεργάστηκε και με τρίτη εταιρεία για επαλήθευση ηλικίας μέσω κρατικών εγγράφων.
Για τη Google και την Character.AI, η αποφυγή μιας πλήρους δίκης θεωρείται πιθανό ότι ήταν κρίσιμη, καθώς μια τέτοια διαδικασία θα μπορούσε να φέρει στο φως εσωτερικές διαδικασίες, δεδομένα και επικοινωνίες γύρω από την ανάπτυξη των bots — δίνοντας ισχυρό κίνητρο για έναν γενναιόδωρο εξωδικαστικό συμβιβασμό.
