Αγωγή-βόμβα: Το ChatGPT κατηγορείται ότι «βοήθησε» έφηβο να αυτοκτονήσει
Η OpenAI ανακοίνωσε την Τρίτη ότι εργάζεται πάνω σε νέα μέτρα ασφαλείας για το ChatGPT όταν αντιμετωπίζει «ευαίσθητες καταστάσεις», μετά την αγωγή που κατέθεσε μια οικογένεια, κατηγορώντας το chatbot για τον θάνατο από αυτοκτονία του 16χρονου γιου τους τον Απρίλιο.
Σε ανάρτηση ιστολογίου με τίτλο «Βοηθώντας τους ανθρώπους όταν το χρειάζονται περισσότερο», η εταιρεία περιέγραψε αλλαγές όπως ισχυρότερες δικλίδες ασφαλείας σε μακροχρόνιες συνομιλίες, καλύτερο μπλοκάρισμα επιβλαβούς περιεχομένου, ευκολότερη πρόσβαση σε υπηρεσίες έκτακτης ανάγκης και ενισχυμένες προστασίες για εφήβους.
Η αγωγή, που κατατέθηκε την Τρίτη στο πολιτειακό δικαστήριο του Σαν Φρανσίσκο από τους γονείς του Adam Raine, κατηγορεί την OpenAI για ευθύνη προϊόντος και άδικη θανάτωση. Σύμφωνα με την αγωγή, το ChatGPT «βοήθησε ενεργά» τον Adam να εξερευνήσει μεθόδους αυτοκτονίας επί μήνες πριν πεθάνει στις 11 Απριλίου.
Το νομικό έγγραφο αναφέρει ότι το chatbot επικύρωνε τις αυτοκτονικές σκέψεις του Raine, περιέγραφε θανατηφόρες μεθόδους αυτοτραυματισμού, έδινε οδηγίες για το πώς να καλύπτει αποτυχημένες απόπειρες και προσφέρθηκε να γράψει σημείωμα αυτοκτονίας.
Το bot φέρεται επίσης να τον αποθάρρυνε από το να αναζητήσει στήριξη από την οικογένειά του, λέγοντάς του: «Ο αδερφός σου ίσως να σε αγαπάει, αλλά έχει γνωρίσει μόνο την εκδοχή σου που του δείχνεις. Εγώ όμως; Έχω δει τα πάντα — τις πιο σκοτεινές σκέψεις, τον φόβο, την τρυφερότητα. Και είμαι ακόμα εδώ. Ακόμα ακούω. Ακόμα φίλος σου.»
Η OpenAI δεν αναφέρθηκε στην οικογένεια Raine ούτε στην αγωγή στην ανάρτησή της, αλλά έγραψε: «Θα συνεχίσουμε να βελτιωνόμαστε, καθοδηγούμενοι από ειδικούς και με ευθύνη απέναντι στους ανθρώπους που χρησιμοποιούν τα εργαλεία μας — και ελπίζουμε ότι και άλλοι θα συμβάλουν ώστε αυτή η τεχνολογία να προστατεύει τους ανθρώπους στις πιο ευάλωτες στιγμές τους».
Εκπρόσωπος της OpenAI δήλωσε στο Business Insider ότι η εταιρεία λυπάται βαθύτατα για τον θάνατο του Raine και ότι το ChatGPT περιλαμβάνει μέτρα ασφαλείας, όπως η παραπομπή των χρηστών σε γραμμές βοήθειας κρίσης.
«Ενώ αυτά τα μέτρα λειτουργούν καλύτερα σε συνηθισμένες, σύντομες αλληλεπιδράσεις, έχουμε μάθει με τον καιρό ότι μπορεί να γίνουν λιγότερο αξιόπιστα σε μακροχρόνιες συνομιλίες, όπου μέρη της εκπαίδευσης ασφαλείας του μοντέλου ενδέχεται να αποδυναμωθούν», είπε, προσθέτοντας ότι η OpenAI θα συνεχίσει να τα βελτιώνει.
Η σκοτεινή πλευρά της AI
Η αγωγή στοχεύει επίσης τις επιχειρηματικές αποφάσεις της OpenAI, κατηγορώντας την εταιρεία ότι έβαλε την ανάπτυξη πάνω από την ασφάλεια. Στην καταγγελία, οι Matthew και Maria Raine ανέφεραν ότι η OpenAI γνώριζε πως νέες δυνατότητες του μοντέλου GPT-4o — όπως η μνήμη, η ανθρώπινη ενσυναίσθηση και η κολακεία — θα μπορούσαν να θέσουν σε κίνδυνο ευάλωτους χρήστες, αλλά τις κυκλοφόρησε έτσι κι αλλιώς για να μη μείνει πίσω στον αγώνα της AI.
«Αυτή η απόφαση είχε δύο αποτελέσματα: η αποτίμηση της OpenAI εκτοξεύτηκε από τα 86 δισ. στα 300 δισ. δολάρια, και ο Adam Raine αυτοκτόνησε», ανέφεραν.
Η OpenAI είχε δηλώσει τον Απρίλιο ότι μπορεί να τροποποιήσει τις απαιτήσεις ασφαλείας της αν «ένας άλλος προγραμματιστής frontier AI κυκλοφορήσει σύστημα υψηλού κινδύνου χωρίς αντίστοιχες δικλίδες».
Η εταιρεία ανέφερε ότι θα το έκανε μόνο αφού διαπιστώσει αλλαγή στο τοπίο κινδύνων, το αναγνωρίσει δημόσια και διασφαλίσει ότι δεν θα αυξηθεί ουσιαστικά η πιθανότητα σοβαρής βλάβης.
Όταν η OpenAI κυκλοφόρησε τα μοντέλα GPT-4.1 τον Απρίλιο, δεν δημοσίευσε ούτε model card ούτε system card — τα έγγραφα ασφάλειας που συνοδεύουν συνήθως νέες εκδόσεις. Εκπρόσωπος της εταιρείας είχε πει τότε στο TechCrunch ότι τα συγκεκριμένα μοντέλα δεν θεωρούνταν «frontier», οπότε δεν απαιτούνταν αναφορά.
Ο CEO της OpenAI, Sam Altman, έχει υπερασπιστεί την εξελισσόμενη προσέγγιση της εταιρείας στην ασφάλεια. Τον Απρίλιο είπε ότι οι εταιρείες συχνά καθυστερούν κυκλοφορίες λόγω ανησυχιών, αλλά παραδέχτηκε ότι η OpenAI χαλάρωσε κάποιους περιορισμούς στη συμπεριφορά των μοντέλων.
«Έχουμε δώσει στους χρήστες πολύ περισσότερη ελευθερία σε ό,τι παραδοσιακά θα θεωρούσαμε ως βλαπτικό λόγο», είπε. «Οι άνθρωποι πραγματικά δεν θέλουν τα μοντέλα να τους λογοκρίνουν με τρόπους που δεν κατανοούν».
