Σάλος με τα γυαλιά Ray-Ban AI: Καταγγελίες για καταγραφή γυμνών και προσωπικών στιγμών
- Καταγγελίες εργαζομένων: Συνεργάτες της Meta ανέφεραν ότι αξιολογούσαν ιδιαίτερα ευαίσθητο υλικό, ακόμη και προσωπικές και σεξουαλικές στιγμές χρηστών των AI γυαλιών.
- Αντιδράσεις και ρήξη συνεργασίας: Η Meta διέκοψε τη συνεργασία με την εταιρεία Sama, με οργανώσεις να μιλούν για αντίποινα λόγω των αποκαλύψεων.
- Ζήτημα ιδιωτικότητας και AI: Η υπόθεση αναδεικνύει τα όρια της τεχνητής νοημοσύνης και τη σκοτεινή πλευρά της εκπαίδευσης μοντέλων μέσω ανθρώπινης αξιολόγησης δεδομένων.
Τον Φεβρουάριο, εργαζόμενοι συνεργάτες της Meta στην Κένυα δήλωσαν στις σουηδικές εφημερίδες Svenska Dagbladet και Göteborgs-Posten ότι η εταιρεία τους υποχρέωνε να αξιολογούν σοκαριστικό και ευαίσθητο υλικό που είχε καταγραφεί από τα Ray-Ban AI γυαλιά της.
Κάποιοι ανέφεραν ότι είδαν χρήστες γυμνούς ή την ώρα που χρησιμοποιούσαν την τουαλέτα. Άλλος εργαζόμενος είδε τη σύζυγο ενός άνδρα να γδύνεται στην κρεβατοκάμαρά τους, αφού εκείνος είχε αφήσει τα γυαλιά πάνω σε ένα τραπέζι, σύμφωνα με την κοινή έρευνα. Άλλο υλικό που εξετάστηκε περιλάμβανε ακόμη και ολόκληρες «σεξουαλικές σκηνές».
«Καταλαβαίνεις ότι βλέπεις την ιδιωτική ζωή κάποιου, αλλά ταυτόχρονα αναμένεται απλώς να κάνεις τη δουλειά σου», δήλωσε ένας εργαζόμενος στις σουηδικές εφημερίδες. «Δεν πρέπει να το αμφισβητείς. Αν αρχίσεις να κάνεις ερωτήσεις, τελείωσες».
Φαίνεται πως η ανησυχία τους δεν ήταν αβάσιμη.
Δύο μήνες μετά τη δημοσίευση των καταγγελιών, η Meta αντέδρασε με τρόπο που εγείρει ερωτήματα: διέκοψε πλήρως τη συνεργασία της με την κενυατική εταιρεία Sama, σύμφωνα με το BBC — μια απόφαση που, όπως υποστηρίζει οργάνωση εργαζομένων στην Κένυα, αποτελεί αντίποινα για το γεγονός ότι οι εργαζόμενοι μίλησαν δημόσια.
Η Meta δεν σχολίασε ευθέως αυτή την κατηγορία, αλλά δήλωσε στο BBC ότι «αποφάσισε να τερματίσει τη συνεργασία με τη Sama επειδή δεν πληρούσε τα πρότυπά μας», τονίζοντας παράλληλα ότι έλαβε «σοβαρά» υπόψη τις καταγγελίες.
«Οι φωτογραφίες και τα βίντεο είναι ιδιωτικά για τους χρήστες», ανέφερε εκπρόσωπος της εταιρείας. «Άνθρωποι αξιολογούν περιεχόμενο AI για να βελτιώσουν την απόδοση των προϊόντων, και για αυτό υπάρχει σαφής συναίνεση των χρηστών».
Από την πλευρά της, η Sama υπερασπίστηκε τους εργαζομένους της.
«Η Sama έχει διαχρονικά ανταποκριθεί στα επιχειρησιακά, ασφαλείας και ποιοτικά πρότυπα που απαιτούνται από τους πελάτες της, συμπεριλαμβανομένης της Meta», ανέφερε σε ανακοίνωσή της. «Σε καμία στιγμή δεν ενημερωθήκαμε ότι δεν πληρούσαμε αυτά τα πρότυπα και στεκόμαστε πλήρως πίσω από την ποιότητα και την ακεραιότητα της δουλειάς μας».
Οι καταγγελίες αυτές φωτίζουν μια σκοτεινή πλευρά της βιομηχανίας της τεχνητής νοημοσύνης — και της τεχνολογίας γενικότερα: το πόσο βασίζεται σε χαμηλά αμειβόμενους εργαζομένους στο εξωτερικό και το εύρος των δεδομένων που αξιολογούνται στο παρασκήνιο.
Στη Sama, οι εργαζόμενοι εκτελούσαν εργασία επισήμανσης δεδομένων (data annotation), δηλαδή την κατηγοριοποίηση εικόνων, βίντεο και άλλου περιεχομένου, ώστε τα μοντέλα AI να μπορούν να «κατανοήσουν» τι βλέπουν κατά την εκπαίδευσή τους. Στην περίπτωση των Ray-Ban γυαλιών, αυτό υποτίθεται ότι βοηθά τη λειτουργία της ενσωματωμένης τεχνητής νοημοσύνης να γίνεται πιο ομαλή.
Τα περιστατικά αυτά ενισχύουν επίσης την αντίληψη ότι τα συγκεκριμένα wearables λειτουργούν ως «κρυφές κάμερες», επιτρέποντας σε χρήστες να καταγράφουν άλλους χωρίς τη γνώση ή τη συγκατάθεσή τους. Παρότι τα γυαλιά διαθέτουν ένδειξη φωτός όταν καταγράφουν, αυτή —σύμφωνα με αναφορές— μπορεί να απενεργοποιηθεί, ενώ αρκετοί έχουν βρει τρόπους να την καλύψουν. Εργαζόμενοι της Sama ανέφεραν ότι σε πολλές περιπτώσεις οι ίδιοι οι χρήστες δεν γνώριζαν ότι καταγράφουν.
«Οι άνθρωποι μπορεί να καταγράφουν τον εαυτό τους με λάθος τρόπο χωρίς καν να καταλαβαίνουν τι καταγράφουν», δήλωσε ένας εργαζόμενος.
Οι αποκαλύψεις αυτές έχουν θέσει τη Meta στο μικροσκόπιο των αρχών. Η βρετανική Αρχή Προστασίας Δεδομένων επικοινώνησε με την εταιρεία για τις «ανησυχητικές» αναφορές, ενώ η αντίστοιχη αρχή της Κένυας ανακοίνωσε ότι θα ξεκινήσει έρευνα για πιθανές παραβιάσεις προσωπικών δεδομένων.
Ο Naftali Wambalo, από το Africa Tech Workers Movement, δήλωσε ότι έχει συνομιλήσει με εργαζομένους που συμμετείχαν στο έργο και υποστήριξε ότι η Meta τερμάτισε τη συνεργασία για να αποτρέψει περαιτέρω αποκαλύψεις.
«Νομίζω ότι τα “πρότυπα” που επικαλούνται εδώ είναι πρότυπα μυστικότητας», δήλωσε στο BBC.
