Meta: Φιάσκο με τη δοκιμή ανθρώπων σε αυτοματοποιημένα τηλεφωνήματα στο νέο Muse AI
- Η Meta χρησιμοποίησε ανθρώπους για να διεξάγουν τηλεφωνήματα του Muse, καθώς διαπιστώθηκε ότι οι αυτοματοποιημένες φωνητικές κλήσεις συχνά απορρίπτονταν από τις επιχειρήσεις.
- Εργαζόμενοι προειδοποίησαν για τον κίνδυνο διαρροής ευαίσθητων προσωπικών δεδομένων σε τηλεφωνικά κέντρα, με αφορμή και την καταγραφή ενός ρατσιστικού σχολίου από υπάλληλο κατά τη διάρκεια κλήσης.
- Η λειτουργία ανεστάλη μέχρι να ενσωματωθούν οι απαραίτητες δικλείδες διαφάνειας, την ώρα που το Muse καταγράφει πάνω από 2,5 εκατομμύρια λήψεις και έχει προσθέσει 200 δισ. δολάρια στη χρηματιστηριακή αξία της Meta.
Η Meta προχώρησε σε δοκιμές ενός «ανθρώπινου θυρωρού» (human concierge) για το νέο της εργαλείο τεχνητής νοημοσύνης, το Muse, αναθέτοντας σε εξωτερικούς υπαλλήλους να διεκπεραιώνουν τηλεφωνικές κλήσεις εκ μέρους του AI. Η αποκλειστική αποκάλυψη του Reuters προκάλεσε έντονες εσωτερικές αντιδράσεις για θέματα ιδιωτικότητας και ασφάλειας δεδομένων, αναγκάζοντας την εταιρεία να αποσύρει προσωρινά το συγκεκριμένο χαρακτηριστικό, παρά το γεγονός ότι η εφαρμογή σημειώνει τεράστια εμπορική επιτυχία και έχει εκτοξεύσει τη μετοχή της εταιρείας.
Το παρασκήνιο του «Human Concierge»
Το Muse, ο νέος ψηφιακός βοηθός της Meta, σχεδιάστηκε για να εκτελεί αυτόνομα πολύπλοκες εργασίες, όπως αγορές, ταξιδιωτικές κρατήσεις και διαχείριση επικοινωνίας. Μία από τις πλέον υποσχόμενες λειτουργίες του είναι η δυνατότητα πραγματοποίησης τηλεφωνικών κλήσεων για λογαριασμό του χρήστη (π.χ. για ραντεβού ή έλεγχο διαθεσιμότητας προϊόντων).
Ωστόσο, στην πράξη προέκυψε ένα σημαντικό εμπόδιο: πολλοί συνομιλητές και επιχειρήσεις έκλειναν τη γραμμή αμέσως μόλις αντιλαμβάνονταν ότι μιλούν με τεχνητή νοημοσύνη. Για να παρακάμψει το πρόβλημα των «robocalls», η Meta εγκαινίασε εσωτερικές δοκιμές ενός συστήματος όπου εκπαιδευμένοι υπάλληλοι έπαιρναν τη σκυτάλη από το AI και διεκπεραίωναν τις κλήσεις κρυφά. Σύμφωνα με εσωτερικά έγγραφα, αυτή η μέθοδος εκτόξευσε το ποσοστό επιτυχίας των κλήσεων στο 95% με 98%.
Κίνδυνος για τα προσωπικά δεδομένα και εσωτερική κατακραυγή
Η ενσωμάτωση του ανθρώπινου παράγοντα χωρίς προηγούμενη ενημέρωση των χρηστών πυροδότησε ισχυρές αντιδράσεις στο εσωτερικό της Meta. Μέσα από εταιρικά fora, οι εργαζόμενοι εξέφρασαν την έντονη ανησυχία τους ότι ευαίσθητα προσωπικά δεδομένα θα μπορούσαν να διαρρεύσουν ακούσια σε υπαλλήλους εξωτερικών τηλεφωνικών κέντρων.
«Είμαστε ένα τεχνικό σφάλμα μακριά από το να διαρρεύσουν προσωπικές πληροφορίες σε ανθρώπους», ανέφερε χαρακτηριστικά ένας υπάλληλος. Η κατάσταση κλιμακώθηκε όταν ένας άλλος εργαζόμενος, ο οποίος ανέθεσε στο Muse να διαπραγματευτεί τον λογαριασμό του ίντερνετ, διαπίστωσε από την απομαγνητοφώνηση ότι ο εργαζόμενος προέβη σε ρατσιστικό σχόλιο κατά τη διάρκεια της συνομιλίας.
Επιπλέον, το προσωπικό επισήμανε ότι η χρήση ανθρώπων υπονομεύει το βασικό αφήγημα ασφαλείας του Muse. Η εταιρεία είχε προωθήσει έντονα το γεγονός ότι το AI λειτουργεί σε απομονωμένες «εικονικές μηχανές» (virtual machines) προκειμένου να προστατεύει απολύτως τους κωδικούς και τα δεδομένα των χρηστών, κάτι που ακυρώνεται στην πράξη όταν μεσολαβεί φυσικό πρόσωπο.
Η αντίδραση της Meta και η επανάληψη της ιστορίας
Υπό το βάρος των αντιδράσεων, η διευθυντική ομάδα των Superintelligence Labs της Meta αναγνώρισε το σφάλμα, παραδεχόμενη ότι ήταν λάθος να ξεκινήσουν οι δοκιμές χωρίς τις κατάλληλες προειδοποιήσεις προς τους χρήστες. Η εταιρεία προχώρησε στην άμεση παύση της λειτουργίας, ενώ δόθηκαν διαβεβαιώσεις ότι ο υπάλληλος που έκανε το ρατσιστικό σχόλιο απομακρύνθηκε από κάθε project της Meta. Εκπρόσωπος της εταιρείας διαμήνυσε ότι η λειτουργία θα κυκλοφορήσει στο κοινό μόνο όταν εξασφαλιστεί η απόλυτη προστασία της ιδιωτικότητας.
Το περιστατικό αναπόφευκτα θυμίζει το παλαιότερο πείραμα της εταιρείας με τον ψηφιακό βοηθό «M» στο Messenger πριν από μια δεκαετία, όπου τελικά αποκαλύφθηκε πως το 70% των εργασιών εκτελούνταν από ανθρώπινο δυναμικό και όχι από αλγόριθμο.
Παρά τον θόρυβο γύρω από τις κλήσεις, το νέο εγχείρημα της Meta έχει στεφθεί με απόλυτη εμπορική επιτυχία. Μετά την κυκλοφορία του Muse, η μετοχή της εταιρείας κατέγραψε άλμα άνω του 20%, προσθέτοντας περισσότερα από 200 δισεκατομμύρια δολάρια στη χρηματιστηριακή της αξία και οδηγώντας την στο υψηλότερο επίπεδο των τελευταίων επτά μηνών.
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
Πηγή: reuters.com
