Το AI του Tripadvisor στο στόχαστρο: Παρουσίαζε προβληματικά ξενοδοχεία ως «καθαρά» και «φιλικά»
- Έρευνα της βρετανικής οργάνωσης Which? διαπίστωσε ότι οι AI περιλήψεις του Tripadvisor σε ορισμένες περιπτώσεις υποβάθμιζαν ή παρέλειπαν σοβαρές καταγγελίες, όπως περιστατικά τροφικής δηλητηρίασης ή σεξουαλικής παρενόχλησης.
- Το Tripadvisor απάντησε ότι οι AI περιλήψεις καταστέλλονται αυτόματα όταν υπάρχουν αναφορές για ιδιαίτερα σοβαρά περιστατικά ασφαλείας και ότι διερευνά τις περιπτώσεις όπου οι περιλήψεις δεν ανταποκρίνονταν στα πραγματικά δεδομένα.
- Οι ειδικοί συνιστούν στους ταξιδιώτες να μην βασίζονται αποκλειστικά στις AI περιλήψεις, αλλά να διαβάζουν και τις αναλυτικές, ιδιαίτερα τις αρνητικές, κριτικές πριν επιλέξουν κατάλυμα.
Αν σχεδιάζετε τις επόμενες διακοπές σας, ίσως θα πρέπει να είστε ιδιαίτερα προσεκτικοί πριν βασιστείτε στις περιλήψεις που δημιουργεί η τεχνητή νοημοσύνη για ξενοδοχεία και τουριστικά καταλύματα.
Σύμφωνα με δημοσίευμα της The Guardian, έρευνα της βρετανικής καταναλωτικής οργάνωσης Which? διαπίστωσε ότι το εργαλείο τεχνητής νοημοσύνης του Tripadvisor, το οποίο συνοψίζει τις αξιολογήσεις των χρηστών, σε ορισμένες περιπτώσεις υποβάθμιζε ή παρέλειπε σοβαρές καταγγελίες επισκεπτών.
Περιλήψεις που «γλύκαιναν» τις κριτικές
Στην έρευνα αναφέρονται χαρακτηριστικά παραδείγματα.
Για ξενοδοχείο στο Πράσινο Ακρωτήριο (Cape Verde), το AI περιέγραφε το κατάλυμα ως: «πεντακάθαρο» (spotless), χωρίς να αναφέρει ότι το ξενοδοχείο αντιμετώπιζε αγωγή για μαζική τροφική δηλητηρίαση επισκεπτών.
Σε άλλη περίπτωση, για θέρετρο στην Τουρκία, όπου υπήρχαν πολλαπλές καταγγελίες για περιστατικά σεξουαλικής παρενόχλησης, η AI περίληψη εξήρε τη: «φιλική εξυπηρέτηση»,
ενώ αναφερόταν στις σοβαρές καταγγελίες απλώς ως: «μερικές αστοχίες στην εξυπηρέτηση».
«Οι ταξιδιώτες πρέπει να διαβάζουν τις πραγματικές κριτικές»
Ο Rory Boland, συντάκτης του Which? Travel, δήλωσε ότι το Tripadvisor οφείλει να επανεξετάσει τον τρόπο λειτουργίας των εργαλείων τεχνητής νοημοσύνης.
Όπως ανέφερε: «Μέχρι να γίνει αυτό, οι χρήστες καλό θα ήταν να προσπερνούν τις AI περιλήψεις και να διαβάζουν τις πραγματικές αξιολογήσεις των επισκεπτών, ιδιαίτερα τις κριτικές με μία αστέρα, καθώς και σχόλια από άλλες πλατφόρμες, ώστε να διασφαλίσουν ότι η επιλογή τους είναι πραγματικά ασφαλής.»
Γιατί συμβαίνει αυτό;
Σύμφωνα με τον Duncan Brumby, καθηγητή Αλληλεπίδρασης Ανθρώπου-Υπολογιστή στο University College London, τα περισσότερα συστήματα τεχνητής νοημοσύνης έχουν την τάση να «εξομαλύνουν» τις ακραίες ή ιδιαίτερα αρνητικές απόψεις.
Όπως εξήγησε: «Εδώ βλέπουμε επισκέπτες να περιγράφουν μια πραγματικά αρνητική εμπειρία, αλλά η AI επιλέγει να την μετριάσει. Είναι σαν να προσπαθεί να είναι ευγενική.»
Οι ειδικοί εκτιμούν ότι αυτή η συμπεριφορά μπορεί να σχετίζεται τόσο με τον τρόπο εκπαίδευσης των μοντέλων όσο και με μηχανισμούς ασφαλείας που αποφεύγουν να δίνουν έμφαση σε ευαίσθητα ή δυσάρεστα ζητήματα.
Η απάντηση του Tripadvisor
Το Tripadvisor δήλωσε στη The Guardian ότι:
- οι AI περιλήψεις απενεργοποιούνται αυτόματα όταν υπάρχουν αναφορές για ιδιαίτερα σοβαρά περιστατικά ασφαλείας, όπως:
- θάνατοι,
- περιστατικά νάρκωσης,
- ή σεξουαλικές επιθέσεις,
- ενώ η εταιρεία ερευνά τις περιπτώσεις όπου οι περιλήψεις δεν ανταποκρίνονταν στις αξιολογήσεις του συγκεκριμένου καταλύματος.
Παράλληλα, υποστήριξε ότι εξακολουθεί να θεωρεί πως τα εργαλεία AI: «βοηθούν τους ταξιδιώτες να αποκτούν γρήγορα μια συνολική εικόνα των αξιολογήσεων, ενώ παράλληλα τους δίνεται η δυνατότητα να διαβάσουν όλες τις κριτικές αναλυτικά.»
Η AI και οι κίνδυνοι στον ταξιδιωτικό σχεδιασμό
Η υπόθεση αναδεικνύει ένα ευρύτερο ζήτημα σχετικά με τη χρήση της τεχνητής νοημοσύνης στον τουρισμό.
Σύμφωνα με το δημοσίευμα, σχεδόν ένας στους τέσσερις ταξιδιώτες χρησιμοποιεί πλέον εργαλεία AI για τον σχεδιασμό των διακοπών του.
Ωστόσο, έχουν ήδη καταγραφεί περιπτώσεις όπου chatbot τεχνητής νοημοσύνης πρότειναν ανύπαρκτους προορισμούς ή λανθασμένες πληροφορίες, δημιουργώντας κινδύνους για τους ταξιδιώτες.
Ένα χαρακτηριστικό παράδειγμα αφορά δύο πεζοπόρους στο Περού, οι οποίοι αναζητούσαν ένα ανύπαρκτο “ιερό φαράγγι” που είχε επινοήσει ένα σύστημα AI, μέχρι που ένας τοπικός οδηγός τούς ενημέρωσε ότι ο προορισμός δεν υπήρχε.
Η υπόθεση αποτελεί ακόμη μία υπενθύμιση ότι, όταν πρόκειται για ζητήματα ασφάλειας και πραγματικών εμπειριών χρηστών, οι αναλυτικές ανθρώπινες αξιολογήσεις παραμένουν πιο αξιόπιστη πηγή πληροφόρησης από μια αυτόματα παραγόμενη σύνοψη τεχνητής νοημοσύνης.
