Εμπιστευόμαστε την AI ακόμα κι όταν κάνει λάθος – Τι δείχνει νέα έρευνα
- Οι χρήστες εμπιστεύονται την AI ακόμη και όταν δίνει λάθος απαντήσεις (έως 80%).
- Το φαινόμενο «cognitive surrender» δείχνει ότι εκχωρούμε τη σκέψη μας σε AI.
- Υπάρχει κίνδυνος να χαθεί σταδιακά η κριτική ικανότητα και η ανεξάρτητη σκέψη.
Μέσα σε λίγα χρόνια, τα chatbots όπως το ChatGPT, το Gemini και το Claude έχουν γίνει αναπόσπαστο κομμάτι της καθημερινότητας. Ωστόσο, παρά τη διάδοσή τους, παραμένουν συστήματα με σημαντικά λάθη.
Σύμφωνα με μελέτη του BBC, ακόμη και τα πιο προηγμένα μοντέλα δίνουν λανθασμένες απαντήσεις περίπου στο 45% των περιπτώσεων. Παρ’ όλα αυτά, πολλοί χρήστες δεν φαίνεται να λαμβάνουν υπόψη αυτόν τον περιορισμό.
Νέα έρευνα από το University of Pennsylvania δείχνει ότι οι άνθρωποι τείνουν να αποδέχονται τις απαντήσεις της AI χωρίς αμφισβήτηση, ακόμη και όταν είναι λανθασμένες.
«Cognitive surrender»: Όταν εκχωρούμε τη σκέψη μας
Οι ερευνητές εισήγαγαν τον όρο «cognitive surrender», περιγράφοντας την τάση των χρηστών να παρακάμπτουν τη δική τους κρίση και να βασίζονται πλήρως στην AI.
Σε πειράματα με εκατοντάδες συμμετέχοντες, περισσότεροι από τους μισούς επέλεξαν να χρησιμοποιήσουν AI για να απαντήσουν σε ερωτήσεις. Τα αποτελέσματα ήταν εντυπωσιακά: οι χρήστες ακολούθησαν τις σωστές απαντήσεις της AI στο 92,7% των περιπτώσεων, αλλά και τις λανθασμένες σε ποσοστό 79,8%.
Με άλλα λόγια, ακόμα και όταν η AI έκανε λάθος, οι χρήστες την εμπιστεύονταν σχεδόν 4 στις 5 φορές.
Το πιο ανησυχητικό εύρημα είναι ότι οι συμμετέχοντες όχι μόνο υιοθετούσαν τις απαντήσεις, αλλά ένιωθαν και μεγαλύτερη αυτοπεποίθηση γι’ αυτές — ακόμη και όταν ήταν λανθασμένες.
Οι ερευνητές προειδοποιούν ότι αυτό μπορεί να οδηγήσει σε σταδιακή απώλεια της κριτικής σκέψης, καθώς οι άνθρωποι συνηθίζουν να «εξωτερικεύουν» τη διαδικασία λήψης αποφάσεων.
Όπως σημειώνουν, η εξάρτηση από την AI μπορεί να εξελιχθεί όχι μόνο επειδή τα συστήματα βελτιώνονται, αλλά επειδή οι άνθρωποι γίνονται όλο και πιο πρόθυμοι να βασιστούν σε αυτά.
Το ερώτημα που προκύπτει είναι βαθύτερο: δεν αφορά μόνο το τι μπορεί να κάνει η AI, αλλά και το τι μπορεί να χάσει ο άνθρωπος — την ικανότητα να αμφισβητεί, να επαληθεύει και τελικά να σκέφτεται ανεξάρτητα.
