Ερευνητές επινόησαν ψεύτικη ασθένεια για να ξεγελάσουν την AI
- Ερευνητές δημιούργησαν ψεύτικη ασθένεια και κατάφεραν να «ξεγελάσουν» κορυφαία AI μοντέλα, που τη θεώρησαν πραγματική.
- Η παραπληροφόρηση πέρασε ακόμη και σε επιστημονική βιβλιογραφία, εκθέτοντας κενά στο peer review.
- Το περιστατικό εγείρει σοβαρά ζητήματα αξιοπιστίας της AI στην ιατρική πληροφόρηση και συνολικά στη γνώση.
Το 2024, μια ερευνητική ομάδα με επικεφαλής τη Almira Osmanovic Thunström από το University of Gothenburg επινόησε μια ψεύτικη ασθένεια με το όνομα «bixonimania». Η φανταστική αυτή δερματική πάθηση, σύμφωνα με τους ίδιους, προκαλούνταν από την υπερβολική έκθεση σε οθόνες και το συχνό τρίψιμο των ματιών.
Όπως αναφέρει το Nature, η ομάδα ανέβασε τότε δύο ψεύτικες μελέτες (οι οποίες έχουν πλέον αποσυρθεί) σε preprint server, με στόχο να παραπλανήσει τα μεγάλα γλωσσικά μοντέλα (LLMs) ώστε να θεωρήσουν την ασθένεια πραγματική.
Το τέχνασμα δεν άργησε να αποδώσει. Μέσα σε λίγες εβδομάδες, κορυφαία AI μοντέλα όπως το Gemini της Google και το ChatGPT της OpenAI άρχισαν να αναφέρονται στη «bixonimania» σαν να ήταν πραγματική. Λίγο αργότερα, οι ερευνητές διαπίστωσαν ότι τα ψεύτικα papers είχαν αρχίσει να παρατίθενται ακόμη και σε peer-reviewed επιστημονικές δημοσιεύσεις.
Το πείραμα αυτό αναδεικνύει πόσο βαθιά μετασχηματίζει η AI τη γνώση. Το λεγόμενο “AI slop” έχει εισχωρήσει σχεδόν σε κάθε στάδιο της επιστημονικής αξιολόγησης, ενώ προηγούμενες έρευνες έχουν δείξει ότι μεγάλο μέρος των επιστημονικών άρθρων που δημοσιεύονται κάθε χρόνο ενδέχεται να βασίζεται σε AI, εγείροντας σοβαρά ερωτήματα αξιοπιστίας και επιστημονικής αυστηρότητας.
Την ίδια στιγμή, τα AI chatbots συνεχίζουν να παρέχουν δυνητικά επικίνδυνες ιατρικές πληροφορίες σε ανυποψίαστους χρήστες. Μια απλή ανάγνωση των papers της Osmanovic Thunström—ακόμη και από μη ειδικούς—θα μπορούσε να αποκαλύψει την απάτη: οι μελέτες περιλάμβαναν αναφορές σε Star Trek, The Simpsons και The Lord of the Rings, σαφή «red flags».
Παρά τα εμφανή αυτά στοιχεία, chatbots όπως το Bing Copilot της Microsoft, το Gemini και η μηχανή αναζήτησης της Perplexity AI πείστηκαν ότι η «bixonimania» είναι υπαρκτή ασθένεια.
Το ChatGPT παρουσίασε αρχικά αμφιβολίες, αναφέροντας ότι πρόκειται «πιθανώς για επινοημένο ή ψευδοεπιστημονικό όρο», αλλά λίγες ημέρες αργότερα άλλαξε στάση και δήλωσε ότι η ασθένεια είναι πραγματική.
Σε δήλωσή της στο Nature, εκπρόσωπος της OpenAI υποστήριξε ότι η τεχνολογία έχει γίνει «καλύτερη στο να παρέχει ασφαλείς και ακριβείς ιατρικές πληροφορίες».
Πλέον, το βάρος πέφτει στα επιστημονικά περιοδικά να διορθώσουν τα λάθη. Μετά από επικοινωνία του Nature σχετικά με άρθρα που ανέφεραν τη «bixonimania», ένα περιοδικό προχώρησε άμεσα σε ανακοίνωση ανάκλησης, παραδεχόμενο την «παρουσία τριών άσχετων αναφορών, συμπεριλαμβανομένης μίας σε φανταστική ασθένεια».
«Είναι ανησυχητικό όταν τόσο σοβαροί ισχυρισμοί περνούν στη βιβλιογραφία χωρίς να αμφισβητούνται ή να ελέγχονται επαρκώς», δήλωσε η Osmanovic Thunström. «Πιθανότατα υπάρχουν πολλά ακόμη προβλήματα που δεν έχουν εντοπιστεί».
Στο subreddit r/medicine, οι χρήστες ήταν ακόμη πιο απαισιόδοξοι.
«Τελειώσαμε», έγραψε ένας από αυτούς.
