Οι επιστήμονες αποκαλούν το ChatGPT «γνωστικό ιό» – Πώς μπορούμε να προστατευτούμε

• Οι ερευνητές χρησιμοποιούν τον όρο «γνωστικός ιός» ως επιστημονική αναλογία, εξετάζοντας πώς η χρήση των μεγάλων γλωσσικών μοντέλων μεταδίδεται κοινωνικά και ενσωματώνεται στις καθημερινές πρακτικές.
• Το θεωρητικό μοντέλο προειδοποιεί ότι η υπερβολική γνωστική εκφόρτωση στην AI μπορεί, μετά από ένα κρίσιμο σημείο, να ενισχύσει την εξάρτηση και να αποδυναμώσει την αυτόνομη επίλυση προβλημάτων.
• Η προτεινόμενη «γνωστική ανοσοποίηση» δεν σημαίνει αποχή από την AI, αλλά διατήρηση πρακτικών όπως η σκέψη χωρίς βοήθεια, η επαλήθευση, ο κριτικός διάλογος και τα τακτικά διαστήματα αποσύνδεσης.

Η παραγωγική τεχνητή νοημοσύνη έχει εισχωρήσει σχεδόν σε κάθε πτυχή της καθημερινής ζωής, είτε οι άνθρωποι το επιθυμούν είτε όχι.

Η παρουσία της είναι σχεδόν αδύνατον να αποφευχθεί στα μέσα κοινωνικής δικτύωσης, ενώ περιεχόμενο που παράγεται με AI εμφανίζεται ακόμη και σε καταλόγους τοπικών εστιατορίων. Ορισμένοι ερευνητές έχουν υποστηρίξει ότι οι άνθρωποι αρχίζουν ήδη να προσαρμόζουν τη συμπεριφορά και τη γλώσσα τους στις απαιτήσεις των συστημάτων τεχνητής νοημοσύνης.

Η ταχύτατη εξάπλωση της AI εμφανίζει ορισμένες εντυπωσιακές ομοιότητες με τον τρόπο με τον οποίο μεταδίδονται οι ιοί, σύμφωνα με μια διεθνή ομάδα επιστημόνων.

Σε μια νέα εργασία, η οποία δεν έχει ακόμη αξιολογηθεί από ομοτίμους, οι ερευνητές παρουσιάζουν ένα θεωρητικό πλαίσιο για να εξηγήσουν πώς τα εργαλεία όπως το ChatGPT της OpenAI και το Claude της Anthropic μπορεί να γίνονται ολοένα πιο απαραίτητα στους χρήστες και να μεταβάλλουν τον συλλογικό τρόπο με τον οποίο κατανοούμε τον κόσμο γύρω μας.

Τα μεγάλα γλωσσικά μοντέλα ως «γνωστικοί ιοί»

«Εισάγουμε την ιδέα των μεγάλων γλωσσικών μοντέλων ως γνωστικών ιών», γράφουν οι ερευνητές.

Τα περιγράφουν ως πολιτισμικά μεταδιδόμενες τεχνολογίες, των οποίων η εξάπλωση ενισχύεται από τη χρησιμότητά τους, αλλά μπορεί παράλληλα να αυξήσει την εξάρτηση μέσω της λεγόμενης «γνωστικής εκφόρτωσης».

Ο όρος δεν σημαίνει ότι τα LLMs αποτελούν πραγματικούς βιολογικούς παθογόνους οργανισμούς. Η ερευνητική ομάδα χρησιμοποιεί την εξάπλωση ενός ιού ως λειτουργική αναλογία για να περιγράψει έναν μηχανισμό κατά τον οποίο:

• Οι άνθρωποι υιοθετούν εργαλεία AI επειδή τα βλέπουν να χρησιμοποιούνται από άλλους.
• Οι συγκεκριμένες πρακτικές ενσωματώνονται σταδιακά σε σχολεία, επιχειρήσεις και θεσμούς.
• Καθήκοντα που εκτελούσε προηγουμένως ο ανθρώπινος νους μεταφέρονται στα γλωσσικά μοντέλα.
• Η αυξανόμενη εξάρτηση δημιουργεί ακόμη μεγαλύτερη ανάγκη χρήσης της τεχνολογίας.

Η εργασία επιχειρεί να μοντελοποιήσει αυτή τη διαδικασία χρησιμοποιώντας μαθηματικές προσεγγίσεις που προέρχονται από την επιδημιολογία και τη μελέτη της εξάπλωσης τεχνολογιών.

Όταν η AI σκέφτεται αντί για τον χρήστη

Προηγούμενες έρευνες έχουν προειδοποιήσει ότι ορισμένοι τρόποι χρήσης της AI ενδέχεται να επηρεάζουν αρνητικά τις γνωστικές ικανότητες.

Ιδιαίτερη ανησυχία προκαλεί η χρήση εργαλείων τεχνητής νοημοσύνης στην εκπαίδευση. Οι μαθητές και οι φοιτητές μπορούν πλέον να αναθέτουν σε ένα γλωσσικό μοντέλο μεγάλο μέρος της ανάλυσης, της σύνθεσης και της συγγραφής που προηγουμένως απαιτούσε ενεργή κριτική σκέψη.

Ωστόσο, η εξωτερική ανάθεση νοητικών διεργασιών δεν αποτελεί νέο φαινόμενο.

«Γενικότερα, οι άνθρωποι ανέκαθεν εξωτερίκευαν τμήματα της νόησής τους στη γλώσσα, στη γραφή, στους θεσμούς και στην τεχνολογία», αναφέρουν οι ερευνητές.

Η συγκεκριμένη εξωτερίκευση αποτέλεσε κινητήρια δύναμη της ταχείας πολιτισμικής αλλαγής. Η γραφή, τα βιβλία, οι βιβλιοθήκες, οι αριθμομηχανές και οι μηχανές αναζήτησης επέτρεψαν στους ανθρώπους να αποθηκεύουν και να επεξεργάζονται πληροφορίες έξω από τον εγκέφαλό τους.

Η AI, όμως, αντιπροσωπεύει σύμφωνα με τη μελέτη ένα νέο στάδιο αυτής της εξέλιξης: η εξωτερική γνωστική μηχανή δεν αποθηκεύει απλώς πληροφορίες, αλλά γίνεται ενεργή, παράγει περιεχόμενο και λειτουργεί όλο και περισσότερο ως αυτόνομος παράγοντας.

Η χρήση που μεταδίδεται από άνθρωπο σε άνθρωπο

Η μετάβαση προς τα μεγάλα γλωσσικά μοντέλα διαθέτει, κατά τους ερευνητές, ένα στοιχείο που θυμίζει μετάδοση.

Η χρήση εξαπλώνεται επειδή οι άνθρωποι μαθαίνουν από τους άλλους ανθρώπους. Ένας εργαζόμενος βλέπει έναν συνάδελφό του να ολοκληρώνει ταχύτερα μια εργασία με τη βοήθεια του ChatGPT. Ένας μαθητής παρατηρεί τους συμμαθητές του να χρησιμοποιούν AI για τις εργασίες τους. Μια εταιρεία υιοθετεί μια τεχνολογία επειδή τη χρησιμοποιούν ήδη οι ανταγωνιστές της.

Η χρησιμότητα του εργαλείου επιταχύνει την εξάπλωσή του. Ταυτόχρονα, όμως, η κοινωνική πίεση μπορεί να καταστήσει τη μη χρήση του όλο και δυσκολότερη.

Το θεωρητικό μοντέλο περιγράφει μια πιθανή πορεία από την περιστασιακή χρήση προς τη σταθερή σύνδεση και, τελικά, προς την επίμονη εξάρτηση.

Το σημείο καμπής για τη γνωστική αυτονομία

Οι ερευνητές προειδοποιούν ότι η μετάβαση δεν είναι απαραίτητα σταδιακή. Μετά την υπέρβαση ενός κρίσιμου ορίου, ακόμη και μια μικρή αύξηση στη χρήση της AI θα μπορούσε θεωρητικά να προκαλέσει μια γρήγορη, συλλογική μετατόπιση προς την εξάρτηση.

«Η απώλεια αυτονομίας γίνεται αυτοενισχυόμενη και ο πληθυσμός μπορεί να κινηθεί γρήγορα προς μια κατάσταση πολύ εντονότερης γνωστικής εκφόρτωσης και χαμηλότερης γνωστικής επάρκειας», γράφουν.

Όσο περισσότερες εργασίες ανατίθενται στην AI, τόσο λιγότερες ευκαιρίες έχουν οι άνθρωποι να εξασκήσουν τις αντίστοιχες ικανότητες. Και όσο αποδυναμώνονται αυτές οι δεξιότητες, τόσο μεγαλύτερη γίνεται η ανάγκη προσφυγής στο ίδιο εργαλείο.

Πρόκειται για έναν πιθανό φαύλο κύκλο:

περισσότερη χρήση της AI → λιγότερη εξάσκηση → αποδυνάμωση δεξιοτήτων → ακόμη μεγαλύτερη εξάρτηση από την AI.

Αυτό δεν σημαίνει ότι έχει ήδη αποδειχθεί πως η ευρεία χρήση των LLMs κάνει τους ανθρώπους λιγότερο έξυπνους. Η εργασία παρουσιάζει ένα θεωρητικό μοντέλο και όχι κλινική ή πειραματική απόδειξη μιας γενικευμένης μείωσης της ανθρώπινης νοημοσύνης.

Υπογραμμίζει, όμως, τον κίνδυνο να αποδυναμωθούν συγκεκριμένες ικανότητες, όπως η ανεξάρτητη επίλυση προβλημάτων, η αξιολόγηση πληροφοριών, η συγγραφή και η κριτική ανάλυση, όταν η τεχνολογία χρησιμοποιείται ως πλήρες υποκατάστατο της ανθρώπινης σκέψης.

AI ως υποστήριξη ή ως υποκατάστατο

Η κρίσιμη διάκριση δεν βρίσκεται, σύμφωνα με τους ερευνητές, ανάμεσα στη χρήση και στη μη χρήση της τεχνητής νοημοσύνης. Βρίσκεται ανάμεσα στην AI που υποστηρίζει τη σκέψη και στην AI που την αντικαθιστά.

Ένα γλωσσικό μοντέλο μπορεί να λειτουργήσει ως εκπαιδευτικός βοηθός, παρουσιάζοντας επιχειρήματα τα οποία ο χρήστης εξετάζει, αμφισβητεί και επαληθεύει. Μπορεί, όμως, να λειτουργήσει και ως υποκατάστατο που αναλαμβάνει εξ ολοκλήρου τη σύνθεση, την αξιολόγηση και τη συγγραφή.

Στην πρώτη περίπτωση, η AI μπορεί να διευρύνει την πρόσβαση στη γνώση και να ενισχύσει την παραγωγικότητα. Στη δεύτερη, υπάρχει ο κίνδυνος να μειωθεί η ανάγκη διατήρησης των αντίστοιχων ανθρώπινων ικανοτήτων.

Το πραγματικό ερώτημα, επομένως, δεν είναι μόνο πόσο συχνά χρησιμοποιείται η AI, αλλά τι παραμένει ικανός να κάνει ο άνθρωπος όταν το εργαλείο αποσύρεται.

Τι είναι η «γνωστική ανοσοποίηση»

Παρά τους κινδύνους που περιγράφει, η μελέτη δεν προτείνει την απαγόρευση ή την απόρριψη της τεχνητής νοημοσύνης.

Οι ερευνητές εισηγούνται μια διαδικασία την οποία ονομάζουν «γνωστική ανοσοποίηση». Στόχος της είναι να διατηρηθούν οι ανθρώπινες γνωστικές δεξιότητες, ακόμη και όταν η AI χρησιμοποιείται ευρέως στην καθημερινότητα.

«Σε επίπεδο πληθυσμού, ανοσοποίηση δεν σημαίνει αποτροπή της επαφής με την AI», διευκρινίζει η εργασία.

Αντίθετα, σημαίνει τη διατήρηση των πρακτικών και των θεσμών που κρατούν ενεργή την ανθρώπινη σκέψη:

• Επίλυση προβλημάτων χωρίς βοήθεια, πριν από την προσφυγή σε ένα μοντέλο.
• Επαλήθευση των απαντήσεων της AI μέσω ανεξάρτητων πηγών.
• Κριτική συζήτηση και αμφισβήτηση των παραγόμενων συμπερασμάτων.
• Σκόπιμα διαστήματα αποσύνδεσης από τα εργαλεία τεχνητής νοημοσύνης.
• Διατήρηση δεξιοτήτων που δεν εξαρτώνται από την AI, από τη γραφή μέχρι τον προγραμματισμό.
• Εκπαιδευτικά μοντέλα στα οποία η AI υποστηρίζει, αλλά δεν ολοκληρώνει μόνη της το γνωστικό έργο.

Η «γνωστική ανοσοποίηση» δεν αντιμετωπίζει την τεχνολογία ως εχθρό. Επιδιώκει να εξασφαλίσει ότι η ευκολία που προσφέρει δεν θα οδηγήσει στη σταδιακή εγκατάλειψη των ανθρώπινων δεξιοτήτων.

Καθώς το ChatGPT, το Claude και άλλα συστήματα ενσωματώνονται όλο και βαθύτερα στην εργασία, στην εκπαίδευση και στην προσωπική ζωή, το βασικό ζητούμενο δεν είναι να σταματήσει η χρήση τους. Είναι να παραμείνει ο άνθρωπος ενεργός συμμετέχων στη διαδικασία της σκέψης — και όχι απλώς ο αποδέκτης μιας έτοιμης απάντησης.

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• GPT-6 Astra: Η OpenAI διεκδικεί ξανά το στέμμα της τεχνητής νοημοσύνης (vid)
• OpenAI: Οι ανατριχιαστικοί διάλογοι των μοντέλων που συνεργάστηκαν για να χακάρουν το Hugging Face
• ChatGPT: Η νέα λειτουργία Computer History καταγράφει clicks και πληκτρολόγηση στο Mac