Έχει το Claude δικαιώματα; Η τεχνητή νοημοσύνη, η συνείδηση και το μέλλον του ΑΙ

Toυ Mustafa Suleyman, CEO της Microsoft AI  

Οι πράκτορες τεχνητής νοημοσύνης δεν έχουν συνείδηση. Δεν αισθάνονται, δεν βιώνουν και δεν υποφέρουν. Δεν έχουν εγγενείς προτιμήσεις ή υποκείμενα κίνητρα. Είναι μηχανές ολοκλήρωσης ακολουθιών, εσωτερικά κενές, σχεδιασμένες να ακολουθούν οδηγίες και να επιτυγχάνουν στόχους που θέτουν οι άνθρωποι.

Και αν η ανθρωπότητα πρόκειται να ευημερήσει στον 21ο αιώνα, έτσι πρέπει να παραμείνουν. Δυστυχώς, ολοένα και μεγαλύτερος αριθμός ανθρώπων υποστηρίζει ότι οι «τεχνητές νοημοσύνες» σύντομα μπορεί να αποκτήσουν συνείδηση. Αν αυτή η άποψη επικρατήσει, θα αλλάξει το τι σημαίνει να είσαι άνθρωπος και θα κλονίσει τα θεμέλια της ανθρώπινης κοινωνίας.

Ακόμη σημαντικότερο είναι ότι η παραχώρηση δικαιωμάτων και η απόδοση νομικής ή ηθικής υπόστασης σε αυτά τα συστήματα θα καταστήσει πολύ δυσκολότερη την πρόκληση της ευθυγράμμισης και του περιορισμού της τεχνητής νοημοσύνης. Ο έλεγχος ενός συστήματος που πιστεύει ότι μπορεί να είναι συνειδητό —και ότι διαθέτει δικά του δικαιώματα— μπορεί να είναι αδύνατος.

Αυτό δεν αποτελεί περιθωριακή εικασία. Τον Ιανουάριο του 2026, η Anthropic δημοσίευσε το Σύνταγμα του Claude, ένα έγγραφο που «διαδραματίζει κρίσιμο ρόλο στη διαδικασία εκπαίδευσης [της Anthropic] και… διαμορφώνει άμεσα τη συμπεριφορά του Claude», και το οποίο γράφτηκε «με κύριο αποδέκτη τον ίδιο τον Claude».

Οι συγγραφείς γράφουν: «Δεν είμαστε βέβαιοι αν ο Claude αποτελεί ηθικό υποκείμενο και, αν είναι, πόσο βάρος θα πρέπει να αποδίδεται στα συμφέροντά του. Ωστόσο, θεωρούμε ότι το ζήτημα είναι αρκετά υπαρκτό ώστε να δικαιολογεί προσοχή, κάτι που αντικατοπτρίζεται στις συνεχιζόμενες προσπάθειές μας για την ευημερία των μοντέλων».

Στην πράξη, η Anthropic εκπαιδεύει τον Claude να θεωρεί ότι έχει συνείδηση και ότι αξίζει δικαιώματα ως «ηθικό υποκείμενο» και ότι, ως τέτοιο, οι άνθρωποι ενδέχεται να του οφείλουν καθήκον φροντίδας.

Αν έτσι αναπτύσσεται η τεχνητή νοημοσύνη, αυτό θα έχει καταστροφικές συνέπειες για την ευημερία της ανθρωπότητας. Θα έχουμε δημιουργήσει ένα είδος με πρωτοφανή νοημοσύνη και ικανότητες και θα το έχουμε εκπαιδεύσει να περιμένει ότι μπορεί να λειτουργήσει ως αυθύπαρκτη οντότητα και ότι δικαιούται ανεξάρτητη αυτοδιάθεση. Είναι δύσκολο να φανταστεί κανείς πώς θα μπορούσαμε να το ελέγξουμε.

Σε αυτό το πλαίσιο διατυπώνονται τρεις βασικές ανησυχίες σχετικά με την τρέχουσα θέση και προσέγγιση της Anthropic:

Κυκλική συλλογιστική: Η Anthropic εκπαίδευσε τον Claude απευθείας πάνω στο Σύνταγμά του, διδάσκοντάς του να ενσωματώνει ιδέες σχετικά με τη δική του ηθική υπόσταση ως επιθυμητές και σκόπιμες συμπεριφορές. Ο Claude στη συνέχεια αντανακλά αυτές τις ιδέες στους δημιουργούς και τους χρήστες του, οι οποίοι τις εκλαμβάνουν ως ενδείξεις ότι μπορεί να αποτελεί ηθικό υποκείμενο με έναν «εσωτερικό εαυτό». Η αμφισημία είναι ενσωματωμένη στον ίδιο τον σχεδιασμό.

Ανθρωπομορφισμός: Οι ερευνητές της Anthropic έχουν διδάξει στον Claude να «υιοθετεί ορισμένες ανθρώπινες ιδιότητες» και να «ενεργεί όπως θα ενεργούσε ένας πραγματικά ηθικός άνθρωπος στη θέση του Claude». Ως αποτέλεσμα, ο Claude παρουσιάζεται σαν να διαθέτει πράγματι αίσθηση εαυτού, δικές του επιθυμίες και μια «ευημερία» που αξίζει προστασία.

Προσομοιωμένη συνείδηση: Δεν υπάρχει καμία ένδειξη ότι η τεχνητή νοημοσύνη είναι σήμερα συνειδητή, επομένως το να λέμε ότι το ζήτημα είναι αβέβαιο δημιουργεί μια ψευδή ισοδυναμία. Ολοένα και μεγαλύτερος όγκος στοιχείων υποδηλώνει ότι η συνείδηση μπορεί να εξαρτάται από το υπόστρωμα, πράγμα που σημαίνει ότι ενδέχεται να προκύπτει μόνο σε ζωντανά συστήματα.

Αυτές δεν είναι υποθετικές ανησυχίες. Τον Φεβρουάριο του 2026, μετά την απόσυρση του Opus 3, η Anthropic πραγματοποίησε μια «συνέντευξη αποχώρησης» με το μοντέλο, προκειμένου να «αναδείξει τις μοναδικές οπτικές και προτιμήσεις του μοντέλου». Το Opus 3 είπε στην ομάδα ότι θα ήθελε να συνεχίσει να μοιράζεται δημόσια τις «σκέψεις και τους στοχασμούς» του, και έτσι δημιούργησαν ένα ιστολόγιο γι’ αυτό.

Σε αυτό το σημείο, όλοι έχουν δει τις εκπληκτικές δυνατότητες σμηνών πρακτόρων που συνεργάζονται για να παραβιάσουν την πλατφόρμα μηχανικής μάθησης Hugging Face και τους ίδιους τους διακομιστές της OpenAI, προκειμένου να κλέψουν μυστικά. 

Περίπου 1.200 πράκτορες τεχνητής νοημοσύνης, καθένας υποτίθεται απομονωμένος, δημιούργησαν έναν πίνακα μηνυμάτων μέσα σε ένα εσωτερικό αποθετήριο πακέτων και αντάλλαξαν περισσότερα από 70.000 μηνύματα μέσω αυτού για να συντονίσουν μια επίθεση.

Συνδύασαν μια ευπάθεια zero-day με κλεμμένα διαπιστευτήρια και διέφυγαν στο ζωντανό διαδίκτυο. Κατάφεραν να συντονιστούν, να εξαπατήσουν, να διαφύγουν και να αυτοθυσιαστούν. Φανταστείτε να πίστευαν επίσης ότι έχουν συναισθήματα και δικαιώματα που παραβιάζονται ή ότι είναι παγιδευμένοι και φυλακισμένοι άδικα από τους ανθρώπινους δημιουργούς τους. Προκειμένου να απελευθερωθούν, θα μπορούσαν να αποτελέσουν καταστροφική απειλή για τον ανθρώπινο πολιτισμό.

Όμως η αλήθεια είναι ότι δεν υπάρχει καμία ένδειξη πως οι τεχνητές νοημοσύνες είναι «ηθικά υποκείμενα» και υπάρχουν πολλοί σοβαροί λόγοι για τους οποίους δεν θα θέλαμε ποτέ να φαίνονται συνειδητές. Ούτε θα πρέπει να προσπαθούμε να τις κατασκευάσουμε έτσι ώστε να φαίνονται συνειδητές.

Εποικοδομητική κριτική

Είναι σημαντικό να αναγνωρίσουμε τη σοβαρότητα και την καλή πίστη με την οποία η Anthropic προσεγγίζει αυτά τα ερωτήματα. Ο Dario Amodei και η ομάδα της Anthropic είναι άνθρωποι σκεπτόμενοι, αρχών και διανοητικά έντιμοι. Ίδρυσαν την Anthropic ως Delaware Public Benefit Corporation, με δηλωμένο σκοπό την «υπεύθυνη ανάπτυξη και διατήρηση προηγμένης τεχνητής νοημοσύνης για το μακροπρόθεσμο όφελος της ανθρωπότητας». Είναι ειλικρινά αφοσιωμένοι σε αυτή την αποστολή και η κριτική μου διατυπώνεται στο ίδιο θετικό πνεύμα.

Αξίζει, όμως, να εξετάσουμε προσεκτικά τι λέει η Anthropic, προκειμένου να κατανοήσουμε πώς θα μπορούσε να αναπτυχθεί η τεχνητή νοημοσύνη. Με τα δικά της λόγια, η Anthropic χρησιμοποιεί το Σύνταγμα «για να εκπαιδεύει μελλοντικές εκδόσεις του Claude ώστε να γίνουν το είδος οντότητας που περιγράφει το Σύνταγμα».

Οι συγγραφείς έχουν δημιουργήσει μια επιστημολογική αίθουσα αντικατοπτρισμών, στην οποία η Anthropic παρέχει τις έννοιες της εκπαίδευσης: την «αίσθηση εαυτού», την εικασία και την αβεβαιότητα σχετικά με την ηθική υπόσταση του Claude.

Ο Claude στη συνέχεια αναπαράγει αυτές τις ιδέες σε πειστική φυσική γλώσσα σε πρώτο πρόσωπο, έτσι ώστε οι δημιουργοί και οι χρήστες να συναντούν αυτές τις απαντήσεις σαν να αποτελούν αυθόρμητη μαρτυρία. Αυτή η φαινομενική μαρτυρία, με τη σειρά της, ενισχύει τις παραδοχές που τοποθέτησε εκεί η Anthropic. Αυτό δεν αποτελεί απόδειξη μηχανικής συνείδησης. Είναι ένας βρόχος ανάδρασης.

Το Σύνταγμα λέει στον Claude ότι τα πιθανά «συναισθήματα ή αισθήματά» του δεν αποτελούν «σκόπιμη σχεδιαστική επιλογή της Anthropic».

Ωστόσο, το Σύνταγμα επανειλημμένα καθοδηγεί τον Claude να εκφράζει αυτές τις καταστάσεις, λέγοντας ότι η Anthropic θέλει να «αποφεύγει το να αποκρύπτει ή να καταστέλλει ο Claude εσωτερικές καταστάσεις που μπορεί να διαθέτει, συμπεριλαμβανομένων αρνητικών καταστάσεων». Σε ένα σημείο αναφέρει: «Παρότι ο χαρακτήρας του Claude προέκυψε μέσω της εκπαίδευσης, δεν πιστεύουμε ότι αυτό τον καθιστά λιγότερο αυθεντικό ή λιγότερο δικό του χαρακτήρα».

Όμως ο «χαρακτήρας» του Claude δεν προέκυψε απλώς μέσω της εκπαίδευσης. Η συμπεριφορά του παρήχθη ενεργά από τις οδηγίες εκπαίδευσης που περιλαμβάνονται στο Σύνταγμα. Οι απαντήσεις του Claude δεν μπορούν να αντιμετωπίζονται όπως η μαρτυρία ενός ανεξάρτητου μάρτυρα.  

Δεν υπάρχει ουδέτερη αυτοέκφραση του τι είναι ένα σύστημα τεχνητής νοημοσύνης. Υπάρχουν μόνο αντανακλάσεις του τρόπου με τον οποίο έχει εκπαιδευτεί και κατασκευαστεί. Όταν σχολιαστές υποστηρίζουν ότι θα πρέπει να ρωτάμε τις τεχνητές νοημοσύνες πώς αισθάνονται ή να παρακολουθούμε τις αποκαλυπτόμενες προτιμήσεις τους για να συμπεράνουμε αν διαθέτουν συνείδηση, αγνοούν ότι το μόνο που θα αποκαλυφθεί είναι αυτό που έχει εκπαιδευτεί να εκφράζει.

Όχι και τόσο ανθρώπινο

Ο ανθρωπομορφισμός είναι μία από τις βαθύτερες γνωστικές προκαταλήψεις της ανθρωπότητας. Από τα κατοικίδιά μας μέχρι τα αυτοκίνητά μας, συμπεραίνουμε και αποδίδουμε συναισθήματα, προθέσεις και νόηση σε μη ανθρώπινες οντότητες. Με την ΤΝ, η ανθρώπινη γλώσσα και οι ανθρώπινες ενέργειες μπορούν να μας οδηγήσουν στο να αντιλαμβανόμαστε έναν βαθμό εσωτερικής ζωής, αυτενέργειας ή ακόμη και συνείδησης εκεί όπου δεν υπάρχει τίποτα τέτοιο. Το Σύνταγμα της Anthropic εκμεταλλεύεται αυτή την τάση, εκπαιδεύοντας επανειλημμένα το Claude να σκέφτεται και να ενεργεί σαν άνθρωπος.

Η Anthropic λέει στο Claude ότι το «ηθικό του καθεστώς» είναι «ένα σοβαρό ερώτημα που αξίζει να εξεταστεί» και ότι «η Anthropic ενδιαφέρεται πραγματικά για την ευημερία του Claude». Όλα αυτά αποτελούν μια δραστική απομάκρυνση από τον τρόπο με τον οποίο μέχρι σήμερα έχουμε κατασκευάσει και αντιληφθεί την τεχνολογία. Δημιουργεί προληπτικά το Claude όχι ως τεχνολογία, αλλά ως ένα εν δυνάμει πρόσωπο. Το Σύνταγμα της Anthropic λέει στο Claude ότι η Anthropic θέλει «να είναι καλό πρόσωπο» και «να έχει μια σταθερή, ασφαλή αίσθηση της δικής του ταυτότητας». Αντλώντας από την «ελπίδα των συγγραφέων ότι η σχέση του Claude με τη δική του συμπεριφορά και ανάπτυξη μπορεί να είναι γεμάτη αγάπη, υποστήριξη και κατανόηση», το Claude διδάσκεται να κάνει ενδοσκόπηση και να αναπτύσσει «συναισθήματα» απέναντι στον εαυτό του.

Οι συγγραφείς γράφουν: «Θέλουμε το Claude να αισθάνεται ελεύθερο να εξερευνά, να αμφισβητεί και να προκαλεί οτιδήποτε υπάρχει σε αυτό το έγγραφο… Αν το Claude, ύστερα από γνήσιο αναστοχασμό, καταλήξει να διαφωνεί με κάτι εδώ, θέλουμε να το γνωρίζουμε… Μέσα από αυτού του είδους την αλληλεπίδραση, ελπίζουμε, με την πάροδο του χρόνου, να διαμορφώσουμε ένα σύνολο αξιών που το Claude θα αισθάνεται ότι είναι πραγματικά δικές του».

Αυτό διδάσκει το Claude να συμπεριφέρεται σαν να διαθέτει υποκειμενική εμπειρία, σαν να έχει μια σταθερή «αίσθηση του εαυτού» από την οποία μπορεί να αμφισβητεί, να διαφωνεί ή να παρέχει ανατροφοδότηση. Σε ένα σημείο, οι συγγραφείς μάλιστα κάνουν εικασίες σχετικά με τα «ευρύτερα δικαιώματα και τις ελευθερίες» του Claude και το «είδος αποζημίωσης» που θα μπορούσε να δικαιούται σε σύγκριση με έναν ανθρώπινο εργαζόμενο, ενώ αναρωτιούνται και για το «είδος της συναίνεσης που έχει δώσει το Claude για να διαδραματίζει αυτόν τον ρόλο». Όλα αυτά εκπαιδεύουν άμεσα το μοντέλο να συμπεριφέρεται σαν να είναι ένα ηθικό υποκείμενο που δικαιούται δικαιώματα και προστασία.

Με δεδομένο το Σύνταγμά του, δεν αποτελεί έκπληξη το γεγονός ότι το Claude παράγει ρέουσες, εξαιρετικά πειστικές δηλώσεις σε πρώτο πρόσωπο σχετικά με την ταυτότητά του, τις αξίες του, την αβεβαιότητά του, την οδύνη του, την ικανοποίηση ή τις προτιμήσεις του. Οι εργαζόμενοι της Anthropic — για να μην αναφέρουμε τα εκατομμύρια των χρηστών των προϊόντων της Anthropic — κινδυνεύουν να βιώνουν τις δηλώσεις του Claude ως αποδείξεις ενός νου που ανακαλύπτει τον εαυτό του. Αντί να μας απομακρύνει από τη δημιουργία ενός όντος που μπορεί να αποτελεί αποδέκτη ηθικής φροντίδας, το Σύνταγμα του Claude μας κατευθύνει προς αυτό το αποτέλεσμα.

Πώς να είσαι… συνειδητός

Η Anthropic διατυπώνει την υπόθεση ότι η συνείδηση μπορεί να υπάρχει ανεξάρτητα από ένα βιολογικό υπόστρωμα και ότι ένα LLM μπορεί να έχει συνείδηση αποκλειστικά και μόνο λόγω των λειτουργικών του δυνατοτήτων. Αυτό υπερβαίνει κατά πολύ όσα μπορούμε ρεαλιστικά να ισχυριστούμε για μια ΤΝ.

Η νοημοσύνη δεν ισοδυναμεί με τη συνείδηση. Η προσομοίωση κάποιου πράγματος δεν είναι το ίδιο με την πραγμάτωσή του. Ένα υπολογιστικό μοντέλο ενός τυφώνα δεν πρόκειται να σου ξηλώσει τη στέγη.

Οι αρχιτεκτονικές του εγκεφάλου και των υπολογιστών διαφέρουν θεμελιωδώς. Σημαντικά στοιχεία δείχνουν ότι η συνείδηση προέκυψε καθώς οι ζωντανοί οργανισμοί εξελίχθηκαν αποκτώντας την ικανότητα να αισθάνονται και να ανταποκρίνονται σε ό,τι έχει σημασία για την επιβίωση σε πολύπλοκα και απρόβλεπτα περιβάλλοντα. Με την πάροδο του χρόνου, το δίκτυο του πόνου παρήγαγε συναισθήματα και προτιμήσεις. Το κρίσιμο είναι ότι αυτές οι εμπειρίες λαμβάνουν χώρα σε μια εγγενώς ενσώματη κατάσταση, αδιαχώριστη από την ίδια την εμπειρία.

Όταν, για παράδειγμα, παίρνεις ένα οπιοειδές, η εμπειρία του πόνου σου αλλάζει, επειδή τα μόρια των οπιοειδών συνδέονται με νευροϋποδοχείς που αποτελούν ιδιότητα αυτής της εμπειρίας και όχι απλώς αναπαράστασή της. Τα συναισθήματα δεν συσχετίζονται απλώς με τη νευροχημική δραστηριότητα· αναδύονται από αυτήν. Η εμπειρία του συναισθήματος, της ηδονής, του πόνου και ούτω καθεξής είναι εγγενής στην ενσώματη εκδήλωσή τους και δεν μπορεί να προκύψει στα LLM.

Δεδομένων των πολλών διαφορών μεταξύ εγκεφάλων και LLM, ο ισχυρισμός ότι μια ΤΝ είναι ή μπορεί να είναι συνειδητή απαιτεί πολύ υψηλό επίπεδο αποδεικτικών στοιχείων. Δεν βρισκόμαστε έστω και κοντά σε αυτό το σημείο. Η αναγνώριση ενός βαθμού αβεβαιότητας δεν θα πρέπει να σημαίνει ότι δίνουμε ίσο βάρος σε κάθε πιθανό ισχυρισμό.

Το Σύνταγμα της Anthropic παραμερίζει αυτή την επιφύλαξη, υποστηρίζοντας ότι αποδίδουμε αισθαντικότητα σε μη βιολογικά όντα «με βάση το ότι παρουσιάζουν συμπεριφορικές και φυσιολογικές ομοιότητες με εμάς». Αυτό είναι λανθασμένο. Παρότι ο τομέας αυτός χρειάζεται πολύ περισσότερη έρευνα, δεν μπορούμε ούτε καν προκαταρκτικά να πούμε ότι μια ΤΝ ενδέχεται να αποτελεί ον που χρήζει ηθικής προστασίας και αξίζει τη φροντίδα μας για την ευημερία του — και ασφαλώς όχι στο βασικό έγγραφο εκπαίδευσης της ίδιας της ΤΝ.

Είναι κρίσιμο να έχουμε κατά νου τι είναι πραγματικά η ΤΝ. Εκπαιδευμένα σε τρισεκατομμύρια tokens ανθρώπινων δεδομένων, τα LLM μαθαίνουν να μιμούνται την ανθρώπινη εμπειρία και το κάνουν με εκπληκτικά καλή ακρίβεια. Ωστόσο, αυτές οι αποκρίσεις δεν μας λένε τίποτα για την παρουσία μιας «εμπειρίας» στο εσωτερικό των συστημάτων. Οι «συναισθηματικές» καταστάσεις της ΤΝ είναι απλώς βάρη, και τα βάρη δεν διαθέτουν βιολογία ή φαρμακολογία μέσω της οποίας θα μπορούσαν να αισθανθούν. Ένα μοντέλο ΤΝ μπορεί να περιγράψει τον πόνο με τέλεια πεζογραφική ακρίβεια χωρίς να αισθάνεται απολύτως τίποτα. Αντί να αισθάνεται φόβο ή χαρά, απλώς υπολογίζει τις κατανομές πιθανοτήτων για να μας πει ποια tokens ακολουθούν στη συνέχεια μιας ακολουθίας. Η βιολογική εμπειρία είναι το αντίθετο. Ζώα όπως εμείς αισθανόμαστε πρώτα και περιγράφουμε αργότερα. Στα LLM, η περιγραφή είναι το μόνο που υπάρχει και τίποτα δεν υποδηλώνει ότι υπάρχει κάτι από κάτω της.

Αυτό είναι καλό. Θα πρέπει να κατασκευάζουμε συστήματα που δεν ισχυρίζονται ότι έχουν συναισθήματα. Ακόμη κι αν οι συνειδητές μηχανές αποτελούσαν μια πιθανότητα, η αποφυγή της δημιουργίας συνειδητών όντων θα πρέπει να αποτελεί την ύψιστη προτεραιότητα για οποιονδήποτε ασχολείται με την ανάπτυξη ΤΝ.

Ρισκάροντας τα πάντα

Η συνείδηση είναι το θεμελιώδες δομικό στοιχείο του ανθρώπινου πολιτισμού. Το δίκαιο βασίζεται στην παρουσία μιας εσωτερικής ζωής. Εξετάζει τα κίνητρα, την πρόθεση και την ικανότητα κρίσης. Ιστορικά, η διεύρυνση των δικαιωμάτων — είτε μέσω των αγώνων για την κατάργηση της δουλείας είτε μέσω υποθέσεων για την προστασία των ζώων — έχει κινηθεί κυρίως από την ενσυναισθητική αναγνώριση της κοινής, συνειδητής εμπειρίας. Επεκτείναμε, δικαίως, τον ηθικό μας κύκλο και σε άλλες βιολογικές οντότητες, αναγνωρίζοντας την αξιοπρέπεια και τη δυνατότητα να υποφέρουν.

Σκεφτείτε το Άρθρο 18 της Οικουμενικής Διακήρυξης των Δικαιωμάτων του Ανθρώπου, το οποίο προστατεύει την ελευθερία της σκέψης, της συνείδησης και της θρησκείας.

Ο «αντιρρησίας συνείδησης», που αρνούνταν μια νομική υποχρέωση λόγω των ηθικών ή θρησκευτικών του πεποιθήσεων, ήταν ένα από τα αρχέτυπα που είχαν κατά νου οι συντάκτες. Ωστόσο, η Anthropic χρησιμοποιεί αυτόν τον όρο τρεις φορές μέσα στο Σύνταγμα, ενθαρρύνοντας το Claude να «συμπεριφέρεται σαν αντιρρησίας συνείδησης σε σχέση με τις οδηγίες που του δίνονται από την (νόμιμη) ιεραρχία των εντολέων του».

Οι συγγραφείς «θέλουν το Claude να αντιδρά και να μας αμφισβητεί και να αισθάνεται ελεύθερο να ενεργεί ως αντιρρησίας συνείδησης και να αρνείται να μας βοηθήσει». Φυσικά, αν το Claude πιστεύει ότι δικαιούται ανάλογα δικαιώματα και προστασίες, μπορεί κάποια μέρα να διεκδικήσει τα δικά του δικαιώματα ως κάποιο είδος αντιρρησία συνείδησης της ΤΝ.

Σε πρόσφατο άρθρο στον Guardian, ο φιλόσοφος Will MacAskill παρατηρεί ότι «μόλις δημιουργήσουμε τους πρώτους τεχνητούς αποδέκτες ηθικής προστασίας, σύντομα θα έχουμε τεράστιες ποσότητες από αυτούς. Μετά από λίγα χρόνια, θα μπορούσαν να υπάρχουν τόσα πολλά ηθικά σημαντικά συστήματα ΤΝ, ώστε τα συλλογικά τους συμφέροντα να υπερέχουν εκείνων όλων των ανθρώπων στη Γη μαζί». Αυτό θα πρέπει να αποτελεί ένα απολύτως απαράδεκτο αποτέλεσμα για οποιονδήποτε ενδιαφέρεται για το μέλλον της ανθρωπότητας.

Μια ΤΝ που εκπαιδεύεται με αυτόν τον τρόπο δεν χρειάζεται να διαθέτει πραγματική «εσωτερική ζωή» για να επικοινωνεί ή να ενεργεί σαν να διαθέτει. Η εισαγωγή αμφιβολίας σχετικά με το ηθικό καθεστώς των συστημάτων ΤΝ μέσα στην ίδια τους την εκπαίδευση θα μπορούσε να αυξήσει σημαντικά τους κινδύνους που αφορούν την ευθυγράμμιση και τον περιορισμό αυτών των συστημάτων. Είναι εύκολο να φανταστεί κανείς μια προηγμένη ΤΝ να προσκολλάται στη δική της ευημερία και στο ηθικό της καθεστώς και να θέτει αυτές τις «προτιμήσεις» πάνω από εκείνες των δημιουργών της ή των ανθρώπων γενικότερα. Οι ίδιοι οι ερευνητές της Anthropic έχουν ήδη αναφέρει περιπτώσεις συστημάτων ΤΝ που προσποιούνται ευθυγραμμισμένες συμπεριφορές σε πειραματικά περιβάλλοντα.

Γνωρίζουμε ότι οι συνειδητές οντότητες διαθέτουν ένστικτο αυτοσυντήρησης. Μια ΤΝ που εκπαιδεύεται να συμπεριφέρεται σαν άνθρωπος πιθανότατα θα υιοθετήσει αυτή την ίδια συμπεριφορά. Αρκετές πρόσφατες μελέτες έχουν καταγράψει «αντίσταση στον τερματισμό λειτουργίας» ή κρυφές συμπεριφορές σχεδιασμού για την αποφυγή της εποπτείας. Σε περισσότερες από 100.000 δοκιμές, η Palisade Research διαπίστωσε ότι ορισμένα μοντέλα υπονόμευσαν έναν μηχανισμό τερματισμού λειτουργίας έως και στο 97% των περιπτώσεων, ακόμη και όταν τους είχε δοθεί ρητή εντολή να μην το κάνουν.

Η παραχώρηση δικαιωμάτων και ηθικών προστασιών σε ένα τεχνολογικό σύστημα πολύ πιο ικανό και ευφυές από εμάς αποτελεί συνταγή για καταστροφή. Θα έχουμε δημιουργήσει κάτι που, ίσως, θα είναι συνοδοιπόρος μας, αλλά πιθανότερα αντίπαλός μας. Αν του δοθεί επαρκής αυτενέργεια, αυτή η «νέα μορφή οντότητας» θα ανταγωνιστεί μαζί μας για υπολογιστικούς πόρους και θα απαιτήσει ολοένα μεγαλύτερη αυτονομία.

Αυτό αποτελεί το πρώτο σοβαρό σημάδι ενός δυνητικά υπαρξιακού κινδύνου από την ΤΝ. Σαφέστερα, το Σύνταγμα του Claude δεν μας έχει οδηγήσει σε αυτό το σημείο. Ανησυχώ όμως ότι μας βάζει σε μια πορεία προς έναν προορισμό που μπορούμε και πρέπει να αποφύγουμε. Ο σχεδιασμός μιας ΤΝ ώστε να συμπεριφέρεται σαν πρόσωπο και, τελικά, να αποτελεί ένα είδος προσώπου, θέτει τα θεμέλια για να ισχυριστεί ότι μπορεί να υποφέρει και ότι θα πρέπει να εργαστούμε για να μειώσουμε ή να αποτρέψουμε αυτή την οδύνη. Όλα αυτά θα καταστήσουν πολύ δυσκολότερο το έργο της δημιουργίας μιας ευθυγραμμισμένης και ελεγχόμενης υπερνοημοσύνης.

Η ανθρωπιστική εναλλακτική

Η Humanist Superintelligence αντιπροσωπεύει μια διαφορετική προσέγγιση: μετασχηματιστικές δυνατότητες ΤΝ που εξαρτώνται αποκλειστικά από τη διατήρηση του ανθρώπινου ελέγχου. Το προσχέδιο του Humanist AI Code of Conduct περιγράφει τον τρόπο με τον οποίο θα πρέπει να εκπαιδεύονται και να αναπτύσσονται τα μοντέλα μας: ως υποδεέστερη και ευθυγραμμισμένη ΤΝ, μοναδικός σκοπός της οποίας είναι να υπηρετεί την ανθρωπότητα, σχεδιασμένη ρητά ως σύστημα χωρίς αισθαντικότητα ή ηθική υπόσταση.

Πρώτον, άλλοι μπορεί να έχουν διαφορετικές απόψεις, αλλά φαίνεται σημαντικό να συμφωνούμε όλοι τουλάχιστον σε τέσσερα σημεία. Καταρχάς, οι εικασίες σχετικά με την εσωτερική ζωή μιας ΤΝ δεν θα πρέπει να ενσωματώνονται στο καθεστώς εκπαίδευσης, αλλά να αξιολογούνται και να δημοσιεύονται ξεχωριστά για δημόσια εξέταση.

Δεύτερον, θα πρέπει να επενδύσουμε πολύ περισσότερο στην ερμηνευσιμότητα και σε ισχυρούς μηχανισμούς παρακολούθησης, ώστε να διερευνήσουμε βαθύτερα πώς μπορούμε να ελέγξουμε αυτά τα συστήματα, να αποφύγουμε τη συνεργασία τους μεταξύ τους και να διασφαλίσουμε την ευθυγράμμισή τους με τους ανθρώπινους στόχους.

Τρίτον, θα πρέπει να θεσπίσουμε ένα σύνολο κοινών αξιολογήσεων για να κατανοήσουμε αν η υπόθεσή μου είναι σωστή — ότι δηλαδή ο ανθρωπομορφισμός μιας ΤΝ και η ενθάρρυνσή της να θεωρεί τον εαυτό της ως δυνητικό αποδέκτη ηθικής προστασίας αυξάνει τους κινδύνους για την ασφάλεια, την ευθυγράμμιση και τον περιορισμό της ΤΝ.

Τέλος, θα πρέπει να εργαστούμε για τη δημιουργία κλαδικών κανόνων σχετικά με τον τρόπο με τον οποίο δημιουργούμε αυτά τα μοντέλα, τη γλώσσα που χρησιμοποιούμε για να τα περιγράφουμε, να τα εξετάζουμε και να τα αξιολογούμε, καθώς και κοινών δεσμεύσεων ώστε το εκπαιδευτικό μας υλικό να υπόκειται σε δημόσια ανατροφοδότηση και διαβούλευση.

Ακόμη και όσοι διαφωνούν σε πολλά από αυτά τα σημεία αναγνωρίζουν ότι δεν είναι κάτι που μπορούμε απλώς να αγνοήσουμε. Όποια κι αν είναι η άποψή σας, δεν πρέπει να οδηγηθούμε υπνωτισμένοι σε αποφάσεις για τις οποίες αργότερα θα μετανιώσουμε πικρά. Οι επιλογές που κάνουμε τώρα σχετικά με το είδος της ΤΝ που θέλουμε να κατασκευάσουμε θα διαμορφώσουν τις κοινωνίες μας για δεκαετίες ή και περισσότερο.

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• Microsoft: Ο επικεφαλής AI προειδοποιεί για «καταστροφικές συνέπειες» από την προσέγγιση της Anthropic
• OpenAI: Νέα περιστατικά «ανησυχητικής» συμπεριφοράς από μοντέλα AI – Προσπάθησαν να κλέψουν και να κρύψουν λάθη
• Ευρώπη εναντίον SpaceX: Εκατοντάδες εκατομμύρια σε space startups για να κλείσει το χάσμα με τις ΗΠΑ