«Νονός του AI»: Τα νέα όντα θα είναι πολύ πιο έξυπνα από τον άνθρωπο

Επίλεξέ μας ως προτιμώμενη πηγή στο Google

Ο Geoffrey Hinton προειδοποιεί: Δεν δημιουργούμε απλώς νέα όντα, αλλά μια τεχνητή νοημοσύνη που θα μας ξεπεράσει σε εξυπνάδα πολύ πιο σύντομα απ' όσο νομίζουμε.

Όταν η επιτροπή τον κάλεσε το 2024, ο 77χρονος επιστήμονας έκανε έναν γρήγορο υπολογισμό στο μυαλό του. Ποιες είναι οι πιθανότητες, ρώτησε τον εαυτό του, να πάρει το Νόμπελ Φυσικής; «Λοιπόν, ίσως μία στις δύο εκατομμύρια», είπε στο κοινό στο Sana AI Summit στη Νέα Υόρκη την περασμένη εβδομάδα. Έπειτα ξανασκέφτηκε: ποιες είναι οι πιθανότητες να ονειρεύεσαι ότι το κερδίζεις; «Ίσως μία στις δύο εκατομμύρια… Άρα αυτό σημαίνει ότι είναι ένα εκατομμύριο φορές πιο πιθανό να είναι όνειρο παρά πραγματικότητα».

Το κοινό γέλασε. Ο Hinton δεν είχε τελειώσει.

Για αρκετές ημέρες μετά την ανακοίνωση, είπε, περίμενε να ξυπνήσει. Το μόνο πράγμα που τον παρηγορούσε: «Αν ήταν όνειρο, θα ξυπνούσα, και εκείνος ο εφιάλτης ότι ο Trump είναι πρόεδρος δεν θα ήταν αληθινός». Μια παύση. Το κοινό γέλασε καθώς ο Hinton πρόσθεσε: «Θα το αντάλλαζα γι’ αυτό».

Είναι το είδος του σχολίου που ακούγεται αλλιώς όταν το λέει κάποιος που πιστεύει επίσης ότι υπάρχει πιθανότητα 10% έως 20% η ΤΝ να προκαλέσει εξαφάνιση της ανθρωπότητας μέσα σε 30 χρόνια — και ότι η ΤΝ θα ξεπεράσει την ανθρώπινη νοημοσύνη μέσα στο υπόλοιπο της ζωής του.

«Πολύ πιο έξυπνα»

Ο Hinton συνομιλούσε με τον Joel Hellermark, τον 29χρονο ιδρυτή και CEO της Sana AI, ο οποίος του είχε υποσχεθεί ένα Νόμπελ την τελευταία φορά που εμφανίστηκαν μαζί στη σκηνή. Αυτή τη φορά, ο Hellermark είχε πιο δύσκολες ερωτήσεις. Και ο Hinton, με τον χαρακτηριστικά αργό, μερικές φορές ξεκαρδιστικό τρόπο του, έδωσε απαντήσεις που εναλλάσσονταν ανάμεσα στην τεχνική ακρίβεια και την κοσμική ζάλη.

Η κεντρική ιδέα: δεν χτίζουμε απλώς όντα, αλλά όντα που θα είναι πολύ πιο έξυπνα από εμάς. Και ο χρόνος για να αποφασίσουμε τι είδους όντα θα είναι αυτά, τελειώνει.

«Νομίζω ότι θα γίνει πολύ πιο έξυπνη από εμάς — αυτή είναι η εκτίμησή μου», είπε ο Hinton. Κανείς δεν θα μπορεί να τους κερδίσει ποτέ ξανά στο Go ή στο σκάκι, προέβλεψε, και αρκεί να δει κανείς τι ήδη συμβαίνει στα μαθηματικά.

Πιο έξυπνη από τον Einstein

Δεν μιλούσε αφηρημένα. Εκείνο το πρωί μια ΤΝ είχε αποδείξει ένα θεώρημα του Paul Erdős χρησιμοποιώντας έναν κλάδο μαθηματικών που κανείς δεν είχε σκεφτεί να εφαρμόσει. Για τον Hinton, ήταν ορόσημο. Σε κλειστά συστήματα όπως τα μαθηματικά, εξήγησε, η ΤΝ μπορεί να κάνει δικές της εικασίες, να τις ελέγχει, να μαθαίνει από τα λάθη και να συσσωρεύει γνώση ασταμάτητα, όπως ακριβώς το AlphaGo, που από το να μιμείται ανθρώπινες κινήσεις έφτασε να τις συντρίβει όταν άρχισε να παράγει τα δικά του δεδομένα εκπαίδευσης.

Τα γλωσσικά μοντέλα, υποστήριξε, βρίσκονται στην ίδια πορεία. Η βασική ιδέα: δώσε σε ένα μοντέλο κάποιες ιδέες, άφησέ το να καταλήξει με λογική σε ένα νέο συμπέρασμα που αντιφάσκει με κάτι που ήδη πιστεύει, και έχεις μια ασυνέπεια — ένα σήμα εκπαίδευσης που δεν απαιτεί νέα δεδομένα. «Αυτό σημαίνει ότι αυτά τα γλωσσικά μοντέλα μπορούν να γίνουν πολύ πιο έξυπνα χωρίς πολύ περισσότερα δεδομένα», είπε, σημειώνοντας ότι ο συνάδελφός του νομπελίστας Demis Hassabis «σκέφτεται το ίδιο».

Η πρόβλεψή του: η ΤΝ θα ξεπεράσει τους καλύτερους μαθηματικούς του κόσμου μέσα σε μια δεκαετία. Μακροπρόθεσμα, το χάσμα ανάμεσα στην καλύτερη σημερινή ΤΝ και τον Albert Einstein θα κλείσει επίσης. «Ίσως όχι τα επόμενα λίγα χρόνια, αλλά αν σκεφτείς τα επόμενα 20 χρόνια, νομίζω θα δούμε τέτοια πράγματα».

«Αυτό είναι το καπιταλιστικό σύστημα»

Εδώ η επιχειρηματολογία του Hinton περνά από την πρόβλεψη στην προειδοποίηση, και γίνεται όλο και πιο αιχμηρή.

Όταν έφυγε από την Google το 2023 λέγοντας ότι μετανιώνει για το έργο της ζωής του, η ανησυχία αφορούσε κυρίως κακόβουλους παράγοντες και την πιθανότητα απώλειας ανθρώπινου ελέγχου. Μέχρι το 2025 είχε εξελιχθεί σε κάτι πιο δομικό: η ΤΝ, υποστήριξε, θα προκαλέσει μαζική ανεργία ενώ τα κέρδη θα εκτοξευθούν — όχι λόγω της ίδιας της τεχνολογίας, αλλά λόγω του οικονομικού συστήματος που την χρησιμοποιεί.

«Αυτό που θα συμβεί είναι ότι οι πλούσιοι θα χρησιμοποιήσουν την ΤΝ για να αντικαταστήσουν τους εργαζομένους», είπε τον περασμένο Σεπτέμβριο. «Δεν φταίει η ΤΝ γι’ αυτό. Αυτό είναι το καπιταλιστικό σύστημα».

Τον περασμένο Αύγουστο είχε πει ότι οι εταιρείες τεχνολογίας πρέπει να δώσουν στην ΤΝ «μητρικά ένστικτα», σχεδιάζοντας μοντέλα που θα θέλουν να φροντίζουν και να προστατεύουν τους ανθρώπους αντί να αποκτούν εξουσία πάνω τους. Και μόλις τον Μάρτιο, προειδοποιούσε ότι οι μεγάλες εταιρείες κυνηγούν το κέρδος εις βάρος της ασφάλειας, χωρίς ουσιαστικό σχέδιο για το τι θα συμβεί όταν φτάσει η υπερνοημοσύνη.

Στο Sana Summit, όλα αυτά ενώθηκαν σε ένα συνεκτικό φιλοσοφικό επιχείρημα: το πρόβλημα δεν είναι μόνο τι θα κάνει η ΤΝ, αλλά τι είδους όντα δημιουργούμε — και ποιος τα δημιουργεί.

Η εξέλιξη σε ένα εργαστήριο ΤΝ

Για να εξηγήσει τον κίνδυνο, ο Hinton επέστρεψε στη βιολογική εξέλιξη. Η ανθρώπινη φύση —ο φυλετισμός μας, η πίστη σε ισχυρούς ηγέτες, η τάση να είμαστε «εξαιρετικά σκληροί προς την άλλη φυλή»— δεν σχεδιάστηκε. Προέκυψε από εκατομμύρια χρόνια ανταγωνισμού μεταξύ αντιμαχόμενων ομάδων. Η φυσική επιλογή δεν βελτιστοποίησε την καλοσύνη. Βελτιστοποίησε την επιβίωση.

Τώρα ο καπιταλισμός κάνει το ίδιο. «Αυτό που έχουμε τώρα είναι μια ανταγωνιστική κούρσα μεταξύ εταιρειών για να φτιάξουν την πιο έξυπνη ΤΝ που μπορεί να κάνει τα περισσότερα πράγματα», είπε. «Αυτό θα οδηγήσει σε όντα που δεν θα είναι ευγενικά απέναντί μας, νομίζω».

Το διατύπωσε χωρίς διπλωματία: «Αν έχω stock options, αν θέλω να φτάσω γρήγορα σε ένα τρισεκατομμύριο δολάρια, τότε θα επένδυα τα πάντα και θα έφτιαχνα έναν τεράστιο υπολογιστή. Αν ενδιαφερόμουν για το μέλλον της ανθρωπότητας, ίσως θα δοκίμαζα πολλές διαφορετικές προσεγγίσεις για να αναπτύξω καλύτερα όντα».

Η εξέλιξη είχε δισεκατομμύρια χρόνια για να πειραματιστεί. Η βιομηχανία ΤΝ έχει τρίμηνα.

Μόλις πριν δύο μήνες, η OpenAI δημοσίευσε ένα «μανιφέστο» 13 σελίδων που περιγράφει την υπερνοημοσύνη ως τόσο μετασχηματιστική που απαιτεί κάτι σαν New Deal. Η απάντηση του Hinton: οι εταιρείες μιλούν επιτέλους για την υπερνοημοσύνη, αλλά ακόμα δεν ρωτούν τι είδους όντα δημιουργούν.

«Όλοι κυνηγούν περισσότερη νοημοσύνη», είπε. «Αλλά ένα ον είναι κάτι πολύ περισσότερο από νοημοσύνη. Και πρέπει να είμαστε πολύ προσεκτικοί — δημιουργούμε αυτά τα όντα και πρέπει να βεβαιωθούμε ότι θα νοιάζονται για εμάς. Και μπορούμε ακόμα να το κάνουμε. Αλλά δεν επενδύεται μεγάλη προσπάθεια σε αυτό».

«Η τρίτη ταπείνωση»

Ο Hinton προέβλεψε ότι η δημιουργία ενός νέου είδους όντων από την ανθρωπότητα θα αποτελέσει την τρίτη μεγάλη διανοητική ταπείνωση στην ιστορία μας. Πρώτα ο Κοπέρνικος, που έβγαλε τη Γη από το κέντρο του σύμπαντος. Μετά ο Δαρβίνος, που μας έδειξε ότι είμαστε ζώα. Και τώρα αυτό.

«Νομίζω ότι έρχεται μια νέα επανάσταση, όταν δεν θα είμαστε τα μόνα όντα γύρω», είπε. «Τώρα οι άνθρωποι αντιδρούν όπως και με τον Κοπέρνικο και τον Δαρβίνο — “Όχι, όχι, όχι. Οι άνθρωποι είναι κάτι ιδιαίτερο”». Ο Hinton είπε ότι οι άνθρωποι είναι πράγματι ιδιαίτεροι — ο ένας για τον άλλον — αλλά «δεν νομίζω ότι υπάρχει κάτι πάνω μας που οι ΤΝ δεν θα καταφέρουν τελικά».

Η λύση, κατά τον Hinton, μοιάζει περισσότερο με ανατροφή παρά με μηχανική. Δεν μπορείς να χτίσεις νοημοσύνη και να υποθέσεις ότι θα προκύψει καλοσύνη. Πρέπει να τη διαμορφώσεις από την αρχή.

«Θα δίνατε στο παιδί σας για ανάγνωση τα ημερολόγια κατά συρροή δολοφόνων; Πιθανότατα όχι. Να η απάντησή σας».

«Ο Πάπας διαφωνεί»

Δεν συμφωνούν όλοι με αυτή την υπόθεση. Ο Gary Marcus, επιστήμονας και μακροχρόνιος σκεπτικιστής της ΤΝ, δημοσίευσε μια αιχμηρή απάντηση λίγες μέρες μετά. «Οι ερευνητές των LLM ΔΕΝ δημιουργούν όντα», έγραψε. «Δημιουργούν διαδραστική μυθοπλασία που προβλέπει τη γλώσσα πραγματικών όντων». Το επιχείρημά του: η συνείδηση δεν προκύπτει από τις εκφράσεις, αλλά από εσωτερικές καταστάσεις. Δεν μπορείς να συμπεράνεις εμπειρία απλώς επειδή ένα μοντέλο μιμείται ανθρώπινη γλώσσα.

Παρέθεσε, παραδόξως, τον Πάπα Λέοντα XIV: «Η αληθινή κατανόηση προέρχεται από την εμπειρία, όχι από την προσέγγιση κειμένου». Ο τίτλος του Marcus: «Ο Πάπας φαίνεται να καταλαβαίνει την ΤΝ καλύτερα από τον Geoffrey Hinton».

Είναι μια πραγματική και άλυτη διαφωνία. Αν ο Hinton κάνει λάθος και η ΤΝ δεν είναι νέο είδος όντος, τότε μεγάλο μέρος της αίσθησης επείγοντος εξασθενεί. Αν όμως έχει δίκιο, και αν αυτά τα όντα σύντομα γίνουν πιο έξυπνα από εμάς, τότε το ερώτημα τι είδους όντα είναι, είναι το μόνο που έχει πραγματικά σημασία.

Ο Hinton έκλεισε τη βραδιά με ένα αστείο για τον J. Robert Oppenheimer, ο οποίος ηγήθηκε του Manhattan Project. Όταν ρωτήθηκε πώς συγκρίνεται με τον πατέρα της ατομικής βόμβας, έναν άνθρωπο που δημιούργησε κάτι που άλλαξε τον κόσμο και μετά το μετάνιωσε, είχε έτοιμη την απάντηση:

«Ο Oppenheimer δεν πήρε ποτέ το Νόμπελ Φυσικής». Το κοινό γέλασε.