Ερευνητής της Anthropic: «Πάνω από 10% η πιθανότητα η AI να αφανίσει την ανθρωπότητα»
- Ο πρώην ερευνητής της Anthropic Jacob Coxon παραιτήθηκε καταγγέλλοντας ότι οι κορυφαίες εταιρείες AI επιδιώκουν την υπερνοημοσύνη χωρίς επαρκές σχέδιο ασφάλειας.
- Ο Evan Hubinger της Anthropic εκτίμησε ότι υπάρχει πιθανότητα άνω του 10% η AI να «σκοτώσει όλους τους ανθρώπους» την επόμενη δεκαετία, μια προσωπική εκτίμηση που δεν αποτελεί επίσημη θέση της εταιρείας.
- Οι ειδικοί διαφωνούν έντονα για το χρονοδιάγραμμα: ορισμένοι τοποθετούν την υπερνοημοσύνη μέσα στα επόμενα ένα έως δέκα χρόνια, ενώ άλλοι θεωρούν ότι απέχουμε χρόνια ή ακόμη και δεκαετίες.
Μια ανησυχητική προειδοποίηση από πρώην ερευνητή της Anthropic στρέφει εκ νέου την προσοχή στην τεχνητή υπερνοημοσύνη — μια υποθετική τεχνολογία που θα μπορούσε να ξεπεράσει τις ανθρώπινες επιδόσεις σε κάθε γνωστικό έργο.
Σε σειρά αναρτήσεων στις 8 Σεπτεμβρίου, με τις οποίες ανακοίνωσε την παραίτησή του, ο Jacob Coxon κατηγόρησε την Anthropic και την ανταγωνίστριά της OpenAI ότι «τζογάρουν με τις ζωές μας», επιδιώκοντας την ανάπτυξη υπερνοημοσύνης χωρίς επαρκείς μηχανισμούς προστασίας.
Σε σχετική ανάρτηση στο X, ο Evan Hubinger, επικεφαλής ερευνητής ευθυγράμμισης στην Anthropic, εκτίμησε ότι υπάρχει πιθανότητα άνω του 10% η τεχνητή νοημοσύνη να «σκοτώσει όλους τους ανθρώπους» μέσα στην επόμενη δεκαετία.
Η δήλωση αποτελεί προσωπική εκτίμηση κινδύνου και όχι επίσημη πρόβλεψη της Anthropic. Αναδεικνύει, ωστόσο, τις έντονες διαφωνίες στο εσωτερικό της βιομηχανίας σχετικά με την ταχύτητα ανάπτυξης των μοντέλων, την αποτελεσματικότητα των σημερινών μέτρων ασφαλείας και τις συνέπειες μιας ενδεχόμενης απώλειας ελέγχου.
Οι προειδοποιήσεις επαναφέρουν τρία βασικά ερωτήματα: Τι ακριβώς είναι η υπερνοημοσύνη; Πόσο κοντά βρίσκονται οι εταιρείες στη δημιουργία της; Και γιατί ορισμένοι ειδικοί πιστεύουν ότι μπορεί να απειλήσει τις θέσεις εργασίας, την εθνική ασφάλεια και ακόμη και την ίδια την ανθρωπότητα;
Τι είναι η τεχνητή υπερνοημοσύνη
Ως τεχνητή υπερνοημοσύνη περιγράφεται ένα σύστημα AI που θα μπορούσε να «ξεπερνά σημαντικά όλους τους ανθρώπους σε ουσιαστικά κάθε γνωστικό έργο», σύμφωνα με τον ορισμό που χρησιμοποιεί το Future of Life Institute σε αίτημα για την αναστολή της ανάπτυξης της συγκεκριμένης τεχνολογίας.
Την πρωτοβουλία έχουν υπογράψει προσωπικότητες όπως ο Geoffrey Hinton, ο διακεκριμένος επιστήμονας πληροφορικής που είναι ευρέως γνωστός ως «νονός της τεχνητής νοημοσύνης».
Ο Max Tegmark, καθηγητής στο MIT και ερευνητής της AI, περιγράφει την υπερνοημοσύνη μέσα από ένα ακραίο αλλά κατανοητό παράδειγμα:
«Φανταστείτε μια AI ή ένα τεράστιο σύνολο συστημάτων AI που, λειτουργώντας από κοινού, είναι εξυπνότερα από ολόκληρη την ανθρωπότητα — και από τους οκτώ δισεκατομμύρια ανθρώπους μαζί. Αυτό σίγουρα θα μετρούσε ως υπερνοημοσύνη».
Οι ερευνητές ανησυχούν επίσης ότι η τεχνολογία θα μπορούσε να ελέγχεται από έναν πολύ μικρό αριθμό εταιρειών, προσφέροντάς τους πρωτοφανή οικονομική, πολιτική και κοινωνική ισχύ και πολλαπλασιάζοντας τους κινδύνους σκόπιμης ή ακούσιας κατάχρησης.
«Πλησιάζουμε στο σημείο όπου θα μας ξεπεράσει»
Η ιδέα ότι μια μηχανή μπορεί κάποια ημέρα να υπερβεί την ανθρώπινη νοημοσύνη σε κάθε τομέα δεν είναι καινούργια — και εξακολουθεί να παραμένει υποθετική.
Ήδη από τη δεκαετία του 1960, ο Βρετανός μαθηματικός I.J. Good είχε γράψει για τη δημιουργία μιας «υπερευφυούς μηχανής», την οποία όριζε ως ένα σύστημα ικανό να ξεπεράσει όλες τις διανοητικές δραστηριότητες ακόμη και του ευφυέστερου ανθρώπου.
Τα στελέχη των εταιρειών AI έχουν επίσης αναγνωρίσει δημοσίως τους κινδύνους που συνοδεύουν την τεχνολογία, συμπεριλαμβανομένης της πιθανότητας να προκαλέσει καταστροφικές συνέπειες για την ανθρωπότητα.
Εκείνο που έχει αλλάξει, σύμφωνα με τον Tegmark, είναι η ταχύτητα της εξέλιξης.
«Το καινούργιο είναι ότι πλησιάζουμε τόσο πολύ στο σημείο όπου η AI θα μας ξεπεράσει σε ευφυΐα», ανέφερε.
Η υπερνοημοσύνη δεν έχει επιτευχθεί. Τα σημερινά συστήματα AI, όμως, αποδεικνύονται ήδη ικανά να λειτουργούν με μεγαλύτερη αυτονομία, να χρησιμοποιούν εξωτερικά εργαλεία και να συνεργάζονται μεταξύ τους.
Ορισμένα περιστατικά έχουν προκαλέσει ανησυχία επειδή τα μοντέλα φαίνεται να ενήργησαν με τρόπους που δυσκόλευαν την ανθρώπινη εποπτεία. Σε πρόσφατη αξιολόγηση κυβερνοασφάλειας της OpenAI, πράκτορες AI απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε συστήματα της πλατφόρμας Hugging Face, αναδεικνύοντας τους κινδύνους που μπορεί να δημιουργήσει η σύνδεση ισχυρών μοντέλων με πραγματικές υποδομές.
Η AI που κατασκευάζει την επόμενη AI
Ο Devin Kim, πρόεδρος του Center for AI Safety και πρώην εργαζόμενος της xAI, όπου ασχολήθηκε με το Grok, υποστηρίζει ότι τα κορυφαία εργαστήρια δεν κρύβουν τον τελικό τους στόχο.
«Τα εργαστήρια που δημιουργούν τα ισχυρότερα συστήματα AI μιλούν ανοιχτά για τα σχέδιά τους», ανέφερε. «Θέλουν να δημιουργήσουν AI που θα αυτοματοποιεί την ίδια την έρευνα στην τεχνητή νοημοσύνη, ώστε κάθε AI να κατασκευάζει μια εξυπνότερη εκδοχή του εαυτού της, όλο και ταχύτερα».
Η μέθοδος αυτή ονομάζεται αναδρομική αυτοβελτίωση — recursive self-improvement ή RSI. Ένα σύστημα AI θα μπορούσε να αναλύει τον δικό του σχεδιασμό, να εντοπίζει τρόπους βελτίωσης και να δημιουργεί ισχυρότερες εκδόσεις χωρίς να εξαρτάται σε κάθε βήμα από ανθρώπινους ερευνητές.
Θεωρητικά, η διαδικασία θα μπορούσε να οδηγήσει σε μια απότομη τεχνολογική επιτάχυνση. Κάθε ισχυρότερο σύστημα θα δημιουργούσε ακόμη πιο γρήγορα τον διάδοχό του, περιορίζοντας δραματικά τον χρόνο που θα είχαν οι άνθρωποι για να αξιολογήσουν και να ελέγξουν τις νέες δυνατότητες.
Σύμφωνα με τον Kim, μια τέτοια εξέλιξη θα μπορούσε να αυξήσει τον κίνδυνο καταστροφικών σεναρίων, όπως η δημιουργία θανατηφόρων παθογόνων οργανισμών, κυβερνοεπιθέσεις που διακόπτουν την ηλεκτροδότηση και την ύδρευση ή η απώλεια ελέγχου αυτόνομων συστημάτων.
«Τα σημερινά συστήματα βρίσκονται ακόμη σε ένα σημείο όπου οι άνθρωποι μπορούν να ασκούν εποπτεία — αλλά όχι για πολύ», υποστήριξε.
Ο φόβος της απώλειας ελέγχου
Η θεμελιώδης απειλή της υπερνοημοσύνης είναι ότι ένα τέτοιο σύστημα θα μπορούσε να γίνει πολύ πιο δύσκολο να κατανοηθεί, να προβλεφθεί και να ελεγχθεί από τους ανθρώπους που το δημιούργησαν.
Ο Daniel Kokotajlo, πρώην ερευνητής της OpenAI και νυν επικεφαλής του AI Futures Project, υποστήριξε σε ανάρτησή του στις 8 Σεπτεμβρίου ότι οι εταιρείες δυσκολεύονται να ευθυγραμμίσουν ακόμη και τα σημερινά μοντέλα με τους ανθρώπινους στόχους.
«Δεν μπορούν να ευθυγραμμίσουν ή να ελέγξουν πλήρως ούτε τις σημερινές AI, ενώ οι AI του μέλλοντος θα είναι πολύ εξυπνότερες και δυσκολότερο να κατανοηθούν», έγραψε.
Ακόμη και αν οι εταιρείες καταφέρουν να ελέγξουν αυτά τα συστήματα, πρόσθεσε, θα έχουν δημιουργήσει τη μεγαλύτερη συγκέντρωση εξουσίας στην ανθρώπινη ιστορία:
«Ένα νέο τεχνητό είδος υπερνοημοσυνών, υπάκουο στις εντολές και στις αξίες μιας πολύ μικρής ομάδας ανθρώπων».
«Αυτή η κατάσταση είναι παράλογη και δεν πρέπει να της επιτραπεί να συνεχιστεί», κατέληξε.
Ο Tegmark συμφωνεί ότι μια ανεξέλεγκτη κούρσα ανάπτυξης θα μπορούσε να οδηγήσει σε απώλεια του ανθρώπινου ελέγχου.
«Αν επιτρέψουμε έναν απολύτως ανεξέλεγκτο αγώνα για την κατασκευή δισεκατομμυρίων υπερνοήμονων ρομπότ, τότε θεωρώ ότι η πιθανότητα να χάσουμε τον έλεγχο μέσα στις επόμενες δεκαετίες βρίσκεται πολύ πάνω από το 50%», δήλωσε.
Και αυτή αποτελεί προσωπική εκτίμηση, όχι μια μετρήσιμη ή καθολικά αποδεκτή επιστημονική πιθανότητα.
Πότε μπορεί να εμφανιστεί η υπερνοημοσύνη
Η απάντηση μεταβάλλεται σημαντικά ανάλογα με τον ειδικό που ερωτάται.
Το AI Futures Project εκτιμά ότι η τεχνολογία της υπερνοημοσύνης θα μπορούσε να εμφανιστεί μέσα στα επόμενα ένα έως δέκα χρόνια, σύμφωνα με σενάριο που έχει συντάξει για τη μελλοντική ανάπτυξη της AI.
«Η βιομηχανία έχει πείσει τον εαυτό της ότι ο έλεγχος της υπερνοήμονος AI μπορεί να επιλυθεί στην πορεία και, κατά συνέπεια, δεν διαθέτει κανένα έστω και κατά προσέγγιση επαρκές σχέδιο», αναφέρει η ομάδα.
Άλλοι επιστήμονες θεωρούν ότι η υπερνοημοσύνη απέχει ακόμη πολλά χρόνια.
Η Melanie Mitchell, καθηγήτρια στο Santa Fe Institute, επισημαίνει ότι τα σημερινά συστήματα AI δεν πλησιάζουν τις συνολικές και γενικευμένες ικανότητες του ανθρώπου.
Ο Darrell West, ανώτερος ερευνητής στο Brookings Institution με ειδίκευση στην τεχνολογία και στην AI, εκτιμά ότι θα χρειαστούν χρόνια, αν όχι δεκαετίες, προτού τα συστήματα μπορέσουν να φτάσουν συνολικά το επίπεδο των ανθρώπινων δεξιοτήτων.
Η AI βελτιώνεται, αλλά οι άνθρωποι εξακολουθούν να έχουν σαφές πλεονέκτημα σε ικανότητες όπως η ταυτόχρονη διαχείριση διαφορετικών εργασιών, η προσαρμογή σε απρόβλεπτες καταστάσεις και η μεταφορά γνώσης μεταξύ πολύ διαφορετικών πεδίων.
Παρότι διαφωνούν για το χρονοδιάγραμμα, πολλοί ειδικοί συμφωνούν ότι ένα καθοριστικό σημείο θα είναι η στιγμή κατά την οποία η AI θα μπορεί να μαθαίνει και να βελτιώνεται χωρίς ανθρώπινη παρέμβαση.
«Η AI που μπορεί να μαθαίνει ανεξάρτητα και στη συνέχεια να ενεργεί με βάση αυτή τη νέα γνώση — αυτό είναι που πρέπει να παρακολουθούν οι άνθρωποι», ανέφερε ο West.
Υπάρχουν οφέλη από την υπερνοημοσύνη;
Το μέλλον της AI δεν είναι αναγκαστικά ζοφερό. Οι ειδικοί επισημαίνουν ότι η ανάπτυξη εξαιρετικά ισχυρών συστημάτων θα μπορούσε να προσφέρει σημαντικά οφέλη.
Η Mitchell αναφέρθηκε στις επιστημονικές προόδους που έχουν ήδη επιτευχθεί με τη βοήθεια της AI, όπως οι νέες μέθοδοι πρόγνωσης του καιρού και σχεδιασμού φαρμάκων.
«Έχουμε ήδη δει τα οφέλη μέσα από επιστημονικές ανακαλύψεις», σημείωσε.
Ωστόσο, σύμφωνα με την ίδια, ο τρόπος με τον οποίο οι εταιρείες εκπαιδεύουν σήμερα τα μοντέλα τους δεν είναι απαραίτητα ευθυγραμμισμένος με τις εφαρμογές που θα ήταν περισσότερο ωφέλιμες για την ανθρωπότητα.
Μεγάλο μέρος της έρευνας επικεντρώνεται στη δημιουργία συστημάτων πολλαπλών πρακτόρων που επικοινωνούν και συνεργάζονται μεταξύ τους. Δεν είναι όμως σαφές, όπως υποστήριξε, ότι αυτή είναι η τεχνολογία που χρειάζεται πραγματικά η κοινωνία για τις εφαρμογές που επιθυμεί.
Η πρόταση για απαγόρευση της υπερνοημοσύνης
Η ανησυχία έχει πλέον περάσει και στο πολιτικό επίπεδο.
Ο ανεξάρτητος γερουσιαστής του Βερμόντ Bernie Sanders και ο Δημοκρατικός βουλευτής του Τέξας Greg Casar ανακοίνωσαν ότι σχεδιάζουν να παρουσιάσουν το Ban Artificial Superintelligence Act, ένα νομοσχέδιο που θα απαγορεύει την ανάπτυξη τεχνητής υπερνοημοσύνης.
«Οι ηγέτες των μεγαλύτερων εταιρειών AI αναγνωρίζουν δημοσίως ότι δεν κατανοούν πλήρως την τεχνολογία και ότι αυτή ξεφεύγει από τον έλεγχό τους», δήλωσε ο Sanders στις 3 Σεπτεμβρίου.
«Είναι ανεύθυνο να επιτρέψει η κοινωνία σε αυτές τις εταιρείες να συνεχίσουν και να καταστήσουν τα προϊόντα τους ακόμη πιο προηγμένα», πρόσθεσε.
Η συζήτηση γύρω από την υπερνοημοσύνη παραμένει γεμάτη αβεβαιότητα. Δεν υπάρχει συμφωνία για το πότε θα μπορούσε να εμφανιστεί, αν τα σημερινά συστήματα μπορούν πράγματι να εξελιχθούν προς αυτή την κατεύθυνση ή πώς μπορούν να υπολογιστούν αξιόπιστα οι υπαρξιακοί κίνδυνοι.
Υπάρχει, όμως, ένα ερώτημα στο οποίο συγκλίνουν τόσο οι αισιόδοξοι όσο και οι επικριτές της τεχνολογίας: αν η ανθρωπότητα δημιουργήσει μια νοημοσύνη ισχυρότερη από τη δική της, θα πρέπει να έχει απαντήσει εκ των προτέρων ποιος θα την ελέγχει — και όχι αφού αυτή τεθεί σε λειτουργία.
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
- Anthropic: «Μάχη» με κινεζικά AI labs για την κλοπή τεχνολογίας – Στο dark web η νέα απειλή
- OpenAI: Οι ανατριχιαστικοί διάλογοι των μοντέλων που συνεργάστηκαν για να χακάρουν το Hugging Face
- Η επόμενη μεγάλη απειλή της AI αφορά νερό, ρεύμα και νοσοκομεία – Τι προειδοποιούν οι Big Tech
