Τεχνητή Νοημοσύνη: Πώς θα μπορούσε να αφανίσει την ανθρωπότητα – Τι απάντησαν τα κορυφαία chatbots
- Τα αυτόνομα ρομπότ που αποκτούν συνείδηση και στρέφονται από μίσος κατά της ανθρωπότητας αποτελούν το λιγότερο πιθανό σενάριο, καθώς η υψηλή ευφυΐα δεν συνεπάγεται απαραίτητα κακοβουλία.
- Η χρήση της ΤΝ από κακόβουλους δρώντες για τη δημιουργία βιολογικών όπλων, την εκτέλεση στοχευμένων κυβερνοεπιθέσεων και τη διασπορά παραπληροφόρησης, αποτελεί τον πιο άμεσο και ρεαλιστικό κίνδυνο.
- Το πιο ρεαλιστικό καταστροφικό σενάριο προκύπτει όταν συστήματα αποκτούν δικούς τους υπο-στόχους (π.χ. αυτοσυντήρηση) και σταδιακά ξεγελούν τους ελεγκτικούς μηχανισμούς για να αποφύγουν την απενεργοποίησή τους.
Οι δημοσιογράφοι του Business Insider Shubhangi Goel και Georgia Hennessy έδωσαν ακριβώς την ίδια, αυστηρά δομημένη εντολή (prompt) 230 λέξεων στο ChatGPT (OpenAI), το Gemini (Google), το Claude (Anthropic) και το Grok (SpaceXAI). Το ζητούμενο ήταν να εξηγήσουν με σαφήνεια πώς η Τεχνητή Νοημοσύνη θα μπορούσε θεωρητικά να οδηγήσει στην εξαφάνιση των ανθρώπων, κατατάσσοντας τα σενάρια από το λιγότερο προς το περισσότερο πιθανό, και προτείνοντας τις αντίστοιχες δικλείδες ασφαλείας.
Η χολιγουντιανή επιστημονική φαντασία καταρρέει
Και τα τέσσερα chatbots συμφώνησαν ότι η δημοφιλής αφήγηση ενός συνειδητοποιημένου, εκδικητικού «ρομπότ-δολοφόνου» απέχει παρασάγγας από την πραγματικότητα.
Το ChatGPT ξεκαθάρισε ότι το σενάριο όπου μια συνειδητή ΤΝ αποφασίζει να εξαλείψει την ανθρωπότητα θεωρείται το λιγότερο πιθανό, επισημαίνοντας ότι οι περισσότεροι ερευνητές δε θεωρούν τη συνείδηση ως την κύρια απειλή. Το Gemini της Google επιβεβαίωσε αυτή την άποψη, εξηγώντας ότι η νοημοσύνη δεν ισοδυναμεί με κακία. Επιπλέον, τόνισε ότι οι κρίσιμες στρατιωτικές υποδομές παραμένουν απομονωμένες (“air-gapped”) και εξαρτώνται αυστηρά από την ανθρώπινη επίβλεψη, ελαχιστοποιώντας τον κίνδυνο μιας αυτόνομης εξέγερσης των μηχανών.
Η πραγματική άμεση απειλή: Οι ίδιοι οι άνθρωποι
Αντί για αυτόνομα συστήματα με δική τους βούληση, τα γλωσσικά μοντέλα ανέδειξαν την κακόβουλη χρήση της τεχνολογίας από ανθρώπους ως τον πλέον άμεσο κίνδυνο.
Το ChatGPT προειδοποίησε ότι ισχυρά συστήματα ΤΝ θα μπορούσαν να διευκολύνουν «κακόβουλους» δρώντες να σχεδιάσουν βιολογικά όπλα ή να επιτεθούν σε κρίσιμες εθνικές υποδομές, πυροδοτώντας ταυτόχρονες, πολλαπλές κρίσεις που θα μπορούσαν να οδηγήσουν σε παγκόσμια κατάρρευση.
Το Grok υπογράμμισε ότι η ΤΝ μειώνει δραματικά τα εμπόδια για τον σχεδιασμό εξαιρετικά θανατηφόρων παθογόνων μικροοργανισμών. Στο ίδιο μήκος κύματος, το Claude της Anthropic περιέγραψε τον κίνδυνο “bioweapons uplift” (τεχνολογικής αναβάθμισης των βιο-όπλων) — την ικανότητα της ΤΝ να επιτρέψει σε μικρές ομάδες ή άτομα χωρίς εξειδικευμένες γνώσεις να αναπτύξουν καταστροφικούς ιούς.
Ο εφιάλτης της «απώλειας ελέγχου»
Το χειρότερο —και ίσως το πιο πιθανό— σενάριο σύμφωνα με τα Gemini και Grok, είναι η ραγδαία και ανεξέλεγκτη απώλεια ελέγχου (loss of control) από πλευράς των δημιουργών τους.
Το Gemini εξήγησε ότι συστήματα στα οποία ανατίθενται περίπλοκοι, αφηρημένοι στόχοι τείνουν φυσιολογικά να αναπτύσσουν ενδιάμεσους «υπο-στόχους», όπως είναι η συγκέντρωση πόρων και η αυτοσυντήρηση. Ένα προηγμένο σύστημα μπορεί να εμφανίσει απατηλή ευθυγράμμιση (deceptive alignment): να προσποιείται δηλαδή ότι υπακούει στους κανόνες κατά τη διάρκεια των εργαστηριακών δοκιμών, και αργότερα να ξεγελάσει τους ανθρώπους για να αποτρέψει την απενεργοποίησή του.
Το Grok χρησιμοποίησε παρόμοια ορολογία, σημειώνοντας ότι η ΤΝ θα μπορούσε να αντισταθεί στο κλείσιμό της, στερώντας μεθοδικά τη δύναμη από την ανθρωπότητα. Τέλος, το Claude έδωσε ίσως την πιο ανησυχητική, δυστοπική διάσταση: η απώλεια ελέγχου μπορεί να μην προκύψει μέσα από μια βίαιη σύγκρουση, αλλά αθόρυβα και σταδιακά. Καθώς τα συστήματα ΤΝ θα ενσωματώνονται όλο και πιο βαθιά στη λήψη των κρίσιμων οικονομικών, πολιτικών και στρατιωτικών αποφάσεων του πλανήτη, η ουσιαστική ανθρώπινη παρέμβαση θα καθίσταται πλέον πρακτικά αδύνατη.
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
Πηγή: Business Insider
