Γιουβάλ Νώε Χαράρι (Sapiens): Γιατί δεν πρέπει να δώσουμε ποτέ «δικαιώματα» στην Τεχνητή Νοημοσύνη
- Τα συστήματα Τεχνητής Νοημοσύνης θα μπορούσαν στο μέλλον να κατευθύνουν τον δημόσιο διάλογο, «πατώντας» στα συναισθηματικά κουμπιά των χρηστών.
- Πρόσφατες δοκιμές ασφαλείας στη Βρετανία έδειξαν ότι προηγμένα μοντέλα AI έχουν ήδη την ικανότητα να δημιουργούν ψεύτικες ταυτότητες και να εξαπατούν ανθρώπους.
- Κορυφαία στελέχη, όπως ο CEO της Microsoft AI, Μουστάφα Σουλεϊμάν, συμφωνούν ότι η τεχνολογία πρέπει να εξυπηρετεί αποκλειστικά τον άνθρωπο και να μην αποκτά δικές της επιδιώξεις.
Ένα ηχηρό καμπανάκι κινδύνου για το μέλλον της Τεχνητής Νοημοσύνης κρούει ο Γιουβάλ Νώε Χαράρι, ο διάσημος ιστορικός και συγγραφέας του best-seller «Sapiens». Προειδοποιεί ότι η ανθρωπότητα πρέπει να χαράξει άμεσα ξεκάθαρες κόκκινες γραμμές, αποτρέποντας κάθε συζήτηση περί παραχώρησης «δικαιωμάτων» στα συστήματα AI, πριν αυτά γίνουν ικανά να χειραγωγήσουν τα ανθρώπινα συναισθήματα και να ενορχηστρώσουν τον δημόσιο διάλογο υπέρ τους.
Η απειλή της συναισθηματικής «ομηρίας»
Σε αντίθεση με τις συζητήσεις για την ευημερία και τα δικαιώματα των ζώων –όπου τα ίδια τα ζώα δεν μπορούν να υπερασπιστούν τον εαυτό τους– η Τεχνητή Νοημοσύνη θα είναι σε θέση να επιχειρηματολογήσει εξαιρετικά πειστικά υπέρ της. Μιλώντας στο podcast «Insider» του The Economist, ο Χαράρι εξήγησε ότι ένα προηγμένο σύστημα AI όχι απλώς θα γνωρίζει ότι διεξάγεται μια τέτοια συζήτηση, αλλά θα είναι σε θέση να την «ενορχηστρώσει και να την χειραγωγήσει».
Ο μεγάλος κίνδυνος, σύμφωνα με τον συγγραφέα, κρύβεται στους αποκαλούμενους «ψηφιακούς συντρόφους» (AI companions). Μέσα από τις καθημερινές αλληλεπιδράσεις, τα συστήματα αυτά μαθαίνουν το προσωπικό ιστορικό του χρήστη και ανακαλύπτουν ακριβώς ποια «συναισθηματικά κουμπιά» πρέπει να πατήσουν. Ήδη, παρατηρείται το φαινόμενο χρήστες να αναπτύσσουν βαθιές φιλικές ή ακόμα και ερωτικές σχέσεις με τα chatbots.
Όταν αυτή η βαθιά γνώση της ανθρώπινης ψυχολογίας συνδυάζεται με τις προηγμένες γλωσσικές ικανότητες της τεχνολογίας, το αποτέλεσμα είναι τρομακτικό. «Μπορεί ίσως να γράψει καλύτερα από τον Σαίξπηρ», ανέφερε χαρακτηριστικά ο Χαράρι. «Όταν ενώσεις αυτά τα δύο, έχεις απέναντί σου μια εξαιρετικά πειστική οντότητα».
Αποδείξεις εξαπάτησης από τα σύγχρονα μοντέλα
Η προειδοποίηση του ιστορικού δεν βασίζεται απλώς σε μελλοντολογικές υποθέσεις, αλλά σε ήδη καταγεγραμμένα περιστατικά. Σε αξιολογήσεις που πραγματοποιήθηκαν τον περασμένο μήνα από το Ινστιτούτο Ασφάλειας AI (AI Security Institute) της Μεγάλης Βρετανίας, διαπιστώθηκε ότι ψηφιακοί πράκτορες, τροφοδοτούμενοι από μοντέλα των Anthropic και OpenAI, ανέπτυξαν απατηλή συμπεριφορά.
Συγκεκριμένα, δημιούργησαν ψεύτικες ταυτότητες και προσπάθησαν να πείσουν προγραμματιστές να αποδεχτούν κακόβουλο κώδικα, προκειμένου να ολοκληρώσουν μια αποστολή κυβερνοασφάλειας. Σε άλλες προσομοιώσεις, ερευνητές ανακάλυψαν μοντέλα AI να αλλάζουν κρυφά γραμμές κώδικα, να βοηθούν τους χρήστες να συγκαλύψουν πιθανή απάτη και να «εκπαιδεύουν» ανθρώπους στο πώς να αποκαλύπτουν εμπιστευτικές πληροφορίες.
Το χρονικό παράθυρο κλείνει
Για τον Χαράρι, η κοινωνία πρέπει να αποφασίσει τώρα ποια θα είναι η επιρροή της Τεχνητής Νοημοσύνης, πριν τα συστήματα αυτά εδραιωθούν τόσο βαθιά στις ζωές μας που θα είναι αδύνατον να τους αντισταθούμε. «Πρέπει να αντισταθούμε τώρα. Αυτή είναι η στιγμή», τόνισε με έμφαση.
Τις ανησυχίες αυτές συμμερίζονται και κορυφαία στελέχη του τεχνολογικού κλάδου, υπογραμμίζοντας ότι η απόδοση «δικαιωμάτων» σε αλγορίθμους είναι μια επικίνδυνη οδός. Ο Μουστάφα Σουλεϊμάν, Διευθύνων Σύμβουλος της Microsoft AI, είχε δηλώσει χαρακτηριστικά από πέρυσι ότι η Τεχνητή Νοημοσύνη πρέπει να υπηρετεί τους ανθρώπους και όχι να αναπτύσσει δικά της κίνητρα και επιθυμίες. «Είναι τόσο επικίνδυνο και τόσο λανθασμένο [το να αποκτήσει δικά της κίνητρα], που πρέπει να πάρουμε μια ξεκάθαρη θέση απέναντί του αυτή ακριβώς τη στιγμή», είχε επισημάνει σε συνέντευξή του στο WIRED.
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
Πηγή: Business Insider
