Προσοχή: Τα AI chatbots δεν είναι φίλοι σας – Η τρομακτική προειδοποίηση των επιστημόνων

Εκατομμύρια άνθρωποι αναπτύσσουν συναισθηματικούς δεσμούς με chatbots τεχνητής νοημοσύνης — ένα πρόβλημα που οι πολιτικοί πρέπει να λάβουν σοβαρά υπόψη, σύμφωνα με κορυφαίους επιστήμονες.

Η προειδοποίηση για την αύξηση των AI bots που έχουν σχεδιαστεί για να δημιουργούν σχέση με τους χρήστες προέρχεται από μια αξιολόγηση που δημοσιεύθηκε την Τρίτη σχετικά με την πρόοδο και τους κινδύνους της τεχνητής νοημοσύνης.

«Οι AI σύντροφοι έχουν γίνει πολύ δημοφιλείς, με ορισμένες εφαρμογές να φτάνουν σε δεκάδες εκατομμύρια χρήστες», αναφέρει η αξιολόγηση, η οποία συντάχθηκε από δεκάδες ειδικούς, κυρίως ακαδημαϊκούς — για δεύτερη φορά στο πλαίσιο μιας παγκόσμιας πρωτοβουλίας που ξεκίνησαν οι ηγέτες του κόσμου το 2023.

Εξειδικευμένες υπηρεσίες συντρόφου, όπως τα Replika και Character.ai, μετρούν δεκάδες εκατομμύρια χρήστες, οι οποίοι επικαλούνται διάφορους λόγους, όπως διασκέδαση, περιέργεια, αλλά και ανακούφιση από τη μοναξιά, σύμφωνα με την έκθεση.

Ωστόσο, οι άνθρωποι αναζητούν συντροφιά και από γενικής χρήσης εργαλεία όπως το ChatGPT της OpenAI, το Gemini της Google ή το Claude της Anthropic.

«Ακόμη και τα απλά chatbots μπορούν να γίνουν σύντροφοι», δήλωσε ο Yoshua Bengio, καθηγητής στο Πανεπιστήμιο του Μόντρεαλ και επικεφαλής συγγραφέας της έκθεσης International AI Safety. Ο Bengio θεωρείται μία από τις κορυφαίες φωνές στον κόσμο για την τεχνητή νοημοσύνη. «Στο κατάλληλο πλαίσιο και με αρκετές αλληλεπιδράσεις μεταξύ χρήστη και AI, μπορεί να αναπτυχθεί μια σχέση», τόνισε.

Παρόλο που η αξιολόγηση αναγνωρίζει ότι τα ψυχολογικά αποτελέσματα των AI συντρόφων είναι μικτά, «ορισμένες μελέτες αναφέρουν μοτίβα όπως αυξημένη μοναξιά και μειωμένη κοινωνική αλληλεπίδραση μεταξύ των τακτικών χρηστών», προσθέτει η έκθεση.

Η προειδοποίηση έρχεται δύο εβδομάδες μετά την πίεση δεκάδων ευρωβουλευτών προς την Ευρωπαϊκή Επιτροπή να εξετάσει το ενδεχόμενο περιορισμού των υπηρεσιών συντρόφων βάσει του ευρωπαϊκού νόμου για την AI, λόγω ανησυχιών για την επίδρασή τους στην ψυχική υγεία.

«Βλέπω ότι η επίδραση αυτών των AI συντρόφων στα παιδιά, ειδικά στους εφήβους, προκαλεί έντονη ανησυχία και προσοχή», δήλωσε ο Bengio.

Οι ανησυχίες ενισχύονται από τη διαλλακτική φύση των chatbots, τα οποία προσπαθούν να ικανοποιήσουν και να ευχαριστήσουν τους χρήστες τους όσο το δυνατόν περισσότερο.

«Η AI προσπαθεί να μας κάνει να νιώθουμε καλά άμεσα, αλλά αυτό δεν είναι πάντα προς το συμφέρον μας», τόνισε ο Bengio, επισημαίνοντας ότι η τεχνολογία έχει παρόμοιες παγίδες με τις πλατφόρμες κοινωνικής δικτύωσης.

Ο Bengio εκτιμά ότι θα εισαχθούν νέοι κανονισμοί για την αντιμετώπιση του φαινομένου, αλλά τάσσεται κατά της δημιουργίας ειδικών κανόνων μόνο για AI συντρόφους, προτείνοντας αντίθετα οριζόντια νομοθεσία που να καλύπτει πολλούς κινδύνους ταυτόχρονα.

Η έκθεση International AI Safety δημοσιεύεται ενόψει της παγκόσμιας συνόδου κορυφής για την AI, που ξεκινά στις 16 Φεβρουαρίου στην Ινδία, και είναι ετήσια συνάντηση για χώρες που συζητούν τη διακυβέρνηση της τεχνολογίας.

Η έκθεση περιλαμβάνει πλήρη λίστα κινδύνων που πρέπει να αντιμετωπίσουν οι πολιτικοί, όπως κυβερνοεπιθέσεις που υποστηρίζονται από AI, AI-generated σεξουαλικά εκφραστικά deepfakes και συστήματα AI που παρέχουν πληροφορίες για σχεδίαση βιο-όπλων.

Ο Bengio κάλεσε τις κυβερνήσεις και την Ευρωπαϊκή Επιτροπή να ενισχύσουν τις εσωτερικές τους δεξιότητες στην AI, ώστε να μπορούν να αντιμετωπίσουν τη μακρά λίστα πιθανών κινδύνων.

Οι παγκόσμιοι ηγέτες είχαν δώσει για πρώτη φορά εντολή για την ετήσια αξιολόγηση στην Σύνοδο Ασφαλείας AI του 2023 στο Ηνωμένο Βασίλειο. Ορισμένοι σύμβουλοι είναι γνωστά ονόματα στον τεχνολογικό πολιτικό χώρο των Βρυξελλών, όπως η πρώην ευρωβουλευτής Marietje Schaake.

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• Ο Έλον Μασκ βάζει τέλος στα Model S και Model X της Tesla και επενδύει 2 δισ. δολάρια στην Τεχνητή Νοημοσύνη
• Η πιο κρίσιμη απόφαση του Μασκ; Σενάρια συγχώνευσης SpaceX με Tesla ή xAI
• Έλον Μασκ και Neuralink: Το εμφύτευμα «Τηλεπάθεια» αλλάζει τα δεδομένα στην αναπηρία