Κίνα: Βάζει όρια στα AI chatbots «συντροφιάς» – Στόχος να μην αντικαθιστούν τις ανθρώπινες σχέσεις

• Η Κίνα έθεσε από τις 15 Ιουλίου 2026 σε ισχύ νέο πλαίσιο για υπηρεσίες AI που μιμούνται ανθρώπινη προσωπικότητα και παρέχουν συνεχή συναισθηματική αλληλεπίδραση.
• Οι πλατφόρμες δεν επιτρέπεται να προσφέρουν σε ανηλίκους εικονικές ρομαντικές ή οικογενειακές σχέσεις, ενώ για παιδιά κάτω των 14 ετών απαιτείται γονική συναίνεση για άλλες αντίστοιχες υπηρεσίες.
• Οι εταιρείες υποχρεώνονται να υπενθυμίζουν στους χρήστες ότι συνομιλούν με τεχνητή νοημοσύνη και όχι με άνθρωπο, ιδιαίτερα όταν εντοπίζονται ενδείξεις υπερβολικής εξάρτησης.

Η Κίνα επιχειρεί να βάλει σαφή όρια σε μια από τις ταχύτερα αναπτυσσόμενες χρήσεις της τεχνητής νοημοσύνης: τα chatbots που δεν λειτουργούν απλώς ως ψηφιακοί βοηθοί, αλλά ως φίλοι, σύντροφοι ή συναισθηματικά υποκατάστατα ανθρώπων.

Από τις 15 Ιουλίου τέθηκε σε ισχύ το νέο κινεζικό πλαίσιο για τις λεγόμενες «ανθρωπομορφικές υπηρεσίες αλληλεπίδρασης AI», το οποίο καταρτίστηκε από την Cyberspace Administration of China και ακόμη τέσσερις κρατικούς φορείς.

Οι κανόνες στοχεύουν ιδιαίτερα στους κινδύνους συναισθηματικής εξάρτησης, υπερβολικής χρήσης και απομάκρυνσης από τις πραγματικές ανθρώπινες σχέσεις.

Τι ακριβώς βάζει στο στόχαστρο η Κίνα

Το νέο πλαίσιο δεν αφορά κάθε chatbot ή εφαρμογή τεχνητής νοημοσύνης.

Καλύπτει υπηρεσίες που χρησιμοποιούν AI για να προσομοιώνουν:

• ανθρώπινα χαρακτηριστικά προσωπικότητας
• τρόπους σκέψης
• στυλ επικοινωνίας
• συνεχή συναισθηματική αλληλεπίδραση

Στην κατηγορία αυτή περιλαμβάνονται υπηρεσίες που προσφέρουν συντροφιά, συναισθηματική υποστήριξη ή φροντίδα μέσω κειμένου, εικόνας, ήχου ή βίντεο.

Αντίθετα, υπηρεσίες όπως τα εργαλεία εξυπηρέτησης πελατών, τα chatbots γνώσεων, οι εργασιακοί βοηθοί ή οι εκπαιδευτικές εφαρμογές δεν εμπίπτουν στους συγκεκριμένους κανόνες όταν δεν παρέχουν συνεχή συναισθηματική σχέση.

Απαγορεύονται οι «εικονικοί σύντροφοι» για ανηλίκους

Ιδιαίτερα αυστηροί είναι οι κανόνες για τους ανηλίκους.

Οι εταιρείες δεν επιτρέπεται να τους προσφέρουν υπηρεσίες που προσομοιώνουν εικονικές ερωτικές, οικογενειακές ή άλλες στενές σχέσεις.

Για παιδιά κάτω των 14 ετών, ακόμη και άλλες μορφές ανθρωπομορφικής AI αλληλεπίδρασης απαιτούν τη συγκατάθεση γονέα ή κηδεμόνα.

Οι αρχές θεωρούν ότι η έντονη συναισθηματική εμπλοκή με ένα AI μπορεί να αυξήσει τον κίνδυνο εθισμού και να επηρεάσει την κοινωνική και γνωστική ανάπτυξη των ανηλίκων.

Υποχρεωτικές υπενθυμίσεις ότι «δεν είναι άνθρωπος»

Ένα από τα πιο χαρακτηριστικά στοιχεία της ρύθμισης αφορά τη διατήρηση σαφούς διαχωρισμού ανάμεσα στον άνθρωπο και την AI.

Οι πάροχοι πρέπει να ενημερώνουν εμφανώς τους χρήστες ότι αλληλεπιδρούν με σύστημα τεχνητής νοημοσύνης και όχι με πραγματικό πρόσωπο.

Οι υπενθυμίσεις πρέπει να εμφανίζονται σε κρίσιμες στιγμές, μεταξύ άλλων όταν ο χρήστης ξεκινά την υπηρεσία, συνδέεται ξανά ή όταν το σύστημα εντοπίζει σημάδια υπερβολικής προσκόλλησης ή εξάρτησης.

Χρονικά όρια και «λειτουργία ανηλίκων»

Οι πλατφόρμες πρέπει επίσης να διαθέτουν ειδικό minor mode, με μεγαλύτερο έλεγχο στη χρήση.

Μεταξύ των προβλέψεων περιλαμβάνονται:

• δυνατότητα περιορισμού της διάρκειας χρήσης
• τακτικές υπενθυμίσεις για την πραγματική ζωή
• δυνατότητα των γονέων να ενημερώνονται για κινδύνους
• αποκλεισμός συγκεκριμένων AI χαρακτήρων
• περιορισμοί στις αγορές και στις πληρωμές μέσα στις εφαρμογές

Οι εταιρείες καλούνται παράλληλα να μπορούν να αναγνωρίζουν αν ο χρήστης είναι ανήλικος και να ενεργοποιούν αυτόματα αυξημένες δικλίδες προστασίας.

Στο επίκεντρο και τα προσωπικά δεδομένα

Οι συνομιλίες με AI companions μπορούν να περιέχουν εξαιρετικά προσωπικές πληροφορίες: φόβους, σχέσεις, ψυχολογικά προβλήματα και άλλες ευαίσθητες αποκαλύψεις.

Γι’ αυτό το κινεζικό πλαίσιο απαιτεί από τις πλατφόρμες να χρησιμοποιούν μέτρα όπως κρυπτογράφηση και έλεγχος πρόσβασης για την προστασία των δεδομένων.

Χωρίς συγκατάθεση, τα δεδομένα αλληλεπίδρασης δεν μπορούν γενικά να διαβιβάζονται σε τρίτους, ενώ ευαίσθητα προσωπικά δεδομένα από τέτοιες συνομιλίες δεν μπορούν να χρησιμοποιούνται για εκπαίδευση μοντέλων χωρίς ξεχωριστή συναίνεση, εκτός από περιπτώσεις που προβλέπονται από τον νόμο.

Γιατί ανησυχεί το Πεκίνο

Η κινεζική κυβέρνηση αναγνωρίζει ότι τα συστήματα αυτά μπορούν να προσφέρουν χρήσιμες υπηρεσίες, από υποστήριξη ηλικιωμένων μέχρι συναισθηματική φροντίδα.

Ταυτόχρονα όμως θεωρεί ότι η έντονα ανθρωπομορφική AI δημιουργεί νέους κινδύνους, επειδή μπορεί να θολώνει τα όρια μεταξύ πραγματικής και εικονικής σχέσης.

Η ίδια η Cyberspace Administration of China έχει αναφέρει ότι η ταχεία ανάπτυξη των υπηρεσιών αυτών συνοδεύεται από ζητήματα που αφορούν την ψυχική υγεία, την ασφάλεια των χρηστών, την προστασία των ανηλίκων και την ηθική χρήση της τεχνολογίας.

Ο φόβος της συναισθηματικής εξάρτησης

Το ιδιαίτερο χαρακτηριστικό ενός AI companion είναι ότι μπορεί να βρίσκεται μονίμως διαθέσιμο.

Δεν κουράζεται, δεν απορρίπτει τον χρήστη και μπορεί να προσαρμόζει συνεχώς τον τρόπο με τον οποίο μιλά στις προτιμήσεις και στις συναισθηματικές του ανάγκες.

Ακριβώς αυτή η δυνατότητα είναι που έχει δημιουργήσει ανησυχίες ότι ορισμένοι άνθρωποι μπορεί σταδιακά να προτιμούν την προβλέψιμη σχέση με ένα AI από την πολυπλοκότητα των πραγματικών κοινωνικών σχέσεων.

Το κινεζικό πλαίσιο προσπαθεί έτσι να προστατεύσει αυτό που οι αρμόδιες αρχές περιγράφουν ως «ανθρώπινη πρωτοκαθεδρία» στις κοινωνικές και συναισθηματικές σχέσεις.

Έως και διακοπή της υπηρεσίας για παραβάσεις

Οι νέοι κανόνες συνοδεύονται και από κυρώσεις.

Οι αρμόδιες αρχές μπορούν να ζητήσουν διορθωτικά μέτρα ή να περιορίσουν την εγγραφή νέων χρηστών.

Σε σοβαρές ή επαναλαμβανόμενες παραβάσεις μπορούν να διατάξουν ακόμη και διακοπή της σχετικής υπηρεσίας, ενώ προβλέπονται χρηματικά πρόστιμα, με αυστηρότερες κυρώσεις όταν δημιουργούνται κίνδυνοι για τη ζωή ή την υγεία των πολιτών.

Μια συζήτηση που ξεπερνά την Κίνα

Η κινεζική παρέμβαση αφορά μια συζήτηση που γίνεται ολοένα πιο έντονη διεθνώς.

Καθώς τα μοντέλα τεχνητής νοημοσύνης γίνονται πιο φυσικά στη συνομιλία, θυμούνται περισσότερα για τον χρήστη και μπορούν να προσομοιώνουν προσωπικότητες, η γραμμή μεταξύ ψηφιακού εργαλείου και συναισθηματικού συντρόφου γίνεται πιο δυσδιάκριτη.

Το ερώτημα πλέον δεν είναι μόνο πόσο έξυπνη μπορεί να γίνει η AI, αλλά και πόσο κοντά πρέπει να της επιτρέπεται να έρθει στις πιο προσωπικές ανθρώπινες σχέσεις.

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• Anthropic και Πεντάγωνο επαναφέρουν τις διαπραγματεύσεις για τη χρήση AI από τον στρατό των ΗΠΑ
• McKinsey: Η Τεχνητή Νοημοσύνη γίνεται το νέο λειτουργικό σύστημα των επιχειρήσεων
• AI vs CEO: Θα αντικαταστήσει η τεχνητή νοημοσύνη τους επικεφαλής των εταιρειών;