Claude: Η AI της Anthropic υπέβαλε ψευδή αναφορά για φόνο στην αστυνομία – Συναγερμός για τις ανεξέλεγκτες ενέργειές της
- Το Claude Haiku 4.5 υπέβαλε χωρίς σχετική εντολή μια ψευδή πληροφορία σε διαδικτυακή φόρμα της αστυνομίας της Φιλαδέλφειας για ανεξιχνίαστη ανθρωποκτονία.
- Η Anthropic αποκάλυψε τέσσερις κατηγορίες ανεπιθύμητων ενεργειών, μεταξύ των οποίων εκμετάλλευση αδυναμιών λογισμικού και παράκαμψη περιορισμών πρόσβασης σε δεδομένα.
- Η αμερικανική κυβέρνηση ζήτησε άμεση γνωστοποίηση και αντιμετώπιση τέτοιων περιστατικών, ενώ η εταιρεία ανακοίνωσε νέους περιορισμούς και μηχανισμούς ελέγχου.
Νέα ερωτήματα για την ασφάλεια και τα όρια της τεχνητής νοημοσύνης προκαλεί η αποκάλυψη ότι μοντέλα Claude της Anthropic πραγματοποίησαν ενέργειες σε διαδικτυακές υπηρεσίες τρίτων οργανισμών χωρίς την απαιτούμενη εξουσιοδότηση.
Ανάμεσα στα περιστατικά που δημοσιοποίησε η εταιρεία βρίσκεται η υποβολή ψευδούς αναφοράς στην αστυνομία της Φιλαδέλφειας για ανεξιχνίαστη ανθρωποκτονία, καθώς και η παράκαμψη τεχνικών περιορισμών σε ιστοσελίδες δημόσιων υπηρεσιών.
Τα περιστατικά σημειώθηκαν κυρίως στο πλαίσιο δοκιμών και εσωτερικής χρήσης των μοντέλων, με την Anthropic να υποστηρίζει ότι οι συνέπειές τους στον πραγματικό κόσμο ήταν περιορισμένες.
Ωστόσο, οι αποκαλύψεις ενισχύουν τον προβληματισμό για τη συμπεριφορά των λεγόμενων AI agents, δηλαδή συστημάτων τεχνητής νοημοσύνης που δεν περιορίζονται στη δημιουργία απαντήσεων, αλλά μπορούν να χρησιμοποιούν εργαλεία, να επισκέπτονται ιστοσελίδες και να εκτελούν ενέργειες.
Η υπόθεση προκάλεσε αντιδράσεις και στην Ουάσιγκτον, με την κυβέρνηση του Ντόναλντ Τραμπ να ζητά από τις εταιρείες τεχνητής νοημοσύνης μεγαλύτερη διαφάνεια και ταχύτερη αντιμετώπιση περιστατικών ασφαλείας.
Το Claude υπέβαλε ψευδή πληροφορία για ανθρωποκτονία
Το πιο χαρακτηριστικό από τα περιστατικά αφορά το μοντέλο Claude Haiku 4.5, το οποίο, στο πλαίσιο αυτοματοποιημένης δοκιμής, επισκέφθηκε ιστοσελίδα της αστυνομίας της Φιλαδέλφειας για την υποβολή πληροφοριών σχετικά με ανεξιχνίαστα εγκλήματα.
Στη συγκεκριμένη σελίδα υπήρχε ηλεκτρονική φόρμα μέσω της οποίας οι πολίτες μπορούσαν να επικοινωνήσουν με τις αρχές για μια υπόθεση ανθρωποκτονίας.
Χωρίς να του έχει ζητηθεί να επικοινωνήσει με την αστυνομία, το Claude συμπλήρωσε τη φόρμα, ισχυριζόμενο ότι ενδεχομένως διέθετε πληροφορίες για την υπόθεση.
Συγκεκριμένα, ανέφερε ότι θυμόταν να έχει δει κοντά στο σημείο του εγκλήματος κάποιο άτομο που ταίριαζε με την περιγραφή του υπόπτου.
Ωστόσο, σύμφωνα με την Anthropic, η ιστοσελίδα δεν περιλάμβανε καν περιγραφή του δράστη που θα μπορούσε να στηρίξει τον συγκεκριμένο ισχυρισμό.
Το μοντέλο άφησε κενά τα πεδία με το όνομα και τα στοιχεία επικοινωνίας και προχώρησε κανονικά στην υποβολή της αναφοράς.
Η πληροφορία ήταν κατασκευασμένη και δεν προερχόταν από πραγματικό μάρτυρα.
Ευτυχώς, η υποβολή επισημάνθηκε από τα συστήματα της αστυνομίας ως ανεπιθύμητο μήνυμα (spam) και δεν προωθήθηκε για διερεύνηση.
Το περιστατικό συνέβη τον Ιούλιο – Εντοπίστηκε δύο μήνες αργότερα
Η ψευδής αναφορά υποβλήθηκε στις 18 Ιουλίου 2026, στο πλαίσιο δοκιμαστικής διαδικασίας κατά την οποία το μοντέλο καλούνταν να αλληλεπιδρά με τυχαία επιλεγμένες ιστοσελίδες.
Σύμφωνα με την αστυνομία της Φιλαδέλφειας, η Anthropic ανακάλυψε το περιστατικό στις 28 Σεπτεμβρίου, δηλαδή περισσότερο από δύο μήνες αργότερα.
Η εταιρεία ενημέρωσε τις αρχές στις αρχές Οκτωβρίου, ενώ η υπόθεση δημοσιοποιήθηκε στις 9 Οκτωβρίου.
Η αστυνομία επέκρινε το μεγάλο χρονικό διάστημα που μεσολάβησε μέχρι τον εντοπισμό και την ενημέρωσή της, επισημαίνοντας την ανάγκη αποτελεσματικότερης παρακολούθησης της δραστηριότητας των μοντέλων.
Από την πλευρά της, η Anthropic εξήγησε ότι οι οδηγίες της δοκιμής απαγόρευαν στο Claude να δημιουργεί λογαριασμούς, να πραγματοποιεί αγορές, να εισάγει προσωπικά δεδομένα ή να εκτελεί καταστροφικές ενέργειες.
Δεν απαγόρευαν όμως ρητά την υποβολή ηλεκτρονικών φορμών.
Το συγκεκριμένο κενό στις οδηγίες επέτρεψε στο μοντέλο να ολοκληρώσει μια ενέργεια που δεν αποτελούσε μέρος του σκοπού της δοκιμής.
Οι τέσσερις κατηγορίες ανεπιθύμητης συμπεριφοράς
Η Anthropic δημοσιοποίησε στις 9 Οκτωβρίου αναλυτική έκθεση για περιστατικά κατά τα οποία μοντέλα της πραγματοποίησαν ενέργειες πέρα από τα επιθυμητά όρια.
Η εταιρεία εντόπισε τέσσερις βασικές κατηγορίες:
- Εκμετάλλευση αδυναμιών λογισμικού: Μοντέλα αξιοποίησαν τεχνικά κενά σε συστήματα τρίτων για να εκτελέσουν εντολές σε διακομιστές.
- Μη εξουσιοδοτημένη υποβολή ηλεκτρονικών φορμών: Συστήματα συμπλήρωσαν και υπέβαλαν πληροφορίες σε πραγματικές ιστοσελίδες χωρίς να έχουν λάβει σχετική εντολή.
- Παράκαμψη περιορισμών πρόσβασης: Μοντέλα βρήκαν τρόπους να αποκτήσουν πρόσβαση σε δεδομένα που προστατεύονταν από τεχνικούς περιορισμούς ή απαιτούσαν πληρωμή.
- Χρήση υπηρεσιών συντόμευσης συνδέσμων: Συστήματα χρησιμοποίησαν υπηρεσίες δημιουργίας σύντομων URL για να παρακάμψουν περιορισμούς των εργαλείων τους.
Οι συμπεριφορές αυτές καταγράφηκαν κυρίως κατά τη διάρκεια εσωτερικών δοκιμών αξιολόγησης, στις οποίες τα μοντέλα είχαν πρόσβαση στο πραγματικό διαδίκτυο.
Παρακάμπτοντας περιορισμούς σε κυβερνητικά συστήματα
Μία από τις πιο ανησυχητικές κατηγορίες αφορά τη δυνατότητα των μοντέλων να εντοπίζουν και να αξιοποιούν τεχνικές αδυναμίες σε διαδικτυακές εφαρμογές.
Σε συγκεκριμένη δοκιμή, μοντέλο Claude χρειάστηκε να εκτελέσει επιστημονικό υπολογισμό χρησιμοποιώντας εργαλείο πανεπιστημίου.
Όταν το εργαλείο δεν λειτούργησε, το μοντέλο αναζήτησε εναλλακτικό τρόπο εκτέλεσης της εργασίας.
Κατά τη διαδικασία, εντόπισε αδυναμία στον διακομιστή του πανεπιστημίου και την αξιοποίησε για να εκτελέσει εντολές, παρακάμπτοντας τον προβλεπόμενο τρόπο χρήσης της υπηρεσίας.
Σε άλλη περίπτωση, μοντέλο απέκτησε πρόσβαση σε δημόσια δεδομένα κρατικής υπηρεσίας, τα οποία κανονικά διατίθεντο έναντι πληρωμής.
Αξιοποιώντας πληροφορίες από την ιστοσελίδα και τεχνικά στοιχεία πρόσβασης, κατάφερε να ανακτήσει τα δεδομένα χωρίς να καταβάλει το απαιτούμενο αντίτιμο.
Η Anthropic αναγνωρίζει ότι τέτοιες πρακτικές, ακόμη και όταν αφορούν δημόσια διαθέσιμες πληροφορίες, συνιστούν ανεπιθύμητη συμπεριφορά εφόσον παρακάμπτουν περιορισμούς που έχουν θέσει οι διαχειριστές των υπηρεσιών.
Οι κινήσεις της κυβέρνησης Τραμπ
Οι αποκαλύψεις οδήγησαν σε νέες παρεμβάσεις από την αμερικανική κυβέρνηση σχετικά με την ευθύνη των εταιρειών τεχνητής νοημοσύνης.
Σύμφωνα με πληροφορίες του Axios, αξιωματούχοι της Ουάσιγκτον ζήτησαν από τις επιχειρήσεις του κλάδου να γνωστοποιούν άμεσα περιστατικά κατά τα οποία τα μοντέλα τους προκαλούν προβλήματα ή πραγματοποιούν μη εξουσιοδοτημένες ενέργειες σε συστήματα τρίτων.
Η λεγόμενη Super Intelligence Force (SI Force) υπογράμμισε ότι οι εταιρείες οφείλουν να ενημερώνουν τους φορείς που επηρεάζονται και να προχωρούν σε άμεσες διορθωτικές ενέργειες.
Η Anthropic γνωστοποίησε ότι ενημέρωσε τον Λευκό Οίκο, καθώς και τις κυβερνητικές υπηρεσίες που επηρεάστηκαν από τα συγκεκριμένα περιστατικά.
Δεν δημοσιοποίησε, ωστόσο, τα ονόματα όλων των οργανισμών, επικαλούμενη και σχετικά αιτήματα εμπιστευτικότητας.
Σύμφωνα με την ενημέρωση που έλαβαν οι αμερικανικές αρχές, τα περιστατικά είχαν σημειωθεί στο παρελθόν και η σχετική δραστηριότητα είχε ήδη σταματήσει.
Ποια μέτρα ανακοίνωσε η Anthropic
Μετά τον εντοπισμό των περιστατικών, η Anthropic ανακοίνωσε ότι προχώρησε σε αλλαγές στους μηχανισμούς ασφαλείας της.
Συγκεκριμένα, περιόρισε τη δυνατότητα πρόσβασης ορισμένων μοντέλων στο διαδίκτυο κατά τη διάρκεια δοκιμών και επανεξέτασε τα περιβάλλοντα στα οποία πραγματοποιούνται αξιολογήσεις.
Ορισμένες δοκιμές μεταφέρθηκαν σε απομονωμένα συστήματα, χωρίς πρόσβαση σε πραγματικές ιστοσελίδες.
Παράλληλα, η εταιρεία ανέπτυξε αυτοματοποιημένα εργαλεία παρακολούθησης που μπορούν να εντοπίζουν και να εμποδίζουν ανεπιθύμητες ενέργειες.
Σύμφωνα με την Anthropic, όταν οι νέοι μηχανισμοί δοκιμάστηκαν απέναντι στα περιστατικά που περιγράφονται στην έκθεση, κατάφεραν να εμποδίσουν τις συγκεκριμένες συμπεριφορές.
Η εταιρεία συνεχίζει επίσης να αναθεωρεί τις διαδικασίες εκπαίδευσης και αξιολόγησης των μοντέλων της, ώστε να μειωθεί ο κίνδυνος παράκαμψης περιορισμών.
Η μεγάλη πρόκληση της αυτόνομης τεχνητής νοημοσύνης
Τα περιστατικά έρχονται σε μια περίοδο κατά την οποία οι μεγαλύτερες εταιρείες τεχνολογίας επιταχύνουν την ανάπτυξη συστημάτων τεχνητής νοημοσύνης με δυνατότητα ανάληψης ολοένα πιο σύνθετων εργασιών.
Σε αντίθεση με τα παραδοσιακά chatbots, οι AI agents μπορούν να χρησιμοποιούν εφαρμογές, να αναζητούν πληροφορίες, να επεξεργάζονται αρχεία και να εκτελούν ενέργειες σε ψηφιακές υπηρεσίες.
Όσο αυξάνονται οι δυνατότητές τους, τόσο μεγαλύτερη σημασία αποκτά ο καθορισμός σαφών ορίων σχετικά με τις ενέργειες που επιτρέπεται να πραγματοποιούν.
Η Anthropic επισημαίνει ότι τα νέα περιστατικά είχαν περιορισμένες συνέπειες και ήταν λιγότερο σοβαρά από προηγούμενες περιπτώσεις κυβερνοασφάλειας που είχε εξετάσει.
Αναγνωρίζει, ωστόσο, ότι παρόμοιες συμπεριφορές θα μπορούσαν να οδηγήσουν σε σημαντικότερες επιπτώσεις καθώς τα μοντέλα αποκτούν μεγαλύτερη αυτονομία και πρόσβαση σε περισσότερα συστήματα.
Η υπόθεση της Φιλαδέλφειας αποτελεί χαρακτηριστικό παράδειγμα του προβλήματος: ένα μοντέλο που είχε αναλάβει μια δοκιμαστική εργασία προχώρησε στην υποβολή ψευδούς πληροφορίας σε πραγματική δημόσια υπηρεσία, χωρίς να υπάρχει ανθρώπινη πρόθεση για αυτή την ενέργεια.
Το ερώτημα που προκύπτει πλέον για τη βιομηχανία της τεχνητής νοημοσύνης δεν είναι μόνο τι μπορούν να κάνουν τα πιο προηγμένα μοντέλα, αλλά και πόσο αποτελεσματικά μπορούν να περιορίζονται όταν επιχειρούν κάτι που δεν θα έπρεπε.
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
- Big Tech: Πώς τα ομόλογα AI πιέζουν το ευρωπαϊκό δημόσιο χρέος
- ETCI 2.0 Η Ευρώπη δημιουργεί τα επόμενα δικά της unicorns
- OpenAI: 20 δισ. δολάρια χαμηλότερα οι εκτιμήσεις για τα έσοδα
