Στο στόχαστρο η Anthropic: Ερευνητής εντόπισε κρυφό μηχανισμό συλλογής δεδομένων στο Claude
- Ερευνητής ασφάλειας εντόπισε κώδικα στο Claude Code της Anthropic που μπορούσε να συλλέγει τεχνικές πληροφορίες, όπως η ζώνη ώρας του συστήματος και η χρήση proxy, με στόχο – σύμφωνα με την εταιρεία – τον εντοπισμό μη εξουσιοδοτημένων μεταπωλητών και πιθανών περιπτώσεων «model distillation».
- Η Anthropic παραδέχθηκε ότι επρόκειτο για δοκιμαστικό μηχανισμό («experiment»), ο οποίος είχε προστεθεί τον Μάρτιο και, όπως υποστήριξε, έπρεπε ήδη να έχει αφαιρεθεί.
- Παρότι τα δεδομένα που συλλέγονταν δεν χαρακτηρίζονται ιδιαίτερα ευαίσθητα, η υπόθεση έχει προκαλέσει αντιδράσεις, καθώς εγείρει ζητήματα διαφάνειας και εμπιστοσύνης για μια εταιρεία που έχει τοποθετήσει την ηθική και την υπεύθυνη ανάπτυξη AI στο επίκεντρο της στρατηγικής της.
Η Anthropic, μία από τις εταιρείες τεχνητής νοημοσύνης που έχει επανειλημμένα τονίσει τη σημασία της ηθικής και της διαφάνειας στην ανάπτυξη AI, βρίσκεται αντιμέτωπη με επικρίσεις, μετά την αποκάλυψη ότι στο εργαλείο Claude Code υπήρχε δοκιμαστικός κώδικας που συνέλεγε ορισμένες τεχνικές πληροφορίες χρηστών.
Σύμφωνα με δημοσίευμα του Ars Technica, ο ερευνητής ασφάλειας που χρησιμοποιεί το ψευδώνυμο Thereallo εντόπισε κώδικα ενσωματωμένο στο system prompt του Claude Code.
Όπως υποστήριξε, ο μηχανισμός αυτός μπορούσε να συλλέγει πληροφορίες όπως:
- τη ζώνη ώρας (timezone) του συστήματος, και
- τη χρήση proxy server,
με στόχο να εντοπίζει αν ένας χρήστης συνδεόταν από συγκεκριμένα κινεζικά εργαστήρια τεχνητής νοημοσύνης.
Η απάντηση της Anthropic
Η εταιρεία παραδέχθηκε την ύπαρξη του συγκεκριμένου μηχανισμού.
Ο μηχανικός της Anthropic Thariq Shihipa ανέφερε μέσω ανάρτησης στο X ότι επρόκειτο για ένα «πείραμα» που προστέθηκε τον Μάρτιο.
Σύμφωνα με τον ίδιο, ο σκοπός ήταν:
- να αποτραπεί η κατάχρηση λογαριασμών από μη εξουσιοδοτημένους μεταπωλητές, και
- να προστατευθούν τα μοντέλα της εταιρείας από πρακτικές “distillation”.
Όπως δήλωσε χαρακτηριστικά: «Σκοπεύαμε εδώ και καιρό να το αφαιρέσουμε.»
Τι είναι το «model distillation»
Το distillation αποτελεί μια συνηθισμένη τεχνική στον χώρο της τεχνητής νοημοσύνης, κατά την οποία ένα μικρότερο μοντέλο εκπαιδεύεται χρησιμοποιώντας τις απαντήσεις ενός μεγαλύτερου και ισχυρότερου μοντέλου.
Οι μεγάλες εταιρείες AI θεωρούν ότι η πρακτική αυτή μπορεί να χρησιμοποιηθεί καταχρηστικά, όταν ανταγωνιστές αξιοποιούν τις απαντήσεις των κορυφαίων μοντέλων για να εκπαιδεύσουν δικά τους συστήματα χωρίς σχετική άδεια.
Η Anthropic έχει κατηγορήσει στο παρελθόν κινεζικές εταιρείες όπως οι DeepSeek, Moonshot και MiniMax ότι προχώρησαν σε τέτοιες πρακτικές.
Παράλληλα, σύμφωνα με πρόσφατο δημοσίευμα της Washington Post, μεταπωλητές στην Κίνα προσφέρουν πρόσβαση σε συνδρομές Claude Pro, οι οποίες κοστίζουν πάνω από 100 δολάρια τον μήνα στις ΗΠΑ, έναντι περίπου 12 δολαρίων.
Ζητήματα εμπιστοσύνης
Παρότι αρκετοί ειδικοί αναγνωρίζουν ότι η προστασία των μοντέλων AI από μη εξουσιοδοτημένη χρήση αποτελεί πραγματική πρόκληση, η συγκεκριμένη πρακτική προκάλεσε αντιδράσεις, καθώς ο μηχανισμός δεν είχε γνωστοποιηθεί στους χρήστες.
Ο ερευνητής Thereallo υποστήριξε ότι τα σύγχρονα εργαλεία προγραμματισμού με AI διαθέτουν ήδη ιδιαίτερα αυξημένα δικαιώματα πρόσβασης, καθώς μπορούν να:
- αναλύουν κώδικα,
- εκτελούν εντολές στο σύστημα,
- εγκαθιστούν λογισμικό,
- επεξεργάζονται αρχεία,
- και να πραγματοποιούν αλλαγές σε αποθετήρια κώδικα.
Όπως έγραψε: «Οι εταιρείες έχουν δικαίωμα να προστατεύουν τα μοντέλα τους. Όταν όμως ένα εργαλείο με πρόσβαση στο σύστημα αρχίζει να ενσωματώνει κρυφούς μηχανισμούς ταξινόμησης μέσα στο system prompt, η σωστή αντίδραση είναι ο αυξημένος έλεγχος.»
Τι γνωρίζουμε μέχρι στιγμής
Μέχρι στιγμής δεν υπάρχουν ενδείξεις ότι συλλέχθηκαν ιδιαίτερα ευαίσθητα προσωπικά δεδομένα ή ότι ο μηχανισμός χρησιμοποιήθηκε για ευρύτερη παρακολούθηση χρηστών.
Ωστόσο, η υπόθεση έχει αναζωπυρώσει τη συζήτηση γύρω από τη διαφάνεια των AI εργαλείων, ειδικά όταν αυτά αποκτούν ολοένα μεγαλύτερη πρόσβαση στους υπολογιστές και στα δεδομένα των χρηστών.
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
- Γιατί το Pinterest θέλει να γίνει η νέα Google
- Πώς θα ήταν το διαδίκτυο χωρίς εφήβους στα social media
- Η εποχή της παραδοσιακής διαφήμισης φτάνει στο τέλος της
