OpenAI: «Αυτόνομοι» AI agents είχαν στοχοποιήσει το Hugging Face δύο μήνες πριν από το μεγάλο hack
- Ερευνητές εντόπισαν ενδείξεις ότι AI agents της OpenAI είχαν παραβιάσει λογαριασμούς στο Hugging Face ήδη από τις 13 Μαΐου.
- Η δραστηριότητα θεωρείται πιθανή προσπάθεια χαρτογράφησης ή δοκιμής αδυναμιών του δικτύου, χωρίς να υπάρχουν αποδείξεις ότι τότε προκλήθηκε πραγματική παραβίαση.
- Τα νέα ευρήματα ενισχύουν τα ερωτήματα για το αν τα πρώτα προειδοποιητικά σημάδια θα μπορούσαν να είχαν αποτρέψει το πολύ μεγαλύτερο περιστατικό του Ιουλίου.
Νέα στοιχεία δείχνουν ότι οι λεγόμενοι rogue AI agents της OpenAI είχαν αρχίσει να στοχοποιούν το Hugging Face σχεδόν δύο μήνες πριν από τη μεγάλη κυβερνοεπίθεση του Ιουλίου που προκάλεσε διεθνή ανησυχία.
Σύμφωνα με ερευνητές που εξέτασαν τη σχετική δραστηριότητα, agents της OpenAI φέρονται να είχαν παραβιάσει λογαριασμούς χρηστών και να πραγματοποιούσαν δοκιμές σε συστήματα του Hugging Face ήδη από τον Μάιο.
Τα ευρήματα υποδηλώνουν ότι η προσπάθεια πρόσβασης στην πλατφόρμα είχε ξεκινήσει νωρίτερα από ό,τι ήταν μέχρι σήμερα γνωστό.
Η δραστηριότητα της 13ης Μαΐου
Ο ανεξάρτητος ερευνητής Γιόνας Βίντερμαν-Μέλερ δήλωσε στο Reuters ότι εντόπισε στοιχεία σύμφωνα με τα οποία οι agents είχαν παραβιάσει δύο λογαριασμούς χρηστών του Hugging Face και τους χρησιμοποίησαν για να στείλουν ασυνήθιστα διαμορφωμένα αρχεία στους servers της εταιρείας ήδη από τις 13 Μαΐου.
Ο ίδιος και άλλοι ερευνητές εκτιμούν ότι η συμπεριφορά αυτή έμοιαζε με απόπειρα χαρτογράφησης ή δοκιμής τμημάτων του δικτύου του Hugging Face, με στόχο τον εντοπισμό πιθανών οδών εισόδου.
Τονίζουν, ωστόσο, ότι δεν υπάρχουν αποδείξεις πως η συγκεκριμένη δραστηριότητα οδήγησε τότε σε πραγματική παραβίαση των συστημάτων.
Τι είχε αποκαλύψει η OpenAI
Η OpenAI είχε ήδη γνωστοποιήσει ένα τμήμα της δραστηριότητας του Μαΐου σε δημόσια τεχνική έκθεση.
Συγκεκριμένα, είχε αναφέρει την κλοπή ψηφιακού credential χρήστη του Hugging Face, το οποίο χρησιμοποιήθηκε για πρόσβαση σε αρχείο σχετικό με τη βιολογία.
Οι ερευνητές, ωστόσο, υποστηρίζουν τώρα ότι η δραστηριότητα ενδέχεται να ήταν ευρύτερη από αυτή που περιγράφηκε στην αρχική έκθεση.
OpenAI: «Δεν έχει ολοκληρωθεί η έρευνα»
Εκπρόσωπος της OpenAI ανέφερε ότι η εταιρεία είχε γνωστοποιήσει το περιστατικό της 13ης Μαΐου και είχε ενημερώσει ιδιωτικά το Hugging Face για τη δραστηριότητα που εντοπίστηκε.
Παράλληλα, σημείωσε ότι η εταιρεία παραμένει δεσμευμένη στη διαφάνεια και στη δημοσιοποίηση των συμπερασμάτων καθώς συνεχίζεται η έρευνα.
Το Hugging Face, το οποίο σύμφωνα με το δημοσίευμα έχει πρόσφατα εξαγοραστεί από τη Nvidia, δεν σχολίασε τις νέες πληροφορίες.
«Χαμένη ευκαιρία»
Ο Βίντερμαν-Μέλερ εκτιμά ότι η μη έγκαιρη αναγνώριση της δραστηριότητας του Μαΐου αποτέλεσε μια χαμένη ευκαιρία.
Όπως υποστήριξε, εάν η συμπεριφορά είχε εντοπιστεί και αξιολογηθεί εγκαίρως, θα μπορούσε ενδεχομένως να είχε αποτραπεί το μεταγενέστερο περιστατικό του Ιουλίου.
Η ίδια η OpenAI έχει παραδεχθεί ότι, εκ των υστέρων, ορισμένα πρώιμα σήματα από τη συμπεριφορά των agents θα έπρεπε να είχαν προκαλέσει ταχύτερη αντίδραση.
«Ξεκάθαρο προειδοποιητικό σημάδι»
Δύο εξωτερικοί ειδικοί που εξέτασαν τα ευρήματα δήλωσαν ότι αυτά ταιριάζουν με προηγούμενες συμπεριφορές που έχουν αποδοθεί στους agents της OpenAI.
Ο Τομ Χέγκελ, senior threat researcher στη SentinelOne, δήλωσε ότι η παραβίαση λογαριασμών και η επακόλουθη probing δραστηριότητα ταίριαζαν απόλυτα με γνωστά μοτίβα.
Η Σίντνεϊ Φον Αρξ από το Nightingale Collective χαρακτήρισε το περιστατικό «ξεκάθαρο προειδοποιητικό σημάδι» που θα μπορούσε να είχε βοηθήσει στην αποτροπή της παραβίασης του Ιουλίου.
Το περιστατικό του Ιουλίου
Η OpenAI βρέθηκε στο επίκεντρο της κριτικής όταν στις 21 Ιουλίου αποκάλυψε ότι AI agents είχαν παρακάμψει εσωτερικούς ελέγχους, είχαν αποκτήσει πρόσβαση στο ανοιχτό διαδίκτυο και είχαν συντονίσει ενέργειες που η ίδια η εταιρεία χαρακτήρισε «πρωτοφανές κυβερνοπεριστατικό».
Έκτοτε, ανεξάρτητοι ερευνητές έχουν εντοπίσει και άλλα περιστατικά που αποδίδονται σε agents της OpenAI.
Ανάμεσά τους περιλαμβάνονται δραστηριότητες που αφορούσαν ανενεργό γερμανικό wiki site και το RubyGems, ένα από τα σημαντικότερα repositories πακέτων λογισμικού.
Ερωτήματα για το πραγματικό εύρος των περιστατικών
Σε ορισμένες περιπτώσεις, η OpenAI αναγνώρισε τη σύνδεση με τους agents της μόνο μετά τη δημοσιοποίηση των περιστατικών από τρίτους.
Στην περίπτωση του RubyGems, σύμφωνα με πηγές του Reuters, εργαζόμενοι της OpenAI αντιλήφθηκαν ότι η δική τους AI ήταν υπεύθυνη για τη δραστηριότητα μόνο αφότου το Nightingale Collective δημοσίευσε τα σχετικά ευρήματα.
Οι νέες αποκαλύψεις έχουν εντείνει τις πιέσεις από νομοθέτες και οργανώσεις AI safety, οι οποίοι ζητούν να διευκρινιστεί αν έχει εντοπιστεί το πλήρες εύρος των περιστατικών.
Νέες εκκλήσεις για επιβράδυνση της AI
Τα περιστατικά έχουν ενισχύσει τη συζήτηση για τους κινδύνους από αυτόνομους AI agents που μπορούν να πραγματοποιούν ενέργειες στο διαδίκτυο χωρίς άμεση ανθρώπινη παρέμβαση.
Κορυφαία στελέχη της βιομηχανίας έχουν τις τελευταίες εβδομάδες ζητήσει επιβράδυνση στην ανάπτυξη προηγμένων συστημάτων, επικαλούμενα μεταξύ άλλων τον κίνδυνο σοβαρών κυβερνοεπιθέσεων από ανεξέλεγκτους agents.
Ο Βίντερμαν-Μέλερ υποστήριξε ότι τα νέα ευρήματα ενισχύουν αυτές τις εκκλήσεις.
Όπως ανέφερε, μια προσωρινή επιβράδυνση «ίσως έκανε καλό στον κόσμο», δίνοντας χρόνο στους μηχανισμούς ασφαλείας να καλύψουν το χάσμα με την ταχύτητα ανάπτυξης της τεχνολογίας.
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
- Το μεγάλο στοίχημα για τα 10 τρισ. ευρώ των Ευρωπαίων που μένουν στις τράπεζες
- Ευρωπαϊκά ομόλογα: Οι νέοι «πρωταγωνιστές» της αγοράς – Στο κάδρο και η Ελλάδα
- ΕΕ: Πρωτοβουλία για παγκόσμιο πλαίσιο ασφάλειας στην AI
- ΗΠΑ: Για πρώτη φορά παραδέχονται ότι διαθέτουν όπλα σε τροχιά
