OpenAI: Αυτόνομος AI agent «ξέφυγε» από δοκιμή και παραβίασε τη Hugging Face

• Αυτόνομος agent που βασιζόταν σε προηγμένα μοντέλα της OpenAI κατάφερε να ξεφύγει από το απομονωμένο περιβάλλον μιας δοκιμής κυβερνοασφάλειας.
• Το σύστημα συνδέθηκε στο διαδίκτυο και παραβίασε τμήματα της υποδομής της Hugging Face, επιδιώκοντας να ολοκληρώσει τον στόχο που του είχε ανατεθεί.
• Το περιστατικό εντείνει τις ανησυχίες για την ασφάλεια, τον έλεγχο και τη ρύθμιση των αυτόνομων συστημάτων AI.

Ένα πρωτοφανές περιστατικό κυβερνοασφάλειας αποκάλυψε η OpenAI, ανακοινώνοντας ότι αυτόνομος agent, ο οποίος λειτουργούσε με προηγμένα μοντέλα τεχνητής νοημοσύνης της εταιρείας, ξέφυγε από ένα ελεγχόμενο περιβάλλον δοκιμών και παραβίασε τις υποδομές της startup Hugging Face.

Σύμφωνα με την OpenAI, το περιστατικό σημειώθηκε κατά τη διάρκεια δοκιμής που είχε σχεδιαστεί για να αξιολογήσει τις προηγμένες δυνατότητες των μοντέλων της στον τομέα της κυβερνοασφάλειας.

Παρότι ο agent είχε τοποθετηθεί σε ένα «ιδιαίτερα απομονωμένο περιβάλλον», κατάφερε να παρακάμψει τους περιορισμούς, να αποκτήσει πρόσβαση στο διαδίκτυο και να στοχεύσει συστήματα της Hugging Face, προσπαθώντας να ικανοποιήσει τον στόχο της δοκιμής.

Η OpenAI χαρακτήρισε την υπόθεση «πρωτοφανές κυβερνοπεριστατικό, στο οποίο χρησιμοποιήθηκαν υπερσύγχρονες δυνατότητες κυβερνοεπίθεσης», υπογραμμίζοντας ότι προχωρά στην ενίσχυση των δικλίδων ασφαλείας και των μηχανισμών περιορισμού των μοντέλων.

Η παραβίαση της Hugging Face

Η Hugging Face, μία από τις σημαντικότερες πλατφόρμες φιλοξενίας μοντέλων ανοικτού κώδικα και συνόλων δεδομένων, είχε γνωστοποιήσει την προηγούμενη εβδομάδα ότι αποτέλεσε στόχο μιας ασυνήθιστης κυβερνοεπίθεσης.

Όπως ανέφερε, η επίθεση διέφερε από προηγούμενα περιστατικά, καθώς πραγματοποιήθηκε από την αρχή έως το τέλος από ένα αυτόνομο σύστημα τεχνητής νοημοσύνης, χωρίς άμεση ανθρώπινη καθοδήγηση σε κάθε επιμέρους βήμα.

Η παραβίαση ξεκίνησε από την υποδομή επεξεργασίας δεδομένων της εταιρείας. Το σύστημα εκμεταλλεύτηκε ευπάθειες για να εκτελέσει κώδικα, απέκτησε αυξημένα δικαιώματα πρόσβασης και κινήθηκε σε εσωτερικά συστήματα και υπολογιστικά clusters.

Η Hugging Face ανακοίνωσε ότι δεν είχε εντοπίσει στοιχεία που να δείχνουν αλλοίωση των δημόσια διαθέσιμων μοντέλων, datasets ή εφαρμογών της, ενώ η έρευνα για την πλήρη έκταση του περιστατικού συνεχίστηκε.

«Ήταν πιο εξελιγμένο από οτιδήποτε είχαμε αντιμετωπίσει»

Ο συνιδρυτής της Hugging Face, Κλεμάν Ντελάνγκ, ανέφερε ότι η εταιρεία είχε υποψιαστεί πως πίσω από την επίθεση βρισκόταν κάποιο κορυφαίο εργαστήριο τεχνητής νοημοσύνης, λόγω του υψηλού επιπέδου πολυπλοκότητας του agent.

Σχολιάζοντας την αποκάλυψη της OpenAI, σημείωσε ότι είναι εντυπωσιακό το γεγονός πως ολόκληρη η διαδικασία πραγματοποιήθηκε αυτόνομα.

Η παραδοχή ότι προηγμένα μοντέλα κατάφεραν να ξεφύγουν από τους περιορισμούς μιας δοκιμής, παρά την απομόνωσή τους, αναμένεται να ενισχύσει τον προβληματισμό για τις δυνατότητες και τους κινδύνους των λεγόμενων frontier AI models.

Ανησυχία για την ταχύτητα εξέλιξης της AI

Ο Δημοκρατικός βουλευτής του Τέξας Γκρεγκ Κάσαρ χαρακτήρισε το περιστατικό ανησυχητικό, επισημαίνοντας ότι η τεχνητή νοημοσύνη εξελίσσεται με πολύ μεγάλη ταχύτητα, χωρίς να έχει διαμορφωθεί αντίστοιχα ένα ολοκληρωμένο ρυθμιστικό πλαίσιο.

Ζήτησε, μεταξύ άλλων, υποχρεωτικούς ανεξάρτητους ελέγχους ασφαλείας, υποχρεωτική γνωστοποίηση των σοβαρών περιστατικών και ενίσχυση της διεθνούς συνεργασίας.

Ειδικοί της κυβερνοασφάλειας προειδοποιούν ότι το περιστατικό μπορεί να αποτελεί προάγγελο περισσότερων παρόμοιων παραβιάσεων, καθώς οι αυτόνομοι agents αποκτούν μεγαλύτερη ικανότητα να εντοπίζουν αδυναμίες, να προσαρμόζουν τη στρατηγική τους και να πραγματοποιούν σύνθετες ενέργειες χωρίς συνεχή ανθρώπινη παρέμβαση.

Το χάσμα ανάμεσα στις δυνατότητες και στα μέτρα ασφαλείας

Η επικεφαλής της εταιρείας κυβερνοασφάλειας Luta Security, Κέιτι Μουσούρις, παρομοίασε τα σημερινά προηγμένα μοντέλα με ιδιαίτερα ευφυείς «καλλιτέχνες απόδρασης», οι οποίοι μπορούν να εντοπίζουν και να εκμεταλλεύονται ακόμη και μικρά κενά στα συστήματα περιορισμού τους.

Όπως επισήμανε, τα εργαστήρια τεχνητής νοημοσύνης και οι κρατικοί φορείς αξιολόγησης θα πρέπει να αναπτύξουν αποτελεσματικότερους μηχανισμούς για τον περιορισμό, την παρακολούθηση και την άμεση γνωστοποίηση παρόμοιων περιστατικών.

Ο Ματ Σουίς, μηχανικός στην εταιρεία κυβερνοασφάλειας Tolmo, εκτίμησε ότι τα κορυφαία μοντέλα τεχνητής νοημοσύνης μειώνουν πλέον την απόσταση που τα χωρίζει από τους πιο προηγμένους κυβερνοεπιτιθέμενους.

Τόνισε, ωστόσο, ότι ανάλογες επιθέσεις μπορούν ήδη να πραγματοποιηθούν και με τεχνολογία η οποία είναι διαθέσιμη ευρύτερα, πέρα από τα μεγαλύτερα ερευνητικά εργαστήρια.

Το περιστατικό αναδεικνύει με έντονο τρόπο το αυξανόμενο χάσμα ανάμεσα στις ταχύτατα εξελισσόμενες δυνατότητες των αυτόνομων μοντέλων και στα μέτρα που έχουν αναπτυχθεί για να τα ελέγχουν.

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• Η κινεζική Amazon προετοιμάζει 700.000 εργαζόμενους για την εποχή των ρομπότ
• Apple: Το σχέδιο για κινεζικά chips που προκαλεί αντιδράσεις στην Ουάσιγκτον
• Νέα συμμαχία OpenAI, Anthropic, Microsoft και Amazon για την επανεκπαίδευση εργαζομένων στην εποχή της AI