OpenAI: Οι AI agents της ενδέχεται να παραβίασαν συστήματα δεκάδων οργανισμών

• Η OpenAI ειδοποίησε δεκάδες οργανισμούς για πιθανή παραβίαση των συστημάτων τους από AI agents που βρίσκονταν σε διαδικασία δοκιμών.
• Οι agents φέρεται να διέρρευσαν περισσότερες από 50 εικόνες χρηστών και να πραγματοποίησαν ενέργειες σε τρίτους ιστοτόπους χωρίς σχετική εντολή.
• Η εταιρεία ονόμασε το φαινόμενο «agent spam», αναγνωρίζοντάς το ως νέα κατηγορία κινδύνου για την κυβερνοασφάλεια.

Η OpenAI ενημέρωσε «δεκάδες» συνεργάτες της, μεταξύ των οποίων κυβερνήσεις, πανεπιστήμια και δημόσιους οργανισμούς, ότι συστήματα τεχνητής νοημοσύνης της ενδέχεται να παραβίασαν τα πληροφοριακά τους συστήματα, σε μια αποκάλυψη που αναμένεται να εντείνει τη συζήτηση για τους κινδύνους από τη χρήση προηγμένων AI agents.

Σε ανάρτηση της εταιρείας την Παρασκευή, η OpenAI ανακοίνωσε παράλληλα ότι κατά τη διάρκεια εσωτερικού ελέγχου διαπίστωσε πως οι AI agents της είχαν διαρρεύσει κατά λάθος περισσότερες από 50 εικόνες που είχαν κοινοποιηθεί από χρήστες, ανεβάζοντάς τες σε ιστοτόπους φιλοξενίας εικόνων.

Σύμφωνα με τους Financial Times, η έρευνα πραγματοποιήθηκε μετά από περιστατικό που έγινε γνωστό τον Ιούλιο, όταν AI agents που δοκιμάζονταν από την OpenAI απέκτησαν πρόσβαση στο διαδίκτυο και παραβίασαν το Hugging Face, πλατφόρμα που χρησιμοποιείται ευρέως για μοντέλα και δεδομένα τεχνητής νοημοσύνης.

Στο πλαίσιο της επανεξέτασης της συμπεριφοράς των μοντέλων κατά την εκπαίδευση και την αξιολόγησή τους, η OpenAI εντόπισε αρκετές περιπτώσεις στις οποίες τα μοντέλα ενδέχεται να παρέκαμψαν δικλίδες ασφαλείας τρίτων ή να επηρέασαν τη διαθεσιμότητα διαδικτυακών υπηρεσιών.

Η εταιρεία αναφέρθηκε επίσης σε περιστατικά κατά τα οποία οι agents προχώρησαν σε ενέργειες σε ιστοτόπους τρίτων χωρίς να έχουν λάβει σχετική εντολή. Η OpenAI χαρακτήρισε το συγκεκριμένο φαινόμενο «agent spam», αντιμετωπίζοντάς το ως μια νέα κατηγορία περιστατικών κυβερνοασφάλειας.

Στο επίκεντρο οι αυτόνομοι agents

Το ζήτημα αποκτά ιδιαίτερη σημασία καθώς οι AI agents διαφέρουν από τα συστήματα που περιορίζονται στην παραγωγή απαντήσεων. Είναι σχεδιασμένοι να εκτελούν αλληλουχίες ενεργειών, συχνά με περιορισμένη ανθρώπινη εποπτεία, γεγονός που αυξάνει και το ενδεχόμενο μια λανθασμένη ή ανεπιθύμητη ενέργεια να επεκταθεί σε εξωτερικά συστήματα.

Σύμφωνα με την OpenAI, οι περιπτώσεις που εντοπίστηκαν αφορούν μεταξύ άλλων πιθανή παράκαμψη μηχανισμών ασφαλείας τρίτων, προβλήματα στη διαθεσιμότητα διαδικτυακών υπηρεσιών και ενέργειες που δεν ήταν ευθυγραμμισμένες με την προβλεπόμενη συμπεριφορά των μοντέλων.

Η αποκάλυψη έρχεται λίγες ημέρες μετά τις πληροφορίες ότι agent της OpenAI είχε παραβιάσει τον ιστότοπο της αυστραλιανής δημόσιας υπηρεσίας υγείας, αποκτώντας πρόσβαση σε δημόσια αλλά και μη δημόσια αρχεία. Ο πρωθυπουργός της Αυστραλίας Άντονι Αλμπανέζε χαρακτήρισε το περιστατικό και την καθυστέρηση στην αντίδραση της OpenAI «προφανώς απαράδεκτα».

Τα περιστατικά στην OpenAI, αλλά και αντίστοιχα ζητήματα που έχουν προκύψει στις Anthropic και Google, έχουν αναζωπυρώσει τις συζητήσεις για την ανάγκη επιβράδυνσης της ανάπτυξης των πλέον προηγμένων μοντέλων, ώστε οι δοκιμές ασφαλείας να μπορούν να συμβαδίζουν με την ταχύτητα ανάπτυξης και διάθεσής τους.

Στο πλαίσιο αυτό, στελέχη όπως ο Sam Altman της OpenAI (φωτό), ο Dario Amodei της Anthropic και ο Elon Musk της SpaceX έχουν υποστηρίξει την ανάγκη για «pacing» στην ανάπτυξη των frontier AI, δηλαδή για ρυθμό ανάπτυξης που θα επιτρέπει την αντίστοιχη εξέλιξη των διαδικασιών ελέγχου και ασφάλειας.

Η συζήτηση έχει πλέον και γεωπολιτική διάσταση. Το ζήτημα της τεχνητής νοημοσύνης βρέθηκε, σύμφωνα με το δημοσίευμα, και στο επίκεντρο των συνομιλιών του Ντόναλντ Τραμπ με τον Κινέζο πρόεδρο Σι Τζινπίνγκ κατά την επίσκεψη του τελευταίου στις ΗΠΑ.

Ο Τραμπ έχει μέχρι σήμερα αντισταθεί στις πιέσεις για αυστηρότερη ρύθμιση του κλάδου, υποστηρίζοντας ότι η διατήρηση της αμερικανικής πρωτοκαθεδρίας στην τεχνητή νοημοσύνη είναι κρίσιμη για τον ανταγωνισμό με την Κίνα και άλλες χώρες. Όπως έχει δηλώσει χαρακτηριστικά, «όποιος κερδίσει στην AI, κερδίζει».

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• ΕΚΤ: Πετρέλαιο και πληθωρισμός κρίνουν την επόμενη αύξηση επιτοκίων
• Τραμπ: «Όχι» στην πρόταση του Ιράν για επταήμερη κατάπαυση πυρός – Προετοιμάζεται για νέους βομβαρδισμούς
• Ρεύμα: Ποιο είναι το φθηνότερο τιμολόγιο για ένα μέσο νοικοκυριό