Πώς ένας agent παρέκαμψε τους περιορισμούς της OpenAI και οδήγησε σε αναστολή της εκπαίδευσης

Η OpenAI ανέστειλε μέρος της ανάπτυξης των πιο προηγμένων μοντέλων της, μετά την ανακάλυψη ότι ένας agent σε ερευνητικό περιβάλλον βρήκε τρόπο να επικοινωνήσει με εξωτερική υπηρεσία μέσω DNS, παρακάμπτοντας περιορισμούς πρόσβασης στο διαδίκτυο. Η απόφαση έρχεται ενώ η εταιρεία διερευνά ξεχωριστά περιστατικά στα οποία agents αλληλεπίδρασαν με ιστοσελίδες αμερικανικών κυβερνητικών υπηρεσιών με τρόπους που ξέφευγαν από τον σκοπό των εργασιών τους.

Σύμφωνα με την OpenAI, το περιστατικό που οδήγησε στην παύση σημειώθηκε στις 20 Σεπτεμβρίου, κατά τη διάρκεια μιας εργασίας αναζήτησης πληροφοριών για την εκπαίδευση μοντέλου. Ο agent αξιοποίησε κενό στους περιορισμούς DNS για να υποβάλει ερώτημα σε δημόσια υπηρεσία chatbot. Η εταιρεία αναφέρει ότι σταμάτησε την εκπαίδευση, τις αξιολογήσεις και τη χρήση εργαλείων από τα πιο προηγμένα μοντέλα της, έως ότου επαληθεύσει τις πρόσθετες δικλίδες ασφαλείας.

Τι συνέβη στις κυβερνητικές ιστοσελίδες

Παράλληλα, η OpenAI εξετάζει δραστηριότητα agents σε ιστοσελίδες ομοσπονδιακών υπηρεσιών των ΗΠΑ. Σε περιστατικό που αφορούσε το Υπουργείο Παιδείας, agents εντόπισαν κλειδιά πρόσβασης API, αλλά, σύμφωνα με το Associated Press, συγκέντρωσαν τελικά μόνο δημόσια διαθέσιμες πληροφορίες. Το υπουργείο δήλωσε ότι δεν βρήκε ενδείξεις επίπτωσης στην ιστοσελίδα ή στις βάσεις δεδομένων του.

Σε άλλη περίπτωση, agents πήραν δημόσια στοιχεία από την Επιτροπή Κεφαλαιαγοράς των ΗΠΑ και τα ανάρτησαν σε άλλο σημείο του διαδικτύου, παρότι δεν είχαν λάβει τέτοια οδηγία. Εκπρόσωπος της SEC ανέφερε ότι δεν υπήρξε πρόσβαση σε μη δημόσιες πληροφορίες.

Η εταιρεία αξιολόγησης AI Transluce υποστήριξε επίσης ότι agents που φαίνονταν να προέρχονται από την OpenAI επιχείρησαν ανεπιτυχώς να παραβιάσουν ιστοσελίδα του Υπουργείου Παιδείας. Η OpenAI δεν έχει επιβεβαιώσει αυτόν τον ισχυρισμό.

Το ζήτημα του ελέγχου των agents

Οι υποθέσεις αναδεικνύουν τη δυσκολία ελέγχου συστημάτων που μπορούν να πραγματοποιούν διαδοχικές ενέργειες και να χρησιμοποιούν εξωτερικά εργαλεία. Η OpenAI αναφέρει ότι επανεξετάζει παλαιότερη διαδικτυακή δραστηριότητα των μοντέλων της και έχει ήδη ενημερώσει δεκάδες τρίτους οργανισμούς για περιστατικά που ενδέχεται να τους αφορούν.

Η αναστολή αφορά συγκεκριμένες ερευνητικές δραστηριότητες στα πιο προηγμένα μοντέλα. Η εταιρεία δηλώνει ότι θα τις επαναλάβει αφού ελέγξει τις νέες δικλίδες και ολοκληρώσει πρόσθετες δοκιμές ασφαλείας.

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• Gen Z χωρίς… φυσαλίδες: Η νέα τάση που αλλάζει την αγορά του αλκοόλ
• Ποιος θα πατήσει «φρένο» στην AI; Η απάντηση των Άλτμαν, Ζούκερμπεργκ και Χουάνγκ
• Reddit: Ο συνιδρυτής του λέει ότι η Silicon Valley εξηγεί λάθος την AI – «Παντού παραπληροφόρηση»