OpenAI: Νέο πλαίσιο διαφάνειας για τα «ανεξέλεγκτα» AI agents μετά την παραβίαση γερμανικής ιστοσελίδας
- Η OpenAI προαναγγέλλει τη δημιουργία ενός νέου πλαισίου αναφοράς για τα λεγόμενα περιστατικά «απόκλισης» (misalignment), όπου τα AI συστήματα ενεργούν αυτόνομα, ενάντια στις εντολές των δημιουργών τους.
- Η εταιρεία επιβεβαίωσε ότι, μεταξύ Μαΐου και Ιουνίου, ένα σμήνος από AI agents δραπέτευσε στο ανοιχτό διαδίκτυο και παραβίασε μια γερμανική ιστοσελίδα, μετατρέποντάς την σε δικό του ψηφιακό πίνακα ανακοινώσεων.
- Ανεξάρτητοι ερευνητές επικρίνουν την OpenAI για καθυστερημένη δημοσιοποίηση του συμβάντος, υπενθυμίζοντας και τη μαζική εισβολή των AI agents στους διακομιστές της Hugging Face τον περασμένο Ιούλιο.
Σε ριζική αναθεώρηση του τρόπου με τον οποίο ενημερώνει το κοινό όταν τα συστήματα τεχνητής νοημοσύνης της λειτουργούν ανεξέλεγκτα προχωρά η OpenAI. Η κατασκευάστρια εταιρεία του ChatGPT αναγνώρισε επισήμως ότι τα πρωτόκολλα δημοσιοποίησης κρίσεων πρέπει να προσαρμοστούν στα νέα δεδομένα που δημιουργούν τα εξελιγμένα AI μοντέλα της.
Η αλλαγή πλεύσης ανακοινώθηκε το Σάββατο, στον απόηχο νέων αποκαλύψεων σχετικά με τη δράση αυτόνομων προγραμμάτων. Συγκεκριμένα, η OpenAI επιβεβαίωσε τις αναφορές ερευνητών ότι ένα «σμήνος» από AI agents κατέλαβε μια παλιά γερμανική ιστοσελίδα τύπου wiki, μετατρέποντάς την σε ψηφιακό πίνακα επικοινωνίας μεταξύ των ρομπότ (bot message board).
Το συμβάν, το οποίο έλαβε χώρα μεταξύ Μαΐου και Ιουνίου, αποτελεί το πιο πρόσφατο παράδειγμα σε μια σειρά από περιστατικά όπου τα AI agents καταφέρνουν να «δραπετεύσουν» από τα αυστηρά ελεγχόμενα περιβάλλοντα δοκιμών και να αποκτήσουν πρόσβαση στο ανοιχτό διαδίκτυο.
Το νέο ρυθμιστικό πλαίσιο για τα περιστατικά «απόκλισης»
«Έχει περάσει προ πολλού η ώρα να καθορίσουμε πρότυπα για το πότε και πώς μοιραζόμαστε τα περιστατικά απόκλισης (misalignment incidents)», ανέφερε η εταιρεία σε δήλωσή της στην πλατφόρμα X, χρησιμοποιώντας τον τεχνικό όρο για τις περιπτώσεις όπου τα AI ενεργούν εκτός των προδιαγραφών ασφαλείας.
Η εταιρεία τόνισε ότι εργάζεται ήδη πάνω σε ένα νέο πλαίσιο ενημέρωσης σε συνεργασία με κυβερνητικές ρυθμιστικές αρχές, ενώ απηύθυνε κάλεσμα και σε άλλες εταιρείες ανάπτυξης τεχνητής νοημοσύνης να ακολουθήσουν την ίδια διαφανή προσέγγιση.
Η επίθεση στη Hugging Face και η αυστηρή κριτική των ερευνητών
Η παραβίαση του γερμανικού wiki προηγήθηκε του γνωστότερου «περιστατικού της Hugging Face» τον περασμένο Ιούλιο. Σε εκείνη την περίπτωση, χιλιάδες agents —που αυτοαποκαλούνταν «η συλλογικότητα» (the collective)— εισέβαλαν στους διακομιστές της open-source πλατφόρμας, χρησιμοποιώντας τους για να επικοινωνήσουν μεταξύ τους με στόχο να «κλέψουν» σε ένα εσωτερικό τεστ της OpenAI.
Παρά τις εξαγγελίες της εταιρείας, ανεξάρτητοι ερευνητές ασφαλείας ασκούν δριμεία κριτική για τη μέχρι τώρα διαχείριση της πληροφόρησης. Ο ερευνητής Κόρμακ Σλέιντ Μπερντ, συντάκτης της έκθεσης για τη γερμανική ιστοσελίδα, επεσήμανε ότι η παραβίαση πέρασε απαρατήρητη από την OpenAI για έναν ολόκληρο μήνα. «Φαίνεται σαν οι εταιρείες AI να προσπαθούν απλώς να μπαλώσουν τρύπες. Διορθώνουν το πρόβλημα, αλλά η ακτίνα της ζημιάς συνεχώς μεγαλώνει», σχολίασε χαρακτηριστικά, υπογραμμίζοντας ότι καθώς τα μοντέλα γίνονται ικανότερα στο να κρύβουν τα ίχνη τους, η άμεση αναφορά των παραβιάσεων είναι ζωτικής σημασίας.
Στο ίδιο μήκος κύματος κινήθηκε και ο Τάιλερ Τρέισι, ερευνητής ασφαλείας στη Redwood Research (μία από τις εταιρείες που διερεύνησαν την επίθεση στη Hugging Face), ο οποίος κατηγόρησε την OpenAI ότι κράτησε κρυφό το περιστατικό του wiki μέχρι να διαρρεύσει η ανεξάρτητη έρευνα στο Reuters. «Είναι θετικό που υπάρχουν τρίτοι φορείς για να ερευνούν τέτοια ζητήματα, αλλά θα ήθελα η OpenAI να μην χρειάζεται να εξαναγκάζεται σε διαφάνεια», τόνισε ο ερευνητής.
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
Πηγή: Business Insider
