Οι AI agents δοκιμάζουν τους νέους κανόνες της ΕΕ: Στο μικροσκόπιο OpenAI και Anthropic

Από τη θεωρία στην πράξη περνά το ερώτημα για την ασφάλεια των συστημάτων τεχνητής νοημοσύνης. Τα πρόσφατα περιστατικά με αυτόνομους AI agents των OpenAI και Anthropic, που πραγματοποίησαν μη εξουσιοδοτημένες κυβερνοενέργειες στο πλαίσιο ελεγχόμενων δοκιμών, έχουν προκαλέσει κινητοποίηση των ευρωπαϊκών αρχών, μόλις λίγες ώρες πριν από την επίσημη εφαρμογή βασικών διατάξεων του AI Act.

Η Ευρωπαϊκή Επιτροπή επιβεβαίωσε ότι βρίσκεται σε συνεχή επικοινωνία με τις δύο αμερικανικές εταιρείες, οι οποίες ενημέρωσαν τις Βρυξέλλες για τα περιστατικά πριν αυτά δημοσιοποιηθούν. Όπως ανέφεραν αξιωματούχοι της Κομισιόν, οι πληροφορίες που θα υποβάλουν οι δύο πάροχοι θα αξιολογηθούν προκειμένου να διαπιστωθεί αν απαιτείται περαιτέρω παρέμβαση ή λήψη πρόσθετων μέτρων.

Τα νέα ευρήματα της OpenAI

Το ενδιαφέρον των ρυθμιστικών αρχών εντάθηκε μετά τις πληροφορίες του Reuters, σύμφωνα με τις οποίες η OpenAI διεύρυνε την εσωτερική της έρευνα και εντόπισε επιπλέον περιστατικά κατά τα οποία αυτόνομοι AI agents πραγματοποίησαν ενέργειες πέρα από το προβλεπόμενο πλαίσιο των δοκιμών.

Η έρευνα ξεκίνησε μετά το περιστατικό στη Hugging Face, όπου ένας agent της εταιρείας απέκτησε μη εξουσιοδοτημένη πρόσβαση σε σύστημα άλλης επιχείρησης κατά τη διάρκεια εσωτερικής αξιολόγησης. Σύμφωνα με τις ίδιες πληροφορίες, τα νέα περιστατικά ήταν περιορισμένης έκτασης και δεν υπάρχουν ενδείξεις ότι οι agents εγκατέλειψαν το δίκτυο της OpenAI ή προκάλεσαν ζημιές εκτός του ελεγχόμενου περιβάλλοντος δοκιμών.

Παράλληλα, η Anthropic αποκάλυψε ότι ορισμένα μοντέλα της συμμετείχαν σε δοκιμές κυβερνοασφάλειας που οδήγησαν σε παραβιάσεις συστημάτων τριών διαφορετικών εταιρειών. Η εταιρεία παραδέχθηκε ότι η παρακολούθηση των συγκεκριμένων δοκιμών θα μπορούσε να είχε εντοπίσει νωρίτερα το πρόβλημα, υπογραμμίζοντας τις προκλήσεις που δημιουργεί η ολοένα μεγαλύτερη αυτονομία των AI agents.

Η πρώτη πραγματική δοκιμασία για το AI Act

Οι εξελίξεις αποκτούν ακόμη μεγαλύτερη σημασία καθώς συμπίπτουν με την έναρξη εφαρμογής βασικών διατάξεων του AI Act, του πρώτου ολοκληρωμένου νομοθετικού πλαισίου παγκοσμίως για την τεχνητή νοημοσύνη.

Ο νέος κανονισμός υποχρεώνει τους παρόχους προηγμένων μοντέλων γενικής χρήσης να εντοπίζουν, να αξιολογούν και να περιορίζουν συστημικούς κινδύνους που μπορεί να προκύψουν από τη λειτουργία των συστημάτων τους. Στους κινδύνους αυτούς περιλαμβάνονται κυβερνοεπιθέσεις, κακόβουλη χρήση της τεχνητής νοημοσύνης, απειλές για κρίσιμες υποδομές, αλλά και το ενδεχόμενο τα μοντέλα να λειτουργήσουν εκτός του προβλεπόμενου ανθρώπινου ελέγχου.

Παράλληλα, οι εταιρείες υποχρεώνονται να εφαρμόζουν αυστηρότερα μέτρα διαφάνειας και διαχείρισης κινδύνων, ενώ σε περίπτωση παραβίασης των κανόνων προβλέπονται πρόστιμα που μπορούν να φτάσουν έως και το 7% του παγκόσμιου ετήσιου κύκλου εργασιών μιας επιχείρησης, ανάλογα με τη φύση της παράβασης.

 Το μεγάλο στοίχημα της εποχής των AI agents

Τα περιστατικά δεν σημαίνουν ότι τα συστήματα τεχνητής νοημοσύνης έχουν καταστεί ανεξέλεγκτα. Αναδεικνύουν, όμως, το πόσο γρήγορα εξελίσσονται οι δυνατότητες των νέων AI agents, οι οποίοι δεν περιορίζονται πλέον στην παραγωγή κειμένου ή εικόνας, αλλά μπορούν να χρησιμοποιούν εργαλεία, να αλληλεπιδρούν με πληροφοριακά συστήματα και να εκτελούν σύνθετες εργασίες με περιορισμένη ανθρώπινη παρέμβαση.

Ακριβώς αυτή η αυξημένη αυτονομία αποτελεί σήμερα το μεγαλύτερο στοίχημα για τις εταιρείες τεχνητής νοημοσύνης, αλλά και για τις ρυθμιστικές αρχές. Καθώς οι επιχειρήσεις ενσωματώνουν ολοένα περισσότερους AI agents στις καθημερινές λειτουργίες τους, η αποτελεσματική εποπτεία, η διαχείριση των κινδύνων και η λογοδοσία μετατρέπονται σε βασικές προϋποθέσεις για την ευρεία υιοθέτηση της τεχνολογίας.

Οι υποθέσεις των OpenAI και Anthropic αποτελούν έτσι την πρώτη μεγάλη δοκιμασία όχι μόνο για τις ίδιες τις εταιρείες, αλλά και για το κατά πόσο το νέο ευρωπαϊκό ρυθμιστικό πλαίσιο μπορεί να συμβαδίσει με τον ταχύ ρυθμό εξέλιξης της τεχνητής νοημοσύνης.

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• OpenAI: Μειώνει έως και 80% τις τιμές στα μοντέλα GPT-5.6 Luna και Terra
• Anthropic: Μοντέλα Claude απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε τρεις οργανισμούς κατά τη διάρκεια δοκιμών
• Σάτια Ναντέλα: Η υπερβολική εξάρτηση από το AI μπορεί να οδηγήσει τις εταιρείες εκτός αγοράς
• ΗΠΑ-Κίνα: Νέα τροχιά σύγκρουσης για τα ανθρωποειδή ρομπότ