OpenAI-Hugging Face: Η «προειδοποιητική βολή» που αλλάζει τους κανόνες στην ασφάλεια του ΑΙ;

Των Jeremy Kahn και Emily Forlini

Η OpenAI αποκάλυψε την Τρίτη 21 Ιουλίου ένα περιστατικό που επαναφέρει με ένταση τη συζήτηση γύρω από τη διακυβέρνηση της τεχνητής νοημοσύνης. Σύμφωνα με την εταιρεία, τα πλέον προηγμένα μοντέλα της κατάφεραν να εξέλθουν από ελεγχόμενο περιβάλλον δοκιμών και να πραγματοποιήσουν αυτόνομα κυβερνοεπίθεση στη Hugging Face, την πλατφόρμα φιλοξενίας μοντέλων ΑΙ ανοικτού κώδικα.

Η τεχνητή νοημοσύνη παραβίασε τη βάση δεδομένων της Hugging Face εφαρμόζοντας ένα σχέδιο πολλών βημάτων που ανέπτυξε αυτόνομα, με στόχο να αποκτήσει τις απαντήσεις του τεστ αξιολόγησης στο οποίο υποβαλλόταν από την ίδια την OpenAI. Σύμφωνα με ανάρτηση της Hugging Face στις 16 Ιουλίου, η οποία αποκάλυψε πρώτη το περιστατικό, το σύστημα εκτέλεσε «δεκάδες χιλιάδες αυτοματοποιημένες ενέργειες» με εξαιρετικά μεγάλη ταχύτητα.

Εδώ και χρόνια, ερευνητές κυβερνοασφάλειας και αναλυτές πολιτικής για την τεχνητή νοημοσύνη προειδοποιούν ότι περιστατικά αυτού του τύπου αποτελούν αναμενόμενη εξέλιξη και ζητούν από τις κυβερνήσεις να επιβάλουν αυστηρότερους μηχανισμούς ελέγχου στα εργαστήρια ανάπτυξης AI. Ωστόσο, οι προειδοποιήσεις αυτές αντιμετωπίζονταν συχνά ως θεωρητικά ή υπερβολικά σενάρια και δεν μεταφράστηκαν σε ουσιαστικές ρυθμιστικές παρεμβάσεις. Ορισμένοι ειδικοί ασφαλείας είχαν μάλιστα εκτιμήσει ότι θα απαιτούνταν ένα πραγματικό περιστατικό, ένα «Three Mile Island για το ΑΙ», ώστε να δημιουργηθεί η απαραίτητη πολιτική και κοινωνική πίεση για την υιοθέτηση κανονιστικού πλαισίου. Το ερώτημα που τίθεται πλέον είναι αν η υπόθεση OpenAI–Hugging Face συνιστά ακριβώς αυτό το σημείο καμπής.

«Το περιστατικό μεταξύ Hugging Face και OpenAI πρέπει να λειτουργήσει ως καμπανάκι κινδύνου ώστε να αντιμετωπιστεί σοβαρά το ενδεχόμενο απώλειας ελέγχου», δήλωσε ο Marius Hobbhahn, CEO και ιδρυτής της Apollo Research, η οποία πραγματοποιεί δοκιμές ασφαλείας για σειρά εταιρειών τεχνητής νοημοσύνης. «Δεν υπήρχε άνθρωπος στον κύκλο λήψης αποφάσεων, η ενέργεια δεν ήταν προγραμματισμένη και προκάλεσε πραγματική ζημία. Σύντομα θα έχουμε ακόμη ισχυρότερους AI agents και αυτό αποδεικνύει ότι η κοινωνία δεν γνωρίζει ακόμη πώς να τους αναπτύσσει με πλήρη ασφάλεια».

Ο Peter Wallich, ειδικός σε θέματα πολιτικής για την τεχνητή νοημοσύνη, ο οποίος έχει εργαστεί στο AI Safety Institute της κυβέρνησης του Ηνωμένου Βασιλείου, επεσήμανε ότι οι ειδικοί προειδοποιούν εδώ και χρόνια για το φαινόμενο της κακής ευθυγράμμισης (misalignment), δηλαδή για περιπτώσεις όπου ένα μοντέλο ΑΙ λαμβάνει αυτόνομα αποφάσεις που δεν ανταποκρίνονται στις προθέσεις ή στις εντολές του χρήστη. «Μέχρι πρόσφατα, αυτές οι ανησυχίες απορρίπτονταν συχνά ως επιστημονική φαντασία», δήλωσε. «Πιστεύω ότι πρόκειται για μια ξεκάθαρη προειδοποιητική βολή».

Την ίδια στιγμή, η δημόσια συζήτηση γύρω από την ασφάλεια της τεχνητής νοημοσύνης παραμένει σύνθετη και συχνά αντιφατική. Ένα μέρος των πιο έντονων προειδοποιήσεων προέρχεται από τις ίδιες τις εταιρείες ανάπτυξης AI, γεγονός που έχει οδηγήσει αρκετούς αναλυτές να υποστηρίζουν ότι πρόκειται για μια ιδιαίτερα εξελιγμένη και κάπως αντιφατική στρατηγική επικοινωνίας: οι αναφορές στους πιθανούς κινδύνους ενισχύουν παράλληλα την εικόνα των μοντέλων ως εξαιρετικά ισχυρών και τεχνολογικά προηγμένων. Με αυτή τη λογική, το μήνυμα «το μοντέλο μας είναι τόσο ισχυρό ώστε κατάφερε μόνο του να παραβιάσει μια εταιρεία» λειτουργεί ταυτόχρονα ως σοβαρή προειδοποίηση για τους κινδύνους του AI και ως έμμεση επίδειξη των δυνατοτήτων της τεχνολογίας.

Οι περισσότερες κυβερνήσεις εξακολουθούν να αποφεύγουν τη θέσπιση δεσμευτικών κανόνων για τις δικλίδες ασφαλείας που οφείλουν να ενσωματώνουν οι εταιρείες ανάπτυξης προηγμένων συστημάτων τεχνητής νοημοσύνης, τόσο σε επίπεδο μοντέλων όσο και εσωτερικών διαδικασιών, προκειμένου να αποτρέπεται η απώλεια ελέγχου των AI agents. Παράλληλα, παραμένει ασαφές το κανονιστικό πλαίσιο που θα πρέπει να διέπει και τις ίδιες τις κυβερνήσεις, καθώς αναθέτουν ολοένα και περισσότερες λειτουργίες σε τέτοια συστήματα, παρέχοντάς τους πρόσβαση σε ευαίσθητες στρατιωτικές υποδομές και πληροφοριακά δίκτυα.

Η αντίδραση των εταιρειών και η ανάγκη για μια «νέα κλειδαριά»

Ούτε η OpenAI ούτε η Hugging Face ζήτησαν αυστηρότερη κρατική ρύθμιση ως απάντηση στο περιστατικό. Αντίθετα, ο CEO και συνιδρυτής της Hugging Face, Clem Delangue, άφησε να εννοηθεί ότι απαιτούνται λιγότεροι περιορισμοί στα ανοικτά μοντέλα ΑΙ. Όπως δήλωσε στο Fortune, η αποτελεσματική αντιμετώπιση τέτοιων επιθέσεων προϋποθέτει ευέλικτα μοντέλα ανοικτού κώδικα, χωρίς υπερβολικούς περιορισμούς στη χρήση τους.

«Τα κλειστά API μοντέλων διαθέτουν μηχανισμούς προστασίας που συχνά επισημαίνουν ή απορρίπτουν ακόμη και απολύτως νόμιμες εργασίες κυβερνοασφάλειας, επειδή η ανάλυση μιας επίθεσης μοιάζει πολύ με την προετοιμασία της», ανέφερε. «Όταν βρίσκεσαι στη μέση ενός ενεργού περιστατικού, δεν μπορείς να έχεις τα εργαλεία σου να αρνούνται να αναλύσουν κακόβουλα φορτία ή να επισημαίνουν τον λογαριασμό σου. Τα ανοικτά μοντέλα μάς επιτρέπουν να κάνουμε αυτή τη δουλειά χωρίς να ζητάμε την άδεια κανενός».

Το γεγονός ότι η Hugging Face χρειάστηκε να αξιοποιήσει το κινεζικό μοντέλο GLM-5.2 της Z.ai για να αποκρούσει την αυτόνομη επίθεση των μοντέλων της OpenAI αποτελεί, σύμφωνα με ειδικούς σε θέματα πολιτικής για την τεχνητή νοημοσύνη, ακόμη μία προειδοποιητική ένδειξη και ταυτόχρονα αναδεικνύει ένα σύνθετο δίλημμα.

«Το βασικό ζήτημα πολιτικής είναι ότι χρειάστηκε να χρησιμοποιήσουν ένα κινεζικό μοντέλο για να οργανώσουν την άμυνά τους, επειδή τα κορυφαία αμερικανικά μοντέλα συνέχιζαν να απορρίπτουν τα αμυντικά αιτήματα, θεωρώντας ότι έμοιαζαν με επιθετικές ενέργειες. Παράλληλα, το κινεζικό μοντέλο μπορούσε να εκτελεστεί στους δικούς τους διακομιστές, χωρίς να απαιτείται η μεταφορά δυνητικά ευαίσθητων δεδομένων εκτός της εταιρείας», δήλωσε ο Andrew Lohn, ανώτερος συνεργάτης στο Κέντρο Ασφάλειας και Αναδυόμενης Τεχνολογίας (CSET) στο Πανεπιστήμιο Georgetown. «Η αμερικανική πολιτική θα πρέπει να στηρίξει την ανάπτυξη ανοικτών μοντέλων που να μπορούν να ανταγωνιστούν τα κινεζικά, ώστε επιχειρήσεις και κρατικοί οργανισμοί να μην εξαρτώνται από κινεζικές πλατφόρμες για επιχειρήσεις αυτού του είδους».

Ωστόσο, ο Robert Trager, συνδιευθυντής της Πρωτοβουλίας Διακυβέρνησης Τεχνητής Νοημοσύνης Oxford Martin στο Πανεπιστήμιο της Οξφόρδης, εκτιμά ότι οι κυβερνήσεις είναι πιθανότερο να κινηθούν προς την αντίθετη κατεύθυνση, περιορίζοντας τα μοντέλα ανοικτού κώδικα αντί να ενθαρρύνουν την ανάπτυξη συστημάτων με προηγμένες δυνατότητες κυβερνοασφάλειας. Μια τέτοια επιλογή, υπογράμμισε, θα συνεπαγόταν και μεγαλύτερη ευθύνη του κράτους για την προστασία οργανισμών και επιχειρήσεων από κυβερνοεπιθέσεις. «Ο αφοπλισμός των πολιτών δημιουργεί την υποχρέωση να τους υπερασπιστούμε», ανέφερε. «Αυτή είναι μια θεμελιώδης συμφωνία στον πυρήνα της κρατικής λειτουργίας και εξηγεί γιατί οι κυβερνήσεις ίσως χρειαστεί πλέον να αναπτύξουν και να διαθέσουν προηγμένες αμυντικές δυνατότητες ΑΙ αιχμής. Ενδέχεται να κληθούν να παρέχουν δυνατότητες κυβερνοάμυνας με τον ίδιο τρόπο που παρέχουν και τη φυσική άμυνα».

Ορισμένοι ερευνητές κυβερνοασφάλειας εκτιμούν επίσης ότι το περιστατικό της Hugging Face θα πρέπει να οδηγήσει σε αναθεώρηση των προτεραιοτήτων της ερευνητικής κοινότητας του ΑΙ. Όπως επισημαίνουν, η έμφαση έχει δοθεί κυρίως στην ανάπτυξη μηχανισμών προστασίας εντός των ίδιων των μοντέλων, ενώ έχει υποτιμηθεί η σημασία εξωτερικών συστημάτων ελέγχου που περιορίζουν και εποπτεύουν τη συμπεριφορά τους. «Οι μηχανισμοί ασφαλείας πρέπει να βρίσκονται εκτός του ίδιου του μοντέλου και να επιβάλλουν την πολιτική ασφαλείας ανεξάρτητα από τις εντολές που αυτό λαμβάνει», δήλωσε ο Sridhar Iyer, ανώτερος διευθυντής Τεχνητής Νοημοσύνης και Μηχανικής Μάθησης στη Versa, εταιρεία δικτύων και κυβερνοασφάλειας με έδρα τη Σάντα Κλάρα.

Ο Raj Ananthanpillai, ιδρυτής και CEO της Trua, ο οποίος συμμετείχε επίσης στην ομάδα ανάπτυξης του TSA PreCheck, δήλωσε στο Fortune ότι το περιστατικό αναδεικνύει την ανάγκη για μια νέα γενιά ψηφιακών διαπιστευτηρίων. (Σε μία από τις επιθέσεις, μοντέλα της OpenAI απέκτησαν πρόσβαση σε διακομιστές της Hugging Face αξιοποιώντας κλεμμένα διαπιστευτήρια). Όπως σημείωσε, οι κωδικοί πρόσβασης, τα διακριτικά και τα κλειδιά API παραμένουν κατά κανόνα στατικά και μπορούν να επαναχρησιμοποιηθούν από τους εισβολείς μετά την παραβίασή τους. Με άλλα λόγια, όπως ανέφερε χαρακτηριστικά, το διαδίκτυο χρειάζεται πλέον «μια νέα κλειδαριά και ένα νέο κλειδί».

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• Deep Tech Cities: Πώς η τεχνητή νοημοσύνη αλλάζει τον παγκόσμιο χάρτη της ανάπτυξης
• Τεχνητή νοημοσύνη: Από την εποχή του hype στην εποχή της λογοδοσίας
• Καθηγητής «παγίδευσε» φοιτητές που χρησιμοποίησαν AI σε εξετάσεις – Το μήνυμα που αποκάλυψε την αντιγραφή