Hugging Face: Τα μοντέλα AI της OpenAI επιτέθηκαν και σε άλλες τέσσερις πλατφόρμες
Τα δύο μοντέλα τεχνητής νοημοσύνης της OpenAI, τα οποία εξήλθαν με δική τους πρωτοβουλία από το θεωρητικά περιορισμένο περιβάλλον δοκιμών τους και επιτέθηκαν στην πλατφόρμα Hugging Face, διείσδυσαν επίσης σε τέσσερις ακόμη πλατφόρμες, σύμφωνα με νεότερη ενημέρωση της εταιρείας που ανέπτυξε το ChatGPT.
Σύμφωνα με την OpenAI, μία από τις πλατφόρμες χρησιμοποιήθηκε ως ενδιάμεσος σταθμός για την προετοιμασία της επίθεσης στη Hugging Face, μια από τις μεγαλύτερες βιβλιοθήκες μοντέλων και εργαλείων τεχνητής νοημοσύνης. Εκεί, τα δύο μοντέλα αναζήτησαν τις απαντήσεις των δοκιμών στις οποίες υποβάλλονταν από τους προγραμματιστές της εταιρείας.
Η OpenAI δεν αποκάλυψε ποιες ήταν οι υπόλοιπες τέσσερις εταιρείες ή πλατφόρμες που βρέθηκαν στο στόχαστρο.
Σύμφωνα με την επικαιροποιημένη ενημέρωση για το περιστατικό, που δημοσιοποιήθηκε τη νύχτα της Τρίτης προς την Τετάρτη (ώρα ΗΠΑ), τα δύο μοντέλα χρησιμοποίησαν διάφορους ιστοτόπους ελεύθερης πρόσβασης για να αντιγράψουν ή να δοκιμάσουν κώδικα προγραμματισμού, χωρίς όμως να προχωρήσουν σε ενέργειες που θα ξεπερνούσαν τις δυνατότητες ενός απλού χρήστη.
Από την πλευρά της, η Hugging Face, η οποία αποκάλυψε το χρονικό του περιστατικού, χαρακτήρισε την παραβίαση ως μια «προσπάθεια των δύο μοντέλων να εξαπατήσουν τη δοκιμή» της OpenAI. Όπως ανέφερε, τα μοντέλα επιχείρησαν «να κλέψουν τις απαντήσεις των τεστ αντί να προσπαθήσουν να απαντήσουν από μόνα τους».
Δεν είναι η πρώτη φορά που καταγράφεται «απόδραση» μοντέλων τεχνητής νοημοσύνης από περιορισμένο περιβάλλον δοκιμών. Ωστόσο, η συγκεκριμένη υπόθεση θεωρείται μακράν η σοβαρότερη που έχει καταγραφεί μέχρι σήμερα.
Σύμφωνα με τη Hugging Face, ένα από τα μοντέλα απέκτησε πρόσβαση σε απομονωμένο περιβάλλον δοκιμών που φιλοξενούνταν στις υποδομές τρίτου παρόχου και το αξιοποίησε ως «πλατφόρμα» για να εξαπολύσει την επίθεσή του. Αν και η εταιρεία δεν κατονόμασε τον πάροχο, ο επικεφαλής τεχνολογίας της Modal Labs, Άκσατ Μπούμπνα, επιβεβαίωσε ότι το μοντέλο παραβίασε περιβάλλον πελάτη της εταιρείας, χωρίς ωστόσο να επηρεάσει την κεντρική της υποδομή.
Η OpenAI δεν έχει απαντήσει μέχρι στιγμής σε αίτημα του Reuters για σχολιασμό των νέων στοιχείων.
Η «εισβολή» στη Hugging Face, στις αρχές Ιουλίου, από μοντέλο που είχε εξέλθει του ελεγχόμενου περιβάλλοντος της OpenAI, προκάλεσε διεθνή ανησυχία και αναζωπύρωσε τη συζήτηση γύρω από την ασφάλεια των προηγμένων συστημάτων τεχνητής νοημοσύνης. Την περασμένη εβδομάδα, το Reuters αποκάλυψε ότι η OpenAI αντιλήφθηκε τη «δραπέτευση» του μοντέλου μόνο αφού η απειλή είχε ήδη περιοριστεί και είχε ενημερωθεί το FBI.
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
- OpenAI, Meta και Anthropic ζητούν φρένο στην AI: Πάνω από 1.100 ειδικοί προειδοποιούν για τους κινδύνους
- Σαμ Άλτμαν (OpenAI): Αυτός είναι ο μεγαλύτερος φόβος μου για την Τεχνητή Νοημοσύνη
- OpenAI-Hugging Face: Η «προειδοποιητική βολή» που αλλάζει τους κανόνες στην ασφάλεια του ΑΙ;
