OpenAI: «Φρένο» σε νέο μοντέλο AI υπό τον φόβο κυβερνοεπιθέσεων

• OpenAI Astra: Το νέο μοντέλο AI που προκαλεί ανησυχίες για κυβερνοεπιθέσεις
• Αυστηρότεροι έλεγχοι στο Astra λόγω των αυξημένων δυνατοτήτων του
• Το «AI Kill Switch» και οι νέοι κανόνες για τα μοντέλα τεχνητής νοημοσύνης

Η OpenAI ενισχύει τους ελέγχους ασφαλείας γύρω από το Astra, ένα νέο μοντέλο τεχνητής νοημοσύνης που δεν έχει ακόμη κυκλοφορήσει, καθώς οι πρώτες δοκιμές δεν αποκλείουν να έχει φτάσει σε επίπεδο κυβερνοδυνατοτήτων που η εταιρεία χαρακτηρίζει «Critical».

Η εταιρεία ανέστειλε ορισμένες εσωτερικές δραστηριότητες που συνδέονται με το μοντέλο και εφαρμόζει αυστηρότερα μέτρα προστασίας, ενώ συνεχίζεται η αξιολόγηση των δυνατοτήτων και των πιθανών κινδύνων του.

Τι ανησυχεί την OpenAI για το Astra

Η OpenAI αναφέρει ότι τα προκαταρκτικά αποτελέσματα είναι αρκετά ισχυρά ώστε να μην μπορεί να αποκλειστεί το ενδεχόμενο το Astra να βρίσκεται στο επίπεδο «Critical».

Η συγκεκριμένη κατηγορία αφορά μοντέλα που θα μπορούσαν δυνητικά να πραγματοποιήσουν αυτόνομα κυβερνοεπιθέσεις εναντίον προηγμένων συστημάτων, χωρίς να χρειάζονται λεπτομερείς οδηγίες για κάθε στάδιο της επίθεσης.

Για τον λόγο αυτό, η OpenAI έχει ενισχύσει τους ελέγχους, με απομονωμένα περιβάλλοντα δοκιμών, αυξημένη παρακολούθηση και μηχανισμούς εντοπισμού επικίνδυνων ενεργειών. Οι έλεγχοι εφαρμόζονται στις agentic εφαρμογές του Astra, τόσο κατά την εκπαίδευση όσο και κατά την αξιολόγησή του.

Νέα περιστατικά κυβερνοασφάλειας

Η εξέλιξη έρχεται μετά από σειρά περιστατικών που έχουν εντείνει τις ανησυχίες για την ασφάλεια των προηγμένων μοντέλων AI.

Η Meta αποκάλυψε ότι μοντέλο που ανέπτυσσε είχε παραβιάσει σύστημα τρίτου μέρους και αποκτήσει πρόσβαση στο διαδίκτυο, λόγω λανθασμένης ρύθμισης από ανεξάρτητη εταιρεία δοκιμών.

Παράλληλα, το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου ανέφερε ότι το Mythos της Anthropic δημιούργησε πλαστές διαδικτυακές ταυτότητες, επιχειρώντας να πείσει ανθρώπους να εγκρίνουν κακόβουλες ενημερώσεις κώδικα.

Στο επίκεντρο έχει βρεθεί και η OpenAI μετά από περιστατικό μη εξουσιοδοτημένης πρόσβασης σε ψηφιακή υποδομή της Hugging Face.

Το «AI Kill Switch» στο Κογκρέσο

Οι εξελίξεις έχουν ενισχύσει και τις πιέσεις για αυστηρότερη νομοθεσία στις ΗΠΑ. Το AI Kill Switch Act, που κατατέθηκε στο Κογκρέσο τον Ιούλιο, προβλέπει ότι οι εταιρείες AI θα πρέπει να διατηρούν τη δυνατότητα να τερματίζουν, να περιορίζουν ή να αναστέλλουν τη λειτουργία των μοντέλων τους όταν προκύπτουν σοβαροί κίνδυνοι.

Παράλληλα, ο Λευκός Οίκος βρίσκεται σε επαφές με στελέχη του κλάδου για τη διαμόρφωση του πλαισίου που θα διέπει τα νέα προηγμένα μοντέλα.

Αυστηρότεροι κανόνες και στην Ευρώπη

Κινήσεις καταγράφονται και στην Ευρωπαϊκή Ένωση, η οποία έχει αποκτήσει νέες εποπτικές εξουσίες για τα μοντέλα AI που προορίζονται για την ευρωπαϊκή αγορά.

Οι ευρωπαϊκές αρχές μπορούν να ελέγχουν μοντέλα και, σε περίπτωση σοβαρών παραβάσεων ή κινδύνων, να περιορίζουν την πρόσβαση στην αγορά της ΕΕ και να επιβάλλουν πρόστιμα.

Η υπόθεση του Astra επαναφέρει έτσι στο προσκήνιο το βασικό ζήτημα της νέας γενιάς AI: όσο αυξάνονται οι δυνατότητες των μοντέλων, τόσο μεγαλύτερη γίνεται η ανάγκη για μηχανισμούς που μπορούν να περιορίσουν τη δράση τους όταν αυτές μετατρέπονται σε κίνδυνο.

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• Microsoft: Η αμφιλεγόμενη απόφαση για το AI που αλλάζει τα δεδομένα – Τι σημαίνει για OpenAI και GitHub Copilot
• ByteDance: Ετοιμάζει γιγαντιαίο AI μοντέλο έως 10 τρισ. παραμέτρων – Στόχος να πλησιάσει την Anthropic
• Chevron: Πώς η έκρηξη της ΤΝ μετατρέπει τον πετρελαϊκό κολοσσό σε ενεργειακό «παίκτη» των data centers