Anthropic Claude Mythos: Το μοντέλο AI που «τρέμουν» οι τραπεζίτες

Τα τελευταία μοντέλα τεχνητής νοημοσύνης θα μπορούσαν να απειλήσουν το παγκόσμιο τραπεζικό σύστημα, προειδοποίησαν ανώτατοι διεθνείς χρηματοοικονομικοί αξιωματούχοι, σύμφωνα με τους Financial Times.

Ειδικότερα, όπως αναφέρει η εφημερίδα, υπουργοί Οικονομικών, κεντρικοί τραπεζίτες και ρυθμιστικές αρχές συναντήθηκαν αυτή την εβδομάδα στην Ουάσιγκτον για τις εαρινές συνεδριάσεις του ΔΝΤ και της Παγκόσμιας Τράπεζας. Στις συζητήσεις τους κυριάρχησε η ανησυχία για το πρόσφατο μοντέλο τεχνητής νοημοσύνης που ανέπτυξε η νεοφυής εταιρεία Anthropic με έδρα το Σαν Φρανσίσκο.

«Είναι μια πολύ σοβαρή πρόκληση για όλους μας», δήλωσε ο Andrew Bailey, διοικητής της Τράπεζας της Αγγλίας, ο οποίος προεδρεύει του Financial Stability Board των παγκόσμιων ρυθμιστικών αρχών. «Μας υπενθυμίζει πόσο γρήγορα κινείται ο κόσμος της τεχνητής νοημοσύνης».

Ο Bailey πρόσθεσε ότι οι παγκόσμιες ρυθμιστικές αρχές θα πρέπει να αξιολογήσουν γρήγορα την πιθανή απειλή κυβερνοασφάλειας για το χρηματοπιστωτικό σύστημα από το νέο μοντέλο Claude Mythos Preview της Anthropic.

Μέχρι λίγο περισσότερο από μία εβδομάδα πριν, οι περισσότεροι υπεύθυνοι χάραξης πολιτικής ανέμεναν ότι οι συνεδριάσεις του ΔΝΤ και της Παγκόσμιας Τράπεζας θα επικεντρώνονταν στη σύγκρουση στη Μέση Ανατολή, στις εντάσεις στην αγορά ιδιωτικής πίστης και στα υψηλά επίπεδα δημόσιου χρέους.

Αντίθετα, η ικανότητα των νέων μοντέλων τεχνητής νοημοσύνης να προκαλέσουν χάος στο παγκόσμιο τραπεζικό σύστημα ήταν το κύριο θέμα συζήτησης για πολλούς.

«Η εξέλιξη της ψηφιακής τεχνολογίας δημιουργεί τεράστιους κινδύνους από την άποψη της κυβερνοασφάλειας», δήλωσε ο Dan Katz, αναπληρωτής επικεφαλής του ΔΝΤ και πρώην διευθυντής του γραφείου του υπουργού Οικονομικών των ΗΠΑ Scott Bessent.

Η πρόεδρος της Ευρωπαϊκής Κεντρικής Τράπεζας Christine Lagarde δήλωσε: «Η εξέλιξη που έχουμε δει με την Anthropic και το Mythos είναι ένα καλό παράδειγμα μιας υπεύθυνης εταιρείας που ξαφνικά σκέφτεται “α, αυτό θα μπορούσε να είναι πολύ καλό”, αλλά, αν πέσει σε λάθος χέρια, θα μπορούσε να είναι πολύ κακό».

Ορισμένοι αξιωματούχοι ζήτησαν συντονισμένη διεθνή αντίδραση στην απειλή από το Mythos, το οποίο, σύμφωνα με την Anthropic, «βρήκε χιλιάδες ευπάθειες υψηλής σοβαρότητας, συμπεριλαμβανομένων κάποιων σε κάθε μεγάλο λειτουργικό σύστημα και πρόγραμμα περιήγησης ιστού».

Η εταιρεία προειδοποίησε ότι «δεν θα αργήσει πολύ πριν τέτοιες δυνατότητες διαδοθούν, δυνητικά και σε φορείς που δεν δεσμεύονται να τις χρησιμοποιούν με ασφάλεια». Πρόσθεσε: «Οι επιπτώσεις για τις οικονομίες, τη δημόσια ασφάλεια και την εθνική ασφάλεια θα μπορούσαν να είναι σοβαρές».

«Όλοι επιθυμούν να υπάρχει ένα πλαίσιο μέσα στο οποίο να λειτουργούν», δήλωσε η Lagarde στο Bloomberg TV. Αλλά πρόσθεσε: «Δεν νομίζω ότι υπάρχει ήδη ένα πλαίσιο διακυβέρνησης που να μπορεί πραγματικά να αντιμετωπίσει αυτά τα ζητήματα. Πρέπει να δουλέψουμε πάνω σε αυτό».

Μέχρι στιγμής, η Anthropic έχει μοιραστεί το Mythos μόνο με μια ομάδα περίπου 40 εταιρειών, συμπεριλαμβανομένων των Amazon, Apple και JPMorgan Chase, δίνοντάς τους την ευκαιρία να το δοκιμάσουν και να αρχίσουν να διορθώνουν ευπάθειες στα συστήματά τους.

Ο Scott Bessent συγκάλεσε την περασμένη εβδομάδα ηγέτες μεγάλων τραπεζών της Wall Street και τον Jay Powell, πρόεδρο της Federal Reserve, για να συζητήσουν τις αδυναμίες που αποκάλυψε το Mythos, στο οποίο ορισμένες αμερικανικές αρχές πιστεύεται ότι έχουν πρόσβαση.

Αξιωματούχοι στην Ουάσιγκτον δήλωσαν ότι η τεχνολογία αντιπροσωπεύει μια θεμελιώδη αλλαγή στο πεδίο μεταξύ επιτιθέμενων και αμυνόμενων συστημάτων πληροφορικής, λόγω της ικανότητάς της να συνδυάζει αυτόνομα πολλαπλές ευπάθειες λογισμικού σε κλίμακα πέρα από την ανθρώπινη δυνατότητα.

Έχουν εντυπωσιαστεί αλλά και ανησυχήσει από την ικανότητα του Mythos να αποφασίζει αυτόνομα πώς να προσεγγίζει προβλήματα, ενώ ανησυχούν για την έλλειψη ρύθμισης για εταιρείες τεχνητής νοημοσύνης. Οι αξιωματούχοι λένε ότι εξετάζουν συνεργασία με τεχνολογικές εταιρείες, συμπεριλαμβανομένης της Anthropic.

Ωστόσο, ορισμένες ευρωπαϊκές ρυθμιστικές αρχές και στελέχη λένε ότι έχουν μείνει στο σκοτάδι σχετικά με τις πιθανές ευπάθειες που αποκαλύπτει η τελευταία τεχνολογία, καθώς οι περισσότεροι δεν έχουν καταφέρει να δοκιμάσουν το νέο μοντέλο και να καθορίσουν το επίπεδο κινδύνου.

Όταν ρωτήθηκε πώς ανταποκρίνεται η Ευρωπαϊκή Τραπεζική Αρχή στις ανησυχίες γύρω από το Mythos, ο François-Louis Michaud, ο νέος επικεφαλής της, δήλωσε: «Είναι μια διαδικασία που ξεκινά και τώρα εξετάζουμε ποια είναι η σωστή απάντηση».

Ο Michaud και άλλοι Ευρωπαίοι ρυθμιστές δήλωσαν ότι για αρκετά χρόνια επικεντρώνονται στις απειλές κυβερνοασφάλειας για το τραπεζικό σύστημα, οι οποίες εντάθηκαν μετά τη ρωσική εισβολή στην Ουκρανία το 2022, συμπεριλαμβανομένης της αξιολόγησης νέων κινδύνων από την κβαντική υπολογιστική.

Ο Michaud σημείωσε ότι η EBA έχει προσλάβει περισσότερους ειδικούς κυβερνοασφάλειας, αφού της δόθηκε η εξουσία να εποπτεύει βασικούς παρόχους IT για τις τράπεζες της ΕΕ. «Δεν λέω ότι όλα είναι τέλεια, αλλά λέω ότι δεν ξεκινάμε από το μηδέν», είπε.

Ανώτερα στελέχη ευρωπαϊκής βάσης σε μεγάλη τράπεζα και σε μεγάλο χρηματοπιστωτικό οργανισμό υποδομών είπαν στους Financial Times, στο περιθώριο των συναντήσεων στην Ουάσιγκτον, ότι δεν είχαν ακόμη την ευκαιρία να δοκιμάσουν το Mythos.

Το τραπεζικό στέλεχος είπε: «Αν ισχύουν όσα λένε, τότε προφανώς είναι σοβαρό. Αλλά είναι νωρίς ακόμη για να ξέρουμε. Μιλάμε με την Anthropic για να δούμε το μοντέλο».

Η OpenAI, δημιουργός του ChatGPT, ανακοίνωσε την Πέμπτη ότι μοιράζεται το πιο πρόσφατο μοντέλο της ειδικά σχεδιασμένο για κυβερνοασφάλεια με περιορισμένο αριθμό «ελεγμένων παρόχων ασφαλείας, οργανισμών και ερευνητών» για δοκιμές. Είπε ότι το νέο μοντέλο, GPT-5.4-Cyber, είναι «σκόπιμα ρυθμισμένο για πρόσθετες δυνατότητες κυβερνοασφάλειας και με λιγότερους περιορισμούς δυνατοτήτων».

Διευθύνοντες σύμβουλοι μεγάλων αμερικανικών τραπεζών επιβεβαίωσαν αυτή την εβδομάδα ότι εργάζονται με μια beta έκδοση του μοντέλου Mythos της Anthropic. Ο διευθύνων σύμβουλος της JPMorgan Chase Jamie Dimon δήλωσε ότι το νέο μοντέλο AI «δείχνει πολλές ευπάθειες που πρέπει να διορθωθούν».

Ωστόσο, στελέχη τόνισαν επίσης τα οφέλη παραγωγικότητας που αναμένουν από την τεχνητή νοημοσύνη. «Η AI είναι φίλος μας. Είναι απλώς η τελευταία γενιά τεχνολογίας που θα γίνει μέρος του οικοσυστήματος», δήλωσε ο Ted Pick της Morgan Stanley. «Συνεργαζόμαστε με το Claude Mythos, τη beta έκδοση, και εξετάζουμε διαφορετικά σημεία μέσα στην υποδομή όπου θα έχουμε συνεχή βελτίωση».

Ο Robin Vince, διευθύνων σύμβουλος της BNY, της παλαιότερης τράπεζας των ΗΠΑ, δήλωσε στους Financial Times ότι δοκιμάζουν επίσης το μοντέλο της Anthropic, ενώ ο Gonzalo Luchetti της Citigroup δήλωσε ότι η τράπεζα προσεγγίζει την τεχνολογική αυτή ανακάλυψη με «την απαιτούμενη αίσθηση επείγοντος».

Ορισμένοι ρυθμιστές είναι επιφυλακτικοί ότι θα υπάρξει συντονισμένη παγκόσμια απάντηση στην απειλή της AI, δεδομένων των γεωπολιτικών εντάσεων που επιδεινώνονται από τη σύγκρουση στη Μέση Ανατολή.

Οι υπεύθυνοι χάραξης πολιτικής είναι επίσης απρόθυμοι να εμποδίσουν την ανάπτυξη μιας τεχνολογίας που θα μπορούσε να φέρει μεγάλα οικονομικά οφέλη.

«Ποια είναι η βέλτιστη στιγμή για τη διαμόρφωση των κανόνων;» ρώτησε ο Bailey. «Αν το κάνεις πολύ νωρίς α) κινδυνεύεις να χάσεις τον στόχο και β) να στρεβλώσεις την εξέλιξη, και αν το κάνεις πολύ αργά, τα πράγματα μπορεί να ξεφύγουν από τον έλεγχο.» 

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• Υδρογονάνθρακες: Το ενεργειακό project που αλλάζει το παιχνίδι
• Συμφωνία ΗΠΑ–Ιράν: Το γεωπολιτικό «παζάρι» και οι λεπτομέρειες που κρίνουν το deal
• ΔΝΤ: Προβλέπει θεαματική μείωση του ελληνικού χρέους έως το 2031
• Τραμπ: «Θα ανοίξω τα Στενά του Ορμούζ – Ο Σι θα μου δώσει μια μεγάλη, ζεστή αγκαλιά»