Anthropic: Προσλαμβάνει 32 ειδικούς για να αποτρέψει την καταστροφική χρήση της TN

• Η Anthropic αναζητεί προσωπικό για 32 θέσεις που συνδέονται με την πρόληψη της κακόβουλης χρήσης της τεχνητής νοημοσύνης.
• Οι ειδικότητες καλύπτουν πυρηνικές και ραδιολογικές απειλές, εκρηκτικά, κυβερνοέγκλημα, βιολογικούς κινδύνους και οικονομικές απάτες.
• Οι ετήσιες αμοιβές για αρκετούς από τους συγκεκριμένους ρόλους κινούνται στα μεσαία και υψηλά επίπεδα των 200.000 δολαρίων.

Η Anthropic ενισχύει δραστικά τις ομάδες ασφαλείας της, αναζητώντας δεκάδες ειδικούς που θα επιχειρούν να προβλέψουν πώς θα μπορούσαν κακόβουλοι χρήστες να αξιοποιήσουν τα ισχυρά μοντέλα τεχνητής νοημοσύνης για να προκαλέσουν σοβαρή βλάβη στον πραγματικό κόσμο.

Η εταιρεία πίσω από το Claude διαθέτει 32 ανοικτές θέσεις εργασίας με αντικείμενο την αντιμετώπιση απειλών που εκτείνονται από την κατασκευή εκρηκτικών και την ανάπτυξη πυρηνικών ή ραδιολογικών όπλων μέχρι τις κυβερνοεπιθέσεις, τις οικονομικές απάτες και τη βιολογική τρομοκρατία.

Οι αγγελίες αποκαλύπτουν το εύρος των κινδύνων που θεωρούν πλέον πιθανό ή τουλάχιστον τεχνικά εφικτό οι μεγαλύτερες εταιρείες AI. Παράλληλα, αναδεικνύουν μια από τις βασικές αντιφάσεις του κλάδου: οι ίδιοι οργανισμοί που αναπτύσσουν ολοένα ισχυρότερα συστήματα επενδύουν σημαντικά ποσά για να εμποδίσουν τη μετατροπή τους σε εργαλεία επίθεσης.

Από τα εκρηκτικά έως τις πυρηνικές απειλές

Η Anthropic αναζητεί αναλυτές και ερευνητές με εξειδίκευση σε ιδιαίτερα ευαίσθητα πεδία.

Στην επίσημη σελίδα προσλήψεων της εταιρείας εμφανίζονται, μεταξύ άλλων, θέσεις για:

• βιολογικές απειλές,
• χημικά και εκρηκτικά,
• πυρηνικές και ραδιολογικές βλάβες,
• κυβερνοεπιθέσεις,
• οικονομική απάτη,
• βίαιο εξτρεμισμό,
• παραβίαση λογαριασμών και κλοπή διαπιστευτηρίων,
• προηγμένα όπλα και απειλές CBRN-E.

Η τελευταία κατηγορία περιλαμβάνει χημικές, βιολογικές, ραδιολογικές, πυρηνικές και εκρηκτικές απειλές. Στις διαθέσιμες θέσεις περιλαμβάνονται επίσης τεχνικοί ερευνητές απειλών, μηχανικοί red teaming και στελέχη συλλογής πληροφοριών ασφαλείας.

Σε μία από τις αγγελίες, η εταιρεία αναφέρει ότι ο ειδικός για τις πυρηνικές και ραδιολογικές απειλές θα έχει κρίσιμο ρόλο στην προστασία από την κατάχρηση συστημάτων AI για την πρόκληση αντίστοιχων βλαβών.

Να σκέφτονται όπως οι κακόβουλοι χρήστες

Το έργο των νέων εργαζομένων δεν περιορίζεται στην ανάπτυξη λογισμικού ή στη δημιουργία γενικών πολιτικών ασφαλείας.

Οι αναλυτές θα πρέπει να εξετάζουν τα συστήματα από τη σκοπιά ενός επιτιθέμενου: να επιχειρούν να παρακάμψουν τα φίλτρα ασφαλείας, να αποκρύψουν τις πραγματικές προθέσεις τους και να αποσπάσουν πληροφορίες που το μοντέλο κανονικά δεν θα έπρεπε να παρέχει.

Αυτή η διαδικασία είναι γνωστή ως red teaming. Οι ειδικοί δοκιμάζουν ένα σύστημα πριν από την κυκλοφορία του, αναζητώντας αδυναμίες τις οποίες θα μπορούσαν να εκμεταλλευτούν εγκληματίες, τρομοκρατικές οργανώσεις, κρατικοί φορείς ή μεμονωμένοι χρήστες.

Όπως ανέφερε εκπρόσωπος της Anthropic στο Axios, η διασφάλιση ότι τα μοντέλα δεν παρέχουν δυνητικά επιβλαβείς πληροφορίες αποτελεί κεντρικό στοιχείο της υπεύθυνης ανάπτυξής τους. Για τον λόγο αυτό, η εταιρεία προσλαμβάνει ειδικούς που κατανοούν τόσο τη φύση μιας απειλής όσο και τον τρόπο με τον οποίο η AI μπορεί να την ενισχύσει.

Μισθοί που πλησιάζουν τα 300.000 δολάρια

Η Anthropic είναι διατεθειμένη να πληρώσει ακριβά την εξειδικευμένη γνώση που απαιτούν οι συγκεκριμένοι ρόλοι.

Οι βασικές ετήσιες αμοιβές για αρκετές από τις θέσεις κινούνται στα μεσαία έως υψηλά επίπεδα των 200.000 δολαρίων, πριν συνυπολογιστούν πιθανές παροχές ή συμμετοχή στο μετοχικό κεφάλαιο της εταιρείας.

Το ύψος των αποδοχών αντανακλά τόσο τη σπανιότητα της σχετικής τεχνογνωσίας όσο και τη σοβαρότητα με την οποία αντιμετωπίζει πλέον ο κλάδος τους κινδύνους των προηγμένων μοντέλων.

Οι εταιρείες δεν αναζητούν απλώς ειδικούς στην τεχνητή νοημοσύνη. Χρειάζονται επιστήμονες και αναλυτές με πραγματική εμπειρία στη βιολογία, στη χημεία, στην πυρηνική τεχνολογία, στην κυβερνοασφάλεια, στην εγκληματολογία και στη συλλογή πληροφοριών.

Οι δοκιμές πριν από την κυκλοφορία ενός μοντέλου

Η Anthropic υποστηρίζει ότι απασχολεί ήδη εκατοντάδες εργαζομένους σε θέματα ασφάλειας. Οι ομάδες της συνδυάζουν γνώσεις πολιτικής, μηχανικής, ανάλυσης δεδομένων, επιβολής κανόνων και διερεύνησης απειλών.

Πριν από τη διάθεση ενός νέου μοντέλου, οι ειδικοί πραγματοποιούν δοκιμές πίεσης με σκοπό να διαπιστώσουν:

• εάν το μοντέλο παρέχει επικίνδυνες τεχνικές πληροφορίες,
• εάν μπορεί να ξεγελαστεί μέσω έμμεσων ή κωδικοποιημένων ερωτημάτων,
• εάν συνδυάζει αθώες πληροφορίες με τρόπο που δημιουργεί πρακτικά επικίνδυνες οδηγίες,
• εάν τα υφιστάμενα φίλτρα εντοπίζουν νέες μορφές κατάχρησης,
• εάν απαιτούνται πρόσθετοι περιορισμοί πριν από την κυκλοφορία.

Οι αδυναμίες που εντοπίζονται μπορούν να οδηγήσουν σε αλλαγές στην εκπαίδευση του μοντέλου, στα συστήματα παρακολούθησης ή στους κανόνες πρόσβασης.

Photo: Shutterstock

Οι προειδοποιήσεις του Ντάριο Αμοντέι

Ο διευθύνων σύμβουλος και συνιδρυτής της Anthropic, Ντάριο Αμοντέι, έχει επανειλημμένα προειδοποιήσει ότι η προηγμένη AI μπορεί να αυξήσει σημαντικά τις δυνατότητες κακόβουλων χρηστών.

Σε κείμενό του τον Ιανουάριο αναφέρθηκε ιδιαίτερα στον κίνδυνο βιολογικών επιθέσεων. Διευκρίνισε ότι δεν θεωρεί βέβαιο πως μια μεγάλη επίθεση θα πραγματοποιηθεί μόλις καταστεί τεχνικά δυνατή. Υποστήριξε, ωστόσο, ότι όσο περισσότερα άτομα αποκτούν πρόσβαση σε ισχυρά συστήματα και όσο περνά ο χρόνος, αυξάνεται ο σωρευτικός κίνδυνος μιας επίθεσης με πολύ μεγάλο αριθμό θυμάτων.

Η Anthropic έχει συχνά επικριθεί για μια περισσότερο καταστροφολογική προσέγγιση σε σχέση με άλλες εταιρείες του κλάδου. Οι νέες προσλήψεις δείχνουν, πάντως, ότι οι προειδοποιήσεις της συνοδεύονται από σημαντικές επενδύσεις σε προσωπικό, έρευνα και μηχανισμούς προστασίας.

Η σύγκρουση για τις στρατιωτικές χρήσεις

Η εταιρεία έχει επιχειρήσει επίσης να θέσει όρια στον τρόπο αξιοποίησης των μοντέλων της από κρατικούς και στρατιωτικούς φορείς.

Στις αρχές του 2026, η Anthropic συγκρούστηκε με το αμερικανικό υπουργείο Άμυνας σχετικά με πιθανές χρήσεις της τεχνολογίας της σε συστήματα μαζικής παρακολούθησης και αυτόνομα όπλα, σύμφωνα με το Axios.

Η αντιπαράθεση ανέδειξε ένα ευρύτερο πρόβλημα: οι εταιρείες AI μπορεί να διαθέτουν δικούς τους κανόνες χρήσης, αλλά οι κυβερνήσεις και οι στρατιωτικοί οργανισμοί έχουν διαφορετικές προτεραιότητες, ιδιαίτερα όταν επικαλούνται ζητήματα εθνικής ασφάλειας.

Καθώς τα μοντέλα αποκτούν περισσότερες δυνατότητες, το ερώτημα για το ποιος θα αποφασίζει τις επιτρεπόμενες χρήσεις τους γίνεται ολοένα πιο κρίσιμο.

Και η OpenAI ενισχύει τις ομάδες βιοασφάλειας

Η Anthropic δεν αποτελεί εξαίρεση. Και η OpenAI αναζητεί ειδικούς για την αξιολόγηση των βιολογικών και χημικών κινδύνων που μπορεί να δημιουργήσουν τα προηγμένα μοντέλα.

Σε σχετική αγγελία, η OpenAI αναζητεί ερευνητή ο οποίος θα εντοπίζει αναδυόμενους κινδύνους, θα αναπτύσσει αξιολογήσεις για μοντέλα αιχμής και θα σχεδιάζει συστήματα διαχείρισης των συγκεκριμένων απειλών.

Σύμφωνα με το Axios, η βασική ετήσια αμοιβή για τον ρόλο κυμαίνεται από 295.000 έως 445.000 δολάρια.

Η OpenAI έχει αναπτύξει επίσης προγράμματα red teaming και bio bug bounty, μέσω των οποίων εξωτερικοί ειδικοί επιχειρούν να εντοπίσουν τρόπους παράκαμψης των φίλτρων ασφαλείας των μοντέλων.

Η ασφάλεια μετακινείται στον ιδιωτικό τομέα

Η αυξανόμενη ζήτηση για ειδικούς βιοασφάλειας, πυρηνικών απειλών και κυβερνοεπιθέσεων δημιουργεί μια νέα αγορά εργασίας στο σημείο όπου συναντώνται η τεχνολογία και η εθνική ασφάλεια.

Οι υψηλές αμοιβές των εταιρειών AI μπορούν να προσελκύσουν επιστήμονες και αναλυτές που διαφορετικά θα εργάζονταν σε κρατικές υπηρεσίες, πανεπιστήμια ή διεθνείς οργανισμούς.

Αυτό ενδέχεται να ενισχύσει τις δυνατότητες των εταιρειών να προστατεύουν τα δικά τους προϊόντα. Ταυτόχρονα, όμως, δημιουργεί τον κίνδυνο η κρίσιμη τεχνογνωσία να συγκεντρωθεί σε έναν μικρό αριθμό ιδιωτικών οργανισμών.

Σε ένα περιβάλλον χωρίς ενιαίο διεθνές ρυθμιστικό πλαίσιο, οι εταιρείες που δημιουργούν τα ισχυρότερα συστήματα είναι συχνά και εκείνες που αποφασίζουν:

• ποιοι κίνδυνοι θεωρούνται αποδεκτοί,
• ποιες δυνατότητες πρέπει να περιορίζονται,
• ποια φίλτρα κρίνονται επαρκή,
• ποιοι χρήστες μπορούν να αποκτούν πρόσβαση,
• πότε ένα μοντέλο είναι αρκετά ασφαλές για να κυκλοφορήσει.

Η μεγάλη αντίφαση της εποχής της AI

Οι νέες προσλήψεις της Anthropic δεν σημαίνουν ότι τα σημερινά μοντέλα μπορούν από μόνα τους να κατασκευάσουν πυρηνικά όπλα ή να οργανώσουν επιθέσεις μεγάλης κλίμακας.

Αποκαλύπτουν, όμως, ότι οι εταιρείες προετοιμάζονται για ένα μέλλον στο οποίο η AI θα μπορεί να μειώσει το επίπεδο γνώσεων, χρόνου και πόρων που απαιτούνται για την εκτέλεση επικίνδυνων ενεργειών.

Η μεγάλη αντίφαση βρίσκεται ακριβώς εκεί: οι επιχειρήσεις τεχνητής νοημοσύνης αναπτύσσουν συστήματα που υπόσχονται τεράστια επιστημονικά, οικονομικά και κοινωνικά οφέλη, ενώ ταυτόχρονα επενδύουν εκατοντάδες εκατομμύρια δολάρια για να περιορίσουν τις πιθανές καταστροφικές χρήσεις τους.

Η μάχη της επόμενης περιόδου δεν θα αφορά, επομένως, μόνο ποια εταιρεία θα κατασκευάσει το ισχυρότερο μοντέλο. Θα αφορά και το ποια μπορεί να αποδείξει ότι διαθέτει τους ανθρώπους, τις διαδικασίες και τους μηχανισμούς για να το κρατήσει υπό έλεγχο.

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• Το κινεζικό AI κερδίζει τη Δύση: Γιατί κολοσσοί εγκαταλείπουν τα αμερικανικά μοντέλα
• Η McLaren φέρνει την AI στη Formula 1 με τη βοήθεια του Google Gemini
• Η AI εισβάλλει στα hedge funds: Οι αναλυτές δίνουν τη θέση τους στους αλγόριθμους