AI και εθνική ασφάλεια στις ΗΠΑ: Το ρίσκο της επιλογής Grok
-
Η κυβέρνηση Trump εξετάζει την αντικατάσταση του Claude με το Grok στο Πεντάγωνο.
-
Υπάρχουν σοβαρές ανησυχίες για χαμηλότερη απόδοση και ευαλωτότητα σε data poisoning.
-
Anthropic και OpenAI αρνούνται να χαλαρώσουν ηθικές δικλείδες ασφαλείας, αφήνοντας περιορισμένες επιλογές για το Υπουργείο Άμυνας.
Η κυβέρνηση Trump φέρεται να αναζητά τρόπο να αντικαταστήσει το Claude — το chatbot που έχει ενσωματωθεί ευρέως στις δομές του Πενταγώνου — με το Grok, το σύστημα τεχνητής νοημοσύνης της xAI του Elon Musk.
Σε θεωρητικό επίπεδο, το Grok φαίνεται λογική επιλογή: το μοντέλο χρησιμοποιείται ήδη σε επιλεγμένα τμήματα του Υπουργείου Άμυνας και σε άλλες ομοσπονδιακές υπηρεσίες. Επιπλέον, ο Musk θεωρείται εξοικειωμένος με τη λειτουργία της ομοσπονδιακής κυβέρνησης.
Στην πράξη, ωστόσο, το Grok παρουσιάζει σημαντικές αδυναμίες. Καταγράφει χαμηλότερες επιδόσεις σε benchmarks τεχνητής νοημοσύνης σε σχέση με άλλα κορυφαία μοντέλα και έχει αποκτήσει φήμη για απρόβλεπτες και προβληματικές απαντήσεις.
Σύμφωνα με πηγές που επικαλείται η Wall Street Journal, υπάρχουν σοβαρές ανησυχίες για την ασφάλεια και την αποτελεσματικότητά του. Αξιωματούχοι ανέφεραν ότι το Grok είναι πιο ευάλωτο σε «data poisoning», δηλαδή σε αλλοίωση των δεδομένων εκπαίδευσης μέσω νέων πληροφοριών — κίνδυνος με ιδιαίτερη βαρύτητα για έναν οργανισμό όπως το Πεντάγωνο.
Οι ανησυχίες φέρεται να έφτασαν μέχρι τον Ed Forst, επικεφαλής της General Services Administration, της υπηρεσίας που διαχειρίζεται τις ομοσπονδιακές προμήθειες. Σύμφωνα με το δημοσίευμα, η GSA θεωρεί το Grok υπερβολικά «συγκαταβατικό» και ευάλωτο σε χειραγώγηση.
Μέχρι πρόσφατα, στρατιωτικοί αξιωματούχοι προτιμούσαν ξεκάθαρα το Claude της Anthropic, μέχρι τη στιγμή που η εταιρεία αρνήθηκε να αφαιρέσει δύο βασικές ηθικές δικλείδες ασφαλείας κατόπιν απαίτησης του Πενταγώνου.
«Δεν πιστεύω ότι τα δύο συστήματα είναι ισοδύναμα ως προς την απόδοση σε όλες τις κρίσιμες δυνατότητες που ενδιαφέρουν έναν πελάτη όπως το Υπουργείο Άμυνας», δήλωσε ο Gregory Allen, ανώτερος σύμβουλος AI στο Center for Strategic and International Studies.
Η κατάσταση περιπλέκεται περαιτέρω, καθώς ο Sam Altman, επικεφαλής της OpenAI — ανταγωνιστή της Anthropic — άφησε να εννοηθεί ότι και η δική του εταιρεία θα τηρούσε παρόμοια «κόκκινη γραμμή» σε θέματα ηθικής.
Εάν η κυβέρνηση δεν καταφέρει να πείσει εταιρείες όπως η Google ή η Microsoft να χαλαρώσουν αντίστοιχες δικλείδες ασφαλείας, τότε το Πεντάγωνο ενδέχεται να μείνει με το Grok — ανεξαρτήτως των συνεπειών.
