AI χωρίς φρένο; Η Anthropic συγκρούεται με το Πεντάγωνο για τον έλεγχο των μοντέλων
- Η Anthropic δηλώνει ότι δεν διαθέτει «kill switch» για τα μοντέλα της μετά την ανάπτυξή τους.
- Το Πεντάγωνο χαρακτηρίζει την εταιρεία κίνδυνο για την εφοδιαστική αλυσίδα.
- Αντικρουόμενες δικαστικές αποφάσεις μπλοκάρουν νέα συμβόλαια αλλά όχι υφιστάμενες συνεργασίες.
- Το σύστημα Claude απαγορεύεται από την εταιρεία για στρατιωτική χρήση, αλλά οι περιορισμοί αμφισβητούνται.
Η αντιπαράθεση μεταξύ της Anthropic και του Πενταγώνου αποκτά νέα διάσταση, καθώς η εταιρεία υποστηρίζει σε δικαστική κατάθεση ότι δεν διαθέτει κανέναν τεχνικό μηχανισμό ελέγχου ή απενεργοποίησης των μοντέλων τεχνητής νοημοσύνης της μετά την ανάπτυξή τους σε στρατιωτικά συστήματα.
Σύμφωνα με την ίδια, δεν υπάρχει «kill switch», ούτε δυνατότητα παρακολούθησης ή παρέμβασης στη λειτουργία των συστημάτων σε πραγματικές επιχειρησιακές συνθήκες, επιχείρημα που έρχεται σε πλήρη αντίθεση με τις αιτιάσεις του Πενταγώνου περί κινδύνου για την εφοδιαστική αλυσίδα και την εθνική ασφάλεια.
Η εταιρεία υπογραμμίζει ότι οι κρατικοί φορείς έχουν τη δυνατότητα να αξιολογούν τα μοντέλα πριν από την επιχειρησιακή τους αξιοποίηση, μεταθέτοντας ουσιαστικά την ευθύνη ελέγχου στους χρήστες της τεχνολογίας και όχι στον πάροχο.
Στο επίκεντρο της διαμάχης βρίσκονται και οι περιορισμοί χρήσης που έχει θέσει η Anthropic για το σύστημα Claude, απαγορεύοντας τη χρήση του για αυτόνομα οπλικά συστήματα ή μαζική επιτήρηση, περιορισμοί που το Πεντάγωνο απορρίπτει ως ανεπαρκείς ή παραπλανητικούς.
Το νομικό τοπίο παραμένει περίπλοκο, καθώς διαφορετικά δικαστήρια έχουν εκδώσει αντικρουόμενες αποφάσεις: στην Ουάσινγκτον απορρίφθηκε αίτημα της εταιρείας για προσωρινή αναστολή του χαρακτηρισμού «ρίσκου», ενώ στην Καλιφόρνια έγινε δεκτό αντίστοιχο αίτημα, δημιουργώντας ένα καθεστώς αβεβαιότητας.
Αυτό σημαίνει ότι η Anthropic αποκλείεται επί του παρόντος από νέα συμβόλαια με το Πεντάγωνο, αλλά διατηρεί τη δυνατότητα συνεργασίας με άλλες κυβερνητικές υπηρεσίες μέχρι να ξεκαθαρίσει το δικαστικό τοπίο.
Παράλληλα, η κυβέρνηση του Ντόναλντ Τραμπ προωθεί την ευρεία υιοθέτηση του μοντέλου Mythos σε ολόκληρη την ομοσπονδιακή διοίκηση, εντείνοντας τις ανησυχίες για την ασφάλεια των συστημάτων.
Στους κρατικούς φορείς καταγράφεται ήδη κινητικότητα, καθώς οι υπηρεσίες αναζητούν τρόπους προστασίας από πιθανές κυβερνοεπιθέσεις μέσω των νέων AI εργαλείων, εξέλιξη που ενδέχεται να επηρεάσει την αξιολόγηση των κινδύνων που αποδίδονται στην Anthropic.
Η επόμενη κρίσιμη καμπή αναμένεται στις 19 Μαΐου, όταν θα πραγματοποιηθεί η επόμενη ακρόαση, η οποία ενδέχεται να καθορίσει το πλαίσιο συνεργασίας μεταξύ εταιρειών τεχνητής νοημοσύνης και κρατικών φορέων στο άμεσο μέλλον.
