Anthropic και Πεντάγωνο επαναφέρουν τις διαπραγματεύσεις για τη χρήση AI από τον στρατό των ΗΠΑ
- Ο CEO της Anthropic, Ντάριο Αμοντέι, βρίσκεται ξανά σε διαπραγματεύσεις με το Πεντάγωνο για τη χρήση των AI εργαλείων Claude από τον στρατό.
- Η προηγούμενη συμφωνία κατέρρευσε μετά τις οδηγίες του τότε Προέδρου Ντόναλντ Τραμπ να σταματήσουν οι ομοσπονδιακές υπηρεσίες τη χρήση των εργαλείων της εταιρείας.
- Η Anthropic ζητά εγγυήσεις ότι τα εργαλεία της δεν θα χρησιμοποιηθούν για εσωτερική επιτήρηση ή αυτόνομα όπλα, ενώ η τεχνολογική κοινότητα εκφράζει ανησυχίες για την ταξινόμηση της εταιρείας ως «κινδύνου εφοδιαστικής αλυσίδας».
Ο CEO της Anthropic, Ντάριο Αμοντέι, επανέρχεται στις διαπραγματεύσεις με το Υπουργείο Άμυνας των ΗΠΑ, μετά τη διακοπή των συνομιλιών την Παρασκευή σχετικά με τη χρήση των AI εργαλείων Claude από τον στρατό, σύμφωνα με το Financial Times.
Οι συζητήσεις πραγματοποιούνται με τον Έμιλ Μάικελ, αναπληρωτή υπουργό Άμυνας για Έρευνα και Μηχανική, σε μια προσπάθεια να συμφωνηθούν οι όροι πρόσβασης του Πενταγώνου στα μοντέλα της Anthropic. Οι προηγούμενες διαπραγματεύσεις κατέρρευσαν, όταν ο Πρόεδρος Ντόναλντ Τραμπ διέταξε να σταματήσει η χρήση των εργαλείων και ο Υπουργός Άμυνας Πιτ Χέγκσεθ χαρακτήρισε την εταιρεία ως κινδύνου εφοδιαστικής αλυσίδας για την εθνική ασφάλεια.
Η Anthropic, που ιδρύθηκε το 2021 από πρώην εργαζόμενους της OpenAI και προωθείται ως “safety-first” εναλλακτική λύση, ζητά διαβεβαιώσεις ότι τα μοντέλα της δεν θα χρησιμοποιηθούν για εσωτερική επιτήρηση ή αυτόνομα όπλα. Το Claude έγινε το πρώτο μεγάλο AI μοντέλο που αναπτύχθηκε στα κλειστά δίκτυα της κυβέρνησης μέσω συμβολαίου 200 εκατ. δολαρίων με το Πεντάγωνο, αλλά η εταιρεία ήθελε όρους περιορισμού χρήσης για συγκεκριμένα σενάρια.
Η ανακοίνωση της συμφωνίας της OpenAI με το Πεντάγωνο, λίγες ώρες μετά την κριτική κατά της Anthropic, προκάλεσε δημόσια αντιδράσεις, με τις εφαρμογές της Claude να βλέπουν αύξηση downloads και την ChatGPT να εμφανίζει μαζικές απεγκαταστάσεις. Ο CEO της OpenAI, Σαμ Άλτμαν, παραδέχτηκε ότι η συμφωνία έπρεπε να είχε γίνει πιο προσεκτικά και προώθησε αλλαγές στα μέτρα ασφαλείας για τη χρήση της τεχνολογίας από το Πεντάγωνο.
Μια τεχνολογική ένωση, στην οποία συμμετέχουν Νβίντια, Γκούγκλ και Anthropic, είχε στείλει επιστολή στον Χέγκσεθ εκφράζοντας ανησυχίες για την ταξινόμηση της Anthropic ως «κινδύνου εφοδιαστικής αλυσίδας». Οι συνομιλίες συνεχίζονται, με στόχο να διασφαλιστεί η χρήση των AI εργαλείων της Anthropic από τον στρατό των ΗΠΑ υπό όρους που σέβονται την ασφάλεια και τους περιορισμούς που θέτει η εταιρεία.
