Anthropic: Αντιδράσεις για τα νέα AI μοντέλα που «κόβουν ταχύτητα» όταν εντοπίζουν έρευνα τεχνητής νοημοσύνης

Η Anthropic βρίσκεται αντιμέτωπη με έντονες επικρίσεις από την κοινότητα της τεχνητής νοημοσύνης, μετά την αποκάλυψη ότι τα νέα μοντέλα Mythos 5 και Fable 5 περιορίζουν σκόπιμα τη βοήθειά τους όταν διαπιστώνουν ότι χρησιμοποιούνται για έρευνα πάνω σε προηγμένα συστήματα AI.

Στο τεχνικό έγγραφο που δημοσίευσε η εταιρεία για τα δύο μοντέλα, αναφέρεται ότι έχουν ενσωματωθεί μηχανισμοί οι οποίοι μειώνουν τη χρησιμότητά τους σε εργασίες που σχετίζονται με την ανάπτυξη «frontier» μεγάλων γλωσσικών μοντέλων (LLMs).

Η Anthropic υποστηρίζει ότι η απόφαση συνδέεται με ανησυχίες γύρω από την ασφάλεια. Σύμφωνα με την εταιρεία, ιδιαίτερα ισχυρά μοντέλα θα μπορούσαν να επιταχύνουν την ανάπτυξη ανταγωνιστικών συστημάτων τεχνητής νοημοσύνης χωρίς αντίστοιχες δικλίδες προστασίας.

Ωστόσο, αυτό που έχει προκαλέσει τη μεγαλύτερη συζήτηση είναι ο τρόπος εφαρμογής των περιορισμών. Σε αντίθεση με τα συστήματα ασφαλείας που χρησιμοποιούνται για περιεχόμενο σχετικό με κυβερνοασφάλεια, βιολογία ή χημεία, οι παρεμβάσεις αυτές δεν είναι ορατές στον χρήστη. Αντί να αρνείται ευθέως να απαντήσει ή να προειδοποιεί ότι δεν μπορεί να εκτελέσει ένα αίτημα, το μοντέλο ενδέχεται να τροποποιεί διακριτικά τις απαντήσεις του ή να αναδιατυπώνει εσωτερικά τα prompts.

Η αποκάλυψη προκάλεσε άμεσες αντιδράσεις από ερευνητές και αναλυτές του κλάδου. Η εταιρεία ανάλυσης AI SemiAnalysis υποστήριξε ότι το νέο μοντέλο της Anthropic φαίνεται να υποβαθμίζει την απόδοσή του όταν εντοπίζει ενδιαφέροντα ερευνητικά έργα στον τομέα του machine learning ή της μηχανικής AI.

Αντίστοιχα, στελέχη εταιρειών που δραστηριοποιούνται στην εκπαίδευση μοντέλων τεχνητής νοημοσύνης χαρακτήρισαν προβληματική τόσο την ίδια την πρακτική όσο και το γεγονός ότι ο χρήστης δεν ενημερώνεται όταν το μοντέλο περιορίζει εσκεμμένα τις δυνατότητές του.

Η μάχη για το ανταγωνιστικό πλεονέκτημα στην AI

Η νέα αντιπαράθεση επαναφέρει στο προσκήνιο τη συζήτηση γύρω από την καθυστερημένη κυκλοφορία του Mythos. Όταν η Anthropic παρουσίασε για πρώτη φορά το μοντέλο, είχε επιλέξει να μην το διαθέσει άμεσα στο κοινό, επικαλούμενη λόγους ασφαλείας και την ανάγκη προετοιμασίας της κοινότητας κυβερνοασφάλειας.

Παράλληλα, όμως, είχαν διατυπωθεί και άλλες θεωρίες. Μία από αυτές αφορούσε το υψηλό υπολογιστικό κόστος λειτουργίας του μοντέλου, ενώ μια δεύτερη υποστήριζε ότι η εταιρεία επιθυμούσε να προστατεύσει τις πιο προηγμένες δυνατότητές του από ανταγωνιστές.

Στο επίκεντρο αυτής της συζήτησης βρίσκεται η λεγόμενη «απόσταξη» (distillation), μια διαδικασία κατά την οποία ανταγωνιστικές εταιρείες μπορούν να συλλέξουν απαντήσεις από προηγμένα μοντέλα και να τις χρησιμοποιήσουν για τη βελτίωση των δικών τους συστημάτων. Πρόκειται για ένα ζήτημα που απασχολεί ολοένα και περισσότερο τις κορυφαίες εταιρείες AI, ιδιαίτερα απέναντι σε ταχέως αναπτυσσόμενα εργαστήρια ανοικτού κώδικα και κινεζικές εταιρείες τεχνητής νοημοσύνης.

Η επίσημη παραδοχή ότι τα Mythos 5 και Fable 5 περιορίζουν ενεργά τη βοήθειά τους σε εργασίες αιχμής ενισχύει τα επιχειρήματα όσων θεωρούν ότι η Anthropic επιχειρεί να προστατεύσει όχι μόνο την ασφάλεια των μοντέλων της αλλά και το ανταγωνιστικό της πλεονέκτημα.

Το περιστατικό αναδεικνύει ένα από τα πιο κρίσιμα ερωτήματα που αντιμετωπίζει σήμερα η βιομηχανία της τεχνητής νοημοσύνης: πού τελειώνει η προστασία της τεχνολογίας και πού αρχίζει η υποχρέωση διαφάνειας απέναντι στους χρήστες και την ερευνητική κοινότητα.

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• Γιατί η επόμενη επανάσταση στα φάρμακα μπορεί να έρθει από το Διάστημα
• Η Perplexity διατηρεί τα σχέδια για IPO το 2028 παρά το κύμα εισαγωγών στην αγορά AI
• Amazon: Η νέα γενιά ρομπότ αποθηκών και η επιτάχυνση της αυτοματοποίησης μέσω AI