AI «καμπανάκι»: Ερευνητής εγκαταλείπει την Anthropic και ζητά διεθνές «φρένο» στην τεχνητή νοημοσύνη
- Ο Τζέικομπ Κόξον ανακοίνωσε την παραίτησή του από την Anthropic.
- Είχε εργαστεί επί τρία χρόνια στην εκπαίδευση μοντέλων σε OpenAI και Anthropic.
- Ζητά κρατική παρέμβαση και διεθνή συντονισμό για την ασφάλεια της AI.
- Προειδοποιεί ότι ο ανταγωνισμός μεταξύ εταιρειών και Κίνας αυξάνει τον κίνδυνο εκπτώσεων στην ασφάλεια.
Την αποχώρησή του από την Anthropic ανακοίνωσε ο ερευνητής Τζέικομπ Κόξον, εκφράζοντας φόβους ότι η κούρσα για ισχυρότερα συστήματα τεχνητής νοημοσύνης μπορεί να οδηγήσει σε τεχνολογίες που οι δημιουργοί τους δεν θα είναι σε θέση να ελέγξουν.
Ο 27χρονος Βρετανός μαθηματικός είχε εργαστεί επί τρία χρόνια στην εκπαίδευση νέων μοντέλων στην OpenAI και την Anthropic. Όπως ανέφερε σε αναρτήσεις του στο X, αποχώρησε επειδή δεν επιθυμεί να συμμετέχει στην ανάπτυξη συστημάτων που θα μπορούν να βελτιώνουν αυτόνομα τις δυνατότητές τους.
Η προειδοποίηση για την ασφάλεια
Ο Κόξον υποστήριξε ότι ο ανταγωνισμός ανάμεσα στα μεγάλα εργαστήρια AI, σε συνδυασμό με την τεχνολογική αντιπαράθεση ΗΠΑ–Κίνας, καθιστά πιθανότερους τους συμβιβασμούς στα μέτρα ασφαλείας.
Παρότι αναγνωρίζει ότι η Anthropic αντιμετωπίζει σοβαρά τους κινδύνους της τεχνολογίας, εκτιμά ότι καμία ιδιωτική εταιρεία δεν μπορεί να αναπτύξει υπεύθυνα συστήματα που θα ξεπερνούν τον άνθρωπο σε ευρύ φάσμα εργασιών χωρίς κρατική εποπτεία και συντονισμένη δράση σε διεθνές επίπεδο.
Ο ίδιος ήταν μεταξύ περισσότερων από 1.000 ερευνητών που υπέγραψαν κοινή δήλωση υπέρ της δημιουργίας ενός διεθνούς μηχανισμού επιβράδυνσης της ανάπτυξης αυτοβελτιούμενων συστημάτων, εφόσον αυτό κριθεί αναγκαίο.
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
- ΥΠΕΝ: Πώς θα μειωθεί το ρεύμα κατά 30% έως το 2029 – Οι έξι άξονες για το ενεργειακό κόστος
- ΔΕΘ: Ο «χάρτης» των μέτρων έως το 2030 – Ποιοι κερδίζουν, πόσα και πότε
- Οι 10 καλοπληρωμένες δουλειές που θα αναπτυχθούν στην εποχή της AI
- Πώς θα λειτουργεί ο νέος «κουμπαράς για τη νέα γενιά» – Πού θα επενδύονται τα χρήματα
