OpenAI: Για ποια θέση «χρυσοπληρώνει» έως 445.000 δολάρια στην κούρσα της Τεχνητής Νοημοσύνης
- Η OpenAI έχει ανοίξει θέση στην ομάδα Preparedness για έρευνα γύρω από τη «αναδρομική αυτοβελτίωση» των μοντέλων, δηλαδή το σενάριο όπου η AI εκπαιδεύει πιο εξελιγμένες εκδοχές του εαυτού της.
- Η εταιρεία θέλει να ενισχύσει την άμυνά της απέναντι σε απειλές όπως η αλλοίωση δεδομένων εκπαίδευσης, η ερμηνεία των αποφάσεων των μοντέλων και η παρακολούθηση της αυτοματοποίησης τεχνικών εργασιών.
- Η κίνηση έρχεται καθώς κορυφαία εργαστήρια AI, όπως η OpenAI και η Anthropic, επιταχύνουν την ανάπτυξη μοντέλων που μπορούν να αναλαμβάνουν ολοένα πιο σύνθετες εργασίες.
Η OpenAI δεν αρκείται πλέον στο να χτίζει πιο ισχυρά μοντέλα τεχνητής νοημοσύνης (AI). Ετοιμάζεται ταυτόχρονα για το πιο ευαίσθητο σενάριο που συνοδεύει αυτή την εξέλιξη: έναν κόσμο στον οποίο η AI μπορεί να βελτιώνει η ίδια τον εαυτό της. Για να αντιμετωπίσει αυτό το ενδεχόμενο, η εταιρεία αναζητά ερευνητή ασφαλείας με αποδοχές που φτάνουν έως και τα 445.000 δολάρια, με αποστολή να προετοιμάσει την OpenAI για τις προκλήσεις της λεγόμενης αναδρομικής αυτοβελτίωσης.
Η θέση αυτή εντάσσεται στην ομάδα Preparedness, η οποία έχει ως αποστολή να εντοπίζει και να περιορίζει σοβαρούς κινδύνους από τα συστήματα AI. Η περιγραφή της θέσης δείχνει ότι η εταιρεία δεν εξετάζει μόνο τις σημερινές δυνατότητες των μοντέλων, αλλά και τις μελλοντικές συνέπειες που μπορεί να προκύψουν όταν αυτά αρχίσουν να αναπτύσσονται με ρυθμούς που ξεπερνούν την ανθρώπινη παρέμβαση.
Τι φοβάται η OpenAI
Σύμφωνα με την αγγελία, ο υποψήφιος θα μπορούσε να ασχοληθεί με την προστασία των μοντέλων από αλλοίωση δεδομένων εκπαίδευσης, μια πρακτική που μπορεί να επηρεάσει τη συμπεριφορά και την αξιοπιστία τους. Παράλληλα, θα μπορούσε να συμβάλει στη δημιουργία εργαλείων που ερμηνεύουν τον τρόπο με τον οποίο τα μοντέλα «σκέφτονται» ή να πειραματιστεί με συστήματα που βοηθούν στην κατανόηση των ορίων και των κινδύνων τους.
Εξίσου σημαντική είναι και η παρακολούθηση της αυτοματοποίησης τεχνικών θέσεων. Η OpenAI θέλει να καταγράφει πόσο γρήγορα τα εργαλεία της αντικαθιστούν ή υποκαθιστούν ανθρώπινες διαδικασίες, ειδικά σε τομείς όπως ο προγραμματισμός. Η διατύπωση της αγγελίας δείχνει ότι η εταιρεία προσπαθεί να μετρήσει όχι μόνο την τεχνολογική πρόοδο, αλλά και τον βαθμό στον οποίο αυτή αλλάζει την ίδια τη δομή της εργασίας.
Η κούρσα των μεγάλων εργαστηρίων
Η ανησυχία της OpenAI δεν έρχεται παράλογα. Τα κορυφαία εργαστήρια AI κινούνται σε ένα περιβάλλον όπου οι δυνατότητες των μοντέλων βελτιώνονται με πολύ γρήγορο ρυθμό. Έρευνες που παρακολουθούν την πρόοδο των frontier μοντέλων δείχνουν ότι η πολυπλοκότητα των εργασιών που μπορούν να ολοκληρώσουν αυξάνεται συνεχώς, με αποτέλεσμα η τεχνητή νοημοσύνη να πλησιάζει όλο και περισσότερο καθήκοντα που μέχρι τώρα απαιτούσαν ανθρώπινη εξειδίκευση.
Η OpenAI έχει ήδη ξεκαθαρίσει ότι θέλει να προχωρήσει προς πιο αυτοματοποιημένα συστήματα έρευνας, ενώ ο CEO Σαμ Άλτμαν έχει δηλώσει ότι η εταιρεία στοχεύει σε ένα «αυτόματο ερευνητικό βοηθό» και αργότερα σε έναν πλήρως αυτόνομο AI ερευνητή. Η Anthropic, από την πλευρά της, εξετάζει επίσης πώς πιο ισχυρά μοντέλα μπορούν να εποπτεύουν άλλα μοντέλα, αναγνωρίζοντας ότι το μέλλον της ασφάλειας AI θα απαιτήσει νέα εργαλεία και νέα πρωτόκολλα.
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
Πηγή: Business Insider
