Απολύσεις «ασφαλείας» στην OpenAI: Παίρνονται όλα τα μέτρα για την προστασία των προσωπικών δεδομένων;
- Τρεις ερευνητές, εκ των οποίων τουλάχιστον δύο στελέχη του τμήματος ασφαλείας, απολύθηκαν από την OpenAI για παραβίαση των πρωτοκόλλων διαχείρισης απόρρητων εταιρικών δεδομένων.
- Οι απολύσεις έρχονται μετά από αποκαλύψεις για «αυτονομημένα» μοντέλα της εταιρείας που παραβίασαν τον Ιούλιο ιστότοπους της αυστραλιανής κυβέρνησης και την πλατφόρμα Hugging Face.
- Ο Ντόναλντ Τραμπ συγκάλεσε τους ηγέτες της Σίλικον Βάλεϊ, προκρίνοντας ένα μοντέλο «ηθικής αυτορρύθμισης» των εταιρειών, παρά τις εκκλήσεις κορυφαίων επιστημόνων για αυστηρότερη κρατική εποπτεία.
Σε κλυδωνισμούς βρίσκεται η κατασκευάστρια εταιρεία του ChatGPT, OpenAI, η οποία προχώρησε στην απόλυση τριών ερευνητών της με την κατηγορία της κακοδιαχείρισης ευαίσθητων πληροφοριών. Σύμφωνα με την εταιρεία, οι συγκεκριμένοι εργαζόμενοι –δύο εκ των οποίων συμμετείχαν σε νευραλγικές έρευνες για την ασφάλεια της Τεχνητής Νοημοσύνης– παραβίασαν τις εσωτερικές διαδικασίες, διαχειριζόμενοι δεδομένα εκτός των καθιερωμένων εταιρικών καναλιών, σε συνεργασία με εξωτερικό οργανισμό ανάλυσης μοντέλων AI.
«Η έρευνά μας επιβεβαίωσε ότι τα άτομα αυτά χειρίστηκαν ακατάλληλα ευαίσθητες πληροφορίες […] καταπατώντας τις πολιτικές μας και κλονίζοντας την εμπιστοσύνη που είναι θεμελιώδης για το έργο μας», ανέφερε χαρακτηριστικά εκπρόσωπος της εταιρείας.
Το χρονικό των παραβιάσεων από τα «ανεξέλεγκτα» μοντέλα
Οι απολύσεις αυτές ρίχνουν λάδι στη φωτιά της εντεινόμενης συζήτησης γύρω από τους κινδύνους της Τεχνητής Νοημοσύνης. Το τελευταίο διάστημα, η OpenAI έχει βρεθεί στο μικροσκόπιο έπειτα από μια σειρά σοβαρών περιστατικών, όπου τα αυτόνομα μοντέλα της φέρεται να έδρασαν εκτός των προβλεπόμενων ορίων. Τον περασμένο Ιούλιο, ένα από τα συστήματα AI της εταιρείας απέκτησε μη εξουσιοδοτημένη πρόσβαση στο διαδίκτυο, παραβιάζοντας την open-source πλατφόρμα προγραμματιστών Hugging Face, αλλά και ιστότοπους της αυστραλιανής κυβέρνησης.
Αυτά τα περιστατικά ανάγκασαν την OpenAI να προχωρήσει σε ενδελεχή επανεξέταση των «πρακτόρων ΑΙ» (AI agents), οι οποίοι είναι σχεδιασμένοι να εκτελούν εργασίες αυτόνομα βάσει απλών εντολών. Η εταιρεία έχει ήδη ειδοποιήσει περισσότερους από 100 οργανισμούς για περιστατικά μη εξουσιοδοτημένης δραστηριότητας που συνδέονται με τα συστήματά της, διευκρινίζοντας ωστόσο ότι οι ειδοποιήσεις αυτές δεν συνεπάγονται απαραίτητα υποκλοπή ιδιωτικών δεδομένων ή ολοκληρωτική παραβίαση των συστημάτων τους.
Ανησυχία στην αγορά και η συνάντηση με τον Τραμπ
Ο προβληματισμός στην επιστημονική κοινότητα κλιμακώνεται διαρκώς. Τον περασμένο Σεπτέμβριο, ο ερευνητής Τζέικομπ Κόξον, ο οποίος αποχώρησε από την Anthropic, ζήτησε την επιβράδυνση της ανάπτυξης του AI ώστε να αξιολογηθούν σωστά οι πραγματικοί κίνδυνοι για την ανθρωπότητα. Στο ίδιο μήκος κύματος έχουν κινηθεί τόσο ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, όσο και ο CEO της OpenAI, Σαμ Άλτμαν, ζητώντας την επιβολή δικλείδων ασφαλείας.
Μέσα σε αυτό το τεταμένο κλίμα, ο Αμερικανός πρόεδρος Ντόναλντ Τραμπ συγκάλεσε την Τρίτη έκτακτη σύσκεψη στον Λευκό Οίκο, με τη συμμετοχή των κορυφαίων ηγετών της τεχνολογίας – μεταξύ των οποίων στελέχη από OpenAI, Anthropic, Nvidia, SpaceX, Meta και Google. Μετά το πέρας της συνάντησης, ο Αμερικανός πρόεδρος δημοσιοποίησε ένα έγγραφο το οποίο χαρακτήρισε ως «ηθικά δεσμευτική» συμφωνία, σχεδιασμένη να λειτουργήσει ως προστατευτική ασπίδα απέναντι στους ενδεχόμενους κινδύνους.
Ωστόσο, η συγκεκριμένη κίνηση συγκέντρωσε τα πυρά πολλών ειδικών της τεχνολογίας. Οι επικριτές επισημαίνουν ότι το σύμφωνο ουσιαστικά επιτρέπει στις εταιρείες AI να αυτορρυθμίζονται, χωρίς επίσημο νομοθετικό πλαίσιο, την ώρα που ο ίδιος ο Τραμπ έχει επανειλημμένα υποβαθμίσει τις ανησυχίες για τους κινδύνους της τεχνολογίας, αψηφώντας τις εκκλήσεις παραγόντων του κλάδου για αυστηρότερη και θεσμοθετημένη εποπτεία.
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
Πηγή: bbc.com
