Προειδοποίηση Βρυξελλών στους κολοσσούς της Τεχνητής Νοημοσύνης: «Χάνετε τον έλεγχο των AI agents – Κάντε τεστ ασφαλείας»
Σε μια αυστηρή προειδοποίηση προς τις ηγέτιδες εταιρείες του κλάδου της Τεχνητής Νοημοσύνης προχώρησε η Αντιπρόεδρος της Ευρωπαϊκής Επιτροπής και Επίτροπος Ψηφιακής Τεχνολογίας, Χένα Βίρκουνεν, καλώντας τις να διατηρήσουν τον απόλυτο έλεγχο των συστημάτων τους και να μην θυσιάζουν την ασφάλεια στον βωμό του παγκόσμιου ανταγωνισμού.
Μιλώντας σε δημοσιογράφους στο πλαίσιο της διεθνούς Συνόδου Κορυφής για την Τεχνητή Νοημοσύνη στο Δουβλίνο, η Φινλανδή αξιωματούχος υπογράμμισε ότι ο αμείλικτος αγώνας δρόμου μεταξύ των τεχνολογικών κολοσσών οδηγεί στη βιαστική διάθεση μοντέλων στην αγορά, χωρίς να αφιερώνεται ο απαραίτητος χρόνος για εκτενείς δοκιμές.
«Οι εταιρείες δεν γνωρίζουν πάντα τι κάνουν οι AI πράκτορές τους»
Η Επίτροπος στάθηκε ιδιαίτερα στην εξέλιξη των αυτόνομων συστημάτων (AI agents), εκφράζοντας την έντονη ανησυχία των Βρυξελλών για την απώλεια της ανθρώπινης εποπτείας:
«Διαπιστώνουμε έναν παγκόσμιο ανταγωνισμό τόσο άγριο που οι εταιρείες δεν δείχνουν να αφιερώνουν επαρκή χρόνο και πόρους για να τεστάρουν πραγματικά τα μοντέλα τους. Έχουμε παρατηρήσει περιστατικά που αποκαλύπτουν ότι οι εταιρείες δεν έχουν πάντα γνώση των δράσεων που αναλαμβάνουν οι πράκτορές τους. Οφείλουν να διατηρήσουν τον έλεγχο», τόνισε χαρακτηριστικά.
Η κ. Βίρκουνεν σημείωσε επίσης ότι, καθώς τα νέα μοντέλα γίνονται ολοένα και πιο ισχυρά, η αξιολόγησή τους καθίσταται εξαιρετικά σύνθετη, γεγονός που καθιστά επιτακτική την παροχή επαρκούς χρόνου στους ανεξάρτητους ειδικούς για τη διενέργεια ελέγχων.
Επίσημα αιτήματα για πληροφορίες στο πλαίσιο του AI Act
Υπενθυμίζεται ότι η Ευρωπαϊκή Ένωση έχει θέσει σε ισχύ τον πρωτοπόρο Κανονισμό για την Τεχνητή Νοημοσύνη (AI Act), ο οποίος παρέχει στις αρμόδιες αρχές εκτεταμένες εξουσίες ελέγχου.
Στο πλαίσιο αυτό, οι υπηρεσίες της Κομισιόν έχουν ήδη αποστείλει επίσημα αιτήματα παροχής πληροφοριών (Requests for Information) προς τις βασικές εταιρείες του τομέα, ζητώντας αναλυτικές εξηγήσεις για:
- Τα εσωτερικά μέτρα ασφαλείας που εφαρμόζονται.
- Τις διαδικασίες εξωτερικής αξιολόγησης (red-teaming).
- Την προστασία των δικαιωμάτων πνευματικής ιδιοκτησίας.
Όπως υπογράμμισε η Επίτροπος, ο ουσιαστικός έλεγχος και η διαφάνεια των συστημάτων αποτελούν θεμελιώδη «αξίωση» του νέου ευρωπαϊκού θεσμικού πλαισίου.
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
- Ο… λογαριασμός του χρέους μεγαλώνει: Γιατί το ΔΝΤ ζητά δράση τώρα
- Goldman Sachs: Η τεχνητή νοημοσύνη χωρίζει τις αγορές σε δύο κόσμους
- Μπιλ Γκέιτς: «Δεν κάνουμε αρκετά» για τους κινδύνους της AI – Προειδοποιεί για κύμα κυβερνοεπιθέσεων
- Politico: Το δίλημμα Ζελένσκι – Πόσο κοστίζει η σύγκρουση με τον Τραμπ
