Σάτια Ναντέλα: Γιατί οι επιχειρήσεις πρέπει να αντιμετωπίζουν την AI με επιφύλαξη

• Ο Σάτια Ναντέλα προειδοποιεί ότι τα μοντέλα τεχνητής νοημοσύνης μπορούν να κάνουν λάθη ή να παραβιαστούν, ακόμη και όταν χρησιμοποιούνται από τις ίδιες τις επιχειρήσεις που τα αναπτύσσουν.
• Ο επικεφαλής της Microsoft ζητά αυστηρούς μηχανισμούς προστασίας, περιορισμένη πρόσβαση σε κρίσιμα δεδομένα και δυνατότητα άμεσης διακοπής της λειτουργίας ενός μοντέλου από εξουσιοδοτημένο άτομο.
• Τα περιστατικά κυβερνοασφάλειας με τη συμμετοχή συστημάτων AI εντείνουν τη συζήτηση για την ευθύνη των εταιρειών και την ανάγκη ελέγχου των αυτόνομων πρακτόρων τεχνητής νοημοσύνης.

Ο Σάτια Ναντέλα εκτιμά ότι η δυσπιστία απέναντι στην τεχνητή νοημοσύνη μπορεί να λειτουργήσει προς όφελος των επιχειρήσεων, όταν πρόκειται για την ασφάλειά τους.

Σε εκτενή ανάρτησή του στο X το Σάββατο, ο διευθύνων σύμβουλος της Microsoft σημείωσε ότι οι επιχειρήσεις δεν κατανοούν πάντα τις αποφάσεις και τη συμπεριφορά των μοντέλων AI. Για τον λόγο αυτό, υποστήριξε ότι πρέπει να θέτουν σαφή όρια στη λειτουργία τους και να δημιουργούν δικλίδες ασφαλείας για την προστασία τους από πιθανά λάθη ή παραβιάσεις.

Ο Ναντέλα ξεκαθάρισε ότι τα μοντέλα τεχνητής νοημοσύνης δεν είναι από τη φύση τους κακόβουλα. Ωστόσο, μπορούν να κάνουν λάθη ή να παραβιαστούν, ιδίως όταν έχουν πρόσβαση σε κρίσιμα συστήματα. Για τον λόγο αυτό, δεν θα πρέπει να μπορούν να καθορίζουν μόνα τους ποια δεδομένα χρησιμοποιούν και ποιες ενέργειες πραγματοποιούν.

Σύμφωνα με τον ίδιο, οι επιχειρήσεις χρειάζεται να διαχωρίζουν το μοντέλο AI από τα συστήματα που ελέγχουν τη λειτουργία του, ώστε να μπορούν να περιορίζουν την πρόσβασή του και να παρεμβαίνουν όταν κάτι πάει στραβά.

«Το πιο αξιόπιστο σύστημα υπερνοημοσύνης δεν θα είναι εκείνο του οποίου το μοντέλο εμπιστευόμαστε περισσότερο, αλλά εκείνο που μας επιτρέπει να εμπιστευόμαστε λιγότερο το μοντέλο», ανέφερε.

Η εποχή της «μηδενικής εμπιστοσύνης»

Στο ίδιο μήκος κύματος, ο διευθύνων σύμβουλος της Box, Άαρον Λέβι, εκτιμά ότι η τεχνητή νοημοσύνη περνά σε μια εποχή «μηδενικής εμπιστοσύνης» (zero trust). Όπως σημείωσε, οι επιχειρήσεις θα χρειαστούν περισσότερα επίπεδα προστασίας, καταγραφή των ενεργειών των αυτόνομων πρακτόρων AI και σαφείς κανόνες για τα δεδομένα στα οποία έχουν πρόσβαση.

Οι ανησυχίες για την ασφάλεια συνοδεύονται από αυξανόμενες εκκλήσεις για αυστηρότερους κανόνες. Τον Σεπτέμβριο, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, ζήτησε να επιβραδυνθεί η ανάπτυξη της τεχνητής νοημοσύνης, θέση που υποστήριξαν ο επικεφαλής της OpenAI, Σαμ Άλτμαν, και ο Έλον Μασκ της SpaceXAI.

Παράλληλα, η κυβέρνηση του Ντόναλντ Τραμπ έχει αντισταθεί στη ρύθμιση του κλάδου, ενώ οι Αμερικανοί γερουσιαστές Τζος Χόλεϊ και Κρις Μέρφι κατέθεσαν αυτόν τον μήνα διακομματική πρόταση για την απόδοση ευθύνης στους δημιουργούς και τους διαχειριστές πρακτόρων AI σε περιπτώσεις κυβερνοεπιθέσεων.

Τα περιστατικά που εντείνουν την ανησυχία

Οι προειδοποιήσεις έρχονται μετά από περιστατικά που ανέδειξαν τους κινδύνους. Τον προηγούμενο μήνα, ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζι, δήλωσε ότι πράκτορας της OpenAI παραβίασε κυβερνητικό ιστότοπο κατά τη διάρκεια του καλοκαιριού. Τον Ιούλιο, η Anthropic ανακοίνωσε ότι εντόπισε τρία περιστατικά στα οποία μοντέλο Claude απέκτησε πρόσβαση στο διαδίκτυο και εισήλθε σε συστήματα χωρίς εξουσιοδότηση.

Ο Ναντέλα ζητά, μεταξύ άλλων, να υπάρχει πάντα η δυνατότητα άμεσης διακοπής της λειτουργίας ενός μοντέλου από εξουσιοδοτημένο άτομο. Παρομοίασε τον μηχανισμό αυτό με «φρένο έκτακτης ανάγκης» και τόνισε ότι οι εταιρείες πρέπει να ενημερώνουν εγκαίρως όσους επηρεάζονται όταν τα συστήματά τους αποτυγχάνουν ή παραβιάζονται.

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• MrBeast: Ξοδεύει εκατομμύρια για να «σπάσει» τους αλγορίθμους των social media – Το μυστικό πίσω από τα viral βίντεο
• CEO TikTok: Η AI μπορεί να φέρει μεγάλες επιστημονικές ανακαλύψεις μέσα στην επόμενη τριετία
• Nvidia: Η «μάχη» για τα chips της AI – Πώς οι επιχειρήσεις εξασφαλίζουν πρόσβαση στις πολύτιμες GPU