Σάτια Ναντέλα – Microsoft: «Η AI πρέπει να παραμείνει υπό ανθρώπινο έλεγχο»

• Ο Σάτια Ναντέλα υπογραμμίζει ότι η τεχνητή νοημοσύνη πρέπει να παραμένει υπό ανθρώπινο έλεγχο.
• Ο CEO της Microsoft ζητά περισσότερο χρόνο για δοκιμές ασφάλειας και ευρύτερη συμμετοχή εξωτερικών ελεγκτών στην ανάπτυξη της AI.
• Η Microsoft παρουσιάζει τη στρατηγική της για την AI με έμφαση στην ασφάλεια, τον έλεγχο των πελατών και τη διάχυση των οικονομικών οφελών.

Ο διευθύνων σύμβουλος της Microsoft, Σάτια Ναντέλα, παρεμβαίνει στη συζήτηση που έχει ανοίξει γύρω από το κατά πόσο η βιομηχανία της τεχνητής νοημοσύνης κινείται με υπερβολικά γρήγορους ρυθμούς, υποστηρίζοντας ότι η AI πρέπει να παραμένει υπό ανθρώπινο έλεγχο και ότι οι εταιρείες πρέπει να είναι διατεθειμένες να επιβραδύνουν την ανάπτυξή της όταν αυτό απαιτείται για λόγους ασφάλειας.

Σε εσωτερικό σημείωμα προς τους εργαζομένους της Microsoft, ο Ναντέλα τάχθηκε επίσης υπέρ της διεύρυνσης των δοκιμών των μοντέλων από εξωτερικούς φορείς και τρίτους ελεγκτές, περιγράφοντας την προσέγγιση της εταιρείας σε τρεις βασικούς άξονες.

«Υπήρξε πολλή συζήτηση για την τεχνητή νοημοσύνη το Σαββατοκύριακο. Ως εταιρεία που παρέχει πλατφόρμες, η εστίασή μας παραμένει στην εφαρμογή της προσέγγισής μας στην πράξη, σε τρεις τομείς», γράφει ο Ναντέλα.

«Η τεχνητή νοημοσύνη πρέπει να παραμένει υπό ανθρώπινο έλεγχο»

Ο πρώτος άξονας αφορά τον τρόπο με τον οποίο αναπτύσσονται τα ίδια τα μοντέλα. «Πρέπει να είμαστε ξεκάθαροι ως προς τον στόχο του σχεδιασμού. Όπως έχω αναφέρει, η τεχνητή νοημοσύνη πρέπει να παραμένει υπό ανθρώπινο έλεγχο και να λειτουργεί προς όφελος της κοινωνίας στο ευρύτερο δυνατό επίπεδο», σημειώνει.

Ο Ναντέλα υποστηρίζει τη δημιουργία ενός οικοσυστήματος προηγμένων μοντέλων στο οποίο μπορούν να συνυπάρχουν τόσο κλειστά όσο και μοντέλα ανοικτού κώδικα, ενώ παράλληλα τάσσεται υπέρ μιας προσεκτικής προσέγγισης στον ρυθμό ανάπτυξης όταν πρόκειται για την ευθυγράμμιση των μοντέλων.

«Το σκέφτομαι αυτό όπως τις δοκιμές. Όλοι εφαρμόζουμε προσεκτική και σταδιακή προσέγγιση στην έρευνα και ανάπτυξη και στις δοκιμές πριν από την κυκλοφορία. Και το να υπάρχουν περισσότερες εξωτερικές δοκιμές και περισσότεροι τρίτοι ελεγκτές είναι κάτι θετικό».

Και προσθέτει μια από τις πιο χαρακτηριστικές φράσεις του σημειώματος: «Όσο αυξάνονται τα διακυβεύματα, πρέπει να παίρνει κανείς όλο τον χρόνο που χρειάζεται. Διαφορετικά, έτσι κι αλλιώς θα χάσει την άδεια να λειτουργεί».

Ο επικεφαλής της Microsoft εξηγεί ότι η εταιρεία θα εφαρμόσει αυτή την προσέγγιση μέσω της δυνατότητας παρατήρησης σε κάθε επίπεδο της τεχνολογικής υποδομής, καθώς και μέσω μηχανισμών διακυβέρνησης και περιορισμού της χρήσης των μοντέλων. «Θα χρησιμοποιήσουμε επίσης αυτή την προσέγγιση ως οδηγό για τον τρόπο με τον οποίο κατασκευάζουμε τα μοντέλα μας», αναφέρει.

Η παρέμβαση έρχεται παράλληλα με την απόφαση του Μουσταφά Σουλεϊμάν, επικεφαλής της Microsoft AI, να δημοσιεύσει προς δημόσια διαβούλευση ένα προσχέδιο 37 σελίδων με τον κώδικα δεοντολογίας που διέπει τα μοντέλα τεχνητής νοημοσύνης της Microsoft. «Πράγματα που μας ανησυχούσαν για μεγάλο χρονικό διάστημα θεωρητικά έχουν γίνει πλέον πολύ πραγματικά», έγραψε ο Σουλεϊμάν.

Ο έλεγχος περνά και στους πελάτες

Ο δεύτερος άξονας της στρατηγικής Ναντέλα αφορά τους πελάτες της Microsoft. «Το βασικό είναι να διασφαλίσουμε ότι παραμένουν οι ίδιοι σε έλεγχο της δικής τους μοναδικής και άρρητης γνώσης, ώστε να μπορούν να δημιουργήσουν τον δικό τους συνεχή κύκλο μάθησης και βελτίωσης, χωρίς να εξαρτώνται από έναν και μόνο πάροχο μοντέλων», σημειώνει.

Σε αυτό το πλαίσιο εντάσσει το Foundry της Microsoft, το οποίο, σύμφωνα με τον ίδιο, επιτρέπει στις επιχειρήσεις να αξιοποιούν πράκτορες τεχνητής νοημοσύνης που λειτουργούν για μεγάλο χρονικό διάστημα, με χαρακτηριστικά ασφάλειας, προστατευτικά όρια και οικονομική διαχείριση ενσωματωμένα από την αρχή.

«Αυτό ακριβώς είναι που επιτρέπει το Foundry», αναφέρει ο Ναντέλα, παραπέμποντας σε παρουσίαση που, όπως σημειώνει, έδειξε πώς οι πράκτορες μπορούν να γίνουν κατάλληλοι για χρήση από επιχειρήσεις, έχοντας ενσωματωμένα τα απαραίτητα εργαλεία ασφάλειας και ελέγχου.

Η «άδεια» για τις υποδομές της AI

Ο τρίτος άξονας αφορά τις υποδομές που απαιτούνται για την ανάπτυξη της τεχνητής νοημοσύνης, και ειδικότερα τα κέντρα δεδομένων.

«Πρέπει να κερδίσουμε την άδεια να κατασκευάσουμε τις υποδομές που τροφοδοτούν όλα αυτά, διασφαλίζοντας ότι τα οφέλη γίνονται αισθητά σε τοπικό επίπεδο», γράφει.

Ως παράδειγμα αναφέρει το κέντρο δεδομένων της Microsoft στο Quincy, το οποίο χαρακτηρίζει ως «ίσως το καλύτερο παράδειγμα» του τρόπου με τον οποίο η ανάπτυξη μιας τεχνολογικής υποδομής μπορεί να πραγματοποιείται παράλληλα με μια τοπική κοινότητα σε βάθος χρόνου.

Η προσέγγιση που περιγράφει ο Ναντέλα συνοψίζεται, επομένως, σε τρία επίπεδα:

• τον τρόπο με τον οποίο η Microsoft αναπτύσσει τα προηγμένα μοντέλα,
• τον τρόπο με τον οποίο επιτρέπει στους πελάτες της να διατηρούν τον έλεγχο
• και τον τρόπο με τον οποίο επιδιώκει να διαχέονται τα οικονομικά οφέλη από την ανάπτυξη της τεχνητής νοημοσύνης στις κοινότητες και τις χώρες.

«Και, κυρίως, ως εταιρεία μπορούμε να δείξουμε ότι πίσω από τα λόγια υπάρχουν πραγματικές πράξεις», καταλήγει.

Η συζήτηση για τον ρυθμό ανάπτυξης

Η τοποθέτηση του Ναντέλα έρχεται σε μια περίοδο κατά την οποία αυξάνονται οι προειδοποιήσεις για τους κινδύνους από την ταχεία ανάπτυξη ολοένα ισχυρότερων συστημάτων τεχνητής νοημοσύνης.

Το Σαββατοκύριακο, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, τάχθηκε υπέρ μιας πιο αργής ανάπτυξης της τεχνητής νοημοσύνης και δήλωσε ότι η εταιρεία του θα επιτρέψει εξωτερική παρακολούθηση της προόδου των μοντέλων της.

Στο ίδιο πλαίσιο, ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, συμφώνησε στην ανάγκη για εξωτερική παρακολούθηση και εξέφρασε τη στήριξή του στην επιβράδυνση της ανάπτυξης όταν αυτό είναι απαραίτητο για τη διασφάλιση της ασφάλειας και της ευθυγράμμισης των μοντέλων.

Για τη Microsoft, το μήνυμα του Ναντέλα είναι ότι η ταχύτητα ανάπτυξης πρέπει να συμβαδίζει με τις δοκιμές, την ανθρώπινη εποπτεία, τη διακυβέρνηση και τη δυνατότητα ελέγχου των επιπτώσεων της τεχνολογίας.

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• Κόστος εργασίας: Στο 3,9% η αύξηση στην Ελλάδα το β’ τρίμηνο – Τι ισχύει σε Ευρωζώνη και ΕΕ
• ΕΕ: «Ηλικιακή πύλη» σε social media και AI chatbots – Τι αλλάζει για τους ανηλίκους
• Ζούκερμπεργκ και Χουάνγκ κόντρα σε Anthropic: «Ευθυγράμμιση και όχι επιβράδυνση στo AI»