Γιατί η φιλοσοφία του «YOLO» επιστρέφει και απειλεί την ασφάλεια της τεχνητής νοημοσύνης
-
Η φράση “YOLO” (Μία φορά ζεις), που έγινε δημοφιλής από τον Drake, χρησιμοποιείται πλέον από στελέχη και ερευνητές της ΤΝ για να περιγράψει την πρόσφορη και συχνά απερίσκεπτη προσέγγιση του κλάδου στην ανάπτυξη μοντέλων.
-
Υπάρχει μια αυξανόμενη ένταση μεταξύ του αγώνα δρόμου των εταιρειών για την κατασκευή μεγαλύτερων και εξυπνότερων μοντέλων ΤΝ (υποστηριζόμενη από τεράστιες επενδύσεις) και των φωνών που ζητούν προσοχή και ασφάλεια, όπως ο CEO της Anthropic και ο Geoffrey Hinton, ο οποίος προειδοποιεί για κοινωνικούς κινδύνους.
-
Η κουλτούρα του «YOLO» αγνοεί τις πιθανές απειλές. Πάνω από 400 εισηγμένες εταιρείες έχουν ήδη αναφέρει την ΤΝ ως κίνδυνο για τη φήμη και την ασφάλειά τους στην Επιτροπή Κεφαλαιαγοράς, ενώ πολλές εταιρείες καθυστερούν να εφαρμόσουν ηθικούς κανόνες και να προσλάβουν υπεύθυνους δεοντολογίας.
Ο όρος «YOLO» υπήρξε κάποτε cool, χάρη στο ομώνυμο τραγούδι του Drake το 2011 και πειτα πέρασε στη σφαίρα του παλιομοδίτικου και εκτός τόπου και χρόνου. Τώρα όμως επιστρέφει.
Την περασμένη εβδομάδα, στη Σύνοδο Κορυφής DealBook των New York Times, ο CEO της Anthropic, Dario Amodei, έριξε τα «βέλη» του στους ανταγωνιστές του, όπως η OpenAI και η Meta, όταν δήλωσε: «Υπάρχουν κάποιοι παίκτες που ‘YOLO-άρουν’ (δρουν απερίσκεπτα), οι οποίοι τραβούν τον ‘διακόπτη του κινδύνου’ πολύ μακριά και είμαι πολύ ανήσυχος». Με άλλα λόγια, η προσέγγισή τους στην ανάπτυξη μοντέλων ΤΝ είναι πιο απερίσκεπτη παρά αυστηρή. Η Anthropic, είπε, προσπαθεί να διαχειριστεί την ανάπτυξή της όσο το δυνατόν «πιο υπεύθυνα».
Ο όρος χρησιμοποιείται και από ερευνητές της ΤΝ. Ο Jason Wei, ερευνητής στη Meta, έγραψε στο X ότι μία από τις μεγάλες δεξιότητες που έχει παρατηρήσει είναι τα «yolo runs» — μια κατάσταση ενστικτώδους ροής όπου ένας ερευνητής ή προγραμματιστής παραμερίζει την προσοχή. Σε ένα «yolo run», είπε, ένας ερευνητής «εφαρμόζει απευθείας ένα φιλόδοξο νέο μοντέλο χωρίς εκτεταμένη απο-κινδύνευση των επιμέρους συστατικών. Ο ερευνητής που κάνει το ‘yolo run’ βασίζεται κυρίως στη διαίσθηση για να ορίσει τις τιμές των υπερπαραμέτρων, να αποφασίσει ποια μέρη του μοντέλου έχουν σημασία και να προβλέψει πιθανά προβλήματα. Αυτές οι επιλογές δεν είναι προφανείς για όλους τους άλλους στην ομάδα». Αυτή η προσέγγιση έρχεται σε αντίθεση με την παραδοσιακή ερευνητική μέθοδο της προσεκτικής αλλαγής ενός πράγματος κάθε φορά, πρόσθεσε.
Κατά τη διάρκεια μιας συζήτησης στο Berkman Klein Center του Χάρβαρντ, το οποίο επιδιώκει να κατανοήσει τις επιπτώσεις της τεχνολογίας, ο καθηγητής του Χάρβαρντ Jonathan Zittrain χρησιμοποίησε τον όρο για να περιγράψει την τρέχουσα προσέγγιση του κλάδου της ΤΝ. Ο Zittrain είπε ότι το «μοντέλο YOLO» καθοδηγείται από ιδρυτές και επενδυτές επιχειρηματικών κεφαλαίων (VCs) που θα δοκιμάσουν τα πάντα γρήγορα: λανσάρουν μια ιδέα, βλέπουν αν πετυχαίνει, και αν η εταιρεία καταρρεύσει, απλώς προχωρούν στην επόμενη startup. Εάν πετύχει, είπε, βγάζουν τα χρήματά τους.
Η αναβίωση του όρου αναδεικνύει μια αυξανόμενη ένταση μεταξύ του αγώνα δρόμου του κλάδου της ΤΝ για την κατασκευή ολοένα και μεγαλύτερων και εξυπνότερων μοντέλων και των φωνών που ζητούν μεγαλύτερη προσοχή και είναι πιο προσανατολισμένες στην ασφάλεια. Από τη μία πλευρά, ο ανταγωνισμός είναι σκληρός στον κλάδο της ΤΝ, με τους τεχνολογικούς γίγαντες να εκδίδουν «κόκκινους κώδικες» στις ομάδες τους κάθε φορά που ένας ανταγωνιστής λανσάρει ένα επιτυχημένο νέο μοντέλο. Και το χρήμα ρέει άφθονο. Η Amazon, η Google, η Meta και η Microsoft κατέγραψαν όλες κεφαλαιουχικές δαπάνες ρεκόρ για τσιπ ΤΝ, διακομιστές και κέντρα δεδομένων αυτό το τρίμηνο. Η κλίμακα των δαπανών για την ΤΝ ώθησε τον S&P 500 και τον Nasdaq σε υψηλά ρεκόρ τις τελευταίες εβδομάδες.
Ταυτόχρονα, άλλοι προειδοποιούν ότι αυτού του είδους η κουλτούρα του «YOLO» αγνοεί τους δυνητικούς κινδύνους της ΤΝ — οτιδήποτε, από την κακή χρήση από κακόβουλους παράγοντες έως την ακούσια συμπεριφορά των μοντέλων ΤΝ. Ο «νονός» της ΤΝ, Geoffrey Hinton, δήλωσε σε συνομιλία με τον Γερουσιαστή Bernie Sanders στο Πανεπιστήμιο Georgetown τον περασμένο μήνα ότι η ταχεία ανάπτυξη της ΤΝ θα μπορούσε να πυροδοτήσει μαζική ανεργία, να βαθύνει την ανισότητα και ακόμη και να αλλάξει τη φύση των ανθρώπινων σχέσεων.
Μια ανάλυση που διεξήχθη από την AlphaSense διαπίστωσε ότι 418 εισηγμένες εταιρείες με αξία άνω του $1 δισεκατομμυρίου έχουν αναφέρει την ΤΝ ως κίνδυνο για τη φήμη και την ασφάλειά τους σε εκθέσεις που έχουν καταθέσει στην Επιτροπή Κεφαλαιαγοράς. Πολλές εταιρείες ήταν επίσης αργές στην εφαρμογή αξιωματούχων δεοντολογίας ΤΝ και εμπειρογνωμόνων διακυβέρνησης, λόγω της βιασύνης τους να αποκτήσουν κέρδη παραγωγικότητας.
Καθώς η νοοτροπία του “YOLO” ριζώνει στον κλάδο της ΤΝ, ο Zittrain ρώτησε: «Είναι αυτό ένα σωστό μοντέλο ανάπτυξης για αυτήν την ενδεχομένως μετασχηματιστική τεχνολογία;»
