Anthropic: Ο Αμοντέι προειδοποιεί για «πραγματικούς κινδύνους» από την AI – «Καλή ιδέα» ένας διακόπτης έκτακτης ανάγκης

• Ο Ντάριο Αμοντέι προειδοποιεί ότι η ανάπτυξη της AI ενέχει «πραγματικούς κινδύνους» και ότι ο κλάδος πρέπει να κινηθεί πιο προσεκτικά.
• Τάσσεται υπέρ ανεξάρτητων αξιολογήσεων και ομοσπονδιακής ρύθμισης, ενώ θεωρεί ότι ένας «διακόπτης έκτακτης απενεργοποίησης» θα μπορούσε να είναι χρήσιμος.
• Απορρίπτει την πλήρη απαγόρευση της προηγμένης AI, υποστηρίζοντας ότι θα στερούσε σημαντικά οφέλη και δεν θα εμπόδιζε άλλες χώρες να συνεχίσουν την ανάπτυξή της.

Ισχυρή προειδοποίηση για τους κινδύνους από την ταχεία ανάπτυξη της τεχνητής νοημοσύνης απηύθυνε ο CEO και συνιδρυτής της Anthropic, Ντάριο Αμοντέι, υποστηρίζοντας ότι ο τεχνολογικός κλάδος έχει υποβαθμίσει για μεγάλο διάστημα τις πραγματικές απειλές.

«Δεν θα σας πω ψέματα, υπάρχουν πραγματικοί κίνδυνοι», δήλωσε, σημειώνοντας ότι η πρόοδος της AI γίνεται πλέον με τόσο γρήγορο ρυθμό ώστε απαιτεί αυστηρότερο έλεγχο.

«Πρέπει να επιβραδύνουμε»

Ο Αμοντέι υποστήριξε ότι η εξέλιξη της τεχνητής νοημοσύνης ακολουθεί ολοένα πιο απότομη εκθετική πορεία.

Διευκρίνισε ότι αυτό δεν σημαίνει πως πρέπει να σταματήσει συνολικά η ανάπτυξη της τεχνολογίας, αλλά ότι χρειάζεται μεγαλύτερη προσοχή.

Όπως είπε, πρόκειται για ένα «προειδοποιητικό σημάδι» ότι ο κλάδος πρέπει να επιβραδύνει τον ρυθμό με τον οποίο αυξάνονται οι δυνατότητες των μοντέλων.

Τι απαντά στις ακραίες προειδοποιήσεις

Οι δηλώσεις του ήρθαν μετά από τοποθέτηση του πρώην ερευνητή της Anthropic Τζέικομπ Κόξον, ο οποίος υποστήριξε ότι η Anthropic και η OpenAI «παίζουν στα ζάρια τις ζωές μας» αναπτύσσοντας συστήματα που ενδέχεται κάποτε να μπορούν να αυτοβελτιώνονται.

Ο Κόξον μάλιστα παρομοίασε το ενδεχόμενο αυτό με σενάρια τύπου «Terminator».

Ο Αμοντέι δεν υιοθέτησε αυτή τη ρητορική, παραδέχθηκε ωστόσο ότι η ταχύτητα της προόδου τον έχει αιφνιδιάσει.

Μόνιμη πρόσβαση σε ανεξάρτητους αξιολογητές

Στο πλαίσιο της νέας προσέγγισης, η Anthropic σκοπεύει να παρέχει μόνιμη πρόσβαση στα μοντέλα της σε ανεξάρτητους αξιολογητές.

Στόχος είναι να ελέγχεται κατά πόσο η εταιρεία τηρεί τις δεσμεύσεις της για την ασφάλεια κάθε νέας γενιάς μοντέλων.

Ο Αμοντέι παρομοίασε τον ρόλο αυτό με εκείνον ενός υγειονομικού ελεγκτή που εξετάζει αν ένα εστιατόριο τηρεί τους κανόνες.

Υπέρ της ομοσπονδιακής ρύθμισης

Παρότι θεωρεί ότι οι ανεξάρτητοι έλεγχοι είναι απαραίτητοι, ο CEO της Anthropic παραδέχεται ότι δεν αρκούν.

Για τον λόγο αυτό τάσσεται υπέρ της ομοσπονδιακής ρύθμισης της AI στις ΗΠΑ.

Στο τραπέζι βρίσκονται προτάσεις που κυμαίνονται από περιορισμούς στην ανάπτυξη υπερευφυών συστημάτων έως την υποχρεωτική δημιουργία μηχανισμών έκτακτης απενεργοποίησης.

«Καλή ιδέα» ένας διακόπτης έκτακτης ανάγκης

Ο Αμοντέι εμφανίστηκε θετικός στην ιδέα ενός «kill switch», δηλαδή ενός μηχανισμού που θα μπορούσε να απενεργοποιήσει ένα επικίνδυνο σύστημα AI.

Όπως είπε, ένας τέτοιος διακόπτης «θα μπορούσε να είναι μια καλή ιδέα».

Αντίθετα, απορρίπτει την πλήρη απαγόρευση της προηγμένης τεχνητής νοημοσύνης.

Γιατί απορρίπτει μια συνολική απαγόρευση

Ο Αμοντέι έδωσε δύο βασικούς λόγους.

Πρώτον, εκτιμά ότι μια πλήρης απαγόρευση θα μπορούσε να στερήσει τεράστια κοινωνικά οφέλη, όπως νέες ιατρικές θεραπείες.

Δεύτερον, θεωρεί ότι η τεχνολογία θα συνεχίσει να αναπτύσσεται σε άλλες χώρες ακόμη κι αν οι ΗΠΑ αποφασίσουν να σταματήσουν.

Αυτό δημιουργεί, όπως είπε, ένα δύσκολο γεωπολιτικό δίλημμα.

Το δίλημμα με την Κίνα

Ερωτηθείς αν οι ΗΠΑ θα πρέπει να επιβραδύνουν την ανάπτυξη της AI εφόσον η Κίνα δεν κάνει το ίδιο, ο Αμοντέι χαρακτήρισε το ζήτημα «το πιο δύσκολο δίλημμα».

Κατά τον ίδιο, θα μπορούσαν μακροπρόθεσμα να εξεταστούν διεθνείς συμφωνίες που θα θέτουν κάποιο «όριο ταχύτητας» στην πρόοδο της τεχνητής νοημοσύνης.

Ως πιθανό μοντέλο ανέφερε τις συμφωνίες για τα πυρηνικά όπλα μεταξύ ΗΠΑ και πρώην Σοβιετικής Ένωσης.

Χαμηλές προσδοκίες για διεθνή συμφωνία

Ο ίδιος, πάντως, παραδέχθηκε ότι μια τέτοια συμφωνία θα ήταν εξαιρετικά δύσκολη.

Ο λόγος είναι ότι τα κίνητρα για στρατιωτικό και τεχνολογικό πλεονέκτημα είναι τεράστια, ιδιαίτερα μεταξύ ανταγωνιστικών κρατών.

Παρόλα αυτά, θεωρεί ότι οι κυβερνήσεις πρέπει να προσπαθήσουν να δημιουργήσουν κάποιο πλαίσιο κοινής διακυβέρνησης.

«Νιώθω άβολα που αυτή η τεχνολογία αναπτύσσεται από ιδιωτικές εταιρείες»

Ο Αμοντέι έκανε ακόμη μια ασυνήθιστη παραδοχή, δηλώνοντας ότι αισθάνεται άβολα με το γεγονός ότι μια τεχνολογία τόσο ισχυρή αναπτύσσεται κυρίως από ιδιωτικές επιχειρήσεις.

Όπως σημείωσε, θεωρεί λογικό το ερώτημα γιατί μια τόσο κρίσιμη τεχνολογία δεν βρίσκεται υπό μεγαλύτερο δημόσιο έλεγχο.

Ωστόσο, εξέφρασε επιφυλάξεις και απέναντι στην ιδέα να περάσει ο πλήρης έλεγχος σε μία μόνο κυβέρνηση.

Συνεργασία δημοκρατικών κυβερνήσεων

Ο επικεφαλής της Anthropic δήλωσε ότι θα προτιμούσε ένα μοντέλο συνεργασίας ανάμεσα σε δημοκρατικά εκλεγμένες κυβερνήσεις.

Δεν υποστήριξε ευθέως ότι οι εταιρείες θα πρέπει να παραδώσουν την τεχνολογία τους στα κράτη, αλλά τόνισε ότι χρειάζεται κάποια μορφή συλλογικού ελέγχου και κοινής διακυβέρνησης.

«Αν την αναπτύξουμε λάθος, ο κίνδυνος είναι μεγάλος»

Ο Αμοντέι έκλεισε με μια σαφή προειδοποίηση.

Όπως είπε, εάν η AI αναπτυχθεί με σωστό τρόπο, οι πιθανότητες σοβαρών αρνητικών συνεπειών μπορούν να παραμείνουν χαμηλές.

Αν όμως αναπτυχθεί χωρίς επαρκείς δικλίδες ασφαλείας, τότε οι πιθανότητες να συμβεί κάτι σοβαρό αυξάνονται σημαντικά.

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• Anthropic: «Μάχη» με κινεζικά AI labs για την κλοπή τεχνολογίας – Στο dark web η νέα απειλή
• OpenAI: Οι ανατριχιαστικοί διάλογοι των μοντέλων που συνεργάστηκαν για να χακάρουν το Hugging Face
• Η επόμενη μεγάλη απειλή της AI αφορά νερό, ρεύμα και νοσοκομεία – Τι προειδοποιούν οι Big Tech