Reddit: Ο συνιδρυτής του λέει ότι η Silicon Valley εξηγεί λάθος την AI – «Παντού παραπληροφόρηση»

• Ο συνιδρυτής του Reddit, Αλέξις Οχανιάν, κατηγορεί τη βιομηχανία τεχνολογίας ότι έχει κάνει «tone deaf» δουλειά στην εξήγηση της AI στο κοινό.
• Θεωρεί ότι τα αποκαλυπτικά σενάρια τύπου «Terminator» και «Skynet» αποσπούν την προσοχή από πιο ρεαλιστικούς κινδύνους.
• Στο επίκεντρο βάζει ζητήματα όπως τα agent swarms και την ανάγκη για καλύτερη ενημέρωση και λιγότερη πολιτικοποίηση της συζήτησης.

Η βιομηχανία τεχνολογίας έχει αποτύχει να εξηγήσει επαρκώς στο κοινό τι είναι πραγματικά η τεχνητή νοημοσύνη και ποιοι είναι οι ουσιαστικοί κίνδυνοι που τη συνοδεύουν, υποστηρίζει ο συνιδρυτής του Reddit, Αλέξις Οχανιάν.

Μιλώντας στο CNBC, ο Οχανιάν είπε ότι ο κλάδος έχει κάνει μια «αρκετά tone deaf δουλειά» στην επικοινωνία γύρω από την AI, αφήνοντας χώρο σε παραπληροφόρηση, συνθήματα και ακραία σενάρια.

«Οι πραγματικοί κίνδυνοι είναι πιο πεζοί»

Ο Οχανιάν δεν αμφισβητεί ότι η AI ενέχει πραγματικούς κινδύνους.

Υποστηρίζει, όμως, ότι αυτοί μπορεί να είναι πολύ πιο «πεζοί» και πρακτικοί από τα σενάρια επιστημονικής φαντασίας στα οποία μια υπερνοήμων AI αποκτά έλεγχο και στρέφεται κατά της ανθρωπότητας.

Όπως είπε, οι εικόνες τύπου «Terminator» και «Skynet» μπορεί να απομακρύνουν τη συζήτηση από πιο άμεσα ζητήματα.

Στο επίκεντρο τα agent swarms

Ένα από τα παραδείγματα που ανέφερε αφορά τα λεγόμενα agent swarms.

Πρόκειται για σενάρια στα οποία πολλαπλοί AI agents συνεργάζονται μεταξύ τους για την εκτέλεση πολύπλοκων εργασιών.

Κατά τον Οχανιάν, τέτοιου είδους συστήματα αποτελούν πιο ρεαλιστικό πεδίο ανησυχίας από τις αποκαλυπτικές αφηγήσεις που κυριαρχούν συχνά στα social media.

Η σύγκριση με την πυρηνική ενέργεια

Ο συνιδρυτής του Reddit παρομοίασε την AI με την πυρηνική ενέργεια.

Και οι δύο τεχνολογίες, όπως είπε, έχουν τεράστια δύναμη και μπορούν να προκαλέσουν σοβαρή ζημιά αν χρησιμοποιηθούν λανθασμένα.

Ταυτόχρονα, όμως, μπορούν να προσφέρουν πολύ μεγάλα οφέλη εφόσον αναπτυχθούν και χρησιμοποιηθούν με υπευθυνότητα.

«Λιγότερα tweets, περισσότερη σοβαρή συζήτηση»

Ο Οχανιάν τόνισε ότι η δημόσια συζήτηση γύρω από την AI χρειάζεται λιγότερα συνθήματα και περισσότερη ουσία.

Όπως είπε, απαιτούνται «λιγότερα tweets» και περισσότερος διάλογος που να επικεντρώνεται στα πραγματικά προβλήματα και όχι σε θέματα που προσφέρονται για εύκολη πολιτική αντιπαράθεση.

Παράλληλα, εξέφρασε την ενόχλησή του για τον όγκο παραπληροφόρησης που κυκλοφορεί γύρω από την τεχνητή νοημοσύνη.

Οι προειδοποιήσεις για recursive self-improvement

Οι δηλώσεις του έρχονται λίγες ημέρες μετά από νέες προειδοποιήσεις ερευνητών των OpenAI και Anthropic για την ταχεία πρόοδο στο λεγόμενο recursive self-improvement (RSI).

Ο όρος περιγράφει συστήματα AI που μπορούν να βοηθούν στη δημιουργία ακόμη πιο προηγμένων μοντέλων, ενδεχομένως δημιουργώντας έναν κύκλο κατά τον οποίο όλο και ισχυρότερα συστήματα συμβάλλουν στην ανάπτυξη των επόμενων γενεών.

Η βασική ανησυχία είναι ότι, αν μεγάλο μέρος της διαδικασίας εκπαίδευσης και ανάπτυξης περάσει στα ίδια τα συστήματα AI, οι άνθρωποι μπορεί να χάσουν σταδιακά τον έλεγχο του τρόπου με τον οποίο αυτά εξελίσσονται.

Οι προειδοποιήσεις από πρώην ερευνητή της Anthropic

Νωρίτερα μέσα στον μήνα, ο Τζέικομπ Κόξον, ερευνητής που είχε εργαστεί τόσο στην Anthropic όσο και στην OpenAI, παραιτήθηκε εκφράζοντας έντονες ανησυχίες για την πορεία της τεχνολογίας.

Ο ίδιος υποστήριξε ότι οι δύο εταιρείες αναπτύσσουν πολύ ισχυρά συστήματα χωρίς επαρκή περιθώρια ασφαλείας και ότι οι ίδιοι οι άνθρωποι που τα δημιουργούν θεωρούν πιθανό να υπάρξουν εξαιρετικά σοβαρές συνέπειες.

«Παντού παραπληροφόρηση»

Για τον Οχανιάν, το βασικό ζήτημα είναι η ποιότητα της δημόσιας συζήτησης.

Όπως είπε, η κοινωνία χρειάζεται ενημερωμένους πολίτες που μπορούν να ξεχωρίζουν τους πραγματικούς κινδύνους από την υπερβολή.

Παρά την έντονη παραπληροφόρηση, δήλωσε αισιόδοξος ότι σε βάθος χρόνου η συζήτηση θα ωριμάσει και η τεχνολογία θα αντιμετωπιστεί με πιο ψύχραιμο και ουσιαστικό τρόπο.

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• Atlantic Council:  Τι σημαίνει η επιβράδυνση της Τεχνητής Νοημοσύνης για την ανθρωπότητα
• Ζούκερμπεργκ και Χουάνγκ κόντρα σε Anthropic: «Ευθυγράμμιση και όχι επιβράδυνση στo AI»
• Ο Έλον Μασκ έδωσε 100.000 δολάρια για μια AI «Οδύσσεια» – Ο Πολύφημος εμφανίζεται με τρία μάτια