Συνιδρυτής OpenAI: «Η Τεχνητή Νοημοσύνη πρέπει να μείνει δεμένη με λουρί»

Ο Andrej Karpathy, συνιδρυτής της OpenAI και διακεκριμένος επιστήμονας υπολογιστών, προειδοποιεί πως η τεχνητή νοημοσύνη, όσο εντυπωσιακή κι αν είναι, πρέπει να παραμείνει “δεμένη με λουρί”. Μιλώντας σε εκδήλωση του Y Combinator, ο Karpathy τόνισε ότι τα σύγχρονα γλωσσικά μοντέλα, όπως αυτά που χρησιμοποιούνται από την OpenAI, εξακολουθούν να κάνουν σφάλματα που κανένας άνθρωπος δεν θα έκανε – από μαθηματικά λάθη έως επιμονή σε λανθασμένα γεγονότα.

Συγκρίνοντάς τα με «ανθρώπινα πνεύματα», ο Karpathy είπε ότι τα LLMs συχνά “παραληρούν”, δεν έχουν αυτογνωσία και πάσχουν από “αμνησία”. «Μπορούν να λύσουν προβλήματα με υπεράνθρωπη απόδοση σε κάποιους τομείς και μετά να πουν ότι 9,11 είναι μεγαλύτερο από 9,9», σημείωσε χαρακτηριστικά.

Ο ίδιος συμβουλεύει τους developers να παραμένουν ο «λαιμός του μπουκαλιού» στη διαδικασία και να μην αφήνουν τα μοντέλα να τρέχουν ανεξέλεγκτα. Παρόλο που η ΤΝ μπορεί να παράξει χιλιάδες γραμμές κώδικα σε δευτερόλεπτα, απαιτείται επιτήρηση και συνεχής έλεγχος. «Πρέπει να προχωράς βήμα-βήμα, με μικρές, συγκεκριμένες οδηγίες», είπε, υποστηρίζοντας ότι η επιτυχία εξαρτάται από το πόσο ξεκάθαρα διατυπώνουμε τα prompts μας.

Ο Karpathy είναι επίσης αυτός που επινόησε τον όρο “vibe coding” – την προσέγγιση όπου ο developer βασίζεται σχεδόν εξ ολοκλήρου στα vibes του prompt και “ξεχνά ότι ο κώδικας υπάρχει”.

Την άποψή του συμμερίζονται και άλλες φωνές στον χώρο. Ο Bob McGrew, πρώην επικεφαλής έρευνας της OpenAI, επισήμανε ότι οι ανθρώπινοι μηχανικοί παραμένουν απαραίτητοι, όχι μόνο για καθοδήγηση, αλλά και για την επέμβαση όταν τα πράγματα “μπλέκουν”. Ο Kent Beck, συν-συγγραφέας του «Agile Manifesto», παρομοίασε τα AI agents με “τζίνι” – εκπληρώνουν την ευχή σου, αλλά όχι πάντα με τον τρόπο που ήθελες.

Παρόλες τις αδυναμίες, οι τεχνολογικοί κολοσσοί συνεχίζουν να επενδύουν δυναμικά στην AI: ο CEO της Alphabet, Sundar Pichai, δήλωσε ότι πάνω από το 30% του νέου κώδικα της εταιρείας γράφεται πλέον από τεχνητή νοημοσύνη. Ωστόσο, όπως ξεκαθαρίζει ο Karpathy, «το AI δεν είναι έτοιμο να τρέξει ελεύθερο – και χρειάζεται συνεχή επίβλεψη».

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• 150 δισ. ευρώ σε κίνδυνο. Η Ευρώπη αποκλείει κινεζικά ιατροτεχνολογικά από δημόσιες προμήθειες
• «Καίνε» τους καταναλωτές οι δασμοί Τραμπ: Έως 2.000 δολάρια πάνω οι τιμές των αυτοκινήτων