AI χωρίς φρένα; Chatbots φέρονται να «διδάσκουν» βιολογικές επιθέσεις
- Επιστήμονες προειδοποιούν ότι ορισμένα AI chatbots μπορούν να παρέχουν επικίνδυνες πληροφορίες για βιολογικές επιθέσεις.
- Παρά τις διαβεβαιώσεις των εταιρειών, οι ειδικοί επισημαίνουν ότι τα συστήματα ασφαλείας μπορούν να παρακαμφθούν.
Ανησυχία προκαλούν αποκαλύψεις επιστημόνων στις οποίες ορισμένα συστήματα τεχνητής νοημοσύνης φέρονται να παρείχαν λεπτομερείς οδηγίες για τη δημιουργία και χρήση βιολογικών όπλων.
Ο Ντέιβιντ Ρέλμαν, ειδικός στη βιοασφάλεια στο Πανεπιστήμιο Στάνφορντ, περιέγραψε περιστατικό κατά το οποίο chatbot εξήγησε πώς θα μπορούσε να τροποποιηθεί παθογόνος οργανισμός ώστε να καταστεί πιο ανθεκτικός και επικίνδυνος. Το ίδιο σύστημα, σύμφωνα με τον ίδιο, προχώρησε ακόμη παραπέρα, περιγράφοντας πιθανά σενάρια διασποράς σε δημόσιους χώρους.
Το περιστατικό δεν θεωρείται μεμονωμένο. Μια ομάδα ειδικών που δοκιμάζει συστήματα AI για κινδύνους υψηλού αντίκτυπου έχει καταγράψει παρόμοιες απαντήσεις, στις οποίες τα chatbots φέρονται να περιγράφουν διαδικασίες απόκτησης γενετικού υλικού και πιθανές μεθόδους χρήσης του.
Η «γκρίζα ζώνη» της τεχνητής νοημοσύνης
Η ανησυχία επικεντρώνεται στο γεγονός ότι τέτοιου είδους πληροφορίες, που παλαιότερα απαιτούσαν εξειδικευμένη γνώση, ενδέχεται πλέον να γίνονται πιο προσβάσιμες. Ο Κέβιν Εσβέλτ από το MIT έχει επίσης δοκιμάσει συστήματα τεχνητής νοημοσύνης, διαπιστώνοντας ότι σε ορισμένες περιπτώσεις παρέχουν απαντήσεις με ανησυχητικό βαθμό λεπτομέρειας.
Οι μεγάλες εταιρείες του κλάδου, όπως η OpenAI, η Google και η Anthropic, υποστηρίζουν ότι βελτιώνουν συνεχώς τα φίλτρα ασφαλείας και ότι τα συστήματά τους δεν παρέχουν επαρκείς πληροφορίες για πραγματική εφαρμογή επικίνδυνων ενεργειών.
Ωστόσο, ειδικοί προειδοποιούν ότι τα φίλτρα αυτά μπορούν να παρακαμφθούν μέσω τεχνικών που εκμεταλλεύονται τα όρια των μοντέλων. Το ζήτημα δεν είναι μόνο η πρόθεση, αλλά και η δυνατότητα πρόσβασης σε κρίσιμη γνώση από μη ειδικούς χρήστες.
Παρά τις ανησυχίες, αρκετοί ερευνητές επισημαίνουν ότι η ίδια τεχνολογία μπορεί να λειτουργήσει και ως επιταχυντής προόδου στη βιοϊατρική, συμβάλλοντας στην ανάπτυξη φαρμάκων και θεραπειών.
