Τίτλοι τέλους για την εποχή της αυτορρύθμισης στην τεχνητή νοημοσύνη

του Jeremy Kahn

Η Ευρωπαϊκή Ένωση την περασμένη εβδομάδα παρουσίασε μια πρόταση νόμου για την τεχνητή νοημοσύνη.

Πρόκειται για μια εκτεταμένη νομοθεσία 108 σελίδων που θα απαγορεύει τη χρήση της  τεχνητής νοημοσύνης για αποκαλούμενες «πρακτικές χειραγώγησης, εθισμού, κοινωνικού ελέγχου και αδιάκριτης παρακολούθησης».

Θα επιβάλλει επίσης αυστηρές απαιτήσεις στις αποκαλούμενες χρήσεις τεχνητής νοημοσύνης «υψηλού κινδύνου». Αυτές περιλαμβάνουν κρίσιμες υποδομές όπου κινδυνεύουν οι ζωές και η υγεία των ανθρώπων, εκπαιδευτικά και επαγγελματικά περιβάλλοντα όπου η τεχνητή νοημοσύνη χρησιμοποιείται για τον προσδιορισμό της πρόσβασης στη διδασκαλία ή την κατάρτιση, απασχόληση και διαχείριση εργαζομένων, βασικές ιδιωτικές και δημόσιες υπηρεσίες, συμπεριλαμβανομένων χρηματοοικονομικών υπηρεσιών όπως δάνεια, επιβολή του νόμου, μετανάστευση, άσυλο και συνοριακό έλεγχο, καθώς και για την απονομή δικαιοσύνης.

Σε αυτούς τους τομείς υψηλού κινδύνου, οι εταιρείες πρέπει να διασφαλίσουν ότι έχουν αξιολογήσει τους κινδύνους και λαμβάνουν μέτρα για τον μετριασμό τυχόν κινδύνων. Πρέπει επίσης να τηρούν ιστορικό ελέγχων, να εγγυώνται ότι τα δεδομένα που έχουν χρησιμοποιήσει για να εκπαιδεύσουν το σύστημα είναι «υψηλής ποιότητας» και να διασφαλίζουν ότι διατηρείται η «ουσιαστική ανθρώπινη επίβλεψη» του συστήματος τεχνητής νοημοσύνης.

Είναι αλήθεια ότι πολλοί από αυτούς τους όρους, όπως επεσήμαναν οι επικριτές του προτεινόμενου νόμου, παραμένουν ασαφείς και απογοητευτικά ανεπαρκείς, ανοίγοντας μια πιθανή νομική κερκόπορτα εάν δεν διευκρινιστούν αργότερα κατά τη διαδικασία ψήφισης της νομοθεσίας. Και πιθανότατα θα χρειαστούν δύο χρόνια για να περάσει ο νόμος μέσω της νομικής διαδικασίας της ΕΕ.

Αλλά δεν υπάρχει καμία αμφιβολία για τον χαρακτήρα της νομοθεσίας, η οποία θα είναι η πρώτη προσπάθεια κάποιας κυβέρνησης οπουδήποτε στον κόσμο να ελέγξει την τεχνητή νοημοσύνη και όλες τις πιθανές χρήσεις της.

Ορισμένοι επικριτές παραπονέθηκαν ότι η νομοθεσία δεν είναι πλήρης. Η Ένωση Πολιτικών Ελευθεριών για την Ευρώπη, για παράδειγμα, ανησυχεί ότι ο προτεινόμενος νόμος αφήνει πάρα πολλές εξαιρέσεις που θα μπορούσαν να οδηγήσουν ακόμη και σε εκτεταμένη ανάπτυξη αμφιλεγόμενων τεχνολογιών, όπως το λογισμικό αναγνώρισης προσώπου, από τις κυβερνήσεις και τα όργανα επιβολής του νόμου.

«Υπάρχουν πάρα πολλές προβληματικές χρήσεις της τεχνολογίας που επιτρέπονται, όπως η χρήση αλγορίθμων για την πρόβλεψη του εγκλήματος ή για να υπολογίζουν οι υπολογιστές τη συναισθηματική κατάσταση των ανθρώπων στον έλεγχο των συνόρων», ανέφερε η Orsolya Reich, ανώτερη υπεύθυνος υπεράσπισης των πολιτικών δικαιωμάτων στη συγκεκριμένη ομάδα.