Είναι αξιόπιστη η τεχνητή νοημοσύνη;

pixabay.com

Η χρήση τεχνητής νοημοσύνης μπορεί να πάει στραβά κάποιες φορές.

Ένα παράδειγμα είναι «τα συστήματα αναγνώρισης προσώπου που δεν λειτουργούν καλά με άτομα με πιο σκουρόχρωμο δέρμα και κάποιες φορές έχουν κάκιστα αποτελέσματα, ή συστήματα σάρωσης βιογραφικών που μπορεί να μεροληπτούν υπέρ των λευκών ανδρών» λέει ο Brian O’Keefe του Fortune, ο οποίος παρουσιάζει το podcast Fortune Brainstorm.

Οι ανησυχίες σχετικά με αυτή τη μεροληπτική διάσταση και τις συνέπειές της (αναπαραγωγή διακρίσεων) καθώς και σχετικά με την απειλή που συνιστούν τα συστήματα τεχνητής νοημοσύνης για την ασφάλεια και την ιδιωτικότητα οδήγησαν την Ευρ. Ένωση να αναλάβει πρωτοβουλία για τη ρύθμιση αυτής της τεχνολογίας.

Αλλά τι θα σημαίνουν οι νέοι αυτοί κανόνες για εταιρείες που αναπτύσσουν τεχνητή νοημοσύνη;

«Πρέπει πραγματικά να δείξουμε ότι είμαστε διαφανείς» λέει ο Alexander Beyer, ειδικός chatbot τεχνητής νοημοσύνης στη Hubert+1. «Συλλέγουμε συναίνεση σε όλα αυτά τα διαφορετικά βήματα, εξηγώντας με ακρίβεια τι πρόκειται να συμβεί, πώς θα συμβεί, πώς μπορείς να διαγράψεις τα δεδομένα σου, πώς μπορούμε να αφαιρέσουμε τη συναίνεσή σου, και στη συνέχεια να βάλουμε ένα σύστημα διαχείρισης. Κάτι τέτοιο αφαιρεί την αδιαφάνεια. Αυτό θέλουν».

Στο podcast μίλησε και η Anu Bradford, καθηγήτρια στη Νομική Σχολή του Κολούμπια.

«Οι Ευρωπαίοι έχουν μια πολύ ανθρωποκεντρική προσέγγιση στην τεχνολογίας, σε αντίθεση με το ψηφιακό-αυταρχικό μοντέλο της Κίνας ή τις πιο τεχνο-ελευθεριακές απόψεις που κυριαρχούν παραδοσιακά στις Ηνωμένες Πολιτείες», εξηγεί η Bradford. «Υπάρχει ολοένα και περισσότερο η πεποίθηση ότι οι αγορές δεν επαρκούν για να παράσχουν λύσεις και ότι η κυβέρνηση πρέπει να παρέμβει, ώστε να προστατευθούν αυτά τα θεμελιώδη δικαιώματα».

Ο συντάκτης του Fortune, Jeremy Kahn, ειδικεύεται σε θέματα τεχνητής νοημοσύνης και άλλων αποδιοργανωτικών τεχνολογιών, και μίλησε κι αυτός στο podcast.

Ο Kahn καθιστά σαφές ότι οι εταιρείες εκτός ΕΕ που έχουν Ευρωπαίους πελάτες, χρησιμοποιούν δεδομένα των Ευρωπαίων πολιτών ή έχουν Ευρωπαίους εργαζομένους θα πρέπει επίσης να συμμορφωθούν προς τους νέους κανονισμούς.

«Αν καλύπτεις κάποιο απ’ αυτά τα κριτήρια» λέει ο Kahn, «πρέπει να συμμορφωθείς με τον νόμο. Αλλιώς, η Ευρ. Ένωση μπορεί να παραμονεύει με πρόστιμο 20 εκατομμυρίων ευρώ ή 4% των παγκοσμίων εσόδων της επιχείρησης – ό,τι είναι μεγαλύτερο».