AI με προκαταλήψεις; Ορατός ο κίνδυνος κοινωνικού αποκλεισμού, λένε ειδικοί
Η συζήτηση γύρω από την αθέατη πλευρά της τεχνητής νοημοσύνης φέρνει στο προσκήνιο μια κρίσιμη ανησυχία, την αδυναμία των αλγορίθμων να επεξεργαστούν με δικαιοσύνη δεδομένα ή δημογραφικά χαρακτηριστικά που δεν εκπροσωπούνται επαρκώς.
Η χρήση μη αντιπροσωπευτικών συνόλων δεδομένων, συχνά εισαγόμενων από ξένα συστήματα, οδηγεί σε ανισότητες. Ένα χαρακτηριστικό παράδειγμα είναι η ιατρική διάγνωση, όπου η περιορισμένη εκπροσώπηση συγκεκριμένων τύπων δέρματος μπορεί να προκαλέσει παραλείψεις και λάθος αξιολογήσεις.
Η Senator Michelle Ananda-Rajah υπογράμμισε ότι η απεξάρτηση από ξένα δεδομένα μέσω ενίσχυσης της τοπικής ανάπτυξης AI είναι απαραίτητη, επιμένοντας παράλληλα στην προστασία των δημιουργών περιεχομένου.
Η ανάγκη για άμεση νομοθετική παρέμβαση καθίσταται επιτακτική. Η Finlay κάλεσε σε ενσωμάτωση δοκιμών προκατάληψης, διαφάνεια στη λειτουργία των συστημάτων και ανθρώπινη εποπτεία σε αποφάσεις που βασίζονται σε AI. Η απουσία αυστηρών ρυθμίσεων αφήνει την κοινωνία εκτεθειμένη σε αόρατες διακρίσεις, εντείνοντας τον αποκλεισμό ευάλωτων ομάδων.
Με τον ρόλο της AI να αυξάνεται σε τομείς όπως η υγεία, η τεχνολογία και η κοινωνική ασφάλεια, καθίσταται αναγκαίο να θεσπιστούν κανόνες που θα προστατεύουν όχι μόνο την αποδοτικότητα, αλλά και τη δικαιοσύνη και τη συνοχή στη δημόσια ζωή.
