Οι στενοί δεσμοί τεχνολογικών κολοσσών με αστυνομία και στρατό

Κι αυτό έχει αρχίσει να αναδεικνύεται σ’ ένα μεγάλο πρόβλημα.

του David Meyer

Οι οργανώσεις πολιτικών δικαιωμάτων είναι εξοργισμένες με την Amazon και την απόφασή της να παράσχει τεχνολογία αναγνώρισης προσώπου σε οργανισμούς επιβολής του νόμου στις ΗΠΑ.

Η Αμερικανική Ένωση Πολιτικών Ελευθεριών (ACLU) και άλλες 40 οργανώσεις απαίτησαν την περασμένη Τρίτη από την Amazon να πάψει να επιτρέπει στις κυβερνήσεις να χρησιμοποιούν το εργαλείο αναγνώρισης Rekognition.

Όπως λέει η ίδια η εταιρεία, πρόκειται για ένα μέσο παρακολούθησης «όλων των προσώπων σε ομαδικές φωτογραφίες, συγκεντρώσεις πλήθους, και δημόσιους χώρους». Στους υπάρχοντες πελάτες συγκαταλέγονται η πόλη του Ορλάντο και το γραφείο του Σερίφη στο Όρεγκον, το οποίο έχει δημιουργήσει μια βάση δεδομένων με 300.000 φωτογραφίες σήμανσης που θα χρησιμοποιηθούν με το Rekognition.

«Με το Rekognition, μια κυβέρνηση μπορεί τώρα να χτίσει ένα σύστημα για να αυτοματοποιήσει την ταυτοποίηση και την παρακολούθηση οποιουδήποτε», προειδοποίησε η ACLU σε μια ανάρτηση ιστολογίου της.

«Με την τεχνολογία αυτή, η αστυνομία θα είναι σε θέση να προσδιορίζει ποιος συμμετέχει σε διαμαρτυρίες. Η Υπηρεσία Μετανάστευσης και Τελωνείων των ΗΠΑ ίσως θελήσει να παρακολουθεί συνεχώς τους μετανάστες καθώς αυτοί θα προσπαθούν να ξεκινήσουν τη ζωή τους απ’ την αρχή. Οι δημοτικές αρχές θα μπορούν να παρακολουθούν τους κατοίκους τους, είτε έχουν λόγο να υποπτεύονται εγκληματική δραστηριότητα είτε όχι. Όπως συμβαίνει και με άλλες τεχνολογίες επιτήρησης, τα συστήματα αυτά είναι βέβαιο ότι θα στοχεύουν δυσανάλογα τις μειονοτικές κοινότητες».

Η Amazon υπερασπίζεται την τεχνολογία της. «Η ποιότητα ζωής μας θα ήταν πολύ χειρότερη σήμερα εάν απαγορεύαμε τη νέα τεχνολογία επειδή μερικοί άνθρωποι θα μπορούσαν να επιλέξουν να καταχραστούν την τεχνολογία αυτή», ανέφερε σε δήλωσή της. «Φανταστείτε αν οι πελάτες δεν μπορούσαν να αγοράσουν έναν υπολογιστή επειδή θα ήταν δυνατόν να χρησιμοποιηθεί αυτός ο υπολογιστής για παράνομους σκοπούς».

Η υπόθεση έχει πολλά κοινά με τον σάλο που έχει προκαλέσει η συμφωνία της Google με το Πεντάγωνο για το «Project Maven». Βάσει της συμφωνίας, η Google θα προμηθεύσει τον στρατό των ΗΠΑ με τεχνολογία «τεχνητής νοημοσύνης» για να «κοσκινίζει» τα βίντεο που λαμβάνει από drones. Οι εργαζόμενοι στην εταιρεία φοβούνται ότι η τεχνολογία θα μπορούσε να βοηθήσει στην καλύτερη στόχευση οπλικών συστημάτων με σκοπό τη δολοφονία ανθρώπων από αέρος, και ορισμένοι μάλιστα παραιτήθηκαν ως ένδειξη διαμαρτυρίας.

Και στο παρελθόν έχουν υπάρξει διαμαρτυρίες για τους δεσμούς των μεγάλων εταιρειών τεχνολογίας με τις αστυνομικές και στρατιωτικές αρχές των ΗΠΑ. Οι αποκαλύψεις του Edward Snowden σχετικά με προγράμματα όπως το Prism, μέσω των οποίων μεγάλες διαδικτυακές πλατφόρμες παρέχουν δεδομένα πελατών στις υπηρεσίες πληροφοριών, ήταν εκρηκτικές και συζητήθηκαν ευρέως.

Η παροχή τεχνολογίας στον στρατό μπορεί να μην είναι ένα εγγενώς κακό πράγμα – εξάλλου, η Google, η IBM, η Amazon και η Microsoft σπεύδουν να πουλήσουν υπηρεσίες cloud στο Πεντάγωνο – αλλά κανείς δεν αναγκάζει αυτές τις εταιρείες να παρέχουν πιο ευαίσθητη τεχνολογία αναγνώρισης εικόνων σε αυτούς που θα μπορούσαν να τη χρησιμοποιήσουν κατά παράβαση των ανθρωπίνων ή πολιτικών δικαιωμάτων.

Αξίζει να σημειωθεί ότι ορισμένες εταιρείες γνωρίζουν πολύ καλά τις ηθικές προεκτάσεις της πώλησης τέτοιων εξελιγμένων εργαλείων. Η Microsoft, για παράδειγμα, δήλωσε στο Wired ότι αρνήθηκε ορισμένες συμβάσεις βάσει των οποίων η εταιρεία θα έπρεπε να κατασκευάσει προσαρμοσμένα συστήματα τεχνητής νοημοσύνης. Η άρνηση αυτή προέκυψε από συζητήσεις ενός εσωτερικού συμβουλίου δεοντολογίας της εταιρείας.