Η ταξινόμηση με αλγόριθμους μας βάζει σε κουτιά. Πώς ξέρουμε ότι είναι τα σωστά; δημιουργήθηκε, CC BY

Η κοινωνία φαίνεται να βρίσκεται σε ένα σημείο όπου η ζωή μας υπόκειται στον έλεγχο των αλγορίθμων υπολογιστών. Τα δεδομένα που παράγουμε εξετάζονται και αναλύονται, είτε από κυβερνήσεις για εθνική ασφάλεια είτε από εταιρείες για κέρδος, και αυτό είναι απίθανο να αλλάξει - η δύναμη και η έκκληση της ανάλυσης δεδομένων, μόλις βρεθεί, δεν θα εγκαταλειφθεί εύκολα.

Αλλά στην πραγματικότητα αναρωτιέμαι αν ανησυχώ περισσότερο ότι τα δεδομένα μας συλλέγονται ή από το γεγονός ότι δεν γνωρίζουμε τίποτα για τους αλγόριθμους που μας κρίνουν.

Το επίπεδο λεπτομέρειας για τις ζωές και τις συνήθειές μας που μπορούν να διαλεχθούν από τα δεδομένα που αφήνουμε έχουν συζητηθεί στο παρελθόν και αρχίζει να αναπαράγεται στο πλαίσιο της συζήτησης σχετικά με το προσχέδιο του ΗΒ Μπιλ Ερευνητικών Δυνάμεων. Γνωρίζουμε τουλάχιστον κάτι σχετικά με τα δεδομένα που συλλέγονται και για πόσο καιρό αποθηκεύονται, ορισμένα από τα οποία διέπονται από τη βρετανική και την ευρωπαϊκή νομοθεσία.

Στο κείμενο του νομοσχεδίου, για παράδειγμα, γνωρίζουμε ότι η κυβέρνηση του Ηνωμένου Βασιλείου θα «ζητήσει» μόνο (αδικαιολόγητη) πρόσβαση σε μεταδεδομένα επικοινωνιών, τις κεφαλίδες και τα θέματα των μηνυμάτων ηλεκτρονικού ταχυδρομείου και των τηλεφωνικών κλήσεων. Αλλά γνωρίζουμε επίσης πόσο μπορεί να είναι μόνο η αποκάλυψη μεταδεδομένων: ρίξτε μια ματιά στο Το έργο εμβάπτισης του MIT Media Lab για ένα ισχυρό παράδειγμα για το πόση λεπτομέρεια μπορεί να εξακριβωθεί από αυτό. Είναι σίγουρα καθόλου συγκρίσιμο με έναν αναλυτικό λογαριασμό τηλεφώνου, όπως ισχυρίστηκε.

Έτσι για καλύτερα ή χειρότερα εμείς, το κοινό, έχουμε κάποια ιδέα για το τι καταγράφεται. Αλλά δεν έχουμε καμία απολύτως ιδέα ποια αναλυτικά εργαλεία και τεχνικές εφαρμόζονται σε αυτά τα δεδομένα - και η σημασία αυτών δεν πρέπει να υποτιμάται.

Τι δυσκολεύει τους αριθμούς;

Μπορούμε να κάνουμε μορφωμένες υποθέσεις. Οι υπηρεσίες εθνικής ασφάλειας χρησιμοποιούν πιθανώς τα μεταδεδομένα μας για να δημιουργήσουν κοινωνικά δίκτυα μεταξύ ατόμων και τόπων, μεταξύ άλλων, που μας συνδέουν μεταξύ τους. Αυτά τα δίκτυα σχέσεων θα αναλυθούν στη συνέχεια για να προσδιοριστεί εάν είμαστε άτομο ενδιαφέροντος, καθοριζόμενο από τον τρόπο σύγκρισής σας με άλλα ενδιαφερόμενα άτομα και τον τρόπο με τον οποίο συνδέεστε με υπάρχοντα ενδιαφερόμενα άτομα ή με αυτά που σχετίζονται με αυτά.

Οι ερευνητές που χρησιμοποιούν αυτές τις τεχνικές κατανοούν τους περιορισμούς τους και ότι οι αλγόριθμοι που τους τροφοδοτούν ενδέχεται να περιέχουν σφάλματα ή υποκείμενες παραδοχές που έχουν βαθιά επίδραση στην παραγωγή τους. Σε αυτήν την περίπτωση, αυτό μπορεί να σημαίνει αν έχετε χαρακτηριστεί τρομοκράτης ή όχι, ή εάν πληροίτε τα κριτήρια για δάνειο ή υποθήκη.

Επίσης, δεν είναι ακριβώς σαφές πού καθορίζεται η ύπαρξη σχέσης στις ασαφείς παραμεθόριες περιοχές. Η απλή επίσκεψη στον ίδιο ιστότοπο με έναν τρομοκράτη υποδηλώνει κοινές αξίες ή την καθημερινή διαδρομή με το ίδιο λεωφορείο σας προτείνει να συνομιλείτε τακτικά με τρομοκράτες; Είναι πολύ πιθανό να επισκεφθείτε ιστότοπους που συχνάζουν γνωστοί τρομοκράτες για πολλούς νόμιμους λόγους. Εάν λάβετε τα νέα σας από τους ίδιους ιστότοπους με τους τρομοκράτες, είναι πιθανότερο να είστε τρομοκράτης; Διακρίσεις και προκατάληψη μπορεί να εισαχθεί στο σημείο της συλλογής δεδομένων και, στη συνέχεια, όταν λαμβάνονται αποφάσεις σχετικά με τον τρόπο ανάλυσης αυτών των δεδομένων. Οι αλγόριθμοι μπορούν επίσης να κάνουν διακρίσεις.

Θολή όρια

Η πιθανότητα εισαγωγής ανεπιθύμητων προκαταλήψεων είναι πολύ πραγματική. Για παράδειγμα, αυτά που χρησιμοποιούνται από τις υπηρεσίες ασφαλείας εκπαιδεύονται σε σύνολα δεδομένων γνωστών τρομοκρατών και γνωστών μη τρομοκρατών. Αυτό σημαίνει ότι, καθώς οι περισσότεροι γνωστοί τρομοκράτες είναι άνδρες ηλικίας 20-30, είναι πιο πιθανό να χαρακτηριστεί ως τρομοκράτης επειδή απλώς είσαι άνδρας και ηλικίας περίπου 20-30, ανεξάρτητα από τα άλλα χαρακτηριστικά σου ;. Εάν ναι, αυτό έχει σημαντική επίδραση στον τρόπο χρήσης των δεδομένων;

Το πρόβλημα πηγάζει από το γεγονός ότι εγώ και άλλοι ακαδημαϊκοί ερευνητές που χρησιμοποιούν πολύπλοκες αναλύσεις δικτύου, μηχανική μάθηση, αντιστοίχιση μοτίβων ή τεχνικές τεχνητής νοημοσύνης, αξιολογούμε δημόσια τη χρήση αυτών των τεχνικών για να προσδιορίσουμε τη δύναμη των τεχνικών και την εγκυρότητα των συμπερασμάτων. οι κυβερνητικές υπηρεσίες ασφαλείας και οι οργανισμοί του ιδιωτικού τομέα δεν το κάνουν. Δεν έχουμε ιδέα για την ποιότητα των μεθόδων τους και πώς τις εφαρμόζουν. Υπάρχει λύση σε αυτό;

Εκείνοι από άλλο πεδίο ασφάλειας, κρυπτογραφία, έμαθαν εδώ και πολύ καιρό ότι ο καλύτερος τρόπος για να βελτιωθεί η ποιότητα, και επομένως η ασφάλεια, των αλγορίθμων της ήταν να τους δημοσιοποιήσει. Δημοσιεύονται κρυπτογραφικές εφαρμογές και κρυπτογραφητές και οι ερευνητές ενθάρρυναν να προσπαθήσουν να βρουν σφάλματα ή ελαττώματα, βελτιώνοντας έτσι την ασφάλεια για όλους όσους τα χρησιμοποιούν. Επιπλέον, κάθε εφαρμογή κρυπτογραφικών αλγορίθμων κλειστού κώδικα (μη δημόσια) είναι γενικά θεωρείται με υποψία. Αν πρόκειται να εκδώσουν κρίσεις που μας αλλάζουν τη ζωή - είτε έχουμε χαρακτηριστεί ως τρομοκράτες είτε οικονομικά άξονες - το ίδιο μοντέλο πρέπει να εφαρμοστεί στους αλγόριθμους ασφαλείας.

Ένα επιχείρημα ενάντια σε μια τέτοια κίνηση είναι ότι οι ανοιχτοί και διαφανείς αλγόριθμοι θα μπορούσαν να οδηγήσουν τους τρομοκράτες να τροποποιήσουν τη συμπεριφορά τους στον πραγματικό κόσμο, προκειμένου να αποφευχθεί η ανίχνευση. Αυτό θα σήμαινε αλλαγή πραγμάτων, όπως αλληλεπιδράσεις, συσχετίσεις, συνήθειες περιήγησης και πιθανές κινήσεις. Αλλά αυτό, εάν οι αλγόριθμοι λειτουργούν σωστά, θα σήμαινε ότι ουσιαστικά παύουν να ενεργούν σαν τρομοκράτες. Εάν η μελλοντική μας ασφάλεια, ελευθερία και ασφάλεια εξαρτάται από αυτούς τους αλγόριθμους, πρέπει να είμαστε σίγουροι πώς λειτουργούν - και αυτό -.

Σχετικά με το Συγγραφέας

Philip Garnett, Λέκτορας, Πανεπιστήμιο της Υόρκης.

Αυτό το άρθρο δημοσιεύθηκε αρχικά στις Η Συνομιλία. Διαβάστε το αρχικό άρθρο.

Σχετικό βιβλίο:

at

Ευχαριστώ για την επίσκεψη Innerself.com, πού υπάρχουν 20,000 + άρθρα που αλλάζουν τη ζωή που προωθούν «Νέες στάσεις και νέες δυνατότητες». Όλα τα άρθρα μεταφράζονται σε 30+ γλώσσες. Εγγραφείτε στο InnerSelf Magazine, που δημοσιεύεται εβδομαδιαία, και στο Marie T Russell's Daily Inspiration. Περιοδικό InnerSelf εκδίδεται από το 1985.