Ξέρετε τι συμβαίνει όταν κοινοποιείτε τα δεδομένα σας; mtkang / shutterstock.com

Κάθε πτυχή της ζωής μπορεί να καθοδηγείται από αλγόριθμους τεχνητής νοημοσύνης - από την επιλογή ποιας διαδρομής για την πρωινή σας μετακίνηση, μέχρι να αποφασίσετε ποιος θα πάρετε ραντεβού, έως σύνθετα νομικά και δικαστικά θέματα όπως η προγνωστική αστυνόμευση.

Μεγάλες εταιρείες τεχνολογίας όπως το Google και το Facebook χρησιμοποιούν AI για να αποκτήσουν πληροφορίες σχετικά με την τεράστια συλλογή των λεπτομερών δεδομένων των πελατών τους. Αυτό τους επιτρέπει να δημιουργούν έσοδα από τις συλλογικές προτιμήσεις των χρηστών μέσω πρακτικών όπως η μικρο-στόχευση, μια στρατηγική που χρησιμοποιούν οι διαφημιζόμενοι για τη στενή στόχευση συγκεκριμένων ομάδων χρηστών.

Παράλληλα, πολλοί άνθρωποι εμπιστεύονται πλέον πλατφόρμες και αλγόριθμους περισσότερο από τις δικές τους κυβερνήσεις και την κοινωνία των πολιτών. Μια μελέτη του Οκτωβρίου 2018 έδειξε ότι οι άνθρωποι δείχνουν «εκτίμηση αλγορίθμου, "Στο βαθμό που θα βασίζονταν σε συμβουλές περισσότερο όταν πιστεύουν ότι προέρχεται από έναν αλγόριθμο παρά από έναν άνθρωπο.

Στο παρελθόν, οι ειδικοί της τεχνολογίας ανησυχούσαν για ένα "Ψηφιακό χάσμα" μεταξύ εκείνων που μπορούσαν να έχουν πρόσβαση σε υπολογιστές και στο Διαδίκτυο και εκείνων που δεν μπορούσαν. Τα νοικοκυριά με λιγότερη πρόσβαση σε ψηφιακές τεχνολογίες βρίσκονται σε μειονεκτική θέση από την ικανότητά τους κερδίστε χρήματα και συγκεντρώστε δεξιότητες.

Όμως, καθώς οι ψηφιακές συσκευές πολλαπλασιάζονται, το χάσμα δεν αφορά μόνο την πρόσβαση. Πώς αντιμετωπίζουν οι άνθρωποι την υπερφόρτωση πληροφοριών και την πληθώρα αλγοριθμικών αποφάσεων που διαπερνούν κάθε πτυχή της ζωής τους;

Οι χρήστες που εξοικονομούν απομακρύνονται από συσκευές και γνωρίζουν πώς οι αλγόριθμοι επηρεάζουν τη ζωή τους. Εν τω μεταξύ, οι καταναλωτές που έχουν λιγότερες πληροφορίες βασίζονται ακόμη περισσότερο σε αλγόριθμους για να καθοδηγήσουν τις αποφάσεις τους.

Πρέπει να παραμείνετε συνδεδεμένοι - ή να αποσυνδέσετε; pryzmat / shutterstock.com

Η μυστική σάλτσα πίσω από την τεχνητή νοημοσύνη

Ο κύριος λόγος για το νέο ψηφιακό χάσμα, κατά τη γνώμη μου ως κάποιος που μελετά συστήματα πληροφοριών, είναι ότι τόσο λίγοι άνθρωποι καταλαβαίνουν πώς λειτουργούν οι αλγόριθμοι. Για την πλειονότητα των χρηστών, οι αλγόριθμοι θεωρούνται μαύρο πλαίσιο.

Οι αλγόριθμοι AI λαμβάνουν δεδομένα, ταιριάζουν σε ένα μαθηματικό μοντέλο και βγάζουν μια πρόβλεψη, που κυμαίνεται από τι τραγούδια μπορεί να σας αρέσουν προς την πόσα χρόνια κάποιος πρέπει να περάσει στη φυλακή. Αυτά τα μοντέλα αναπτύχθηκαν και τροποποιήθηκαν με βάση τα προηγούμενα δεδομένα και την επιτυχία των προηγούμενων μοντέλων. Οι περισσότεροι άνθρωποι - ακόμη και μερικές φορές οι ίδιοι οι σχεδιαστές αλγορίθμων - δεν γνωρίζουν πραγματικά τι συμβαίνει μέσα στο μοντέλο.

Ερευνητές από καιρό ανησυχούσαμε για την αλγοριθμική δικαιοσύνη. Για παράδειγμα, αποδείχθηκε το εργαλείο στρατολόγησης που βασίζεται στο AI της Amazon απόλυση γυναικών υποψηφίων. Το σύστημα της Amazon έκανε εκλεκτική εξαγωγή σιωπηρά φύλα λέξεις - λέξεις που οι άντρες είναι πιο πιθανό να χρησιμοποιούν στην καθημερινή ομιλία, όπως «εκτελέστηκε» και «συλληφθεί».

Άλλες μελέτες έχουν δείξει ότι οι δικαστικοί αλγόριθμοι είναι φυλετικά προκατειλημμένοι, καταδικάζοντας φτωχούς μαύρους κατηγορούμενους για μεγαλύτερο χρονικό διάστημα από άλλους.

Ως μέρος του πρόσφατα εγκεκριμένου Γενικού Κανονισμού για την Προστασία Δεδομένων στην Ευρωπαϊκή Ένωση, οι άνθρωποι έχουν «Δικαίωμα εξήγησης» των κριτηρίων που χρησιμοποιούν οι αλγόριθμοι στις αποφάσεις τους. Αυτή η νομοθεσία αντιμετωπίζει τη διαδικασία της αλγοριθμικής λήψης αποφάσεων σαν ένα βιβλίο συνταγών. Η σκέψη πηγαίνει ότι αν καταλάβετε τη συνταγή, μπορείτε να καταλάβετε πώς ο αλγόριθμος επηρεάζει τη ζωή σας.

Εν τω μεταξύ, ορισμένοι ερευνητές τεχνητής νοημοσύνης έχουν προωθήσει αλγόριθμους που είναι δίκαιο, υπεύθυνο και διαφανές, καθώς ερμηνεύσιμος, που σημαίνει ότι πρέπει να πάρουν τις αποφάσεις τους μέσω διαδικασιών που οι άνθρωποι μπορούν να καταλάβουν και να εμπιστευτούν.

Τι αποτέλεσμα θα έχει η διαφάνεια; Σε μία μελέτη, οι μαθητές βαθμολογήθηκαν από έναν αλγόριθμο και προσέφεραν διαφορετικά επίπεδα εξήγησης σχετικά με το πώς προσαρμόστηκαν οι βαθμολογίες των συνομηλίκων τους για να φτάσουν στην τελική τάξη. Οι μαθητές με πιο διαφανείς εξηγήσεις στην πραγματικότητα εμπιστεύτηκαν λιγότερο τον αλγόριθμο. Αυτό, πάλι, υποδηλώνει ένα ψηφιακό χάσμα: Η αλγοριθμική επίγνωση δεν οδηγεί σε μεγαλύτερη εμπιστοσύνη στο σύστημα.

Αλλά η διαφάνεια δεν είναι πανάκεια. Ακόμα και όταν σκιαγραφείται η συνολική διαδικασία ενός αλγορίθμου, οι λεπτομέρειες μπορεί ακόμα να είναι πολύ περίπλοκες για να κατανοήσουν οι χρήστες. Η διαφάνεια θα βοηθήσει μόνο τους χρήστες που είναι αρκετά εξελιγμένοι να κατανοήσουν τις περιπλοκές των αλγορίθμων.

Για παράδειγμα, το 2014, ο Ben Bernanke, ο πρώην πρόεδρος της Federal Reserve, ήταν αρχικά αρνήθηκε την αναχρηματοδότηση ενυπόθηκων δανείων από ένα αυτοματοποιημένο σύστημα. Τα περισσότερα άτομα που υποβάλλουν αίτηση για τέτοια αναχρηματοδότηση στεγαστικών δανείων δεν θα καταλάβαιναν πώς οι αλγόριθμοι θα μπορούσαν να καθορίσουν την πιστοληπτική τους ικανότητα.

Τι λέει ο αλγόριθμος να κάνει σήμερα; Μαρία Σάββενκο / shutterstock.com

Εξαίρεση από το νέο οικοσύστημα πληροφοριών

Ενώ οι αλγόριθμοι επηρεάζουν τόσο μεγάλο μέρος της ζωής των ανθρώπων, μόνο ένα μικρό μέρος των συμμετεχόντων είναι αρκετά εξελιγμένο ώστε να συμμετέχει πλήρως πώς οι αλγόριθμοι επηρεάζουν τη ζωή τους.

Δεν υπάρχουν πολλά στατιστικά στοιχεία σχετικά με τον αριθμό των ατόμων που γνωρίζουν αλγόριθμο. Μελέτες έχουν βρει στοιχεία για αλγοριθμικό άγχος, οδηγώντας σε μια βαθιά ανισορροπία ισχύος μεταξύ πλατφορμών που αναπτύσσουν αλγόριθμους και οι χρήστες που εξαρτώνται από αυτούς.

Μια μελέτη της χρήσης του Facebook διαπίστωσαν ότι όταν οι συμμετέχοντες ενημερώθηκαν για τον αλγόριθμο του Facebook για την επιμέλεια ειδήσεων, περίπου το 83% των συμμετεχόντων τροποποίησαν τη συμπεριφορά τους για να προσπαθήσουν να εκμεταλλευτούν τον αλγόριθμο, ενώ περίπου το 10% μείωσε τη χρήση του Facebook.

Μια έκθεση του Νοεμβρίου 2018 από το Pew Research Center διαπίστωσε ότι η μεγάλη πλειοψηφία του κοινού είχε σημαντικές ανησυχίες σχετικά με τη χρήση αλγορίθμων για συγκεκριμένες χρήσεις. Διαπίστωσε ότι το 66% θεώρησε ότι δεν θα ήταν δίκαιο για τους αλγόριθμους να υπολογίζουν τα προσωπικά οικονομικά αποτελέσματα, ενώ το 57% είπε το ίδιο για την αυτοματοποιημένη παρακολούθηση βιογραφικών.

Ένα μικρό μέρος των ατόμων ασκεί κάποιο έλεγχο στον τρόπο με τον οποίο οι αλγόριθμοι χρησιμοποιούν τα προσωπικά τους δεδομένα. Για παράδειγμα, η πλατφόρμα Hu-Manity επιτρέπει στους χρήστες μια επιλογή για τον έλεγχο της συλλογής των δεδομένων τους. Διαδικτυακή εγκυκλοπαίδεια Everipedia προσφέρει στους χρήστες τη δυνατότητα να συμμετέχουν στη διαδικασία επιμέλειας, πράγμα που σημαίνει ότι οι χρήστες μπορούν επίσης να ελέγχουν τον τρόπο συγκέντρωσης και παρουσίασης των πληροφοριών σε αυτούς.

Ωστόσο, η συντριπτική πλειονότητα των πλατφορμών δεν παρέχει τέτοια ευελιξία στους τελικούς χρήστες τους ή το δικαίωμα να επιλέξουν πώς χρησιμοποιεί ο αλγόριθμος τις προτιμήσεις τους στην επιμέλεια της ροής ειδήσεων ή στη σύσταση τους για περιεχόμενο. Εάν υπάρχουν επιλογές, οι χρήστες ενδέχεται να μην γνωρίζουν γι 'αυτές. Περίπου το 74% των χρηστών του Facebook είπε σε μια έρευνα ότι ήταν δεν γνωρίζουν πώς η πλατφόρμα χαρακτηρίζει τα προσωπικά τους ενδιαφέροντα.

Κατά την άποψή μου, ο νέος ψηφιακός γραμματισμός δεν χρησιμοποιεί υπολογιστή ή είναι στο Διαδίκτυο, αλλά κατανοεί και αξιολογεί τις συνέπειες ενός συνεχώς συνδεδεμένου τρόπου ζωής.

Αυτός ο τρόπος ζωής έχει σημαντικό αντίκτυπο πώς αλληλεπιδρούν οι άνθρωποι με άλλους; στην ικανότητά τους να δώστε προσοχή σε νέες πληροφορίες; και συνεχίζει την πολυπλοκότητα των διαδικασιών λήψης αποφάσεών τους.

Η αύξηση του αλγοριθμικού άγχους μπορεί επίσης να αντικατοπτρίζεται από παράλληλες μεταβολές στην οικονομία. Μια μικρή ομάδα ατόμων είναι καταγράφοντας τα κέρδη από τον αυτοματισμό, ενώ πολλοί εργαζόμενοι βρίσκονται σε επισφαλής θέση.

Η εξαίρεση από την αλγοριθμική επιμέλεια είναι πολυτέλεια - και θα μπορούσε μια μέρα να είναι ένα σύμβολο ευημερίας διαθέσιμο σε λίγους μόνο επιλεγμένους. Το ερώτημα είναι λοιπόν ποιες είναι οι μετρήσιμες βλάβες για εκείνους που βρίσκονται στη λάθος πλευρά του ψηφιακού χάσματος.

Σχετικά με το Συγγραφέας

Anjana Susarla, Αναπληρώτρια Καθηγήτρια Πληροφοριακών Συστημάτων, Michigan State University

Αυτό το άρθρο αναδημοσιεύθηκε από το Η Συνομιλία υπό την άδεια Creative Commons. Διαβάστε το αρχικό άρθρο.

Σχετικά βιβλία

at InnerSelf Market και Amazon