Όπου κι αν πάτε στο διαδίκτυο, κάποιος προσπαθεί να εξατομικεύσει την εμπειρία σας στον ιστό. Οι προτιμήσεις σας προκαταλαμβάνονται, οι προθέσεις και τα κίνητρά σας προβλέπονται. Αυτή η τοστιέρα στην οποία ρίξατε μια σύντομη ματιά πριν από τρεις μήνες συνεχίζει να επιστρέφει για να στοιχειώνει την περιήγησή σας σε προσαρμοσμένες πλευρικές γραμμές διαφημίσεων. Και δεν είναι μονόδρομος. Στην πραγματικότητα, η εντελώς απρόσωπη μηχανική ορισμένων συστημάτων εξατομίκευσης μπορεί όχι μόνο να επηρεάσει τον τρόπο που βλέπουμε τον κόσμο, αλλά και τον τρόπο που βλέπουμε τον εαυτό μας.

Συμβαίνει κάθε μέρα, σε όλους μας όσο είμαστε online. Το News Feed του Facebook προσπαθεί να προσφέρει προσαρμοσμένο περιεχόμενο που “Τα περισσότερα ενδιαφέροντα” μεμονωμένους χρήστες. Η μηχανή συστάσεων της Amazon χρησιμοποιεί την παρακολούθηση προσωπικών δεδομένων σε συνδυασμό με τις συνήθειες περιήγησης άλλων χρηστών για να προτείνει σχετικά προϊόντα... Google προσαρμόζει τα αποτελέσματα αναζήτησηςκαι πολλά άλλα: για παράδειγμα, εφαρμογή εξατομίκευσης Το Google Now επιδιώκει να «σας δώσει τις πληροφορίες που χρειάζεστε καθ' όλη τη διάρκεια της ημέρας σας, πριν καν ζητήσετε». Τέτοια συστήματα εξατομίκευσης δεν στοχεύουν απλώς στην παροχή συνάφειας στους χρήστες. μέσω στοχευμένων στρατηγικών μάρκετινγκ, δημιουργούν επίσης κέρδος για πολλές δωρεάν υπηρεσίες web.

Ίσως η πιο γνωστή κριτική αυτής της διαδικασίας είναι η «Φούσκα φίλτρου» θεωρία. Προτάθηκε από διαδικτυακό ακτιβιστή Έλι Παρίσι, αυτή η θεωρία υποδηλώνει ότι η εξατομίκευση μπορεί να επηρεάσει αρνητικά τις εμπειρίες των χρηστών του Ιστού. Αντί να εκτίθενται σε καθολικό, ποικίλο περιεχόμενο, στους χρήστες παρέχεται αλγοριθμικά υλικό που ταιριάζει με τις προϋπάρχουσες, αυτοεπιβεβαιωμένες απόψεις τους. Επομένως, η φούσκα φίλτρου δημιουργεί πρόβλημα για τη δημοκρατική δέσμευση: περιορίζοντας την πρόσβαση σε προκλητικές και διαφορετικές απόψεις, οι χρήστες δεν μπορούν να συμμετάσχουν σε συλλογική και ενημερωμένη συζήτηση.

{youtube}6_sim_Wc3mY{/youtube}

Οι προσπάθειες να βρεθούν στοιχεία για τη φυσαλίδα του φίλτρου είχαν ανάμεικτα αποτελέσματα. Μερικές μελέτες έχουν δείξει ότι η εξατομίκευση μπορεί πράγματι να οδηγήσει σε μια «μυωπική» άποψη ενός θέματος. άλλες μελέτες έχουν διαπιστώσει ότι σε διαφορετικά πλαίσια, η εξατομίκευση μπορεί πραγματικά να βοηθήσει τους χρήστες να ανακαλύψουν κοινό και διαφορετικό περιεχόμενο. Η έρευνά μου προτείνει ότι η εξατομίκευση δεν επηρεάζει μόνο το πώς βλέπουμε τον κόσμο, αλλά το πώς βλέπουμε τον εαυτό μας. Επιπλέον, η επιρροή της εξατομίκευσης στην ταυτότητά μας μπορεί να μην οφείλεται σε φυσαλίδες φίλτρου κατανάλωσης, αλλά επειδή σε ορισμένες περιπτώσεις η διαδικτυακή εξατομίκευση δεν είναι καθόλου «προσωπική».

Παρακολούθηση δεδομένων και προνόμια χρήστη

Για να γίνει κατανοητό αυτό, είναι χρήσιμο να εξετάσουμε πώς επιτυγχάνεται η διαδικτυακή εξατομίκευση. Παρόλο που τα συστήματα εξατομίκευσης παρακολουθούν τις μεμονωμένες κινήσεις μας στον ιστό, δεν έχουν σχεδιαστεί για να μας «γνωρίζουν» ή να μας αναγνωρίζουν ως άτομα. Αντίθετα, αυτά τα συστήματα συγκεντρώνουν τις κινήσεις και τις συνήθειες των χρηστών σε πραγματικό χρόνο σε μαζικά σύνολα δεδομένων και αναζητούν μοτίβα και συσχετισμούς μεταξύ των κινήσεων των χρηστών. Τα μοτίβα και οι συσχετίσεις που βρέθηκαν είναι τότε μεταφράστηκε πίσω σε κατηγορίες ταυτότητας που θα μπορούσαμε να αναγνωρίσουμε (όπως ηλικία, φύλο, γλώσσα και ενδιαφέροντα) και στις οποίες θα μπορούσαμε να εντάξουμε. Αναζητώντας μαζικά μοτίβα προκειμένου να παραδοθεί προσωπικά σχετικό περιεχόμενο, η εξατομίκευση βασίζεται στην πραγματικότητα μια μάλλον απρόσωπη διαδικασία.

Όταν πρωτοεμφανίστηκε η θεωρία της φυσαλίδας φίλτρου το 2011, ο Pariser υποστήριξε ότι ένα από τα μεγαλύτερα προβλήματα με την εξατομίκευση ήταν ότι οι χρήστες δεν γνώριζαν ότι συνέβαινε. Σήμερα, παρά τις αντιρρήσεις για την παρακολούθηση δεδομένων, πολλοί χρήστες γνωρίζουν ότι παρακολουθούνται με αντάλλαγμα τη χρήση δωρεάν υπηρεσιών και ότι αυτή η παρακολούθηση χρησιμοποιείται για μορφές εξατομίκευσης. Πολύ λιγότερο σαφείς, ωστόσο, είναι οι ιδιαιτερότητες του τι εξατομικεύεται για εμάς, πώς και πότε.

Βρίσκοντας το «προσωπικό»

Η έρευνά μου δείχνει ότι ορισμένοι χρήστες υποθέτουν ότι οι εμπειρίες τους εξατομικεύονται σε πολύπλοκους βαθμούς. Σε μια εις βάθος ποιοτική μελέτη 36 χρηστών του διαδικτύου, όταν είδαν διαφημίσεις για προϊόντα απώλειας βάρους στο Facebook, ορισμένες γυναίκες χρήστες ανέφεραν ότι υπέθεσαν ότι το Facebook τις είχε χαρακτηρίσει ως υπέρβαρες ή προσανατολισμένες στη φυσική κατάσταση. Στην πραγματικότητα, αυτές οι διαφημίσεις απώλειας βάρους παραδόθηκαν γενικά σε γυναίκες ηλικίας 24-30 ετών. Ωστόσο, επειδή οι χρήστες μπορεί να αγνοούν την απρόσωπη φύση ορισμένων συστημάτων εξατομίκευσης, τέτοιες στοχευμένες διαφημίσεις μπορεί να έχουν αρνητικό αντίκτυπο στον τρόπο με τον οποίο βλέπουν τους εαυτούς τους αυτοί οι χρήστες: για να το θέσω χοντροκομμένα, πρέπει να είναι υπέρβαροι, επειδή το Facebook τους λέει ότι είναι.

Δεν είναι μόνο η στοχευμένη διαφήμιση που μπορεί να έχει αυτόν τον αντίκτυπο: σε μια εθνογραφική και διαχρονική μελέτη που διεξήχθη σε μια χούφτα χρηστών του Google Now 18 και 19 ετών, διαπίστωσα ότι ορισμένοι συμμετέχοντες υπέθεσαν ότι η εφαρμογή ήταν ικανή να εξατομικευτεί σε εξαιρετικά περίπλοκο βαθμό . Οι χρήστες ανέφεραν ότι πίστευαν ότι το Google Now τους έδειχνε πληροφορίες μετοχών επειδή η Google ήξερε ότι οι γονείς τους ήταν μέτοχοι ή ότι η Google (λανθασμένα) προέτρεψε μια «μετακίνηση» προς «εργασία» επειδή κάποτε οι συμμετέχοντες είχαν πει ψέματα ότι ήταν πάνω από τη σχολική ηλικία στους λογαριασμούς τους στο YouTube . Είναι αυτονόητο ότι αυτή η μικρής κλίμακας μελέτη δεν αντιπροσωπεύει τις δεσμεύσεις όλων των χρηστών του Google Now: αλλά υποδηλώνει ότι για αυτά τα άτομα, οι προγνωστικές υποσχέσεις του Google Now ήταν σχεδόν αλάνθαστες.

Στην πραγματικότητα, Κριτικές του σχεδιασμού με επίκεντρο τον χρήστη προτείνουν ότι η πραγματικότητα των συμπερασμάτων της Google είναι πολύ πιο απρόσωπη: το Google Now υποθέτει ότι είναι “ιδανικός χρήστης” έχει –ή τουλάχιστον θα έπρεπε– να ενδιαφέρεται για τις μετοχές και ότι όλοι οι χρήστες είναι εργαζόμενοι που μετακινούνται. Τέτοιες κριτικές υπογραμμίζουν ότι αυτές οι υποθέσεις είναι που δομούν σε μεγάλο βαθμό το πλαίσιο εξατομίκευσης της Google (για παράδειγμα μέσω της τήρησης της εφαρμογής προκαθορισμένες κατηγορίες «κάρτας». όπως το «Sports», το οποίο κατά τη διάρκεια της μελέτης μου επέτρεπε στους χρήστες να «ακολουθούν» μόνο ποδοσφαιρικούς συλλόγους ανδρών και όχι γυναικών στο Ηνωμένο Βασίλειο). Ωστόσο, αντί να αμφισβητώ τις υποθέσεις της εφαρμογής, η μελέτη μου προτείνει ότι οι συμμετέχοντες έθεσαν τον εαυτό τους εκτός του αναμενόμενου κανόνα: εμπιστεύονταν την Google για να τους πει πώς θα έπρεπε να είναι οι προσωπικές τους εμπειρίες.

Αν και αυτά μπορεί να φαίνονται σαν ακραία παραδείγματα απρόσωπων αλγοριθμικών συμπερασμάτων και παραδοχών χρήστη, το γεγονός ότι δεν μπορούμε να είμαστε σίγουροι τι εξατομικεύεται, πότε ή πώς είναι πιο κοινά προβλήματα. Για μένα, αυτές οι μαρτυρίες χρηστών υπογραμμίζουν ότι η προσαρμογή του διαδικτυακού περιεχομένου έχει συνέπειες πέρα ​​από το γεγονός ότι μπορεί να είναι επιζήμια για τη δημοκρατία. Προτείνουν ότι αν δεν αρχίσουμε να καταλαβαίνουμε ότι η εξατομίκευση μπορεί μερικές φορές να λειτουργεί μέσω εξαιρετικά απρόσωπων πλαισίων, μπορεί να πιστεύουμε πολύ στην εξατομίκευση για να μας πούμε πώς πρέπει να συμπεριφερόμαστε και ποιοι πρέπει να είμαστε, και όχι το αντίστροφο.

Σχετικά με το Συγγραφέας

Tanya Kant, Λέκτορας Μέσων και Πολιτιστικών Σπουδών, University of Sussex

Αυτό το άρθρο δημοσιεύθηκε αρχικά στις Η Συνομιλία. Διαβάστε το αρχικό άρθρο.

Σχετικά βιβλία

at InnerSelf Market και Amazon