Ahmet Misirligul / Shutterstock

Η ταινία μικρού μήκους Slaughterbots απεικονίζει ένα εγγύς μέλλον στο οποίο σμήνη μικρο drone δεν δολοφονεί χιλιάδες ανθρώπους για τις πολιτικές τους πεποιθήσεις. Κυκλοφόρησε τον Νοέμβριο του 2017 από ακαδημαϊκούς και ακτιβιστές που προειδοποιούν για τους κινδύνους της προηγμένης τεχνητής νοημοσύνης (AI), έγινε γρήγορα viral, προσελκύοντας πάνω από 3 εκατομμύρια προβολές μέχρι σήμερα. Βοήθησε να πυροδοτήσει ένα δημόσια συζήτηση για το μέλλον των αυτόνομων όπλων και πίεση στους διπλωμάτες που θα συναντηθούν στα Ηνωμένα Έθνη Σύμβαση για τα συμβατικά όπλα.

Αλλά αυτό το είδος κερδοσκοπικής αφήγησης επιστημονικής φαντασίας δεν είναι μόνο χρήσιμο για να προσελκύσει την προσοχή. Οι άνθρωποι που σχεδιάζουν και χτίζουν προηγμένη τεχνολογία μπορούν να χρησιμοποιούν ιστορίες για να εξετάσουν τις συνέπειες της δουλειάς τους και να διασφαλίσουν ότι χρησιμοποιείται για το καλό. Και πιστεύουμε ότι αυτό το είδος «πρωτότυπου επιστημονικής φαντασίας» ή «σχεδιαστικής φαντασίας» θα μπορούσε να βοηθήσει στην αποτροπή των ανθρώπινων προκαταλήψεων από το να δουλέψουν στη νέα τεχνολογία, παγιδεύοντας περαιτέρω τις προκαταλήψεις και τις αδικίες της κοινωνίας.

{vembed Y=9CO6M2HsoIA}

Μια προκατάληψη μπορεί να οδηγήσει στην αυθαίρετη προτίμηση ορισμένων κατηγοριών (αποτελεσμάτων, ατόμων ή ιδεών) έναντι άλλων. Για παράδειγμα, μερικοί άνθρωποι μπορεί να είναι προκατειλημμένοι ενάντια στην πρόσληψη γυναικών για εκτελεστικές θέσεις, είτε το γνωρίζουν ή όχι.

Η τεχνολογία που βασίζεται σε δεδομένα που καταγράφουν τέτοια προκατάληψη μπορεί να καταλήξει αναπαραγωγή του προβλήματος. Για παράδειγμα, το λογισμικό προσλήψεων που έχει σχεδιαστεί για να επιλέγει τα καλύτερα βιογραφικά σημειώματα για μια συγκεκριμένη εργασία μπορεί να προγραμματιστεί για να αναζητήσει χαρακτηριστικά που αντικατοπτρίζουν μια ασυνείδητη προκατάληψη προς τους άνδρες. Σε αυτή την περίπτωση, ο αλγόριθμος θα καταλήξει να προτιμά τα βιογραφικά των ανδρών. Και αυτό δεν είναι θεωρητικό - αυτό πραγματικά συνέβη στον Amazon.

Σχεδιασμός αλγορίθμων χωρίς να λαμβάνονται υπόψη οι πιθανές αρνητικές επιπτώσεις έχει συγκριθεί στους γιατρούς «γράφοντας για τα οφέλη μιας δεδομένης θεραπείας και αγνοώντας εντελώς τις παρενέργειες, ανεξάρτητα από το πόσο σοβαρές είναι».

Ορισμένες εταιρείες τεχνολογίας και ερευνητές προσπαθούν να αντιμετωπίσουν το ζήτημα. Για παράδειγμα, η Google συνέταξε ένα σύνολο ηθικών αρχών για να καθοδηγήσει την ανάπτυξη της AI. Και οι Βρετανοί ακαδημαϊκοί έχουν ξεκινήσει μια πρωτοβουλία που ονομάζεται Μη Equσα που στοχεύει στην ενθάρρυνση μεγαλύτερης δικαιοσύνης και δικαιοσύνης στο σχεδιασμό και τη χρήση της τεχνολογίας.

Το πρόβλημα είναι ότι, δημοσίως, οι εταιρείες τείνουν να προσφέρουν μόνο ένα θετικό όραμα για τις πιθανές συνέπειες των μελλοντικών τεχνολογιών. Για παράδειγμα, τα αυτοκίνητα χωρίς οδηγό συχνά απεικονίζονται ως επίλυση όλων των ζητημάτων μεταφοράς από το κόστος στην ασφάλεια, αγνοώντας την αυξημένη κίνδυνοι κυβερνοεπιθέσεων ή το γεγονός ότι θα μπορούσαν να ενθαρρύνουν τους ανθρώπους να περπάτημα ή ποδήλατο λιγότερο.

Η δυσκολία στην κατανόηση του τρόπου λειτουργίας των ψηφιακών τεχνολογιών, ειδικά εκείνων που βασίζονται σε μεγάλο βαθμό από σκοτεινούς αλγόριθμους, καθιστά επίσης πιο δύσκολο για τους ανθρώπους να έχουν μια πολύπλοκη και περιεκτική εικόνα των ζητημάτων. Αυτή η κατάσταση δημιουργεί μια ένταση μεταξύ μιας καθησυχαστικής θετικής αφήγησης και της αόριστης υποψίας ότι οι προκαταλήψεις ενσωματώνονται σε κάποιο βαθμό στις τεχνολογίες γύρω μας. Εδώ πιστεύουμε ότι μπορεί να έρθει η αφήγηση μέσω της σχεδιαστικής φαντασίας.

Οι ιστορίες είναι μια φυσική μέθοδος σκέψης για πιθανότητες και περίπλοκες καταστάσεις, και τις έχουμε ακούσει όλη μας τη ζωή. Η επιστημονική φαντασία μπορεί να μας βοηθήσει να υποθέσουμε τον αντίκτυπο των μελλοντικών τεχνολογιών στην κοινωνία, όπως κάνει το Slaughterbots. Αυτό μπορεί να περιλαμβάνει ακόμη και θέματα κοινωνικής δικαιοσύνης, όπως μπορεί να είναι ορισμένες ομάδες, όπως πρόσφυγες και μετανάστες Εξαιρούνται από ψηφιακές καινοτομίες.

Αποκαλύπτοντας το (πιθανό) μέλλον

Σχεδιάστε ιστορίες μυθοπλασίας παρέχει έναν νέο τρόπο για τους σχεδιαστές, τους μηχανικούς και τους φουτουριστές (μεταξύ άλλων) να σκεφτούν τον αντίκτυπο της τεχνολογίας από την ανθρώπινη προοπτική και να το συνδέσουν με πιθανές μελλοντικές ανάγκες. Με ένα μείγμα λογικής και φαντασίας, η σχεδιαστική φαντασία μπορεί να αποκαλύψει πτυχές του τρόπου με τον οποίο η τεχνολογία μπορεί να υιοθετηθεί και να χρησιμοποιηθεί, ξεκινώντας συζητήσεις για τη μελλοντικές επιπτώσεις.

Για παράδειγμα, το διήγημα "Προμήθεια εγκλήματος«Διερευνά τι θα μπορούσε να συμβεί αν η AI χρησιμοποιούσε πληροφορίες από πηγές και μια βάση δεδομένων για να προβλέψει ποιος θα μπορούσε να διαπράξει φόνο. Οι ερευνητές διαπίστωσαν ότι επειδή η βάση δεδομένων ήταν γεμάτη από άτομα μειονοτικών εθνοτικών ομάδων που, για κοινωνικούς λόγους, ήταν στατιστικά πιο πιθανό να επαναλάβουν, το μοντέλο «προέλευσης εγκλήματος» ήταν πιο πιθανό να κακώς υποπτεύονται μειονότητες από τους λευκούς.

Δεν χρειάζεται να είσαι ταλαντούχος συγγραφέας ή να κάνεις μια γοητευτική ταινία για να δημιουργήσεις φανταστική φαντασία. Δραστηριότητες ανταλλαγής ιδεών που περιλαμβάνουν κάρτες και storyboard έχουν χρησιμοποιηθεί να αναπτύξει σχεδιαστική φαντασία και να βοηθήσει στην ανάπτυξη της διαδικασίας αφήγησης. Κάνοντας τα εργαστήρια που χρησιμοποίησαν αυτά τα είδη εργαλείων πιο κοινά θα επέτρεπε σε περισσότερους μηχανικούς, επιχειρηματίες και υπεύθυνους χάραξης πολιτικής να χρησιμοποιήσουν αυτήν τη μέθοδο αξιολόγησης. Και η δημοσιοποίηση της προκύπτουσας εργασίας θα βοηθούσε στην αποκάλυψη πιθανών προκαταλήψεων στις τεχνολογίες προτού επηρεάσουν την κοινωνία.

Η ενθάρρυνση των σχεδιαστών να δημιουργήσουν και να μοιραστούν περισσότερες ιστορίες με αυτόν τον τρόπο θα εξασφάλιζε ότι η αφήγηση που υποστηρίζει τη νέα τεχνολογία δεν θα παρουσίαζε μόνο μια θετική εικόνα, ούτε μια εξαιρετικά αρνητική ή δυστοπική. Αντ 'αυτού, οι άνθρωποι θα είναι σε θέση να εκτιμήσουν και τις δύο όψεις αυτού που συμβαίνει γύρω μας.

Σχετικά με τους Συγγραφείς

Αλέσιο Μαλίζια, Καθηγητής σχεδιασμού εμπειρίας χρήστη, Πανεπιστήμιο του Hertfordshire και Σίλβιο Κάρτα, Προϊστάμενος της Τέχνης και του Σχεδιασμού και πρόεδρος της Ομάδας Έρευνας Σχεδιασμού, Πανεπιστήμιο του Hertfordshire

Αυτό το άρθρο αναδημοσιεύθηκε από το Η Συνομιλία υπό την άδεια Creative Commons. Διαβάστε το αρχικό άρθρο.