Φωτογραφία: Norbert Aepli, Ελβετία (Χρήστης: Noebu)

Το 2016, τα αυτοκινούμενα αυτοκίνητα έγιναν mainstream. Αυτόνομα οχήματα της Uber έγινε πανταχού παρούσα σε γειτονιές όπου ζω στο Πίτσμπουργκ και για λίγο στο Σαν Φρανσίσκο. Το Υπουργείο Μεταφορών των ΗΠΑ εξέδωσε νέα κανονιστική καθοδήγηση για αυτούς. Αμέτρητος χαρτιά και στήλες συζήτησαν πώς αυτοκινούμενα αυτοκίνητα θα πρέπει να επίλυση ηθικά παράλογα όταν τα πράγματα πάνε στραβά. Και, δυστυχώς, το 2016 είδε επίσης πρώτο θάνατο με αυτόνομο όχημα.

Οι αυτόνομες τεχνολογίες εξαπλώνονται γρήγορα πέρα ​​από τον τομέα των μεταφορών, σε υγειονομική περίθαλψη, προχωρημένο cyberdefense και ακόμη αυτόνομα όπλα. Το 2017, θα πρέπει να αποφασίσουμε αν μπορούμε να εμπιστευτούμε αυτές τις τεχνολογίες. Αυτό θα είναι πολύ πιο δύσκολο από όσο θα μπορούσαμε να περιμένουμε.

Η εμπιστοσύνη είναι πολύπλοκη και ποικίλη, αλλά και βασικό μέρος της ζωής μας. Συχνά εμπιστευόμαστε την τεχνολογία με βάση την προβλεψιμότητα: Εμπιστεύομαι κάτι αν ξέρω τι θα κάνει σε μια συγκεκριμένη κατάσταση, ακόμα κι αν δεν ξέρω γιατί. Για παράδειγμα, εμπιστεύομαι τον υπολογιστή μου γιατί ξέρω πώς θα λειτουργήσει, ακόμα και πότε θα καταρρεύσει. Σταματώ να εμπιστεύομαι αν αρχίσει να συμπεριφέρεται διαφορετικά ή εκπληκτικά.

Αντιθέτως, βασίζεται η εμπιστοσύνη μου στη γυναίκα μου κατανοώντας τις πεποιθήσεις, τις αξίες και την προσωπικότητά της. Γενικότερα, η διαπροσωπική εμπιστοσύνη δεν περιλαμβάνει τη γνώση ακριβώς τι θα κάνει το άλλο άτομο - η γυναίκα μου σίγουρα με εκπλήσσει μερικές φορές! - αλλά μάλλον γιατί ενεργούν όπως κάνουν. Και φυσικά, μπορούμε να εμπιστευτούμε κάποιον (ή κάτι) και με τους δύο τρόπους, αν ξέρουμε τόσο τι θα κάνουν και γιατί.

Έχω εξερευνήσει πιθανές βάσεις για την εμπιστοσύνη μας στα αυτοκίνητα αυτο-οδήγησης και σε άλλη αυτόνομη τεχνολογία τόσο από ηθική όσο και από ψυχολογική άποψη. Αυτές είναι συσκευές, επομένως η προβλεψιμότητα μπορεί να φαίνεται σαν το κλειδί. Λόγω της αυτονομίας τους, ωστόσο, πρέπει να λάβουμε υπόψη τη σημασία και την αξία - και την πρόκληση - του να μάθουμε να τους εμπιστευόμαστε με τον τρόπο που εμπιστευόμαστε άλλους ανθρώπους.

Αυτονομία και προβλεψιμότητα

Θέλουμε οι τεχνολογίες μας, συμπεριλαμβανομένων των αυτοκινούμενων αυτοκινήτων, να συμπεριφέρονται με τρόπους που μπορούμε να προβλέψουμε και να περιμένουμε. Φυσικά, αυτά τα συστήματα μπορεί να είναι αρκετά ευαίσθητα στο περιβάλλον, συμπεριλαμβανομένων άλλων οχημάτων, πεζών, καιρικών συνθηκών και ούτω καθεξής. Σε γενικές γραμμές, ωστόσο, μπορούμε να περιμένουμε ότι ένα αυτοκινούμενο αυτοκίνητο που τοποθετείται επανειλημμένα στο ίδιο περιβάλλον θα πρέπει πιθανώς να συμπεριφέρεται παρόμοια κάθε φορά. Αλλά με ποια έννοια αυτά τα εξαιρετικά προβλέψιμα αυτοκίνητα θα είναι αυτόνομα και όχι μόνο αυτόματα;

Έχουν ήταν πολοί διαφορετικές προσπάθειες προς την ορίζεται αυτονομία, αλλά όλοι έχουν αυτό το κοινό: Τα αυτόνομα συστήματα μπορούν να πάρουν τις δικές τους (ουσιαστικές) αποφάσεις και σχέδια και έτσι μπορούν να ενεργήσουν διαφορετικά από το αναμενόμενο.

Στην πραγματικότητα, ένας λόγος για την χρήση της αυτονομίας (ως διαφορετικός από τον αυτοματισμό) είναι ακριβώς ότι αυτά τα συστήματα μπορούν να ακολουθήσουν απρόσμενες και εκπληκτικές, αν και δικαιολογημένες, πορείες δράσης. Για παράδειγμα, Το AlphaGo του DeepMind κέρδισε το δεύτερο παιχνίδι της πρόσφατης σειράς Go εναντίον του Lee Sedol εν μέρει λόγω μια κίνηση που κανένας άνθρωπος δεν θα έκανε ποτέ, αλλά ήταν η σωστή κίνηση. Αλλά αυτές οι ίδιες εκπλήξεις καθιστούν δύσκολη τη δημιουργία εμπιστοσύνης με βάση την προβλεψιμότητα. Η ισχυρή εμπιστοσύνη που βασίζεται αποκλειστικά στην προβλεψιμότητα είναι αναμφισβήτητα δυνατή μόνο για αυτοματοποιημένα ή αυτόματα συστήματα, ακριβώς επειδή είναι προβλέψιμα (υποθέτοντας ότι το σύστημα λειτουργεί κανονικά).

Αγκαλιάζοντας εκπλήξεις

Φυσικά, άλλοι άνθρωποι μας εκπλήσσουν συχνά, και όμως μπορούμε να τους εμπιστευτούμε σε αξιοσημείωτο βαθμό, δίνοντάς τους ακόμη και δύναμη ζωής και θανάτου πάνω από εμάς. Οι στρατιώτες εμπιστεύονται τους συντρόφους τους σε πολύπλοκα, εχθρικά περιβάλλοντα. ένας ασθενής εμπιστεύεται τον χειρουργό της για να αποκοπεί ένας όγκος. και σε μια πιο φυσιολογική φλέβα, η γυναίκα μου με εμπιστεύεται να οδηγώ με ασφάλεια. Αυτή η διαπροσωπική εμπιστοσύνη μας δίνει τη δυνατότητα να αγκαλιάσουμε τις εκπλήξεις, οπότε ίσως θα μπορούσαμε να αναπτύξουμε κάτι όπως η διαπροσωπική εμπιστοσύνη στα αυτοκίνητα αυτο-οδήγησης;

Σε γενικές γραμμές, η διαπροσωπική εμπιστοσύνη απαιτεί την κατανόηση του γιατί κάποιος ενήργησε με έναν συγκεκριμένο τρόπο, ακόμα κι αν δεν μπορείτε να προβλέψετε την ακριβή απόφαση. Η σύζυγός μου μπορεί να μην ξέρει ακριβώς πώς θα οδηγήσω, αλλά ξέρει τα είδη συλλογισμού που χρησιμοποιώ όταν οδηγώ. Και στην πραγματικότητα είναι σχετικά εύκολο να καταλάβουμε γιατί κάποιος άλλος κάνει κάτι, ακριβώς επειδή όλοι σκεφτόμαστε και συλλογίζουμε περίπου παρόμοια, αν και με διαφορετικά «ωμά συστατικά» - τις πεποιθήσεις, τις επιθυμίες και τις εμπειρίες μας.

Στην πραγματικότητα, κάνουμε συνεχώς και ασυνείδητα συμπεράσματα σχετικά με τις πεποιθήσεις και τις επιθυμίες άλλων ανθρώπων με βάση τις πράξεις τους, υποθέτοντας ότι σκέφτονται, λογικά και αποφασίζουν περίπου όπως εμείς. Όλα αυτά τα συμπεράσματα και η συλλογιστική βάσει της κοινής μας (ανθρώπινης) γνώσης μας επιτρέπουν να κατανοήσουμε τους λόγους κάποιου άλλου, και έτσι να χτίσουμε διαπροσωπική εμπιστοσύνη με την πάροδο του χρόνου.

Σκέφτεσαι σαν ανθρώπους;

Αυτόνομες τεχνολογίες - ειδικά αυτοκινούμενα αυτοκίνητα - δεν σκέφτονται και αποφασίζουν σαν τους ανθρώπους. Υπήρξαν προσπάθειες και οι δύο Το παρελθόν και πρόσφατος, να αναπτύξουν συστήματα υπολογιστών που σκέφτονται και λογικά σαν τους ανθρώπους Ωστόσο, ένα σταθερό θέμα της μηχανικής μάθησης τις τελευταίες δύο δεκαετίες ήταν τα τεράστια οφέλη που έγιναν ακριβώς επειδή δεν απαιτούσαν τα συστήματα τεχνητής νοημοσύνης να λειτουργούν με ανθρώπινους τρόπους. Αντ 'αυτού, οι αλγόριθμοι μηχανικής μάθησης και συστήματα όπως το AlphaGo ήταν συχνά σε θέση να υπερτερούν των ανθρώπινων εμπειρογνωμόνων εστιάζοντας σε συγκεκριμένα, εντοπισμένα προβλήματα και έπειτα στην επίλυσή τους πολύ διαφορετικά από ό, τι οι άνθρωποι.

Ως αποτέλεσμα, οι προσπάθειες ερμηνείας μιας αυτόνομης τεχνολογίας από άποψη πεποιθήσεων και επιθυμιών που μοιάζουν με τον άνθρωπο μπορούν να πάνε εντυπωσιακά. Όταν ένας άνθρωπος οδηγός βλέπει μια μπάλα στο δρόμο, οι περισσότεροι από εμάς αυτόματα επιβραδύνονται σημαντικά, για να αποφύγουμε να χτυπήσουμε ένα παιδί που μπορεί να το κυνηγά. Αν οδηγούμε σε αυτόνομο αυτοκίνητο και βλέπουμε μια μπάλα να κυλάει στο δρόμο, περιμένουμε από το αυτοκίνητο να το αναγνωρίσει και να είμαστε έτοιμοι να σταματήσουμε να τρέχουμε παιδιά. Ωστόσο, το αυτοκίνητο μπορεί να δει μόνο ένα εμπόδιο που πρέπει να αποφευχθεί. Εάν περιστρέφεται χωρίς επιβράδυνση, οι άνθρωποι στο πλοίο μπορεί να ανησυχούν - και ένα παιδί μπορεί να κινδυνεύει.

Τα συμπεράσματά μας σχετικά με τις «πεποιθήσεις» και τις «επιθυμίες» ενός αυτοκινούμενου αυτοκινήτου θα είναι σχεδόν σίγουρα λανθασμένα με σημαντικούς τρόπους, ακριβώς επειδή το αυτοκίνητο δεν έχει πεποιθήσεις ή επιθυμίες που μοιάζουν με τον άνθρωπο. Δεν μπορούμε να αναπτύξουμε διαπροσωπική εμπιστοσύνη σε ένα αυτο-οδηγούμενο αυτοκίνητο απλώς παρακολουθώντας το να οδηγεί, καθώς δεν θα συμπεράνουμε σωστά το γιατί πίσω από τις πράξεις του.

Φυσικά, οι πελάτες της κοινωνίας ή της αγοράς θα μπορούσαν να επιμείνουν μαζικά ότι τα αυτοκινούμενα αυτοκίνητα έχουν ανθρώπινα (ψυχολογικά) χαρακτηριστικά, ακριβώς ώστε να μπορούμε να κατανοήσουμε και να αναπτύξουμε διαπροσωπική εμπιστοσύνη σε αυτά. Αυτή η στρατηγική θα έδινε μια εντελώς νέα έννοια στο «ανθρωποκεντρικός σχεδιασμός, "Δεδομένου ότι τα συστήματα θα είχαν σχεδιαστεί ειδικά έτσι ώστε οι ενέργειές τους να ερμηνεύονται από τους ανθρώπους. Αλλά θα απαιτούσε επίσης και το μυθιστόρημα αλγόριθμοι και τεχνικές στο αυτοκινούμενο αυτοκίνητο, τα οποία θα αντιπροσωπεύουν μια τεράστια αλλαγή από τις τρέχουσες στρατηγικές έρευνας και ανάπτυξης για αυτοκινούμενα αυτοκίνητα και άλλες αυτόνομες τεχνολογίες.

Τα αυτοκινούμενα αυτοκίνητα έχουν τη δυνατότητα να αναδιαμορφώσουν ριζικά την υποδομή μεταφοράς μας με πολλούς ευεργετικούς τρόπους, αλλά μόνο αν μπορούμε να τα εμπιστευτούμε αρκετά για να τα χρησιμοποιήσουμε πραγματικά. Και ειρωνικά, το ίδιο το χαρακτηριστικό που καθιστά τα αυτοκινούμενα αυτοκίνητα πολύτιμα - την ευέλικτη, αυτόνομη λήψη αποφάσεων σε διαφορετικές καταστάσεις - είναι ακριβώς αυτό που καθιστά δύσκολη την εμπιστοσύνη τους.

αυτοχριστα

David Danks, Καθηγητής Φιλοσοφίας και Ψυχολογίας, Carnegie Mellon University

Αυτό το άρθρο δημοσιεύθηκε αρχικά στις Η Συνομιλία. Διαβάστε το αρχικό άρθρο.

Σχετικές Βιβλία:

at InnerSelf Market και Amazon