Ζούμε σε έναν κόσμο που είναι ολοένα και πιο περίπλοκος και αυτοματοποιημένη. Έτσι ακριβώς όπως πρέπει να αντιμετωπίσουμε πιο περίπλοκα προβλήματα, ο αυτοματισμός οδηγεί σε μια ατροφία των ανθρώπινων δεξιοτήτων που μπορεί να μας κάνει πιο ευάλωτους όταν ανταποκρινόμαστε σε απροσδόκητες καταστάσεις ή όταν τα πράγματα πάνε στραβά. 
Εξετάστε το τελευταία λεπτά της πτήσης 447 της Air France, το οποίο συνετρίβη στον Ατλαντικό τον Μάιο του 2009 αφού έφυγε από το Ρίο ντε Τζανέιρο της Βραζιλίας για το Παρίσι της Γαλλίας.
Ο καταγραφέας πτήσης του αποκάλυψε απόλυτη σύγχυση στο πιλοτήριο. Το αεροπλάνο έγειρε προς τα πάνω στις 15º με μια αυτοματοποιημένη φωνή που φώναζε επανειλημμένα «στάσιμο, στάσιμο». Ωστόσο, οι πιλότοι έτρεμαν, ένας αναφωνώντας: «[…] δεν καταλαβαίνουμε τίποτα».
Δεν είναι εδώ το μέρος για να μπούμε στις λεπτομέρειες αυτής της άτυχης πτήσης, εκτός από το να σημειώσουμε ότι οποιοδήποτε σύστημα που έχει σχεδιαστεί για να αντιμετωπίζει αυτόματα απρόβλεπτα, τις περισσότερες φορές αφήνει μια υποβαθμισμένη βάση δεξιοτήτων για τη μειοψηφία των καταστάσεων που οι σχεδιαστές θα μπορούσαν δεν προβλέπω.
Μιλώντας στο Κόσμος της ματαιότητας, η Nadine Sarter, βιομηχανικός μηχανικός στο Πανεπιστήμιο του Μίσιγκαν, θυμάται μια συνομιλία με πέντε μηχανικούς που συμμετείχαν στην κατασκευή ενός συγκεκριμένου αεροσκάφους.
Άρχισα να ρωτάω, "Λοιπόν, πώς λειτουργεί αυτό ή εκείνο;" Και δεν μπορούσαν να συμφωνήσουν στις απαντήσεις. Σκεφτόμουν λοιπόν, αν αυτοί οι πέντε μηχανικοί δεν μπορούν να συμφωνήσουν, ο καημένος πιλότος, αν συναντήσει ποτέ αυτή τη συγκεκριμένη κατάσταση… καλά, καλή τύχη.
Στην πραγματικότητα, η πολυπλοκότητα της συνετής πτήσης εξαιρετικά περίπλοκων αεροσκαφών υψηλής τεχνολογίας έχει ανατεθεί σε ένα ρομπότ, με οι μηχανικοί πτήσης με όλες τις προθέσεις και σκοπούς έχουν φύγει από τα πιλοτήρια. Μόνο οι παλαιότεροι πιλότοι και οι πρώην πιλότοι της πολεμικής αεροπορίας διατηρούν αυτές τις λεπτομερείς δεξιότητες.
Πίσω στο terra firma, σε έναν κόσμο αυτόνομης οδήγησης θα μπορούσαν να υπάρχουν ολόκληρες μελλοντικές γενιές χωρίς καμία πρακτική εμπειρία οδήγηση και πλοήγηση Ενα όχημα.
Ήδη βλέπουμε μια ένδειξη τι μπορεί να πάει στραβά όταν οι άνθρωποι αφήνουν τον έλεγχο αυτόνομα συστήματα.
Μια έρευνα για το θανατηφόρο ατύχημα Tesla Model S με αυτόματο πιλότο σημείωσε ότι η εταιρεία παρείχε πληροφορίες σχετικά με τους «περιορισμούς συστήματος» στους οδηγούς. Σε αυτή την περίπτωση, εναπόκειται στους οδηγούς να δώσουν προσοχή.
Αλλά τι πιθανότητες θα είχε ένα άτομο να αναλάβει οποιονδήποτε έλεγχο εάν τα πράγματα αρχίσουν να πάνε στραβά στο μέλλον του πλήρως αυτόνομο όχημα. Θα ήξεραν πώς να εντοπίσουν τα πρώτα σημάδια της επικείμενης καταστροφής;
Χάνουμε το δρόμο μας;
Η οδήγηση αυτού είναι ένας τεχνολογικός ντετερμινισμός που πιστεύει ότι κάθε καινοτομία είναι εγγενώς καλή. Ενώ οι αναδυόμενες τεχνολογίες μπορεί ακόμη να καθορίσουν τι σημαίνει να είσαι άνθρωπος, η πρόκληση είναι να αναγνωρίζουν τον κίνδυνο και τι να κάνετε για να βεβαιωθείτε ότι τα πράγματα δεν πάνε στραβά.
Αυτό γίνεται όλο και πιο δύσκολο καθώς αυξάνουμε την πολυπλοκότητα, ειδικά με την αυτόνομη οδήγηση προαστιακά τρένα, ταξί αέρα και drones παράδοσης.
Οι σχεδιαστές συστημάτων έχουν δημιουργήσει μεγαλύτερα και πιο αλληλένδετα συστήματα για να μοιράζονται το φορτίο επεξεργασίας υπολογιστή, παρόλο που αυτό καθιστά τις δημιουργίες τους πρωταρχικούς υποψηφίους για ανάλυση. Παραβλέπουν το γεγονός ότι από τη στιγμή που όλα συνδέονται, τα προβλήματα μπορούν να εξαπλωθούν τόσο εύκολα όσο και οι λύσεις, μερικές φορές περισσότερο.
Η αυξανόμενη και τεράστια πολυπλοκότητα ενός αυτοματοποιημένου κόσμου εγκυμονεί παρόμοιους κινδύνους.
Επικίνδυνα σημεία
Εκ των υστέρων, αυτό που χρειάζεται είναι η δυνατότητα να αποδεσμεύονται τα δίκτυα όταν υπάρχουν σημεία αστοχίας, ή τουλάχιστον να αποκλείονται τμήματα ενός μεμονωμένου δικτύου όταν υπάρχουν σημεία αστοχίας σε άλλα σημεία του.
Αυτή η "νησιωτική" είναι ένα χαρακτηριστικό των έξυπνων δικτύων ηλεκτρικής ενέργειας που παρέχουν περιθώρια διαχωρισμού του δικτύου σε τμήματα που μπορούν να αυτοσυντηρήσουν την εσωτερική τους ζήτηση ενέργειας. Το μόντελινγκ το έχει δείξει λιγότερες συνδέσεις μπορούν να οδηγήσουν σε περισσότερη ασφάλεια.
Θα μπορούσε η αναδυόμενη επιστήμη της πολυπλοκότητας να βοηθήσει στον εντοπισμό των σημείων κινδύνου σε δίκτυα υψηλής διασύνδεσης; Marten Scheffer και συνεργάτες έτσι νόμιζα. Είχε δει ομοιότητες μεταξύ της συμπεριφοράς των φυσικών συστημάτων (του) και των οικονομικών και χρηματοπιστωτικών συστημάτων.
O προηγούμενη δουλειά σε λίμνες, κοραλλιογενείς υφάλους, θάλασσες, δάση και λιβάδια, διαπίστωσε ότι περιβάλλοντα που υπόκεινται σε σταδιακές αλλαγές όπως το κλίμα, το φορτίο θρεπτικών ουσιών και η απώλεια ενδιαιτημάτων μπορούν να φτάσουν σε οριακά σημεία που τα μετατρέπουν σε μια μερικές φορές μη αναστρέψιμη χαμηλότερη κατάσταση.
Θα μπορούσαν οι τραπεζίτες και οι οικονομολόγοι που παλεύουν με τη σταθερότητα των χρηματοπιστωτικών αγορών να μάθουν από ερευνητές στην οικολογία, την επιδημιολογία και την κλιματολογία να αναπτύξουν δείκτες της εγγύτητας σε κρίσιμα όρια και την κατάρρευση του συστήματος;
Τον Φεβρουάριο του 2016 όλα αυτά συγκεντρώθηκαν με τη μορφή μια εργασία για τη θεωρία της πολυπλοκότητας και τη χρηματοοικονομική ρύθμιση συν-συγγραφέας από ένα ευρύ φάσμα ειδικών, όπως οικονομολόγος, τραπεζίτης, φυσικός, κλιματολόγος, οικολόγος, ζωολόγος, κτηνίατρος και επιδημιολόγος.
Συνέστησαν μια διαδικτυακή ενοποίηση δεδομένων, μεθόδων και δεικτών, τροφοδοτώντας τα τεστ αντοχής για παγκόσμια κοινωνικοοικονομικά και χρηματοπιστωτικά συστήματα σε σχεδόν πραγματικό χρόνο. Το πρώτο είναι παρόμοιο με αυτό που έχει επιτευχθεί στην αντιμετώπιση άλλων πολύπλοκων συστημάτων όπως ο καιρός.
Μπορούμε να αρχίσουμε να βλέπουμε πώς το παράδειγμά μας ενός κόσμου αυτόνομης οδήγησης αναδιπλώνεται σε ζητήματα σταθερότητας δικτύου. Φανταστείτε ένα εξαιρετικά διασυνδεδεμένο δίκτυο αυτόνομων οχημάτων.
Υπάρχει σαφής ανάγκη να γνωρίζουμε πώς να ανιχνεύουμε και να απομονώνουμε τυχόν σημεία αστοχίας σε ένα τέτοιο δίκτυο, προτού τα πράγματα πάνε στραβά με δυνητικά τραγικές συνέπειες. Αυτό δεν είναι απλώς η προστασία του οδηγού και του επιβάτη από οποιαδήποτε βλάβη συστήματος σε ένα μόνο αυτόνομο όχημα.
Είναι καιρός να σκεφτούμε πώς θα μπορούσαμε να χρησιμοποιήσουμε αυτές τις διεπιστημονικές προόδους για την κατανόηση της σταθερότητας δικτύων τόσο μεγάλης κλίμακας για να αποφύγουμε δραστικές συνέπειες.
Σχετικά με το Συγγραφέας
Peter Fisher, Επίκουρος Καθηγητής, Παγκόσμιες, Αστικές και Κοινωνικές Σπουδές, Πανεπιστήμιο RMIT
Αυτό το άρθρο δημοσιεύθηκε αρχικά στις Η Συνομιλία. Διαβάστε το αρχικό άρθρο.
Σχετικά βιβλία
at InnerSelf Market και Amazon
