Ο Ναπολέων θα μπορούσε να έχει μάθει από το παρελθόν. πίνακας του Adolph Northen/wikipedia

Είναι κλισέ ότι το να μην γνωρίζει κανείς την ιστορία κάνει να το επαναλάβει. Όπως πολλοί άνθρωποι έχουν επίσης επισημάνει, το μόνο πράγμα που μαθαίνουμε από την ιστορία είναι ότι σπάνια μαθαίνουμε τίποτα από την ιστορία. Οι άνθρωποι εμπλέκονται χερσαίους πολέμους στην Ασία ξανά και ξανά. Επαναλαμβάνουν επίσης τα ίδια λάθη χρονολόγησης, ξανά και ξανά. Γιατί όμως συμβαίνει αυτό; Και θα βάλει τέλος η τεχνολογία;

Ένα θέμα είναι η λήθη και «μυωπία»: δεν βλέπουμε πώς τα γεγονότα του παρελθόντος σχετίζονται με τα τρέχοντα, παραβλέποντας το μοτίβο που εκτυλίσσεται. Ο Ναπολέων θα έπρεπε να είχε παρατηρήσει τις ομοιότητες μεταξύ της πορείας του στη Μόσχα και του Σουηδού βασιλιά Η αποτυχημένη προσπάθεια του Καρόλου XII να κάνει το ίδιο περίπου έναν αιώνα πριν από αυτόν.

Είμαστε επίσης κακό στη μάθηση όταν τα πράγματα πάνε στραβά. Αντί να προσδιορίζουμε γιατί μια απόφαση ήταν λανθασμένη και πώς να αποφύγουμε να ξανασυμβεί, συχνά προσπαθούμε να αγνοήσουμε την ενοχλητική εξέλιξη των γεγονότων. Αυτό σημαίνει ότι την επόμενη φορά που θα εμφανιστεί μια παρόμοια κατάσταση, δεν βλέπουμε την ομοιότητα – και επαναλαμβάνουμε το λάθος.

Και οι δύο αποκαλύπτουν προβλήματα με τις πληροφορίες. Στην πρώτη περίπτωση, αδυνατούμε να θυμηθούμε προσωπικές ή ιστορικές πληροφορίες. Στη δεύτερη, αποτυγχάνουμε να κωδικοποιήσουμε πληροφορίες όταν είναι διαθέσιμες.

Τούτου λεχθέντος, κάνουμε επίσης λάθη όταν δεν μπορούμε να συμπεράνουμε αποτελεσματικά τι πρόκειται να συμβεί. Ίσως η κατάσταση να είναι πολύ περίπλοκη ή πολύ χρονοβόρα για να την σκεφτούμε. Ή είμαστε προκατειλημμένοι να παρερμηνεύσουμε αυτό που συμβαίνει.

Η ενοχλητική δύναμη της τεχνολογίας

Αλλά σίγουρα η τεχνολογία μπορεί να μας βοηθήσει; Μπορούμε τώρα να αποθηκεύσουμε πληροφορίες έξω από τον εγκέφαλό μας και να χρησιμοποιήσουμε υπολογιστές για να τις ανακτήσουμε. Αυτό θα έπρεπε να κάνει τη μάθηση και τη μνήμη εύκολη, σωστά;

Η αποθήκευση πληροφοριών είναι χρήσιμη όταν μπορούν να ανακτηθούν καλά. Αλλά το να θυμάστε δεν είναι το ίδιο πράγμα με την ανάκτηση ενός αρχείου από μια γνωστή τοποθεσία ή ημερομηνία. Η ανάμνηση περιλαμβάνει τον εντοπισμό ομοιοτήτων και τη λήψη πραγμάτων στο μυαλό.

Μια τεχνητή νοημοσύνη (AI) πρέπει επίσης να μπορεί να φέρει αυθόρμητα ομοιότητες στο μυαλό μας – συχνά ανεπιθύμητες ομοιότητες. Αλλά αν είναι καλός στο να παρατηρεί πιθανές ομοιότητες (εξάλλου, θα μπορούσε να ψάξει σε όλο το διαδίκτυο και όλα τα προσωπικά μας δεδομένα) θα παρατηρήσει επίσης συχνά ψευδείς.

Για αποτυχημένα ραντεβού, μπορεί να σημειωθεί ότι όλα περιλάμβαναν δείπνο. Αλλά ποτέ δεν ήταν το φαγητό που ήταν το πρόβλημα. Και ήταν καθαρή σύμπτωση που υπήρχαν τουλίπες στο τραπέζι – δεν υπάρχει λόγος να τις αποφύγεις. Συχνά επαναλαμβάνουμε λάθη ραντεβού. 

Αυτό σημαίνει ότι θα μας προειδοποιήσει για πράγματα που δεν μας ενδιαφέρουν, ενδεχομένως με ενοχλητικό τρόπο. Η μείωση της ευαισθησίας του σημαίνει αύξηση του κινδύνου μη λήψης προειδοποίησης όταν χρειάζεται.

Αυτό είναι ένα θεμελιώδες πρόβλημα και ισχύει εξίσου για κάθε σύμβουλο: ο προσεκτικός σύμβουλος θα κλαίει λύκος πολύ συχνά, ο αισιόδοξος σύμβουλος θα χάσει τους κινδύνους.

Ένας καλός σύμβουλος είναι κάποιος που εμπιστευόμαστε. Έχουν περίπου το ίδιο επίπεδο προσοχής με εμάς και ξέρουμε ότι ξέρουν τι θέλουμε. Αυτό είναι δύσκολο να βρεθεί σε έναν ανθρώπινο σύμβουλο, και ακόμη περισσότερο σε μια τεχνητή νοημοσύνη.

Πού σταματά η τεχνολογία τα λάθη; Εργασίες στεγανοποίησης ηλίθιων. Οι μηχανές κοπής απαιτούν να κρατάτε πατημένα τα κουμπιά, κρατώντας τα χέρια σας μακριά από τις λεπίδες. Ένας «διακόπτης νεκρού» σταματά ένα μηχάνημα εάν ο χειριστής γίνει ανίκανος.

Οι φούρνοι μικροκυμάτων απενεργοποιούν την ακτινοβολία όταν ανοίγει η πόρτα. Για την εκτόξευση πυραύλων, δύο άτομα πρέπει να γυρίσουν τα κλειδιά ταυτόχρονα σε ένα δωμάτιο. Εδώ, ο προσεκτικός σχεδιασμός καθιστά δύσκολο να γίνουν λάθη. Αλλά δεν μας ενδιαφέρουν αρκετά οι λιγότερο σημαντικές καταστάσεις, καθιστώντας το σχέδιο εκεί πολύ λιγότερο αδιάβροχο.

Όταν η τεχνολογία λειτουργεί καλά, συχνά την εμπιστευόμαστε πάρα πολύ. Οι πιλότοι αεροπορικών εταιρειών έχουν λιγότερες πραγματικές ώρες πτήσης σήμερα από ό,τι στο παρελθόν λόγω της εκπληκτικής αποτελεσματικότητας των συστημάτων αυτόματου πιλότου. Αυτά είναι κακά νέα όταν ο αυτόματος πιλότος αποτυγχάνει και ο πιλότος έχει λιγότερη εμπειρία να συνεχίσει για να διορθώσει την κατάσταση.

Το πρώτο του α νέα φυλή πλατφόρμας λαδιού (Sleipnir A) βυθίστηκε επειδή οι μηχανικοί εμπιστεύονταν τον υπολογισμό του λογισμικού των δυνάμεων που ενεργούν σε αυτό. Το μοντέλο ήταν λάθος, αλλά παρουσίαζε τα αποτελέσματα με τόσο συναρπαστικό τρόπο που φαίνονταν αξιόπιστα.

Μεγάλο μέρος της τεχνολογίας μας είναι εκπληκτικά αξιόπιστο. Για παράδειγμα, δεν παρατηρούμε πώς τα χαμένα πακέτα δεδομένων στο Διαδίκτυο βρίσκονται συνεχώς στα παρασκήνια, πώς οι κωδικοί διόρθωσης σφαλμάτων αφαιρούν τον θόρυβο ή πώς οι ασφάλειες και ο πλεονασμός καθιστούν τις συσκευές ασφαλείς.

Αλλά όταν στοιβαζόμαστε σε επίπεδο πολυπλοκότητας, φαίνεται πολύ αναξιόπιστο. Παρατηρούμε όταν το βίντεο Zoom καθυστερεί, το πρόγραμμα τεχνητής νοημοσύνης απαντά λάθος ή ο υπολογιστής κολλάει. Ωστόσο, ρωτήστε οποιονδήποτε χρησιμοποιούσε υπολογιστή ή αυτοκίνητο πριν από 50 χρόνια πώς λειτουργούσε πραγματικά και θα παρατηρήσετε ότι ήταν και λιγότερο ικανοί και λιγότερο αξιόπιστοι.

Κάνουμε την τεχνολογία πιο περίπλοκη μέχρι να γίνει πολύ ενοχλητική ή μη ασφαλής για χρήση. Καθώς τα ανταλλακτικά γίνονται καλύτερα και πιο αξιόπιστα, συχνά επιλέγουμε να προσθέτουμε νέα συναρπαστικά και χρήσιμα χαρακτηριστικά αντί να επιμείνουμε σε αυτό που λειτουργεί. Αυτό τελικά κάνει την τεχνολογία λιγότερο αξιόπιστη από ό,τι θα μπορούσε να είναι.

Λάθη θα γίνουν

Αυτός είναι επίσης ο λόγος που η τεχνητή νοημοσύνη είναι ένα δίκοπο μαχαίρι για την αποφυγή λαθών. Ο αυτοματισμός συχνά κάνει τα πράγματα πιο ασφαλή και αποτελεσματικά όταν λειτουργεί, αλλά όταν αποτυγχάνει κάνει το πρόβλημα πολύ μεγαλύτερο. Αυτονομία σημαίνει ότι το έξυπνο λογισμικό μπορεί να συμπληρώσει τη σκέψη μας και να μας αποφορτίσει, αλλά όταν δεν σκέφτεται όπως θέλουμε, μπορεί να συμπεριφέρεται άσχημα.

Όσο πιο περίπλοκο είναι, τόσο πιο φανταστικά μπορεί να είναι τα λάθη. Όποιος έχει ασχοληθεί με εξαιρετικά ευφυείς μελετητές ξέρει πόσο καλά μπορεί να ανακατέψει τα πράγματα με μεγάλη εφευρετικότητα όταν η κοινή λογική τους αποτυγχάνει – και η τεχνητή νοημοσύνη έχει πολύ λίγη ανθρώπινη κοινή λογική.

Αυτός είναι επίσης ένας βαθύς λόγος ανησυχίας για την καθοδήγηση της τεχνητής νοημοσύνης στη λήψη αποφάσεων: κάνουν νέα είδη λαθών. Εμείς οι άνθρωποι γνωρίζουμε τα ανθρώπινα λάθη, δηλαδή μπορούμε να τα προσέχουμε. Αλλά Οι έξυπνες μηχανές μπορούν να κάνουν λάθη που δεν μπορούσαμε ποτέ να φανταστούμε.

Επιπλέον, τα συστήματα AI προγραμματίζονται και εκπαιδεύονται από ανθρώπους. Και υπάρχουν πολλά παραδείγματα τέτοιων συστημάτων γίνεται προκατειλημμένος και μάλιστα μεγαλομανής. Μιμούνται τις προκαταλήψεις και επαναλαμβάνουν τα λάθη από τον ανθρώπινο κόσμο, ακόμη και όταν οι εμπλεκόμενοι προσπαθούν ρητά να τα αποφύγουν.

Στο τέλος, τα λάθη θα συνεχίσουν να συμβαίνουν. Υπάρχουν θεμελιώδεις λόγοι για τους οποίους κάνουμε λάθος με τον κόσμο, γιατί δεν θυμόμαστε όλα όσα πρέπει και γιατί η τεχνολογία μας δεν μπορεί να μας βοηθήσει τέλεια να αποφύγουμε προβλήματα.

Μπορούμε όμως να εργαστούμε για να μειώσουμε τις συνέπειες των λαθών. Το κουμπί αναίρεσης και η αυτόματη αποθήκευση έχουν αποθηκεύσει αμέτρητα έγγραφα στους υπολογιστές μας. Το μνημείο στο Λονδίνο, πέτρες τσουνάμι στην Ιαπωνία και άλλα μνημεία ενεργούν για να μας υπενθυμίσουν ορισμένους κινδύνους. Οι καλές πρακτικές σχεδιασμού κάνουν τη ζωή μας πιο ασφαλή.

Τελικά, είναι δυνατόν να μάθουμε κάτι από την ιστορία. Στόχος μας πρέπει να είναι να επιβιώσουμε και να μάθουμε από τα λάθη μας, όχι να τα εμποδίσουμε να συμβούν ποτέ. Η τεχνολογία μπορεί να μας βοηθήσει σε αυτό, αλλά πρέπει να σκεφτούμε προσεκτικά τι πραγματικά θέλουμε από αυτήν – και να σχεδιάσουμε ανάλογα.

Σχετικά με το Συγγραφέας

Άντερς Σάντμπεργκ, James Martin Research Fellow, Future of Humanity Institute & Oxford Martin School, Πανεπιστήμιο της Οξφόρδης

Αυτό το άρθρο αναδημοσιεύθηκε από το Η Συνομιλία υπό την άδεια Creative Commons. Διαβάστε το αρχικό άρθρο.