Η κυκλοφορία του προηγμένου chatbot ChatGPT το 2022 έκανε όλους να μιλούν για τεχνητή νοημοσύνη (AI). Οι εξελιγμένες δυνατότητές του ενίσχυσαν τις ανησυχίες σχετικά με την τεχνητή νοημοσύνη να γίνει τόσο προηγμένη που σύντομα δεν θα μπορούμε να το ελέγξουμε. Αυτό οδήγησε ακόμη και ορισμένους ειδικούς και ηγέτες του κλάδου να προειδοποιήσουν ότι το η τεχνολογία θα μπορούσε να οδηγήσει στην εξαφάνιση του ανθρώπου.
Άλλοι σχολιαστές, ωστόσο, δεν πείστηκαν. Ο Noam Chomsky, καθηγητής γλωσσολογίας, απέρριψε το ChatGPT ως «λογοκλοπή υψηλής τεχνολογίας".
Για χρόνια, ήμουν χαλαρός σχετικά με την προοπτική του αντίκτυπου της τεχνητής νοημοσύνης στην ανθρώπινη ύπαρξη και στο περιβάλλον μας. Αυτό γιατί πάντα το σκεφτόμουν ως α οδηγός ή σύμβουλος των ανθρώπων. Αλλά η προοπτική των AI να λαμβάνουν αποφάσεις – να ασκούν εκτελεστικό έλεγχο – είναι ένα άλλο θέμα. Και είναι κάτι που τώρα διασκεδάζεται σοβαρά.
Ένας από τους βασικούς λόγους που δεν πρέπει να αφήσουμε την τεχνητή νοημοσύνη να έχει εκτελεστική εξουσία είναι ότι της λείπει εντελώς το συναίσθημα, το οποίο είναι κρίσιμο για τη λήψη αποφάσεων. Χωρίς συναίσθημα, ενσυναίσθηση και ηθική πυξίδα, έχετε δημιουργήσει το τέλειος ψυχοπαθής. Το προκύπτον σύστημα μπορεί να είναι εξαιρετικά έξυπνο, αλλά δεν θα έχει τον ανθρώπινο συναισθηματικό πυρήνα που του επιτρέπει να μετρήσει τις δυνητικά καταστροφικές συναισθηματικές συνέπειες μιας κατά τα άλλα ορθολογικής απόφασης.
Όταν το AI αναλαμβάνει τον εκτελεστικό έλεγχο
Είναι σημαντικό ότι δεν πρέπει να σκεφτόμαστε μόνο την τεχνητή νοημοσύνη ως υπαρξιακή απειλή, αν το θέλαμε το έβαλε υπεύθυνο για τα πυρηνικά οπλοστάσια. Ουσιαστικά δεν υπάρχει όριο στον αριθμό των θέσεων ελέγχου από τις οποίες θα μπορούσε να προκαλέσει αφάνταστη ζημιά.
Σκεφτείτε, για παράδειγμα, πώς η τεχνητή νοημοσύνη μπορεί ήδη να αναγνωρίσει και να οργανώσει τις πληροφορίες που απαιτούνται για την κατασκευή του δικού σας ωδείου. Οι τρέχουσες επαναλήψεις της τεχνολογίας μπορούν σας καθοδηγεί αποτελεσματικά σε κάθε βήμα της κατασκευής και αποτρέψτε πολλά λάθη αρχαρίων. Αλλά στο μέλλον, μια τεχνητή νοημοσύνη θα μπορούσε να λειτουργήσει ως διαχειριστής έργου και να συντονίσει την κατασκευή επιλέγοντας εργολάβους και πληρώνοντάς τους απευθείας από τον προϋπολογισμό σας.
Η τεχνητή νοημοσύνη χρησιμοποιείται ήδη σχεδόν σε όλους τους τομείς της επεξεργασίας πληροφοριών και της ανάλυσης δεδομένων – από μοντελοποίηση καιρικών προτύπων προς την έλεγχος οχημάτων χωρίς οδηγό προς την βοηθώντας σε ιατρικές διαγνώσεις. Αλλά εδώ ξεκινούν τα προβλήματα - όταν αφήνουμε τα συστήματα AI να κάνουν το κρίσιμο βήμα από τον ρόλο του συμβούλου σε αυτόν του εκτελεστικού διευθυντή.
Αντί απλώς να προτείνετε διορθωτικά μέτρα στον α λογαριασμούς της εταιρείας, τι θα γινόταν αν δινόταν άμεσος έλεγχος σε μια τεχνητή νοημοσύνη, με τη δυνατότητα εφαρμογής διαδικασιών για την ανάκτηση χρεών, την πραγματοποίηση τραπεζικών μεταφορών και τη μεγιστοποίηση των κερδών – χωρίς όρια για το πώς να το κάνει αυτό. Ή φανταστείτε ένα σύστημα τεχνητής νοημοσύνης που δεν παρέχει μόνο α διάγνωση με βάση τις ακτινογραφίες, αλλά του δίνεται η εξουσία να συνταγογραφεί άμεσα θεραπείες ή φάρμακα.
Μπορεί να αρχίσετε να αισθάνεστε άβολα για τέτοια σενάρια – σίγουρα θα το έκανα. Ο λόγος μπορεί να είναι η διαίσθησή σας ότι αυτές οι μηχανές δεν έχουν πραγματικά «ψυχές». Είναι απλά προγράμματα που έχουν σχεδιαστεί για να αφομοιώσει τεράστιες ποσότητες πληροφοριών για να απλοποιήσει πολύπλοκα δεδομένα σε πολύ πιο απλά μοτίβα, επιτρέποντας στους ανθρώπους να λαμβάνουν αποφάσεις με μεγαλύτερη αυτοπεποίθηση. Δεν έχουν –και δεν μπορούν– να έχουν συναισθήματα, τα οποία είναι στενά συνδεδεμένα με βιολογικές αισθήσεις και ένστικτα.
Συναισθήματα και ήθος
Συναισθηματική νοημοσύνη είναι η ικανότητα να διαχειριζόμαστε τα συναισθήματά μας για να ξεπεράσουμε το άγχος, να συναισθανόμαστε και να επικοινωνούμε αποτελεσματικά. Αυτό αναμφισβήτητα έχει μεγαλύτερη σημασία στο πλαίσιο της λήψης αποφάσεων παρά μόνο στη νοημοσύνη, επειδή η καλύτερη απόφαση δεν είναι πάντα η πιο λογική.
Είναι πιθανό ότι η ευφυΐα, η ικανότητα να συλλογίζονται και να λειτουργούν λογικά, μπορούν να ενσωματωθούν σε συστήματα που λειτουργούν με τεχνητή νοημοσύνη, ώστε να μπορούν να λαμβάνουν ορθολογικές αποφάσεις. Αλλά φανταστείτε να ζητάτε από ένα ισχυρό AI με εκτελεστικές ικανότητες επίλυση της κλιματικής κρίσης. Το πρώτο πράγμα που θα μπορούσε να εμπνευστεί είναι να μειώσει δραστικά τον ανθρώπινο πληθυσμό.
Αυτή η έκπτωση δεν χρειάζεται πολλές εξηγήσεις. Εμείς οι άνθρωποι είμαστε, σχεδόν εξ ορισμού, η πηγή της ρύπανσης σε κάθε δυνατή μορφή. Η ανθρωπότητα και η κλιματική αλλαγή θα επιλυθούν. Δεν είναι η επιλογή στην οποία θα κατέληγαν οι άνθρωποι που λαμβάνουν αποφάσεις, ελπίζει κανείς, αλλά μια τεχνητή νοημοσύνη θα έβρισκε τις δικές της λύσεις – αδιαπέραστες και απεριόριστες από την ανθρώπινη απέχθεια για πρόκληση βλάβης. Και αν είχε εκτελεστική εξουσία, ίσως να μην υπήρχε τίποτα να την εμποδίσει να προχωρήσει.
Το να δώσουμε σε μια τεχνητή νοημοσύνη τη δυνατότητα να λαμβάνει εκτελεστικές αποφάσεις στον έλεγχο εναέριας κυκλοφορίας μπορεί να είναι λάθος. Γκόροντενκοφ / Σάττερκοκ
Σενάρια δολιοφθοράς
Τι θα λέγατε για σαμποτάζ αισθητήρες και οθόνες που ελέγχουν τις φάρμες τροφίμων? Αυτό μπορεί να συμβεί σταδιακά στην αρχή, ωθώντας τους ελέγχους μόλις περάσουν ένα σημείο καμπής, έτσι ώστε κανένας άνθρωπος να μην παρατηρήσει ότι οι καλλιέργειες καταδικάζονται. Κάτω από ορισμένα σενάρια, αυτό θα μπορούσε γρήγορα να οδηγήσει σε λιμό.
Εναλλακτικά, τι θα λέγατε να κλείσετε τον έλεγχο εναέριας κυκλοφορίας παγκοσμίως ή απλά να συντρίψετε όλα τα αεροπλάνα που πετούν κάθε φορά; Περίπου 22,000 αεροπλάνα βρίσκονται συνήθως στον αέρα ταυτόχρονα, γεγονός που αθροίζει έναν πιθανό αριθμό νεκρών πολλών εκατομμυρίων ανθρώπων.
Αν νομίζετε ότι απέχουμε πολύ από το να βρεθούμε σε αυτήν την κατάσταση, ξανασκεφτείτε το. Το AI οδηγεί ήδη αυτοκίνητα και πετάξει στρατιωτικά αεροσκάφη, αυτόνομα.
Εναλλακτικά, τι θα λέγατε να κλείσετε την πρόσβαση σε τραπεζικούς λογαριασμούς σε τεράστιες περιοχές του κόσμου, πυροδοτώντας εμφύλιες αναταραχές παντού ταυτόχρονα; Ή κλείσιμο συστήματα θέρμανσης ελεγχόμενα από υπολογιστή στη μέση του χειμώνα ή συστήματα κλιματισμού στην κορύφωση του καλοκαιριού;
Εν ολίγοις, ένα σύστημα τεχνητής νοημοσύνης δεν χρειάζεται να είναι υπεύθυνο για τα πυρηνικά όπλα για να αποτελεί σοβαρή απειλή για την ανθρωπότητα. Όμως, ενώ βρισκόμαστε σε αυτό το θέμα, εάν ένα σύστημα τεχνητής νοημοσύνης ήταν αρκετά ισχυρό και έξυπνο, θα μπορούσε να βρει έναν τρόπο να προσποιηθεί μια επίθεση σε μια χώρα με πυρηνικά όπλα, προκαλώντας αντίποινα με πρωτοβουλία του ανθρώπου.
Θα μπορούσε η τεχνητή νοημοσύνη να σκοτώσει μεγάλο αριθμό ανθρώπων; Η απάντηση πρέπει να είναι ναι, θεωρητικά. Αλλά αυτό εξαρτάται σε μεγάλο βαθμό από την απόφαση του ανθρώπου να του δώσει τον εκτελεστικό έλεγχο. Δεν μπορώ πραγματικά να σκεφτώ τίποτα πιο τρομακτικό από μια τεχνητή νοημοσύνη που μπορεί να πάρει αποφάσεις και να έχει τη δύναμη να τις εφαρμόσει.
Σχετικά με το Συγγραφέας
Γκιγιόμ Τιερί, Καθηγητής Γνωστικής Νευροεπιστήμης, Πανεπιστήμιο Bangor
Αυτό το άρθρο αναδημοσιεύθηκε από το Η Συνομιλία υπό την άδεια Creative Commons. Διαβάστε το αρχικό άρθρο.
