Αμερικανικός τεχνολογικός γίγαντας Η Microsoft συνεργάστηκε με ένα κινεζικό στρατιωτικό πανεπιστήμιο για να αναπτυχθεί συστήματα τεχνητής νοημοσύνης που θα μπορούσαν ενδεχομένως να ενισχύσουν τις ικανότητες παρακολούθησης και λογοκρισίας της κυβέρνησης. Δύο Οι Αμερικανοί γερουσιαστές καταδίκασαν δημόσια η εταιρική σχέση, αλλά τι το Εθνικό Πανεπιστήμιο Τεχνολογίας Άμυνας της Κίνας Οι επιθυμίες από τη Microsoft δεν είναι η μόνη ανησυχία.

As δείχνει η έρευνά μου, η έλευση της ψηφιακής καταστολής επηρεάζει βαθιά η σχέση μεταξύ πολίτη και κράτους. Οι νέες τεχνολογίες εξοπλίζουν τις κυβερνήσεις με άνευ προηγουμένου δυνατότητες παρακολούθησης, παρακολούθησης και επιτήρησης μεμονωμένων ανθρώπων. Ακόμη και κυβερνήσεις σε δημοκρατίες με ισχυρές παραδόσεις του κράτους δικαίου μπαίνουν στον πειρασμό να κάνουν κατάχρηση αυτές τις νέες ικανότητες.

Σε πολιτείες με ακαταλόγιστοι θεσμοί και συχνές παραβιάσεις των ανθρωπίνων δικαιωμάτων, τα συστήματα AI πιθανότατα θα προκαλέσουν μεγαλύτερη ζημιά. Η Κίνα είναι ένα χαρακτηριστικό παράδειγμα. Η ηγεσία της έχει αγκαλιάσει με ενθουσιασμό τεχνολογίες τεχνητής νοημοσύνης και έχει δημιουργήσει τεχνολογίες στον κόσμο πιο σοφιστικέ κατάσταση επιτήρησης in επαρχία Xinjiang, παρακολουθώντας τις καθημερινές μετακινήσεις των πολιτών και τη χρήση smartphone.

Η εκμετάλλευση αυτών των τεχνολογιών παρουσιάζει ένα ανατριχιαστικό μοντέλο για τους συναδέλφους αυτοκράτορες και αποτελεί άμεση απειλή για τις ανοιχτές δημοκρατικές κοινωνίες. Αν και δεν υπάρχουν στοιχεία ότι άλλες κυβερνήσεις έχουν αναπαράγει αυτό το επίπεδο επιτήρησης τεχνητής νοημοσύνης, οι κινεζικές εταιρείες εξάγουν ενεργά τις ίδιες υποκείμενες τεχνολογίες σε όλο τον κόσμο.

Αυξανόμενη εξάρτηση από εργαλεία τεχνητής νοημοσύνης στις ΗΠΑ

Συστήματα τεχνητής νοημοσύνης βρίσκονται παντού στον σύγχρονο κόσμο, βοηθώντας στη λειτουργία smartphone, μηχανών αναζήτησης στο Διαδίκτυο, ψηφιακούς φωνητικούς βοηθούς και ουρές ταινιών Netflix. Πολλοί άνθρωποι αδυνατούν να συνειδητοποιήσουν πόσο γρήγορα επεκτείνεται η τεχνητή νοημοσύνη, χάρη στις συνεχώς αυξανόμενες ποσότητες δεδομένων προς ανάλυση, τη βελτίωση των αλγορίθμων και των προηγμένων τσιπ υπολογιστών.

Κάθε φορά που γίνονται διαθέσιμες περισσότερες πληροφορίες και η ανάλυση γίνεται ευκολότερη, οι κυβερνήσεις ενδιαφέρονται – και όχι μόνο οι αυταρχικές. Στις ΗΠΑ, για παράδειγμα, τη δεκαετία του 1970 έγιναν αποκαλύψεις ότι κρατικές υπηρεσίες – όπως το FBI, η CIA και η NSA – είχαν δημιουργήσει εκτεταμένα δίκτυα εσωτερικής επιτήρησης να παρακολουθεί και να παρενοχλεί διαδηλωτές για τα πολιτικά δικαιώματα, πολιτικούς ακτιβιστές και ομάδες ιθαγενών Αμερικανών. Αυτά τα ζητήματα δεν έχουν εξαφανιστεί: Η ψηφιακή τεχνολογία σήμερα έχει εμβαθύνει την ικανότητα ακόμη περισσότερων υπηρεσιών να διεξάγουν ακόμη πιο παρεμβατική επιτήρηση.

Πόσο σωστά προβλέπουν οι αλγόριθμοι πού πρέπει να εστιάσει περισσότερο η αστυνομία; Arnout de Vries

Για παράδειγμα, η αστυνομία των ΗΠΑ έχει αγκαλιάσει ανυπόμονα τις τεχνολογίες AI. Έχουν αρχίσει να χρησιμοποιούν λογισμικό δηλαδή σκοπό να προβλέψει πού θα γίνουν τα εγκλήματα να αποφασίσει πού θα στείλει αξιωματικούς σε περιπολία. Χρησιμοποιούν επίσης αναγνώριση προσώπου και Ανάλυση DNA σε ποινικές έρευνες. Αλλά οι αναλύσεις αυτών των συστημάτων δείχνουν ότι δεδομένα στα οποία εκπαιδεύονται αυτά τα συστήματα είναι συχνά προκατειλημμένες, οδηγώντας σε άδικα αποτελέσματα, Όπως προσδιορίζοντας ψευδώς ότι οι Αφροαμερικανοί είναι πιο πιθανό να διαπράξουν εγκλήματα από άλλες ομάδες.

Παρακολούθηση AI σε όλο τον κόσμο

Σε αυταρχικές χώρες, τα συστήματα τεχνητής νοημοσύνης μπορούν να βοηθήσουν άμεσα τον εγχώριο έλεγχο και την επιτήρηση, βοηθώντας οι δυνάμεις εσωτερικής ασφάλειας επεξεργάζονται τεράστιες ποσότητες πληροφοριών – συμπεριλαμβανομένων των αναρτήσεων στα μέσα κοινωνικής δικτύωσης, των μηνυμάτων κειμένου, των email και των τηλεφωνικών κλήσεων – πιο γρήγορα και αποτελεσματικά. Η αστυνομία μπορεί να εντοπίσει τις κοινωνικές τάσεις και συγκεκριμένοι άνθρωποι οι οποίοι ενδέχεται να απειλήσουν το καθεστώς με βάση τις πληροφορίες που αποκαλύπτουν αυτά τα συστήματα.

Για παράδειγμα, η κινεζική κυβέρνηση έχει χρησιμοποιήσει την τεχνητή νοημοσύνη σε ευρείας κλίμακας καταστολές σε περιοχές που φιλοξενούν εθνοτικές μειονότητες εντός της Κίνας. Τα συστήματα επιτήρησης στο Σιντζιάνγκ και στο Θιβέτ έχουν περιγραφεί ως «Ορβελιανός.» Αυτές οι προσπάθειες περιελάμβαναν υποχρεωτικά δείγματα DNA, παρακολούθηση δικτύου Wi-Fi και εκτεταμένες κάμερες αναγνώρισης προσώπου, όλα συνδεδεμένα με ολοκληρωμένες πλατφόρμες ανάλυσης δεδομένων. Με τη βοήθεια αυτών των συστημάτων, οι κινεζικές αρχές έχουν, σύμφωνα με το Υπουργείο Εξωτερικών των ΗΠΑ, «αυθαίρετα κράτηση» μεταξύ 1 και 2 εκατομμύρια άτομα.

My έρευνα εξετάζει 90 χώρες σε όλο τον κόσμο με κυβερνητικούς τύπους που κυμαίνονται από κλειστές αυταρχικές έως ελαττωματικές δημοκρατίες, όπως η Ταϊλάνδη, η Τουρκία, το Μπαγκλαντές και η Κένυα. Έχω διαπιστώσει ότι οι κινεζικές εταιρείες είναι εξαγωγή τεχνολογίας επιτήρησης AI σε τουλάχιστον 54 από αυτές τις χώρες. Συχνά, αυτή η τεχνολογία συσκευάζεται ως μέρος της ναυαρχίδας της Κίνας Ζώνη και Οδική Πρωτοβουλία, η οποία χρηματοδοτεί ένα εκτεταμένο δίκτυο δρόμων, σιδηροδρόμων, αγωγών ενέργειας και δικτύων τηλεπικοινωνιών εξυπηρετώντας το 60% του παγκόσμιου πληθυσμού και οικονομίες που παράγουν το 40% του παγκόσμιου ΑΕΠ.

Για παράδειγμα, οι κινεζικές εταιρείες όπως Huawei και η ZTE κατασκευάζουν «έξυπνες πόλεις». Πακιστάν, οι Φιλιππίνες και Κενύα, που διαθέτει εκτεταμένη ενσωματωμένη τεχνολογία επιτήρησης. Για παράδειγμα, η Huawei έχει εξοπλίσει Bonifacio Global City στις Φιλιππίνες με κάμερες υψηλής ευκρίνειας συνδεδεμένες στο διαδίκτυο που παρέχουν «24/7 έξυπνη επιτήρηση ασφαλείας με αναλυτικά δεδομένα για τον εντοπισμό εγκλημάτων και τη διαχείριση της κυκλοφορίας».

Το Bonifacio Global City στις Φιλιππίνες διαθέτει πολύ ενσωματωμένο εξοπλισμό επιτήρησης. alveo land/Wikimedia Commons

Hikvision, Yitu και SenseTime προμηθεύουν υπερσύγχρονες κάμερες αναγνώρισης προσώπου για χρήση σε μέρη όπως Singapore – η οποία ανακοίνωσε τη θέσπιση προγράμματος επιτήρησης με 110,000 κάμερες τοποθετημένες σε λαμπτήρες γύρω από την πόλη-κράτος. Η Ζιμπάμπουε δημιουργεί ένα εθνική βάση δεδομένων εικόνων που μπορεί να χρησιμοποιηθεί για την αναγνώριση προσώπου.

Ωστόσο, η πώληση προηγμένου εξοπλισμού με σκοπό το κέρδος είναι διαφορετική από την κοινή χρήση τεχνολογίας με συγκεκριμένο γεωπολιτικό σκοπό. Αυτές οι νέες δυνατότητες μπορεί να φυτέψουν τους σπόρους για την παγκόσμια επιτήρηση: Καθώς οι κυβερνήσεις εξαρτώνται όλο και περισσότερο από την κινεζική τεχνολογία για τη διαχείριση του πληθυσμού τους και τη διατήρηση της εξουσίας, θα αντιμετωπίσουν μεγαλύτερη πίεση για να ευθυγραμμιστούν με την ατζέντα της Κίνας. Ωστόσο, προς το παρόν φαίνεται ότι το πρωταρχικό κίνητρο της Κίνας είναι να κυριαρχήσει στην αγορά νέων τεχνολογιών και να κερδίσει πολλά χρήματα στη διαδικασία.

AI και παραπληροφόρηση

Εκτός από την παροχή δυνατοτήτων επιτήρησης που είναι τόσο σαρωτικές όσο και λεπτομερείς, η τεχνητή νοημοσύνη μπορεί να βοηθήσει τις κατασταλτικές κυβερνήσεις να χειραγωγήσουν τις διαθέσιμες πληροφορίες και να διαδώσουν παραπληροφόρηση. Αυτές οι καμπάνιες μπορούν να αυτοματοποιηθούν ή να υποβοηθηθούν από αυτοματισμό και να αναπτυχθούν υπερπροσωποποιημένα μηνύματα στρέφεται κατά – ή κατά – συγκεκριμένοι άνθρωποι ή ομάδες.

Η τεχνητή νοημοσύνη υποστηρίζει επίσης την τεχνολογία που συνήθως ονομάζεται "deepfake», στο οποίο δημιουργούνται αλγόριθμοι ρεαλιστικές πλαστογραφίες βίντεο και ήχου. Το να θολώνει τα νερά μεταξύ αλήθειας και φαντασίας μπορεί να γίνει χρήσιμο σε μια δύσκολη εκλογική διαδικασία, όταν ένας υποψήφιος θα μπορούσε να δημιουργήσει ψεύτικα βίντεο που δείχνουν έναν αντίπαλο να κάνει και να λέει πράγματα που δεν συνέβησαν ποτέ στην πραγματικότητα.

Ένα πρώιμο deepfake βίντεο δείχνει μερικούς από τους κινδύνους της προηγμένης τεχνολογίας.

{vembed Y=cQ54GDm1eL0}

Κατά την άποψή μου, οι υπεύθυνοι χάραξης πολιτικής στις δημοκρατίες θα πρέπει να σκεφτούν προσεκτικά τους κινδύνους των συστημάτων τεχνητής νοημοσύνης για τις δικές τους κοινωνίες και για τους ανθρώπους που ζουν υπό αυταρχικά καθεστώτα σε όλο τον κόσμο. Ένα κρίσιμο ερώτημα είναι πόσες χώρες θα υιοθετήσουν το μοντέλο ψηφιακής επιτήρησης της Κίνας. Αλλά δεν αισθάνονται μόνο οι αυταρχικές χώρες την έλξη. Και επίσης δεν είναι μόνο οι κινεζικές εταιρείες που διαδίδουν την τεχνολογία: πολλές αμερικανικές εταιρείες, συμπεριλαμβανομένης της Microsoft, αλλά IBM, Cisco και Thermo Fisher επίσης, έχουν παράσχει εξελιγμένες δυνατότητες σε άσχημες κυβερνήσεις. Η κατάχρηση της τεχνητής νοημοσύνης δεν περιορίζεται σε αυταρχικά κράτη.

Σχετικά με το Συγγραφέας

Steven Feldstein, Frank and Bethine Church Chair of Public Affairs & Αναπληρωτής Καθηγητής, School of Public Service, Boise State University

Αυτό το άρθρο αναδημοσιεύθηκε από το Η Συνομιλία υπό την άδεια Creative Commons. Διαβάστε το αρχικό άρθρο.

Σχετικά βιβλία

at InnerSelf Market και Amazon