Ο ασταθής συνδυασμός deepfakes και πολιτικών εκστρατειών είναι ένας καλός λόγος για να είστε σε επιφυλακή. Sean Anthony Eddy Creative/E+ μέσω Getty Images
Φανταστείτε ένα Έκπληξη Οκτωβρίου όπως κανένας άλλος: Μόνο μια εβδομάδα πριν από τις 5 Νοεμβρίου 2024, μια εγγραφή βίντεο αποκαλύπτει μια μυστική συνάντηση μεταξύ του Joe Biden και του Volodymyr Zelenskyy. Οι Πρόεδροι της Αμερικής και της Ουκρανίας συμφωνούν να εισαγάγουν αμέσως την Ουκρανία στο ΝΑΤΟ σύμφωνα με το «ειδικό πρωτόκολλο ένταξης έκτακτης ανάγκης» και να προετοιμαστούν για ένα χτύπημα πυρηνικών όπλων κατά της Ρωσίας. Ξαφνικά, ο κόσμος βρίσκεται στο κατώφλι του Αρμαγεδδώνα.
Ενώ οι δημοσιογράφοι θα μπορούσαν να το επισημάνουν δεν υπάρχει τέτοιο πρωτόκολλο και οι χρήστες των μέσων κοινωνικής δικτύωσης μπορεί να παρατηρήσουν περίεργες ιδιότητες που μοιάζουν με βιντεοπαιχνίδια του βίντεο, ενώ άλλοι μπορεί να το αισθανθούν αυτό τους χειρότερους φόβους τους έχουν επιβεβαιωθεί. Όταν έρθει η ημέρα των εκλογών, αυτοί οι ανήσυχοι πολίτες μπορεί να αφήσουν το βίντεο να επηρεάσει τις ψήφους τους, χωρίς να γνωρίζουν ότι απλώς χειραγωγήθηκαν από μια κατάσταση βαθιάς ψεύτικης κατάστασης – ένα γεγονός που δεν συνέβη ποτέ στην πραγματικότητα.
Τα deepfakes καταστάσεων αντιπροσωπεύουν το επόμενο στάδιο των τεχνολογιών που έχω ήδη κλόνισε τις αντιλήψεις του κοινού για την πραγματικότητα. Στην έρευνά μας στο DeFake Project, οι συνάδελφοί μου στο Rochester Institute of Technology, τη Πανεπιστήμιο του Μισισιπή, Michigan State University και I μελετήστε πώς γίνονται τα deepfakes και ποια μέτρα μπορούν να λάβουν οι ψηφοφόροι για να αμυνθούν από αυτά.
Φανταστείτε γεγονότα που δεν έγιναν ποτέ
Ένα deepfake δημιουργείται όταν κάποιος χρησιμοποιεί ένα εργαλείο τεχνητής νοημοσύνης, ειδικά βαθιά μάθηση, για να χειραγωγήσετε ή να δημιουργήσετε α πρόσωπο, μια φωνή ή – με την άνοδο του μεγάλα γλωσσικά μοντέλα Μου αρέσει ChatGPT - ομιλητική γλώσσα. Αυτά μπορούν να συνδυαστούν για να σχηματίσουν "deepfakes καταστάσεων".
Η βασική ιδέα και η τεχνολογία ενός deepfake κατάστασης είναι η ίδια με κάθε άλλο deepfake, αλλά με μια πιο τολμηρή φιλοδοξία: να χειριστείτε ένα πραγματικό γεγονός ή να επινοήσετε ένα από τον αέρα. Τα παραδείγματα περιλαμβάνουν απεικονίσεις του Ο περίπατος του Ντόναλντ Τραμπ και Ο Τραμπ αγκαλιάζει τον Άντονι Φάουτσι, κανένα από τα δύο δεν συνέβη. Η βολή αγκαλιά προωθήθηκε από α Ο λογαριασμός στο Twitter συνδέονται με την προεδρική εκστρατεία του αντιπάλου του Τραμπ Ρον Ντε Σάντις. Ενα επίθεση αγγελίας με στόχο την εκστρατεία του Τζο Μπάιντεν το 2024 που δημοσιεύτηκε από την Εθνική Επιτροπή των Ρεπουμπλικανών κατασκευασμένο εξ ολοκλήρου με AI.
Στο DeFake Project, Μας η έρευνα έχει βρει ότι τα deepfakes, συμπεριλαμβανομένων των καταστάσεων, δημιουργούνται συνήθως από κάποιο μείγμα προσθέτοντας ένα κομμάτι μέσου με ένα άλλο; χρησιμοποιώντας ένα βίντεο για να κάνετε κίνηση σε μια εικόνα ή να τροποποιήσετε ένα άλλο βίντεο, μεταγλωττίστηκε κουκλοθέατρο? δημιουργώντας ένα κομμάτι μέσου, συνήθως χρησιμοποιώντας γενετική AI; ή κάποιο συνδυασμό αυτών των τεχνικών.
Για να είμαστε σαφείς, πολλά deepfakes καταστάσεων γίνονται για αθώους σκοπούς. Για παράδειγμα, Περιοδικό Infinite Odyssey παράγει ψεύτικα στιγμιότυπα από ταινίες που δεν παρήχθησαν ποτέ or δεν θα μπορούσε ποτέ να υπάρξει. Αλλά ακόμη και τα αθώα deepfakes δίνουν λόγο για παύση, όπως στην περίπτωση σχεδόν απίστευτων ψεύτικων φωτογραφιών που απεικονίζουν το Η προσγείωση του Απόλλωνα στο φεγγάρι ως παραγωγή ταινίας.
Deepfaking εκλογών
Τώρα βάλτε τον εαυτό σας στη θέση κάποιου που προσπαθεί να επηρεάσει τις επερχόμενες εκλογές. Ποιες είναι οι πιθανές καταστάσεις που μπορεί να θέλετε να δημιουργήσετε;
Για αρχή, θα είχε σημασία αν θέλετε να γέρνετε την ψηφοφορία προς ή μακριά από ένα συγκεκριμένο αποτέλεσμα. Ίσως θα απεικονίζατε έναν υποψήφιο να ενεργεί ηρωικά τραβώντας έναν πεζό από το δρόμο ενός αυτοκινήτου που τρέχει με ταχύτητα ή, αντίθετα, κάνοντας κάτι προσβλητικό ή εγκληματικό. Η μορφή του deepfake της κατάστασης θα είχε επίσης σημασία. Αντί για βίντεο, θα μπορούσε να είναι μια φωτογραφία, ίσως με το θάμπωμα και τις γωνίες που προσομοιώνουν μια κάμερα smartphone ή το πλαστό λογότυπο ενός πρακτορείου ειδήσεων.
Το κοινό-στόχο σας θα ήταν το κλειδί. Αντί να στοχεύσετε στο γενικό εκλογικό σώμα ή στη βάση ενός κόμματος, μπορείτε να στοχεύσετε θεωρητικούς συνωμοσίας σε βασικές εκλογικές περιφέρειες. Θα μπορούσατε να απεικονίσετε τον υποψήφιο ή τα μέλη της οικογένειάς του να συμμετέχουν σε ένα σατανικό τελετουργικό, συμμετέχοντας σε φεστιβάλ στο αποκλειστική και αμφιλεγόμενη Bohemian Grove, ή έχοντας ένα μυστική συνάντηση με έναν εξωγήινο.
Εάν έχετε τη φιλοδοξία και τις δυνατότητες για αυτό, θα μπορούσατε ακόμη και να προσπαθήσετε να πλαστογραφήσετε τις ίδιες τις εκλογές. Τον Ιούνιο του 2023, οι τηλεοπτικοί και ραδιοφωνικοί σταθμοί της Ρωσίας υπέστησαν εισβολή και μετέδωσαν πλήρη διαταγή επιστράτευσης από ένα deepfake του Ρώσου προέδρου Βλαντιμίρ Πούτιν. Αν και αυτό θα ήταν πιο δύσκολο να γίνει σε εκλογές στις ΗΠΑ, καταρχήν κάθε ειδησεογραφικό μέσο θα μπορούσε να χακαριστεί για να μεταδώσει βαθιά ψεύτικα των παρουσιαστών τους που ανακοίνωναν λάθος αποτελέσματα ή ένας υποψήφιος παραχωρούσε.
Υπερασπίζοντας την πραγματικότητα
Υπάρχει μια ποικιλία τεχνολογικών και ψυχολογικών τρόπων ανίχνευσης και άμυνας από τα βαθιά ψεύτικα καταστάσεις.
Στο τεχνολογικό μέτωπο, όλα τα deepfakes περιέχουν κάποια στοιχεία της πραγματικής τους φύσης. Μερικές από αυτές τις ενδείξεις μπορούν να φανούν με το ανθρώπινο μάτι - όπως υπερβολικά λείο δέρμα ή περίεργος φωτισμός ή αρχιτεκτονική - ενώ άλλες μπορεί να είναι ανιχνεύσιμο μόνο από μια τεχνητή νοημοσύνη που κυνηγάει βαθιά ψεύτικα.
Χτίζουμε DeFakeΟ ανιχνευτής του θα χρησιμοποιεί την τεχνητή νοημοσύνη για να πιάσει τα ενδεικτικά σημάδια των deepfakes και εργαζόμαστε για να προσπαθήσουμε να τον έχουμε έτοιμο εγκαίρως για τις εκλογές του 2024. Αλλά ακόμα κι αν ένας αρκετά ισχυρός ανιχνευτής deepfake όπως ο δικός μας δεν μπορεί να αναπτυχθεί μέχρι την ημέρα των εκλογών, υπάρχουν ψυχολογικά εργαλεία που μπορείτε να χρησιμοποιήσετε εσείς, ο ψηφοφόρος, για να εντοπίσετε τα βαθιά ψεύτικα: γνώση υποβάθρου, περιέργεια και υγιή σκεπτικισμό.
Αν συναντήσετε περιεχόμενο πολυμέσων για ένα άτομο, μέρος ή γεγονός που φαίνεται αχαρακτηριστικό, εμπιστευτείτε τις γνώσεις σας. Για παράδειγμα, σε ένα πρόσφατη φάρσα για φωτιά στο Πεντάγωνο, το κτίριο που εμφανίζεται φαίνεται πιο τετράγωνο παρά πενταγωνικό, κάτι που θα μπορούσε να είναι ένα δώρο.
Ωστόσο, προσπαθήστε να μην βασίζεστε εξ ολοκλήρου στις γνώσεις σας, οι οποίες μπορεί να είναι εσφαλμένες ή αποσπασματικές. Ποτέ μην φοβάστε να μάθετε περισσότερα από αξιόπιστες πηγές, όπως ρεπορτάζ ειδήσεων με ελεγμένες πληροφορίες, ακαδημαϊκά άρθρα με κριτές από ομοτίμους ή συνεντεύξεις με διαπιστευμένους ειδικούς.
Επιπλέον, να γνωρίζετε ότι τα deepfakes μπορούν να χρησιμοποιηθούν για να εκμεταλλευτείτε αυτό που είστε έχουν την τάση να πιστεύουν για ένα πρόσωπο, μέρος ή γεγονός. Ένας από τους καλύτερους τρόπους για να το αντιμετωπίσετε αυτό είναι απλά να γνωρίζετε τις προκαταλήψεις σας και να είστε λίγο προσεκτικοί σχετικά με οποιοδήποτε περιεχόμενο μέσων που φαίνεται να το επιβεβαιώνει.
Ακόμα κι αν καταστεί δυνατό να δημιουργηθούν βαθιά ψεύτικα τέλειες καταστάσεις, το πόσο πιστευτό είναι το θέμα τους, είναι πιθανό να παραμείνει η αχίλλειος πτέρνα τους. Έτσι, με ή χωρίς τεχνολογική λύση, εξακολουθείτε να έχετε τη δύναμη να υπερασπιστείτε τις εκλογές από την επιρροή ψεύτικων γεγονότων.
Σχετικά με το Συγγραφέας
Κρίστοφερ Σβαρτς, Μεταδιδακτορικός Ερευνητικός Συνεργάτης Υπολογιστικής Ασφάλειας, Rochester Institute of Technology
Αυτό το άρθρο αναδημοσιεύθηκε από το Η Συνομιλία υπό την άδεια Creative Commons. Διαβάστε το αρχικό άρθρο.
Σχετικές Βιβλία:
Για την Τυραννία: Είκοσι Μαθήματα από τον Εικοστό Αιώνα
του Τίμοθι Σνάιντερ
Αυτό το βιβλίο προσφέρει μαθήματα από την ιστορία για τη διατήρηση και την υπεράσπιση της δημοκρατίας, συμπεριλαμβανομένης της σημασίας των θεσμών, του ρόλου των μεμονωμένων πολιτών και των κινδύνων του αυταρχισμού.
Κάντε κλικ για περισσότερες πληροφορίες ή για παραγγελία
Η ώρα μας είναι τώρα: Δύναμη, σκοπός και αγώνας για μια δίκαιη Αμερική
από την Stacey Abrams
Η συγγραφέας, πολιτικός και ακτιβίστρια, μοιράζεται το όραμά της για μια πιο περιεκτική και δίκαιη δημοκρατία και προσφέρει πρακτικές στρατηγικές για πολιτική δέσμευση και κινητοποίηση ψηφοφόρων.
Κάντε κλικ για περισσότερες πληροφορίες ή για παραγγελία
Πώς πεθαίνουν οι δημοκρατίες
από τους Steven Levitsky και Daniel Ziblatt
Αυτό το βιβλίο εξετάζει τα προειδοποιητικά σημάδια και τις αιτίες της δημοκρατικής κατάρρευσης, αξιοποιώντας περιπτωσιολογικές μελέτες από όλο τον κόσμο για να προσφέρει πληροφορίες σχετικά με τον τρόπο προστασίας της δημοκρατίας.
Κάντε κλικ για περισσότερες πληροφορίες ή για παραγγελία
The People, No: A Brief History of Anti-Populism
από τον Thomas Frank
Ο συγγραφέας προσφέρει μια ιστορία λαϊκιστικών κινημάτων στις Ηνωμένες Πολιτείες και ασκεί κριτική στην «αντι-λαϊκιστική» ιδεολογία που υποστηρίζει ότι έχει καταπνίξει τη δημοκρατική μεταρρύθμιση και την πρόοδο.
Κάντε κλικ για περισσότερες πληροφορίες ή για παραγγελία
Η δημοκρατία σε ένα βιβλίο ή λιγότερο: Πώς λειτουργεί, γιατί δεν λειτουργεί και γιατί η διόρθωσή της είναι πιο εύκολη από όσο νομίζετε
από τον David Litt
Αυτό το βιβλίο προσφέρει μια επισκόπηση της δημοκρατίας, συμπεριλαμβανομένων των δυνατών και των αδυναμιών της, και προτείνει μεταρρυθμίσεις για να καταστήσει το σύστημα πιο ανταποκρινόμενο και υπεύθυνο.
