Deepfakes στο παγκόσμιο εκλογικό έτος 2024: Ένα όπλο μαζικής εξαπάτησης;

Ψηφιακή ασφάλεια

Καθώς οι κατασκευασμένες εικόνες, τα βίντεο και τα ηχητικά αποσπάσματα πραγματικών ανθρώπων γίνονται επικρατέστερα, η προοπτική μιας πυροσβεστικής παραπληροφόρησης με τροφοδοσία τεχνητής νοημοσύνης προκαλεί αυξανόμενη ανησυχία

Φιλ Μάνκαστερ

Φεβρουάριος 13 2024  •  , 5 λεπτό. ανάγνωση

Οι ψευδείς ειδήσεις κυριαρχούν στα πρωτοσέλιδα των εκλογών από τότε έγινε μεγάλη ιστορία κατά τη διάρκεια της κούρσας για τον Λευκό Οίκο το 2016. Αλλά οκτώ χρόνια αργότερα, υπάρχει μια αναμφισβήτητα μεγαλύτερη απειλή: ένας συνδυασμός παραπληροφόρηση και deepfakes που θα μπορούσε να ξεγελάσει ακόμη και τους ειδικούς. Οι πιθανότητες είναι υψηλές από το τελευταίο παραδείγματα περιεχομένου που δημιουργείται από την τεχνητή νοημοσύνη με θέμα τις εκλογές – συμπεριλαμβανομένων μιας σειράς εικόνων και βίντεο που κυκλοφορούν εν όψει των προεδρικών εκλογών στην Αργεντινή και σε έναν επεξεργασμένος ήχος του προέδρου των ΗΠΑ Τζο Μπάιντεν – ήταν προάγγελοι του τι είναι πιθανό να έρθει σε μεγαλύτερη κλίμακα.

Με περίπου α τέταρτο του παγκόσμιου πληθυσμού οδεύοντας προς τις κάλπες το 2024, αυξάνονται οι ανησυχίες ότι η παραπληροφόρηση και η τεχνητή νοημοσύνη θα μπορούσαν να χρησιμοποιηθούν από κακόβουλους παράγοντες για να επηρεάσουν τα αποτελέσματα, με πολλούς ειδικούς να φοβούνται τις συνέπειες των deepfakes που γίνονται mainstream.

Η βαθιά ψευδής απειλή παραπληροφόρησης

Όπως αναφέρθηκε, τουλάχιστον δύο δισεκατομμύρια άνθρωποι πρόκειται να κατευθυνθούν στα τοπικά εκλογικά τους τμήματα φέτος για να ψηφίσουν τους ευνοούμενους εκπροσώπους τους και τους ηγέτες των κρατών. Καθώς πρόκειται να διεξαχθούν μεγάλες εκλογές σε περισσότερες από χώρες, συμπεριλαμβανομένων των ΗΠΑ, του Ηνωμένου Βασιλείου και της Ινδίας (καθώς και για το Ευρωπαϊκό Κοινοβούλιο), αυτό έχει τη δυνατότητα να αλλάξει το πολιτικό τοπίο και την κατεύθυνση της γεωπολιτικής για τα επόμενα χρόνια – και πέρα.

Ταυτόχρονα, όμως, πρόσφατα υπήρξε παραπληροφόρηση και παραπληροφόρηση κατάταξη από το Παγκόσμιο Οικονομικό Φόρουμ (WEF) ως ο νούμερο ένα παγκόσμιος κίνδυνος για τα επόμενα δύο χρόνια.

Η πρόκληση με τα deepfakes είναι ότι η τεχνολογία που βασίζεται σε AI γίνεται τώρα φθηνή, προσβάσιμη και αρκετά ισχυρή ώστε να προκαλεί βλάβη σε μεγάλη κλίμακα. Εκδημοκρατίζει την ικανότητα των κυβερνοεγκληματιών, των κρατικών παραγόντων και των χακτιβιστών να ξεκινούν πειστικές εκστρατείες παραπληροφόρησης και πολλά άλλα ad hoc, εφάπαξ απάτες. Είναι μέρος του λόγου για τον οποίο το WEF πρόσφατα κατέταξε την παραπληροφόρηση/παραπληροφόρηση ως τον μεγαλύτερο παγκόσμιο κίνδυνο για τα επόμενα δύο χρόνια και τον αριθμό δύο τρέχοντα κίνδυνο, μετά από ακραία καιρικά φαινόμενα. Αυτό είναι σύμφωνα με 1,490 ειδικούς από τον ακαδημαϊκό χώρο, τις επιχειρήσεις, την κυβέρνηση, τη διεθνή κοινότητα και την κοινωνία των πολιτών που συμβουλεύτηκε το WEF.

Η έκθεση προειδοποιεί:«Το συνθετικό περιεχόμενο θα χειραγωγήσει άτομα, θα βλάψει τις οικονομίες και τις κοινωνίες με πολλούς τρόπους τα επόμενα δύο χρόνια… υπάρχει ο κίνδυνος ορισμένες κυβερνήσεις να ενεργήσουν πολύ αργά, αντιμετωπίζοντας ένα συμβιβασμό μεταξύ της πρόληψης της παραπληροφόρησης και της προστασίας της ελευθερίας του λόγου».

(βαθιά)προσποιώντας το

Η πρόκληση είναι ότι εργαλεία όπως το ChatGPT και η ελεύθερα προσβάσιμη γενετική τεχνητή νοημοσύνη (GenAI) επέτρεψαν σε ένα ευρύτερο φάσμα ατόμων να συμμετάσχουν στη δημιουργία εκστρατειών παραπληροφόρησης που οδηγούνται από την τεχνολογία deepfake. Με όλη τη σκληρή δουλειά που γίνεται γι 'αυτούς, οι κακόβουλοι ηθοποιοί έχουν περισσότερο χρόνο να δουλέψουν στα μηνύματά τους και να ενισχύσουν τις προσπάθειες για να διασφαλίσουν ότι το ψεύτικο περιεχόμενό τους θα προβληθεί και θα ακουστεί.

Σε ένα εκλογικό πλαίσιο, τα deepfakes θα μπορούσαν προφανώς να χρησιμοποιηθούν για να διαβρώσουν την εμπιστοσύνη των ψηφοφόρων σε έναν συγκεκριμένο υποψήφιο. Εξάλλου, είναι πιο εύκολο να πείσεις κάποιον να μην κάνει κάτι παρά το αντίστροφο. Εάν οι υποστηρικτές ενός πολιτικού κόμματος ή ενός υποψηφίου μπορούν να επηρεαστούν κατάλληλα από πλαστό ήχο ή βίντεο, αυτό θα ήταν μια σίγουρη νίκη για τις αντίπαλες ομάδες. Σε ορισμένες περιπτώσεις, τα αδίστακτα κράτη μπορεί να προσπαθούν να υπονομεύσουν την πίστη σε ολόκληρη τη δημοκρατική διαδικασία, έτσι ώστε όποιος νικήσει θα δυσκολευτεί να κυβερνήσει με νομιμότητα.

Στο επίκεντρο της πρόκλησης βρίσκεται μια απλή αλήθεια: όταν οι άνθρωποι επεξεργάζονται πληροφορίες, τείνουν να εκτιμούν την ποσότητα και την ευκολία κατανόησης. Αυτό σημαίνει ότι όσο περισσότερο περιεχόμενο προβάλλουμε με ένα παρόμοιο μήνυμα και όσο πιο εύκολο είναι να το κατανοήσουμε, τόσο μεγαλύτερη είναι η πιθανότητα να το πιστέψουμε. Αυτός είναι ο λόγος για τον οποίο οι καμπάνιες μάρκετινγκ τείνουν να αποτελούνται από σύντομα και συνεχώς επαναλαμβανόμενα μηνύματα. Προσθέστε σε αυτό το γεγονός ότι τα deepfakes γίνονται όλο και πιο δύσκολο να διακριθούν από το πραγματικό περιεχόμενο, και έχετε μια πιθανή συνταγή για δημοκρατική καταστροφή.

Από τη θεωρία στην πράξη

Είναι ανησυχητικό ότι τα deepfakes είναι πιθανό να έχουν αντίκτυπο στο αίσθημα των ψηφοφόρων. Πάρτε αυτό το φρέσκο ​​παράδειγμα: Τον Ιανουάριο του 2024, ένας ψεύτικος ήχος του Προέδρου των ΗΠΑ Τζο Μπάιντεν κυκλοφόρησε μέσω ρομποτικής κλήσης σε άγνωστο αριθμό ψηφοφόρων στο Νιου Χάμσαϊρ. Στο μήνυμα προφανώς τους είπε να μην προσέλθουν και αντ' αυτού να «φυλάξουν την ψήφο σας για τις εκλογές του Νοεμβρίου». Ο αριθμός αναγνώρισης κλήσης που εμφανίστηκε ήταν επίσης πλαστός για να φαίνεται σαν το αυτοματοποιημένο μήνυμα να στάλθηκε από τον προσωπικό αριθμό της Κάθι Σάλιβαν, πρώην προέδρου του Δημοκρατικού Κόμματος του κρατιδίου που τώρα διευθύνει ένα υπερ-PAC υπέρ του Μπάιντεν.

Δεν είναι δύσκολο να δούμε πώς θα μπορούσαν να χρησιμοποιηθούν τέτοιες εκκλήσεις για να αποθαρρύνουν τους ψηφοφόρους να προσέλθουν για τον υποψήφιο που προτιμούν πριν από τις προεδρικές εκλογές του Νοεμβρίου. Ο κίνδυνος θα είναι ιδιαίτερα έντονος σε σκληρά αντιμαχόμενες εκλογές, όπου η μετατόπιση ενός μικρού αριθμού ψηφοφόρων από τη μια πλευρά στην άλλη καθορίζει το αποτέλεσμα. Με μόλις δεκάδες χιλιάδες ψηφοφόρους σε μια χούφτα πολιτείες που ενδέχεται να αποφασίσουν το αποτέλεσμα των εκλογών, μια στοχευμένη εκστρατεία όπως αυτή θα μπορούσε να προκαλέσει ανυπολόγιστη ζημιά. Και προσθέτοντας προσβολή στον τραυματισμό, καθώς στην παραπάνω περίπτωση εξαπλώθηκε μέσω αυτοματοποιημένων κλήσεων και όχι μέσω κοινωνικών μέσων, είναι ακόμη πιο δύσκολο να παρακολουθήσετε ή να μετρήσετε τον αντίκτυπο.

Τι κάνουν οι εταιρείες τεχνολογίας για αυτό;

Και το YouTube και το Facebook είναι λέγεται ότι ήταν αργός απαντώντας σε ορισμένα deepfakes που είχαν σκοπό να επηρεάσουν πρόσφατες εκλογές. Αυτό συμβαίνει παρά τη νέα νομοθεσία της ΕΕ (Νόμος για τις Ψηφιακές Υπηρεσίες) που απαιτεί από τις εταιρείες κοινωνικής δικτύωσης να καταστείλουν τις απόπειρες χειραγώγησης των εκλογών.

Από την πλευρά του, το OpenAI είπε ότι θα εφαρμόσει τα ψηφιακά διαπιστευτήρια του Συνασπισμού για Προέλευση και Αυθεντικότητα Περιεχομένου (C2PA) για εικόνες που δημιουργούνται από DALL-E3. Η τεχνολογία κρυπτογραφικής υδατογράφησης – που δοκιμάζεται επίσης από τη Meta και την Google – έχει σχεδιαστεί για να δυσκολεύει την παραγωγή ψεύτικων εικόνων.

Ωστόσο, αυτά εξακολουθούν να είναι απλά βήματα μωρού και υπάρχουν δικαιολογημένες ανησυχίες ότι η τεχνολογική απάντηση στην απειλή θα είναι πολύ μικρή, πολύ αργά καθώς ο εκλογικός πυρετός κυριεύει τον κόσμο. Ειδικά όταν εξαπλωθεί σε σχετικά κλειστά δίκτυα, όπως ομάδες WhatsApp ή αυτοματοποιημένες κλήσεις, θα είναι δύσκολο να παρακολουθήσετε και να απομυθοποιήσετε γρήγορα οποιονδήποτε πλαστό ήχο ή βίντεο.

Η θεωρία της «προκατάληψης αγκύρωσης» προτείνει που η πρώτη πληροφορία που ακούει ο άνθρωπος είναι αυτή που μένει στο μυαλό μας, ακόμα κι αν αποδειχθεί ψευδής. Εάν οι deepfakers καταφέρουν πρώτα να ταλαντώσουν τους ψηφοφόρους, όλα τα στοιχήματα είναι κλειστά για το ποιος θα είναι ο τελικός νικητής. Στην εποχή των μέσων κοινωνικής δικτύωσης και της παραπληροφόρησης που τροφοδοτείται από την τεχνητή νοημοσύνη, η παροιμία του Jonathan Swift «το ψέμα πετάει και η αλήθεια έρχεται κουτσαίνοντας μετά από αυτό» αποκτά ένα εντελώς νέο νόημα.