Ας παίξουμε ένα παιχνίδι: Deepfake News Anchor ή πραγματικό πρόσωπο;

Αναδημοσίευση από τον Πλάτωνα

Ακολουθούν: 0

Τα Deepfake βίντεο στο Διαδίκτυο με παρουσιαστές ειδήσεων που δημιουργούνται από τεχνητή νοημοσύνη να προβάλλουν φιλοκινεζική κυβερνητική προπαγάνδα είναι πιθανότατα δημιουργήματα ενός παραγωγικού συνεργείου παραπληροφόρησης που ονομάζεται Spamouflage.

Αυτά τα βίντεο αντιπροσωπεύουν «την πρώτη φορά που η Graphika παρατήρησε πολιτειακά ευθυγραμμισμένους ηθοποιούς IO [λειτουργία επιρροής] που χρησιμοποιούν βίντεο πλασματικών ανθρώπων που δημιουργούνται από την τεχνητή νοημοσύνη στις δραστηριότητές τους», ανέφεραν οι ερευνητές της εταιρείας αναλύσεων μέσων κοινωνικής δικτύωσης, περιγράφοντας λεπτομερώς τα βαθιά ψεύτικα Spamouflage [PDF] αυτή την εβδομάδα.

Τα βίντεο δείχνουν έναν άνδρα και μια γυναίκα ραδιοτηλεοπτικό φορέα, που και οι δύο ισχυρίζονται ότι κάνουν ρεπορτάζ για μια εταιρεία μέσων ενημέρωσης που ονομάζεται Wolf News. Σε ένα, ο παρουσιαστής ειδήσεων καταδικάζει την Αμερική για την αποτυχία της να σταματήσει τη βία με τα όπλα. Ο άλλος τονίζει την ανάγκη για συνεργασία Κίνας-ΗΠΑ στις προσπάθειες παγκόσμιας οικονομικής ανάκαμψης.

«Με την πρώτη ματιά, οι παρουσιαστές των Wolf News παρουσιάζονται ως αληθινοί άνθρωποι», είπε ο Graphika. «Η αρχική μας υπόθεση ήταν ότι επρόκειτο για αμειβόμενους ηθοποιούς που είχαν στρατολογηθεί για να εμφανιστούν στα βίντεο».

Αυτό θα ευθυγραμμιστεί με τον συνήθη τρόπο λειτουργίας του Spamouflage, σύμφωνα με το Graphika and άλλοι ερευνητές συμπεριλαμβανομένης της Google που παρακολουθεί τους άτακτους ως Dragonbridge και έχει τεκμηριώσει τη χρήση πραγματικών ανθρώπων στην κάμερα σε προηγούμενες καμπάνιες παραπληροφόρησης.

Μερικές από τις άλλες επιχειρήσεις επιρροής του πληρώματος περιελάμβαναν προσπάθειες ανακατεύομαι στις αμερικανικές ενδιάμεσες εκλογές του 2022 και συρτή εταιρείες εξόρυξης σπάνιων γαιών χρησιμοποιώντας χιλιάδες ψεύτικους λογαριασμούς στα μέσα κοινωνικής δικτύωσης, προκαλώντας ένα αυστηρό κούνημα από το Πεντάγωνο.

«Αλλά η περαιτέρω έρευνα αποκάλυψε ότι οι παρουσιαστές των Wolf News δημιουργήθηκαν σχεδόν σίγουρα χρησιμοποιώντας τεχνολογία που παρέχεται από μια βρετανική εταιρεία βίντεο AI που ονομάζεται Synthesia», ισχυρίστηκαν οι ερευνητές της Graphika.

Οι αντίστροφες αναζητήσεις εικόνων αποκάλυψαν έναν τόνο άσχετων βίντεο που δείχνουν τον ίδιο άνδρα και γυναίκα «παρουσιαστές ειδήσεων» που εμφανίζονται στην εκπομπή Spamouflage Wolf News. Οι άνθρωποι που δημιουργούνται από την τεχνητή νοημοσύνη μιλούν σε πολλές γλώσσες σε αυτά τα βίντεο, όπως αραβικά, ρουμανικά, ισπανικά και αγγλικά, όπως αυτό προώθηση των υπηρεσιών μεσιτείας εμπορευμάτων.

Σε αυτό, ο άνδρας άγκυρα λέει: «Γεια σας, με λένε κύριο Κρουζ. Και είμαι άβαταρ».

Η κρουαζιέρα είναι ένα από Τα «100+» avatar της Synthesia, και αποδεικνύεται ότι το όνομά του είναι Jason. Η γυναίκα παρουσιάστρια από τα βίντεο των Wolf News είναι η Άννα.

της Synthesia σελίδα ηθικής λέει ότι «δεν θα προσφέρει το λογισμικό [της] για δημόσια χρήση. Όλο το περιεχόμενο θα περάσει από μια ρητή εσωτερική διαδικασία ελέγχου πριν κυκλοφορήσει στους έμπιστους πελάτες μας.»

Επιπλέον, το avatar σελίδα FAQ λέει ότι υπάρχουν όρια ως προς το τι μπορούν και τι δεν μπορούν να πουν τα avatar: "Πολιτικό, σεξουαλικό, προσωπικό, εγκληματικό και μεροληπτικό περιεχόμενο δεν είναι ανεκτό και δεν εγκρίνεται".

Οι ψευδείς ειδήσεις του Spamouflage θα παραβιάζουν και τις δύο πολιτικές. Δεν ήταν δυνατή η επικοινωνία με το Synthesia για σχολιασμό. Victor Riparbelli, συνιδρυτής και διευθύνων σύμβουλος της Synthesia, είπε Οι New York Times νωρίτερα αυτή την εβδομάδα το Spamouflage παραβίασε τους όρους παροχής υπηρεσιών της Synthesia χρησιμοποιώντας την τεχνολογία για τη δημιουργία των βίντεό της.

Δηλαδή, το Spamouflage με κάποιο τρόπο έπιασε και χρησιμοποίησε την τεχνολογία της Synthesia για να παράγει το περιεχόμενό του, αντίθετα με τους κανόνες της Synthesia. Δεν υπάρχει καμία πρόταση για αδικοπραγία από τη Synthesia.

Ενώ κυβερνητικούς οργανισμούς και ερευνητές ασφάλειας έχουν κρούει τον κώδωνα του κινδύνου για τα deepfakes που χρησιμοποιούνται σε επιχειρήσεις πολιτικής επιρροής στο όχι και πολύ μακρινό μέλλον, μέχρι τώρα τα μέσα που δημιουργούνται από την τεχνητή νοημοσύνη περιορίζονταν σε μεγάλο βαθμό σε ψεύτικα πρόσωπα – όχι εντελώς ψεύτικα άτομα, σύμφωνα με το Graphika.

Ωστόσο, παρά τη χρήση avatars, τα υπόλοιπα βίντεο Spamouflage μοιάζουν με «πολιτικά ανεπιθύμητα χαμηλής ποιότητας», έγραψαν οι ερευνητές, επαναλαμβάνοντας Η αξιολόγηση της Google από τα βίντεο του συνεργείου στο YouTube, το 83% των οποίων είχε λιγότερες από 100 προβολές.

Επιπλέον, το στοιχείο deepfake των δελτίων ειδήσεων «σχεδόν σίγουρα δημιουργήθηκε χρησιμοποιώντας μια εμπορική υπηρεσία» σε αντίθεση με την εσωτερική δυνατότητα, κατέληξε η έκθεση. Αυτό υποδηλώνει ότι το Spamouflage και άλλοι δεν έχουν την τεχνική εξειδίκευση για να βγάλουν εξαιρετικά εξελιγμένα deepfakes και θα συνεχίσουν να χρησιμοποιούν διαθέσιμα εμπορικά εργαλεία.

Ωστόσο, όπως σημειώνει η Graphika, «αυτό εγείρει επίσης ερωτήματα σχετικά με το πώς να μετριαστεί αποτελεσματικά η χρήση αυτών των προϊόντων και υπηρεσιών». ®