By Kenna Hughes-Castleberry publié le 02 déc. 2022
Grâce aux progrès de la technologie, il devient de plus en plus difficile de dire ce qui est réel et ce qui ne l'est pas. Ce problème est aggravé par l'utilisation de la technologie deepfake—audio et vidéos qui utilisent l'IA pour remplacer les individus ou leurs voix. Alors que de nombreux deepfakes ont été utilisés avec succès pour le divertissement (comme si Nicolas Cage était dans le Les Aventuriers de l'arche perdue) ou les jeux (comme dans Athlètes de la FIFA), un grand pourcentage d'entre eux ont été créés pour plus raisons sinistres. Alors qu'il devient plus facile de créer ces vidéos trafiquées, de nombreux experts espèrent que l'informatique quantique pourra aider à surmonter les menaces potentielles de cette technologie montante.
Comment fonctionne la technologie Deepfake ?
Pour créer une vidéo deepfake réussie, vous avez besoin machine learning algorithmes. "Les algorithmes d'apprentissage en profondeur apprennent eux-mêmes à résoudre des problèmes à partir de grands ensembles de données, puis sont utilisés pour échanger des visages entre des vidéos et d'autres contenus numériques", a expliqué Post-quantique PDG Andersen Cheng. Post-Quantum est une entreprise leader dans le domaine de la cybersécurité qui se concentre sur résistant au quantum sécurité, y compris contre les deepfakes. "Il existe un certain nombre de méthodes pour créer ces deepfakes", a déclaré Cheng, "mais la plus populaire consiste à utiliser des réseaux de neurones profonds impliquant des auto-encodeurs. Un encodeur automatique est un programme d'IA d'apprentissage en profondeur qui étudie des clips vidéo pour comprendre à quoi ressemble une personne sous plusieurs angles et l'environnement qui l'entoure, puis il cartographie cette personne sur l'individu en trouvant des caractéristiques communes.
Une technologie deepfake mise en place (PC Wikimedia Commons)
Pour garantir le bon fonctionnement de l'encodeur automatique, plusieurs clips vidéo du visage du sujet doivent être analysés pour fournir un plus grand pool de données. Ensuite, l'auto-encodeur peut aider à créer une vidéo composite en échangeant l'individu d'origine avec le nouveau sujet. Un deuxième type d'apprentissage automatique appelé réseau contradictoire général (GAN) détectera et améliorera les défauts de la nouvelle vidéo composite. Selon un Article de 2022: "Les GAN forment un" générateur "pour créer de nouvelles images à partir de la représentation latente de l'image source et un" discriminateur "pour évaluer le réalisme des matériaux générés." Ce processus se produit plusieurs fois jusqu'à ce que le discriminateur ne puisse pas dire si la vidéo est trafiquée et si le deepfake est terminé.
La menace de la technologie Deepfake
Actuellement, il existe de nombreux logiciels open source ou applications gratuites que les individus peuvent utiliser pour créer des deepfakes. Bien que cela puisse sembler bénéfique pour beaucoup, en particulier ceux de l'industrie du divertissement, cela a entraîné des problèmes graves, voire criminels. Selon un Rapport de traçage profond, 96% des vidéos deepfake en ligne en 2019 étaient, sans surprise, de la pornographie. Alors que beaucoup de ces vidéos illicites ont été réalisées pour se venger d'un ex, d'autres ont été utilisées pour créer des scandales pour des célébrités féminines et même des politiciennes. En 2018, une vidéo deepfake a été publiée par un parti politique belge montrant alors le président Trump discutant des accords de Paris sur le climat. Les fausses nouvelles devenant déjà un problème pour le grand public, les vidéos deepfake pourraient être la goutte d'eau qui fait déborder le vase. Même deepfake audio fait des ravages, comme un fichier audio trafiqué de la PDG d'une entreprise technologique a contribué à commettre un acte de fraude. Pour Cheng, ces types de médias peuvent ébranler assez rapidement la confiance du public. "Nous avons la question plus large de la confiance sociétale - comment le public pourra-t-il discerner entre ce qui est réel et ce qui est un deepfake", a ajouté Cheng. "Comme nous l'avons vu, il existe même des preuves que des deepfakes sont utilisés pour contourner les mesures de protection telles que l'authentification biométrique." Avec ces préoccupations croissantes, Cheng et son équipe de Post-Quantum pensent qu'ils ont une solution sous la forme de Nomidio, un logiciel spécialisé d'ultra-sécurité.
Se préparer aux menaces technologiques DeepFake
En examinant les multiples menaces posées par l'informatique quantique et les deepfakes, Cheng et cette équipe ont créé Nomidio pour s'assurer que les identités de connexion et même l'authentification biométrique restent sécurisées. "Nomidio est un service biométrique multifacteur biométrique (MFB) sans mot de passe qui permet une authentification sécurisée avec une expérience utilisateur simple et intuitive", a déclaré Cheng. "Il remplace la connexion basée sur le nom d'utilisateur/mot de passe et l'authentification unique, les utilisateurs étant authentifiés par rapport à leur profil biométrique avec une authentification multifacteur (MFA) dans les coulisses." Comme Cheng est un expert en cybersécurité depuis de nombreuses années, il s'est assuré que Nomidio pouvait également être protégé contre les deepfakes. "Notre philosophie de base lors de sa création était d'utiliser autant d'entrées supplémentaires que possible et une véritable authentification multifacteur (c'est-à-dire avec plus de deux facteurs), c'est donc en fait la solution idéale pour faire face à tout développement futur de la technologie deepfake. Cela est finalement dû au fait que la MFA traditionnelle est insuffisante, mais la MFB peut rendre les attaques en temps réel pratiquement impossibles. C'est-à-dire qu'une combinaison, par exemple, de la voix, du visage et d'un code PIN est hautement sécurisée du fait qu'il est possible de falsifier n'importe quel facteur, mais simuler les trois dans le même cas est pratiquement impossible. Avec Nomidio, une combinaison de biométrie vocale et faciale, de reconnaissance vocale, de données contextuelles et même d'analyse comportementale peut être combinée dans un seul système d'authentification. ”
Bien que Nomidio lui-même ne tire pas parti de l'informatique quantique pour surmonter les menaces profondes, les ordinateurs quantiques pourraient potentiellement fonctionner contre ces faux fichiers multimédias. Comme ordinateurs quantiques exploitent souvent des algorithmes d'apprentissage automatique pour travailler plus rapidement et plus efficacement, ils peuvent être en mesure de détecter fausses vidéos ou des fichiers audio à un rythme plus rapide. Alors que la technologie est encore en cours de développement et que peu considèrent les deepfakes comme un cas d'utilisation potentiel pour les ordinateurs quantiques, ces machines de niveau supérieur pourraient être utilisées à l'avenir pour rendre nos médias plus véridiques et précis.
Alors que les menaces de la technologie deepfake deviennent de plus en plus apparentes, de nombreux gouvernements et entreprises tentent déjà de trouver des moyens de les combattre. En 2021, Facebook a lancé le Défi de détection Deepfake, avec un prix de 500,000 XNUMX $ pour ceux qui créent une nouvelle technologie pour détecter les deepfakes. Aux États-Unis, des États comme la Californie, le Texas et la Virginie ont des lois qui interdisent l'utilisation du deepfake à la fois pour la pornographie et la politique. La Parlement européen a également établi plus de réglementations autour des deepfakes, modifiant la loi sur les services numériques pour imposer l'utilisation d'étiquettes sur les vidéos deepfake. Bien que cette législation n'entre en vigueur qu'en 2024, elle montre la gravité de la menace de la technologie deepfake.
Kenna Hughes-Castleberry est rédactrice à Inside Quantum Technology et communicatrice scientifique à JILA (un partenariat entre l'Université du Colorado à Boulder et le NIST). Ses rythmes d'écriture incluent la technologie profonde, le métaverse et la technologie quantique.
