Microsoft, Adobe et d'autres grands noms se sont engagés cette semaine à ajouter des métadonnées à leurs images générées par l'IA afin que les futures applications compatibles les signalent comme créées par une machine à l'aide d'un symbole spécial.
Vous avez peut-être vu des rapports à ce sujet, peut-être décrits comme une sorte de filigrane IA. Nous avons regardé de plus près.
Le symbole – décrit comme une « icône de transparence » – représente les lettres minuscules « cr » à l’intérieur d’une bulle semblable à une marque vocale.
Il a été créé par la Coalition pour la provenance et l'authenticité du contenu (C2PA), un groupe d'organisations dans différents secteurs, notamment la technologie et le journalisme. Le C2PA existe depuis environ quelques années ; est piloté par Adobe, Arm, Intel, Microsoft et Truepic ; et précise en détail comment les métadonnées d'une image peuvent certifier en toute sécurité, numériquement, la source et l'historique des modifications de cette image. Il existe des approches alternatives ainsi que les métadonnées d'image traditionnelles ; C2PA propose une approche poussée par les grands noms ci-dessus.
En fait, vous pouvez utiliser les métadonnées Content Credentials de C2PA pour n'importe quelle image – il n'est pas nécessaire qu'elle soit générée par l'IA. Les exemples donnés sur les informations d'identification de contenu site de NDN Collective ont été réalisés à l'aide des outils Photoshop et Firefly AI d'Adobe et peuvent être identifiés comme tels grâce à leurs métadonnées. Ce que Microsoft, Adobe et d'autres ont promis de faire, c'est de garantir que leurs générateurs d'IA incluront à un moment donné dans le futur ces métadonnées signées cryptographiquement dans leurs images créées par des machines. Le but étant de permettre aux gens de voir si une image était un modèle ou une création humaine et comment.
Par exemple, Microsoft a déclaré que les illustrations produites par Bing Image Creator et son chatbot Bing AI présenteraient ces métadonnées à un moment donné.
Voici maintenant la partie délicate, en supposant que la spécification soit sécurisée et robuste. C'est une chose de stocker ces métadonnées dans une image. Comment l’utilisateur peut-il le savoir sans fouiller dans le contenu du fichier ?
Eh bien, vous aurez besoin d’une application compatible, qui comprend les métadonnées des informations d’identification de contenu. Si une application reconnaît ces données dans un fichier, elle doit superposer le symbole « cr » sur l'image dans un coin supérieur. Lorsque vous cliquez sur ce symbole, un widget devrait apparaître décrivant la source de la photo et d'autres détails des métadonnées Content Credentials - par exemple, si elle a été réalisée via Bing ou Photoshop.
C'est ainsi que les gens peuvent facilement inspecter l'origine du claquement. Mais bien sûr, si le fichier est ouvert dans une application qui ne prend pas en charge les informations d'identification de contenu, aucun symbole n'est affiché : l'application ne comprendra pas les données et n'affichera pas de symbole.
Vous pouvez voir ce que nous entendons sur le site Web Content Credentials susmentionné. Ouvrez-le et faites défiler jusqu'à l'exemple de papillon créé par l'IA. La page Web simule à quoi devrait ressembler cette image dans une application capable d'analyser les métadonnées de l'image : le symbole est affiché dans le coin supérieur et lorsque vous cliquez ou appuyez dessus, une étiquette apparaît indiquant qu'elle est générée par l'IA. L'image ressemble à ceci sur la page, sans l'étiquette ouverte :
Si vous faites un clic droit dessus, sur le site Web Content Credentials, et enregistrez cette image papillon sur le disque, puis l'ouvrez dans quelque chose comme Chrome aujourd'hui, cela ressemblera à ceci :
Juste une simple image, pas de symbole. Chrome ne connaît pas les métadonnées des informations d'identification de contenu présentes dans le snap généré par l'IA et n'a de toute façon pas d'icône à superposer. Si vous accédez aux informations d'identification du contenu page de vérification, et déposez l'image du papillon téléchargée, il vous dira qu'elle a été réalisée par la suite Firefly 1.0 AI d'Adobe.
Cette technologie – et ses spécifications sont détaillées et impressionnantes – repose sur la compréhension et la prise en charge des métadonnées par les applications, sinon aucun symbole ne peut ou ne sera affiché. Ensuite, il y a le fait que quelqu'un pourrait supprimer les métadonnées, ou exporter le fichier dans un autre format sans les métadonnées, ou le capturer à partir d'une application qui ne superpose pas le symbole, puis distribuer cette image sans métadonnées. Si cette image supprimée est ouverte ultérieurement dans une application qui comprend les informations d'identification de contenu, aucun symbole ne sera affiché.
Cela signifie que vous avez non seulement besoin d'applications, de réseaux sociaux, de générateurs, etc., capables d'ajouter et de lire des données d'identification de contenu, mais vous avez également besoin que les gens connaissent l'icône afin de pouvoir la rechercher. S'ils reçoivent ou voient une photo et qu'elle ne comporte pas de symbole d'informations d'identification de contenu, ils peuvent être enclins à s'en méfier. Cela nécessitera une énorme notoriété de marque pour fonctionner.
Cela dit, Adobe nous a dit qu'il avait un Cloud d'informations d'identification de contenu, et cela semble fonctionner comme ceci : vous téléchargez les métadonnées de vos fichiers image sur le cloud d'Adobe ; si l'un de vos fichiers est ensuite partagé par quelqu'un sans ses métadonnées d'identification, tout ce qu'il utilise pour distribuer le snap pourrait exécuter l'image par le cloud d'Adobe et récupérer les métadonnées s'il y a une correspondance visuelle.
Pensez : quelque chose comme la recherche d'images inversée de Google, et il renvoie les métadonnées d'origine. De cette façon, si quelqu'un essaie de publier votre photo sur le Web ou via une application et que tout se met en place, l'origine de l'image doit être claire, même si les métadonnées ont été perdues avant la publication – elles seront récupérées à partir des informations d'identification du contenu. nuage.
"Une fois que le contenu numérique est signé avec Content Credentials (dans une plate-forme qui exploite les normes ouvertes C2PA et Content Credentials), des métadonnées inviolables sont jointes, de sorte qu'elles voyagent avec le contenu partout où il va", a déclaré un porte-parole d'Adobe. Le registre.
"Même si ces informations ont été supprimées de manière malveillante ou accidentellement à tout moment du cycle de vie du contenu, elles peuvent être récupérées via Content Credentials Cloud."
Au moins Adobe y a pensé. Alors maintenant, nous avons besoin que les gens soient conscients de ce symbole ; pour leurs applications visant à prendre en charge le symbole ; pour les artistes et les générateurs de fournir les métadonnées au cloud d'Adobe ; et pour les éditeurs en ligne, les réseaux sociaux et autres hébergeurs de contenu de se connecter au cloud d'Adobe et de récupérer toutes les métadonnées d'identification de contenu manquantes afin que les images sans métadonnées puissent être identifiées. Phew!
Nous supposons également que vous pouvez utiliser une visionneuse de métadonnées compatible, ou l'outil de vérification des informations d'identification de contenu ci-dessus, pour vérifier une image par vous-même si vous ne disposez pas encore d'une application d'image capable de la gérer.
"Toutes les images générées par l'IA dans Bing Image Creator sont identifiées à l'aide des informations d'identification de contenu", a déclaré un porte-parole de Microsoft. Le registre. « Si les informations d'identification du contenu apparaissent à côté d'une image, les utilisateurs peuvent rapidement confirmer l'heure et la date de l'image d'origine grâce à un filigrane numérique invisible.
« Ce processus se déroule automatiquement lors du processus de création et repose sur les exigences techniques du C2PA. L'icône constitue un moyen simple pour les consommateurs de reconnaître le contenu. Pour Bing Image Creator, nous pensons que l'icône sera en place avant la fin de l'année et apparaîtra à côté des mots « Credentials de contenu ».
D'autres organisations, telles que Publicis Groupe, une société française de relations publiques et de publicité, devraient présenter un aperçu de la manière dont elles utiliseront les métadonnées Content Credentials avec Adobe à l'avenir. Pendant ce temps, les fabricants d'appareils photo Leica Camera et Nikon démontreront comment ces spécifications seront utilisées par les futurs équipements pour intégrer l'origine des photos dans les clichés des photographes.
Bonnes intentions
La coalition estime que tout cela peut aider à lutter contre les deepfakes générés par l’IA qui diffusent des informations erronées pour tromper les internautes. Cela pourrait être réalisé si, à notre avis, l’icône « cr » devenait aussi omniprésente que le symbole du droit d’auteur.
Les métadonnées pourraient au moins permettre aux marques et aux entreprises d'être plus transparentes sur leur utilisation d'images synthétiques dans les campagnes publicitaires et marketing, selon l'organisation. a affirmé Valérie Plante., si ces entreprises sont prêtes à le divulguer. Andy Parsons, directeur principal de la Content Authenticity Initiative (CAI) chez Adobe, a déclaré que le widget d'informations qui l'accompagne agit comme une « étiquette nutritionnelle numérique » pour les utilisateurs.
"Tout au long de l'histoire, l'iconographie visuelle a agi comme un puissant signifiant pour la communication et la culture", a-t-il déclaré.
« Nous sommes incroyablement enthousiasmés par le potentiel de « l'icône de transparence » officielle des informations d'identification de contenu pour devenir une norme et une attente universelles dans l'ensemble de la culture en ligne, contribuant ainsi à faire de la confiance un principe fondamental dans ce nouveau monde numérique. Nous sommes impatients de continuer à intégrer les informations d’identification de contenu et la nouvelle icône dans nos produits et solutions Adobe.
Bien qu’il s’agisse sans doute d’un pas dans la bonne direction, l’icône est loin d’être une solution fourre-tout pour authentifier le contenu sur Internet et distinguer les contrefaçons de l’IA de la réalité. Jusqu’à présent, l’adoption est simplement promise et limitée au soutien de quelques très grands noms. Et comme nous l’avons dit, pour qu’elle soit efficace, elle nécessite beaucoup plus de plateformes – y compris les développeurs d’IA générative, les médias sociaux, les créateurs d’applications et les éditeurs – pour la prendre en charge. ®
- Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
- PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
- PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
- PlatonESG. Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
- PlatoHealth. Veille biotechnologique et essais cliniques. Accéder ici.
- La source: https://go.theregister.com/feed/www.theregister.com/2023/10/15/microsoft_adobe_ai_watermark/
- :possède
- :est
- :ne pas
- $UP
- 1
- 7
- a
- Qui sommes-nous
- au dessus de
- atteint
- à travers
- actes
- ajouter
- Adobe
- Adoption
- Numérique
- AI
- AI chatbot
- Tous
- aussi
- alternative
- montant
- an
- ainsi que le
- Une autre
- tous
- appli
- apparaître
- apparaît
- Application
- applications
- une approche
- approches
- applications
- SONT
- étant
- BRAS
- autour
- Artistes
- œuvres d'art
- AS
- At
- authenticité
- automatiquement
- conscients
- basé
- BE
- devenez
- devient
- était
- before
- va
- CROYONS
- croit
- Big
- Bing
- brand
- Marques
- bulle
- entreprises
- mais
- by
- appareil photo
- Campagnes
- CAN
- maisons
- certifier
- Chatbot
- vérifier
- Chrome
- clair
- cliquez
- plus
- le cloud
- CO
- coalition
- Communication
- Société
- compatible
- Confirmer
- Les consommateurs
- contenu
- contenu
- continue
- droit d'auteur
- Coin
- pourriez
- Couples
- Cours
- créée
- création
- créateur
- Lettres de créance
- cryptographiquement
- Culture
- données
- Date
- deepfakes
- démontrer
- décrit
- détaillé
- détails
- mobiles
- numérique
- Contenu digital
- monde numérique
- numériquement
- direction
- Directeur
- Divulguer
- dans
- distribuer
- méfiance
- do
- doesn
- Don
- down
- entraîné
- Goutte
- pendant
- plus facilement
- même
- Efficace
- fin
- assurer
- l'équipements
- Pourtant, la
- peut
- exemple
- exemples
- excité
- attente
- attendu
- Exporter
- fait
- loin
- Fonctionnalité
- few
- Déposez votre dernière attestation
- Fichiers
- Trouvez
- Pour
- Pour les consommateurs
- le format
- Avant
- Français
- De
- fondamental
- avenir
- généré
- génératif
- IA générative
- générateurs
- donné
- Go
- objectif
- Goes
- aller
- Réservation de groupe
- main
- manipuler
- arrive
- Vous avez
- he
- vous aider
- aider
- ici
- Histoire
- hôtes
- Comment
- HTML
- HTTPS
- majeur
- ICON
- identifié
- identifier
- if
- image
- Recherche d'images
- satellite
- impressionnant
- in
- Incliné
- comprendre
- Y compris
- intégrer
- incroyablement
- secteurs
- info
- d'information
- initiative
- à l'intérieur
- instance
- Intel
- Internet
- développement
- invisible
- IT
- SES
- journalisme
- jpg
- Genre
- Savoir
- Libellé
- plus tard
- au
- les leviers
- vos produits
- comme
- limité
- ll
- Location
- Style
- ressembler
- LOOKS
- perdu
- baisser
- LES PLANTES
- a prendre une
- Décideurs
- de nombreuses
- Stratégie
- Match
- Mai..
- signifier
- veux dire
- En attendant
- Médias
- seulement
- Métadonnées
- Microsoft
- Désinformation
- manquant
- modèle
- PLUS
- noms
- Besoin
- réseaux
- Nouveauté
- next
- aucune
- maintenant
- of
- de rabais
- officiel
- on
- une fois
- ONE
- en ligne
- uniquement
- ouvert
- ouvert
- or
- de commander
- organisations
- origine
- original
- Autre
- Autres
- nos
- ande
- plus de
- page
- partie
- Personnes
- être
- image
- PHOTOS
- Place
- Plaine
- plateforme
- Plateformes
- Platon
- Intelligence des données Platon
- PlatonDonnées
- fiche
- Point
- Post
- défaillances
- solide
- pr
- représentent
- Aperçu
- principe
- Avant
- processus
- Produit
- Produits
- promis
- provenance
- fournir
- fournit
- éditeurs
- Push
- Poussé
- vite.
- Lire
- réal
- recevoir
- reconnaître
- reconnaît
- Récupérer
- Rapports
- Exigences
- a besoin
- Retours
- inverser
- bon
- Faites un clic droit
- robuste
- Courir
- s
- Saïd
- Épargnez
- dire
- volute
- Rechercher
- sécurisé
- en toute sécurité
- sur le lien
- semble
- vu
- supérieur
- sert
- commun
- devrait
- montrer
- montré
- signé
- étapes
- Casser
- So
- jusqu'à présent
- Réseaux sociaux
- réseaux sociaux
- les réseaux sociaux
- sur mesure
- Solutions
- quelques
- Quelqu'un
- quelque chose
- Identifier
- spécial
- spécification
- spécifications
- porte-parole
- propagation
- Standard
- étapes
- Boutique
- tel
- suite
- Support
- Appuyer
- symbole
- haute
- tacle
- Prenez
- Exploiter
- technologie
- Technique
- Technologie
- dire
- dire
- qui
- Les
- El futuro
- La Source
- leur
- Les
- puis
- Là.
- l'ont
- chose
- this
- cette semaine
- pensée
- Avec
- tout au long de
- fiable
- à
- aujourd'hui
- dit
- a
- outil
- les outils
- top
- traditionnel
- Transparence
- communication
- voyage
- La confiance
- omniprésent
- comprendre
- compréhension
- comprend
- Universel
- us
- utilisé
- d'utiliser
- Utilisateur
- utilisateurs
- en utilisant
- vérifier
- très
- via
- Voir
- était
- filigrane
- Façon..
- we
- web
- Site Web
- semaine
- WELL
- ont été
- Quoi
- quelle que soit
- quand
- sera
- prêt
- comprenant
- sans
- A gagné
- des mots
- activités principales
- world
- pourra
- an
- années
- encore
- Vous n'avez
- Votre
- vous-même
- zéphyrnet