Les images émises par les modèles génératifs d'OpenAI incluront des métadonnées révélant leur origine, qui pourront à leur tour être utilisées par les applications pour alerter les gens sur la nature artificielle de ce contenu.
Plus précisément, le super laboratoire soutenu par Microsoft adopte, comme prévu, la spécification Content Credentials, conçue par la Coalition for Content Provenance and Authenticity (C2PA), un organisme industriel soutenu par Adobe, Arm, Microsoft, Intel, etc.
Les informations d'identification du contenu sont assez simple et précisé en entier ici: il utilise formats de données standards pour stocker dans les fichiers multimédias des détails sur qui a créé le matériel et comment. Ces métadonnées ne sont pas directement visibles par l'utilisateur et sont protégées cryptographiquement afin que toute modification non autorisée soit évidente.
Les applications qui prennent en charge ces métadonnées, lorsqu'elles les détectent dans le contenu d'un fichier, sont censées afficher un petit logo « cr » sur le contenu pour indiquer que des informations d'identification de contenu sont présentes dans ce fichier. Cliquer sur ce logo devrait ouvrir une fenêtre contextuelle contenant ces informations, y compris toute divulgation selon laquelle les éléments ont été réalisés par l'IA.
Comment le logo « cr » C2PA peut apparaître sur une image générée par OpenAI dans une application prise en charge. Source : OpenAI
L’idée étant ici qu’il devrait être immédiatement évident pour les personnes qui visualisent ou modifient des éléments dans les applications de support – des éditeurs d’images aux navigateurs Web, idéalement – si le contenu à l’écran est ou non créé par l’IA.
Aider les gens à distinguer les images réelles des images truquées deviendra sans aucun doute de plus en plus important à mesure que le contenu généré par l’IA s’améliorera au point qu’il ne sera plus manifestement le produit d’une machine. Les experts craignent que ces médias synthétiques n’induisent les internautes en erreur et ne soient utilisés pour semer la désinformation ou soutenir des campagnes de désinformation. Les entreprises technologiques intensifient leurs efforts pour minimiser les risques, notamment à l’approche de l’élection présidentielle américaine de 2024.
Pourtant, la stratégie Content Credentials n’est pas infaillible comme nous l’avons indiqué précédemment. Les métadonnées peuvent être facilement supprimées ou exportées sans elles, ou le « cr » coupé des captures d'écran, de sorte qu'aucun logo « cr » n'apparaîtra sur le matériel à l'avenir dans aucune application. Il s'appuie également sur des applications et des services pour prendre en charge la spécification, qu'ils créent ou affichent des médias.
Pour fonctionner à grande échelle et être adopté, il a également besoin d'une sorte de système cloud pouvant être utilisé pour restaurer les métadonnées supprimées, ce qu'Adobe propose, ainsi que d'une campagne marketing pour accroître la notoriété de la marque. Augmentez sa largeur de marque, si vous le souhaitez.
OpenAI l'a reconnu cette semaine en annonçant que ChatGPT et l'API DALL-E 3 incluront les informations d'identification de contenu de C2PA dans leur sortie.
« Les métadonnées comme C2PA ne constituent pas une solution miracle pour résoudre les problèmes de provenance », OpenAI admis. « Il peut facilement être supprimé accidentellement ou intentionnellement. Par exemple, la plupart des plateformes de médias sociaux suppriment aujourd’hui les métadonnées des images téléchargées, et des actions telles que la prise d’une capture d’écran peuvent également les supprimer. Par conséquent, une image dépourvue de ces métadonnées peut ou non avoir été générée avec ChatGPT ou notre API.
En termes d'impact sur la taille du fichier, OpenAI a insisté sur le fait qu'un fichier PNG de 3.1 Mo généré par son API DALL-E augmente d'environ 90 % (ou environ 287 Ko) en incluant les métadonnées. Un fichier WebP de 32 Ko, quant à lui, augmentera d'environ 90 % avec cette charge utile de XNUMX Ko.
Le C2PA gagne du terrain : à mesure que de plus en plus d’applications et de services s’engagent à le prendre en charge, davantage de logiciels peuvent l’utiliser, davantage de personnes devraient le voir, et ainsi il se développe. Méta annoncé il construisait cette semaine des outils pour prendre en charge les spécifications du groupe industriel.
"Nous pensons que l'adoption de ces méthodes pour établir la provenance et encourager les utilisateurs à reconnaître ces signaux est essentielle pour accroître la fiabilité des informations numériques", a déclaré OpenAI.
On nous dit que ChatGPT via le Web et le modèle DALL-E 3 via son API incluront désormais les métadonnées C2PA, et que les utilisateurs mobiles les recevront d'ici le 12 février. ®
- Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
- PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
- PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
- PlatonESG. Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
- PlatoHealth. Veille biotechnologique et essais cliniques. Accéder ici.
- La source: https://go.theregister.com/feed/www.theregister.com/2024/02/08/openai_is_adding_a_watermark/
- :est
- :ne pas
- $UP
- 12
- 2024
- 32
- 400
- 7
- a
- A Propos
- reconnu
- actes
- ajouter
- propos
- Adobe
- L'adoption d'
- Adoption
- AI
- Alerte
- aussi
- an
- ainsi que le
- Annoncer
- tous
- api
- appli
- apparaître
- applications
- appliqué
- applications
- SONT
- BRAS
- AS
- At
- authenticité
- soutenu
- BE
- devenez
- était
- va
- CROYONS
- jusqu'à XNUMX fois
- corps
- frontière
- brand
- navigateurs
- Développement
- by
- Campagne
- Campagnes
- CAN
- Modifications
- ChatGPT
- le cloud
- CO
- coalition
- Sociétés
- contenu
- contenu
- La création
- Lettres de créance
- cryptographiquement
- de dall
- données
- a déclaré
- détails
- détecter
- numérique
- directement
- Divulgation
- désinformation
- Commande
- afficher
- distinguer
- doute
- même
- éditeurs
- efforts
- non plus
- Élection
- encourageant
- établissement
- exemple
- attendu
- de santé
- peur
- Février
- Déposez votre dernière attestation
- Fichiers
- Pour
- De
- plein
- avenir
- Gain
- gagner
- généré
- génératif
- obtenez
- Réservation de groupe
- Pousse
- arrive
- Vous avez
- ici
- Comment
- HTML
- HTTPS
- idée
- idéalement
- if
- image
- satellite
- immédiatement
- Impact
- important
- améliore
- in
- comprendre
- Y compris
- Améliore
- croissant
- de plus en plus
- indiquer
- industrie
- d'information
- Intel
- intentionnellement
- ISN
- vous aider à faire face aux problèmes qui vous perturbent
- IT
- SES
- jpg
- saut
- ACTIVITES
- Genre
- laboratoire
- manque
- Nouveautés
- comme
- peu
- logo
- click
- LES PLANTES
- marque
- Stratégie
- Matériel
- Mai..
- En attendant
- Médias
- Meta
- Métadonnées
- méthodes
- Microsoft
- pourrait
- Désinformation
- Breeze Mobile
- modèle
- numériques jumeaux (digital twin models)
- PLUS
- (en fait, presque toutes)
- beaucoup
- Nature
- Besoins
- aucune
- maintenant
- évident
- of
- on
- ONE
- ouvert
- OpenAI
- or
- origine
- nos
- ande
- sortie
- plus de
- Personnes
- pour cent
- Plateformes
- Platon
- Intelligence des données Platon
- PlatonDonnées
- Gage
- Point
- pop-up
- représentent
- présidentiel
- élection présidentielle
- protégé
- provenance
- Poussant
- RE
- réal
- reconnaître
- supprimez
- Supprimé
- restaurer
- risques
- s
- Escaliers intérieurs
- pour écran
- screenshots
- sur le lien
- Services
- devrait
- signaux
- Argent
- So
- Réseaux sociaux
- réseaux sociaux
- plateformes de médias sociaux
- Logiciels
- quelques
- Identifier
- truie
- spécification
- spécifié
- propagation
- pas à pas
- Boutique
- de Marketing
- tel
- Super
- Support
- Appuyer
- haute
- combustion propre
- prise
- technologie
- entreprises technologiques
- conditions
- qui
- La
- leur
- Là.
- donc
- Ces
- l'ont
- chose
- this
- cette semaine
- trois
- à
- aujourd'hui
- dit
- les outils
- traction
- fiabilité
- TOUR
- non autorisé
- téléchargé
- us
- utilisé
- d'utiliser
- Utilisateur
- utilisateurs
- Usages
- Ve
- via
- visualisation
- visible
- était
- we
- web
- Navigateurs Web
- webp
- semaine
- WELL
- quand
- que
- qui
- WHO
- sera
- comprenant
- dans les
- sans
- activités principales
- Vous n'avez
- zéphyrnet