Microsoft, Adobe y otros grandes nombres se comprometieron esta semana a agregar metadatos a sus imágenes generadas por IA para que futuras aplicaciones compatibles las marquen como hechas a máquina mediante un símbolo especial.
Es posible que haya visto algunos informes sobre esto, tal vez descrito como algún tipo de marca de agua de IA. Echamos un vistazo más de cerca.
El símbolo, descrito como un “ícono de transparencia”, representa las letras minúsculas “cr” dentro de una burbuja similar a un signo de discurso.
Fue creado por la Coalición para la procedencia y autenticidad del contenido (C2PA), un grupo de organizaciones de industrias que incluyen la tecnología y el periodismo. El C2PA existe desde hace un par de años; está impulsado por Adobe, Arm, Intel, Microsoft y Truepic; y especifica en detalle cómo los metadatos de una imagen pueden certificar de forma segura, digitalmente, la fuente y el historial de edición de esa imagen. Existen enfoques alternativos además de los metadatos de imágenes tradicionales; C2PA proporciona un enfoque impulsado por los grandes nombres mencionados anteriormente.
De hecho, puede utilizar los metadatos de Credenciales de contenido de C2PA para cualquier imagen; no es necesario que haya sido generada por IA. Los ejemplos dados en las Credenciales de Contenido página web del NDN Collective se realizaron utilizando las herramientas Photoshop y Firefly AI de Adobe y pueden identificarse como tales a través de sus metadatos. Lo que Microsoft, Adobe y otros han prometido hacer es garantizar que sus generadores de IA incluyan en algún momento en el futuro estos metadatos firmados criptográficamente en sus imágenes creadas por máquinas. El objetivo es proporcionar una manera para que las personas vean si una imagen fue hecha por un modelo o por humanos y cómo.
Por ejemplo, Microsoft dijo que las obras de arte producidas por su Bing Image Creator de texto a imagen y su chatbot Bing AI incluirán esos metadatos en algún momento.
Ahora viene la parte complicada, suponiendo que la especificación sea segura y sólida. Una cosa es almacenar esos metadatos en una imagen. ¿Cómo se entera el usuario sin profundizar en el contenido del archivo?
Bueno, necesitará una aplicación compatible, una que comprenda los metadatos de las Credenciales de contenido. Si una aplicación reconoce esos datos en un archivo, debe superponer el símbolo "cr" sobre la imagen en la esquina superior. Al hacer clic en ese símbolo, debería aparecer un widget que describa la fuente de la imagen y otros detalles de los metadatos de Credenciales de contenido, por ejemplo, si se realizó a través de Bing o Photoshop.
Así es como la gente puede inspeccionar fácilmente el origen del chasquido. Pero, por supuesto, si el archivo se abre en una aplicación que no admite Credenciales de contenido, no se muestra ningún símbolo: la aplicación no entenderá los datos y no mostrará ningún símbolo.
Puede ver lo que queremos decir en el sitio web de Credenciales de contenido antes mencionado. Ábrelo y desplázate hacia abajo hasta el ejemplo de mariposa creado por IA. La página web simula cómo debería verse esa imagen en una aplicación que puede analizar los metadatos de la imagen: el símbolo se muestra en la esquina superior y cuando haces clic o lo tocas, aparece una etiqueta que dice que fue generada por IA. La imagen se ve así en la página, sin la etiqueta abierta:
Si hace clic derecho sobre él, en el sitio web de Credenciales de contenido, guarda esa imagen de mariposa en el disco y luego la abre en algo como Chrome hoy, se verá así:
Sólo una imagen simple, sin símbolo. Chrome no conoce los metadatos de Credenciales de contenido que están presentes en el complemento generado por IA y, de todos modos, no tiene el ícono para superponer. Si vas a Credenciales de Contenido página de verificacióny coloque la imagen de la mariposa descargada, le dirá que fue creada por la suite de IA Firefly 1.0 de Adobe.
Esta tecnología, y sus especificaciones son detalladas e impresionantes, se basa en que las aplicaciones comprendan y admitan los metadatos, de lo contrario no se podrá mostrar ni se mostrará ningún símbolo. Luego está el hecho de que alguien podría eliminar los metadatos, o exportar el archivo a otro formato sin los metadatos, o hacer una captura de pantalla desde una aplicación que no superponga el símbolo, y luego distribuir esa imagen sin metadatos. Si esa imagen eliminada se abre más tarde en una aplicación que comprende las Credenciales de contenido, no se mostrará ningún símbolo.
Eso significa que no solo necesita aplicaciones, redes sociales, generadores, etc., que puedan agregar y leer datos de Credenciales de contenido, sino que también necesita que las personas estén al tanto del ícono para poder buscarlo. Si reciben o ven una foto y no tiene un símbolo de Credenciales de contenido, es posible que desconfíen de ella. Eso requerirá una gran cantidad de conocimiento de la marca para que funcione.
Dicho todo esto, Adobe nos dijo que tiene una Nube de credenciales de contenido, y eso parece funcionar así: carga los metadatos de sus archivos de imagen en la nube de Adobe; Si luego alguien comparte uno de sus archivos sin sus metadatos de identificación, lo que sea que estén usando para distribuir el complemento podría ejecutar la imagen en la nube de Adobe y recuperar los metadatos si hay una coincidencia visual.
Piense: algo así como la búsqueda inversa de imágenes de Google y devuelve los metadatos originales. De esa manera, si alguien intenta publicar su foto en la web o a través de una aplicación y todo encaja en su lugar, el origen de la imagen debe quedar claro, incluso si los metadatos se perdieron antes de la publicación: se recuperarán de las Credenciales de contenido. nube.
"Una vez que el contenido digital se firma con Credenciales de contenido (en una plataforma que aprovecha los estándares abiertos C2PA y las Credenciales de contenido), se adjuntan metadatos a prueba de manipulaciones, por lo que viajan con el contenido a donde quiera que vaya", dijo un portavoz de Adobe. El registro.
"Incluso si esa información se ha eliminado de forma maliciosa o accidental en cualquier momento del ciclo de vida del contenido, se puede recuperar a través de Content Credentials Cloud".
Al menos Adobe ha pensado en eso. Así que ahora necesitamos que la gente sea consciente del símbolo; por sus aplicaciones para apoyar el símbolo; para que los artistas y generadores proporcionen los metadatos a la nube de Adobe; y para que los editores en línea, las redes sociales y otros servidores de contenido se conecten a la nube de Adobe y recuperen los metadatos de Credenciales de contenido faltantes para que se puedan identificar las imágenes sin metadatos. ¡Uf!
También suponemos que podría utilizar un visor de metadatos compatible, o la herramienta de verificación de credenciales de contenido anterior, para comprobar una imagen usted mismo si aún no tiene a mano una aplicación de imágenes que pueda manejarla.
"Todas las imágenes generadas por IA en Bing Image Creator se identifican mediante credenciales de contenido", dijo un portavoz de Microsoft. El registro. “Si aparecen Credenciales de contenido junto a una imagen, los usuarios pueden confirmar rápidamente la hora y fecha de la imagen original a través de una marca de agua digital invisible.
“Este proceso ocurre automáticamente durante el proceso de creación y se basa en los requisitos técnicos de C2PA. El ícono sirve como una forma sencilla para que los consumidores reconozcan el contenido. Para Bing Image Creator, creemos que el ícono estará disponible antes de fin de año y aparecerá junto a las palabras 'Credenciales de contenido'”.
Se espera que otras organizaciones, como Publicis Groupe, una empresa francesa de publicidad y relaciones públicas, muestren una vista previa de cómo utilizarán los metadatos de credenciales de contenido con Adobe en el futuro. Mientras tanto, los fabricantes de cámaras Leica Camera y Nikon demostrarán cómo los equipos futuros utilizarán la especificación para incorporar el origen de las fotografías en las instantáneas de los fotógrafos.
Buenas intenciones
La coalición cree que todo esto puede ayudar a abordar los deepfakes generados por IA que difunden información errónea para engañar a los internautas. Eso podría lograrse si, en nuestra opinión, el ícono “cr” se vuelve tan omnipresente como el símbolo de copyright.
Los metadatos podrían al menos facilitar que las marcas y las empresas sean transparentes sobre el uso de imágenes sintéticas en campañas de publicidad y marketing, según la organización. dijo, si dichas empresas están dispuestas a revelarlo. Andy Parsons, director senior de la Iniciativa de Autenticidad de Contenido (CAI) de Adobe, dijo que el widget de información que lo acompaña actúa como una "etiqueta nutricional digital" para los usuarios.
"A lo largo de la historia, la iconografía visual ha actuado como un poderoso significante para la comunicación y la cultura", dijo.
“Estamos increíblemente entusiasmados con el potencial del 'ícono de transparencia' oficial de Credenciales de Contenido para convertirse en un estándar universal y una expectativa en toda la cultura en línea, ayudando a hacer de la confianza un principio fundamental en este nuevo mundo digital. Esperamos continuar incorporando Credenciales de contenido y el nuevo ícono en todos nuestros productos y soluciones de Adobe”.
Aunque podría decirse que es un paso en la dirección correcta, el ícono está muy lejos de ser una solución general para autenticar contenido en Internet y distinguir las falsificaciones de IA de lo real. Hasta ahora, la adopción es meramente prometida y limitada al apoyo de unos pocos nombres, aunque muy importantes. Y, como dijimos, se requieren muchas más plataformas (incluidos desarrolladores de IA generativa, redes sociales, creadores de aplicaciones y editores) que lo respalden para que sea efectivo. ®
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
- PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
- PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
- PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
- Fuente: https://go.theregister.com/feed/www.theregister.com/2023/10/15/microsoft_adobe_ai_watermark/
- :posee
- :es
- :no
- $ UP
- 1
- 7
- a
- Nuestra Empresa
- arriba
- alcanzado
- a través de
- hechos
- add
- adobe
- Adopción
- Publicidad
- AI
- Chat de AI
- Todos
- también
- alternativa
- cantidad
- an
- y
- Otra
- cualquier
- applicación
- Aparecer
- aparece
- Aplicación
- aplicaciones
- enfoque
- enfoques
- aplicaciones
- somos
- sin duda
- ARM
- en torno a
- Artistas
- obras de arte
- AS
- At
- autenticidad
- automáticamente
- conscientes
- conciencia
- basado
- BE
- a las que has recomendado
- se convierte en
- esto
- antes
- "Ser"
- CREEMOS
- cree
- Big
- Bing
- marca
- marcas
- burbuja
- negocios
- pero
- by
- cámara
- Campañas
- PUEDEN
- case
- certificar
- chatterbot
- comprobar
- Chrome
- limpiar
- clic
- más cerca
- Soluciones
- CO
- coalición
- Comunicación
- compañía
- compatible
- Confirmar
- Clientes
- contenido
- contenido
- continuo
- derechos de autor,
- Esquina
- podría
- Parejas
- Curso
- creado
- creación
- creador
- Referencias
- criptográficamente
- Cultura
- datos
- Fecha
- deepfakes
- demostrar
- descrito
- detallado
- detalles
- desarrolladores
- digital
- Contenidos Digitales
- mundo digital
- digitalmente
- dirección
- Director
- Revelar
- aquí
- distribuir
- desconfianza
- do
- sí
- doesn
- don
- DE INSCRIPCIÓN
- impulsados
- Soltar
- durante
- más fácil
- pasan fácilmente
- Eficaz
- final
- garantizar
- equipo
- Incluso
- todo
- ejemplo
- ejemplos
- excitado
- expectativa
- esperado
- exportar
- hecho
- muchos
- Feature
- pocos
- Archive
- archivos
- Encuentre
- Para consumidores
- formato
- adelante
- Francés
- Desde
- fundamental
- futuras
- generado
- generativo
- IA generativa
- generadores
- dado
- Go
- objetivo
- Va
- va
- Grupo procesos
- mano
- encargarse de
- que sucede
- Tienen
- he
- ayuda
- ayudando
- esta página
- historia
- anfitriones
- Cómo
- HTML
- HTTPS
- enorme
- ICON
- no haber aun identificado una solucion para el problema
- identificar
- if
- imagen
- Búsqueda de imágenes
- imágenes
- impresionante
- in
- Inclinado
- incluir
- Incluye
- incorporar
- increíblemente
- industrias
- info
- información
- Iniciativa
- dentro
- ejemplo
- Intel
- Internet
- dentro
- invisible
- IT
- SUS
- periodismo
- jpg
- Tipo
- Saber
- Label
- luego
- menos
- apalancamientos
- ciclo de vida
- como
- Limitada
- ll
- Largo
- Mira
- parece
- MIRADAS
- perdido
- inferior
- hecho
- para lograr
- Makers
- muchos
- Marketing
- Match
- Puede..
- personalizado
- significa
- Mientras tanto
- Medios
- simplemente
- metadatos
- Microsoft
- Desinformación
- que falta
- modelo
- más,
- nombres
- ¿ Necesita ayuda
- telecomunicaciones
- Nuevo
- Next
- no
- ahora
- of
- off
- oficial
- on
- una vez
- ONE
- en línea
- , solamente
- habiertos
- abierto
- or
- solicite
- para las fiestas.
- natural
- reconocida por
- Otro
- Otros
- nuestros
- salir
- Más de
- página
- parte
- Personas
- quizás
- imagen
- Fotos
- Colocar
- Natural
- plataforma
- Plataformas
- Platón
- Inteligencia de datos de Platón
- PlatónDatos
- enchufe
- punto
- Publicación
- posible
- poderoso
- pr
- presente
- Vista previa
- principio
- Anterior
- producido
- Productos
- prometido
- procedencia
- proporcionar
- proporciona un
- editores
- Push
- empujó
- con rapidez
- Leer
- real
- recepción
- reconocer
- reconoce
- Recuperar
- Informes
- Requisitos
- requiere
- devoluciones
- marcha atrás
- Derecho
- Haga clic con el botón
- robusto
- Ejecutar
- s
- Said
- Guardar
- decir
- mover
- Buscar
- seguro
- segura
- ver
- parece
- visto
- mayor
- sirve
- compartido
- tienes
- Mostrar
- mostrado
- firmado
- sencillos
- chasquido
- So
- hasta aquí
- Social
- redes sociales
- redes sociales
- a medida
- Soluciones
- algo
- Alguien
- algo
- Fuente
- especial
- especificación
- especificaciones
- portavoz
- propagación
- estándar
- paso
- tienda
- tal
- suite
- SOPORTE
- Apoyar
- símbolo
- sintético
- entrada
- ¡Prepárate!
- Pulsa para buscar
- tecnología
- Técnico
- Tecnología
- les digas
- narración
- esa
- La
- El futuro de las
- La Fuente
- su
- Les
- luego
- Ahí.
- ellos
- cosa
- así
- esta semana
- pensamiento
- A través de esta formación, el personal docente y administrativo de escuelas y universidades estará preparado para manejar los recursos disponibles que derivan de la diversidad cultural de sus estudiantes. Además, un mejor y mayor entendimiento sobre estas diferencias y similitudes culturales permitirá alcanzar los objetivos de inclusión previstos.
- a lo largo de
- equipo
- a
- hoy
- les dijo a
- se
- del IRS
- parte superior
- tradicional
- Transparencia
- transparente
- viajes
- Confía en
- ubicuo
- entender
- comprensión
- entiende
- Universal
- us
- utilizan el
- usado
- Usuario
- usuarios
- usando
- verificar
- muy
- vía
- Ver
- fue
- filigrana
- Camino..
- we
- web
- Página web
- semana
- WELL
- tuvieron
- ¿
- lo que
- cuando
- seguirá
- dispuestas
- sin
- Won
- palabras
- Actividades:
- mundo
- se
- año
- años
- aún
- Usted
- tú
- a ti mismo
- zephyrnet