Microsoft, Adobe e outros grandes nomes prometeram esta semana adicionar metadados às suas imagens geradas por IA para que futuros aplicativos compatíveis as sinalizem como feitas por máquina usando um símbolo especial.
Você pode ter visto alguns relatórios sobre isso, talvez descritos como algum tipo de marca d'água de IA. Demos uma olhada mais de perto.
O símbolo – descrito como um “ícone de transparência” – representa as letras minúsculas “cr” dentro de uma marca de discurso semelhante a um balão.
Foi criado pela Coalition for Content Provenance and Authenticity (C2PA), um grupo de organizações de vários setores, incluindo tecnologia e jornalismo. O C2PA existe há cerca de alguns anos; está sendo conduzido pela Adobe, Arm, Intel, Microsoft e Truepic; e especifica em detalhes como os metadados em uma imagem podem certificar com segurança, digitalmente, a origem e o histórico de edição dessa imagem. Existem abordagens alternativas, bem como metadados de imagens tradicionais; C2PA fornece uma abordagem impulsionada pelos grandes nomes acima.
Na verdade, você pode usar os metadados de credenciais de conteúdo do C2PA para qualquer imagem – ela não precisa ser gerada por IA. Os exemplos dados nas Credenciais de Conteúdo site do Network Development Group foram feitos usando as ferramentas Photoshop e Firefly AI da Adobe e podem ser identificados como tal por meio de seus metadados. O que a Microsoft, a Adobe e outros prometeram fazer é garantir que os seus geradores de IA irão, em algum momento no futuro, incluir estes metadados assinados criptograficamente nas suas imagens criadas por máquinas. O objetivo é fornecer uma maneira para as pessoas verem se uma imagem foi modelada ou feita pelo homem e como.
Por exemplo, a Microsoft disse que a arte produzida pelo Bing Image Creator de texto para imagem e pelo chatbot do Bing AI apresentará esses metadados em algum momento.
Agora, aqui está a parte complicada, assumindo que a especificação é segura e robusta. Uma coisa é armazenar esses metadados em uma imagem. Como o usuário descobre, sem se aprofundar no conteúdo do arquivo?
Bem, você precisará de um aplicativo compatível, que compreenda os metadados das credenciais de conteúdo. Se um aplicativo reconhecer esses dados em um arquivo, ele deverá sobrepor o símbolo “cr” sobre a imagem no canto superior. Ao clicar nesse símbolo, um widget deve aparecer descrevendo a origem da foto e outros detalhes dos metadados das Credenciais de Conteúdo – por exemplo, se foi feita via Bing ou Photoshop.
É assim que as pessoas podem inspecionar facilmente a origem do snap. Mas é claro que se o arquivo for aberto em um aplicativo que não suporta Credenciais de Conteúdo, nenhum símbolo será mostrado: o aplicativo não compreenderá os dados e não mostrará um símbolo.
Você pode ver o que queremos dizer no site de credenciais de conteúdo mencionado acima. Abra-o e role para baixo até o exemplo de borboleta feita por IA. A página da web simula a aparência daquela imagem em um aplicativo que pode analisar os metadados da imagem: o símbolo é exibido no canto superior e quando você clica ou toca nele, aparece um rótulo dizendo que foi gerado por IA. A imagem fica assim na página, sem o rótulo aberto:
Se você clicar com o botão direito sobre ela, no site de Credenciais de Conteúdo, salvar a imagem da borboleta em disco e abri-la em algo como o Chrome hoje, ficará assim:
Apenas uma imagem simples, sem símbolo. O Chrome não conhece os metadados de credenciais de conteúdo presentes no snap gerado por IA e, de qualquer maneira, não possui o ícone para sobrepor. Se você acessar as Credenciais de Conteúdo página de verificaçãoe insira a imagem da borboleta baixada, ela dirá que ela foi feita pelo pacote Firefly 1.0 AI da Adobe.
Esta tecnologia – e as especificações para ela são detalhadas e impressionantes – depende da compreensão e suporte dos metadados pelos aplicativos, ou nenhum símbolo pode ou será mostrado. Depois, há o fato de que alguém pode remover os metadados ou exportar o arquivo para outro formato sem os metadados, ou fazer uma captura de tela de um aplicativo que não sobreponha o símbolo e depois distribuir essa imagem sem metadados. Se essa imagem removida for aberta posteriormente em um aplicativo que entende credenciais de conteúdo, nenhum símbolo será mostrado.
Isso significa que você não só precisa de aplicativos, redes sociais, geradores e assim por diante, que possam adicionar e ler dados de credenciais de conteúdo, mas também precisa que as pessoas estejam cientes do ícone para que possam procurá-lo. Se eles receberem ou virem uma foto e ela não tiver um símbolo de credenciais de conteúdo, eles podem ficar inclinados a desconfiar dela. Isso exigirá muito reconhecimento da marca para funcionar.
Dito isso, a Adobe nos disse que tem um Nuvem de credenciais de conteúdo, e parece funcionar assim: você carrega os metadados dos seus arquivos de imagem para a nuvem da Adobe; se um de seus arquivos for posteriormente compartilhado por alguém sem seus metadados de identificação, o que quer que esteja usando para distribuir o snap poderá executar a imagem pela nuvem da Adobe e recuperar os metadados se houver uma correspondência visual.
Pense: algo como a pesquisa reversa de imagens do Google e retorna os metadados originais. Dessa forma, se alguém tentar postar sua foto na web ou por meio de um aplicativo, e tudo se encaixar, a origem da imagem deverá ficar clara, mesmo que os metadados tenham sido perdidos antes da postagem – eles seriam recuperados das Credenciais de Conteúdo nuvem.
“Uma vez que o conteúdo digital é assinado com credenciais de conteúdo (em uma plataforma que aproveita os padrões abertos C2PA e credenciais de conteúdo), metadados invioláveis são anexados, de modo que viajam com o conteúdo onde quer que vá”, disse um porta-voz da Adobe. O registro.
“Mesmo que essas informações tenham sido removidas de forma maliciosa ou acidental em qualquer ponto do ciclo de vida do conteúdo, elas podem ser recuperadas por meio do Content Credentials Cloud.”
Pelo menos a Adobe pensou nisso. Então agora precisamos que as pessoas estejam conscientes do símbolo; para que suas aplicações suportem o símbolo; para artistas e geradores fornecerem os metadados para a nuvem da Adobe; e para editores on-line, redes sociais e outros hosts de conteúdo se conectarem à nuvem da Adobe e recuperarem quaisquer metadados de credenciais de conteúdo ausentes para que imagens sem metadados possam ser identificadas. Ufa!
Supomos também que você poderia usar um visualizador de metadados compatível, ou a ferramenta de verificação de credenciais de conteúdo acima, para verificar uma imagem por si mesmo, se ainda não tiver um aplicativo de imagem disponível que possa lidar com isso.
“Todas as imagens geradas por IA no Bing Image Creator são identificadas usando credenciais de conteúdo”, disse um porta-voz da Microsoft O registro. “Se as credenciais de conteúdo aparecerem ao lado de uma imagem, os usuários poderão confirmar rapidamente a hora e a data da imagem original por meio de uma marca d’água digital invisível.
“Esse processo acontece automaticamente durante o processo de criação e é baseado nos requisitos técnicos do C2PA. O ícone serve como uma forma simples para os consumidores reconhecerem o conteúdo. Para o Bing Image Creator, acreditamos que o ícone estará instalado antes do final do ano e aparecerá ao lado das palavras ‘Credenciais de conteúdo’.”
Espera-se que outras organizações, como a Publicis Groupe, uma empresa francesa de relações públicas e publicidade, apresentem uma prévia de como usarão os metadados de credenciais de conteúdo com a Adobe no futuro. Enquanto isso, os fabricantes de câmeras Leica Camera e Nikon demonstrarão como as especificações serão usadas por equipamentos futuros para incorporar a origem das fotos nas fotos dos fotógrafos.
Boas intenções
A coalizão acredita que tudo isso pode ajudar a combater os deepfakes gerados por IA que espalham informações erradas para enganar os internautas. Isso poderia ser alcançado se, em nossa opinião, o ícone “cr” se tornasse tão onipresente quanto o símbolo de copyright.
Os metadados poderiam pelo menos tornar mais fácil para marcas e empresas serem transparentes sobre o uso de imagens sintéticas em campanhas publicitárias e de marketing, disse a organização. dito, se essas empresas estiverem dispostas a divulgar isso. Andy Parsons, diretor sênior da Content Authenticity Initiative (CAI) da Adobe, disse que o widget de informações que o acompanha funciona como um “rótulo nutricional digital” para os usuários.
“Ao longo da história, a iconografia visual tem atuado como um poderoso significante para a comunicação e a cultura”, disse ele.
“Estamos extremamente entusiasmados com o potencial do ‘ícone de transparência’ oficial das Credenciais de Conteúdo para se tornar um padrão universal e uma expectativa em toda a cultura online – ajudando a tornar a confiança um princípio fundamental neste novo mundo digital. Esperamos continuar a incorporar credenciais de conteúdo e o novo ícone em nossos produtos e soluções Adobe.”
Embora seja indiscutivelmente um passo na direção certa, o ícone está muito longe de ser uma solução abrangente para autenticar conteúdo na Internet e distinguir as falsificações de IA das reais. A adoção até agora é apenas prometida e limitada ao apoio de alguns nomes, embora muito grandes. E, como dissemos, são necessárias muito mais plataformas – incluindo desenvolvedores de IA generativa, redes sociais, criadores de aplicações e editores – para apoiá-la, para que seja eficaz. ®
- Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
- PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
- PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
- PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
- PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
- Fonte: https://go.theregister.com/feed/www.theregister.com/2023/10/15/microsoft_adobe_ai_watermark/
- :tem
- :é
- :não
- $UP
- 1
- 7
- a
- Sobre
- acima
- alcançado
- em
- atos
- adicionar
- adobe
- Adoção
- Publicidade
- AI
- Chatbot AI
- Todos os Produtos
- tb
- alternativa
- quantidade
- an
- e
- Outro
- qualquer
- app
- aparecer
- aparece
- Aplicação
- aplicações
- abordagem
- se aproxima
- Aplicativos
- SOMOS
- indiscutivelmente
- ARM
- por aí
- Artistas
- arte
- AS
- At
- autenticidade
- automaticamente
- consciente
- consciência
- baseado
- BE
- tornam-se
- torna-se
- sido
- antes
- ser
- Acreditar
- acredita
- Grande
- Bing
- interesse?
- marcas
- bolha
- negócios
- mas a
- by
- Câmera
- Campanhas
- CAN
- casas
- certificar
- chatbot
- verificar
- Chrome
- remover filtragem
- clique
- mais próximo
- Na nuvem
- CO
- aliança
- Comunicação
- Empresa
- compatível
- Confirmar
- Consumidores
- conteúdo
- conteúdo
- continuar
- direitos autorais
- Canto
- poderia
- Casal
- Para
- criado
- criação
- criador
- Credenciais
- criptograficamente
- Cultura
- dados,
- Data
- deepfakes
- demonstrar
- descrito
- detalhado
- detalhes
- desenvolvedores
- digital
- Conteúdo Digital
- mundo digital
- digitalmente
- direção
- Diretor
- Divulgar
- exibido
- distribuir
- desconfiança
- do
- parece
- não
- don
- down
- dirigido
- Cair
- durante
- mais fácil
- facilmente
- Eficaz
- final
- garantir
- equipamento
- Mesmo
- tudo
- exemplo
- exemplos
- animado
- expectativa
- esperado
- exportar
- fato
- longe
- Característica
- poucos
- Envie o
- Arquivos
- Encontre
- Escolha
- Para os consumidores
- formato
- para a frente
- Francês
- da
- fundamental
- futuro
- gerado
- generativo
- IA generativa
- geradores
- dado
- Go
- meta
- vai
- vai
- Grupo
- mão
- manipular
- acontece
- Ter
- he
- ajudar
- ajuda
- SUA PARTICIPAÇÃO FAZ A DIFERENÇA
- história
- anfitriões
- Como funciona o dobrador de carta de canal
- HTML
- HTTPS
- enorme
- ÍCONE
- identificado
- identificar
- if
- imagem
- Image Search
- imagens
- impressionante
- in
- Inclinada
- incluir
- Incluindo
- incorporar
- incrivelmente
- indústrias
- info
- INFORMAÇÕES
- Iniciativa
- dentro
- instância
- Intel
- Internet
- para dentro
- invisível
- IT
- ESTÁ
- jornalismo
- jpg
- Tipo
- Saber
- O rótulo
- mais tarde
- mínimo
- aproveita as
- wifecycwe
- como
- Limitado
- ll
- longo
- olhar
- parece
- OLHARES
- perdido
- diminuir
- moldadas
- fazer
- Makers
- muitos
- Marketing
- Match
- Posso..
- significar
- significa
- Entretanto
- Mídia
- apenas
- metadados
- Microsoft
- Desinformação
- desaparecido
- modelo
- mais
- nomes
- você merece...
- redes
- Novo
- Próximo
- não
- agora
- of
- WOW!
- oficial
- on
- uma vez
- ONE
- online
- só
- aberto
- aberto
- or
- ordem
- organizações
- origem
- original
- Outros
- Outros
- A Nossa
- Fora
- Acima de
- página
- parte
- Pessoas
- possivelmente
- fotografia
- FOTOS
- Lugar
- Avião
- plataforma
- Plataformas
- platão
- Inteligência de Dados Platão
- PlatãoData
- plugue
- ponto
- Publique
- potencial
- poderoso
- pr
- presente
- visualização
- princípio
- Prévio
- processo
- Produzido
- Produtos
- prometido
- proveniência
- fornecer
- fornece
- editores
- Empurrar
- empurrado
- rapidamente
- Leia
- reais
- receber
- reconhecer
- reconhece
- Recuperar
- Relatórios
- Requisitos
- exige
- Retorna
- reverso
- certo
- Botão direito do mouse
- uma conta de despesas robusta
- Execute
- s
- Dito
- Salvar
- dizendo
- scroll
- Pesquisar
- seguro
- firmemente
- Vejo
- parece
- visto
- senior
- serve
- compartilhado
- rede de apoio social
- mostrar
- mostrando
- assinado
- simples
- estalo
- So
- até aqui
- Redes Sociais
- meios de comunicação social
- redes sociais
- solução
- Soluções
- alguns
- Alguém
- algo
- fonte
- especial
- especificação
- óculos
- porta-voz
- propagação
- padrão
- Passo
- loja
- tal
- suíte
- ajuda
- Apoiar
- símbolo
- sintético
- equipamento
- Tire
- Torneira
- tecnologia
- Dados Técnicos:
- Tecnologia
- dizer
- dizendo
- que
- A
- O Futuro
- A fonte
- deles
- Eles
- então
- Lá.
- deles
- coisa
- isto
- esta semana
- pensamento
- Através da
- todo
- tempo
- para
- hoje
- disse
- levou
- ferramenta
- ferramentas
- topo
- tradicional
- Transparência
- transparente
- viaja
- Confiança
- onipresente
- compreender
- compreensão
- entende
- Universal
- us
- usar
- usava
- Utilizador
- usuários
- utilização
- verificar
- muito
- via
- Ver
- foi
- marca d'água
- Caminho..
- we
- web
- Site
- semana
- BEM
- foram
- O Quê
- o que quer
- quando
- precisarão
- disposto
- de
- sem
- Ganhou
- palavras
- Atividades:
- mundo
- seria
- ano
- anos
- ainda
- Vocês
- investimentos
- você mesmo
- zefirnet