As imagens emitidas pelos modelos generativos da OpenAI incluirão metadados que revelam a sua origem, que por sua vez podem ser utilizados pelas aplicações para alertar as pessoas sobre a natureza mecânica desse conteúdo.
Especificamente, o superlaboratório patrocinado pela Microsoft está, como esperado, adotando a especificação Content Credentials, que foi desenvolvida pela Coalition for Content Provenance and Authenticity (C2PA), um órgão da indústria apoiado pela Adobe, Arm, Microsoft, Intel e muito mais.
As credenciais de conteúdo são bem simples e especificado na íntegra aqui: usa formatos de dados padrão para armazenar nos arquivos de mídia detalhes sobre quem fez o material e como. Esses metadados não são diretamente visíveis para o usuário e são protegidos criptograficamente para que quaisquer alterações não autorizadas sejam óbvias.
Espera-se que os aplicativos que suportam esses metadados, quando os detectam no conteúdo de um arquivo, exibam um pequeno logotipo “cr” sobre o conteúdo para indicar que há informações de credenciais de conteúdo presentes naquele arquivo. Clicar nesse logotipo deverá abrir um pop-up contendo essas informações, incluindo quaisquer revelações de que o material foi feito pela IA.
Como o logotipo 'cr' do C2PA pode aparecer em uma imagem gerada por OpenAI em um aplicativo de suporte. Fonte: OpenAI
A ideia aqui é que deveria ser imediatamente óbvio para as pessoas que visualizam ou editam coisas em aplicativos de suporte – de editores de imagens a navegadores da web, de preferência – se o conteúdo na tela é ou não feito de IA.
Ajudar as pessoas a distinguir entre imagens reais e falsas tornar-se-á, sem dúvida, cada vez mais importante à medida que o conteúdo gerado pela IA melhorar até ao ponto em que não é obviamente o resultado de uma máquina. Os especialistas temem que esses meios de comunicação sintéticos possam enganar os internautas e sejam usados para semear desinformação ou apoiar campanhas de desinformação. As empresas tecnológicas estão a intensificar esforços para minimizar os riscos à medida que, por um lado, se aproximam as eleições presidenciais de 2024 nos EUA.
No entanto, a estratégia de credenciais de conteúdo não é infalível, como vimos relatado anteriormente. Os metadados podem ser facilmente removidos ou exportados sem eles, ou o “cr” cortado das capturas de tela, de forma que nenhum logotipo “cr” apareça no material no futuro em qualquer aplicativo. Ele também depende de aplicativos e serviços para dar suporte às especificações, sejam eles criando ou exibindo mídia.
Para trabalhar em escala e obter adoção, ele também precisa de algum tipo de sistema em nuvem que possa ser usado para restaurar metadados removidos, que a Adobe está promovendo, bem como uma campanha de marketing para espalhar o conhecimento da marca. Aumente a largura de marca, se desejar.
A OpenAI reconheceu isso esta semana ao anunciar esta semana que ChatGPT e DALL-E 3 API incluirão as credenciais de conteúdo do C2PA em sua produção.
“Metadados como C2PA não são uma solução mágica para resolver questões de proveniência”, OpenAI admitiu. “Ele pode ser facilmente removido acidentalmente ou intencionalmente. Por exemplo, a maioria das plataformas de mídia social hoje remove metadados de imagens enviadas, e ações como tirar uma captura de tela também podem removê-los. Portanto, uma imagem sem esses metadados pode ou não ter sido gerada com ChatGPT ou nossa API.”
Em termos de impacto no tamanho do arquivo, a OpenAI insistiu que um arquivo PNG de 3.1 MB gerado por sua API DALL-E crescesse cerca de três por cento (ou cerca de 90 KB) ao incluir os metadados. Enquanto isso, um arquivo WebP de 287K aumentará cerca de 32% com essa carga útil de 90 KB.
O C2PA está ganhando força: à medida que mais aplicativos e serviços se comprometem a apoiá-lo, mais software pode usá-lo, mais pessoas deverão vê-lo, e assim ele cresce. meta anunciou estava construindo ferramentas para apoiar as especificações do grupo industrial esta semana.
“Acreditamos que a adoção destes métodos para estabelecer a proveniência e encorajar os utilizadores a reconhecer estes sinais são fundamentais para aumentar a fiabilidade da informação digital”, declarou OpenAI.
Fomos informados de que o ChatGPT via web e o modelo DALL-E 3 por meio de sua API agora incluirão os metadados C2PA, e os usuários móveis os receberão até 12 de fevereiro.
- Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
- PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
- PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
- PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
- PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
- Fonte: https://go.theregister.com/feed/www.theregister.com/2024/02/08/openai_is_adding_a_watermark/
- :é
- :não
- $UP
- 12
- 2024
- 32
- 400
- 7
- a
- Sobre
- reconhecido
- ações
- adicionar
- endereço
- adobe
- Adotando
- Adoção
- AI
- Alertar
- tb
- an
- e
- Anunciando
- qualquer
- api
- app
- aparecer
- aplicações
- aplicado
- Aplicativos
- SOMOS
- ARM
- AS
- At
- autenticidade
- consciência
- Apoiado
- BE
- tornam-se
- sido
- ser
- Acreditar
- entre
- corpo
- fronteira
- interesse?
- navegadores
- Prédio
- by
- Campanha
- Campanhas
- CAN
- Alterações
- ChatGPT
- Na nuvem
- CO
- aliança
- Empresas
- conteúdo
- conteúdo
- Criar
- Credenciais
- criptograficamente
- dall's
- dados,
- Declarado
- detalhes
- descobrir
- digital
- diretamente
- Divulgando
- desinformação
- Ecrã
- exibindo
- distinguir
- duvido
- facilmente
- editores
- esforços
- ou
- Eleição
- animador
- estabelecendo
- exemplo
- esperado
- especialistas
- medo
- Fevereiro
- Envie o
- Arquivos
- Escolha
- da
- cheio
- futuro
- Ganho
- ganhando
- gerado
- generativo
- ter
- Grupo
- Cresce
- acontece
- Ter
- SUA PARTICIPAÇÃO FAZ A DIFERENÇA
- Como funciona o dobrador de carta de canal
- HTML
- HTTPS
- idéia
- idealmente
- if
- imagem
- imagens
- imediatamente
- Impacto
- importante
- melhora
- in
- incluir
- Incluindo
- Crescimento
- aumentando
- cada vez mais
- indicam
- indústria
- INFORMAÇÕES
- Intel
- intencionalmente
- isn
- questões
- IT
- ESTÁ
- jpg
- saltar
- Chave
- Tipo
- laboratório
- sem
- mais recente
- como
- pequeno
- logotipo
- máquina
- moldadas
- marca
- Marketing
- material
- Posso..
- Entretanto
- Mídia
- Meta
- metadados
- métodos
- Microsoft
- poder
- Desinformação
- Móvel Esteira
- modelo
- modelos
- mais
- a maioria
- muito
- Natureza
- Cria
- não
- agora
- óbvio
- of
- on
- ONE
- aberto
- OpenAI
- or
- origem
- A Nossa
- Fora
- saída
- Acima de
- Pessoas
- por cento
- Plataformas
- platão
- Inteligência de Dados Platão
- PlatãoData
- penhor
- ponto
- pop-up
- presente
- presidencial
- eleição presidencial
- protegido
- proveniência
- Empurrando
- RE
- reais
- reconhecer
- remover
- Removido
- restaurar
- riscos
- s
- Escala
- Peneira
- screenshots
- Vejo
- Serviços
- rede de apoio social
- sinais
- Prata
- So
- Redes Sociais
- meios de comunicação social
- sociais plataformas de mídia
- Software
- alguns
- fonte
- semear
- especificação
- especificada
- propagação
- pisar
- loja
- Estratégia
- tal
- super
- ajuda
- Apoiar
- sintético
- .
- tomar
- tecnologia
- empresas de tecnologia
- condições
- que
- A
- deles
- Lá.
- assim sendo
- Este
- deles
- coisa
- isto
- esta semana
- três
- para
- hoje
- disse
- ferramentas
- tração
- fidedignidade
- VIRAR
- não autorizado
- carregado
- us
- usar
- usava
- Utilizador
- usuários
- usos
- Ve
- via
- vendo
- visível
- foi
- we
- web
- Navegadores da Web
- webp
- semana
- BEM
- quando
- se
- qual
- QUEM
- precisarão
- de
- dentro
- sem
- Atividades:
- Vocês
- zefirnet