A Meta está construindo ferramentas para detectar, identificar e rotular imagens geradas por IA compartilhadas por meio de suas plataformas de mídia social. Também está testando grandes modelos de linguagem para moderar automaticamente o conteúdo online.
Na terça-feira, o presidente de assuntos globais da Meta (e ex-vice-primeiro-ministro do Reino Unido) Nick Clegg anunciou planos para sinalizar no Facebook, Instagram e Threads material criado não apenas pelos próprios modelos de IA de texto para imagem da gigante dos EUA, mas também material criado por aplicativos externos de aprendizado de máquina. A ideia é alertar os internautas de que as coisas online podem não ser o que parecem e podem ter sido inventadas usando ferramentas de IA para enganar as pessoas, independentemente da sua origem.
Clegg dito Os engenheiros da Meta estão atualmente desenvolvendo ferramentas para marcar conteúdo fotorrealista feito por IA com a legenda “Imagined with AI” em seus aplicativos, e mostrarão esse rótulo conforme necessário nos próximos meses.
Imagens fotorrealistas criadas pelo assistente Meta AI integrado já são automaticamente rotuladas como tal, usando marcadores visíveis e invisíveis, fomos informados. São as coisas de alta qualidade feitas por IA enviadas de fora que também precisam ser detectadas de alguma forma e marcadas como tal no império de aplicativos do gigante do Facebook.
No curto prazo, o Facebook pretende contar com marcas d’água dentro dos arquivos enviados que declaram a origem do conteúdo – que depende de geradores de conteúdo externos de IA, incluindo essas marcações ou metadados, sem que isso seja eliminado – e também pedir às pessoas que declarem honestamente as coisas como Gerado por IA ao compartilhar mídia.
No longo prazo, Meta pretende usar classificadores que possam discernir automaticamente se o material foi feito por uma rede neural ou não, evitando assim a dependência de rotulagens e geradores enviados pelo usuário, incluindo marcações suportadas. Esta necessidade de os utilizadores confessarem quando utilizam meios de comunicação falsos - se estiverem conscientes de que é falso - bem como de confiar em aplicações externas para rotular correctamente as coisas como feitas por computador sem que sejam retiradas pelas pessoas é, como eles digamos, em engenharia de software, frágil. Esses classificadores automatizados, se funcionarem tão bem quanto desejado, são os mais necessários.
Por enquanto, pelo menos, as pessoas que enviam áudio e vídeo definitivamente precisarão declarar se esse material é deepfaked ou real, já que Meta diz que ainda não existe uma maneira consistente de identificar imagens e sons feitos por IA; e as imagens são marcadas automaticamente pela Meta AI, incluem marcas d'água que revelam a verdadeira fonte ou, presumivelmente, podem ser sinalizadas manualmente pelas pessoas. E mais tarde tudo isso poderá ser automatizado.
“Exigiremos que as pessoas usem esta ferramenta de divulgação e rótulo quando postarem conteúdo orgânico com um vídeo fotorrealista ou áudio com som realista que foi criado ou alterado digitalmente, e poderemos aplicar penalidades se não o fizerem”, Clegg disse.
Quanto aos suportes de marca d’água Meta, isso inclui aqueles da Coalition for Content Provenance and Authenticity (C2PA) e o Conselho Internacional de Telecomunicações de Imprensa (IPTC). Estas são iniciativas da indústria apoiadas por grupos de tecnologia e mídia que tentam facilitar a identificação de conteúdo gerado por máquinas. Eles não são infalíveis e podem ser derrotados como informamos anteriormente.
As estratégias mais recentes da Meta para lidar com o conteúdo de IA surgem logo após o seu Conselho de Supervisão, um painel de especialistas independentes que examinam suas políticas de moderação de conteúdo, reclamarem que as regras atuais sobre mídia manipulada eram “incoerentes”. A diretoria lançou um sonda no ano passado sobre por que Meta decidiu permitir que um vídeo falso do presidente Biden, que havia sido alterado digitalmente para alegar que ele era um pedófilo, permanecesse em seu império de redes sociais.
Além das ferramentas apoiadas por C2PA e IPTC, a Meta está testando a capacidade de grandes modelos de linguagem determinarem automaticamente se uma postagem viola suas políticas.
O negócio das redes sociais está a treinar estes sistemas com os seus próprios dados e acredita que o software poderia reduzir o conteúdo que precisa de ser avaliado por revisores humanos, permitindo-lhes concentrar-se em casos mais complicados.
“À medida que a diferença entre conteúdo humano e sintético fica confusa, as pessoas querem saber onde está a fronteira”, disse Clegg.
“Muitas vezes as pessoas encontram pela primeira vez conteúdo gerado por IA e nossos usuários nos disseram que apreciam a transparência em torno desta nova tecnologia. Seguiremos esta abordagem durante o próximo ano, durante o qual ocorrerão uma série de eleições importantes em todo o mundo.” ®
- Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
- PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
- PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
- PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
- PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
- Fonte: https://go.theregister.com/feed/www.theregister.com/2024/02/06/meta_ai_label/
- :é
- :não
- :onde
- $UP
- 7
- a
- habilidade
- em
- Adição
- Negócios
- Depois de
- AI
- Assistente de IA
- Modelos de IA
- Todos os Produtos
- permitir
- Permitindo
- já
- tb
- alteradas
- e
- anunciou
- aplicações
- Aplicar
- apreciar
- abordagem
- Aplicativos
- SOMOS
- por aí
- AS
- pergunta
- avaliado
- Assistente
- At
- auditivo
- autenticidade
- Automatizado
- automaticamente
- evitando
- consciente
- longe
- Apoiado
- BE
- sido
- ser
- Acreditar
- entre
- Biden
- biz
- borda
- limite
- Prédio
- construídas em
- mas a
- by
- CAN
- casos
- reivindicar
- CO
- aliança
- como
- vinda
- consistente
- conteúdo
- corretamente
- poderia
- Conselho
- Crafted
- criado
- Atual
- Cortar
- corte
- dados,
- decidido
- declara
- definitivamente
- deputado
- desejado
- descobrir
- detectou
- Detecção
- Determinar
- em desenvolvimento
- diferença
- digitalmente
- discernir
- divulgação
- do
- down
- durante
- mais fácil
- borda
- ou
- Eleições
- império
- Engenharia
- Engenheiros
- Mesmo
- SEMPRE
- especialistas
- externo
- FALHA
- falsificação
- FB
- Arquivos
- Primeiro nome
- primeira vez
- marcado
- Foco
- Escolha
- Antigo
- da
- geradores
- fica
- gigante
- Global
- Do grupo
- tinha
- Ter
- he
- alta qualidade
- Honestamente
- HTTPS
- humano
- idéia
- identificar
- if
- imagem
- imagens
- imaginado
- importante
- in
- incluir
- inclui
- Incluindo
- de treinadores em Entrevista Motivacional
- indústria
- iniciativas
- dentro
- pretende
- Internacionais
- para dentro
- Inventado
- invisível
- isn
- IT
- ESTÁ
- jpg
- apenas por
- Saber
- O rótulo
- marcação
- língua
- grande
- Sobrenome
- Ano passado
- mais tarde
- mais recente
- lançado
- mínimo
- encontra-se
- ll
- longo
- moldadas
- fazer
- manipulado
- manualmente
- marcado
- material
- Posso..
- Mídia
- Meta
- metadados
- modelos
- moderada
- moderação
- mês
- a maioria
- necessário
- você merece...
- necessário
- Cria
- rede
- neural
- rede neural
- Novo
- Próximo
- entalhe
- agora
- número
- of
- frequentemente
- on
- online
- só
- or
- orgânico
- A Nossa
- Fora
- lado de fora
- Acima de
- Supervisão
- próprio
- painel
- penalidades
- Pessoas
- FOTOS
- Lugar
- planos
- Plataformas
- platão
- Inteligência de Dados Platão
- PlatãoData
- políticas
- Publique
- presidente
- presidente biden
- imprensa
- anteriormente
- Prime
- proveniência
- RE
- reais
- Independentemente
- confiança
- depender
- contando
- Informou
- requerer
- revelar
- certo
- regras
- s
- Dito
- dizer
- diz
- parece
- compartilhado
- compartilhando
- Baixo
- mostrar
- So
- Redes Sociais
- meios de comunicação social
- sociais plataformas de mídia
- rede social
- Software
- Engenharia de software
- alguns
- Parecer
- fonte
- ficar
- estratégias
- apresentado
- tal
- Suportado
- suportes
- sintético
- sistemas
- abordando
- TAG
- tomar
- Tecnologia
- telecomunicações
- prazo
- ensaio
- que
- A
- A fonte
- o mundo
- Eles
- Lá.
- Este
- deles
- isto
- aqueles
- Através da
- Assim
- tempo
- para
- disse
- ferramenta
- ferramentas
- Training
- Transparência
- verdadeiro
- tentar
- tentando
- Terça-feira
- Uk
- Upload
- us
- usar
- usuários
- utilização
- Ve
- via
- Vídeo
- visível
- queremos
- foi
- Watermarking
- marcas d'água
- Caminho..
- we
- BEM
- foram
- O Quê
- quando
- se
- qual
- porque
- precisarão
- de
- sem
- Atividades:
- mundo
- ano
- ainda
- zefirnet