Sete gigantes da tecnologia de IA – OpenAI, Microsoft, Google, Meta, Amazon, Anthropic e Inflection – se comprometeram a colocar marca d'água em conteúdo gerado por IA. O objetivo é rotular a proveniência de texto, vídeo, áudio e imagens gerados por IA, reduzindo assim o risco de enganar os usuários sobre as origens do conteúdo. Como o blog do Google coloca apropriadamente, “Nenhum de nós pode acertar a IA por conta própria”.
Deepfakes têm sido usados de muitas maneiras controversas, como criar imagens virais falsas ou enganar as pessoas com grandes somas de dinheiro. A marca d'água proposta, incorporada ao conteúdo, pode servir como medida de proteção contra esse uso indevido. A Casa Branca acredita que isso “permitirá que a criatividade com IA floresça” enquanto “reduz os perigos de fraude e engano”.
OpenAI e Google estão liderando o ataque. O Google também planeja integrar metadados (juntamente com outras técnicas inovadoras) para promover informações confiáveis.
Esse compromisso faz parte de um esforço mais amplo para garantir uma governança de IA responsável. As empresas de tecnologia estão se comprometendo a realizar testes internos e externos em sistemas de IA, investir mais em segurança cibernética e compartilhar informações para reduzir os riscos de IA. Como afirmou a OpenAI, esses compromissos são um “passo importante no avanço da governança de IA significativa e eficaz, tanto nos EUA quanto em todo o mundo”.
Exceto… LAMA 2 (veja meu ensaio de domingo) é de código aberto, assim como dezenas de outros excelentes modelos de IA. Embora eu aplauda profundamente o esforço, essas marcas d'água serão (na melhor das hipóteses) úteis para identificar produtos de trabalho criados usando modelos de IA de grandes tecnologias. Na pior das hipóteses, as marcas d'água serão falsificadas para desacreditar o sistema e ninguém será capaz de dizer o que fez o que depois de 2022/2023.
Nota do autor: Este não é um post patrocinado. Eu sou o autor deste artigo e ele expressa minhas próprias opiniões. Não estou, nem minha empresa, recebendo compensação por isso.
SOBRE SHELLY PALMER
Shelly Palmer é professor de mídia avançada em residência na SI Newhouse School of Public Communications da Syracuse University e CEO do The Palmer Group, uma prática de consultoria que ajuda as empresas da Fortune 500 com tecnologia, mídia e marketing. nomeado “Top Voice in Technology” do LinkedIn ele cobre tecnologia e negócios para Bom dia nova iorque, é um comentarista regular da CNN e escreve um popular blog diário de negócios. Ele é um autor best-seller, e o criador do popular curso on-line gratuito, IA generativa para executivos. Seguir @shellypalmer ou visite shellypalmer. com.
- Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
- PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
- Compre e venda ações em empresas PRE-IPO com PREIPO®. Acesse aqui.
- Fonte: Plato Data Intelligence: PlatãoData