Vai Ficar Mais Difícil Detectar Deepfakes: CEO da Secta Labs – Decrypt

À medida que os geradores de imagens de IA se tornam mais avançados, detectar deepfakes está se tornando mais desafiador do que nunca. A aplicação da lei e os líderes globais continuam a soar o alarme sobre os perigos da IA ​​gerada deepfakes nas redes sociais e em zonas de conflito.

“Estamos entrando em uma era em que não podemos mais acreditar no que vemos”, disse Marko Jak, cofundador e CEO da Secta Labs. Descifrar em uma entrevista. “No momento, é mais fácil porque as deep fakes ainda não são tão boas, e às vezes você pode ver que é óbvio.”

De acordo com Jak, não estamos tão longe - talvez dentro de um ano - do ponto em que a capacidade de discernir uma imagem falsificada à primeira vista não é mais possível. E ele deveria saber: Jak é o CEO de uma empresa geradora de imagens de IA.

Jak co-fundou Laboratórios Secta em 2022; a startup de IA generativa com sede em Austin se concentra na criação de imagens geradas por IA de alta qualidade. Os usuários podem fazer upload de fotos de si mesmos e transformá-los em headshots e avatares gerados por IA.

Como explica Jak, a Secta Labs vê os usuários como proprietários dos modelos de IA gerados a partir de seus dados, enquanto a empresa é apenas a guardiã, auxiliando na criação de imagens desses modelos. 

O potencial uso indevido de modelos de IA mais avançados levou os líderes mundiais a pedir ajuda imediata. açao sobre a regulamentação da IA ​​e fez com que as empresas decidissem não liberar suas ferramentas avançadas ao público.

Na semana passada, após anunciar seu novo Caixa de voz Plataforma de voz gerada por IA, a Meta disse que não liberaria a IA ao público.

“Embora acreditemos que é importante ser aberto com a comunidade de IA e compartilhar nossa pesquisa para avançar no estado da arte em IA”, disse o porta-voz da Meta Descifrar em um e-mail. “Também é necessário encontrar o equilíbrio certo entre abertura e responsabilidade.”

No início deste mês, o Federal Bureau of Investigation dos EUA advertido de golpes de extorsão deepfake de IA e criminosos usando fotos e vídeos tirados de mídias sociais para criar conteúdo falso.

A resposta no combate aos deepfakes, disse Jak, pode não ser a capacidade de identificar um deepfake, mas a capacidade de expor um deepfake.

“IA é a primeira maneira de identificar [um deepfake]”, disse Jak. “Existem pessoas construindo inteligência artificial que pode colocar uma imagem como um vídeo e a IA pode dizer se foi gerada pela IA.”

A IA generativa e o uso potencial de imagens geradas por IA no cinema e na televisão são um tema polêmico na indústria do entretenimento. SAG-AFTRA os membros votaram antes de entrar em negociações contratuais para autorizar uma greve, uma preocupação significativa, inteligência artificial.

Jak acrescentou que o desafio é a corrida armamentista da IA ​​se desenrolando à medida que a tecnologia se torna mais avançada e os maus atores criam deepfakes mais avançados para combater a tecnologia projetada para detectá-los.

Reconhecendo que o blockchain tem sido usado em excesso – alguns podem dizer exagerado – como uma solução para problemas do mundo real, Jak disse que a tecnologia e a criptografia podem resolver o problema do deepfake.

Mas enquanto a tecnologia pode resolver muitos problemas com deepfakes, Jak disse que uma solução de baixa tecnologia, a sabedoria da multidão, pode ser a chave.

“Uma das coisas que vi que o Twitter fez, que acho uma boa ideia, são as notas da comunidade, onde as pessoas podem adicionar algumas notas para dar contexto ao tweet de alguém”, disse Jak. “Um tweet pode ser desinformação, assim como um deepfake pode ser”, disse ele. Jak acrescentou que seria benéfico para as empresas de mídia social pensar em maneiras de alavancar suas comunidades para validar se o conteúdo circulado é autêntico.

“Blockchain pode resolver problemas específicos, mas a criptografia pode ajudar a autenticar a origem de uma imagem”, disse ele. “Essa pode ser uma solução prática, pois lida com a verificação da fonte e não com o conteúdo da imagem, independentemente de quão sofisticado seja o deepfake.”

• Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
• PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
• PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
• PlatãoESG. Automotivo / EVs, Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
• BlockOffsets. Modernizando a Propriedade de Compensação Ambiental. Acesse aqui.
• Fonte: https://decrypt.co/146066/it-will-get-harder-to-detect-deepfakes-secta-labs-ceo