A Federal Trade Commission (FTC) está prometendo uma recompensa de US$ 25,000 pela melhor solução para combater a ameaça crescente da clonagem de voz de IA.
Às vezes referidos como deepfakes de áudio, o número de serviços online que oferecem instalações de clonagem de voz fáceis de usar proliferou desde que a IA generativa se tornou popular, levantando preocupações sobre o seu potencial de abuso em ataques cibernéticos.
Por exemplo, uma ameaça generalizada poderia envolver falsificar as vozes dos CEOs para se passar por eles e instruir o departamento financeiro a transferir dinheiro para a conta de um invasor. Amigos e familiares também podem ser induzidos a enviar dinheiro para entes queridos e artistas performáticos poderão ver os seus meios de subsistência ameaçados caso a tecnologia continue a amadurecer.
Os interessados têm até o dia 12 de janeiro para enviar suas ideias para ajudar a combater a fraude de clonagem de voz baseada em IA, com foco principalmente na prevenção, monitoramento e avaliação da tecnologia.
“Este esforço pode ajudar a impulsionar ideias para mitigar os riscos a montante – protegendo consumidores, profissionais criativos e pequenas empresas contra os danos da clonagem de voz antes que os danos cheguem ao consumidor”, disse a FTC. dito.
“Também pode ajudar a desenvolver ideias para mitigar os riscos ao nível do consumidor. E se não surgirem ideias viáveis, isso enviará um aviso crítico e precoce aos decisores políticos de que devem considerar limites mais rigorosos à utilização desta tecnologia, dado o desafio de prevenir o desenvolvimento prejudicial de aplicações no mercado.”
As inscrições serão avaliadas com base na viabilidade de execução e administração, na resiliência às mudanças tecnológicas e no grau de cuidado com que consideram como a responsabilidade e a responsabilidade seriam atribuídas às empresas, entre outras medidas.
O prêmio principal oferecido é de US$ 25,000, o que não parece uma mina de ouro, considerando as amplas aplicações potenciais que uma solução engenhosa pode ter.
Um segundo colocado também receberá US$ 4,000, três menções honrosas receberão US$ 2,000 cada por seus problemas e organizações de 10 ou mais pessoas receberão um prêmio de reconhecimento sem dinheiro.
Abuso de voz de IA em ação
A eficácia da clonagem de voz por IA foi comprovada em casos repetidos no ano passado. Especialistas da loja de segurança eslovaca ESET mostrou como o exemplo acima mencionado de CEOs falsificados pode ser executado.
Na verdade, isso tem sido um problema há anos, antes que a IA generativa chegasse às mãos das pessoas comuns. Uma empresa de energia do Reino Unido foi drenado de $ 243,000 em 2019, depois de o seu CEO ter sido instruído a enviar uma grande soma a um fornecedor húngaro.
Um New York Times Denunciar, novamente dos 12 meses anteriores, detalhou uma série de casos que visaram com sucesso o sector financeiro, enganando os bancos para que transferissem dinheiro de quem eles acreditavam serem clientes genuínos. El Reg também relatou algo semelhante ataques ocorrendo nos Emirados Árabes Unidos já em 2021.
Os golpes românticos também são abundantes, com um britânico se apaixonando por um falsificou Kevin Costner, e os criminosos também mostraram que não hesitam em realizar Golpes de “emergência familiar” – aquelas que têm como alvo os pais com as vozes clonadas dos seus filhos pedindo dinheiro para pagar a fiança, por exemplo.
Mais exemplos sinistros vi mães receberem ligações supostamente de suas filhas mantidas como reféns por “seqüestradores” que exigem enormes resgates.
A clonagem de voz é possível alimentando um modelo de IA com dados de treinamento suficientes para compreender o som, o tom, o ritmo, a inflexão e outras nuances da voz de um indivíduo. Pensa-se que celebridades e outras figuras públicas correm um risco agudo de sofrer estes ataques, dado o número de gravações das suas vozes que existem online.
Com o surgimento das mídias sociais e da cultura de criação de conteúdo de vídeo, muitas não-celebridades e até mesmo crianças também têm material online suficiente para treinar um modelo de forma eficaz.
Os pesquisadores da Kaspersky analisaram o aumento da clonagem de voz por IA no ano passado e descobriram uma grande variedade de ferramentas de código aberto disponíveis gratuitamente que poderiam gerar vozes clonadas usando tecnologia de IA. No entanto, eles argumentaram que, para colocar um clone convincente em funcionamento, seria necessário um pouco de conhecimento em Python e alguns ajustes por parte do clonador.
No entanto, as ofertas pagas tendem a ser muito mais eficazes. Os pesquisadores apontaram Modelo VALL-E da Microsoft isso poderia supostamente gerar um clone decente com apenas três segundos de áudio de voz usados como dados de treinamento.
Existem também outras soluções pagas que funcionam melhor do que as gratuitas, mas estas ainda estão apenas na fase inicial de desenvolvimento, pelo que podemos esperar que a precisão e a eficácia destes modelos melhorem ao longo do tempo. ®
- Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
- PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
- PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
- PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
- PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
- Fonte: https://go.theregister.com/feed/www.theregister.com/2024/01/05/ftc_voice_cloning_solution/
- :tem
- :é
- :não
- $UP
- 000
- 10
- 12
- de 12 meses
- 2019
- 2021
- 7
- a
- acima
- abuso
- Conta
- precisão
- endereço
- administrar
- avançar
- Depois de
- novamente
- contra
- AI
- tb
- entre
- an
- e
- aplicações
- SOMOS
- AS
- pergunta
- avaliado
- At
- Ataques
- auditivo
- disponível
- média
- prêmio
- em caminho duplo
- fiança
- bancos
- baseado
- BE
- sido
- antes
- Acredita
- MELHOR
- Melhor
- Pouco
- amplo
- negócios
- mas a
- by
- chamadas
- veio
- CAN
- transporte
- casos
- dinheiro
- Sem dinheiro
- celebridades
- Chefe executivo
- CEOs
- desafiar
- Alterações
- Crianças
- clientes
- CNN
- CO
- combater
- de referência
- Empresas
- Empresa
- Preocupações
- Considerar
- considerando
- consumidor
- Consumidores
- conteúdo
- Criação de conteúdo
- continuar
- poderia
- criação
- Criatividade
- Os criminosos
- crítico
- Cultura
- ataques cibernéticos
- dados,
- deepfakes
- Demanda
- Departamento
- detalhado
- Desenvolvimento
- descoberto
- do
- não
- cada
- Cedo
- fácil de usar
- Eficaz
- efetivamente
- eficácia
- esforço
- emergem
- kit
- energia
- suficiente
- avaliação
- Mesmo
- exemplo
- executar
- existir
- esperar
- especialistas
- instalações
- fato
- Queda
- famílias
- família
- longe
- factível
- Federal
- Federal Trade Commission
- alimentação
- figuras
- financiar
- focando
- Escolha
- para a frente
- fraude
- Gratuito
- livremente
- amigos
- da
- FTC
- gerar
- generativo
- IA generativa
- genuíno
- ter
- dado
- Crescente
- mãos
- prejudicar
- prejudicial
- prejudica
- Ter
- Herói
- ajudar
- Como funciona o dobrador de carta de canal
- Contudo
- HTML
- HTTPS
- enorme
- Húngaro
- idéias
- if
- melhorar
- in
- de treinadores em Entrevista Motivacional
- Individual
- Inflexão
- para dentro
- envolver
- emitem
- IT
- ESTÁ
- janeiro
- jpg
- apenas por
- grande
- Sobrenome
- Ano passado
- Nível
- responsabilidade
- como
- limites
- olhou
- amado
- moldadas
- principalmente
- Corrente principal
- muitos
- marketplace
- material
- maduro
- Posso..
- medidas
- Mídia
- menções
- Mitigar
- modelo
- modelos
- dinheiro
- monitoração
- mês
- mais
- em movimento
- muito
- Novo
- New York
- New York Times
- nuances
- número
- of
- WOW!
- oferecer
- oferecendo treinamento para distância
- Ofertas
- Oferece
- on
- ONE
- queridos
- online
- só
- aberto
- open source
- or
- organizações
- Outros
- Fora
- Acima de
- pago
- pais
- parte
- partes
- passado
- Pessoas
- pessoa
- Lugar
- platão
- Inteligência de Dados Platão
- PlatãoData
- formuladores de políticas
- possível
- Publique
- potencial
- impedindo
- Prevenção
- anterior
- prêmio
- promissor
- comprovado
- público
- Empurrar
- Python
- elevando
- alcance
- Chega
- receber
- reconhecimento
- a que se refere
- repetir
- Informou
- requeridos
- pesquisadores
- resiliente
- responsabilidade
- Recompensa
- Subir
- Risco
- riscos
- corrida
- s
- scams
- segundo
- setor
- segurança
- visto
- enviar
- envio
- Serviços
- Loja
- rede de apoio social
- mostrando
- semelhante
- desde
- pequeno
- pequenas empresas
- So
- Redes Sociais
- meios de comunicação social
- solução
- Soluções
- alguns
- Parecer
- fonte
- Etapa
- Ainda
- mais rigoroso
- enviar
- entraram com sucesso
- fornecedor
- Tire
- tomar
- Target
- alvejando
- tecnologia
- tecnológica
- Tecnologia
- Tender
- do que
- que
- A
- deles
- Eles
- Lá.
- Este
- deles
- isto
- pensamento
- ameaça
- três
- tempo
- vezes
- para
- TOM
- também
- ferramentas
- topo
- comércio
- Trem
- Training
- Uk
- compreender
- até
- usar
- usava
- utilização
- variedade
- viável
- Vídeo
- voz
- VOZES
- aviso
- foi
- we
- fui
- qual
- QUEM
- Largo
- generalizada
- precisarão
- Fio
- de
- Atividades:
- seria
- WSJ
- ano
- anos
- Iorque
- zefirnet