Pesquisadores da IBM Security revelaram uma nova ameaça surpreendente na inteligência artificial: a capacidade de manipular conversas ao vivo por meio de uma técnica conhecida como “audio-jacking”.
Utilizando IA generativa e tecnologia de áudio deepfake, este método pode interceptar e alterar palavras faladas em tempo real, representando riscos sem precedentes na comunicação digital.
Veja também: A detecção de AI Deepfake avança contra os crescentes desafios de engano
Expondo a ameaça de jacking de áudio
A tomada de áudio funciona processando áudio ao vivo de comunicações bidirecionais, como chamadas telefônicas, e procurando palavras-chave ou frases específicas. Quando esses gatilhos são detectados, a IA intervém e substitui o áudio autêntico por uma versão deepfake manipulada antes de chegar ao seu destino. Um deslumbrante ilustração Parte da técnica é fornecida por pesquisadores da IBM, que alteraram informações de contas bancárias faladas durante uma conversa sem serem detectadas.
Audio-jacking: Usando IA generativa para distorcer transações de áudio ao vivo: A ascensão da IA generativa, incluindo texto para imagem, texto para fala e modelos de linguagem grande (LLMs), mudou significativamente nosso trabalho e nossas vidas pessoais. Embora esses avanços… https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
- Shah Sheikh (@shah_sheikh) 1 de fevereiro de 2024
A facilidade com que uma prova de conceito para este ataque pode ser concebida é desconcertante. Os pesquisadores observaram que a parte mais desafiadora não foi a criação de IA, mas sim os aspectos técnicos da gravação e processamento de áudio ao vivo. Esta facilidade de desenvolvimento representa um afastamento significativo das expectativas tradicionais, em que tal esforço teria exigido conhecimentos consideráveis em vários campos da ciência da computação.
“Construir este PoC foi surpreendente e assustadoramente fácil. Passamos a maior parte do tempo descobrindo como capturar o áudio do microfone e alimentá-lo para a IA generativa.”
Neste esquema, o papel do IA generativa é crítico. Usando apenas três segundos da voz de uma pessoa, a tecnologia pode fabricar um clone convincente para produzir deepfakes legítimos sob demanda. Esta capacidade, disponível através de APIs, aponta para uma tendência preocupante no processo de democratização de ferramentas avançadas de manipulação.
“Hoje em dia, precisamos apenas de três segundos da voz de um indivíduo para cloná-lo e usar uma API de conversão de texto em fala para gerar vozes falsas autênticas.”
Implicações e possíveis usos indevidos
Os efeitos do audiojacking, no entanto, vão além da fraude financeira. Tal tecnologia é capaz de censurar em tempo real, alterando transmissões ao vivo, como notícias e discursos políticos, sem detecção. Estas capacidades comprometem a integridade da informação, com implicações profundas para a democracia e a confiança pública.
Com a barreira baixa para um ataque de jacking de áudio, a engenharia social sofisticada ou o phishing foram significativamente reduzidos. Esta facilidade levanta então questões de propagação de tais ataques, colocando assim desafios às actuais medidas de segurança e exigindo novos mecanismos de defesa.
“A maturidade deste PoC sinalizaria um risco significativo para os consumidores, acima de tudo… Quanto mais este ataque for refinado, maior será a rede de vítimas que poderá lançar.”
O fenômeno do audio jacking ressalta uma questão mais ampla no desenvolvimento da IA: a natureza dupla do tecnologias generativas. Por um lado, são uma fonte de possibilidades ilimitadas de inovação e criatividade; por outro lado, o seu potencial mal utilizado não deve ser negligenciado. O incidente levanta uma questão fundamental: como pode a sociedade aproveitar os benefícios da IA e, ao mesmo tempo, proteger-se contra as suas aplicações mais obscuras?
Navegando no futuro da segurança de IA
Com o cenário mutável das ameaças digitais, a identificação de jacking de áudio pela IBM Security é um aviso essencial para estar vigilante e modernizar a segurança cibernética. A evolução das contramedidas, incluindo algoritmos de detecção inovadores e técnicas de encriptação mais vigorosas, é fundamental para combater ameaças tão sofisticadas.
Além disso, esta divulgação revela que as questões éticas são parte integrante da Pesquisa de IA e o desenvolvimento. Estabelecer regras e parâmetros de referência para uma utilização responsável da IA é essencial para enfrentar os perigos destas tecnologias poderosas.
- Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
- PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
- PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
- PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
- PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
- Fonte: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- :tem
- :é
- :não
- $UP
- 1
- 11
- 7
- 8
- a
- habilidade
- Conta
- em
- endereçando
- avançado
- contra
- AI
- algoritmos
- alteradas
- an
- e
- api
- APIs
- aplicações
- SOMOS
- artificial
- inteligência artificial
- AS
- At
- ataque
- Ataques
- auditivo
- Autêntico
- disponível
- Bank
- conta bancária
- barreira
- BE
- sido
- antes
- ser
- benchmarks
- Benefícios
- Pós
- mais amplo
- mas a
- by
- chamadas
- CAN
- capacidades
- capaz
- capturar
- Censura
- desafios
- desafiante
- mudado
- combate
- Comunicação
- Comunicações
- compromisso
- computador
- Ciência da Computação
- considerável
- Consumidores
- Conversa
- conversas
- poderia
- Criar
- criatividade
- crítico
- Atual
- Cíber segurança
- perigos
- mais escura
- engano
- deepfakes
- Defesa
- Demanda
- Democracia
- democratização
- saída
- destino
- detectou
- Detecção
- Desenvolvimento
- digital
- divulgação
- discussões
- dual
- durante
- facilidade
- fácil
- efeitos
- esforço
- criptografia
- Engenharia
- essencial
- considerações éticas
- evolução
- expectativas
- experiência
- especialistas
- falsificação
- Campos
- financeiro
- fraude financeira
- Encontre
- Escolha
- fraude
- da
- futuro
- gerar
- generativo
- IA generativa
- Go
- Crescente
- mão
- arreios
- Ter
- Como funciona o dobrador de carta de canal
- Como Negociar
- Contudo
- HTTPS
- IBM
- identificação
- implicações
- in
- incidente
- Incluindo
- INFORMAÇÕES
- Inovação
- inovadores
- integral
- integridade
- Inteligência
- emitem
- questões
- IT
- ESTÁ
- apenas por
- palavras-chave
- conhecido
- paisagem
- língua
- grande
- legítimo
- viver
- Vidas
- procurando
- Baixo
- barreira baixa
- manipulado
- Manipulação
- maturidade
- medidas
- mecanismos
- método
- microfone
- modelos
- modernizar
- mais
- a maioria
- Natureza
- você merece...
- líquido
- Novo
- notícias
- notado
- of
- on
- ONE
- só
- or
- Outros
- A Nossa
- Fora
- Acima de
- parte
- pessoal
- fenómeno
- Phishing
- telefone
- chamadas telefônicas
- Frases
- essencial
- platão
- Inteligência de Dados Platão
- PlatãoData
- PoC
- pontos
- político
- possibilidades
- potencial
- poderoso
- processo
- em processamento
- produzir
- profundo
- solicita
- fornecido
- público
- confiança publica
- questão
- raises
- em vez
- Chega
- Leia
- reais
- em tempo real
- gravação
- Reduzido
- refinado
- representa
- pesquisadores
- Revelado
- revela
- Subir
- Risco
- riscos
- Tipo
- regras
- salvaguardando
- esquema
- Ciência
- segundo
- segurança
- Medidas de Segurança
- contexto
- vários
- sheikh
- MUDANÇA
- rede de apoio social
- Signal
- periodo
- de forma considerável
- Redes Sociais
- Engenharia social
- Sociedade
- sofisticado
- fonte
- específico
- discursos
- gasto
- falado
- Espalhando
- surpreendente
- Passos
- Assombroso
- tal
- surpreendentemente
- toma
- técnica
- técnicas
- Tecnologias
- Tecnologia
- Texto a Voz
- que
- A
- O Futuro
- deles
- então
- Este
- deles
- isto
- ameaça
- ameaças
- três
- Através da
- Assim
- tempo
- para
- ferramentas
- tradicional
- Transações
- Trend
- verdadeiro
- Confiança
- sublinhados
- ilimitado
- sem precedente
- Uso
- usar
- utilização
- versão
- via
- vítimas
- voz
- VOZES
- aviso
- foi
- we
- quando
- qual
- enquanto
- QUEM
- mais largo
- de
- dentro
- sem
- palavras
- Atividades:
- trabalho
- seria
- zefirnet