Investigadores de IBM Security han revelado una nueva y sorprendente amenaza en la inteligencia artificial: la capacidad de manipular conversaciones en vivo mediante una técnica conocida como "jacking de audio".
Utilizando IA generativa y tecnología de audio deepfake, este método puede interceptar y alterar palabras habladas en tiempo real, lo que plantea riesgos sin precedentes en la comunicación digital.
Lea también: La detección de deepfake mediante IA avanza frente a los crecientes desafíos del engaño
Exponiendo la amenaza del jacking de audio
El jacking de audio funciona procesando audio en vivo de comunicaciones bidireccionales, como llamadas telefónicas, y buscando palabras o frases clave específicas. Cuando se detectan estos factores desencadenantes, la IA interviene y reemplaza el audio auténtico con una versión deepfake manipulada antes de que llegue a su destino. Un impresionante ilustración La técnica la proporcionan investigadores de IBM, quienes alteraron la información de la cuenta bancaria que se habló durante una conversación sin ser detectado.
Audio-jacking: uso de IA generativa para distorsionar transacciones de audio en vivo: el auge de la IA generativa, incluidos texto a imagen, texto a voz y modelos de lenguaje de gran tamaño (LLM), ha cambiado significativamente nuestra vida laboral y personal. Si bien estos avances... https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
- Shah Sheikh (@shah_sheikh) Febrero 1, 2024
La facilidad con la que se puede idear una prueba de concepto para este ataque es desconcertante. Los investigadores notaron que la parte más desafiante no fue crear IA sino los aspectos técnicos de la grabación y el procesamiento de audio en vivo. Esta facilidad de desarrollo representa una desviación significativa de las expectativas tradicionales, en las que tal esfuerzo habría requerido una experiencia considerable en varios campos de la informática.
“Construir este PoC fue sorprendente y aterradoramente fácil. Pasamos la mayor parte del tiempo descubriendo cómo capturar audio desde el micrófono y enviar el audio a la IA generativa”.
En este esquema, el papel de IA generativa es critico. Utilizando sólo tres segundos de la voz de una persona, la tecnología puede fabricar un clon convincente para producir deepfakes legítimos a pedido. Esta capacidad, disponible a través de API, apunta a una tendencia inquietante en el proceso de democratización de las herramientas de manipulación avanzadas.
"Hoy en día, sólo necesitamos tres segundos de la voz de un individuo para clonarla y usar una API de conversión de texto a voz para generar voces falsas auténticas".
Implicaciones y posibles usos indebidos
Sin embargo, los efectos del audiojacking van más allá del simple fraude financiero. Esta tecnología es capaz de realizar censura en tiempo real, alterando transmisiones en vivo, como noticias y discursos políticos, sin ser detectado. Estas capacidades comprometen la integridad de la información, con profundas implicaciones para la democracia y la confianza pública.
Con la barrera baja para un ataque de secuestro de audio, la ingeniería social sofisticada o el phishing se han reducido significativamente. Esta facilidad plantea entonces problemas de propagación de dichos ataques, lo que plantea desafíos a las medidas de seguridad actuales y requiere nuevos mecanismos de defensa.
"La madurez de este PoC señalaría un riesgo significativo para los consumidores, principalmente... Cuanto más refinado sea este ataque, más amplia será la red de víctimas que podría generar".
El fenómeno del jacking de audio subraya un problema más amplio dentro del desarrollo de la IA: la naturaleza dual de tecnologías generativas. Por un lado, son una fuente de posibilidades ilimitadas de innovación y creatividad; por otro, no se debe descuidar su potencial mal utilizado. El incidente plantea una pregunta fundamental: ¿cómo puede la sociedad aprovechar los beneficios de la IA y al mismo tiempo protegerse contra sus aplicaciones más oscuras?
Navegando por el futuro de la seguridad de la IA
Con el panorama cambiante de las amenazas digitales, la identificación del conector de audio por parte de IBM Security es una advertencia esencial para estar atentos y modernizar la ciberseguridad. La evolución de las contramedidas, incluidos algoritmos de detección innovadores y técnicas de cifrado más vigorosas, es fundamental para combatir amenazas tan sofisticadas.
Además, esta divulgación revela que las cuestiones éticas son parte integral de Investigación de IA y desarrollo. Establecer reglas y puntos de referencia para el uso responsable de la IA es esencial para abordar los peligros de tecnologías tan poderosas.
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
- PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
- PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
- PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
- Fuente: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- :posee
- :es
- :no
- $ UP
- 1
- 11
- 7
- 8
- a
- capacidad
- Mi Cuenta
- a través de
- direccionamiento
- avanzado
- en contra
- AI
- algoritmos
- alterado
- an
- y
- abejas
- API
- aplicaciones
- somos
- artificial
- inteligencia artificial
- AS
- At
- atacar
- ataques
- audio
- Auténticos
- Hoy Disponibles
- Banca
- cuenta bancaria
- barrera
- BE
- esto
- antes
- "Ser"
- los puntos de referencia
- beneficios
- Más allá de
- más amplio
- pero
- by
- Calls
- PUEDEN
- capacidades
- capaz
- capturar
- Censura
- retos
- desafiante
- cambiado
- luchando
- Comunicación
- Comunicaciónes
- compromiso
- computadora
- Ciencias de la Computación
- considerable
- Clientes
- Conversación
- conversaciones
- podría
- Creamos
- creatividad
- crítico
- Current
- La Ciberseguridad
- peligros
- más oscuro
- engaño
- deepfakes
- Defensa
- Demanda
- Democracy
- democratización
- salida
- destino
- detectado
- Detección
- Desarrollo
- digital
- revelación
- discusiones
- dual
- durante
- facilidad
- de forma sencilla
- los efectos
- esfuerzo
- cifrado
- Ingeniería
- esencial
- ético
- evolución
- las expectativas
- Experiencia
- expertos
- falso
- Terrenos
- financiero
- fraude financiero
- Encuentre
- fraude
- Desde
- futuras
- generar
- generativo
- IA generativa
- Go
- Creciendo
- mano
- aprovechar
- Tienen
- Cómo
- Como Hacer
- Sin embargo
- HTTPS
- IBM
- Identificación
- implicaciones
- in
- incidente
- Incluye
- información
- Innovation
- originales
- un elemento indispensable
- integridad
- Intelligence
- cuestiones
- IT
- SUS
- solo
- las palabras claves
- conocido
- paisaje
- idioma
- large
- legítima
- para vivir
- Vidas
- mirando
- Baja
- barrera baja
- manipulado
- Manipulación
- madurez
- medidas
- los mecanismos de
- Método
- micrófono
- modelos
- modernizar
- más,
- MEJOR DE TU
- Naturaleza
- ¿ Necesita ayuda
- red
- Nuevo
- noticias
- señaló
- of
- on
- ONE
- , solamente
- or
- Otro
- "nuestr
- salir
- Más de
- parte
- con
- un fenómeno mundial
- suplantación de identidad
- teléfono
- llamadas telefónicas
- frases
- esencial
- Platón
- Inteligencia de datos de Platón
- PlatónDatos
- PoC
- puntos
- político
- POSIBILIDADES
- posible
- poderoso
- tratamiento
- producir
- un profundo
- ideas
- previsto
- público
- confianza pública
- pregunta
- plantea
- más bien
- alcances
- Leer
- real
- en tiempo real
- vea la grabación
- Reducción
- refinado
- representa
- investigadores
- Revelado
- Revela
- Subir
- Riesgo
- riesgos
- Función
- reglas
- salvaguardar
- esquema
- Ciencia:
- segundos
- EN LINEA
- Medidas de Seguridad
- pólipo
- Varios
- jeque
- CAMBIANDO
- tienes
- Signal
- importante
- significativamente
- Social
- Ingeniería social
- Sociedades
- sofisticado
- Fuente
- soluciones y
- discursos
- gastado
- habla
- esparcimiento
- alarmante
- pasos
- Maravillosos
- tal
- asombrosamente
- toma
- la técnica
- técnicas
- Tecnologías
- Tecnología
- Texto a voz
- esa
- La
- El futuro de las
- su
- luego
- Estas
- ellos
- así
- amenaza
- amenazas
- Tres
- A través de esta formación, el personal docente y administrativo de escuelas y universidades estará preparado para manejar los recursos disponibles que derivan de la diversidad cultural de sus estudiantes. Además, un mejor y mayor entendimiento sobre estas diferencias y similitudes culturales permitirá alcanzar los objetivos de inclusión previstos.
- Así
- equipo
- a
- tradicional
- Transacciones
- Tendencia
- verdadero
- Confía en
- subraya
- ilimitado
- sin precedentes
- Uso
- utilizan el
- usando
- versión
- vía
- las víctimas
- Voz
- VOCES
- advertencia
- fue
- we
- cuando
- que
- mientras
- QUIENES
- más ancho
- dentro de
- sin
- palabras
- Actividades:
- funciona
- se
- zephyrnet