I ricercatori di IBM Security hanno rivelato una nuova sorprendente minaccia nell’intelligenza artificiale: la capacità di manipolare conversazioni dal vivo attraverso una tecnica nota come “audio-jacking”.
Utilizzando l’intelligenza artificiale generativa e la tecnologia audio deepfake, questo metodo può intercettare e alterare le parole pronunciate in tempo reale, ponendo rischi senza precedenti nella comunicazione digitale.
Leggi anche: Il rilevamento dei deepfake tramite intelligenza artificiale progredisce contro le crescenti sfide di inganno
Esporre la minaccia del jacking audio
Il jack audio funziona elaborando l'audio dal vivo da comunicazioni bidirezionali, come le telefonate, e cercando parole chiave o frasi specifiche. Quando vengono rilevati questi trigger, l’intelligenza artificiale interviene e sostituisce l’audio autentico con una versione deepfake manipolata prima che raggiunga la sua destinazione. Uno straordinario illustrazione La tecnica è stata fornita dai ricercatori IBM, che hanno alterato le informazioni sul conto bancario pronunciate durante una conversazione senza essere scoperti.
Jack audio: utilizzo dell'intelligenza artificiale generativa per distorcere le transazioni audio dal vivo: l'ascesa dell'intelligenza artificiale generativa, inclusi i modelli text-to-image, text-to-speech e large Language Model (LLM), ha cambiato in modo significativo il nostro lavoro e la nostra vita personale. Mentre questi progressi… https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
— Shah Sheikh (@shah_sheikh) 1 Febbraio 2024
La facilità con cui si può ideare una prova di concetto per questo attacco è sconcertante. I ricercatori hanno notato che la parte più impegnativa non era la creazione dell’intelligenza artificiale, ma piuttosto gli aspetti tecnici della registrazione e dell’elaborazione dell’audio dal vivo. Questa facilità di sviluppo rappresenta un significativo allontanamento dalle aspettative tradizionali, in cui un tale sforzo avrebbe richiesto una notevole esperienza in diversi campi dell'informatica.
“Costruire questo PoC è stato sorprendentemente e spaventosamente facile. Abbiamo passato la maggior parte del tempo a capire come catturare l’audio dal microfono e trasmetterlo all’intelligenza artificiale generativa”.
In questo schema, il ruolo di AI generativa è critico. Utilizzando solo tre secondi della voce di una persona, la tecnologia può fabbricare un clone convincente per produrre deepfake legittimi su richiesta. Questa capacità, disponibile tramite API, indica una tendenza preoccupante nel processo di democratizzazione degli strumenti di manipolazione avanzati.
"Al giorno d'oggi, abbiamo bisogno solo di tre secondi della voce di un individuo per clonarla e utilizzare un'API di sintesi vocale per generare voci false autentiche."
Implicazioni e potenziali abusi
Gli effetti dell’audiojacking, tuttavia, vanno oltre la semplice frode finanziaria. Tale tecnologia è in grado di censurare in tempo reale, alterando le trasmissioni in diretta, come notizie e discorsi politici, senza essere scoperti. Queste capacità compromettono l’integrità delle informazioni, con profonde implicazioni per la democrazia e la fiducia pubblica.
Con la bassa barriera contro un attacco di jack audio, l'ingegneria sociale sofisticata o il phishing sono stati notevolmente ridotti. Questa facilità solleva quindi il problema della diffusione di tali attacchi, ponendo così sfide alle attuali misure di sicurezza e richiedendo nuovi meccanismi di difesa.
"La maturità di questo PoC segnalerebbe un rischio significativo per i consumatori, soprattutto... Più questo attacco viene perfezionato, più ampia è la rete di vittime che potrebbe gettare."
Il fenomeno del jack audio sottolinea una questione più ampia nell’ambito dello sviluppo dell’intelligenza artificiale: la duplice natura dell’intelligenza artificiale tecnologie generative. Da un lato, sono una fonte di possibilità illimitate per l’innovazione e la creatività; dall’altro, non bisogna trascurare il loro potenziale mal utilizzato. L’incidente solleva una domanda cruciale: come può la società sfruttare i vantaggi dell’intelligenza artificiale proteggendosi al tempo stesso dalle sue applicazioni più oscure?
Navigare nel futuro della sicurezza dell’intelligenza artificiale
Con il mutevole panorama delle minacce digitali, l'identificazione del jack audio da parte di IBM Security è un avvertimento essenziale per essere vigili e modernizzare la sicurezza informatica. L’evoluzione delle contromisure, inclusi algoritmi di rilevamento innovativi e tecniche di crittografia più vigorose, è fondamentale per combattere minacce così sofisticate.
Inoltre, questa divulgazione rivela che le questioni etiche sono parte integrante del progetto Ricerca sull'intelligenza artificiale e sviluppo. La definizione di regole e parametri di riferimento per un utilizzo responsabile dell’intelligenza artificiale è essenziale per affrontare i pericoli di tecnologie così potenti.
- Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
- PlatoData.Network Generativo verticale Ai. Potenzia te stesso. Accedi qui.
- PlatoAiStream. Intelligenza Web3. Conoscenza amplificata. Accedi qui.
- PlatoneESG. Carbonio, Tecnologia pulita, Energia, Ambiente, Solare, Gestione dei rifiuti. Accedi qui.
- Platone Salute. Intelligence sulle biotecnologie e sulle sperimentazioni cliniche. Accedi qui.
- Fonte: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- :ha
- :È
- :non
- $ SU
- 1
- 11
- 7
- 8
- a
- capacità
- Il mio account
- operanti in
- indirizzamento
- Avanzate
- contro
- AI
- Algoritmi
- alterato
- an
- ed
- api
- API
- applicazioni
- SONO
- artificiale
- intelligenza artificiale
- AS
- At
- attacco
- attacchi
- Audio
- autentico
- disponibile
- Banca
- conto bancario
- barriera
- BE
- stato
- prima
- essendo
- parametri di riferimento
- vantaggi
- Al di là di
- più ampia
- ma
- by
- Bandi
- Materiale
- funzionalità
- capace
- catturare
- Censura
- sfide
- impegnativo
- cambiato
- la lotta contro
- Comunicazione
- Comunicazioni
- compromesso
- computer
- Informatica
- notevole
- Consumatori
- Conversazione
- Conversazioni
- potuto
- Creazione
- la creatività
- critico
- Corrente
- Cybersecurity
- pericoli
- più scuro
- inganno
- deepfakes
- Difesa
- Richiesta
- Democrazia
- democratizzazione
- partenza
- destinazione
- rilevato
- rivelazione
- Mercato
- digitale
- Rivelazione
- discussioni
- doppio
- durante
- alleviare
- facile
- effetti
- sforzo
- crittografia
- Ingegneria
- essential
- etico
- evoluzione
- le aspettative
- competenza
- esperti
- falso
- campi
- finanziario
- Frodi finanziarie
- Trovate
- Nel
- frode
- da
- futuro
- generare
- generativo
- AI generativa
- Go
- Crescita
- cura
- cintura da arrampicata
- Avere
- Come
- Tutorial
- Tuttavia
- HTTPS
- IBM
- Identificazione
- implicazioni
- in
- incidente
- Compreso
- informazioni
- Innovazione
- creativi e originali
- integrale
- interezza
- Intelligence
- problema
- sicurezza
- IT
- SUO
- ad appena
- parole chiave
- conosciuto
- paesaggio
- Lingua
- grandi
- legittimo
- vivere
- Lives
- cerca
- Basso
- bassa barriera
- manipolata
- Manipolazione
- maturità
- analisi
- meccanismi di
- metodo
- microfono
- modelli
- modernizzare
- Scopri di più
- maggior parte
- Natura
- Bisogno
- rete
- New
- notizie
- noto
- of
- on
- ONE
- esclusivamente
- or
- Altro
- nostro
- su
- ancora
- parte
- cronologia
- fenomeno
- phishing
- telefono
- telefonate
- Frasi
- centrale
- Platone
- Platone Data Intelligence
- PlatoneDati
- PoC
- punti
- politico
- possibilità
- potenziale
- potente
- processi
- lavorazione
- produrre
- profonda
- istruzioni
- purché
- la percezione
- fiducia pubblica
- domanda
- solleva
- piuttosto
- raggiunge
- Leggi
- di rose
- tempo reale
- registrazione
- Ridotto
- raffinato
- rappresenta
- ricercatori
- Rivelato
- Rivela
- Aumento
- Rischio
- rischi
- Ruolo
- norme
- salvaguardare
- schema
- Scienze
- secondo
- problemi di
- Misure di sicurezza
- regolazione
- alcuni
- sceicco
- MUTEVOLE
- dovrebbero
- Signal
- significativa
- significativamente
- Social
- Ingegneria sociale
- Società
- sofisticato
- Fonte
- specifico
- discorsi
- esaurito
- parlato
- Diffondere
- sorprendente
- Passi
- Stupendo
- tale
- sorprendentemente
- prende
- per l'esame
- tecniche
- Tecnologie
- Tecnologia
- Text-to-Speech
- che
- Il
- Il futuro
- loro
- poi
- Strumenti Bowman per analizzare le seguenti finiture:
- di
- questo
- minaccia
- minacce
- tre
- Attraverso
- così
- tempo
- a
- strumenti
- tradizionale
- Le transazioni
- Trend
- vero
- Affidati ad
- sottolineature
- illimitato
- inaudito
- Impiego
- uso
- utilizzando
- versione
- via
- vittime
- Voce
- VOCI
- identificazione dei warning
- Prima
- we
- quando
- quale
- while
- OMS
- più ampia
- con
- entro
- senza
- parole
- Lavora
- lavori
- sarebbe
- zefiro