La Federal Trade Commission (FTC) promette una ricompensa di 25,000 dollari per la migliore soluzione per combattere la crescente minaccia della clonazione vocale tramite intelligenza artificiale.
A volte definiti deepfake audio, il numero di servizi online che offrono funzionalità di clonazione vocale facili da usare è proliferato da quando l’intelligenza artificiale generativa è diventata mainstream, sollevando preoccupazioni sul suo potenziale abuso negli attacchi informatici.
Ad esempio, una minaccia diffusa potrebbe comportare lo spoofing delle voci degli amministratori delegati per impersonificarli e ordinare al dipartimento finanziario di trasferire denaro sul conto di un utente malintenzionato. Anche amici e familiari potrebbero essere indotti con l’inganno a inviare denaro ai propri cari artisti dello spettacolo i loro mezzi di sussistenza potrebbero essere minacciati se la tecnologia dovesse continuare a maturare.
Le parti interessate hanno tempo fino al 12 gennaio per presentare le loro idee per contribuire ad affrontare le frodi di clonazione vocale basate sull’intelligenza artificiale, concentrandosi principalmente sulla prevenzione, il monitoraggio e la valutazione della tecnologia.
“Questo sforzo può aiutare a portare avanti idee per mitigare i rischi a monte, proteggendo i consumatori, i professionisti creativi e le piccole imprese dai danni della clonazione vocale prima che il danno raggiunga il consumatore”, ha affermato la FTC. disse.
“Potrebbe anche aiutare a promuovere idee per mitigare i rischi a livello dei consumatori. E se non emergeranno idee praticabili, ciò invierà un avvertimento critico e tempestivo ai politici affinché dovrebbero prendere in considerazione limiti più severi all’uso di questa tecnologia, data la sfida nel prevenire lo sviluppo dannoso di applicazioni sul mercato”.
Le proposte verranno valutate in base alla fattibilità dell'esecuzione e dell'amministrazione, alla resilienza ai cambiamenti tecnologici e all'attenzione con cui si considera come la responsabilità e la responsabilità verrebbero attribuite alle aziende, tra le altre misure.
Il primo premio in palio è di 25,000 dollari, il che non sembra una miniera d’oro considerando le potenziali ampie applicazioni che una soluzione ingegnosa potrebbe avere.
Anche il secondo classificato riceverà 4,000 dollari, tre menzioni d'onore riceveranno 2,000 dollari ciascuna per i loro problemi e le organizzazioni di 10 o più persone riceveranno un premio di riconoscimento senza contanti.
Abusi vocali tramite intelligenza artificiale in azione
L’efficacia della clonazione vocale tramite intelligenza artificiale è stata dimostrata in casi ripetuti nell’ultimo anno. Esperti del negozio di sicurezza slovacco ESET ha mostrato come si può realizzare il già citato esempio di amministratori delegati falsificati.
In effetti, è stato un problema per anni prima che l’intelligenza artificiale generativa arrivasse nelle mani della persona media. Una società energetica britannica lo era prosciugato di $ 243,000 nel 2019 dopo che il suo amministratore delegato è stato incaricato di inviare una grossa somma a un fornitore ungherese.
Un New York Times rapporto, sempre dei 12 mesi precedenti, ha dettagliato una serie di casi che hanno preso di mira con successo il settore finanziario, inducendo le banche a spostare denaro da quelli che credevano fossero veri clienti. Lui Reg ha anche riferito su simili attacchi avvenuti negli Emirati Arabi Uniti fin da 2021.
Anche le truffe romantiche sono diffuse, con un inglese che si innamora di a ha falsificato Kevin Costner, e anche i criminali hanno dimostrato di non essere al di sopra dell'esecuzione truffe “emergenza famiglia”. – quelli che prendono di mira i genitori con le voci clonate dei loro figli che chiedono soldi per pagare la cauzione, per esempio.
Più esempi sinistri ho visto madri rispondere alle chiamate presumibilmente delle loro figlie tenute in ostaggio da “rapitori” che chiedono ingenti riscatti.
La clonazione della voce è resa possibile fornendo a un modello di intelligenza artificiale dati di addestramento sufficienti per comprendere il suono, il tono, il ritmo, l’inflessione e altre sfumature della voce di un individuo. Si ritiene che le celebrità e altri personaggi pubblici corrano un forte rischio di questi attacchi, dato il numero di registrazioni delle loro voci presenti online.
Con l'avvento dei social media e della cultura della creazione di contenuti video, anche molte non celebrità e persino i bambini hanno abbastanza materiale online per formare un modello in modo efficace.
I ricercatori di Kaspersky hanno esaminato l’aumento della clonazione vocale tramite intelligenza artificiale lo scorso anno e hanno scoperto un’ampia varietà di strumenti open source disponibili gratuitamente in grado di generare voci clonate utilizzando la tecnologia AI. Tuttavia, sostenevano che per ottenere un clone convincente e funzionante, era necessario un po’ di know-how Python e qualche ritocco da parte del clonatore.
Tuttavia, le offerte a pagamento tendono ad essere molto più efficaci. I ricercatori hanno sottolineato Il modello VALL-E di Microsoft che presumibilmente potrebbe generare un clone decente con soli tre secondi di audio vocale utilizzati come dati di addestramento.
Esistono anche altre soluzioni a pagamento che funzionano meglio di quelle gratuite, ma queste sono ancora solo nella fase iniziale di sviluppo, quindi possiamo aspettarci che l'accuratezza e l'efficacia di questi modelli migliorino nel tempo. ®
- Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
- PlatoData.Network Generativo verticale Ai. Potenzia te stesso. Accedi qui.
- PlatoAiStream. Intelligenza Web3. Conoscenza amplificata. Accedi qui.
- PlatoneESG. Carbonio, Tecnologia pulita, Energia, Ambiente, Solare, Gestione dei rifiuti. Accedi qui.
- Platone Salute. Intelligence sulle biotecnologie e sulle sperimentazioni cliniche. Accedi qui.
- Fonte: https://go.theregister.com/feed/www.theregister.com/2024/01/05/ftc_voice_cloning_solution/
- :ha
- :È
- :non
- $ SU
- 000
- 10
- 12
- 12 mesi
- 2019
- 2021
- 7
- a
- sopra
- abuso
- Il mio account
- precisione
- indirizzo
- amministrare
- avanzare
- Dopo shavasana, sedersi in silenzio; saluti;
- ancora
- contro
- AI
- anche
- tra
- an
- ed
- applicazioni
- SONO
- AS
- chiedendo
- valutato
- At
- attacchi
- Audio
- disponibile
- media
- premio
- precedente
- cauzione
- Banche
- basato
- BE
- stato
- prima
- creduto
- MIGLIORE
- Meglio
- Po
- ampio
- aziende
- ma
- by
- Bandi
- è venuto
- Materiale
- trasporto
- casi
- Contanti
- Senza soldi
- celebrità
- ceo
- CEO
- Challenge
- Modifiche
- Bambini
- clienti
- CNN
- CO
- combattere
- commissione
- Aziende
- azienda
- preoccupazioni
- Prendere in considerazione
- considerando
- Consumer
- Consumatori
- contenuto
- creazione di contenuti
- continua
- potuto
- creazione
- Creative
- criminali
- critico
- Cultura
- attacchi informatici
- dati
- deepfakes
- Richiesta
- Shirts Department
- dettagliati
- Mercato
- scoperto
- do
- doesn
- ogni
- Presto
- facile da usare
- Efficace
- in maniera efficace
- efficacia
- sforzo
- emergere
- emergenza
- energia
- abbastanza
- valutazione
- Anche
- esempio
- eseguire
- esistere
- attenderti
- esperti
- strutture
- fatto
- Caduta
- famiglie
- famiglia
- lontano
- fattibile
- Federale
- Federal Trade Commission
- alimentazione
- Cifre
- finanziare
- messa a fuoco
- Nel
- Avanti
- frode
- Gratis
- liberamente
- amici
- da
- FTC
- generare
- generativo
- AI generativa
- genuino
- ottenere
- dato
- Crescita
- Mani
- nuocere
- dannoso
- Harms
- Avere
- Eroe
- Aiuto
- Come
- Tuttavia
- HTML
- HTTPS
- Enorme
- Ungherese
- idee
- if
- competenze
- in
- studente indipendente
- individuale
- Inflessione
- ai miglioramenti
- coinvolgere
- problema
- IT
- SUO
- Gennaio
- jpg
- ad appena
- grandi
- Cognome
- L'anno scorso
- Livello
- responsabilità
- piace
- limiti
- guardò
- amato
- fatto
- principalmente
- corrente principale
- molti
- mercato
- materiale
- alunni
- Maggio..
- analisi
- Media
- menziona
- Ridurre la perdita dienergia con una
- modello
- modelli
- soldi
- monitoraggio
- mese
- Scopri di più
- in movimento
- molti
- New
- New York
- New York Times
- ombreggiatura
- numero
- of
- MENO
- offrire
- offerta
- offerte
- Offerte
- on
- ONE
- quelli
- online
- esclusivamente
- aprire
- open source
- or
- organizzazioni
- Altro
- su
- ancora
- pagato
- genitori
- parte
- parti
- passato
- Persone
- persona
- posto
- Platone
- Platone Data Intelligence
- PlatoneDati
- politici
- possibile
- Post
- potenziale
- prevenzione
- Frodi
- precedente
- premio
- Scelto dai professionisti
- promettente
- comprovata
- la percezione
- Spingi
- Python
- raccolta
- gamma
- raggiunge
- ricevere
- riconoscimento
- di cui
- ripetere
- Segnalati
- necessario
- ricercatori
- elastico
- responsabilità
- Premiare
- Aumento
- Rischio
- rischi
- running
- s
- truffe
- secondo
- settore
- problemi di
- visto
- inviare
- invio
- Servizi
- Shop
- dovrebbero
- mostrato
- simile
- da
- piccole
- le piccole imprese
- So
- Social
- Social Media
- soluzione
- Soluzioni
- alcuni
- Suono
- Fonte
- Stage
- Ancora
- più severe
- inviare
- Con successo
- fornitore
- Fai
- presa
- Target
- mira
- Tech
- tecnologico
- Tecnologia
- Tendono
- di
- che
- Il
- loro
- Li
- Là.
- Strumenti Bowman per analizzare le seguenti finiture:
- di
- questo
- pensiero
- minaccia
- tre
- tempo
- volte
- a
- TONE
- pure
- strumenti
- top
- commercio
- Treni
- Training
- Uk
- capire
- fino a quando
- uso
- utilizzato
- utilizzando
- varietà
- vitale
- Video
- Voce
- VOCI
- identificazione dei warning
- Prima
- we
- è andato
- quale
- OMS
- largo
- molto diffuso
- volere
- Wire
- con
- Lavora
- sarebbe
- WSJ
- anno
- anni
- York
- zefiro