Zvezna komisija za trgovino (FTC) obljublja nagrado v višini 25,000 $ za najboljšo rešitev za boj proti naraščajoči grožnji kloniranja glasu z umetno inteligenco.
Število spletnih storitev, ki jih včasih imenujemo globoke ponaredke zvoka, se je povečalo, odkar je generativna umetna inteligenca postala mainstream, kar zbuja pomisleke glede njene možnosti zlorabe pri kibernetskih napadih.
Splošno razširjena grožnja bi lahko na primer vključevala ponarejanje glasov izvršnih direktorjev, da bi se lažno predstavljali, in naročilo finančnemu oddelku, naj nakaže denar na račun napadalca. Prijatelji in družine bi lahko bili tudi prevarani, da bi pošiljali denar ljubljenim osebam in nastopajoči umetniki bi lahko bila njihova sredstva za preživetje ogrožena, če bi tehnologija še naprej dozorela.
Zainteresirane strani imajo čas do 12. januarja, da predložijo svoje zamisli za pomoč pri reševanju goljufij s kloniranjem glasu, ki temeljijo na umetni inteligenci, pri čemer se osredotočajo predvsem na preprečevanje, spremljanje in vrednotenje tehnologije.
"To prizadevanje lahko pomaga spodbujati ideje za zmanjšanje tveganj navzgor - zaščititi potrošnike, kreativne strokovnjake in mala podjetja pred škodo kloniranja glasu, preden škoda doseže potrošnika," FTC je dejal.
»Prav tako lahko pomaga pri napredovanju idej za zmanjšanje tveganj na ravni potrošnikov. In če se ne bodo pojavile izvedljive ideje, bo to kritično in zgodnje opozorilo oblikovalcem politik, da bi morali razmisliti o strožjih omejitvah uporabe te tehnologije glede na izziv pri preprečevanju škodljivega razvoja aplikacij na trgu.«
Prispevki bodo ocenjeni glede na to, kako izvedljivo bi bilo izvajanje in upravljanje, kako odporen je na tehnološke spremembe in kako premišljeno upoštevajo odgovornost in odgovornost med drugimi ukrepi.
Najvišja ponujena nagrada je 25,000 $, kar ne zveni kot zlati rudnik, če upoštevamo potencialne široke uporabe, ki jih lahko ima genialna rešitev.
Ena drugouvrščena bo prav tako prejela 4,000 $, trije častni priznanji bodo prejeli po 2,000 $ za svoje težave, organizacije z 10 ali več ljudmi pa bodo prejele brezgotovinsko priznanje.
Glasovna zloraba umetne inteligence v akciji
Učinkovitost kloniranja glasu z umetno inteligenco je bila dokazana v ponovljenih primerih v zadnjem letu. Strokovnjaki v slovaški varnostni trgovini ESET je pokazala, kako je mogoče izpeljati zgoraj omenjeni primer ponarejenih izvršnih direktorjev.
Pravzaprav je bilo to vprašanje že leta, preden je generativna umetna inteligenca prišla v roke povprečnega človeka. Energetsko podjetje iz Združenega kraljestva je bilo odtekel 243,000 $ leta 2019, potem ko je njen izvršni direktor dobil navodilo, naj pošlje veliko vsoto madžarskemu dobavitelju.
New York Times poročilo, spet iz prejšnjih 12 mesecev, je podrobno opisal vrsto primerov, ki so bili uspešno usmerjeni v finančni sektor in so banke prevarali, da so prenesle denar od tistih, za katere so verjeli, da so prave stranke. El Reg je tudi poročal o podobnih napadi v ZAE daljnega leta 2021.
Tudi romantične prevare so razširjene, pri čemer je en Britanec nasedel ponaredil Kevina Costnerja, kriminalci pa so prav tako pokazali, da niso nad izvajanjem »družinske nujne« prevare – tiste, ki na primer ciljajo na starše s kloniranimi glasovi svojih otrok, ki prosijo za denar za plačilo varščine.
Več zlovešči primeri so videli matere, kako sprejemajo klice svojih hčera, ki naj bi jih imeli za talce »ugrabitelji«, ki zahtevajo ogromne odkupnine.
Kloniranje glasu je omogočeno tako, da se modelu umetne inteligence posreduje dovolj podatkov za usposabljanje, da razume zvok, ton, tempo, pregib in druge nianse posameznikovega glasu. Znane osebnosti in druge javne osebnosti naj bi bili v veliki nevarnosti teh napadov glede na število posnetkov njihovih glasov, ki obstajajo na spletu.
Z vzponom socialnih medijev in kulture ustvarjanja video vsebin imajo tudi številne neslavne osebe in celo otroci na spletu dovolj materiala za učinkovito usposabljanje modela.
Raziskovalci družbe Kaspersky so lani preučili porast kloniranja glasu z umetno inteligenco in odkrili široko paleto prosto dostopnih odprtokodnih orodij, ki bi lahko ustvarila klonirane glasove z uporabo tehnologije umetne inteligence. Vendar so trdili, da je za vzpostavitev in delovanje prepričljivega klona potrebno malo znanja Pythona in nekaj poigravanja s strani klonirja.
Vendar pa so plačljive ponudbe veliko bolj učinkovite. Raziskovalci so opozorili na Microsoftov model VALL-E ki bi domnevno lahko ustvaril spodoben klon s samo tremi sekundami glasovnega zvoka, uporabljenega kot podatki za usposabljanje.
Obstajajo tudi druge plačljive rešitve, ki delujejo bolje od brezplačnih, vendar so te še vedno šele v zgodnji fazi razvoja, zato lahko pričakujemo, da se bosta natančnost in učinkovitost teh modelov sčasoma izboljšali. ®
- Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
- PlatoData.Network Vertical Generative Ai. Opolnomočite se. Dostopite tukaj.
- PlatoAiStream. Web3 Intelligence. Razširjeno znanje. Dostopite tukaj.
- PlatoESG. Ogljik, CleanTech, Energija, Okolje, sončna energija, Ravnanje z odpadki. Dostopite tukaj.
- PlatoHealth. Obveščanje o biotehnologiji in kliničnih preskušanjih. Dostopite tukaj.
- vir: https://go.theregister.com/feed/www.theregister.com/2024/01/05/ftc_voice_cloning_solution/
- :ima
- : je
- :ne
- $GOR
- 000
- 10
- 12
- 12 mesecev
- 2019
- 2021
- 7
- a
- nad
- zloraba
- Račun
- natančnost
- Naslov
- dajanje
- napredovanje
- po
- spet
- proti
- AI
- Prav tako
- med
- an
- in
- aplikacije
- SE
- AS
- sprašuje
- ocenili
- At
- Napadi
- audio
- Na voljo
- povprečno
- Nagrada
- nazaj
- zakup
- Banke
- temeljijo
- BE
- bilo
- pred
- Menimo
- BEST
- Boljše
- Bit
- široka
- podjetja
- vendar
- by
- poziva
- prišel
- CAN
- knjigovodska
- primeri
- Denar
- brezgotovinski
- znane osebnosti
- ceo
- direktorji
- izziv
- Spremembe
- Otroci
- stranke
- CNN
- CO
- boj proti
- Komisija
- Podjetja
- podjetje
- Skrbi
- Razmislite
- upoštevamo
- Potrošnik
- Potrošniki
- vsebina
- ustvarjanje vsebine
- naprej
- bi
- Oblikovanje
- Creative
- Kriminalci
- kritično
- Kultura
- kibernetski napadi
- datum
- deepfakes
- Povpraševanje
- Oddelek
- podrobno
- Razvoj
- odkril
- do
- ne
- vsak
- Zgodnje
- enostaven za uporabo
- Učinkovito
- učinkovito
- učinkovitost
- prizadevanje
- pojavljajo
- v sili
- energija
- dovolj
- Ocena
- Tudi
- Primer
- izvršiti
- obstajajo
- pričakovati
- Strokovnjaki
- objekti
- Dejstvo
- Falling
- družine
- družina
- daleč
- izvedljivo
- Zvezna
- Zvezna komisija za trgovino
- hranjenje
- Številke
- financiranje
- osredotoča
- za
- Naprej
- goljufija
- brezplačno
- prosto
- prijatelji
- iz
- FTC
- ustvarjajo
- generativno
- Generativna AI
- pristen
- dobili
- dana
- Pridelovanje
- roke
- škodovalo
- škodljiva
- škodljiv
- Imajo
- Hero
- pomoč
- Kako
- Vendar
- HTML
- HTTPS
- velika
- Madžarski
- Ideje
- if
- izboljšanje
- in
- Neodvisni
- individualna
- Pregib
- v
- vključujejo
- vprašanje
- IT
- ITS
- januar
- jpg
- samo
- velika
- Zadnja
- Lansko leto
- Stopnja
- odgovornosti
- kot
- Meje
- Pogledal
- ljubil
- je
- v glavnem
- Mainstream
- več
- tržnica
- Material
- zrel
- Maj ..
- ukrepe
- mediji
- omenja
- Omiliti
- Model
- modeli
- Denar
- spremljanje
- mesecev
- več
- premikanje
- veliko
- Novo
- NY
- New York Times
- senčenje
- Številka
- of
- off
- ponudba
- ponujanje
- Ponudbe
- Ponudbe
- on
- ONE
- tiste
- na spletu
- samo
- odprite
- open source
- or
- organizacije
- Ostalo
- ven
- več
- plačana
- Starši
- del
- Stranke
- preteklosti
- ljudje
- oseba
- Kraj
- platon
- Platonova podatkovna inteligenca
- PlatoData
- politik
- mogoče
- Prispevek
- potencial
- preprečevanje
- Preprečevanje
- prejšnja
- Nagrada
- strokovnjaki
- obetaven
- dokazano
- javnega
- Push
- Python
- dvig
- območje
- Doseže
- prejeti
- Priznanje
- besedilu
- ponovite
- Prijavljeno
- obvezna
- raziskovalci
- odporno
- Odgovornost
- Nagrada
- Rise
- Tveganje
- tveganja
- tek
- s
- prevare
- sekund
- sektor
- varnost
- videl
- pošljite
- pošiljanja
- Storitve
- Trgovina
- shouldnt
- pokazale
- Podoben
- saj
- majhna
- mala podjetja
- So
- socialna
- družbeni mediji
- Rešitev
- rešitve
- nekaj
- zvok
- vir
- Stage
- Še vedno
- strožji
- predloži
- Uspešno
- dobavitelj
- Bodite
- ob
- ciljna
- ciljanje
- tech
- tehnološki
- Tehnologija
- nagiba
- kot
- da
- O
- njihove
- Njih
- Tukaj.
- te
- jih
- ta
- mislil
- Grožnja
- 3
- čas
- krat
- do
- TONE
- tudi
- orodja
- vrh
- trgovini
- Vlak
- usposabljanje
- Uk
- razumeli
- dokler
- uporaba
- Rabljeni
- uporabo
- raznolikost
- preživetja
- Video
- Voice
- GLASOVI
- opozorilo
- je
- we
- šla
- ki
- WHO
- široka
- razširjen
- bo
- Wire
- z
- delo
- bi
- WSJ
- leto
- let
- york
- zefirnet