Cercetătorii de la IBM Security au dezvăluit o nouă amenințare uimitoare în inteligența artificială: capacitatea de a manipula conversațiile live printr-o tehnică cunoscută sub numele de „audio-jacking”.
Folosind IA generativă și tehnologia audio deepfake, această metodă poate intercepta și modifica cuvintele rostite în timp real, prezentând riscuri fără precedent în comunicarea digitală.
De asemenea, se va citi: Detectarea AI Deepfake progresează față de provocările tot mai mari ale înșelăciunii
Expunând amenințarea jacking-ului audio
Conectarea audio funcționează prin procesarea sunetului live din comunicații bidirecționale, cum ar fi apelurile telefonice, și căutând anumite cuvinte cheie sau expresii. Când acești declanșatori sunt detectați, AI intervine și înlocuiește sunetul autentic cu o versiune deepfake manipulată înainte de a ajunge la destinație. Un uluitor ilustrare a tehnicii este furnizată de cercetătorii IBM, care au modificat informațiile despre contul bancar care au fost rostite în timpul unei conversații fără a fi detectate.
Audio-jacking: Utilizarea AI generativă pentru a distorsiona tranzacțiile audio în direct: creșterea AI generativă, inclusiv modelele text-to-image, text-to-speech și modele de limbaj mari (LLM), ne-a schimbat semnificativ viața profesională și personală. În timp ce aceste progrese... https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
— Shah Sheikh (@shah_sheikh) 1 Februarie 2024
Ușurința cu care poate fi concepută o dovadă de concept pentru acest atac este deconcertant. Cercetătorii au remarcat că partea cea mai dificilă nu a fost crearea AI, ci mai degrabă aspectele tehnice ale înregistrării și procesării audio live. Această ușurință de dezvoltare reprezintă o abatere semnificativă de la așteptările tradiționale, în care un astfel de efort ar fi necesitat o expertiză considerabilă în mai multe domenii ale informaticii.
„Construirea acestui PoC a fost surprinzător și înfricoșător de ușoară. Ne-am petrecut cea mai mare parte a timpului ne-am gândit cum să captăm sunetul de la microfon și să transmitem sunetul la AI generativ.”
În această schemă, rolul de AI generativă este critic. Folosind doar trei secunde din vocea unei persoane, tehnologia poate fabrica o clonă convingătoare pentru a produce deepfake legitime la cerere. Această capacitate, disponibilă prin intermediul API-urilor, indică o tendință tulburătoare în procesul de democratizare a instrumentelor avansate de manipulare.
„În ziua de azi, avem nevoie de doar trei secunde din vocea unui individ pentru ao clona și a folosi un API text-to-speech pentru a genera voci false autentice.”
Implicații și potențiale abuzuri
Cu toate acestea, efectele audiojacking depășesc doar frauda financiară. O astfel de tehnologie este capabilă de cenzură în timp real, modificând transmisiunile în direct, cum ar fi știrile și discursurile politice, fără a fi detectată. Aceste capacități compromit integritatea informațiilor, cu implicații profunde pentru democrație și încrederea publicului.
Cu bariera scăzută în calea unui atac de tip audio-jacking, ingineria socială sofisticată sau phishing-ul a fost redus semnificativ. Această ușurință ridică apoi probleme legate de răspândirea unor astfel de atacuri, punând astfel provocări pentru măsurile de securitate actuale și necesitând noi mecanisme de apărare.
„Maturitatea acestui PoC ar semnala un risc semnificativ pentru consumatori, în primul rând... Cu cât acest atac este mai rafinat, cu atât rețeaua de victime pe care ar putea-o arunca este mai largă.”
Fenomenul jacking-ului audio subliniază o problemă mai largă în cadrul dezvoltării AI: natura duală a tehnologii generative. Pe de o parte, ele sunt o sursă de posibilități nelimitate pentru inovație și creativitate; pe de altă parte, potențialul lor folosit greșit nu trebuie neglijat. Incidentul ridică o întrebare esențială: cum poate societatea să profite de beneficiile AI, protejându-se în același timp împotriva aplicațiilor sale mai întunecate?
Navigarea în viitorul securității AI
Odată cu peisajul în schimbare al amenințărilor digitale, identificarea de către IBM Security a mufelor audio este un avertisment esențial pentru a fi vigilenți și a moderniza securitatea cibernetică. Evoluția contramăsurilor, inclusiv algoritmi inovatori de detectare și tehnici de criptare mai viguroase, este esențială pentru combaterea unor astfel de amenințări sofisticate.
În plus, această dezvăluire dezvăluie că problemele etice sunt esențiale Cercetare AI si dezvoltare. Stabilirea de reguli și criterii de referință pentru utilizarea responsabilă cu inteligența artificială este esențială pentru a aborda pericolele unor tehnologii atât de puternice.
- Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
- PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
- PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
- PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
- PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
- Sursa: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- :are
- :este
- :nu
- $UP
- 1
- 11
- 7
- 8
- a
- capacitate
- Cont
- peste
- adresare
- avansat
- împotriva
- AI
- algoritmi
- modificate
- an
- și
- api
- API-uri
- aplicatii
- SUNT
- artificial
- inteligență artificială
- AS
- At
- ataca
- Atacuri
- audio
- Autentic
- disponibil
- Bancă
- cont bancar
- barieră
- BE
- fost
- înainte
- fiind
- valori de referință
- Beneficiile
- Dincolo de
- mai larg
- dar
- by
- apeluri
- CAN
- capacități
- capabil
- captura
- Cenzură
- provocări
- provocare
- si-a schimbat hainele;
- combaterea
- Comunicare
- Comunicații
- compromis
- calculator
- Informatică
- considerabil
- Consumatorii
- Conversație
- conversații
- ar putea
- Crearea
- creativitate
- critic
- Curent
- Securitate cibernetică
- pericole
- mai întunecat
- înşelăciune
- deepfakes
- Apărare
- Cerere
- Democrație
- democratizare
- plecare
- destinație
- detectat
- Detectare
- Dezvoltare
- digital
- dezvăluire
- discuții
- dual
- în timpul
- uşura
- uşor
- efecte
- efort
- criptare
- Inginerie
- esenţial
- etic
- evoluţie
- aşteptări
- expertiză
- experți
- fals
- Domenii
- financiar
- fraudă financiară
- Găsi
- Pentru
- fraudă
- din
- viitor
- genera
- generativ
- AI generativă
- Go
- În creştere
- mână
- valorifica
- Avea
- Cum
- Cum Pentru a
- Totuși
- HTTPS
- IBM
- Identificare
- implicații
- in
- incident
- Inclusiv
- informații
- Inovaţie
- inovatoare
- integrală
- integritate
- Inteligență
- problema
- probleme de
- IT
- ESTE
- doar
- Cuvinte cheie
- cunoscut
- peisaj
- limbă
- mare
- legitim
- trăi
- Locuiește
- cautati
- Jos
- bariera joasa
- manipulat
- Manipulare
- scadență
- măsuri
- mecanisme
- metodă
- microfon
- Modele
- moderniza
- mai mult
- cele mai multe
- Natură
- Nevoie
- net
- Nou
- ştiri
- notat
- of
- on
- ONE
- afară
- or
- Altele
- al nostru
- afară
- peste
- parte
- personal
- fenomen
- Phishing
- telefon
- apeluri telefonice
- Expresii
- pivot
- Plato
- Informații despre date Platon
- PlatoData
- PoC
- puncte
- politic
- posibilităţile de
- potenţial
- puternic
- proces
- prelucrare
- produce
- profund
- solicitări
- prevăzut
- public
- încrederea publică
- întrebare
- ridică
- mai degraba
- aTINGE
- Citeste
- real
- în timp real
- înregistrare
- Redus
- rafinat
- reprezintă
- cercetători
- Dezvăluit
- dezvaluie
- Ridica
- Risc
- Riscurile
- Rol
- norme
- salvgardare
- schemă
- Ştiinţă
- secunde
- securitate
- Măsuri de securitate
- instalare
- câteva
- șeic
- SCHIMBARE
- să
- Semnal
- semnificativ
- semnificativ
- Social
- Inginerie sociala
- Societate
- sofisticat
- Sursă
- specific
- discursuri
- uzat
- vorbit
- răspândire
- uimitor
- paşi
- Uluitor
- astfel de
- surprinzător
- ia
- tehnică
- tehnici de
- Tehnologii
- Tehnologia
- Text-to-Speech
- acea
- Viitorul
- lor
- apoi
- Acestea
- ei
- acest
- amenințare
- amenințări
- trei
- Prin
- Prin urmare
- timp
- la
- Unelte
- tradiţional
- Tranzacții
- tendință
- adevărat
- Încredere
- stare de nervozitate
- subliniere
- nelimitat
- fără precedent
- Folosire
- utilizare
- folosind
- versiune
- de
- victime
- Voce
- VOCI
- de avertizare
- a fost
- we
- cand
- care
- în timp ce
- OMS
- mai larg
- cu
- în
- fără
- cuvinte
- Apartamente
- fabrică
- ar
- zephyrnet