Para peneliti di IBM Security telah mengungkapkan ancaman baru yang mengejutkan dalam kecerdasan buatan: kemampuan untuk memanipulasi percakapan langsung melalui teknik yang dikenal sebagai โaudio-jacking.โ
Dengan memanfaatkan AI generatif dan teknologi audio deepfake, metode ini dapat mencegat dan mengubah kata-kata yang diucapkan secara real-time, sehingga menimbulkan risiko yang belum pernah terjadi sebelumnya dalam komunikasi digital.
Baca juga: Deteksi AI Deepfake Berkembang Melawan Tantangan Penipuan yang Meningkat
Mengungkap ancaman audio jacking
Audio jacking bekerja dengan memproses audio langsung dari komunikasi dua arah, seperti panggilan telepon, dan mencari kata kunci atau frasa tertentu. Ketika pemicu ini terdeteksi, AI akan masuk dan mengganti audio asli dengan versi deepfake yang dimanipulasi sebelum mencapai tujuannya. Menakjubkan ilustrasi Teknik ini disediakan oleh peneliti IBM, yang mengubah informasi rekening bank yang diucapkan selama percakapan tanpa terdeteksi.
Pembajakan audio: Menggunakan AI generatif untuk mendistorsi transaksi audio langsung: Munculnya AI generatif, termasuk text-to-image, text-to-speech, dan model bahasa besar (LLM), telah mengubah pekerjaan dan kehidupan pribadi kita secara signifikan. Sementara kemajuan iniโฆ https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
โ Shah Syeikh (@shah_sheikh) Februari 1, 2024
Kemudahan dalam merancang bukti konsep serangan ini sungguh membingungkan. Para peneliti mencatat bahwa bagian yang paling menantang bukanlah menciptakan AI melainkan teknis perekaman dan pemrosesan audio langsung. Kemudahan pengembangan ini menunjukkan perubahan yang signifikan dari ekspektasi tradisional, yang mana upaya tersebut memerlukan banyak keahlian di beberapa bidang ilmu komputer.
โMembangun PoC ini ternyata sangat mudah dan mengejutkan. Kami menghabiskan sebagian besar waktu memikirkan cara menangkap audio dari mikrofon dan menyalurkan audio tersebut ke AI generatif.โ
Dalam skema ini, peran AI generatif sangat penting. Hanya dengan menggunakan tiga detik suara seseorang, teknologi ini dapat membuat tiruan yang meyakinkan untuk menghasilkan deepfake yang sah sesuai permintaan. Kemampuan ini, yang tersedia melalui API, menunjukkan tren yang meresahkan dalam proses demokratisasi dengan alat manipulasi yang canggih.
โSaat ini, kami hanya memerlukan tiga detik suara seseorang untuk mengkloningnya dan menggunakan API text-to-speech untuk menghasilkan suara palsu yang autentik.โ
Implikasi dan potensi penyalahgunaan
Namun, dampak audiojacking lebih dari sekadar penipuan finansial. Teknologi tersebut mampu melakukan sensor secara real-time, mengubah siaran langsung, seperti berita dan pidato politik, tanpa terdeteksi. Kemampuan ini membahayakan integritas informasi, yang berdampak besar terhadap demokrasi dan kepercayaan publik.
Dengan rendahnya hambatan terhadap serangan pembajakan audio, rekayasa sosial atau phishing yang canggih telah berkurang secara signifikan. Kemudahan ini kemudian menimbulkan masalah penyebaran serangan, sehingga menimbulkan tantangan terhadap langkah-langkah keamanan saat ini dan memerlukan mekanisme pertahanan baru.
โKematangan PoC ini akan menandakan risiko yang signifikan bagi konsumen, terutamaโฆ Semakin banyak serangan ini disempurnakan, semakin luas korban yang bisa ditimbulkannya.โ
Fenomena audio jacking menggarisbawahi masalah yang lebih luas dalam pengembangan AI: sifat ganda dari teknologi generatif. Di satu sisi, mereka adalah sumber kemungkinan tak terbatas bagi inovasi dan kreativitas; di sisi lain, potensi yang disalahgunakan tidak boleh diabaikan. Insiden ini menimbulkan pertanyaan penting: bagaimana masyarakat dapat memanfaatkan manfaat AI sekaligus melindungi diri dari penerapan yang lebih gelap?
Menavigasi masa depan keamanan AI
Dengan lanskap ancaman digital yang terus berubah, identifikasi audio jacking oleh IBM Security merupakan peringatan penting untuk waspada dan memodernisasi keamanan siber. Evolusi tindakan penanggulangan, termasuk algoritma deteksi inovatif dan teknik enkripsi yang lebih canggih, sangat penting untuk memerangi ancaman canggih tersebut.
Selain itu, pengungkapan ini mengungkapkan bahwa masalah etika merupakan bagian integral dari hal ini penelitian AI dan pengembangan. Menetapkan peraturan dan tolok ukur untuk penggunaan yang bertanggung jawab terhadap AI sangatlah penting untuk mengatasi bahaya dari teknologi canggih tersebut.
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
- PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
- PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
- PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
- Sumber: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- :memiliki
- :adalah
- :bukan
- $NAIK
- 1
- 11
- 7
- 8
- a
- kemampuan
- Akun
- di seluruh
- menangani
- maju
- terhadap
- AI
- algoritma
- diubah
- an
- dan
- api
- Lebah
- aplikasi
- ADALAH
- buatan
- kecerdasan buatan
- AS
- At
- menyerang
- Serangan
- audio
- Asli
- tersedia
- Bank
- akun bank
- pembatas
- BE
- menjadi
- sebelum
- makhluk
- Benchmark
- Manfaat
- Luar
- lebih luas
- tapi
- by
- Panggilan
- CAN
- kemampuan
- mampu
- menangkap
- Sensor
- tantangan
- menantang
- berubah
- memerangi
- Komunikasi
- komunikasi
- kompromi
- komputer
- Komputer Ilmu
- besar
- Konsumen
- Percakapan
- percakapan
- bisa
- membuat
- kreativitas
- kritis
- terbaru
- Keamanan cyber
- bahaya
- gelap
- penipuan
- deepfakes
- Pertahanan
- Permintaan
- Demokrasi
- demokratisasi
- keberangkatan
- tujuan
- terdeteksi
- Deteksi
- Pengembangan
- digital
- penyingkapan
- diskusi
- ganda
- selama
- memudahkan
- Mudah
- efek
- usaha
- enkripsi
- Teknik
- penting
- etis
- evolusi
- harapan
- keahlian
- ahli
- gadungan
- Fields
- keuangan
- kecurangan finansial
- Menemukan
- Untuk
- penipuan
- dari
- masa depan
- menghasilkan
- generatif
- AI generatif
- Go
- Pertumbuhan
- tangan
- memanfaatkan
- Memiliki
- Seterpercayaapakah Olymp Trade? Kesimpulan
- How To
- Namun
- HTTPS
- IBM
- Identifikasi
- implikasi
- in
- insiden
- Termasuk
- informasi
- Innovation
- inovatif
- integral
- integritas
- Intelijen
- isu
- masalah
- IT
- NYA
- hanya
- kata kunci
- dikenal
- pemandangan
- bahasa
- besar
- sah
- hidup
- hidup
- mencari
- Rendah
- penghalang rendah
- dimanipulasi
- manipulasi
- kematangan
- ukuran
- mekanisme
- metode
- mikropon
- model
- memodernisasi
- lebih
- paling
- Alam
- Perlu
- bersih
- New
- berita
- terkenal
- of
- on
- ONE
- hanya
- or
- Lainnya
- kami
- di luar
- lebih
- bagian
- pribadi
- gejala
- Phishing
- telepon
- panggilan telepon
- frase
- sangat penting
- plato
- Kecerdasan Data Plato
- Data Plato
- PoC
- poin
- politik
- kemungkinan
- potensi
- kuat
- proses
- pengolahan
- menghasilkan
- mendalam
- meminta
- disediakan
- publik
- kepercayaan publik
- pertanyaan
- meningkatkan
- agak
- Mencapai
- Baca
- nyata
- real-time
- rekaman
- mengurangi
- halus
- merupakan
- peneliti
- Terungkap
- Mengungkapkan
- Naik
- Risiko
- risiko
- Peran
- aturan
- pengamanan
- skema
- Ilmu
- detik
- keamanan
- Pengamanan
- pengaturan
- beberapa
- syekh
- PERGESERAN
- harus
- Sinyal
- penting
- signifikan
- Sosial
- Rekayasa Sosial
- Masyarakat
- mutakhir
- sumber
- tertentu
- pidato
- menghabiskan
- lisan
- menyebarkan
- menakjubkan
- Tangga
- Menakjubkan
- seperti itu
- heran
- Dibutuhkan
- teknik
- teknik
- Teknologi
- Teknologi
- Text-to-Speech
- bahwa
- Grafik
- Masa depan
- mereka
- kemudian
- Ini
- mereka
- ini
- ancaman
- ancaman
- tiga
- Melalui
- Demikian
- waktu
- untuk
- alat
- tradisional
- Transaksi
- kecenderungan
- benar
- Kepercayaan
- garis bawah
- tak terbatas
- belum pernah terjadi sebelumnya
- penggunaan
- menggunakan
- menggunakan
- versi
- melalui
- korban
- Suara
- SUARA
- peringatan
- adalah
- we
- ketika
- yang
- sementara
- SIAPA
- lebih luas
- dengan
- dalam
- tanpa
- kata
- Kerja
- bekerja
- akan
- zephyrnet.dll