AI Deepfakes Juga Merupakan Ancaman Bagi Bisnis—Inilah Alasannya - Dekripsi

AI Deepfakes Juga Merupakan Ancaman Bagi Bisnis—Ini Alasannya – Dekripsi

Stempel Waktu: 25 Agustus 2023 3:50
AI Deepfake Juga Merupakan Ancaman Bagi Bisnis—Inilah Alasannya - Dekripsi Kecerdasan Data PlatoBlockchain. Pencarian Vertikal. Ai.

Ketika raksasa teknologi bersaing untuk menghadirkan kecerdasan buatan kepada masyarakat dan menguasai pasar yang sedang berkembang, perlombaan senjata AI memicu peningkatan video dan audio “deepfake”—konten yang sering terlihat atau terdengar sah, namun sebenarnya merupakan representasi keliru yang menipu. Dan hal ini juga berdampak pada bisnis, menurut sebuah laporan baru.

Deepfakes adalah kreasi yang dihasilkan AI seperti gambar, video, dan audio yang dimanipulasi untuk menipu orang. Penipu menggunakan deepfake untuk penipuan, pemerasan, atau merusak reputasi. Proliferasi AI generatif alat ini semakin memudahkan para penipu untuk membuat konten palsu.

Selebriti dan tokoh masyarakat lainnya dimasukkan ke dalam rekaman yang dibuat-buat dan terkadang eksplisit tanpa persetujuan mereka dengan cara yang terkadang menjadi viral atau dapat menimbulkan kepanikan di media sosial. Dalam laporan yang diberikan kepada Dekripsi, kantor akuntan global KPMG menulis bahwa sektor bisnis juga tidak kebal terhadap ancaman deepfake.

Konten deepfake dapat digunakan dalam serangan rekayasa sosial dan jenis serangan siber lainnya yang menargetkan perusahaan, tulis KPMG, sementara konten tersebut juga dapat berdampak pada reputasi bisnis dan para pemimpinnya. Pernyataan palsu tentang perwakilan perusahaan juga dapat digunakan dalam skema untuk menipu pelanggan, atau untuk meyakinkan karyawan agar memberikan informasi atau mentransfer uang kepada pihak yang tidak bertanggung jawab.

KPMG mengutip contoh tahun 2020 tentang manajer cabang perusahaan Hong Kong yang ditipu untuk mentransfer dana perusahaan senilai $35 juta kepada penipu setelah yakin bosnya sedang menelepon dan memerintahkan dia untuk melakukannya. Sebaliknya, ini adalah tiruan suara supervisor yang dikloning oleh AI—semuanya merupakan bagian dari skema rumit untuk menipu uang dari perusahaan.

“Konsekuensi serangan siber yang memanfaatkan konten sintetis—konten digital yang dibuat atau dimanipulasi untuk tujuan jahat—bisa sangat besar, memakan biaya, dan menimbulkan beragam dampak sosio-ekonomi, termasuk di antaranya keuangan, reputasi, layanan, dan geopolitik,” laporan itu berbunyi.

Rekaman deepfake tentang keberadaan Donald Trump ditangkap awal tahun ini, Paus Francis mengenakan pakaian mewah Balenciaga, dan Elon Musk mempromosikan penipuan kripto telah menjadi viral dalam setahun terakhir karena teknologi deepfake telah meningkat berkat berkembangnya alat AI.

“Baik itu palsu murah atau palsu, model ekonomi telah berubah secara signifikan karena model AI generatif,” tulis KPMG.

Selain tokoh masyarakat yang disebutkan di atas, selebritas terkemuka yang kemiripannya telah dicuri dan digunakan dalam rekaman palsu termasuk aktris Emma Watson dan musisi Taylor Swift. Namun KPMG mengkhawatirkan dampak potensial terhadap dunia usaha dan para pemimpin mereka yang terkemuka.

“Sebagai faktor risiko, konten deepfake tidak hanya menjadi perhatian media sosial, situs kencan, dan industri hiburan—ini kini menjadi isu direksi,” kata KPMG. “Contohnya, hampir semua responden (92%) dari survei AI generatif KPMG baru-baru ini terhadap 300 eksekutif di berbagai industri dan wilayah mengatakan kekhawatiran mereka terhadap risiko penerapan AI generatif cukup signifikan.”

Bukan hanya kalangan bisnis dan selebritas yang menghadapi peningkatan kualitas dan jumlah video deepfake di internet. Pemerintah dan regulator juga memperhitungkan potensi dampaknya terhadap masyarakat dan pemilu, sementara para pembuat alat AI sedang mempertimbangkan potensi dampak negatifnya.

Pekan lalu, Komisi Pemilihan Umum Federal AS, yang mengantisipasi penggunaan deepfake pada pemilu 2024, mengambil langkah maju dengan petisi untuk melarang penggunaan kecerdasan buatan dalam iklan kampanye.

Jika disetujui, badan tersebut akan mengubah peraturan saat ini mengenai pernyataan keliru yang menipu mengenai “otoritas kampanye”, dan mengklarifikasi bahwa larangan tersebut berlaku untuk iklan kampanye AI yang sengaja menipu.

“Regulator harus terus memahami dan mempertimbangkan dampak dari ancaman yang berkembang terhadap peraturan yang ada,” kata Matthew Miller, Kepala Layanan Keamanan Siber di KPMG. Dekripsi. “Persyaratan yang diusulkan untuk memberi label dan memberi tanda air pada konten yang dihasilkan AI dapat memberikan dampak positif.”

Pada bulan Juli, para peneliti di MIT diusulkan menambahkan perubahan kode pada model difusi besar untuk mengurangi risiko deepfake, dengan menambahkan perubahan kecil yang sulit dilihat namun pada akhirnya mengubah cara kerja model, menyebabkan model menghasilkan gambar yang tidak terlihat nyata. Meta, sementara itu, baru-baru ini menahan alat AI karena potensi deepfake-nya.

Kegembiraan seputar potensi kreatif alat AI generatif telah diredam oleh kesadaran bahwa alat tersebut juga dapat menciptakan peluang bagi konten berbahaya. Pada akhirnya, di tengah kemajuan pesat pada alat-alat tersebut, Miller mendesak semua orang untuk waspada terhadap potensi konten palsu.

“Masyarakat perlu terus menjaga kewaspadaan dalam berinteraksi melalui jalur digital,” ujarnya Dekripsi. “Kesadaran situasional dan akal sehat sangat membantu mencegah terjadinya insiden. Jika ada sesuatu yang 'terasa tidak benar', kemungkinan besar hal tersebut merupakan aktivitas jahat.”

Tetap di atas berita crypto, dapatkan pembaruan harian di kotak masuk Anda.

Stempel Waktu:

Lebih dari Dekripsi