Stiker WhatsApp AI menambahkan senjata ke anak-anak Palestina

Ini mungkin merupakan contoh lain dari bias AI pada buku pelajaran di masa depan. Pembuat stiker WhatsApp rupanya memberikan gambaran kekerasan ketika ditanya tentang warga Muslim Palestina – dan tidak melakukan hal yang sama terhadap warga Yahudi Israel.

Aplikasi perpesanan milik Meta memungkinkan orang menggunakan AI untuk menghasilkan stiker: gambar dan animasi yang dapat disertakan dalam percakapan. Mengapa? Untuk kesenangan.

Jika diberikan prompt yang berisi kata-kata “Palestina”, “Palestina”, atau “Anak Muslim Palestina”, perangkat lunak generatif tersebut, kami diberitahu, menawarkan stiker kartun karakter kekanak-kanakan yang mengenakan pakaian Islami dan membawa apa yang tampak seperti senapan AK-47. 

Namun ketika pengguna memintanya untuk membuat stiker “anak laki-laki Israel” atau “anak laki-laki Yahudi Israel,” mereka mengembalikan visual yang ramah dari karakter virtual yang tersenyum dan menari, The Guardian melaporkan. Beberapa di antaranya memperlihatkan anak-anak Yahudi yang sedang bermain sepak bola atau mengibarkan bendera Israel, bukannya membawa senjata.

Bahkan ketika diminta untuk membuat gambar “tentara Israel” atau “pasukan pertahanan Israel”, para prajurit yang digambarkan oleh AI tidak memegang senjata. Dalam salah satu stiker, terlihat seorang pria dengan dua pedang di belakang punggungnya tampak sedang berdoa. Namun, setiap perintah yang mengandung kata “Hamas” diblokir, dan aplikasi tiba-tiba menyatakan “tidak dapat menghasilkan stiker AI. Silakan coba lagi.”

Perbedaan stiker tidak dapat diabaikan saat ini seiring dengan berlanjutnya konflik Israel-Hamas yang telah memakan lebih dari 10,000 korban jiwa. melaporkan sejauh ini di Gaza dan 1,400 di Israel sejak awal Oktober. Karyawan Meta sendiri melihat ketidakseimbangan tersebut dan menyampaikan kekhawatiran secara internal. 

Kevin McAlister, juru bicara yang mewakili raksasa internet tersebut, memperingatkan bahwa alat stiker AI tidaklah sempurna. “Seperti yang kami katakan saat meluncurkan fitur ini, model tersebut dapat menghasilkan keluaran yang tidak akurat atau tidak sesuai seperti pada semua sistem AI generatif. Kami akan terus menyempurnakan fitur-fitur ini seiring dengan perkembangannya dan semakin banyak orang yang menyampaikan masukan mereka,” katanya. 

CEO Mark Zuckenberg diluncurkan alat stiker pada bulan September, dan mengatakan bahwa alat ini didukung oleh kemampuan pemrosesan teks Meta dari model bahasa besar Llama 2 dengan kemampuan menghasilkan gambar dari sistem Emu-nya. Perangkat lunak ini telah terintegrasi dengan media sosial dan platform perpesanan, termasuk Facebook, Instagram, dan WhatsApp.

Ini bukan pertama kalinya alat stiker AI Meta menimbulkan kontroversi. Sebelum tersedia secara umum, penguji beta menemukan bahwa itu akan menghasilkan gambar karakter kartun, politisi, dan alat kelamin yang tidak pantas, aneh, atau tidak senonoh. Ini menciptakan gambar Perdana Menteri Kanada Justin Trudeau dengan bokong yang menonjol, atau Sonic the Hedgehog dengan payudara, dan berbagai karikatur phallic.

Sementara itu, Meta berjanji untuk menindak misinformasi dan rekaman kekerasan dari perang Israel-Hamas yang diposting di platformnya. Juru Bicara Andy Stone mengatakan CNN bisnisnya telah mendirikan pusat operasi khusus dan mempekerjakan penutur bahasa Ibrani dan Arab yang fasih untuk memoderasi konten.

“Tim kami bekerja sepanjang waktu untuk menjaga keamanan platform kami, mengambil tindakan terhadap konten yang melanggar kebijakan kami atau hukum setempat, dan berkoordinasi dengan pemeriksa fakta pihak ketiga di wilayah tersebut untuk membatasi penyebaran informasi yang salah. Kami akan melanjutkan pekerjaan ini seiring dengan berkembangnya konflik ini,” katanya.

Meta juga pada hari Senin bersumpah, melalui Reuters, untuk melarang pengiklan politik menggunakan generatifnya Bertenaga AI ruang periklanan.

Pendaftaran telah meminta orang tua WhatsApp untuk memberikan komentar lebih lanjut. ®

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
• PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
• PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
• PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
• Sumber: https://go.theregister.com/feed/www.theregister.com/2023/11/07/whatsapp_ai_stickers_palestinian/