China akan Memperkenalkan Hukum untuk Mengatasi Deepfakes pada bulan Januari

Jika Anda berada di media sosial minggu ini, Anda mungkin menemukan foto-foto gambar buatan AI dari teman Anda sebagai makhluk peri, karakter anime, avatar, dan makhluk ajaib.

Ini sebagian karena Lensa, AI yang mensintesis potret digital berdasarkan foto yang diunggah pengguna. Potret aplikasi praktis mengambil alih internet, dengan Lensa menjadi aplikasi yang paling banyak diunduh di toko aplikasi Apple.

Lensa, seperti semua aplikasi AI yang membuat gambar secara digital telah mengundang kekaguman dan kontroversi karena seksualisasi gambar wanita yang tampak mencolok. Pengguna lain mencatat bahwa aplikasi tersebut membuat kulit mereka lebih pucat atau tubuh mereka lebih kurus.

Baca juga: AI Tech Yang Menciptakan Gambar Palsu Dalam yang Merusak Kehidupan

Cara mendapatkan 'avatar ajaib' Anda sendiri

Gambar-gambar yang melakukan putaran adalah ciptaan yang membanggakan dari fungsi avatar ajaib Lensa. Untuk merasakannya, seseorang harus mengunduh aplikasi Lensa di ponsel. Langganan tahunan sekitar $35.99 tetapi layanannya juga tersedia meskipun dengan batasan gratis untuk uji coba selama seminggu jika ingin memeriksanya terlebih dahulu.

Namun, menghasilkan avatar ajaib yang populer memerlukan biaya tambahan karena apa yang dikatakan aplikasi adalah "kekuatan komputasi yang luar biasa" untuk dicapai.

Pada uji coba gratis, seseorang bisa mendapatkan 50 avatar seharga $3.99, dan 200 avatar seharga $7.99. Untuk mendapatkan hasil terbaik, aplikasi ini mendorong pengguna untuk mengunggah setidaknya 20 gambar jarak dekat.

Idealnya, gambar-gambar ini harus berupa close-up wajah seseorang dengan rangkaian latar belakang, ekspresi wajah, dan sudut yang berbeda. Aplikasi tersebut menegaskan bahwa pengguna harus berusia 13 tahun ke atas. Lensa bukanlah aplikasi yang sepenuhnya baru.

Sebuah produk dari Prisma, aplikasi ini pertama kali menjadi populer pada tahun 2016 berkat fitur yang memungkinkan pengguna untuk mengubah selfie menjadi foto ala artis terkenal.

Bagaimana Lensa bekerja?

Menurut perusahaan, itu memanfaatkan apa yang disebutnya "teknologi TrueDepth API" di mana pengguna memberikan foto, atau "data wajah", kemudian AI dilatih pada algoritme untuk bekerja lebih baik dan menunjukkan hasil yang lebih baik kepada Anda. Pelatihan adalah saat AI memproses data, memvalidasi, dan menguji model.

Untuk menggunakan aplikasi ini, seseorang dapat membuat 20 selfie dengan berbagai ekspresi dan sudut dan memilih opsi 100 avatar.

Dibutuhkan sekitar 20 menit untuk melakukan pekerjaan itu. Setelah selesai, AI mengembalikan avatar yang termasuk dalam 10 kategori seperti fantasi, putri peri, fokus, pop, gaya, anime, ringan, kawaii, warna-warni, dan kosmik.

“Secara umum, saya merasa aplikasi tersebut melakukan pekerjaan yang layak dengan menghasilkan gambar artistik berdasarkan selfie saya. Saya tidak bisa mengenali diri saya di sebagian besar potret, tetapi saya bisa melihat dari mana asalnya, ” Zoë Sottile CNN menulis.

“Sepertinya mengenali dan mengulangi ciri-ciri tertentu, seperti kulit pucat atau hidung bulat saya, lebih dari yang lain. Beberapa di antaranya memiliki gaya yang lebih realistis, dan cukup dekat. Saya mungkin mengira itu sebenarnya adalah foto saya jika saya melihatnya dari jauh. Yang lain secara signifikan lebih bergaya dan artistik, sehingga terasa kurang spesifik bagi saya.

Sottile memperhatikan AI juga membuatnya lebih ringan.

Bagi saya, saya juga merasakan bahwa itu secara otomatis membuat saya lebih ringan dan gambar yang saya coba di galeri saya tentang saya dan seorang teman yang berkulit lebih gelap mengembalikan versi kami yang jauh lebih terang, jelas berlebihan, dan menunjukkan kecenderungan untuk mencerahkan. warna kulit hitam.

Mengeksploitasi wanita

Orang lain yang menggunakannya memiliki masalah yang kurang lebih sama.

Wanita mengatakan AI dengan cepat membuat gambar mereka menjadi seksual. Namun di artikel sebelumnya, kami menjelaskan ini dimungkinkan oleh banyaknya gambar seksual yang ditemukan dalam kumpulan data yang digunakan dalam pelatihan AI.

Dengan kata lain, ini berarti bahwa AI terlalu akrab dengan cara menghasilkan gambar-gambar itu dan dengan mudah menjadi pornografi. Dengan sedikit tipuan, dapat diminta untuk tanpa disadari menghasilkan porno dari gambar-gambar itu juga jika pengguna menginginkannya.

seksualisasi seorang wanita muda yang menghabiskan sebagian besar waktunya di depan umum dengan mengenakan pakaian longgar hanya untuk menghindari jenis seksualisasi ini. melarang laki-laki menggunakan AI https://t.co/YnNCurvYDS

— joan of arc tapi seorang commie (@postnuclearjoan) Desember 13, 2022

Di cerita lain, kami telah membahas bagaimana AI: dapat dikelabui untuk memberikan informasi tentang cara membuat a bom misalnya. Anehnya, isu seksualisasi tidak muncul pada gambar laki-laki yang diunggah ke fitur Magic Avatar. Untuk Tinjauan Teknologi MIT, Melissa Heikkilä menulis,

"Avatar saya dipornifikasi secara kartun, sementara rekan pria saya menjadi astronot, penjelajah, dan penemu."

Sottile, di sisi lain, memperhatikan bahwa AI telah "di salah satu gambar yang paling membingungkan" membuatnya tampak "seperti versi wajah saya di tubuh telanjang".

“Dalam beberapa foto, saya terlihat seperti telanjang tetapi dengan selimut yang ditempatkan secara strategis, atau gambar dipotong untuk menyembunyikan sesuatu yang eksplisit,” katanya.

“Dan banyak dari gambar, bahkan saat saya berpakaian lengkap, menampilkan ekspresi wajah gerah, belahan dada yang signifikan, dan pakaian minim yang tidak cocok dengan foto yang saya serahkan,” tambah Zoe Sottile.

Yang lain mengungkapkan ketakutan mereka akan dijadikan bintang porno oleh teknologi AI seperti Lensa.

PERINGATAN: Siapa saja di dunia ini dapat memiliki PORN NON-KONSENSUAL Anda sekarang!!

Orang-orang kagum dengan alat AI generatif seperti Lensa tanpa memahami konsekuensi yang mengerikan.

🧵 BAGIAN TERBURUK? inilah yang perusahaan tidak ingin Anda ketahui: pic.twitter.com/gdS0h1FbXj

—Kritarth Mittal | Penulis bayangan 🖋️ (@kritarthmittal) Desember 14, 2022

Tubuh malu

Untuk wanita bertubuh penuh, pengalamannya agak berbeda dan bahkan lebih buruk dalam beberapa kasus. AI membuat mereka lebih kurus dan seksi.

“Untuk Lmfao jika Anda memiliki Body Dysmorphia, jangan gunakan aplikasi Lensa itu untuk foto yang dihasilkan AI. Ini adalah peringatan Anda,” seorang pengguna menulis.

Yang lain mengatakan aplikasi itu membuatnya tampak seperti orang Asia.

Mencoba aplikasi AI Lensa. Katakan padaku mengapa AI membuatku terlihat lebih Asia dari sebelumnya? 😂😂😂😂 pic.twitter.com/lveJNXaXHO

— Kristina🌴🌊🐚 (@kut1e) Desember 9, 2022

Pengguna lain menggunakan twitter untuk mengeluh bahwa dia telah membayar $8 untuk mengalami dismorfia tubuh saat dia menggunakan AI.

membayar $8 ke Lensa hanya untuk mengalami dismorfia tubuh pic.twitter.com/NRYfh5Jyej

— Garrett (@dollhaus_x) Desember 3, 2022

Dismorfia tubuh adalah kondisi kesehatan mental di mana seseorang menghabiskan banyak waktu untuk mengkhawatirkan kekurangan dalam penampilan mereka. Kelemahan ini seringkali tidak terlihat oleh orang lain.

Yang lain mengeluh bahwa AI secara otomatis mengurangi bobot yang signifikan pada gambar sosoknya yang penuh.

“Satu keluhan saya tentang Lensa AI adalah membuat Anda kurus di beberapa gambar. Sebagai orang gemuk, gambar-gambar itu sangat mengganggu saya. Berhati-hatilah agar tidak terpicu jika Anda adalah orang gemuk yang tidak tertarik menjadi kurus, ”tulis Mariah Successful (@Shlatz) pada 5 Desember 2022.

Bom waktu psikologis

Dan psikolog setuju dengan pernyataannya bahwa AI dapat memicu wanita bertubuh penuh.

Seorang psikolog klinis, dr. Toni Pikoo, seorang praktisi kesehatan mental yang berbasis di Australia, yang melakukan penelitian dan berspesialisasi dalam mengobati gangguan dismorfik tubuh, percaya bahwa aplikasi tersebut dapat lebih berbahaya daripada kebaikan dan tidak lain adalah "alat pemfilteran foto" untuk mengubah persepsi diri seseorang.

"Ketika ada perbedaan yang lebih besar antara penampilan ideal dan penampilan yang dirasakan, itu dapat memicu ketidakpuasan tubuh, kesusahan, dan keinginan untuk memperbaiki atau mengubah penampilan seseorang dengan cara yang berpotensi tidak sehat atau tidak aman" seperti gangguan makan atau prosedur kosmetik yang tidak perlu, kata Pikoos.

Dia menyatakan keprihatinannya bahwa gambar tersebut menghapus "detail rumit" seperti "bintik-bintik dan garis", sesuatu yang dapat meningkatkan kekhawatiran tentang kulit seseorang. Ini juga bisa secara psikologis memicu orang yang rentan, katanya.

“Melihat gambar eksternal mencerminkan ketidakamanan mereka kembali pada mereka hanya memperkuat gagasan 'Lihat, ini salah dengan saya! Dan saya bukan satu-satunya yang bisa melihatnya!'” kata Pikoos.

Karena fakta bahwa AI memperkenalkan fitur-fiturnya sendiri yang tidak menggambarkan penampilan kehidupan nyata pengguna, aplikasi tersebut dapat menciptakan kecemasan baru, katanya.

Dia mengatakan "avatar ajaib" AI "sangat menarik karena tampaknya lebih objektif - seolah-olah beberapa makhluk eksternal yang maha tahu telah menghasilkan gambar seperti apa penampilan Anda."

Ini, dia merasa akan benar-benar "berguna" untuk orang-orang dengan gangguan dismorfik tubuh dan membantu menjelaskan "ketidaksesuaian" antara "pandangan negatif individu tentang diri mereka sendiri dan bagaimana orang lain melihatnya."

Namun dia mencatat bahwa AI tidak objektif karena upayanya untuk menggambarkan wajah seseorang yang tanpa cela dan lebih “diperbaiki dan disempurnakan”.

Misalnya, seseorang yang mengalami gangguan dismorfik tubuh, atau BDD, "mungkin mengalami peningkatan kepercayaan diri singkat ketika mereka melihat gambar mereka, dan ingin membagikan versi diri mereka ini kepada dunia," katanya, tetapi akan terpukul oleh kenyataan saat pergi. layar, tanpa filter, di cermin atau foto yang mereka ambil sendiri.”

Mempertahankan miliknya sendiri

Andrey Usoltsev, CEO Prisma Labs, mengatakan perusahaannya saat ini "kewalahan" dengan pertanyaan tentang Lensa dan menawarkan tautan ke halaman FAQ yang menjawab pertanyaan tentang citra seksual, meskipun bukan jenis reaksi pengguna yang dijelaskan Pikoos.

“Melihat ini tercermin dalam aplikasi akan sangat menantang dan memberikan semacam 'konfirmasi' tentang cara mereka melihat diri mereka sendiri”, membuat mereka menjadi “lebih mengakar dalam gangguan tersebut.”

Difusi Stabil

Lensa juga menggunakan Stable Diffusion, yang menggunakan sintesis pembelajaran mendalam yang dapat membuat gambar baru dari deskripsi teks dan dapat berjalan di PC Windows atau Linux, di Mac, atau di cloud pada perangkat keras komputer sewaan.

Stable Diffusion's neural network dengan bantuan pembelajaran intensif telah dikuasai untuk mengasosiasikan kata-kata dan asosiasi statistik umum antara posisi piksel dalam gambar.

Kami membahas yang lain cerita bagaimana teknologi dapat memiliki konsekuensi yang menghancurkan hidup dengan membuat dan menggambarkan gambar orang yang tampak seperti penjahat atau terlibat dalam praktik yang kurang menyanjung seperti pencurian.

Misalnya, seseorang dapat memberikan prompt Difusi Stabil bersumber terbuka, seperti "Tom Hanks di ruang kelas," dan itu akan memberinya citra baru Tom Hanks di ruang kelas. Dalam kasus Tom Hank, ini seperti berjalan-jalan di taman karena ratusan fotonya sudah ada dalam kumpulan data yang digunakan untuk melatih Difusi Stabil.

Artis juga mendapatkan kesepakatan mentah

Di bidang seni, beberapa seniman tidak senang.

Mereka khawatir AI dapat mengancam mata pencaharian mereka. Pasalnya, seniman, termasuk yang digital, juga tidak bisa menghasilkan secepat AI untuk potret digital.

Saya memangkas ini untuk alasan privasi/karena saya tidak mencoba memanggil satu individu pun. Ini semua adalah potret Lensa di mana sisa-sisa tanda tangan seorang seniman yang tercabik-cabik masih terlihat. Itulah sisa-sisa tanda tangan salah satu dari banyak artis yang dicurinya.

The https://t.co/0lS4WHmQfW pic.twitter.com/7GfDXZ22s1

— Lauryn Ipsum (@LaurynIpsum) Desember 6, 2022

Perusahaan induk Lensa, Prisma, telah mencoba memijat kekhawatiran tentang teknologinya yang menghilangkan karya seniman digital.

“Sementara manusia dan AI belajar tentang gaya artistik dengan cara yang semi-mirip, ada beberapa perbedaan mendasar: AI mampu menganalisis dan belajar dengan cepat dari kumpulan data yang besar, tetapi tidak memiliki tingkat perhatian dan apresiasi yang sama terhadap seni. sebagai manusia,” menulis perusahaan di Twitter pada 6 Desember.

Dikatakan "output tidak dapat digambarkan sebagai replika yang tepat dari karya seni tertentu."

Apakah seni yang dihasilkan AI ini atau seni yang disalin AI? Apakah Lensa AI Mencuri Dari Seni Manusia? Seorang Ahli Menjelaskan Kontroversinya https://t.co/cxi2t6URC7 pic.twitter.com/20xJgbHZgA

— John Chapman (@JChapman1729) Desember 15, 2022

Mengubah citra diri

Kerry Bowman, seorang ahli bioetika di University of Toronto, mengatakan AI memiliki potensi untuk mempengaruhi citra diri seseorang secara negatif, di antara masalah etika lainnya.

“Dalam beberapa hal, ini bisa sangat menyenangkan, tetapi gambaran ideal ini didorong oleh ekspektasi sosial yang bisa sangat kejam dan sangat sempit,” kata Bowman, Senin.

Bowman mengatakan program AI ini memanfaatkan sumber kumpulan data seperti internet untuk mencari gaya seni yang berbeda untuk membuat potret ini. Kelemahannya adalah ketika AI melakukan itu, seniman jarang dibayar secara finansial untuk penggunaan karya mereka atau dikreditkan.

“Apa yang terjadi dengan AI yang muncul adalah bahwa undang-undang belum dapat benar-benar mengikuti ini dalam hal undang-undang hak cipta. Ini sangat sulit dan sangat suram dan etika berada jauh di belakang hukum karena saya berpendapat bahwa ini pada dasarnya tidak adil,” kata Bowman.

Masalah Data Pribadi

Bowman juga mengemukakan kekhawatiran bagaimana data pribadi orang disimpan.

“Apakah Anda benar-benar ingin wajah Anda ada di database besar? Orang-orang perlu memutuskan sendiri tentang hal ini tetapi ini tidak jinak, tidak ada apa-apanya, ini tidak hanya menyenangkan, ”katanya.

Lensa mengatakan foto disimpan di server dan di aplikasi tidak lebih dari 24 jam. Dengan algoritme pembelajaran mendalam dan pembelajaran mesin, AI mengumpulkan dan kemudian memberikan hasil yang lebih baik di masa mendatang, juga berdasarkan data yang dihapus. Ini, kata Bowman, akan menimbulkan masalah keamanan atas potensi penggunaan pengenalan wajah karena jenis data ini dapat digunakan oleh polisi secara ilegal.