จีนเตรียมออกกฎหมายเพื่อจัดการกับ Deepfakes ในเดือนมกราคม PlatoBlockchain Data Intelligence ค้นหาแนวตั้ง AI.

จีนเตรียมออกกฎหมายเพื่อจัดการกับ Deepfakes ในเดือนมกราคม

Time Stamp: 24 ธันวาคม 2022 5:45 น.

หากคุณใช้โซเชียลมีเดียในสัปดาห์นี้ คุณอาจเคยเห็นรูปถ่ายของเพื่อนที่สร้างโดย AI ในรูปของนางฟ้า ตัวการ์ตูน อวาตาร์ และสัตว์วิเศษ

ส่วนหนึ่งเป็นเพราะ Lensa ซึ่งเป็น AI ที่สังเคราะห์ภาพดิจิทัลตามภาพถ่ายที่ผู้ใช้อัปโหลด ภาพถ่ายบุคคลของแอพนี้ได้รับความนิยมอย่างมากบนอินเทอร์เน็ต โดย Lensa กลายเป็นแอพที่มีการดาวน์โหลดมากที่สุดใน App Store ของ Apple

Lensa เช่นเดียวกับแอปพลิเคชัน AI ทั้งหมดที่แสดงผลภาพแบบดิจิทัลมีทั้งความชื่นชมและการโต้เถียงสำหรับภาพผู้หญิงที่ดูโจ่งแจ้ง ผู้ใช้รายอื่นสังเกตว่าแอปนี้ทำให้ผิวของพวกเขาซีดลงหรือร่างกายของพวกเขาผอมลง

อ่านเพิ่มเติม: เทคโนโลยี AI ที่สร้างภาพปลอมลึกทำลายชีวิต

วิธีรับ 'อวตารวิเศษ' ของคุณเอง

ภาพที่แสดงเป็นผลงานสร้างความภาคภูมิใจของฟังก์ชันอวาตาร์วิเศษของ Lensa หากต้องการสัมผัสสิ่งนี้ คุณต้องดาวน์โหลดแอป Lensa บนโทรศัพท์ การสมัครสมาชิกรายปีอยู่ที่ประมาณ $35.99 แต่บริการต่างๆ นั้นยังมีให้ใช้งานแม้ว่าจะมีข้อจำกัดในการทดลองใช้ฟรีหนึ่งสัปดาห์ก็ตาม หากต้องการทดลองใช้ก่อน

อย่างไรก็ตาม การสร้างอวาตาร์เวทมนตร์ยอดนิยมนั้นต้องเสียค่าธรรมเนียมเพิ่มเติม เนื่องจากสิ่งที่แอปบอกว่าเป็น "พลังการคำนวณมหาศาล" เพื่อให้บรรลุ

ในการทดลองใช้ฟรี คุณจะได้รับ 50 รูปประจำตัวในราคา $3.99 และรูปประจำตัว 200 รูปในราคา $7.99 เพื่อให้ได้ผลลัพธ์ที่ดีที่สุด แอปแนะนำให้ผู้ใช้อัปโหลดภาพระยะใกล้อย่างน้อย 20 ภาพ

ตามหลักการแล้ว รูปภาพเหล่านี้ควรเป็นภาพโคลสอัพของใบหน้าที่มีพื้นหลัง สีหน้า และมุมต่างๆ ที่แตกต่างกัน แอปพลิเคชันยืนยันว่าผู้ใช้ควรมีอายุ 13 ปีขึ้นไป Lensa ไม่ใช่แอปพลิเคชันใหม่ทั้งหมด

ผลิตภัณฑ์ของ Prisma แอปพลิเคชันเริ่มได้รับความนิยมในปี 2016 ด้วยฟังก์ชันที่อนุญาตให้ผู้ใช้เปลี่ยนภาพเซลฟี่เป็นภาพถ่ายในสไตล์ของศิลปินชื่อดัง

Lensa ทำงานอย่างไร?

ตามที่บริษัทระบุว่าใช้สิ่งที่เรียกว่า “เทคโนโลยี TrueDepth API” โดยที่ผู้ใช้ให้ภาพถ่ายหรือ “ข้อมูลใบหน้า” จากนั้น AI จะได้รับการฝึกอบรมเกี่ยวกับอัลกอริทึมเพื่อให้ทำงานได้ดีขึ้นและแสดงผลลัพธ์ที่ดีขึ้น การฝึกอบรมคือเมื่อ AI ประมวลผลข้อมูล ตรวจสอบ และทดสอบแบบจำลอง

ในการใช้แอพนี้ เราสามารถจัดการภาพเซลฟี่ได้ 20 ภาพด้วยการแสดงออกและมุมที่หลากหลาย และเลือกตัวเลือกภาพแทนตัวได้ 100 ภาพ

ใช้เวลาประมาณ 20 นาทีในการทำงาน เมื่อเสร็จแล้ว AI จะส่งคืนอวตารที่แบ่งออกเป็น 10 หมวดหมู่ เช่น แฟนตาซี เจ้าหญิงนางฟ้า โฟกัส ป๊อป มีสไตล์ อนิเมะ แสง คาวาอี้ สีรุ้ง และจักรวาล

“โดยทั่วไปแล้ว ฉันรู้สึกว่าแอปนี้ทำงานได้ดีในการสร้างภาพศิลปะจากภาพเซลฟี่ของฉัน ฉันจำตัวเองไม่ได้ในภาพส่วนใหญ่ แต่ฉันสามารถเห็นได้ว่าพวกเขามาจากไหน” โซอี้ ซอตไทล์ ของซีเอ็นเอ็นเขียน

“ดูเหมือนว่าจะจดจำและทำซ้ำลักษณะบางอย่าง เช่น ผิวซีดหรือจมูกกลมๆ ของฉัน มากกว่าส่วนอื่นๆ บางภาพมีลักษณะที่เหมือนจริงมากกว่า และอยู่ใกล้พอจนผมอาจคิดว่าเป็นภาพถ่ายของผมจริงๆ ถ้าเห็นจากระยะไกล คนอื่นมีสไตล์และศิลปะมากกว่าอย่างเห็นได้ชัด ดังนั้นพวกเขาจึงรู้สึกเฉพาะเจาะจงน้อยลงสำหรับฉัน”

ซอตไทล์สังเกตเห็นว่า AI ทำให้เธอเบาขึ้นด้วย

สำหรับฉัน ฉันยังรู้สึกได้ว่ามันทำให้ฉันสว่างขึ้นโดยอัตโนมัติ และภาพที่ฉันลองใช้ในแกลเลอรีของฉันและเพื่อนซึ่งมีผิวคล้ำกว่าเล็กน้อยกลับทำให้เราดูจางลงอย่างเห็นได้ชัด เป็นการโอ้อวดอย่างชัดเจน และเปิดเผยถึงแนวโน้มที่จะทำให้สว่างขึ้น โทนผิวสีดำ

สตรีเพศ

คนอื่น ๆ ที่ใช้มันมีข้อกังวลที่คล้ายกันไม่มากก็น้อย

ผู้หญิงกล่าวว่า AI นั้นทำให้ภาพของพวกเขาเป็นเรื่องเพศอย่างรวดเร็ว แต่ในบทความก่อนหน้านี้ เรา อธิบาย สิ่งนี้เกิดขึ้นได้จากภาพทางเพศจำนวนมากที่พบในชุดข้อมูลที่ใช้ในการฝึกอบรม AI

กล่าวอีกนัยหนึ่ง หมายความว่า AI คุ้นเคยกับวิธีสร้างภาพเหล่านั้นมากเกินไปและกลายเป็นภาพอนาจารได้อย่างง่ายดาย ด้วยการใช้เล่ห์เหลี่ยมเล็กน้อย มันสามารถกระตุ้นให้สร้างภาพอนาจารจากภาพเหล่านั้นโดยไม่เจตนาได้เช่นกันหากผู้ใช้ต้องการ

ในเรื่องอื่นๆ เราได้กล่าวถึงวิธีที่ AI: สามารถถูกหลอกให้ให้ข้อมูลในการสร้าง วางระเบิด ตัวอย่างเช่น น่าแปลกที่ปัญหาเรื่องเพศไม่ปรากฏในรูปภาพของผู้ชายที่อัปโหลดไปยังฟีเจอร์ Magic Avatar สำหรับการทบทวนเทคโนโลยีของ MIT, Melissa Heikkilä เขียน,

“อวาตาร์ของฉันออกแนวการ์ตูนลามก ในขณะที่เพื่อนร่วมงานชายของฉันต้องเป็นนักบินอวกาศ นักสำรวจ และนักประดิษฐ์”

ในทางกลับกัน Sottile สังเกตเห็นว่า AI มี "ภาพที่ทำให้สับสนที่สุดภาพหนึ่ง" ทำให้เธอดูเหมือน "เหมือนกับว่าใบหน้าของฉันอยู่ในร่างที่เปลือยเปล่า"

“ในภาพหลายภาพ ดูเหมือนว่าฉันเปลือยกายแต่มีผ้าห่มวางอย่างมีชั้นเชิง หรือภาพถูกตัดออกเพื่อปกปิดสิ่งที่โจ่งแจ้ง” เธอกล่าว

“และหลายๆ ภาพที่ฉันใส่เสื้อผ้าเต็มยศก็ยังแสดงสีหน้าร้อนผ่าว ความแตกแยก และเสื้อผ้าที่ขาดๆ เกินๆ ซึ่งไม่เข้ากับภาพถ่ายที่ฉันส่งมา” Zoe Sottile กล่าวเสริม

คนอื่นๆ แสดงความกลัวว่าพวกเขาจะกลายเป็นดาราหนังโป๊ด้วยเทคโนโลยี AI อย่าง Lensa

ความอับอายของร่างกาย

สำหรับผู้หญิงที่มีร่างกายสมบูรณ์ ประสบการณ์อาจแตกต่างออกไปบ้างและแย่กว่านั้นในบางกรณี AI ทำให้พวกเขาผอมลงและเซ็กซี่ขึ้น

“สำหรับ Lmfao ถ้าคุณมี Body Dysmorphia อย่าใช้แอป Lensa นั้นกับภาพที่ AI สร้างขึ้น นี่คือคำเตือนของคุณ” ผู้ใช้รายหนึ่ง เขียน.

อีกคนบอกว่าแอพนี้ทำให้เธอดูเป็นคนเอเชีย

ผู้ใช้รายอื่นใช้ Twitter เพื่อบ่นว่าเขาจ่ายเงิน 8 ดอลลาร์เพื่อสัมผัสกับร่างกายที่ผิดปกติเมื่อเขาใช้ AI

ความผิดปกติทางร่างกายเป็นภาวะสุขภาพจิตที่คนใช้เวลาส่วนใหญ่กังวลเกี่ยวกับข้อบกพร่องในรูปลักษณ์ภายนอก ข้อบกพร่องเหล่านี้มักไม่มีใครสังเกตเห็น

อีกคนหนึ่งบ่นว่า AI ลดน้ำหนักที่มีนัยสำคัญโดยอัตโนมัติบนรูปภาพแบบเต็มตัวของเธอ

“ข้อตำหนิอย่างหนึ่งที่ฉันมีเกี่ยวกับ Lensa AI ก็คือมันจะทำให้คุณผอมในบางภาพ ในฐานะที่เป็นคนอ้วนภาพเหล่านั้นทำให้ฉันรำคาญจริงๆ ระวังอย่าให้ถูกกระตุ้นหากคุณเป็นคนอ้วนโดยไม่สนใจที่จะผอม” Mariah Successful (@Shlatz) เขียนเมื่อวันที่ 5 ธันวาคม 2022

ระเบิดเวลาทางจิตวิทยา

และนักจิตวิทยาก็เห็นด้วยกับคำกล่าวของเธอที่ว่า AI สามารถกระตุ้นผู้หญิงที่มีรูปร่างสมบูรณ์ได้

นักจิตวิทยาคลินิก ดร. โทนี่ พิคูสแพทย์ด้านสุขภาพจิตในออสเตรเลีย ซึ่งทำการวิจัยและเชี่ยวชาญด้านการรักษาความผิดปกติของร่างกายที่ผิดปกติ เชื่อว่าแอปพลิเคชันนี้อาจส่งผลร้ายมากกว่าผลดี และเป็นเพียง "เครื่องมือกรองภาพ" เพื่อปรับเปลี่ยนการรับรู้ของตนเอง

“เมื่อมีความคลาดเคลื่อนที่มากขึ้นระหว่างรูปลักษณ์ในอุดมคติและรูปลักษณ์ภายนอก มันสามารถกระตุ้นความไม่พอใจของร่างกาย ความทุกข์ใจ และความปรารถนาที่จะแก้ไขหรือเปลี่ยนแปลงรูปลักษณ์ของตนเองด้วยวิธีการที่อาจไม่ดีต่อสุขภาพหรือไม่ปลอดภัย” เช่น การกินที่ไม่เป็นระเบียบหรือขั้นตอนเครื่องสำอางที่ไม่จำเป็น Pikoos กล่าว

เธอแสดงความกังวลว่าภาพที่ได้ลบ "รายละเอียดที่ซับซ้อน" เช่น "กระและเส้น" ซึ่งอาจทำให้กังวลเกี่ยวกับผิวมากขึ้น สิ่งนี้สามารถกระตุ้นให้เกิดบุคคลที่เปราะบางทางจิตใจได้เช่นกัน

“การเห็นภาพภายนอกที่สะท้อนความไม่มั่นคงของพวกเขากลับมาที่ตัวพวกเขานั้นเป็นเพียงการตอกย้ำความคิดที่ว่า 'นี่ฉันผิดเอง! และฉันไม่ใช่คนเดียวที่มองเห็นได้!'” Pikoos กล่าว

เนื่องจากข้อเท็จจริงที่ว่า AI นำเสนอคุณสมบัติของตัวเองที่ไม่ได้แสดงลักษณะที่ปรากฏในชีวิตจริงของผู้ใช้ แอปนี้จึงสามารถสร้างความวิตกกังวลใหม่ๆ ได้ เขากล่าว

เธอกล่าวว่า "อวาตาร์เวทมนตร์" ของ AI นั้น "น่าสนใจเป็นพิเศษเพราะมันดูเหมือนมีวัตถุประสงค์มากกว่า ราวกับว่าสิ่งมีชีวิตภายนอกที่รอบรู้บางอย่างได้สร้างภาพลักษณ์ของสิ่งที่คุณดูเหมือนขึ้นมา"

สิ่งนี้ทำให้เธอรู้สึกว่า "มีประโยชน์" จริง ๆ สำหรับผู้ที่มีความผิดปกติของร่างกายและช่วยให้เข้าใจถึง "ความไม่ตรงกัน" ระหว่าง "มุมมองเชิงลบของแต่ละคนเกี่ยวกับตนเองและวิธีที่คนอื่นมองพวกเขา"

อย่างไรก็ตาม เธอตั้งข้อสังเกตว่า AI ไม่ได้มีจุดมุ่งหมายเนื่องจากความพยายามที่จะพรรณนาใบหน้าของคนๆ หนึ่งให้สมบูรณ์แบบและไร้ที่ติมากขึ้น

ตัวอย่างเช่น คนที่ประสบกับความผิดปกติของร่างกายหรือ BDD "อาจมีความมั่นใจเพิ่มขึ้นในเวลาสั้นๆ เมื่อพวกเขาดูภาพลักษณ์ของตน และต้องการแบ่งปันตัวตนในเวอร์ชันนี้กับคนทั้งโลก" เธอกล่าว แต่ความเป็นจริงจะได้รับผลกระทบอย่างหนักเมื่ออยู่นอกสถานที่ หน้าจอที่ไม่ผ่านการกรอง ในกระจก หรือรูปถ่ายที่พวกเขาถ่ายเอง”

ปกป้องตัวเอง

Andrey Usoltsev ซีอีโอของ Prisma Labs กล่าวว่าปัจจุบันบริษัทของเขา “เต็มไปด้วยคำถามเกี่ยวกับ Lensa และเสนอลิงก์ไปยังหน้าคำถามที่พบบ่อยซึ่งตอบข้อสงสัยเกี่ยวกับภาพทางเพศ แม้ว่าจะไม่ใช่ปฏิกิริยาของผู้ใช้ที่ Pikoos อธิบายก็ตาม

“การเห็นสิ่งนี้สะท้อนให้เห็นในแอพจะเป็นการเผชิญหน้าอย่างมากและเป็น 'การยืนยัน' สำหรับวิธีที่พวกเขาเห็นตัวเอง” ทำให้พวกเขากลายเป็น “ที่ยึดมั่นในความผิดปกติมากขึ้น”

การแพร่กระจายที่เสถียร

Lensa ยังใช้ Stable Diffusion ซึ่งใช้การสังเคราะห์การเรียนรู้เชิงลึกที่สามารถสร้างรูปภาพใหม่จากคำอธิบายข้อความ และสามารถทำงานบนพีซี Windows หรือ Linux บน Mac หรือในระบบคลาวด์บนฮาร์ดแวร์คอมพิวเตอร์ที่เช่า

โครงข่ายประสาทเทียมของ Stable Diffusion มีการเรียนรู้อย่างเข้มข้นที่เชี่ยวชาญในการเชื่อมโยงคำและความสัมพันธ์ทางสถิติทั่วไประหว่างตำแหน่งของพิกเซลในภาพ

เราครอบคลุมในอีก เรื่อง เทคโนโลยีสามารถส่งผลร้ายแรงต่อชีวิตได้อย่างไรโดยการแสดงและพรรณนาภาพผู้คนให้ดูเหมือนเป็นอาชญากรหรือมีส่วนร่วมในการกระทำที่ไม่ประจบสอพลอ เช่น การโจรกรรม

ตัวอย่างเช่น เราสามารถแจ้ง Stable Diffusion แบบโอเพ่นซอร์ส เช่น "Tom Hanks ในห้องเรียน" และจะทำให้เขามีภาพลักษณ์ใหม่ของ Tom Hanks ในห้องเรียน ในกรณีของทอม แฮงค์ มันเป็นการเดินเล่นในสวนสาธารณะ เพราะภาพถ่ายของเขาหลายร้อยภาพอยู่ในชุดข้อมูลที่ใช้ในการฝึกการแพร่กระจายที่เสถียรแล้ว

ศิลปินได้รับการจัดการดิบเกินไป

ในด้านศิลปะ ศิลปินบางคนไม่มีความสุข

พวกเขากังวลว่า AI อาจคุกคามการดำรงชีวิตของพวกเขา เนื่องจากศิลปินรวมถึงศิลปินดิจิทัลไม่สามารถสร้างภาพพอร์ตเทรตดิจิทัลได้เร็วเท่ากับ AI

Prisma ซึ่งเป็นบริษัทแม่ของ Lensa พยายามกลบเกลื่อนข้อกังวลเกี่ยวกับเทคโนโลยีที่กำจัดงานของศิลปินดิจิทัล

“ในขณะที่ทั้งมนุษย์และ AI เรียนรู้เกี่ยวกับรูปแบบทางศิลปะในรูปแบบกึ่งๆ ที่คล้ายกัน แต่ก็มีความแตกต่างพื้นฐานบางประการ: AI สามารถวิเคราะห์และเรียนรู้จากชุดข้อมูลขนาดใหญ่ได้อย่างรวดเร็ว แต่ก็ไม่มีระดับความสนใจและความชื่นชมในงานศิลปะเท่าๆ กัน ในฐานะมนุษย์” เขียน บริษัทบน Twitter เมื่อวันที่ 6 ธันวาคม

มีข้อความว่า “ไม่สามารถอธิบายผลลัพธ์ที่ได้ว่าเป็นแบบจำลองที่แน่นอนของงานศิลปะเฉพาะใดๆ ได้”

เปลี่ยนภาพลักษณ์ตัวเอง

Kerry Bowman นักชีวจริยธรรมแห่งมหาวิทยาลัยโทรอนโต กล่าวว่า AI มีศักยภาพที่จะส่งผลเสียต่อภาพลักษณ์ของตนเอง ท่ามกลางปัญหาด้านจริยธรรมอื่นๆ

“ในบางแง่มุม มันอาจจะสนุกมาก แต่ภาพในอุดมคติเหล่านี้ถูกขับเคลื่อนโดยความคาดหวังทางสังคม ซึ่งอาจโหดร้ายและคับแคบมาก” โบว์แมนกล่าวเมื่อวันจันทร์

Bowman กล่าวว่าโปรแกรม AI เหล่านี้ใช้แหล่งข้อมูลชุดข้อมูล เช่น อินเทอร์เน็ตในการค้นหารูปแบบศิลปะต่างๆ เพื่อสร้างภาพบุคคลเหล่านี้ ข้อเสียคือเมื่อ AI ทำเช่นนั้น ศิลปินแทบไม่ได้รับค่าตอบแทนทางการเงินสำหรับการใช้ผลงานหรือเครดิต

“สิ่งที่เกิดขึ้นกับ AI ที่เกิดขึ้นใหม่คือกฎหมายไม่สามารถตามทันได้อย่างแท้จริงในแง่ของกฎหมายลิขสิทธิ์ มันยากและคลุมเครือมาก และจริยธรรมยังล้าหลังกว่ากฎหมายด้วยซ้ำ เพราะฉันจะโต้แย้งว่าสิ่งนี้ไม่ยุติธรรมโดยพื้นฐาน” โบว์แมนกล่าว

ความกังวลเกี่ยวกับข้อมูลส่วนบุคคล

Bowman ยังแสดงความกังวลว่าข้อมูลส่วนบุคคลของผู้คนถูกจัดเก็บอย่างไร

“คุณต้องการให้ใบหน้าของคุณอยู่ในฐานข้อมูลขนาดใหญ่หรือไม่? ผู้คนต้องตัดสินใจด้วยตัวเองเกี่ยวกับเรื่องนี้ แต่มันไม่เป็นพิษเป็นภัย ไม่มีอะไรสำหรับเรื่องนี้ ไม่ใช่แค่เรื่องสนุกเท่านั้น” เขากล่าว

Lensa กล่าวว่ารูปภาพจะถูกเก็บไว้ในเซิร์ฟเวอร์และในแอพไม่เกิน 24 ชั่วโมง ด้วยอัลกอริธึมการเรียนรู้เชิงลึกและการเรียนรู้ของเครื่อง AI จะรวบรวมและให้ผลลัพธ์ที่ดีขึ้นในอนาคต โดยอ้างอิงจากข้อมูลที่ถูกลบด้วย Bowman กล่าวว่าสิ่งนี้จะส่งผลให้เกิดความกังวลด้านความปลอดภัยเกี่ยวกับการใช้การจดจำใบหน้าที่อาจเกิดขึ้นเนื่องจากข้อมูลประเภทนี้อาจถูกนำไปใช้โดยตำรวจอย่างผิดกฎหมาย

ประทับเวลา:

เพิ่มเติมจาก เมตานิวส์