เส้นแบ่งระหว่างการสร้างของจริงและ AI บางเกินไปสำหรับสายตา

ในขณะที่นักพัฒนา Generative AI ยังคงปรับแต่งโมเดลของตนให้มีความซับซ้อนมากขึ้นเรื่อยๆ การแยกแยะระหว่างภาพจริงและการสร้างสรรค์ AI ก็กลายเป็นเรื่องยากมากขึ้นเรื่อยๆ

การศึกษาโดยนักวิจัยจาก มหาวิทยาลัยวอเตอร์ เป็นที่ยอมรับว่าผู้คนกำลังประสบปัญหาในการหาภาพคนจริงและภาพบุคคลที่สร้างโดย AI

ต่ำกว่าเกณฑ์ที่คาดไว้

ในการดำเนินการศึกษานี้ นักวิจัยจากมหาวิทยาลัยวอเตอร์ลูได้มอบรูปภาพที่ไม่มีป้ายกำกับจำนวน 20 ภาพให้กับผู้เข้าร่วม 260 คน ครึ่งหนึ่งของรูปภาพเป็นรูปคนจริงที่ถ่ายจาก Google Images ในขณะที่อีกครึ่งหนึ่งเป็น AI ที่สร้างโดยใช้เครื่องมืออย่าง Dall-E และ การแพร่กระจายที่เสถียร.

จากนั้นผู้เข้าร่วมจะถูกขอให้ติดป้ายกำกับรูปภาพว่าเป็นของจริงหรือสร้างขึ้นโดย AI เพื่อยืนยันคำตอบ

แม้ว่าผู้เข้าร่วม 61% สามารถบอกความแตกต่างระหว่างรูปภาพจริงและรูปภาพที่สร้างโดย AI ได้ แต่ก็ยังต่ำกว่าเกณฑ์ที่คาดไว้ 85%

ในขณะที่ตรวจสอบรูปภาพ ผู้เข้าร่วมให้ความสนใจกับรายละเอียด เช่น ดวงตา นิ้ว ฟัน และตัวบ่งชี้อื่น ๆ ที่เป็นตัวบ่งชี้เมื่อค้นหา AI ที่สร้างรูปภาพ แต่ "การประเมินของพวกเขาไม่ถูกต้องเสมอไป"

“ผู้คนไม่ได้เชี่ยวชาญในการสร้างความแตกต่างอย่างที่คิด” กล่าวว่า ผู้เขียนนำของการศึกษา Andrea Pocol ซึ่งเป็นผู้สมัครระดับปริญญาเอกสาขาวิทยาการคอมพิวเตอร์ของมหาวิทยาลัย

แม้ว่าผู้ใช้อินเทอร์เน็ตอาจดูภาพที่ผ่านไป แต่นักวิจัยของ Waterloo กล่าวว่าพวกเขาอนุญาตให้ผู้เข้าร่วมใช้เวลาในการวิเคราะห์ภาพ

“คนที่แค่ดูมรณะหรือไม่มีเวลาจะไม่เข้าใจสิ่งเหล่านี้” โพโคลกล่าว

อ่านเพิ่มเติม: CEO ของ Leonardo เน้นย้ำถึงความโง่เขลาของผู้ใช้เกี่ยวกับภัยคุกคาม AI ที่ดาวอส

การใช้เทคโนโลยีในทางที่ผิด

ของพวกเขา ศึกษาในหัวข้อ “Seeing Is No Longer Believing: A Survey on the State of Deepfakes, AI-Generated Human, and Other Nonveridical Media” ซึ่งปรากฏในวารสาร Advances in Computer Graphics ยังเน้นย้ำถึงความเสี่ยงที่เกี่ยวข้องกับความก้าวหน้าในเทคโนโลยี generative AI .

นักวิจัยยังตั้งข้อสังเกตด้วยความกังวลว่าอัตราเทคโนโลยี AI เชิงสร้างสรรค์มีการเปลี่ยนแปลงอย่างรวดเร็ว และมีความซับซ้อนมากขึ้นทุกวัน การวิจัยทางวิชาการและการออกกฎหมายไม่สามารถตามทันการพัฒนาในอุตสาหกรรมกำเนิดได้

Pocol กล่าวว่าภาพ AI กลายเป็นจริงมากขึ้น ทำให้ยากสำหรับบางคนในการแยกแยะระหว่างภาพจริงและภาพที่สร้างโดย AI Pocol กล่าวว่าสิ่งนี้กำลังสร้างพื้นที่อุดมสมบูรณ์สำหรับนักแสดงที่ไม่ดีที่ใช้ประโยชน์จากเทคโนโลยีเพื่อเผยแพร่ความอาฆาตพยาบาทและขยายเวลาข้อมูลที่บิดเบือนหรือหลอกลวงผู้คน

“ข้อมูลบิดเบือนไม่ใช่เรื่องใหม่ แต่เครื่องมือในการบิดเบือนข้อมูลมีการเปลี่ยนแปลงและพัฒนาอยู่ตลอดเวลา” โพโคลกล่าว

“มันอาจถึงจุดที่ไม่ว่าผู้คนจะได้รับการฝึกมาแค่ไหน แต่ก็ยังต้องดิ้นรนเพื่อแยกแยะภาพจริงจากของปลอม นั่นเป็นเหตุผลที่เราจำเป็นต้องพัฒนาเครื่องมือเพื่อระบุและตอบโต้สิ่งนี้ มันเหมือนกับการแข่งขันอาวุธ AI ใหม่”

นักวิจัยยังรับทราบถึงความท้าทายที่เทคโนโลยีเกิดขึ้น โดยเฉพาะอย่างยิ่งเมื่อพูดถึงการแพร่กระจายของดีพเฟค

เทคโนโลยีอยู่ในมือคนผิด

ด้วยความยากลำบากที่คนทั่วไปต้องเผชิญในการแยกแยะระหว่างภาพจริงและภาพปลอม จึงมีความกลัวเพิ่มมากขึ้นว่าการแพร่กระจายของ Deepfakes จะเพิ่มมากขึ้น ผู้เชี่ยวชาญเตือนว่าผู้ไม่ประสงค์ดีจะใช้ประโยชน์จากเทคโนโลยี AI เพื่อเผยแพร่ความเท็จในการเลือกตั้งเพื่อพยายามทำให้ผู้มีสิทธิเลือกตั้งเข้าใจผิด

พื้นที่ ศูนย์ต่อต้านความเกลียดชังดิจิทัล (CCDH) ซึ่งเป็นองค์กรไม่แสวงผลกำไรที่คอยติดตามคำพูดแสดงความเกลียดชังทางออนไลน์อยู่แล้ว เตือน ในรายงานของพวกเขาว่าโปรแกรมสร้างภาพที่ขับเคลื่อนด้วย AI กำลังทำให้ข้อมูลที่ไม่ถูกต้องเกี่ยวกับการเลือกตั้งในปี 2024 แย่ลง

“ศักยภาพที่รูปภาพที่สร้างโดย AI ดังกล่าวเพื่อใช้เป็น 'หลักฐานภาพถ่าย' อาจทำให้การแพร่กระจายของการกล่าวอ้างที่เป็นเท็จรุนแรงขึ้น ทำให้เกิดความท้าทายที่สำคัญในการรักษาความสมบูรณ์ของการเลือกตั้ง” นักวิจัยของ CCDH กล่าวในรายงานของพวกเขา

อย่างไรก็ตาม สิ่งนี้เกิดขึ้นท่ามกลางการประกาศว่ามีบริษัทเทคโนโลยียักษ์ใหญ่ประมาณ 20 แห่ง รวมทั้ง OpenAI, Microsoft และ AI ความเสถียร ลงนามในข้อตกลง เพื่อทำงานร่วมกันเพื่อป้องกันไม่ให้เนื้อหาหลอกลวง AI “แทรกแซงการเลือกตั้งทั่วโลกในปีนี้

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• PlatoData.Network Vertical Generative Ai เพิ่มพลังให้กับตัวเอง เข้าถึงได้ที่นี่.
• เพลโตไอสตรีม. Web3 อัจฉริยะ ขยายความรู้ เข้าถึงได้ที่นี่.
• เพลโตESG. คาร์บอน, คลีนเทค, พลังงาน, สิ่งแวดล้อม แสงอาทิตย์, การจัดการของเสีย. เข้าถึงได้ที่นี่.
• เพลโตสุขภาพ เทคโนโลยีชีวภาพและข่าวกรองการทดลองทางคลินิก เข้าถึงได้ที่นี่.
• ที่มา: https://metanews.com/the-line-between-real-and-fake-gets-too-thin-for-the-ordinary-eye/