IWF เรียกร้องให้ดำเนินการกับคนใคร่เด็กโดยใช้ Generative AI

Internet Watch Foundation เตือนว่า Generative AI ขู่ว่าจะเปิดใช้งาน "การสร้างภาพในวงกว้าง" ซึ่งจะ "ครอบงำผู้ที่ทำงานเพื่อต่อสู้กับการล่วงละเมิดทางเพศเด็กทางออนไลน์"

ร่างกายตื่นตระหนกกับความก้าวหน้าอย่างรวดเร็วของ Generative AI ในช่วงปีที่ผ่านมา และคาดการณ์ว่าสื่อการล่วงละเมิดทางเพศเด็กที่สร้างโดย AI (CSAM) จะมีความชัดเจนมากขึ้นเมื่อเวลาผ่านไป

อาชญากรรมที่น่าสะเทือนใจที่สุด

มูลนิธิ Internet Watch กล่าวว่ากำเนิด AI มีศักยภาพอย่างมากในการทำให้ชีวิตของเราดีขึ้น แต่เตือนว่าเทคโนโลยีสามารถเปลี่ยนไปสู่จุดประสงค์อันมุ่งร้ายได้อย่างง่ายดาย

ซูซี่ ฮาร์กรีฟส์ ผู้บริหารระดับสูงของ IWF กล่าวกับเดอะการ์เดียน วันพุธ ว่า “ฝันร้ายที่เลวร้ายที่สุดของต้นสังกัดได้เป็นจริงแล้ว”

“เมื่อต้นปีที่ผ่านมา เราเตือนว่าในไม่ช้าภาพ AI อาจไม่แยกแยะจากภาพจริงของเด็กที่ถูกล่วงละเมิดทางเพศ และเราอาจเริ่มเห็นภาพนี้แพร่หลายมากขึ้นในจำนวนที่มากขึ้น ตอนนี้เราผ่านจุดนั้นไปแล้ว” ฮาร์กรีฟส์กล่าว

เธอกล่าวเสริมว่า “น่าแปลกที่เราเห็นอาชญากรจงใจฝึก AI ของตนกับภาพของเหยื่อจริงที่ได้รับความเดือดร้อนจากการละเมิดแล้ว เด็กที่เคยถูกข่มขืนในอดีตกำลังถูกรวมเข้ากับสถานการณ์ใหม่ เพราะมีใครบางคน ต้องการเห็นมัน ที่ไหนสักแห่ง”

ขนาดของปัญหากำลังก่อให้เกิดปัญหาใหญ่สำหรับผู้ที่ต่อสู้กับ CSAM แล้ว

ในหนึ่งเดือน มีการโพสต์รูปภาพที่สร้างโดย AI จำนวน 20,254 รูปในฟอรัม CSAM ของเว็บมืดแห่งหนึ่ง นักวิเคราะห์ของ IWF ระบุภาพถ่ายหลอกทางอาญาได้ 2,562 ภาพ ที่สร้างขึ้นด้วยความช่วยเหลือของ generative AI

มากกว่าครึ่งหนึ่งแสดงภาพเด็กอายุต่ำกว่า 10 ปี ในขณะที่ 564 ภาพถูกจัดอยู่ในหมวดหมู่ A ซึ่งเป็นรูปแบบที่ร้ายแรงที่สุดของภาพการล่วงละเมิดเด็ก

ภาพถ่าย CSAM ของคนดัง

Generative AI กำลังสร้างหมวดหมู่ใหม่ของ CSAM ผลการวิจัยของ IWF แสดงให้เห็นว่าคนดังกำลังเข้าสู่วัยชราและกลายเป็นเด็กด้วยเครื่องมือ AI

จากนั้น คนดังที่เข้าสู่วัยชราจะถูกจัดให้อยู่ในสถานการณ์ที่ไม่เหมาะสมเพื่อความพึงพอใจของผู้เฒ่าหัวงูทางออนไลน์

เด็กของคนดังก็ตกเป็นเป้าหมายเช่นกัน โดย "เปลือยกาย" เด็ก ๆ สำหรับผู้ใช้ในฟอรัม Darknet

IWF กล่าวว่าภาพเหล่านี้แยกแยะได้ยากขึ้นเรื่อยๆ นอกเหนือจาก CSAM จริง

“AI CSAM ที่น่าเชื่อถือที่สุดนั้นแยกไม่ออกจาก CSAM จริงด้วยสายตา แม้แต่นักวิเคราะห์ IWF ที่ผ่านการฝึกอบรมมาแล้วก็ตาม เทคโนโลยีการแปลงข้อความเป็นรูปภาพจะดีขึ้นเท่านั้นและก่อให้เกิดความท้าทายมากขึ้นสำหรับ IWF และหน่วยงานบังคับใช้กฎหมาย” รายงาน.

คำแนะนำของรัฐบาล

IWF ซึ่งมีฐานอยู่ใน สหราชอาณาจักรกำลังขอให้บริษัทเทคโนโลยีจากทั่วโลกตรวจสอบให้แน่ใจว่า CSAM ขัดต่อข้อตกลงเงื่อนไขการใช้งานของพวกเขา นอกจากนี้ ยังต้องการการฝึกอบรมที่ดีขึ้นสำหรับหน่วยงานบังคับใช้กฎหมาย เพื่อให้พวกเขาสามารถระบุรูปภาพประเภทเหล่านี้ได้ง่ายขึ้น

IWF ยังขอให้รัฐบาลอังกฤษทำให้ AI CSAM เป็นหัวข้อหลักของการอภิปรายในการประชุมสุดยอด AI ที่จะเกิดขึ้นที่ Bletchley Park ในเดือนหน้า

สหราชอาณาจักรหวังที่จะดึงดูดผู้เล่นคนสำคัญจากโลกธุรกิจและผู้นำระดับโลกให้มาร่วมงาน จนถึงขณะนี้ นายกรัฐมนตรีอิตาลี จอร์เจีย เมโลนี เป็นผู้นำเพียงคนเดียวของ G7 ที่ได้รับการยืนยันว่าจะเข้าร่วม

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• PlatoData.Network Vertical Generative Ai เพิ่มพลังให้กับตัวเอง เข้าถึงได้ที่นี่.
• เพลโตไอสตรีม. Web3 อัจฉริยะ ขยายความรู้ เข้าถึงได้ที่นี่.
• เพลโตESG. คาร์บอน, คลีนเทค, พลังงาน, สิ่งแวดล้อม แสงอาทิตย์, การจัดการของเสีย. เข้าถึงได้ที่นี่.
• เพลโตสุขภาพ เทคโนโลยีชีวภาพและข่าวกรองการทดลองทางคลินิก เข้าถึงได้ที่นี่.
• ที่มา: https://metanews.com/iwf-demands-action-on-pedophiles-using-generative-ai/