ตำรวจเกาหลีใต้ติดตั้งเครื่องมือตรวจจับ Deepfake ก่อนการเลือกตั้ง

เผยแพร่ซ้ำโดยเพลโต

ผู้ติดตาม: 0

ตำรวจเกาหลีใต้ติดตั้งเครื่องมือตรวจจับ Deepfake ก่อนการเลือกตั้ง PlatoBlockchain Data Intelligence ค้นหาแนวตั้ง AI.

ท่ามกลางการเพิ่มขึ้นของ Deepfake ที่มีแรงจูงใจทางการเมืองเพิ่มมากขึ้น สำนักงานตำรวจแห่งชาติของเกาหลีใต้ (KNPA) ได้พัฒนาและใช้เครื่องมือสำหรับตรวจจับเนื้อหาที่สร้างโดย AI เพื่อใช้ในการสืบสวนคดีอาญาที่อาจเกิดขึ้น

จากข้อมูลของสำนักงานสืบสวนแห่งชาติ (NOI) ของ KNPA โปรแกรมการเรียนรู้เชิงลึกได้รับการฝึกอบรมเกี่ยวกับข้อมูลประมาณ 5.2 ล้านชิ้นที่มาจากพลเมืองเกาหลี 5,400 คน สามารถระบุได้ว่าวิดีโอ (ซึ่งยังไม่ได้ฝึกล่วงหน้า) เป็นวิดีโอจริงหรือไม่ภายในเวลาเพียง 10 ถึง 80 นาที โดยมีอัตราความแม่นยำประมาณ XNUMX% เครื่องมือนี้สร้างเอกสารผลลัพธ์โดยอัตโนมัติซึ่งตำรวจสามารถใช้ในการสืบสวนคดีอาญาได้

ตามที่สื่อเกาหลีรายงานผลลัพธ์เหล่านี้จะใช้เพื่อแจ้งการสอบสวน แต่จะไม่ใช้เป็นหลักฐานโดยตรงในการพิจารณาคดีอาญา ตำรวจจะสร้างพื้นที่สำหรับการร่วมมือกับผู้เชี่ยวชาญด้าน AI ในด้านวิชาการและธุรกิจ

ผู้เชี่ยวชาญด้านความปลอดภัยของ AI เรียกร้องให้มีการใช้ AI ในทางที่ดี รวมถึงการตรวจจับข้อมูลที่ผิดและการปลอมแปลง

“นี่คือประเด็น: AI สามารถช่วยให้เราวิเคราะห์ [เนื้อหาเท็จ] ได้ทุกขนาด” Gil Shwed ซีอีโอของ Check Point กล่าวกับ Dark Reading ในการสัมภาษณ์ในสัปดาห์นี้ แม้ว่า AI จะเป็นโรค แต่เขากล่าวว่า มันก็เป็นวิธีการรักษาเช่นกัน “[การตรวจจับการฉ้อโกง] เคยต้องใช้เทคโนโลยีที่ซับซ้อนมาก แต่ด้วย AI คุณสามารถทำสิ่งเดียวกันได้โดยใช้ข้อมูลจำนวนน้อยที่สุด ไม่ใช่แค่ข้อมูลที่ดีและมีจำนวนมากเท่านั้น ข้อมูล."

ปัญหา Deepfake ของเกาหลี

ในขณะที่คนอื่นๆ ทั่วโลกต่างรอคอย Deepfakes บุกรุกฤดูกาลเลือกตั้งชาวเกาหลีได้รับมือกับปัญหานี้อย่างใกล้ชิดและเป็นส่วนตัวแล้ว

นกคีรีบูนในเหมืองถ่านหินเกิดขึ้นระหว่างการเลือกตั้งระดับจังหวัดในปี 2022 เมื่อมีวิดีโอแพร่สะพัดบนโซเชียลมีเดีย ดูเหมือนว่าประธานาธิบดียุน ซุกยอลสนับสนุนผู้สมัครชิงตำแหน่งพรรครัฐบาลในท้องถิ่น

การหลอกลวงประเภทนี้เริ่มแพร่หลายมากขึ้นเมื่อเร็ว ๆ นี้ เมื่อเดือนที่แล้ว คณะกรรมการการเลือกตั้งแห่งชาติของประเทศเปิดเผยว่าระหว่างวันที่ 29 ม.ค. ถึง 16 ก.พ. นั้น ตรวจพบ Deepfake 129 รายการ ละเมิดกฎหมายการเลือกตั้ง ซึ่งเป็นตัวเลขที่คาดว่าจะเพิ่มขึ้นเมื่อถึงวันเลือกตั้งวันที่ 10 เมษายนเท่านั้น ทั้งหมดนี้แม้จะมีการแก้ไขกฎหมายที่มีผลบังคับใช้เมื่อวันที่ 29 มกราคม โดยระบุว่าการใช้วิดีโอ รูปภาพ หรือเสียงที่เป็นการปลอมแปลงเชิงลึกที่เกี่ยวข้องกับการเลือกตั้ง อาจทำให้พลเมืองได้รับโทษจำคุกสูงสุด 50 ปี และปรับสูงสุด 37,500 ล้านวอน (ประมาณ XNUMX ดอลลาร์)

ไม่ใช่แค่การบิดเบือนข้อมูล

Shwed จาก Check Point เตือนว่า AI ก็มีความเสี่ยงเช่นเดียวกับเทคโนโลยีใหม่อื่นๆ “ใช่แล้ว มีสิ่งเลวร้ายที่อาจเกิดขึ้นได้ และเราจำเป็นต้องปกป้องมัน” เขากล่าว

ข้อมูลปลอมไม่ได้เป็นปัญหามากนัก เขากล่าวเสริม “ปัญหาที่ใหญ่ที่สุดในความขัดแย้งของมนุษย์โดยทั่วไปก็คือ เราไม่ได้เห็นภาพทั้งหมด เราเลือกองค์ประกอบ [ในข่าว] ที่เราต้องการเห็น จากนั้นจึงตัดสินใจตามองค์ประกอบเหล่านั้น” เขากล่าว

“มันไม่เกี่ยวกับการบิดเบือนข้อมูล มันเกี่ยวกับสิ่งที่คุณเชื่อ และขึ้นอยู่กับสิ่งที่คุณเชื่อ คุณจะเลือกข้อมูลที่คุณต้องการดู ไม่ใช่อย่างอื่น”