นักวิจัยที่ IBM Security ได้เปิดเผยภัยคุกคามใหม่ที่น่าตกใจในปัญญาประดิษฐ์: ความสามารถในการจัดการการสนทนาสดผ่านเทคนิคที่เรียกว่า "การแจ็คเสียง"
ด้วยการใช้เทคโนโลยี generative AI และเทคโนโลยีเสียง deepfake วิธีนี้สามารถสกัดกั้นและแก้ไขคำพูดได้แบบเรียลไทม์ ซึ่งก่อให้เกิดความเสี่ยงอย่างที่ไม่เคยเกิดขึ้นมาก่อนในการสื่อสารแบบดิจิทัล
อ่านเพิ่มเติม: การตรวจจับ AI Deepfake ดำเนินไปอย่างต่อเนื่องเพื่อรับมือกับความท้าทายในการหลอกลวงที่เพิ่มมากขึ้น
เปิดเผยภัยคุกคามของการแจ็คเสียง
การแจ็คเสียงทำงานโดยการประมวลผลเสียงสดจากการสื่อสารสองทาง เช่น การโทร และค้นหาคำสำคัญหรือวลีที่เฉพาะเจาะจง เมื่อตรวจพบทริกเกอร์เหล่านี้ AI จะเข้ามาแทนที่เสียงจริงด้วยเวอร์ชัน Deepfake ที่ได้รับการปรับแต่งก่อนที่จะถึงปลายทาง ที่น่าทึ่ง ภาพประกอบ ของเทคนิคนี้จัดทำโดยนักวิจัยของ IBM ซึ่งเปลี่ยนแปลงข้อมูลบัญชีธนาคารที่พูดระหว่างการสนทนาโดยไม่ถูกตรวจพบ
แจ็คเสียง: การใช้ generative AI เพื่อบิดเบือนธุรกรรมเสียงสด: การเพิ่มขึ้นของ generative AI รวมถึงโมเดลการแปลงข้อความเป็นรูปภาพ การแปลงข้อความเป็นคำพูด และภาษาขนาดใหญ่ (LLM) ได้เปลี่ยนแปลงการทำงานและชีวิตส่วนตัวของเราไปอย่างมาก ในขณะที่ความก้าวหน้าเหล่านี้... https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
— ชาห์ชีค (@shah_sheikh) กุมภาพันธ์ 1, 2024
ความง่ายในการพิสูจน์แนวคิดสำหรับการโจมตีครั้งนี้เป็นเรื่องที่น่าสับสน นักวิจัยตั้งข้อสังเกตว่าส่วนที่ท้าทายที่สุดไม่ใช่การสร้าง AI แต่เป็นด้านเทคนิคของการบันทึกและประมวลผลเสียงสด การพัฒนาที่ง่ายดายนี้แสดงถึงการแตกต่างอย่างมีนัยสำคัญจากความคาดหวังแบบดั้งเดิม ซึ่งความพยายามดังกล่าวจะต้องอาศัยความเชี่ยวชาญอย่างมากในสาขาวิทยาการคอมพิวเตอร์หลายสาขา
“การสร้าง PoC นี้เป็นเรื่องง่ายอย่างน่าประหลาดใจและน่ากลัว เราใช้เวลาส่วนใหญ่ในการหาวิธีบันทึกเสียงจากไมโครโฟนและป้อนเสียงให้กับ AI เชิงสร้างสรรค์”
ในโครงการนี้บทบาทของ กำเนิด AI เป็นสิ่งสำคัญ เทคโนโลยีนี้ใช้เสียงของบุคคลเพียงสามวินาทีเพื่อสร้างโคลนที่น่าเชื่อเพื่อสร้าง Deepfakes ที่ถูกต้องตามกฎหมายตามความต้องการ ความสามารถนี้ซึ่งมีให้ใช้งานผ่าน API ชี้ให้เห็นถึงแนวโน้มที่น่ากังวลในกระบวนการทำให้เป็นประชาธิปไตยสำหรับเครื่องมือการจัดการขั้นสูง
“ปัจจุบันนี้ เราต้องใช้เวลาเพียงสามวินาทีของเสียงของแต่ละบุคคลในการโคลนเสียงและใช้ API การแปลงข้อความเป็นคำพูดเพื่อสร้างเสียงปลอมที่แท้จริง”
ผลกระทบและการใช้งานในทางที่ผิดที่อาจเกิดขึ้น
อย่างไรก็ตาม ผลกระทบของการแจ็คเสียงมีมากกว่าการฉ้อโกงทางการเงิน เทคโนโลยีดังกล่าวสามารถเซ็นเซอร์แบบเรียลไทม์ เปลี่ยนแปลงการถ่ายทอดสด เช่น ข่าว และสุนทรพจน์ทางการเมือง โดยไม่ตรวจพบ ความสามารถเหล่านี้กระทบต่อความสมบูรณ์ของข้อมูล โดยมีผลกระทบอย่างลึกซึ้งต่อประชาธิปไตยและความไว้วางใจของสาธารณะ
ด้วยอุปสรรคที่ต่ำต่อการโจมตีด้วยการแจ็คเสียง วิศวกรรมสังคมที่ซับซ้อนหรือฟิชชิ่งจึงลดลงอย่างมาก ความผ่อนคลายนี้ทำให้เกิดปัญหาการแพร่กระจายของการโจมตี ทำให้เกิดความท้าทายต่อมาตรการรักษาความปลอดภัยในปัจจุบันและจำเป็นต้องมีกลไกการป้องกันใหม่
“ความสมบูรณ์ของ PoC นี้จะส่งสัญญาณถึงความเสี่ยงที่สำคัญต่อผู้บริโภค สิ่งสำคัญที่สุด… ยิ่งการโจมตีนี้ได้รับการขัดเกลามากเท่าใด เครือข่ายของเหยื่อก็จะยิ่งกว้างขึ้นเท่านั้น”
ปรากฏการณ์ของการแจ็คเสียงตอกย้ำปัญหาที่กว้างขึ้นในการพัฒนา AI: ลักษณะสองประการของ เทคโนโลยีกำเนิด. ในด้านหนึ่ง สิ่งเหล่านี้เป็นแหล่งของความเป็นไปได้ที่ไม่จำกัดสำหรับนวัตกรรมและความคิดสร้างสรรค์ ในทางกลับกัน ศักยภาพการใช้งานในทางที่ผิดไม่ควรละเลย เหตุการณ์ดังกล่าวทำให้เกิดคำถามสำคัญ: สังคมจะใช้ประโยชน์จาก AI ในขณะที่ป้องกันการใช้งานที่มืดมนได้อย่างไร
การนำทางอนาคตของการรักษาความปลอดภัย AI
ด้วยภูมิทัศน์ที่เปลี่ยนแปลงไปของภัยคุกคามทางดิจิทัล การระบุการแจ็คเสียงของ IBM Security ถือเป็นคำเตือนที่สำคัญในการเฝ้าระวังและปรับปรุงความปลอดภัยทางไซเบอร์ให้ทันสมัย วิวัฒนาการของมาตรการตอบโต้ รวมถึงอัลกอริธึมการตรวจจับที่เป็นนวัตกรรมและเทคนิคการเข้ารหัสที่แข็งแกร่งยิ่งขึ้น มีความสำคัญอย่างยิ่งในการต่อสู้กับภัยคุกคามที่ซับซ้อนดังกล่าว
นอกจากนี้ การเปิดเผยข้อมูลนี้ยังเผยให้เห็นว่าประเด็นด้านจริยธรรมเป็นส่วนสำคัญ การวิจัย AI และการพัฒนา การตั้งกฎเกณฑ์และเกณฑ์มาตรฐานสำหรับการใช้งานที่รับผิดชอบต่อ AI ถือเป็นสิ่งสำคัญในการจัดการกับอันตรายของเทคโนโลยีอันทรงพลังดังกล่าว
- เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
- PlatoData.Network Vertical Generative Ai เพิ่มพลังให้กับตัวเอง เข้าถึงได้ที่นี่.
- เพลโตไอสตรีม. Web3 อัจฉริยะ ขยายความรู้ เข้าถึงได้ที่นี่.
- เพลโตESG. คาร์บอน, คลีนเทค, พลังงาน, สิ่งแวดล้อม แสงอาทิตย์, การจัดการของเสีย. เข้าถึงได้ที่นี่.
- เพลโตสุขภาพ เทคโนโลยีชีวภาพและข่าวกรองการทดลองทางคลินิก เข้าถึงได้ที่นี่.
- ที่มา: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- :มี
- :เป็น
- :ไม่
- $ ขึ้น
- 1
- 11
- 7
- 8
- a
- ความสามารถ
- ลงชื่อเข้าใช้
- ข้าม
- ที่อยู่
- สูง
- กับ
- AI
- อัลกอริทึม
- เปลี่ยนแปลง
- an
- และ
- API
- APIs
- การใช้งาน
- เป็น
- เทียม
- ปัญญาประดิษฐ์
- AS
- At
- โจมตี
- การโจมตี
- เสียง
- จริง
- ใช้ได้
- ธนาคาร
- บัญชีธนาคาร
- อุปสรรค
- BE
- รับ
- ก่อน
- กำลัง
- มาตรฐาน
- ประโยชน์ที่ได้รับ
- เกิน
- ที่กว้างขึ้น
- แต่
- by
- โทร
- CAN
- ความสามารถในการ
- สามารถ
- จับ
- เซ็นเซอร์
- ความท้าทาย
- ท้าทาย
- การเปลี่ยนแปลง
- การต่อสู้
- การสื่อสาร
- คมนาคม
- การประนีประนอม
- คอมพิวเตอร์
- วิทยาการคอมพิวเตอร์
- มาก
- ผู้บริโภค
- การสนทนา
- การสนทนา
- ได้
- การสร้าง
- ความคิดสร้างสรรค์
- วิกฤติ
- ปัจจุบัน
- cybersecurity
- อันตราย
- เข้ม
- การหลอกลวง
- deepfakes
- ป้องกัน
- ความต้องการ
- ประชาธิปไตย
- การทำให้เป็นประชาธิปไตย
- การออกเดินทาง
- ปลายทาง
- ตรวจพบ
- การตรวจพบ
- พัฒนาการ
- ดิจิตอล
- การเปิดเผย
- การอภิปราย
- คู่
- ในระหว่าง
- ความสะดวก
- ง่าย
- ผลกระทบ
- ความพยายาม
- การเข้ารหัสลับ
- ชั้นเยี่ยม
- จำเป็น
- ตามหลักจริยธรรม
- วิวัฒนาการ
- ความคาดหวัง
- ความชำนาญ
- ผู้เชี่ยวชาญ
- เทียม
- สาขา
- ทางการเงิน
- การฉ้อโกงทางการเงิน
- หา
- สำหรับ
- การหลอกลวง
- ราคาเริ่มต้นที่
- อนาคต
- สร้าง
- กำเนิด
- กำเนิด AI
- Go
- การเจริญเติบโต
- มือ
- เทียม
- มี
- สรุป ความน่าเชื่อถือของ Olymp Trade?
- ทำอย่างไร
- อย่างไรก็ตาม
- HTTPS
- ไอบีเอ็ม
- ประจำตัว
- ผลกระทบ
- in
- อุบัติการณ์
- รวมทั้ง
- ข้อมูล
- นักวิเคราะห์ส่วนบุคคลที่หาโอกาสให้เป็นไปได้มากที่สุด
- นวัตกรรม
- สำคัญ
- ความสมบูรณ์
- Intelligence
- ปัญหา
- ปัญหา
- IT
- ITS
- เพียงแค่
- คำหลัก
- ที่รู้จักกัน
- ภูมิประเทศ
- ภาษา
- ใหญ่
- ถูกกฎหมาย
- สด
- ชีวิต
- ที่ต้องการหา
- ต่ำ
- อุปสรรคต่ำ
- จัดการ
- การจัดการ
- วุฒิภาวะ
- มาตรการ
- กลไก
- วิธี
- ไมโครโฟน
- โมเดล
- ทันสมัย
- ข้อมูลเพิ่มเติม
- มากที่สุด
- ธรรมชาติ
- จำเป็นต้อง
- สุทธิ
- ใหม่
- ข่าว
- เด่น
- of
- on
- ONE
- เพียง
- or
- อื่นๆ
- ของเรา
- ออก
- เกิน
- ส่วนหนึ่ง
- ส่วนบุคคล
- ปรากฏการณ์
- ฟิชชิ่ง
- โทรศัพท์
- โทรศัพท์
- วลี
- เป็นจุดสำคัญ
- เพลโต
- เพลโตดาต้าอินเทลลิเจนซ์
- เพลโตดาต้า
- PoC
- จุด
- ทางการเมือง
- ความเป็นไปได้
- ที่มีศักยภาพ
- ที่มีประสิทธิภาพ
- กระบวนการ
- การประมวลผล
- ก่อ
- ลึกซึ้ง
- แจ้ง
- ให้
- สาธารณะ
- ไว้วางใจของประชาชน
- คำถาม
- ยก
- ค่อนข้าง
- ต้นน้ำ
- อ่าน
- จริง
- เรียลไทม์
- การบันทึก
- ลดลง
- กลั่น
- แสดงให้เห็นถึง
- นักวิจัย
- เปิดเผย
- เผย
- ขึ้น
- ความเสี่ยง
- ความเสี่ยง
- บทบาท
- กฎระเบียบ
- การป้องกัน
- โครงการ
- วิทยาศาสตร์
- วินาที
- ความปลอดภัย
- มาตรการรักษาความปลอดภัย
- การตั้งค่า
- หลาย
- เจ้าอาหรับ
- ขยับ
- น่า
- สัญญาณ
- สำคัญ
- อย่างมีความหมาย
- สังคม
- วิศวกรรมทางสังคม
- สังคม
- ซับซ้อน
- แหล่ง
- โดยเฉพาะ
- กล่าวสุนทรพจน์
- การใช้จ่าย
- พูด
- การแพร่กระจาย
- ตกใจ
- ขั้นตอน
- ทำให้งงงวย
- อย่างเช่น
- อย่างแปลกใจ
- ใช้เวลา
- เทคนิค
- เทคนิค
- เทคโนโลยี
- เทคโนโลยี
- Text-to-Speech
- ที่
- พื้นที่
- ก้าวสู่อนาคต
- ของพวกเขา
- แล้วก็
- ล้อยางขัดเหล่านี้ติดตั้งบนแกน XNUMX (มม.) ผลิตภัณฑ์นี้ถูกผลิตในหลายรูปทรง และหลากหลายเบอร์ความแน่นหนาของปริมาณอนุภาคขัดของมัน จะทำให้ท่านได้รับประสิทธิภาพสูงในการขัดและการใช้งานที่ยาวนาน
- พวกเขา
- นี้
- การคุกคาม
- ภัยคุกคาม
- สาม
- ตลอด
- ดังนั้น
- เวลา
- ไปยัง
- เครื่องมือ
- แบบดั้งเดิม
- การทำธุรกรรม
- เทรนด์
- จริง
- วางใจ
- พูดเบาและรวดเร็ว
- ขีด
- ไม่ จำกัด
- เป็นประวัติการณ์
- การใช้
- ใช้
- การใช้
- รุ่น
- ผ่านทาง
- ผู้ที่ตกเป็นเหยื่อ
- เสียงพูด
- เสียงVO
- คำเตือน
- คือ
- we
- เมื่อ
- ที่
- ในขณะที่
- WHO
- กว้าง
- กับ
- ภายใน
- ไม่มี
- คำ
- งาน
- โรงงาน
- จะ
- ลมทะเล