AI Deepfakes ก็เป็นภัยคุกคามต่อธุรกิจเช่นกัน นี่คือเหตุผล - ถอดรหัส

AI Deepfakes ก็เป็นภัยคุกคามต่อธุรกิจเช่นกัน นี่คือเหตุผล - ถอดรหัส

ประทับเวลา: 25 สิงหาคม 2023 3:50 น.
AI Deepfakes ก็เป็นภัยคุกคามต่อธุรกิจเช่นกัน—นี่คือสาเหตุ - ถอดรหัสข้อมูลอัจฉริยะของ PlatoBlockchain ค้นหาแนวตั้ง AI.

ในขณะที่ยักษ์ใหญ่ด้านเทคโนโลยีแข่งขันกันเพื่อนำปัญญาประดิษฐ์มาสู่มวลชนและเป็นเจ้าของตลาดที่กำลังเติบโต การแข่งขันด้านอาวุธของ AI กำลังกระตุ้นให้มีวิดีโอและเสียงแบบ "ดีพเฟค" เพิ่มขึ้น ซึ่งเป็นเนื้อหาที่มักจะดูหรือฟังดูถูกต้องตามกฎหมาย แต่แท้จริงแล้วเป็นการบิดเบือนความจริงที่เป็นการฉ้อโกง และพวกมันก็ส่งผลกระทบต่อธุรกิจเช่นกัน ตามรายงานฉบับใหม่

Deepfakes คือการสร้างสรรค์ที่ AI สร้างขึ้น เช่น รูปภาพ วิดีโอ และเสียงที่ปรุงแต่งเพื่อหลอกลวงผู้คน นักต้มตุ๋นใช้ Deepfakes เพื่อฉ้อโกง การกรรโชกหรือทำให้เสื่อมเสียชื่อเสียง การแพร่กระจายของ AI กำเนิด เครื่องมือช่วยให้นักต้มตุ๋นสร้างเนื้อหาปลอมได้ง่ายกว่าที่เคย

คนดังและบุคคลสาธารณะอื่นๆ ถูกแทรกเข้าไปในวิดีโอปลอมและบางครั้งก็โจ่งแจ้งโดยไม่ได้รับความยินยอมในลักษณะที่บางครั้งแพร่ระบาดหรืออาจทำให้เกิดความตื่นตระหนกบนโซเชียลมีเดีย ในรายงานที่ส่งให้ ถอดรหัส,สำนักงานบัญชีระดับโลก เอพี เขียนว่าภาคธุรกิจก็ไม่รอดพ้นจากภัยคุกคามแบบดีพเฟคเช่นกัน

เนื้อหา Deepfake สามารถใช้ในการโจมตีทางวิศวกรรมสังคมและการโจมตีทางไซเบอร์ประเภทอื่น ๆ ที่มุ่งเป้าไปที่บริษัทต่างๆ KPMG เขียน ในขณะที่เนื้อหาดังกล่าวยังสามารถส่งผลกระทบต่อชื่อเสียงของธุรกิจและผู้นำของพวกเขา การแสดงตัวแทนของบริษัทที่เป็นเท็จยังสามารถนำมาใช้ในแผนการหลอกลวงลูกค้า หรือเพื่อโน้มน้าวให้พนักงานให้ข้อมูลหรือโอนเงินให้กับนักแสดงที่ผิดกฎหมาย

เอพี อ้างถึงตัวอย่างปี 2020 ของผู้จัดการสาขาของบริษัทในฮ่องกงที่ถูกหลอกให้โอนเงินของบริษัทมูลค่า 35 ล้านดอลลาร์ไปให้นักต้มตุ๋น หลังจากที่เชื่อว่าเจ้านายของเขาคุยโทรศัพท์อยู่ และสั่งให้เขาทำเช่นนั้น แต่กลับเป็นการเลียนแบบเสียงของผู้บังคับบัญชาโดยใช้ AI ซึ่งทั้งหมดนี้เป็นส่วนหนึ่งของโครงการที่ซับซ้อนในการฉ้อโกงเงินจากบริษัท

“ผลที่ตามมาของการโจมตีทางไซเบอร์ที่ใช้เนื้อหาสังเคราะห์ – เนื้อหาดิจิทัลที่สร้างขึ้นหรือดัดแปลงเพื่อวัตถุประสงค์ที่ชั่วร้าย – อาจส่งผลกระทบอย่างกว้างขวาง มีค่าใช้จ่ายสูง และมีผลกระทบทางเศรษฐกิจและสังคมที่หลากหลาย รวมถึงการเงิน ชื่อเสียง บริการ และภูมิรัฐศาสตร์ และอื่นๆ” รายงานอ่าน

ภาพ Deepfake ของ Donald Trump จับกุม ต้นปีนี้ สมเด็จพระสันตะปาปาฟรานซิส สวมเสื้อผ้าหรูหราของ Balenciaga และ Elon Musk การส่งเสริมการหลอกลวง crypto กลายเป็นกระแสไวรัลในปีที่แล้ว เนื่องจากเทคโนโลยี deepfake ได้รับการปรับปรุงด้วยการพัฒนาเครื่องมือ AI

“ไม่ว่าจะเป็นของปลอมราคาถูกหรือของปลอม โมเดลทางเศรษฐกิจได้เปลี่ยนไปอย่างมากเนื่องจากโมเดล AI ที่สร้าง” KPMG เขียน

นอกเหนือจากบุคคลสาธารณะที่กล่าวถึงข้างต้นแล้ว คนดังที่มีชื่อเสียงซึ่งความคล้ายคลึงกันถูกขโมยและนำไปใช้กับฟุตเทจปลอม ได้แก่ นักแสดงหญิงเอ็มมา วัตสัน และนักดนตรี เทย์เลอร์ สวิฟต์ แต่ผลกระทบที่อาจเกิดขึ้นกับธุรกิจและผู้นำที่โดดเด่นในบางครั้งเป็นสิ่งที่ KPMG แจ้งเตือน

“เนื่องจากปัจจัยเสี่ยง เนื้อหาที่มีการปลอมแปลงอย่างลึกซึ้งไม่ได้เป็นเพียงความกังวลสำหรับโซเชียลมีเดีย เว็บไซต์หาคู่ และอุตสาหกรรมบันเทิงเท่านั้น แต่ขณะนี้กลายเป็นประเด็นในห้องประชุม” KPMG กล่าว “ในกรณีนี้ ผู้ตอบแบบสอบถามเกือบทั้งหมด (92%) ของการสำรวจ AI เชิงสร้างสรรค์ของ KPMG เมื่อเร็วๆ นี้ ซึ่งมีผู้บริหาร 300 คนจากหลากหลายอุตสาหกรรมและภูมิศาสตร์กล่าวว่าความกังวลของพวกเขาเกี่ยวกับความเสี่ยงในการใช้ generative AI นั้นมีความสำคัญปานกลางถึงมาก”

ไม่ใช่แค่ธุรกิจและคนดังเท่านั้นที่ต้องรับมือกับการเพิ่มขึ้นของทั้งคุณภาพและจำนวนวิดีโอ Deepfake บนอินเทอร์เน็ต รัฐบาลและหน่วยงานกำกับดูแลต่างคำนึงถึงผลกระทบที่อาจเกิดขึ้นต่อสังคมและการเลือกตั้ง ในขณะที่ผู้สร้างเครื่องมือ AI ดังกล่าวกำลังชั่งน้ำหนักผลกระทบด้านลบที่อาจเกิดขึ้น

เมื่อสัปดาห์ที่แล้ว คณะกรรมการการเลือกตั้งกลางสหรัฐ ซึ่งคาดว่าจะมีการใช้ Deepfakes ในการเลือกตั้งปี 2024 ได้เดินหน้า คำร้อง เพื่อห้ามการใช้ปัญญาประดิษฐ์ในโฆษณาแคมเปญ

หากได้รับการอนุมัติ หน่วยงานจะแก้ไขกฎระเบียบปัจจุบันเกี่ยวกับการบิดเบือนความจริงของ “ผู้มีอำนาจในการรณรงค์” และชี้แจงว่าข้อห้ามดังกล่าวใช้กับการโฆษณาแคมเปญ AI ที่จงใจหลอกลวง

“หน่วยงานกำกับดูแลควรทำความเข้าใจและพิจารณาผลกระทบของภัยคุกคามที่พัฒนาต่อกฎระเบียบที่มีอยู่ต่อไป” Matthew Miller ผู้อำนวยการฝ่ายบริการรักษาความปลอดภัยทางไซเบอร์ของ KPMG กล่าว ถอดรหัส. “ข้อกำหนดที่เสนอสำหรับการติดฉลากและลายน้ำเนื้อหาที่สร้างโดย AI อาจมีผลกระทบเชิงบวก”

ในเดือนกรกฎาคม นักวิจัยจาก MIT เสนอ การเพิ่มการเปลี่ยนแปลงโค้ดให้กับโมเดลการแพร่กระจายขนาดใหญ่เพื่อลดความเสี่ยงของ Deepfakes โดยการเพิ่มการเปลี่ยนแปลงเล็กๆ น้อยๆ ที่มองเห็นได้ยาก แต่ท้ายที่สุดก็เปลี่ยนวิธีการทำงานของโมเดล ทำให้สร้างภาพที่ดูไม่เหมือนจริง Meta ในขณะเดียวกันเมื่อเร็ว ๆ นี้ ถือเครื่องมือ AI ไว้ เนื่องจากศักยภาพในการปลอมแปลงอย่างล้ำลึก

ความตื่นเต้นเกี่ยวกับศักยภาพเชิงสร้างสรรค์ของเครื่องมือ AI เชิงสร้างสรรค์ได้รับการบรรเทาลงด้วยการตระหนักว่าเครื่องมือเหล่านี้สามารถสร้างโอกาสสำหรับเนื้อหาที่เป็นอันตรายได้เช่นเดียวกัน ท้ายที่สุด ท่ามกลางการปรับปรุงอย่างรวดเร็วสำหรับเครื่องมือดังกล่าว Miller กระตุ้นให้ทุกคนระมัดระวังเกี่ยวกับศักยภาพของเนื้อหาปลอม

“ประชาชนจำเป็นต้องระมัดระวังอย่างต่อเนื่องเมื่อมีปฏิสัมพันธ์ผ่านช่องทางดิจิทัล” เขากล่าว ถอดรหัส “การตระหนักรู้ในสถานการณ์และสามัญสำนึกมีส่วนช่วยอย่างมากในการป้องกันไม่ให้เหตุการณ์เกิดขึ้น หากบางสิ่งไม่ 'รู้สึกถูกต้อง' ก็มีแนวโน้มสูงที่จะเป็นกิจกรรมที่เป็นอันตราย”

ติดตามข่าวสาร crypto รับการอัปเดตทุกวันในกล่องจดหมายของคุณ

ประทับเวลา:

เพิ่มเติมจาก ถอดรหัส