ChatGPT ถูกใช้เพื่อสร้าง 'กลโกงคุณภาพ'

การหลอกลวงทางอินเทอร์เน็ตอาจได้รับอันตรายมากขึ้นในขณะนี้ ต้องขอบคุณนักต้มตุ๋นที่สามารถเข้าถึง ChatGPT ได้อย่างไม่มีสิ่งกีดขวาง Techradar รายงาน.

แชทบอทที่ขับเคลื่อนด้วย AI ที่ได้รับความนิยมอย่างแพร่หลาย ChatGPT เป็นข่าวพาดหัวอย่างต่อเนื่อง ด้วยความสามารถในการเขียนทุกอย่างตั้งแต่การดีบักโค้ด iframe ไปจนถึงโค้ดโปรแกรมคอมพิวเตอร์ที่ซับซ้อน ChatGPT ได้สร้างให้ AI เป็นคำศัพท์เทคโนโลยีแห่งปี

แม้จะได้รับความนิยมและการมีส่วนร่วมอย่างมาก แต่ ChatGPT ก็มีข้อกังวลเกี่ยวกับจริยธรรมและกฎระเบียบ

อ่านเพิ่มเติม: ChatGPT ผู้ใช้ 'เจลเบรค' AI ปลดปล่อย Dan Alter Ego

เมื่อเร็ว ๆ นี้ รายงาน เผยแพร่โดยนักวิจัยด้านความปลอดภัยในโลกไซเบอร์ที่ Norton Labs ซึ่งระบุแนวทางหลัก XNUMX ประการที่ผู้คุกคามอาจใช้ ChatGPT ในทางที่ผิด รายงานระบุว่า ChatGPT อาจถูกนำไปใช้ในทางที่ผิดเพื่อทำการหลอกลวงทางอินเทอร์เน็ตด้วยวิธีที่มีประสิทธิภาพมากขึ้น: ผ่านการสร้างเนื้อหาปลอมเชิงลึก การสร้างฟิชชิง และการสร้างมัลแวร์

“Norton Labs คาดการณ์ว่าพวกสแกมเมอร์จะจับตามองความสามารถของโมเดลภาษาขนาดใหญ่และทดสอบวิธีการปรับปรุงอาชญากรรมทางไซเบอร์เพื่อให้สมจริงและน่าเชื่อถือมากขึ้น” รายงานระบุ

ความสามารถของเครื่องมือในการสร้าง “ข้อมูลที่ผิดคุณภาพสูงหรือการบิดเบือนข้อมูลในวงกว้าง” สามารถช่วยให้บอทฟาร์มเพิ่มความขัดแย้งได้อย่างมีประสิทธิภาพมากขึ้น สิ่งนี้สามารถช่วยให้ผู้ประสงค์ร้ายสามารถ "ทำให้เกิดความสงสัยและควบคุมการเล่าเรื่องในหลายภาษา" ได้อย่างง่ายดาย ตาม Norton

'ข้อมูลที่ผิด' ที่น่าเชื่อถือสูง

การเขียนแผนธุรกิจ กลยุทธ์ และคำอธิบายบริษัทด้วยวิธีที่น่าเชื่อถือคือเรื่องเล่นๆ สำหรับ ChatGPT อย่างไรก็ตาม ศักยภาพนี้ยังเพิ่มความเสี่ยงของการให้ข้อมูลที่ผิด ซึ่งอาจกลายเป็นการหลอกลวง

“ไม่เพียงแต่เนื้อหาที่สร้างโดย ChatGPT บางครั้งไม่ถูกต้องโดยไม่ได้ตั้งใจ แต่ผู้ไม่ประสงค์ดียังสามารถใช้เครื่องมือเหล่านี้เพื่อสร้างเนื้อหาโดยเจตนาเพื่อทำร้ายผู้คนในทางใดทางหนึ่ง” รายงานระบุ

ความสามารถในการสร้าง “ข้อมูลที่ผิดคุณภาพสูงหรือการบิดเบือนข้อมูลในวงกว้างอาจนำไปสู่ความไม่ไว้วางใจและสร้างเรื่องเล่าในภาษาต่างๆ”

การเขียนรีวิวผลิตภัณฑ์กลายเป็นเรื่องง่ายมากขึ้นด้วย ChatGPT ซึ่งไม่สามารถติดตามได้เนื่องจากสร้างการตอบกลับแต่ละรายการพร้อมข้อมูลที่ให้มาในแต่ละครั้ง แม้จะมีความสามารถ แต่ก็ทำให้เกิดความท้าทายในการ "ตรวจจับรีวิวปลอมและผลิตภัณฑ์คุณภาพต่ำ"

ที่น่าเป็นห่วงก็คือ เครื่องมือนี้อาจใช้ในการกลั่นแกล้งได้เช่นกัน

“การใช้เครื่องมือเหล่านี้ในแคมเปญการล่วงละเมิดบนโซเชียลมีเดียเพื่อปิดปากหรือรังแกผู้คนก็เป็นผลที่เป็นไปได้ที่อาจส่งผลต่อคำพูด” รายงานระบุ

ChatGPT ในแคมเปญฟิชชิ่ง

ChatGPT นั้นดีเป็นพิเศษในการสร้างข้อความที่มีเสียงเหมือนมนุษย์ในภาษาต่างๆ โดยที่ผู้อ่านไม่มีใครเดาออกว่าข้อความนั้นสร้างโดย AI หรือโดยมนุษย์ แม้แต่ OpenAI ซึ่งเป็นผู้พัฒนา ChatGPT ก็ไม่สามารถระบุได้ว่าข้อความใดเขียนโดย AI โดยระบุว่า “เป็นไปไม่ได้ที่จะตรวจหาข้อความที่ AI เขียนทั้งหมดได้อย่างน่าเชื่อถือ”

โอกาสของ ChatGPT ที่ใช้ในแคมเปญฟิชชิ่งนั้นมีอยู่จริง

“ผู้ประสงค์ร้ายสามารถใช้ ChatGPT เพื่อสร้างอีเมลฟิชชิ่งหรือโพสต์บนโซเชียลมีเดียที่ดูเหมือนว่ามาจากแหล่งที่มาที่ถูกต้อง ทำให้ยากต่อการตรวจจับและป้องกันภัยคุกคามประเภทนี้” รายงานระบุ

เมื่อความนิยมเพิ่มขึ้น ผลที่น่าจะเป็นไปได้คือจำนวนของ "แคมเปญฟิชชิ่งและความซับซ้อนที่เพิ่มขึ้น"

รายงานระบุว่า “ผู้ไม่ประสงค์ดีสามารถป้อน ChatGPT ด้วยตัวอย่างข้อความที่ไม่เป็นอันตรายในชีวิตจริงจากบริษัทที่พวกเขาต้องการเลียนแบบ และสั่งให้ AI สร้างข้อความใหม่ตามรูปแบบเดียวกันโดยมีเจตนาร้าย”

แคมเปญดังกล่าวสามารถพิสูจน์ได้ว่าประสบความสำเร็จอย่างสูงในการหลอกลวงบุคคลให้เปิดเผยข้อมูลส่วนบุคคลหรือส่งเงินไปยังหน่วยงานที่เป็นอาชญากร Norton Labs แนะนำให้ผู้บริโภคระมัดระวังเมื่อ “คลิกลิงก์หรือให้ข้อมูลส่วนบุคคล”

ChatGPT สามารถสร้างมัลแวร์ได้

การสร้างโค้ดและการปรับใช้ภาษาโปรแกรมต่างๆ เป็นเพียงส่วนหนึ่งของบริการของ ChatGPT ดังนั้นจึงไม่น่าแปลกใจเลยว่าทำไมพวกมิจฉาชีพจึงใช้มันเพื่อสร้างมัลแวร์

“ด้วยคำแนะนำที่ถูกต้อง ผู้เขียนมัลแวร์มือใหม่สามารถอธิบายสิ่งที่พวกเขาต้องการทำและได้รับข้อมูลโค้ดที่ใช้งานได้” ตามรายงาน สิ่งนี้ก่อให้เกิดภัยคุกคามร้ายแรงจากการโจมตีของมัลแวร์ขั้นสูงเพียงพอที่จะสร้างความหายนะ

“ตัวอย่างหนึ่งคือการสร้างรหัสเพื่อตรวจจับเมื่อที่อยู่กระเป๋าเงิน bitcoin ถูกคัดลอกไปยังคลิปบอร์ด เพื่อให้สามารถแทนที่ด้วยที่อยู่ที่เป็นอันตรายซึ่งควบคุมโดยผู้เขียนมัลแวร์” รายงานอธิบาย

ด้วยเหตุนี้ ความพร้อมใช้งานของแชทบอทดังกล่าวจะทำให้มัลแวร์มีความซับซ้อนเพิ่มขึ้น

แบ่งปันโพสต์นี้

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• เพลโตบล็อคเชน Web3 Metaverse ข่าวกรอง ขยายความรู้. เข้าถึงได้ที่นี่.
• ที่มา: https://metanews.com/chatgpt-is-being-used-to-make-quality-scams/