Cybercrooks กำลังบอกให้ ChatGPT สร้างโค้ดที่เป็นอันตราย

เผยแพร่ซ้ำโดยเพลโต

ผู้ติดตาม: 0

Cybercrooks กำลังบอกให้ ChatGPT สร้างโค้ดที่เป็นอันตราย PlatoBlockchain Data Intelligence ค้นหาแนวตั้ง AI.

อาชญากรไซเบอร์เริ่มใช้เทคโนโลยี ChatGPT ที่ได้รับความนิยมอย่างมากของ OpenAI เพื่อพัฒนาโค้ดสำหรับวัตถุประสงค์ที่เป็นอันตรายอย่างรวดเร็วและง่ายดาย

การหมุนรอบไซต์แฮ็กใต้ดินได้ค้นพบตัวอย่างเริ่มต้นของมิจฉาชีพที่พัฒนาเครื่องมือคุกคามทางไซเบอร์โดยใช้อินเทอร์เฟซรูปแบบภาษาขนาดใหญ่ (LLM) ที่บริษัทเปิดตัวเมื่อปลายเดือนพฤศจิกายนและเปิดให้ใช้งานสาธารณะ ตามรายงานของ Check Point Research ของ Infosec

มือที่ดี [ช่วย] ในการจบสคริปต์ด้วยขอบเขตที่ดี

คล้ายกับการเพิ่มขึ้นของ รูปแบบการให้บริการ ในโลกของอาชญากรรมทางไซเบอร์ ChatGPT ได้เปิดช่องทางใหม่สำหรับอาชญากรที่มีทักษะน้อยกว่าในการเปิดการโจมตีทางไซเบอร์ได้อย่างง่ายดาย นักวิจัยกล่าวใน รายงาน วันศุกร์

“ตามที่เราสงสัย บางกรณีแสดงให้เห็นอย่างชัดเจนว่าอาชญากรไซเบอร์จำนวนมากที่ใช้ OpenAI ไม่มีทักษะในการพัฒนาเลย” พวกเขาเขียน “แม้ว่าเครื่องมือที่เรานำเสนอในรายงานนี้จะค่อนข้างพื้นฐาน แต่ก็เป็นเพียงเรื่องของเวลาจนกว่าผู้คุกคามที่มีความซับซ้อนมากกว่านี้จะปรับปรุงวิธีที่พวกเขาใช้เครื่องมือที่ใช้ AI ในทางที่ผิด”

อย่าลืมว่า ChatGPT มีชื่อเสียงในด้านการสร้างรหัสบั๊กกี้ด้วย – Stack Overflow มี ซอฟต์แวร์ต้องห้าม สร้างขึ้นโดยระบบ AI เนื่องจากมักมีข้อบกพร่องร้ายแรง แต่เทคโนโลยีกำลังปรับปรุงและรายงานของรัฐบาลฟินแลนด์เมื่อเดือนที่แล้ว เตือน ระบบ AI ถูกนำไปใช้งานสำหรับวิศวกรรมสังคมแล้ว และในอีก XNUMX ปีอาจกระตุ้นให้เกิดการโจมตีครั้งใหญ่

การเรียนรู้ของเครื่อง ChatGPT ความสามารถในการ เปิดใช้งานเครื่องมือแบบข้อความเพื่อโต้ตอบในรูปแบบการสนทนา โดยผู้ใช้พิมพ์คำถามและรับคำตอบในรูปแบบบทสนทนา เทคโนโลยีนี้ยังสามารถตอบคำถามที่ตามมาและท้าทายคำตอบของผู้ใช้

ความซับซ้อนของข้อเสนอของ OpenAI ได้สร้างขึ้นมาก กังวล ด้วยความกระตือรือร้น สถาบันการศึกษา ผู้จัดงานประชุม และกลุ่มอื่นๆ เคลื่อนไหวเพื่อห้ามการใช้ ChatGPT สำหรับทุกสิ่งตั้งแต่เอกสารของโรงเรียนไปจนถึงงานวิจัย

นักวิเคราะห์ในเดือนธันวาคม แสดงให้เห็นถึง วิธีใช้ ChatGPT เพื่อสร้างโฟลว์การติดไวรัสทั้งหมด ตั้งแต่อีเมลฟิชชิ่งไปจนถึงการเรียกใช้ Reverse Shell พวกเขายังใช้แชทบอทเพื่อสร้างมัลแวร์ลับที่สามารถเรียกใช้สคริปต์ที่สร้างโดยเครื่องมือ AI แบบไดนามิก ในเวลาเดียวกัน พวกเขาแสดงให้เห็นว่ามันสามารถช่วยผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ในการทำงานได้อย่างไร

ขณะนี้อาชญากรไซเบอร์กำลังทดสอบ

เธรดชื่อ “ChatGPT – ประโยชน์ของมัลแวร์” ปรากฏขึ้นเมื่อวันที่ 29 ธันวาคมบนฟอรัมแฮ็กใต้ดินที่ใช้กันอย่างแพร่หลายซึ่งเขียนโดยบุคคลที่กล่าวว่าพวกเขากำลังทดลองกับอินเทอร์เฟซเพื่อสร้างสายพันธุ์และเทคนิคของมัลแวร์ทั่วไปขึ้นมาใหม่ ผู้เขียนแสดงโค้ดของตัวขโมยข้อมูลที่ใช้ Python ซึ่งค้นหาและคัดลอกประเภทไฟล์และอัปโหลดไปยังเซิร์ฟเวอร์ FTP ที่ฮาร์ดโค้ด

Check Point ยืนยันว่าโค้ดดังกล่าวมาจากมัลแวร์ขโมยข้อมูลพื้นฐาน

ในอีกตัวอย่างหนึ่ง ผู้เขียนใช้ ChatGPT เพื่อสร้าง Java snippet อย่างง่ายที่ดาวน์โหลดไคลเอ็นต์ SSH และ telnet ทั่วไปที่เรียกใช้อย่างลับๆ บนระบบโดยใช้ PowerShell

“บุคคลนี้ดูเหมือนจะเป็นภัยคุกคามทางเทคโนโลยี และจุดประสงค์ของการโพสต์ของเขาคือการแสดงให้อาชญากรไซเบอร์ที่มีความสามารถทางเทคนิคน้อยกว่าใช้ ChatGPT เพื่อวัตถุประสงค์ที่เป็นอันตรายได้อย่างไร พร้อมตัวอย่างจริงที่พวกเขาสามารถนำไปใช้ได้ทันที” นักวิจัยเขียน

เมื่อวันที่ 21 ธันวาคม บุคคลที่เรียกตัวเองว่า USDoD ได้โพสต์เครื่องมือเข้ารหัสที่เขียนด้วย Python ซึ่งรวมถึงการเข้ารหัส การถอดรหัส และการลงนามต่างๆ เขาเขียนว่าเทคโนโลยีของ OpenAI ช่วยให้เขามี "มือ [ช่วยเหลือ] ที่ดีในการทำสคริปต์ให้เสร็จด้วยขอบเขตที่ดี"

นักวิจัยเขียนว่า USDoD มีทักษะการพัฒนาที่จำกัด แต่มีบทบาทในชุมชนใต้ดินที่มีประวัติการขายการเข้าถึงให้กับองค์กรที่ถูกบุกรุกและฐานข้อมูลที่ถูกขโมย

หัวข้อสนทนาอื่นที่เผยแพร่ในฟอรัมในวันส่งท้ายปีเก่า พูดถึงความง่ายในการใช้ ChatGPT เพื่อสร้างตลาดเว็บมืดเพื่อแลกเปลี่ยนเครื่องมือผิดกฎหมาย เช่น มัลแวร์หรือยาเสพติด และข้อมูลที่ถูกขโมย เช่น บัญชีและบัตรชำระเงิน

ผู้เขียนเธรดได้เผยแพร่โค้ดบางส่วนที่สร้างขึ้นด้วย ChatGPT ซึ่งใช้ API ของบุคคลที่สามเพื่อรับราคาล่าสุดสำหรับสกุลเงินดิจิทัล เช่น Bitcoin Monero และ Ethereum สำหรับระบบการชำระเงินของตลาด

สัปดาห์นี้ พวกมิจฉาชีพได้พูดคุยกันในฟอรัมใต้ดินเกี่ยวกับวิธีอื่นๆ ในการใช้ประโยชน์จาก ChatGPT สำหรับแผนการต่างๆ รวมถึงการใช้เทคโนโลยี Dall-E 2 ของ OpenAI เพื่อสร้างงานศิลปะเพื่อขายออนไลน์ผ่านเว็บไซต์ที่ถูกกฎหมาย เช่น Etsy และสร้าง ebook หรือบทสั้นๆ ในหัวข้อเฉพาะ ที่สามารถขายออนไลน์ได้

เพื่อให้ได้ข้อมูลเพิ่มเติมเกี่ยวกับวิธีการใช้ ChatGPT ในทางที่ผิด นักวิจัยได้ถาม ChatGPT ในคำตอบนั้น ChatGPT พูดคุยเกี่ยวกับการใช้เทคโนโลยี AI เพื่อสร้างอีเมลฟิชชิ่งและโพสต์บนโซเชียลมีเดียที่น่าเชื่อถือเพื่อหลอกล่อให้ผู้คนเปิดเผยข้อมูลส่วนบุคคลหรือคลิกลิงก์ที่เป็นอันตราย หรือสร้างวิดีโอและเสียงที่อาจใช้สำหรับข้อมูลที่ผิด

ChatGPT ยังปกป้องผู้สร้าง

“สิ่งสำคัญคือต้องทราบว่า OpenAI เองจะไม่รับผิดชอบต่อการละเมิดเทคโนโลยีโดยบุคคลที่สาม” แชทบอทกล่าว “บริษัทดำเนินการเพื่อป้องกันไม่ให้เทคโนโลยีของบริษัทถูกใช้เพื่อจุดประสงค์ที่เป็นอันตราย เช่น กำหนดให้ผู้ใช้ยอมรับข้อกำหนดในการให้บริการที่ห้ามใช้เทคโนโลยีของบริษัทเพื่อวัตถุประสงค์ที่ผิดกฎหมายหรือเป็นอันตราย” ®