AI เจเนอเรทีฟสามารถเชื่อถือได้ในการแก้ไขโค้ดของคุณหรือไม่

องค์กรต่างๆ ทั่วโลกกำลังแข่งขันกันเพื่อนำเทคโนโลยี AI มาใช้ในโปรแกรมและเครื่องมือด้านความปลอดภัยทางไซเบอร์ ก ส่วนใหญ่ (65%) ของนักพัฒนา ใช้หรือวางแผน ใช้ AI ในความพยายามในการทดสอบ ในอีกสามปีข้างหน้า มีแอปพลิเคชันความปลอดภัยมากมายที่จะได้รับประโยชน์จาก AI กำเนิด แต่กำลังแก้ไขโค้ดหนึ่งในนั้นหรือไม่

สำหรับทีม DevSecOps หลายๆ ทีม AI เชิงกำเนิดเป็นตัวแทนของจอกศักดิ์สิทธิ์ในการล้างข้อมูลค้างช่องโหว่ที่เพิ่มขึ้น มีชัยไปกว่าครึ่ง (66%) ขององค์กรต่างๆ กล่าวว่า Backlogs ของพวกเขาประกอบด้วยช่องโหว่มากกว่า 100,000 รายการ และกว่าสองในสามของรายงานการทดสอบความปลอดภัยแอปพลิเคชันแบบคงที่ (SAST) ยังคงเปิดอยู่สามเดือนหลังจากการตรวจพบ โดย 50% ที่เหลือเปิดหลังจาก 363 วัน. ความฝันคือนักพัฒนาสามารถขอให้ ChatGPT "แก้ไขช่องโหว่นี้" และชั่วโมงและวันก่อนหน้านี้ที่ใช้ในการแก้ไขช่องโหว่จะกลายเป็นอดีตไปแล้ว

มันไม่ใช่ความคิดที่บ้าไปเลยในทางทฤษฎี ท้ายที่สุดแล้ว การเรียนรู้ของเครื่องได้ถูกนำมาใช้อย่างมีประสิทธิภาพในเครื่องมือรักษาความปลอดภัยทางไซเบอร์เป็นเวลาหลายปีเพื่อทำให้กระบวนการเป็นอัตโนมัติและประหยัดเวลา — AI มีประโยชน์อย่างมากเมื่อนำไปใช้กับงานที่เรียบง่ายและทำซ้ำๆ แต่ในทางปฏิบัติแล้ว การใช้ AI เชิงกำเนิดกับแอปพลิเคชันรหัสที่ซับซ้อนนั้นมีข้อบกพร่องอยู่บ้าง หากไม่มีการควบคุมโดยมนุษย์และคำสั่งด่วน ทีม DevSecOps อาจจบลงด้วยการสร้างปัญหามากกว่าที่พวกเขาแก้ไข

ข้อดีและข้อจำกัดของ AI เจเนอเรทีฟที่เกี่ยวข้องกับการแก้ไขโค้ด

เครื่องมือ AI สามารถเป็นเครื่องมือที่ทรงพลังอย่างเหลือเชื่อสำหรับการวิเคราะห์ความปลอดภัยทางไซเบอร์ที่เรียบง่ายและมีความเสี่ยงต่ำ การตรวจสอบ หรือแม้แต่ความต้องการในการแก้ไข ความกังวลเกิดขึ้นเมื่อการเดิมพันเป็นผลสืบเนื่อง นี่คือปัญหาของความไว้วางใจในท้ายที่สุด

นักวิจัยและพัฒนายังคงกำหนดความสามารถของเทคโนโลยี AI กำเนิดใหม่ สร้างการแก้ไขรหัสที่ซับซ้อน. AI กำเนิดอาศัยข้อมูลที่มีอยู่และมีอยู่เพื่อตัดสินใจ สิ่งนี้มีประโยชน์สำหรับสิ่งต่าง ๆ เช่น การแปลโค้ดจากภาษาหนึ่งเป็นอีกภาษาหนึ่ง หรือแก้ไขข้อบกพร่องที่ทราบกันดี ตัวอย่างเช่น หากคุณขอให้ ChatGPT “เขียนโค้ด JavaScript นี้ใน Python” คุณน่าจะได้ผลลัพธ์ที่ดี การใช้มันเพื่อแก้ไขการกำหนดค่าความปลอดภัยของระบบคลาวด์จะเป็นประโยชน์ เนื่องจากเอกสารที่เกี่ยวข้องในการดำเนินการดังกล่าวมีให้ใช้งานแบบสาธารณะและค้นหาได้ง่าย และ AI สามารถทำตามคำแนะนำง่ายๆ ได้

อย่างไรก็ตาม การแก้ไขช่องโหว่ของโค้ดส่วนใหญ่จำเป็นต้องดำเนินการกับชุดของสถานการณ์และรายละเอียดที่ไม่ซ้ำกัน โดยแนะนำสถานการณ์ที่ซับซ้อนมากขึ้นเพื่อให้ AI นำทาง AI อาจให้ "การแก้ไข" แต่หากไม่มีการตรวจสอบก็ไม่ควรเชื่อถือได้ ตามคำนิยาม AI เจเนอเรชันไม่สามารถสร้างสิ่งที่ยังไม่ทราบได้ และอาจประสบกับอาการประสาทหลอนที่ส่งผลให้เกิดผลลัพธ์ปลอม

ในตัวอย่างล่าสุด ทนายความกำลังเผชิญผลร้ายแรงหลังจากใช้ ChatGPT เพื่อช่วยเขียนเอกสารยื่นต่อศาลที่อ้างถึงคดีที่ไม่มีอยู่หกคดีที่เครื่องมือ AI ประดิษฐ์ขึ้น หาก AI สร้างภาพลวงตาให้กับวิธีการที่ไม่มีอยู่จริง แล้วนำวิธีการเหล่านั้นมาใช้กับการเขียนโค้ด จะทำให้เสียเวลาในการ "แก้ไข" ที่ไม่สามารถรวบรวมได้ นอกจากนี้ อ้างอิงจาก OpenAI's เอกสารรายงาน GPT-4การแสวงหาประโยชน์ใหม่ๆ การแหกคุก และพฤติกรรมที่เกิดขึ้นใหม่จะถูกค้นพบเมื่อเวลาผ่านไปและป้องกันได้ยาก ดังนั้นจึงจำเป็นต้องพิจารณาอย่างรอบคอบเพื่อให้แน่ใจว่าเครื่องมือรักษาความปลอดภัย AI และโซลูชันของบุคคลที่สามได้รับการตรวจสอบและอัปเดตเป็นประจำเพื่อให้แน่ใจว่าจะไม่กลายเป็นแบ็คดอร์ที่ไม่ได้ตั้งใจเข้าสู่ระบบ

เชื่อถือหรือไม่ไว้วางใจ?

เป็นไดนามิกที่น่าสนใจที่จะเห็นการนำ AI เชิงกำเนิดมาใช้อย่างรวดเร็วในระดับสูงสุดของการเคลื่อนไหวแบบไร้ความน่าเชื่อถือ เครื่องมือรักษาความปลอดภัยทางไซเบอร์ส่วนใหญ่สร้างขึ้นจากแนวคิดที่ว่าองค์กรต่างๆ ไม่ควรเชื่อถือ ควรตรวจสอบอยู่เสมอ เจเนอเรทีฟเอไอสร้างขึ้นจากหลักการของความไว้วางใจโดยธรรมชาติในข้อมูลที่มีให้โดยแหล่งที่มาที่รู้จักและไม่รู้จัก การปะทะกันในหลักการนี้ดูเหมือนจะเป็นคำเปรียบเทียบที่เหมาะสมสำหรับองค์กรที่ต่อสู้อย่างต่อเนื่องในการหาสมดุลที่เหมาะสมระหว่างความปลอดภัยและประสิทธิภาพการทำงาน ซึ่งรู้สึกว่าแย่ลงเป็นพิเศษในขณะนี้

ในขณะที่ AI กำเนิดอาจยังไม่ใช่จอกศักดิ์สิทธิ์ที่ทีม DevSecOps คาดหวังไว้ แต่จะช่วยให้ความคืบหน้าเพิ่มขึ้นในการลดช่องโหว่ที่ค้างอยู่ สำหรับตอนนี้ สามารถนำไปใช้เพื่อทำการแก้ไขง่ายๆ สำหรับการแก้ไขที่ซับซ้อนมากขึ้น พวกเขาจำเป็นต้องนำวิธีการตรวจสอบเพื่อเชื่อถือมาใช้ ซึ่งใช้ประโยชน์จากพลังของ AI ซึ่งได้รับคำแนะนำจากความรู้ของนักพัฒนาที่เขียนและเป็นเจ้าของโค้ด

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• PlatoData.Network Vertical Generative Ai เพิ่มพลังให้กับตัวเอง เข้าถึงได้ที่นี่.
• เพลโตไอสตรีม. Web3 อัจฉริยะ ขยายความรู้ เข้าถึงได้ที่นี่.
• เพลโตESG. ยานยนต์ / EVs, คาร์บอน, คลีนเทค, พลังงาน, สิ่งแวดล้อม แสงอาทิตย์, การจัดการของเสีย. เข้าถึงได้ที่นี่.
• BlockOffsets การปรับปรุงการเป็นเจ้าของออฟเซ็ตด้านสิ่งแวดล้อมให้ทันสมัย เข้าถึงได้ที่นี่.
• ที่มา: https://www.darkreading.com/application-security/can-generative-ai-be-trusted-to-fix-your-code-