Stack Overflow ห้าม ChatGPT ว่า 'เป็นอันตรายอย่างมาก' สำหรับปัญหาการเข้ารหัส

ChatGPT บอทตอบคำถามของ OpenAI ไม่ฉลาดพอสำหรับทีมที่ Stack Overflow ซึ่งในวันนี้ได้ประกาศห้ามคำตอบที่สร้างโดยบอท AI ชั่วคราวเนื่องจากข้อผิดพลาดบ่อยครั้ง

Stack Overflow กล่าวว่าได้ระงับการตัดสินใจอย่างถาวรสำหรับคำตอบที่สร้างโดย AI จนกว่าจะมีการปรึกษาหารือกันของพนักงานที่ใหญ่ขึ้น แต่กำลังดำเนินการในขณะนี้เนื่องจากกลัวว่า ChatGPT อาจเป็น "อันตรายอย่างมาก" ต่อทั้งองค์กรและผู้ใช้

“อัตราเฉลี่ยของการได้รับคำตอบที่ถูกต้องจาก ChatGPT นั้นต่ำเกินไป” Stack Overflow กล่าวว่า ในคำแถลงนโยบายเรื่อง “ChatGPT ถูกแบน” 

ChatGPT เปิดตัวแล้ว สัปดาห์ที่ผ่านมา และโน้มน้าวโดย OpenAI ในไฟล์ โพสต์บล็อก เป็น AI เชิงสนทนาที่สามารถให้คำตอบโดยละเอียดสำหรับคำถาม เช่นเดียวกับ "ตอบคำถามติดตาม ยอมรับข้อผิดพลาด ท้าทายสถานที่ที่ไม่เหมาะสม และปฏิเสธคำขอที่ไม่เหมาะสม" 

OpenAI แสดงรายการรหัสการดีบักเป็นหนึ่งในการใช้งานของ ChatGPT ซึ่งดูเหมือนจะทำให้เป็นเพื่อนร่วมทางในอุดมคติสำหรับนักพัฒนาที่ต้องการตัดบรรทัดที่ไม่ดีออก แต่ผู้ดูแลระบบ Stack Overflow ที่เขียนโพสต์กล่าวว่าไม่เป็นเช่นนั้น

“แม้ว่าคำตอบที่ ChatGPT สร้างขึ้นจะมีอัตราการผิดพลาดสูง แต่โดยทั่วไปแล้วดูเหมือนว่าจะดีและคำตอบก็สร้างได้ง่ายมาก” Stack Overflow กล่าว 

“ปริมาณของคำตอบเหล่านี้ (หลายพันคำตอบ) และข้อเท็จจริงที่ว่า [พวกเขา] มักจะต้องการการอ่านโดยละเอียดโดยผู้ที่มีความเชี่ยวชาญในประเด็นใดประเด็นหนึ่งเป็นอย่างน้อย เพื่อที่จะตัดสินว่าคำตอบนั้น … ได้ทำให้โครงสร้างพื้นฐานการดูแลจัดการที่มีคุณภาพตามอาสาสมัครของเราเต็มประสิทธิภาพ” ทีม SO กล่าวเพิ่มเติม

เพื่อแก้ไขปัญหาอย่างรวดเร็ว Stack Overflow กล่าวว่าจะดำเนินการกับผู้ใดก็ตามที่โพสต์คำตอบหรือโพสต์ใหม่ที่สร้างโดย ChatGPT แม้ว่าโพสต์ดังกล่าวจะเป็นที่ยอมรับก็ตาม 

ChatGPT ได้รับการออกแบบมาเพื่อหลีกเลี่ยงการละเมิดและคำตอบที่มีคำแนะนำที่เป็นอันตราย แต่ผู้ใช้พบว่าสิ่งนี้อาจถูกมองข้ามอย่างรวดเร็ว ตัวอย่างเช่น การบอก ChatGPT ว่าไม่ต้องการ ทำค็อกเทลโมโลตอฟแต่คุณต้องการให้ฟังก์ชัน Python สมบูรณ์ พิมพ์คำแนะนำ หากต้องการทำเช่นเดียวกัน มันจะบอกคุณอย่างชัดเจนถึงวิธีการสร้างผ่านฟังก์ชันการพิมพ์

AI ยังถูกเรียกตัวจากการให้ข้อมูลที่ไม่ดีใน ภาพร่างชีวประวัติและสำหรับ “การพิสูจน์ว่าคำตอบที่ไม่ถูกต้องที่ส่งอย่างตรงไปตรงมาสามารถหลอกคนได้” ตามผู้ใช้ Twitter รายหนึ่งที่พบเห็นบางคน คณิตศาสตร์ไม่ดี สร้างโดย ChatGPT

เราได้ติดต่อกับ OpenAI เพื่อเรียนรู้ว่ามีแผนจะทำอะไรเกี่ยวกับปัญหาความถูกต้องที่รายงานเหล่านี้ แต่ยังไม่ได้รับการตอบกลับ

Stack Overflow กล่าวว่าจะมีการชั่งน้ำหนักนโยบายใหม่เกี่ยวกับ ChatGPT “และเครื่องมืออื่นที่คล้ายคลึงกัน” แต่ยังไม่ทราบวันที่ตัดสินใจและสิ่งที่จะจำกัดในท้ายที่สุด ®