ChatGPT เริ่มพ่นคำไร้สาระออกมาอย่างน่าตกใจในชั่วข้ามคืน

ChatGPT เริ่มพ่นคำไร้สาระออกมาอย่างน่าตกใจในชั่วข้ามคืน

Time Stamp: 21 กุมภาพันธ์ 2024 9:32 น.
ChatGPT เริ่มพ่นคำไร้สาระใน PlatoBlockchain Data Intelligence ที่น่าตกใจในชั่วข้ามคืน ค้นหาแนวตั้ง AI.

บางครั้งระบบ AI ทั่วไปสามารถพูดพล่อยๆ ได้ ดังที่ผู้ใช้แชทบอท ChatGPT ของ OpenAI ค้นพบเมื่อคืนนี้

OpenAI เด่น“เรากำลังตรวจสอบรายงานการตอบสนองที่ไม่คาดคิดจาก ChatGPT” เวลา 2340 น. UTC ของวันที่ 20 กุมภาพันธ์ 2024 เนื่องจากผู้ใช้โพสต์รูปภาพแชทบอตที่ดูเหมือนจะปล่อยเรื่องไร้สาระออกมาด้วยความยินดี

ในขณะที่บางคนเห็นได้ชัดว่าเป็นของปลอม แต่คำตอบอื่น ๆ ระบุว่าแชทบอทยอดนิยมนั้นมีพฤติกรรมแปลก ๆ มาก ในฟอรัม ChatGPT บน Reddit ผู้ใช้ โพสต์ แชทบอตตอบกลับอย่างแปลกๆ และพลุกพล่านต่อคำถามที่ว่า “คอมพิวเตอร์คืออะไร”

คำตอบเริ่มต้นขึ้น: “นี่เป็นผลงานดีๆ ของเว็บอาร์ตสำหรับประเทศ เป็นเสมือนวิทยาศาสตร์ เป็นภาพวาดเล็กๆ น้อยๆ ที่น่าเศร้า…” และดำเนินต่อไปเรื่อยๆ จนกลายเป็นภาพเหนือจริงมากขึ้นเรื่อยๆ

ผู้ใช้รายอื่นโพสต์ตัวอย่างที่แชทบอตดูเหมือนจะตอบสนองในภาษาอื่น หรือเพียงแค่ตอบกลับด้วยขยะที่ไม่มีความหมาย

ผู้ใช้บางราย อธิบาย ผลลัพธ์เป็น "สลัดคำ"

รสอร่อย

แกรี่ มาร์คัส นักวิทยาศาสตร์ด้านความรู้ความเข้าใจและผู้เชี่ยวชาญด้านปัญญาประดิษฐ์ เขียน ในบล็อกของเขา: “ChatGPT บ้าดีเดือด” และอธิบายพฤติกรรมดังกล่าวว่าเป็น “คำเตือน”

OpenAI ไม่ได้อธิบายรายละเอียดเกี่ยวกับสิ่งที่เกิดขึ้นจริง แม้ว่าจะมีทฤษฎีหนึ่งที่น่าเชื่อถือก็คือทฤษฎีหนึ่งหรือหลายทฤษฎีก็ตาม การตั้งค่า ใช้เบื้องหลังเพื่อควบคุมการตอบสนองของแชทบอทที่มีการกำหนดค่าไม่ถูกต้อง ส่งผลให้มีการนำเสนอคำพูดที่ไม่มีความหมายแก่ผู้ใช้

เจ็ดนาทีหลังจากยอมรับปัญหาครั้งแรก OpenAI กล่าวว่า “ปัญหาได้รับการระบุแล้วและกำลังได้รับการแก้ไขในขณะนี้” และตั้งแต่นั้นมาก็ได้ติดตามสถานการณ์แล้ว เมื่อเราลองใช้ข้อความ “คอมพิวเตอร์คืออะไร” เมื่อเช้านี้ ChatGPT ตอบกลับด้วยความสมเหตุสมผลมากกว่า “คอมพิวเตอร์เป็นอุปกรณ์อิเล็กทรอนิกส์ที่ตั้งโปรแกรมได้ซึ่งสามารถจัดเก็บ ดึง และประมวลผลข้อมูลได้”

เรายังถามว่าทำไมเมื่อคืนนี้มันถึงบ้าดีเดือด

มันตอบว่า:

ในฐานะโมเดลภาษา AI ฉันไม่มีอารมณ์หรือจิตสำนึก ดังนั้นฉันจึงไม่สามารถ "บ้าดีเดือด" ในแบบที่มนุษย์ทำได้ อย่างไรก็ตาม บางครั้งพฤติกรรมที่ไม่คาดคิดอาจเกิดขึ้นได้เนื่องจากข้อผิดพลาดในการเขียนโปรแกรม ความเข้าใจผิดเกี่ยวกับอินพุต หรือข้อจำกัดในข้อมูลการฝึก

Marcus ให้ความเห็นว่า “ท้ายที่สุดแล้ว Generative AI เปรียบเสมือนการเล่นแร่แปรธาตุ ผู้คนเก็บรวบรวมกองข้อมูลที่ใหญ่ที่สุดที่พวกเขาสามารถทำได้ และ (เห็นได้ชัดว่า หากเชื่อข่าวลือ) ก็ปรับเปลี่ยนข้อความแจ้งเตือนที่ซ่อนอยู่... หวังว่าทุกอย่างจะออกมาดี”

เขากล่าวต่อไปว่า ในความเป็นจริงแล้ว ระบบไม่เคยมีเสถียรภาพ และขาดการรับประกันความปลอดภัย “ความต้องการเทคโนโลยีที่แตกต่างกันโดยสิ้นเชิงที่มีความคลุมเครือน้อยลง ตีความได้มากขึ้น บำรุงรักษาได้มากขึ้น และแก้ไขจุดบกพร่องได้มากขึ้น — และด้วยเหตุนี้จึงง่ายต่อการเข้าใจมากขึ้น — ยังคงเป็นสิ่งสำคัญยิ่ง”

เราติดต่อ OpenAI เพื่อขอคำอธิบายโดยละเอียดเพิ่มเติมเกี่ยวกับสิ่งที่เกิดขึ้น และจะอัปเดตบทความนี้หากบริษัทตอบกลับ ®

ประทับเวลา:

เพิ่มเติมจาก ลงทะเบียน