เรากำลังเปิดตัวตัวแยกประเภทที่ได้รับการฝึกฝนเพื่อแยกความแตกต่างระหว่างข้อความที่เขียนโดย AI และข้อความที่เขียนโดยมนุษย์
เราได้ฝึกตัวแยกประเภทเพื่อแยกความแตกต่างระหว่างข้อความที่เขียนโดยมนุษย์และข้อความที่เขียนโดย AI จากผู้ให้บริการหลายราย แม้ว่าจะเป็นไปไม่ได้ที่จะตรวจหาข้อความที่เขียนโดย AI ทั้งหมดได้อย่างน่าเชื่อถือ แต่เราเชื่อว่าตัวแยกประเภทที่ดีสามารถแจ้งการลดผลกระทบสำหรับการกล่าวอ้างที่เป็นเท็จว่าข้อความที่สร้างโดย AI นั้นเขียนโดยมนุษย์ ตัวอย่างเช่น การเรียกใช้ แคมเปญข้อมูลที่ผิดโดยอัตโนมัติใช้เครื่องมือ AI เพื่อความไม่ซื่อสัตย์ทางวิชาการ และวางตำแหน่งแชทบอท AI ให้เป็นมนุษย์
ลักษณนามของเราไม่น่าเชื่อถืออย่างสมบูรณ์ ในการประเมินของเราเกี่ยวกับ "ชุดความท้าทาย" ของข้อความภาษาอังกฤษ ลักษณนามของเราระบุข้อความ 26% ที่เขียนโดย AI อย่างถูกต้อง (ในแง่บวกจริง) ว่า "น่าจะเขียนโดย AI" ในขณะที่ติดป้ายกำกับข้อความที่มนุษย์เขียนอย่างไม่ถูกต้องว่า 9% ที่เขียนโดย AI เวลา (ผลบวกลวง) โดยทั่วไปแล้วความน่าเชื่อถือของตัวแยกประเภทของเราจะดีขึ้นเมื่อความยาวของข้อความที่ป้อนเพิ่มขึ้น เมื่อเทียบกับของเรา ลักษณนามที่ออกมาก่อนหน้านี้ลักษณนามใหม่นี้มีความน่าเชื่อถือมากกว่าข้อความจากระบบ AI รุ่นใหม่กว่าอย่างเห็นได้ชัด
เรากำลังทำให้ตัวแยกประเภทนี้พร้อมใช้งานแบบสาธารณะเพื่อรับความคิดเห็นว่าเครื่องมือที่ไม่สมบูรณ์เช่นนี้มีประโยชน์หรือไม่ งานของเราในการตรวจจับข้อความที่สร้างโดย AI จะดำเนินต่อไป และเราหวังว่าจะแบ่งปันวิธีการที่ได้รับการปรับปรุงในอนาคต
ลองใช้ตัวแยกประเภทงานระหว่างดำเนินการฟรีของเราด้วยตัวคุณเอง:
ข้อ จำกัด
ลักษณนามของเรามีข้อจำกัดที่สำคัญหลายประการ ไม่ควรใช้เป็นเครื่องมือหลักในการตัดสินใจแต่แทนที่จะเป็นส่วนเสริมของวิธีอื่นๆ ในการกำหนดแหล่งที่มาของข้อความ
- ลักษณนามไม่น่าเชื่อถืออย่างมากสำหรับข้อความสั้นๆ (อักขระต่ำกว่า 1,000 ตัว) ข้อความที่ยาวกว่านั้นบางครั้งอาจถูกระบุโดยลักษณนามอย่างไม่ถูกต้อง
- บางครั้งข้อความที่เขียนโดยมนุษย์จะไม่ถูกต้องแต่มีป้ายกำกับอย่างมั่นใจว่า AI เขียนโดยตัวแยกประเภทของเรา
- ขอแนะนำให้ใช้ลักษณนามสำหรับข้อความภาษาอังกฤษเท่านั้น มันทำงานได้แย่กว่ามากในภาษาอื่น และไม่น่าเชื่อถือในโค้ด
- ข้อความที่คาดเดาได้ยากไม่สามารถระบุได้อย่างน่าเชื่อถือ ตัวอย่างเช่น เป็นไปไม่ได้ที่จะคาดเดาว่ารายการของจำนวนเฉพาะ 1,000 รายการแรกนั้นเขียนโดย AI หรือมนุษย์ เพราะคำตอบที่ถูกต้องจะเหมือนกันเสมอ
- ข้อความที่เขียนโดย AI สามารถแก้ไขเพื่อหลีกเลี่ยงลักษณนามได้ ตัวแยกประเภทเช่นของเราสามารถอัปเดตและฝึกใหม่ตามการโจมตีที่ประสบความสำเร็จ แต่ก็ไม่ชัดเจนว่าการตรวจจับมีข้อได้เปรียบในระยะยาวหรือไม่
- เป็นที่ทราบกันดีว่าตัวแยกประเภทตามโครงข่ายประสาทเทียมนั้นไม่ได้รับการปรับเทียบนอกข้อมูลการฝึก สำหรับการป้อนข้อมูลที่แตกต่างจากข้อความในชุดการฝึกของเรามาก บางครั้งตัวแยกประเภทมีความมั่นใจอย่างมากในการคาดคะเนที่ผิดพลาด
ฝึกลักษณนาม
ลักษณนามของเราคือโมเดลภาษาที่ปรับแต่งบนชุดข้อมูลคู่ของข้อความที่เขียนโดยมนุษย์และข้อความที่เขียนโดย AI ในหัวข้อเดียวกัน เรารวบรวมชุดข้อมูลนี้จากแหล่งต่างๆ ที่เราเชื่อว่าเขียนขึ้นโดยมนุษย์ เช่น ข้อมูลการฝึกล่วงหน้าและการสาธิตโดยมนุษย์ตามคำแนะนำที่ส่งไปยัง แนะนำ GPT. เราแบ่งแต่ละข้อความออกเป็นพรอมต์และการตอบกลับ ในข้อความแจ้งเหล่านี้ เราสร้างการตอบกลับจากโมเดลภาษาต่างๆ มากมายที่เราและองค์กรอื่นๆ ฝึกฝน สำหรับเว็บแอปของเรา เราปรับเกณฑ์ความเชื่อมั่นเพื่อรักษาอัตราการบวกลวงให้ต่ำ กล่าวอีกนัยหนึ่ง เราจะทำเครื่องหมายข้อความว่าน่าจะเขียนโดย AI เท่านั้น หากตัวแยกประเภทมีความมั่นใจมาก
ผลกระทบต่อนักการศึกษาและเรียกร้องให้ป้อนข้อมูล
เราทราบดีว่าการระบุข้อความที่เขียนโดย AI เป็นประเด็นสำคัญของการอภิปรายในหมู่นักการศึกษา และสิ่งที่สำคัญไม่แพ้กันคือการตระหนักถึงขีดจำกัดและผลกระทบของตัวแยกประเภทข้อความที่สร้างขึ้นโดย AI ในห้องเรียน เราได้พัฒนา ทรัพยากรเบื้องต้น เกี่ยวกับการใช้ ChatGPT สำหรับนักการศึกษา ซึ่งสรุปการใช้งานบางอย่าง รวมถึงข้อจำกัดและข้อควรพิจารณาที่เกี่ยวข้อง แม้ว่าแหล่งข้อมูลนี้จะมุ่งเน้นไปที่นักการศึกษา แต่เราคาดว่าตัวแยกประเภทและเครื่องมือตัวแยกประเภทที่เกี่ยวข้องของเราจะส่งผลกระทบต่อนักข่าว นักวิจัยที่ให้ข้อมูลผิด/บิดเบือน และกลุ่มอื่นๆ
เรามีส่วนร่วมกับนักการศึกษาในสหรัฐอเมริกาเพื่อเรียนรู้สิ่งที่พวกเขาเห็นในห้องเรียนและเพื่อหารือเกี่ยวกับความสามารถและข้อจำกัดของ ChatGPT และเราจะขยายขอบเขตต่อไปเมื่อเราเรียนรู้ สิ่งเหล่านี้เป็นการสนทนาที่สำคัญซึ่งเป็นส่วนหนึ่งของภารกิจของเราคือการปรับใช้โมเดลภาษาขนาดใหญ่อย่างปลอดภัย โดยติดต่อโดยตรงกับชุมชนที่ได้รับผลกระทบ
หากคุณได้รับผลกระทบโดยตรงจากปัญหาเหล่านี้ (รวมถึงแต่ไม่จำกัดเฉพาะครู ผู้บริหาร ผู้ปกครอง นักเรียน และผู้ให้บริการด้านการศึกษา) โปรดให้ข้อเสนอแนะกับเราโดยใช้ แบบฟอร์มนี้. ความคิดเห็นโดยตรงเกี่ยวกับ ทรัพยากรเบื้องต้น มีประโยชน์ และเรายังยินดีรับแหล่งข้อมูลใดๆ ที่นักการศึกษากำลังพัฒนาหรือพบว่ามีประโยชน์ (เช่น แนวทางปฏิบัติของหลักสูตร รหัสเกียรติยศและการอัปเดตนโยบาย เครื่องมือแบบโต้ตอบ โปรแกรมความรู้ด้าน AI)
- เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
- เพลโตบล็อคเชน Web3 Metaverse ข่าวกรอง ขยายความรู้. เข้าถึงได้ที่นี่.
- ที่มา: https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/
- 000
- 1
- ลด 26%
- 7
- a
- นักวิชาการ
- ผู้ดูแลระบบ
- ความได้เปรียบ
- AI
- AI แชทบอท
- ทั้งหมด
- เสมอ
- ในหมู่
- และ
- คำตอบ
- app
- ที่เกี่ยวข้อง
- การโจมตี
- ใช้ได้
- ตาม
- เพราะ
- เชื่อ
- ด้านล่าง
- ระหว่าง
- ขยายวงกว้าง
- โทรศัพท์
- ไม่ได้
- ความสามารถในการ
- อักขระ
- chatbot
- ChatGPT
- การเรียกร้อง
- รหัส
- ชุมชน
- เมื่อเทียบกับ
- ส่วนประกอบ
- ความมั่นใจ
- มั่นใจ
- มั่นใจ
- การพิจารณา
- ติดต่อเรา
- ต่อ
- การสนทนา
- คอร์ส
- ข้อมูล
- การตัดสินใจ
- ปรับใช้
- การตรวจพบ
- การกำหนด
- พัฒนา
- ที่กำลังพัฒนา
- ต่าง
- โดยตรง
- โดยตรง
- สนทนา
- การสนทนา
- เห็นความแตกต่าง
- แบ่งออก
- แต่ละ
- การศึกษา
- นักการศึกษา
- น่าสนใจ
- ภาษาอังกฤษ
- พอ ๆ กัน
- การประเมินผล
- แม้
- ตัวอย่าง
- คาดหวัง
- อย่างยิ่ง
- ข้อเสนอแนะ
- ชื่อจริง
- มุ่งเน้น
- พบ
- ฟรี
- ราคาเริ่มต้นที่
- อย่างเต็มที่
- อนาคต
- สร้าง
- ได้รับ
- ดี
- กลุ่ม
- แนวทาง
- เป็นประโยชน์
- ความหวัง
- HTTPS
- เป็นมนุษย์
- มนุษย์
- ระบุ
- ระบุ
- ระบุ
- ส่งผลกระทบ
- ที่กระทบ
- ผลกระทบ
- สำคัญ
- เป็นไปไม่ได้
- การปรับปรุง
- in
- ในอื่น ๆ
- รวมทั้ง
- อย่างไม่ถูกต้อง
- เพิ่มขึ้น
- อินพุต
- แทน
- การโต้ตอบ
- ปัญหา
- IT
- ผู้สื่อข่าว
- เก็บ
- ที่รู้จักกัน
- การติดฉลาก
- ภาษา
- ภาษา
- ใหญ่
- การเปิดตัว
- เรียนรู้
- ความยาว
- น่าจะ
- ข้อ จำกัด
- ถูก จำกัด
- ขีด จำกัด
- รายการ
- การรู้หนังสือ
- ระยะยาว
- อีกต่อไป
- ต่ำ
- การทำ
- เครื่องหมาย
- วิธีการ
- ข้อมูลที่ผิด
- ภารกิจ
- แบบ
- โมเดล
- ข้อมูลเพิ่มเติม
- เครือข่าย
- เครือข่ายประสาทเทียม
- ใหม่
- จำนวน
- ตัวเลข
- ONE
- OpenAI
- องค์กร
- อื่นๆ
- โครงร่าง
- แผ่ออกไป
- ด้านนอก
- คู่
- พ่อแม่
- ส่วนหนึ่ง
- ดำเนินการ
- ชิ้น
- เพลโต
- เพลโตดาต้าอินเทลลิเจนซ์
- เพลโตดาต้า
- กรุณา
- จุด
- นโยบาย
- การวางตำแหน่ง
- บวก
- คาดการณ์
- ทายได้
- คำทำนาย
- ประถม
- สำคัญ
- โปรแกรม
- ให้
- ผู้ให้บริการ
- สาธารณชน
- คะแนน
- เมื่อเร็ว ๆ นี้
- รับรู้
- แนะนำ
- การเผยแพร่
- ความเชื่อถือได้
- น่าเชื่อถือ
- นักวิจัย
- ทรัพยากร
- แหล่งข้อมูล
- คำตอบ
- วิ่ง
- อย่างปลอดภัย
- เดียวกัน
- เห็น
- บริการ
- ผู้ให้บริการ
- ชุด
- Share
- สั้น
- น่า
- อย่างมีความหมาย
- บาง
- แหล่ง
- แหล่งที่มา
- นักเรียน
- ส่ง
- ที่ประสบความสำเร็จ
- อย่างเช่น
- ระบบ
- ครูผู้สอน
- พื้นที่
- ที่มา
- ของพวกเขา
- ธรณีประตู
- ไปยัง
- เครื่องมือ
- หัวข้อ
- ผ่านการฝึกอบรม
- การฝึกอบรม
- จริง
- เป็นปกติ
- ให้กับคุณ
- การปรับปรุง
- us
- ใช้
- ความหลากหลาย
- เว็บ
- ยินดีต้อนรับ
- อะไร
- ว่า
- ที่
- ในขณะที่
- จะ
- คำ
- งาน
- เขียน
- ผิด
- ด้วยตัวคุณเอง
- ลมทะเล