ขอแนะนำการปรับปรุง API การปรับแต่งอย่างละเอียดและการขยายโปรแกรมโมเดลแบบกำหนดเองของเรา

Assisted การปรับแต่ง

ที่ DevDay เมื่อเดือนพฤศจิกายนปีที่แล้ว เรา ประกาศ โปรแกรม Custom Model ที่ออกแบบมาเพื่อฝึกและเพิ่มประสิทธิภาพโมเดลสำหรับโดเมนเฉพาะ โดยร่วมมือกับกลุ่มนักวิจัย OpenAI โดยเฉพาะ ตั้งแต่นั้นมา เราได้พบกับลูกค้าหลายสิบรายเพื่อประเมินความต้องการโมเดลแบบกำหนดเองของพวกเขา และพัฒนาโปรแกรมของเราเพื่อเพิ่มประสิทธิภาพให้สูงสุดต่อไป

วันนี้ เรากำลังประกาศข้อเสนอการช่วยเหลือในการปรับแต่งอย่างเป็นทางการอย่างเป็นทางการ ซึ่งเป็นส่วนหนึ่งของโปรแกรม Custom Model การปรับแต่งแบบละเอียดโดยใช้ความช่วยเหลือเป็นความพยายามร่วมกันกับทีมเทคนิคของเราเพื่อใช้ประโยชน์จากเทคนิคต่างๆ นอกเหนือจาก API การปรับแต่งแบบละเอียด เช่น ไฮเปอร์พารามิเตอร์เพิ่มเติม และวิธีการปรับแต่งพารามิเตอร์อย่างมีประสิทธิภาพ (PEFT) ต่างๆ ในสเกลที่ใหญ่ขึ้น มีประโยชน์อย่างยิ่งสำหรับองค์กรที่ต้องการการสนับสนุนในการตั้งค่าไปป์ไลน์ข้อมูลการฝึกอบรมที่มีประสิทธิภาพ ระบบการประเมิน ตลอดจนพารามิเตอร์และวิธีการเฉพาะเพื่อเพิ่มประสิทธิภาพโมเดลให้สูงสุดสำหรับกรณีการใช้งานหรืองานของตน

ตัวอย่างเช่น เทเลคอมเอสเคซึ่งเป็นผู้ให้บริการโทรคมนาคมที่ให้บริการสมาชิกมากกว่า 30 ล้านรายในเกาหลีใต้ ต้องการปรับแต่งโมเดลให้เป็นผู้เชี่ยวชาญในโดเมนโทรคมนาคมโดยเน้นที่การบริการลูกค้าเป็นหลัก พวกเขาทำงานร่วมกับ OpenAI เพื่อปรับแต่ง GPT-4 เพื่อปรับปรุงประสิทธิภาพในการสนทนาที่เกี่ยวข้องกับโทรคมนาคมในภาษาเกาหลี ในช่วงหลายสัปดาห์ SKT และ OpenAI ผลักดันการปรับปรุงประสิทธิภาพที่สำคัญในงานบริการลูกค้าด้านโทรคมนาคม—คุณภาพการสรุปการสนทนาเพิ่มขึ้น 35% ความแม่นยำในการจดจำเจตนาเพิ่มขึ้น 33% และเพิ่มคะแนนความพึงพอใจจาก 3.6 เป็น 4.5 (ออก ของ 5) เมื่อเปรียบเทียบรุ่นที่ปรับแต่งอย่างละเอียดกับ GPT-4 

โมเดลที่ผ่านการฝึกอบรมแบบกำหนดเอง

ในบางกรณี องค์กรจำเป็นต้องฝึกอบรมโมเดลที่สร้างขึ้นตามวัตถุประสงค์ตั้งแต่เริ่มต้น ซึ่งเข้าใจธุรกิจ อุตสาหกรรม หรือโดเมนของตน โมเดลที่ได้รับการฝึกอบรมแบบกำหนดเองอย่างเต็มที่จะเติมความรู้ใหม่จากโดเมนเฉพาะโดยการปรับเปลี่ยนขั้นตอนสำคัญของกระบวนการฝึกอบรมโมเดลโดยใช้เทคนิคการฝึกอบรมช่วงกลางและหลังการฝึกอบรมแบบใหม่ องค์กรที่ประสบความสำเร็จด้วยโมเดลที่ได้รับการฝึกอบรมแบบกำหนดเองเต็มรูปแบบมักจะมีข้อมูลที่เป็นกรรมสิทธิ์จำนวนมาก เช่น ตัวอย่างหลายล้านตัวอย่างหรือโทเค็นนับพันล้าน ซึ่งพวกเขาต้องการใช้เพื่อสอนโมเดลความรู้ใหม่ๆ หรือพฤติกรรมที่ซับซ้อนและไม่ซ้ำใครสำหรับกรณีการใช้งานที่มีความเฉพาะเจาะจงสูง 

ตัวอย่างเช่น ฮาร์วีย์ซึ่งเป็นเครื่องมือทางกฎหมายที่ใช้ AI สำหรับทนายความ โดยร่วมมือกับ OpenAI เพื่อ สร้างแบบจำลองภาษาขนาดใหญ่ที่ได้รับการฝึกอบรมแบบกำหนดเองสำหรับ case law- แม้ว่าแบบจำลองพื้นฐานจะแข็งแกร่งในด้านการให้เหตุผล แต่พวกเขาก็ขาดความรู้กว้างขวางเกี่ยวกับประวัติคดีทางกฎหมายและความรู้อื่นๆ ที่จำเป็นสำหรับงานทางกฎหมาย หลังจากทดสอบวิศวกรรมทันที RAG และการปรับแต่งอย่างละเอียด Harvey ได้ทำงานร่วมกับทีมของเราเพื่อเพิ่มบริบทเชิงลึกที่จำเป็นให้กับโมเดล ซึ่งเทียบเท่ากับข้อมูลมูลค่า 10 พันล้านโทเค็น ทีมของเราปรับเปลี่ยนทุกขั้นตอนของกระบวนการฝึกอบรมโมเดล ตั้งแต่การฝึกอบรมช่วงกลางเฉพาะโดเมน ไปจนถึงการปรับแต่งกระบวนการหลังการฝึกอบรม และนำความคิดเห็นของทนายความผู้เชี่ยวชาญมารวมไว้ด้วย โมเดลผลลัพธ์ได้รับการตอบกลับตามข้อเท็จจริงเพิ่มขึ้น 83% และทนายความต้องการผลลัพธ์ของโมเดลที่ปรับแต่งเองมากกว่า GPT-97 ถึง 4%