ปรับแต่ง Llama 2 อย่างละเอียดสำหรับการสร้างข้อความบน Amazon SageMaker JumpStart | อเมซอนเว็บเซอร์วิส

วันนี้เรารู้สึกตื่นเต้นที่ได้ประกาศความสามารถในการปรับแต่งโมเดล Llama 2 โดยใช้ Meta Amazon SageMaker JumpStart. กลุ่มโมเดลภาษาขนาดใหญ่ (LLM) ตระกูล Llama 2 คือชุดของโมเดลข้อความที่สร้างไว้ล่วงหน้าและปรับแต่งอย่างละเอียด โดยมีขนาดตั้งแต่ 7 พันล้านถึง 70 พันล้านพารามิเตอร์ LLM ที่ได้รับการปรับแต่งอย่างละเอียดเรียกว่า Llama-2-chat ได้รับการปรับให้เหมาะสมสำหรับกรณีการใช้งานบทสนทนา คุณสามารถลองใช้โมเดลเหล่านี้ได้อย่างง่ายดายและใช้กับ SageMaker JumpStart ซึ่งเป็นฮับแมชชีนเลิร์นนิง (ML) ที่ให้การเข้าถึงอัลกอริทึม โมเดล และโซลูชัน ML เพื่อให้คุณสามารถเริ่มต้นใช้งาน ML ได้อย่างรวดเร็ว ขณะนี้ คุณยังสามารถปรับแต่งโมเดลการสร้างข้อความ Llama 7 ของพารามิเตอร์ 13 พันล้าน, 70 พันล้าน และ 2 พันล้านบน SageMaker JumpStart โดยใช้ สตูดิโอ Amazon SageMaker UI เพียงไม่กี่คลิกหรือใช้ SageMaker Python SDK

โมเดลพื้นฐาน Generative AI เป็นจุดสนใจของ ML และการวิจัยปัญญาประดิษฐ์และกรณีการใช้งานส่วนใหญ่มานานกว่าหนึ่งปีแล้ว โมเดลพื้นฐานเหล่านี้ทำงานได้ดีมากกับงานสร้างสรรค์ เช่น การสร้างข้อความ การสรุป การตอบคำถาม การสร้างรูปภาพและวิดีโอ และอื่นๆ เนื่องจากโมเดลมีขนาดใหญ่และยังได้รับการฝึกฝนบนชุดข้อมูลขนาดใหญ่หลายชุดและงานหลายร้อยงาน แม้ว่าโมเดลเหล่านี้จะมีความสามารถในการสรุปข้อมูลทั่วไปที่ยอดเยี่ยม แต่มักจะมีกรณีการใช้งานที่มีข้อมูลโดเมนที่เฉพาะเจาะจงมาก (เช่น การดูแลสุขภาพหรือบริการทางการเงิน) เนื่องจากโมเดลเหล่านี้อาจไม่สามารถให้ผลลัพธ์ที่ดีสำหรับกรณีการใช้งานเหล่านี้ได้ ส่งผลให้เกิดความจำเป็นในการปรับแต่งโมเดล AI เชิงสร้างสรรค์เพิ่มเติมเพิ่มเติมเกี่ยวกับข้อมูลเฉพาะกรณีการใช้งานและข้อมูลเฉพาะโดเมน

ในโพสต์นี้ เราจะอธิบายวิธีปรับแต่งโมเดลการสร้างข้อความที่ได้รับการฝึกอบรมล่วงหน้าของ Llama 2 ผ่าน SageMaker JumpStart

ลามะ 2 คืออะไร

Llama 2 เป็นโมเดลภาษาถอยหลังอัตโนมัติที่ใช้สถาปัตยกรรมหม้อแปลงที่ปรับให้เหมาะสม Llama 2 มีไว้สำหรับใช้ในเชิงพาณิชย์และการวิจัยเป็นภาษาอังกฤษ มีขนาดพารามิเตอร์หลายขนาด ได้แก่ 7 พันล้าน 13 พันล้าน และ 70 พันล้าน ตลอดจนรูปแบบต่างๆ ที่ผ่านการฝึกอบรมและปรับแต่งอย่างละเอียด จากข้อมูลของ Meta เวอร์ชันที่ปรับแต่งจะใช้การปรับแบบละเอียดภายใต้การดูแล (SFT) และการเรียนรู้แบบเสริมแรงด้วยคำติชมของมนุษย์ (RLHF) เพื่อให้สอดคล้องกับความชอบของมนุษย์ในด้านความช่วยเหลือและความปลอดภัย Llama 2 ได้รับการฝึกอบรมล่วงหน้าโดยใช้ข้อมูล 2 ล้านล้านโทเค็นจากแหล่งข้อมูลสาธารณะ โมเดลที่ได้รับการปรับแต่งมีไว้สำหรับการแชทแบบผู้ช่วย ในขณะที่โมเดลที่ผ่านการฝึกอบรมล่วงหน้าสามารถปรับให้เหมาะกับงานสร้างภาษาธรรมชาติที่หลากหลาย ไม่ว่านักพัฒนาจะใช้โมเดลรุ่นใดก็ตาม คู่มือการใช้งานอย่างรับผิดชอบจาก Meta สามารถช่วยแนะนำการปรับละเอียดเพิ่มเติมที่อาจจำเป็นในการปรับแต่งและเพิ่มประสิทธิภาพโมเดลด้วยการบรรเทาความปลอดภัยที่เหมาะสม

ปัจจุบัน Llama 2 มีให้บริการในภูมิภาคต่อไปนี้:

• ปรับใช้โมเดลที่ได้รับการฝึกอบรมล่วงหน้าแล้ว: "us-west-2", "us-east-1", "us-east-2", "eu-west-1", "ap-southeast-1", "ap-southeast-2"
• ปรับแต่งและปรับใช้โมเดลที่ได้รับการปรับแต่งอย่างละเอียด: “us-east-1”, “us-west-2”,“eu-west-1”

SageMaker JumpStart คืออะไร

ด้วย SageMaker JumpStart ผู้ปฏิบัติงาน ML สามารถเลือกจากแบบจำลองพื้นฐานที่เปิดเผยต่อสาธารณะได้หลากหลาย ผู้ปฏิบัติงาน ML สามารถปรับใช้โมเดลพื้นฐานเพื่อการใช้งานเฉพาะได้ อเมซอน SageMaker อินสแตนซ์จากสภาพแวดล้อมที่แยกเครือข่ายและปรับแต่งโมเดลโดยใช้ SageMaker สำหรับการฝึกโมเดลและการปรับใช้ ตอนนี้คุณสามารถค้นพบและปรับใช้ Llama 2 ได้ด้วยการคลิกเพียงไม่กี่ครั้งใน SageMaker Studio หรือโดยทางโปรแกรมผ่าน SageMaker Python SDK ทำให้คุณได้รับประสิทธิภาพของโมเดลและการควบคุม MLOps ด้วยคุณสมบัติของ SageMaker เช่น ท่อส่ง Amazon SageMaker, ดีบักเกอร์ Amazon SageMakerหรือบันทึกคอนเทนเนอร์ โมเดลนี้ได้รับการปรับใช้ในสภาพแวดล้อมที่ปลอดภัยของ AWS และอยู่ภายใต้การควบคุม VPC ของคุณ ซึ่งช่วยรับรองความปลอดภัยของข้อมูล นอกจากนี้ คุณยังสามารถปรับแต่งโมเดลการสร้างข้อความที่ได้รับการฝึกล่วงหน้า Llama2 7B, 13B และ 70B ได้อย่างละเอียดผ่าน SageMaker JumpStart

ปรับแต่งโมเดล Llama2

คุณสามารถปรับแต่งโมเดลได้โดยใช้ SageMaker Studio UI หรือ SageMaker Python SDK เราจะหารือทั้งสองวิธีในส่วนนี้

การปรับแต่งแบบละเอียดโดยไม่ต้องใช้โค้ดผ่าน SageMaker Studio UI

ใน SageMaker Studio คุณสามารถเข้าถึงโมเดล Llama 2 ผ่าน SageMaker JumpStart ด้านล่าง รุ่น โน้ตบุ๊ก และโซลูชันดังแสดงในภาพหน้าจอต่อไปนี้

หากคุณไม่เห็นโมเดล Llama 2 ให้อัปเดตเวอร์ชัน SageMaker Studio ของคุณโดยปิดเครื่องแล้วรีสตาร์ท สำหรับข้อมูลเพิ่มเติมเกี่ยวกับการอัพเดตเวอร์ชัน โปรดดูที่ ปิดและอัปเดตแอป Studio.

คุณยังสามารถค้นหารูปแบบรุ่นอื่นๆ อีกสี่รุ่นได้โดยเลือก สำรวจโมเดลการสร้างข้อความทั้งหมด หรือค้นหาลามะในช่องค้นหา

ในหน้านี้คุณสามารถชี้ไปที่ บริการจัดเก็บข้อมูลอย่างง่ายของ Amazon บัคเก็ต (Amazon S3) ที่ประกอบด้วยชุดข้อมูลการฝึกอบรมและการตรวจสอบเพื่อการปรับแต่งอย่างละเอียด นอกจากนี้ คุณยังสามารถกำหนดค่าการกำหนดค่าการปรับใช้ ไฮเปอร์พารามิเตอร์ และการตั้งค่าความปลอดภัยสำหรับการปรับแต่งอย่างละเอียดได้ จากนั้นคุณสามารถเลือกได้ รถไฟ เพื่อเริ่มงานการฝึกอบรมบนอินสแตนซ์ SageMaker ML ภาพหน้าจอก่อนหน้านี้แสดงหน้าการปรับแต่งอย่างละเอียดสำหรับรุ่น Llama-2 7B อย่างไรก็ตาม คุณสามารถปรับแต่งโมเดลการสร้างข้อความ Llama 13 70B และ 2B ได้อย่างละเอียดโดยใช้หน้าโมเดลตามลำดับในทำนองเดียวกัน หากต้องการใช้โมเดล Llama 2 คุณต้องยอมรับข้อตกลงสิทธิ์การใช้งานสำหรับผู้ใช้ปลายทาง (EULA) มันจะปรากฏขึ้นเมื่อคุณเมื่อคุณเลือก รถไฟดังที่แสดงในภาพหน้าจอต่อไปนี้ เลือก ฉันได้อ่านและยอมรับ EULA และ AUP แล้ว เพื่อเริ่มงานปรับแต่ง

ปรับใช้โมเดล

หลังจากปรับแต่งโมเดลอย่างละเอียดแล้ว คุณสามารถปรับใช้ได้โดยใช้หน้าโมเดลบน SageMaker JumpStart ตัวเลือกในการปรับใช้แบบจำลองที่ปรับแต่งอย่างละเอียดจะปรากฏขึ้นเมื่อการปรับแต่งแบบละเอียดเสร็จสิ้น ดังที่แสดงในภาพหน้าจอต่อไปนี้

ปรับแต่งอย่างละเอียดผ่าน SageMaker Python SDK

คุณยังสามารถปรับแต่งโมเดล Llama 2 ได้อย่างละเอียดโดยใช้ SageMaker Python SDK ต่อไปนี้เป็นโค้ดตัวอย่างเพื่อปรับแต่ง Llama 2 7B บนชุดข้อมูลของคุณ:

import os
import boto3
from sagemaker.session import Session
from sagemaker.jumpstart.estimator import JumpStartEstimator # To fine-tune the 13B/70B model, please change model_id to `meta-textgeneration-llama-2-13b`/`meta-textgeneration-llama-2-70b`.
model_id = "meta-textgeneration-llama-2-7b" estimator = JumpStartEstimator( model_id=model_id, environment={"accept_eula": "true"}
)
# By default, instruction tuning is set to false. Thus, to use instruction tuning dataset you use
estimator.set_hyperparameters(instruction_tuned="True", epoch="5")
estimator.fit({"training": train_data_location})

คุณสามารถปรับใช้โมเดลที่ได้รับการปรับแต่งอย่างละเอียดได้โดยตรงจากตัวประมาณค่า:

finetuned_predictor = estimator.deploy()

คุณยังสามารถค้นหารหัสได้ใน ปรับแต่งโมเดล LLaMA 2 บน SageMaker JumpStart. ประกอบด้วยการเตรียมชุดข้อมูล การฝึกอบรมชุดข้อมูลที่คุณกำหนดเอง และการปรับใช้โมเดลที่ได้รับการปรับแต่งอย่างละเอียด โดยสาธิตการปรับแต่งอย่างละเอียดบนชุดย่อยของชุดข้อมูล Dolly พร้อมตัวอย่างจากงานสรุป ต่อไปนี้คือตัวอย่างอินพุตพร้อมการตอบสนองจากแบบละเอียดและแบบไม่ปรับแต่งพร้อมกับการตอบสนองตามความจริงภาคพื้นดิน:

ป้อนข้อมูลให้กับโมเดล:

Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:nWhen did Felix Luna die?nn### Input:nFélix César Luna (30 September 1925 – 5 November 2009) was an Argentine writer, lyricist and historian.nnnn### Response:n

การตอบสนองจากความจริงพื้นฐาน:

Felix Luna died on November 5th, 2009

การตอบสนองจากโมเดลที่ไม่ได้ปรับแต่ง:

Félix César Luna (30 September 1925 – 5 November 2009) was an ArgentinennWhen did Luna die?nnn### Explanation:nWe answer the question with the input's date of birth and the date of death.nnn### Solution: 1102n

การตอบสนองจากโมเดลที่ได้รับการปรับแต่ง:

Félix Luna died on November 5th, 2009.nn

สำหรับการเปรียบเทียบประสิทธิภาพของรุ่นต่างๆ บนชุดข้อมูล Dolly และ Dialogsum โปรดดูที่ การเปรียบเทียบประสิทธิภาพ ในภาคผนวกท้ายโพสต์นี้

เทคนิคการปรับแต่งแบบละเอียด

โมเดลภาษาเช่น Llama มีขนาดมากกว่า 10 GB หรือ 100 GB การปรับแต่งโมเดลขนาดใหญ่ดังกล่าวอย่างละเอียดต้องใช้อินสแตนซ์ที่มีหน่วยความจำ CUDA สูงอย่างมาก นอกจากนี้ การฝึกโมเดลเหล่านี้อาจทำได้ช้ามากเนื่องจากขนาดของโมเดล ดังนั้น เพื่อการปรับแต่งอย่างมีประสิทธิภาพ เราจึงใช้การเพิ่มประสิทธิภาพต่อไปนี้:

• การปรับตัวระดับต่ำ (LoRA) – นี่คือการปรับพารามิเตอร์แบบละเอียดที่มีประสิทธิภาพ (PEFT) ประเภทหนึ่งสำหรับการปรับแบบละเอียดอย่างมีประสิทธิภาพสำหรับรุ่นขนาดใหญ่ ในที่นี้ เราหยุดทั้งโมเดลและเพิ่มพารามิเตอร์หรือเลเยอร์ที่ปรับได้ชุดเล็กๆ ลงในโมเดลเท่านั้น ตัวอย่างเช่น แทนที่จะฝึกพารามิเตอร์ทั้งหมด 7 พันล้านพารามิเตอร์สำหรับ Llama 2 7B เราสามารถปรับแต่งพารามิเตอร์ได้น้อยกว่า 1% ซึ่งจะช่วยลดความต้องการหน่วยความจำได้อย่างมาก เนื่องจากเราจำเป็นต้องจัดเก็บการไล่ระดับสี สถานะเครื่องมือเพิ่มประสิทธิภาพ และข้อมูลอื่นๆ ที่เกี่ยวข้องกับการฝึกอบรมเพียง 1% ของพารามิเตอร์เท่านั้น นอกจากนี้ยังช่วยลดเวลาการฝึกอบรมและค่าใช้จ่ายอีกด้วย สำหรับรายละเอียดเพิ่มเติมเกี่ยวกับวิธีการนี้ โปรดดูที่ LoRA: การปรับตัวในระดับต่ำของโมเดลภาษาขนาดใหญ่.
• การหาปริมาณ Int8 – แม้จะมีการปรับปรุงประสิทธิภาพ เช่น LoRA แต่โมเดลอย่าง Llama 70B ก็ยังใหญ่เกินกว่าจะฝึกได้ เพื่อลดพื้นที่หน่วยความจำระหว่างการฝึก เราสามารถใช้การวัดปริมาณ Int8 ในระหว่างการฝึกได้ โดยทั่วไปการหาปริมาณจะลดความแม่นยำของประเภทข้อมูลจุดลอยตัว แม้ว่าการทำเช่นนี้จะลดหน่วยความจำที่จำเป็นในการจัดเก็บน้ำหนักโมเดล แต่ประสิทธิภาพก็ลดลงเนื่องจากข้อมูลสูญหาย การหาปริมาณ Int8 ใช้ความแม่นยำเพียงหนึ่งในสี่เท่านั้น แต่ไม่ได้ทำให้ประสิทธิภาพลดลง เนื่องจากไม่ได้ทำให้บิตลดลง มันจะปัดเศษข้อมูลจากประเภทหนึ่งไปอีกประเภทหนึ่ง หากต้องการเรียนรู้เกี่ยวกับการหาปริมาณ Int8 โปรดดูที่ LLM.int8(): การคูณเมทริกซ์ 8 บิตสำหรับ Transformers ตามขนาด.
• ข้อมูลแบบขนานที่แบ่งใช้อย่างสมบูรณ์ (FSDP) – นี่คืออัลกอริธึมการฝึกอบรมข้อมูลแบบคู่ขนานประเภทหนึ่งที่แบ่งพารามิเตอร์ของโมเดลให้กับผู้ปฏิบัติงานแบบขนานข้อมูล และสามารถเลือกถ่ายส่วนหนึ่งของการคำนวณการฝึกอบรมไปยัง CPU ได้ แม้ว่าพารามิเตอร์จะถูกแบ่งส่วนใน GPU ที่แตกต่างกัน แต่การคำนวณของไมโครแบทช์แต่ละรายการจะอยู่ในเครื่องของผู้ปฏิบัติงาน GPU โดยแบ่งส่วนพารามิเตอร์ให้มีความสม่ำเสมอมากขึ้น และบรรลุประสิทธิภาพที่ได้รับการปรับปรุงให้เหมาะสมผ่านการสื่อสารและการคำนวณที่ทับซ้อนกันระหว่างการฝึก

ตารางต่อไปนี้เปรียบเทียบวิธีการต่างๆ กับ Llama 2 ทั้งสามรุ่น

โปรดทราบว่าการปรับแต่งโมเดล Llama อย่างละเอียดนั้นขึ้นอยู่กับสคริปต์ที่ให้ไว้ดังต่อไปนี้ repo GitHub.

รูปแบบชุดข้อมูลการฝึกอบรม

ปัจจุบัน SageMaker JumpStart รองรับชุดข้อมูลทั้งในรูปแบบการปรับโดเมนและรูปแบบการปรับแต่งคำสั่ง ในส่วนนี้ เราระบุชุดข้อมูลตัวอย่างในทั้งสองรูปแบบ สำหรับรายละเอียดเพิ่มเติม โปรดดูที่ การจัดรูปแบบชุดข้อมูล ส่วนในภาคผนวก

รูปแบบการปรับโดเมน

โมเดล Llama 2 การสร้างข้อความสามารถปรับแต่งได้อย่างละเอียดบนชุดข้อมูลเฉพาะโดเมนใดๆ หลังจากปรับแต่งชุดข้อมูลเฉพาะโดเมนอย่างละเอียดแล้ว โมเดลดังกล่าวคาดว่าจะสร้างข้อความเฉพาะโดเมนและแก้ไขงาน NLP ต่างๆ ในโดเมนเฉพาะนั้นด้วยการแจ้งเตือนเพียงไม่กี่ช็อต ด้วยชุดข้อมูลนี้ อินพุตจะประกอบด้วยไฟล์ CSV, JSON หรือ TXT ตัวอย่างเช่น ข้อมูลอินพุตอาจเป็นเอกสารที่ยื่นต่อ SEC ของ Amazon ในรูปแบบไฟล์ข้อความ:

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions.

รูปแบบการปรับแต่งคำสั่ง

ในการปรับแต่งคำสั่งอย่างละเอียด โมเดลจะได้รับการปรับแต่งอย่างละเอียดสำหรับชุดงานการประมวลผลภาษาธรรมชาติ (NLP) ที่อธิบายโดยใช้คำแนะนำ ซึ่งจะช่วยปรับปรุงประสิทธิภาพของโมเดลสำหรับงานที่มองไม่เห็นด้วยการแจ้งเตือนแบบ Zero-Shot ในรูปแบบชุดข้อมูลการปรับแต่งคำสั่ง คุณระบุ template.json ไฟล์อธิบายรูปแบบอินพุตและเอาต์พุต เช่น แต่ละบรรทัดในไฟล์ train.jsonl มีลักษณะดังนี้:

{"instruction": "What is a dispersive prism?", "context": "In optics, a dispersive prism is an optical prism that is used to disperse light, that is, to separate light into its spectral components (the colors of the rainbow). Different wavelengths (colors) of light will be deflected by the prism at different angles. This is a result of the prism material's index of refraction varying with wavelength (dispersion). Generally, longer wavelengths (red) undergo a smaller deviation than shorter wavelengths (blue). The dispersion of white light into colors by a prism led Sir Isaac Newton to conclude that white light consisted of a mixture of different colors.", "response": "A dispersive prism is an optical prism that disperses the light's different wavelengths at different angles. When white light is shined through a dispersive prism it will separate into the different colors of the rainbow."}

ไฟล์เพิ่มเติม template.json มีลักษณะดังนี้:

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. " "Write a response that appropriately completes the request.nn" "### Instruction:n{instruction}nn### Input:n{context}nn", "completion": " {response}",
}

ไฮเปอร์พารามิเตอร์ที่รองรับสำหรับการฝึก

การปรับแต่ง Llama 2 อย่างละเอียดรองรับไฮเปอร์พารามิเตอร์จำนวนหนึ่ง ซึ่งแต่ละพารามิเตอร์สามารถส่งผลกระทบต่อความต้องการหน่วยความจำ ความเร็วในการฝึกฝน และประสิทธิภาพของโมเดลที่ได้รับการปรับแต่ง:

• ยุค – จำนวนรอบที่อัลกอริธึมการปรับแต่งแบบละเอียดใช้ผ่านชุดข้อมูลการฝึก ต้องเป็นจำนวนเต็มที่มากกว่า 1 ค่าเริ่มต้นคือ 5
• อัตราการเรียนรู้ – อัตราการอัปเดตน้ำหนักแบบจำลองหลังจากทำงานผ่านตัวอย่างการฝึกอบรมแต่ละชุด จะต้องมีค่าทศนิยมเป็นบวกมากกว่า 0 ค่าเริ่มต้นคือ 1e-4
• Instruction_tuned – ไม่ว่าจะสั่งสอน-เทรนโมเดลหรือไม่ก็ตาม ต้องเป็น'True' หรือ 'False'. ค่าเริ่มต้นคือ 'False'
• ต่อ_อุปกรณ์_train_batch_size – ขนาดแบตช์ต่อคอร์ GPU/CPU สำหรับการฝึก ต้องเป็นจำนวนเต็มบวก ค่าเริ่มต้นคือ 4
• ต่อ_อุปกรณ์_eval_batch_size – ขนาดแบตช์ต่อคอร์ GPU/CPU สำหรับการประเมิน ต้องเป็นจำนวนเต็มบวก ค่าเริ่มต้นคือ 1
• max_train_samples – เพื่อวัตถุประสงค์ในการแก้ไขจุดบกพร่องหรือการฝึกที่รวดเร็วขึ้น ให้ตัดจำนวนตัวอย่างการฝึกให้เหลือเพียงค่านี้ ค่า -1 หมายถึง การใช้ตัวอย่างการฝึกทั้งหมด ต้องเป็นจำนวนเต็มบวกหรือ -1 ค่าเริ่มต้นคือ -1
• max_val_samples – เพื่อวัตถุประสงค์ในการแก้ไขจุดบกพร่องหรือการฝึกอบรมที่รวดเร็วยิ่งขึ้น ให้ตัดจำนวนตัวอย่างการตรวจสอบความถูกต้องให้เหลือเพียงค่านี้ ค่า -1 หมายถึงการใช้ตัวอย่างการตรวจสอบความถูกต้องทั้งหมด ต้องเป็นจำนวนเต็มบวกหรือ -1 ค่าเริ่มต้นคือ -1
• max_input_length – ความยาวลำดับอินพุตทั้งหมดสูงสุดหลังโทเค็น ลำดับที่นานกว่านี้จะถูกตัดทอน ถ้า -1, max_input_length ถูกตั้งค่าเป็นขั้นต่ำ 1024 และความยาวโมเดลสูงสุดที่กำหนดโดยโทเค็นไนเซอร์ หากตั้งค่าเป็นค่าบวก max_input_length ถูกตั้งค่าเป็นขั้นต่ำของค่าที่ให้ไว้และ model_max_length กำหนดโดยโทเค็นไนเซอร์ ต้องเป็นจำนวนเต็มบวกหรือ -1 ค่าเริ่มต้นคือ -1
• validation_split_ratio – หากช่องทางการตรวจสอบเป็น noneอัตราส่วนของการแยกการตรวจสอบความถูกต้องของรถไฟจากข้อมูลรถไฟจะต้องอยู่ระหว่าง 0–1 ค่าเริ่มต้นคือ 0.2
• train_data_split_seed – หากไม่มีข้อมูลการตรวจสอบความถูกต้อง การดำเนินการนี้จะแก้ไขการแยกข้อมูลการฝึกอบรมอินพุตแบบสุ่มไปยังข้อมูลการฝึกอบรมและการตรวจสอบความถูกต้องที่ใช้โดยอัลกอริทึม ต้องเป็นจำนวนเต็ม ค่าเริ่มต้นคือ 0
• preprocessing_num_workers – จำนวนกระบวนการที่จะใช้สำหรับการประมวลผลล่วงหน้า ถ้า Noneกระบวนการหลักใช้สำหรับการประมวลผลล่วงหน้า ค่าเริ่มต้นคือ None.
• ลอร่า_อาร์ – Lora R. ต้องเป็นจำนวนเต็มบวก ค่าเริ่มต้นคือ 8
• ลอรา_อัลฟา – ลอร่า อัลฟ่า ต้องเป็นจำนวนเต็มบวก ค่าเริ่มต้นคือ 32
• lora_dropout – ลอรา ดรอปเอาท์ จะต้องมีค่าทศนิยมเป็นบวกระหว่าง 0 ถึง 1 ค่าเริ่มต้นคือ 0.05
• int8_quantization - ถ้า Trueโมเดลนี้โหลดด้วยความแม่นยำ 8 บิตสำหรับการฝึก ค่าเริ่มต้นสำหรับ 7B และ 13B คือ False. ค่าเริ่มต้นสำหรับ 70B คือ True.
• Enable_fsdp - ถ้า True, การฝึกอบรมใช้ FSDP ค่าเริ่มต้นสำหรับ 7B และ 13B คือ True. ค่าเริ่มต้นสำหรับ 70B คือ False. สังเกตได้ว่า int8_quantization ไม่รองรับ FSDP

ประเภทอินสแตนซ์และไฮเปอร์พารามิเตอร์ที่เข้ากันได้

ความต้องการหน่วยความจำระหว่างการปรับแต่งอาจแตกต่างกันไปขึ้นอยู่กับปัจจัยหลายประการ:

• ประเภทรุ่น – รุ่น 7B มีความต้องการหน่วยความจำ GPU น้อยที่สุด และ 70B มีความต้องการหน่วยความจำที่ใหญ่ที่สุด
• ความยาวอินพุตสูงสุด – ค่าความยาวอินพุตที่สูงกว่าจะนำไปสู่การประมวลผลโทเค็นมากขึ้นในแต่ละครั้ง และด้วยเหตุนี้จึงต้องใช้หน่วยความจำ CUDA มากขึ้น
• ขนาดแบทช์ – ขนาดแบตช์ที่ใหญ่ขึ้นต้องใช้หน่วยความจำ CUDA ที่ใหญ่กว่า ดังนั้นจึงต้องใช้ประเภทอินสแตนซ์ที่ใหญ่กว่า
• การหาปริมาณ Int8 – หากใช้การหาปริมาณ Int8 โมเดลจะถูกโหลดด้วยความแม่นยำต่ำ ดังนั้นจึงต้องใช้หน่วยความจำ CUDA น้อยลง

เพื่อช่วยคุณในการเริ่มต้น เรามีชุดการผสมผสานระหว่างประเภทอินสแตนซ์ ไฮเปอร์พารามิเตอร์ และประเภทโมเดลต่างๆ ที่สามารถปรับแต่งได้อย่างละเอียด คุณสามารถเลือกการกำหนดค่าได้ตามความต้องการและความพร้อมใช้งานของประเภทอินสแตนซ์ เราปรับแต่งโมเดลทั้งสามอย่างละเอียดในการตั้งค่าที่หลากหลายด้วยสามยุคในชุดย่อยของชุดข้อมูล Dolly พร้อมตัวอย่างการสรุป

รุ่น 7B

ตารางต่อไปนี้สรุปตัวเลือกการปรับแต่งอย่างละเอียดในรุ่น 7B

13B

ตารางต่อไปนี้สรุปตัวเลือกการปรับแต่งอย่างละเอียดในรุ่น 13B

70B

ตารางต่อไปนี้สรุปตัวเลือกการปรับแต่งอย่างละเอียดในรุ่น 70B

คำแนะนำเกี่ยวกับประเภทอินสแตนซ์และไฮเปอร์พารามิเตอร์

เมื่อปรับแต่งความแม่นยำของโมเดลอย่างละเอียด โปรดคำนึงถึงสิ่งต่อไปนี้:

• รุ่นขนาดใหญ่เช่น 70B ให้ประสิทธิภาพที่ดีกว่า 7B
• ประสิทธิภาพที่ไม่มีการหาปริมาณ Int8 ดีกว่าประสิทธิภาพที่มีการหาปริมาณ INT8

โปรดสังเกตข้อกำหนดด้านเวลาการฝึกอบรมและหน่วยความจำ CUDA ต่อไปนี้:

• การตั้งค่า int8_quantization=True ลดความต้องการความจำและนำไปสู่การฝึกที่เร็วขึ้น
• ลดลง per_device_train_batch_size และ max_input_length ลดความต้องการหน่วยความจำและสามารถเรียกใช้บนอินสแตนซ์ขนาดเล็กได้ อย่างไรก็ตาม การตั้งค่าที่ต่ำมากอาจเพิ่มเวลาการฝึก
• หากคุณไม่ได้ใช้การหาปริมาณ Int8 (int8_quantization=False) ใช้ FSDP (enable_fsdp=True) เพื่อการฝึกอบรมที่รวดเร็วและมีประสิทธิภาพ

เมื่อเลือกประเภทอินสแตนซ์ ให้พิจารณาสิ่งต่อไปนี้:

• อินสแตนซ์ G5 ให้การฝึกอบรมที่มีประสิทธิภาพมากที่สุดในบรรดาประเภทอินสแตนซ์ที่รองรับ ดังนั้น หากคุณมีอินสแตนซ์ G5 คุณก็ควรใช้อินสแตนซ์เหล่านั้น
• เวลาการฝึกอบรมส่วนใหญ่ขึ้นอยู่กับจำนวน GPU และหน่วยความจำ CUDA ที่พร้อมใช้งาน ดังนั้น การฝึกบนอินสแตนซ์ที่มี GPU จำนวนเท่ากัน (เช่น ml.g5.2xlarge และ ml.g5.4xlarge) จึงใกล้เคียงกันโดยประมาณ ดังนั้น คุณสามารถใช้อินสแตนซ์ที่ถูกกว่าสำหรับการฝึกได้ (ml.g5.2xlarge)
• เมื่อใช้อินสแตนซ์ p3 การฝึกจะดำเนินการด้วยความแม่นยำ 32 บิต เนื่องจากอินสแตนซ์เหล่านี้ไม่รองรับ bfloat16 ดังนั้น งานการฝึกจะใช้จำนวนหน่วยความจำ CUDA เป็นสองเท่าเมื่อฝึกบนอินสแตนซ์ p3 เมื่อเทียบกับอินสแตนซ์ g5

หากต้องการเรียนรู้เกี่ยวกับค่าใช้จ่ายในการฝึกอบรมต่ออินสแตนซ์ โปรดดูที่ Amazon EC2 G5 อินสแตนซ์.

หากชุดข้อมูลอยู่ในรูปแบบการปรับแต่งคำสั่งและลำดับอินพุต+การทำให้สมบูรณ์มีขนาดเล็ก (เช่น 50–100 คำ) ดังนั้นค่าที่สูงคือ max_input_length ส่งผลให้ประสิทธิภาพการทำงานแย่มาก ค่าเริ่มต้นของพารามิเตอร์นี้คือ -1 ซึ่งสอดคล้องกับ max_input_length ประจำปี 2048 สำหรับรุ่น Llama ดังนั้น เราขอแนะนำว่าหากชุดข้อมูลของคุณมีตัวอย่างขนาดเล็ก ให้ใช้ค่าเล็กน้อยสำหรับ max_input_length (เช่น 200–400)

สุดท้ายนี้ เนื่องจากมีความต้องการอินสแตนซ์ G5 สูง คุณอาจพบว่าอินสแตนซ์เหล่านี้ไม่พร้อมใช้งานในภูมิภาคของคุณโดยมีข้อผิดพลาด “CapacityError: Unable to provision requested ML compute capacity. Please retry using a different ML instance type.” หากคุณพบข้อผิดพลาดนี้ ให้ลองงานฝึกอบรมอีกครั้งหรือลองใช้ภูมิภาคอื่น

ปัญหาเมื่อทำการปรับแต่งโมเดลที่มีขนาดใหญ่มากอย่างละเอียด

ในส่วนนี้ เราจะพูดถึงสองประเด็นเมื่อปรับแต่งโมเดลที่มีขนาดใหญ่มากอย่างละเอียด

ปิดใช้งานการบีบอัดเอาต์พุต

ตามค่าเริ่มต้น ผลลัพธ์ของงานการฝึกจะเป็นโมเดลที่ได้รับการฝึกซึ่งบีบอัดในรูปแบบ .tar.gz ก่อนที่จะอัปโหลดไปยัง Amazon S3 อย่างไรก็ตามเนื่องจากโมเดลมีขนาดใหญ่ ขั้นตอนนี้อาจใช้เวลานาน ตัวอย่างเช่น การบีบอัดและการอัปโหลดโมเดล 70B อาจใช้เวลานานกว่า 4 ชั่วโมง เพื่อหลีกเลี่ยงปัญหานี้ คุณสามารถใช้คุณลักษณะปิดใช้งานการบีบอัดเอาต์พุตที่รองรับโดยแพลตฟอร์มการฝึกอบรม SageMaker ในกรณีนี้ โมเดลจะถูกอัปโหลดโดยไม่มีการบีบอัดใดๆ ซึ่งนำไปใช้เพิ่มเติมสำหรับการปรับใช้:

estimator = JumpStartEstimator(
model_id=model_id, environment={"accept_eula": "true"}, disable_output_compression=True
)

ปัญหาการหมดเวลาเคอร์เนลของ SageMaker Studio

เนื่องจากขนาดของรุ่น Llama 70B งานการฝึกอาจใช้เวลาหลายชั่วโมงและเคอร์เนล SageMaker Studio อาจหยุดทำงานในระหว่างระยะการฝึก อย่างไรก็ตาม ในระหว่างนี้ การฝึกอบรมยังคงดำเนินอยู่ใน SageMaker หากเกิดเหตุการณ์นี้ คุณยังคงปรับใช้ตำแหน่งข้อมูลได้โดยใช้ชื่องานการฝึกด้วยรหัสต่อไปนี้:

from sagemaker.jumpstart.estimator import JumpStartEstimator
training_job_name = <<<INSERT_TRAINING_JOB_NAME>>> attached_estimator = JumpStartEstimator.attach(training_job_name, model_id)
attached_estimator.logs()
attached_estimator.deploy()

หากต้องการค้นหาชื่องานการฝึกอบรม ให้ไปที่คอนโซล SageMaker และด้านล่าง การฝึกอบรม ในบานหน้าต่างนำทาง ให้เลือก งานฝึกอบรม. ระบุชื่องานการฝึกอบรมและแทนที่ในรหัสก่อนหน้า

สรุป

ในโพสต์นี้ เราได้พูดคุยถึงการปรับแต่งโมเดล Llama 2 ของ Meta อย่างละเอียดโดยใช้ SageMaker JumpStart เราแสดงให้เห็นว่าคุณสามารถใช้คอนโซล SageMaker JumpStart ใน SageMaker Studio หรือ SageMaker Python SDK เพื่อปรับแต่งและปรับใช้โมเดลเหล่านี้ได้ เรายังกล่าวถึงเทคนิคการปรับแต่งอย่างละเอียด ประเภทอินสแตนซ์ และไฮเปอร์พารามิเตอร์ที่รองรับอีกด้วย นอกจากนี้ เรายังให้คำแนะนำเพื่อเพิ่มประสิทธิภาพการฝึกอบรมโดยอิงจากการทดสอบต่างๆ ที่เราทำ ผลลัพธ์สำหรับการปรับโมเดลทั้งสามแบบอย่างละเอียดบนชุดข้อมูลสองชุดจะแสดงในภาคผนวกท้ายโพสต์นี้ ดังที่เราเห็นจากผลลัพธ์เหล่านี้ การปรับแต่งแบบละเอียดช่วยปรับปรุงการสรุปเมื่อเปรียบเทียบกับโมเดลที่ไม่ได้ปรับแต่งแบบละเอียด ในขั้นตอนถัดไป คุณสามารถลองปรับแต่งโมเดลเหล่านี้บนชุดข้อมูลของคุณเองได้โดยใช้โค้ดที่ให้ไว้ในที่เก็บ GitHub เพื่อทดสอบและเปรียบเทียบผลลัพธ์สำหรับกรณีการใช้งานของคุณ

ผู้เขียนขอขอบคุณการมีส่วนร่วมทางเทคนิคของ Christopher Whitten, Xin Huang, Kyle Ulrich, Sifei Li, Amy You, Adam Kozdrowicz, Evan Kravitz, Benjamin Crabtree, Haotian An, Manan Shah, Tony Cruz, Ernev Sharma, Jonathan Guinegagne และ June วอน.

เกี่ยวกับผู้เขียน

ดร.วิเวก มะดัน เป็นนักวิทยาศาสตร์ประยุกต์กับทีม Amazon SageMaker JumpStart เขาสำเร็จการศึกษาระดับปริญญาเอกจากมหาวิทยาลัยอิลลินอยส์ Urbana-Champaign และเป็นนักวิจัยหลังปริญญาเอกที่ Georgia Tech เขาเป็นนักวิจัยเชิงรุกด้านการเรียนรู้ของเครื่องและการออกแบบอัลกอริธึม และได้ตีพิมพ์เอกสารในการประชุม EMNLP, ICLR, COLT, FOCS และ SODA

ดร.ฟารุค ซาบีร์ เป็นสถาปนิกอาวุโสด้านปัญญาประดิษฐ์และผู้เชี่ยวชาญด้านการเรียนรู้ของเครื่องที่ AWS เขาสำเร็จการศึกษาระดับปริญญาเอกและปริญญาโทสาขาวิศวกรรมไฟฟ้าจากมหาวิทยาลัยเทกซัสออสติน และปริญญาโทสาขาวิทยาการคอมพิวเตอร์จากสถาบันเทคโนโลยีจอร์เจีย เขามีประสบการณ์การทำงานมากกว่า 15 ปี และยังชอบสอนและให้คำปรึกษาแก่นักศึกษาอีกด้วย ที่ AWS เขาช่วยลูกค้ากำหนดและแก้ปัญหาทางธุรกิจในด้านวิทยาศาสตร์ข้อมูล การเรียนรู้ของเครื่อง คอมพิวเตอร์วิทัศน์ ปัญญาประดิษฐ์ การเพิ่มประสิทธิภาพเชิงตัวเลข และโดเมนที่เกี่ยวข้อง เขาและครอบครัวอาศัยอยู่ในเมืองดัลลัส รัฐเท็กซัส รักการเดินทางและเดินทางไกล

ดร. Ashish Khetan เป็นนักวิทยาศาสตร์ประยุกต์อาวุโสของ Amazon SageMaker JumpStart และช่วยพัฒนาอัลกอริทึมการเรียนรู้ของเครื่อง เขาได้รับปริญญาเอกจาก University of Illinois Urbana-Champaign เขาเป็นนักวิจัยที่กระตือรือร้นในด้านแมชชีนเลิร์นนิงและการอนุมานทางสถิติ และได้ตีพิมพ์บทความจำนวนมากในการประชุม NeurIPS, ICML, ICLR, JMLR, ACL และ EMNLP

ภาคผนวก

ภาคผนวกนี้ให้ข้อมูลเพิ่มเติมเกี่ยวกับการเปรียบเทียบประสิทธิภาพและการจัดรูปแบบชุดข้อมูล

การเปรียบเทียบประสิทธิภาพ

ในส่วนนี้ เราจะให้ผลลัพธ์สำหรับการปรับแต่งโมเดล Llama 2 ทั้งสามรุ่น (7B, 13B และ 70B) บนชุดข้อมูลที่แตกต่างกันสองชุด: ตุ๊กตา และ กล่องโต้ตอบ. สำหรับชุดข้อมูล Dolly งานของเราคือการสรุปย่อหน้าของข้อความ ในขณะที่ Dialogsum เรากำลังปรับแต่งโมเดลอย่างละเอียดเพื่อสรุปการสนทนาระหว่างคนสองคน ในตารางต่อไปนี้ เราจะแสดงข้อมูลที่ป้อนให้กับโมเดล (พร้อมท์และคำแนะนำ) ความจริงภาคพื้นดิน (สรุป) การตอบสนองจากโมเดล Llama 2 ที่ได้รับการฝึกล่วงหน้า และการตอบสนองจากโมเดล Llama 2 ที่ได้รับการปรับแต่งอย่างละเอียดสำหรับลามะทั้งสามตัว 2 รุ่น. เราแสดงผลการอนุมานสำหรับจุดข้อมูลห้าจุด คุณสามารถสังเกตได้จากตารางต่อไปนี้ว่าการสรุปได้รับการปรับปรุงสำหรับชุดข้อมูลทั้งสองชุดเมื่อเราปรับแต่งโมเดลอย่างละเอียด

• ผลลัพธ์สำหรับการปรับแต่งโมเดลการสร้างข้อความ Llama 2 7B บนชุดข้อมูล Dolly:

• ผลลัพธ์สำหรับการปรับแต่งโมเดลการสร้างข้อความ Llama 2 13B บนชุดข้อมูล Dolly:

• ผลลัพธ์สำหรับการปรับแต่งโมเดลการสร้างข้อความ Llama 2 70B บนชุดข้อมูล Dolly:

• ผลลัพธ์สำหรับการปรับแต่งโมเดลการสร้างข้อความ Llama 2 7B บนชุดข้อมูล Dialogsum:

• ผลลัพธ์สำหรับการปรับแต่งโมเดล Llama-2 13B อย่างละเอียดบนชุดข้อมูล Dialogsum:

• ผลลัพธ์สำหรับการปรับแต่งโมเดล Llama 2 70B บนชุดข้อมูล Dialogsum:

การจัดรูปแบบชุดข้อมูล

ขณะนี้เรามีการปรับแต่งอย่างละเอียดสองประเภท: การปรับแต่งคำสั่งอย่างละเอียด และการปรับแต่งการปรับโดเมนอย่างละเอียด คุณสามารถสลับไปใช้วิธีการฝึกอบรมวิธีใดวิธีหนึ่งได้อย่างง่ายดายโดยการระบุพารามิเตอร์ instruction_tuned เช่น 'True' หรือ 'False'

รูปแบบการปรับโดเมน

โมเดลการสร้างข้อความยังสามารถปรับแต่งอย่างละเอียดบนชุดข้อมูลเฉพาะโดเมนใดก็ได้ หลังจากปรับแต่งชุดข้อมูลเฉพาะโดเมนอย่างละเอียดแล้ว โมเดลดังกล่าวคาดว่าจะสร้างข้อความเฉพาะโดเมนและแก้ไขงาน NLP ต่างๆ ในโดเมนเฉพาะนั้นด้วยการแจ้งเตือนเพียงไม่กี่ช็อต

สำหรับการป้อนข้อมูลให้กับโมเดล ให้ใช้ไดเร็กทอรีการฝึกอบรมและการตรวจสอบเพิ่มเติม แต่ละไดเรกทอรีประกอบด้วยไฟล์ CSV, JSON หรือ TXT สำหรับไฟล์ CSV และ JSON ระบบจะใช้ข้อมูลรถไฟหรือการตรวจสอบความถูกต้องจากคอลัมน์ชื่อข้อความ หรือคอลัมน์แรกหากไม่มีคอลัมน์ชื่อ text พบแล้ว จำนวนไฟล์ที่อยู่ภายใต้การฝึกและการตรวจสอบความถูกต้อง (หากระบุ) ควรเท่ากับ 1 ตามลำดับ

ผลลัพธ์คือโมเดลที่ผ่านการฝึกอบรมซึ่งสามารถนำไปใช้เพื่อการอนุมานได้

ต่อไปนี้เป็นตัวอย่างไฟล์ TXT สำหรับการปรับแต่งโมเดลการสร้างข้อความอย่างละเอียด ไฟล์ TXT เป็นการยื่นต่อ SEC ของ Amazon ตั้งแต่ปี 2021–2022:

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions. Forward-looking
statements are based on current expectations and assumptions that are subject
to risks and uncertainties that may cause actual results to differ materially.
We describe risks and uncertainties that could cause actual results and events
to differ materially in “Risk Factors,” “Management’s Discussion and Analysis
of Financial Condition and Results of Operations,” and “Quantitative and
Qualitative Disclosures about Market Risk” (Part II, Item 7A of this Form
10-K). Readers are cautioned not to place undue reliance on forward-looking
statements, which speak only as of the date they are made. We undertake no
obligation to update or revise publicly any forward-looking statements,
whether because of new information, future events, or otherwise. GENERAL Embracing Our Future ...

คำแนะนำการปรับจูน

โมเดลการสร้างข้อความสามารถปรับคำแนะนำกับข้อมูลข้อความใดๆ ก็ได้ โดยที่ข้อมูลอยู่ในรูปแบบที่ต้องการ โมเดลที่ได้รับการปรับแต่งคำสั่งสามารถนำไปใช้เพื่อการอนุมานเพิ่มเติมได้

สำหรับการป้อนข้อมูล ให้ใช้ไดเร็กทอรีการฝึกอบรมและการตรวจสอบเพิ่มเติม ไดเร็กทอรีการรถไฟและการตรวจสอบความถูกต้องควรมีไฟล์ที่จัดรูปแบบบรรทัด JSON (.jsonl) หนึ่งหรือหลายไฟล์ โดยเฉพาะอย่างยิ่ง ไดเร็กทอรีการรถไฟยังสามารถมีไฟล์เสริม *.json ที่อธิบายรูปแบบอินพุตและเอาต์พุต

โมเดลที่ดีที่สุดจะถูกเลือกตามการสูญเสียการตรวจสอบ ซึ่งคำนวณเมื่อสิ้นสุดแต่ละยุค หากไม่ได้รับชุดการตรวจสอบความถูกต้อง เปอร์เซ็นต์ (ที่ปรับได้) ของข้อมูลการฝึกอบรมจะถูกแบ่งและใช้สำหรับการตรวจสอบโดยอัตโนมัติ

ข้อมูลการฝึกจะต้องอยู่ในรูปแบบบรรทัด JSON (.jsonl) โดยแต่ละบรรทัดจะเป็นพจนานุกรมที่แสดงถึงตัวอย่างข้อมูลเดียว ข้อมูลการฝึกอบรมทั้งหมดจะต้องอยู่ในโฟลเดอร์เดียว อย่างไรก็ตาม สามารถบันทึกเป็นไฟล์ .jsonl ได้หลายไฟล์ นามสกุลไฟล์ .jsonl เป็นสิ่งจำเป็น โฟลเดอร์การฝึกอบรมยังสามารถมีไฟล์ template.json ไฟล์อธิบายรูปแบบอินพุตและเอาต์พุต หากไม่มีไฟล์เทมเพลต ระบบจะใช้เทมเพลตต่อไปนี้:

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:n{instruction}nn### Input:n{context}`, "completion": "{response}",
}

ในกรณีนี้ ข้อมูลในรายการบรรทัด JSON ต้องมี prompt และ completion สาขา หากมีการระบุเทมเพลตแบบกำหนดเอง ก็จะต้องใช้เทมเพลตนั้นด้วย prompt และ completion ปุ่มเพื่อกำหนดเทมเพลตอินพุตและเอาต์พุต ต่อไปนี้เป็นตัวอย่างเทมเพลตแบบกำหนดเอง:

{ "prompt": "question: {question} context: {context}", "completion": "{answer}"
}

ในที่นี้ ข้อมูลในรายการบรรทัด JSON จะต้องมี question, contextและ answer เขตข้อมูล

ผลลัพธ์คือโมเดลที่ผ่านการฝึกอบรมซึ่งสามารถนำไปใช้เพื่อการอนุมานได้

เราจัดเตรียมชุดย่อยของข้อมูลการยื่น SEC ของ Amazon มันถูกดาวน์โหลดจากสาธารณะ EDGAR. สำหรับคำแนะนำในการเข้าถึงข้อมูล โปรดดูที่ การเข้าถึงข้อมูล EDGAR.

ใบอนุญาต: ใบอนุญาต Creative Commons Attribution-ShareAlike (CC BY-SA 4.0)

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• PlatoData.Network Vertical Generative Ai เพิ่มพลังให้กับตัวเอง เข้าถึงได้ที่นี่.
• เพลโตไอสตรีม. Web3 อัจฉริยะ ขยายความรู้ เข้าถึงได้ที่นี่.
• เพลโตESG. ยานยนต์ / EVs, คาร์บอน, คลีนเทค, พลังงาน, สิ่งแวดล้อม แสงอาทิตย์, การจัดการของเสีย. เข้าถึงได้ที่นี่.
• เพลโตสุขภาพ เทคโนโลยีชีวภาพและข่าวกรองการทดลองทางคลินิก เข้าถึงได้ที่นี่.
• ChartPrime. ยกระดับเกมการซื้อขายของคุณด้วย ChartPrime เข้าถึงได้ที่นี่.
• BlockOffsets การปรับปรุงการเป็นเจ้าของออฟเซ็ตด้านสิ่งแวดล้อมให้ทันสมัย เข้าถึงได้ที่นี่.
• ที่มา: https://aws.amazon.com/blogs/machine-learning/fine-tune-llama-2-for-text-generation-on-amazon-sagemaker-jumpstart/