โมเดลรองพื้น AI21 Jurassic-1 มีวางจำหน่ายแล้วใน Amazon SageMaker

วันนี้เรารู้สึกตื่นเต้นที่จะประกาศว่ารองพื้นรุ่น AI21 Jurassic-1 (J1) พร้อมให้ลูกค้าใช้งานแล้ว อเมซอน SageMaker. แบบจำลองจูราสสิค-1 มีความหลากหลายสูง สามารถสร้างข้อความได้เหมือนมนุษย์ ตลอดจนแก้ปัญหาที่ซับซ้อน เช่น การตอบคำถาม การจัดหมวดหมู่ข้อความ และอื่นๆ อีกมากมาย คุณสามารถลองใช้โมเดลนี้และใช้งานได้อย่างง่ายดาย Amazon SageMaker JumpStart. JumpStart เป็นฮับการเรียนรู้ของเครื่อง (ML) ของ SageMaker ที่ให้การเข้าถึงโมเดลพื้นฐาน นอกเหนือจากอัลกอริทึมในตัวและเทมเพลตโซลูชันแบบ end-to-end เพื่อช่วยให้คุณเริ่มต้นใช้งาน ML ได้อย่างรวดเร็ว

ในโพสต์นี้ เราจะแนะนำวิธีใช้โมเดล Jurassic-1 Grande ใน SageMaker

โมเดลพื้นฐานใน SageMaker

JumpStart ให้การเข้าถึงโมเดลต่างๆ จากฮับโมเดลยอดนิยม ได้แก่ Hugging Face, PyTorch Hub และ TensorFlow Hub ซึ่งคุณสามารถใช้ภายในเวิร์กโฟลว์การพัฒนา ML ของคุณใน SageMaker ความก้าวหน้าล่าสุดใน ML ได้ก่อให้เกิดโมเดลประเภทใหม่ที่รู้จักกันในชื่อ โมเดลรองพื้นซึ่งโดยปกติแล้วจะได้รับการฝึกอบรมเกี่ยวกับพารามิเตอร์หลายพันล้านรายการและสามารถปรับให้เข้ากับกรณีการใช้งานประเภทต่างๆ มากมาย เช่น การสรุปข้อความ การสร้างงานศิลปะดิจิทัล และการแปลภาษา เนื่องจากโมเดลเหล่านี้มีราคาแพงในการเทรน ลูกค้าจึงต้องการใช้โมเดลพื้นฐานที่ผ่านการฝึกอบรมมาแล้วและปรับแต่งอย่างละเอียดตามต้องการ แทนที่จะฝึกโมเดลเหล่านี้ด้วยตัวเอง SageMaker จัดเตรียมรายการรุ่นที่คัดสรรแล้วซึ่งคุณสามารถเลือกได้จากคอนโซล SageMaker

ตอนนี้คุณสามารถค้นหาโมเดลพื้นฐานจากผู้ให้บริการโมเดลต่างๆ ภายใน JumpStart ได้แล้ว ทำให้คุณเริ่มต้นใช้งานโมเดลพื้นฐานได้อย่างรวดเร็ว คุณสามารถค้นหาโมเดลพื้นฐานตามงานหรือผู้ให้บริการโมเดลต่างๆ และตรวจสอบลักษณะของโมเดลและเงื่อนไขการใช้งานได้อย่างง่ายดาย คุณยังสามารถลองใช้โมเดลเหล่านี้โดยใช้วิดเจ็ตทดสอบ UI เมื่อคุณต้องการใช้โมเดลพื้นฐานตามขนาด คุณสามารถทำได้ง่ายๆ โดยไม่ต้องออกจาก SageMaker โดยใช้โน้ตบุ๊กที่สร้างไว้ล่วงหน้าจากผู้ให้บริการโมเดล เนื่องจากโมเดลได้รับการโฮสต์และปรับใช้บน AWS คุณจึงมั่นใจได้ว่าข้อมูลของคุณ ไม่ว่าจะใช้เพื่อการประเมินหรือใช้โมเดลตามขนาด จะไม่ถูกแชร์กับบุคคลที่สาม

โมเดลรองพื้น Jurassic-1

Jurassic-1 เป็นเจนเนอเรชั่นแรกในชุดโมเดลภาษาขนาดใหญ่ที่ได้รับการฝึกฝนและเข้าถึงได้อย่างกว้างขวางโดย AI21 แล็บ. สำหรับคำอธิบายที่สมบูรณ์ของ Jurassic-1 รวมถึงเกณฑ์มาตรฐานและการเปรียบเทียบเชิงปริมาณกับรุ่นอื่นๆ โปรดดูที่ต่อไปนี้ เอกสารทางเทคนิค. รุ่น J1 ทั้งหมดได้รับการฝึกฝนเกี่ยวกับคลังข้อความภาษาอังกฤษจำนวนมหาศาล ทำให้เป็นเครื่องสร้างข้อความสำหรับวัตถุประสงค์ทั่วไปที่มีความอเนกประสงค์สูง สามารถเขียนข้อความเหมือนมนุษย์และแก้ไขงานที่ซับซ้อน เช่น การตอบคำถาม การจัดหมวดหมู่ข้อความ และอื่นๆ อีกมากมาย J1 สามารถนำไปใช้กับงานภาษาแทบทุกชนิดโดยสร้างพรอมต์ที่เหมาะสมซึ่งมีคำอธิบายของงานและตัวอย่างบางส่วน ซึ่งเป็นกระบวนการที่เรียกกันทั่วไปว่า วิศวกรรมพรอมต์. กรณีการใช้งานยอดนิยม ได้แก่ การสร้างสำเนาการตลาด ขับเคลื่อนแชทบอท และช่วยเหลืองานเขียนเชิงสร้างสรรค์

“เรากำลังสร้างโมเดลพื้นฐานระดับโลกสำหรับข้อความและต้องการช่วยลูกค้าของเราสร้างสรรค์นวัตกรรมด้วยโมเดล Jurassic-1 ล่าสุด Amazon SageMaker เสนอชุดบริการ ML ที่ลึกที่สุดและกว้างที่สุด และเรารู้สึกตื่นเต้นที่จะได้ร่วมมือกับ Amazon SageMaker เพื่อให้ลูกค้าสามารถใช้โมเดลพื้นฐานเหล่านี้บน SageMaker ภายในสภาพแวดล้อมการพัฒนาของตนได้ ตอนนี้ลูกค้าสามารถสร้างสรรค์สิ่งใหม่ๆ ได้อย่างรวดเร็ว ลดระยะเวลาในการสร้างมูลค่า และขับเคลื่อนประสิทธิภาพในธุรกิจของพวกเขา”

-Ori Goshen ซีอีโอร่วมของ AI21 Labs

คำแนะนำแบบ

เราจะพาคุณไปทัวร์เพื่อทดสอบโมเดล J1-Grande ใน SageMaker คุณสามารถทดลองประสบการณ์ได้ในสามขั้นตอนง่ายๆ:

1. เลือกรุ่น Jurassic-1 บนคอนโซล SageMaker
2. ประเมินโมเดลโดยใช้วิดเจ็ตทดสอบ
3. ใช้โน้ตบุ๊กที่เชื่อมโยงกับโมเดลพื้นฐานเพื่อปรับใช้ในสภาพแวดล้อมของคุณ

มาขยายรายละเอียดแต่ละขั้นตอนกัน

เลือกรุ่น Jurassic-1 บนคอนโซล SageMaker

ขั้นตอนแรกคือการเข้าสู่ระบบของ คอนโซลการจัดการ AWS สำหรับ Amazon SageMaker และขอสิทธิ์เข้าถึงรายการโมเดลพื้นฐานจากหมวดหมู่โมเดลพื้นฐานภายใต้ เริ่มกระโดด นี่:

หลังจากที่บัญชีของคุณได้รับอนุญาตให้อยู่ในรายการแล้ว คุณจะเห็นรายการรุ่นต่างๆ ในหน้านี้ คุณสามารถค้นหาโมเดล Jurassic-1 Grande ได้อย่างรวดเร็วจากมุมมองเดียวกัน

ประเมินโมเดล Jurassic-1 Grande ด้วยวิดเจ็ตทดสอบ

ในรายชื่อ Jurassic-1 Grande ให้เลือก ดูโมเดล. คุณจะเห็นคำอธิบายของโมเดลและงานที่คุณสามารถทำได้ อ่าน EULA สำหรับโมเดลก่อนดำเนินการต่อ

ขั้นแรกให้ลองใช้แบบจำลองสำหรับการสรุปข้อความ เลือก ลองแบบ.

ระบบจะนำคุณไปที่หน้าในแท็บเบราว์เซอร์แยกต่างหาก ซึ่งคุณสามารถให้ตัวอย่างข้อความแจ้งแก่รุ่น J1-Grande และดูผลลัพธ์ได้

ตัวอย่างต่อไปนี้สร้างข้อมูลสรุปเกี่ยวกับร้านอาหารตามรีวิว

โปรดทราบว่าโมเดลพื้นฐานและเอาต์พุตมาจากผู้ให้บริการโมเดล และ AWS จะไม่รับผิดชอบต่อเนื้อหาหรือความถูกต้องในนั้น

เอาต์พุตของรุ่นอาจแตกต่างกันไปขึ้นอยู่กับการตั้งค่าและพรอมต์ คุณสามารถสร้างข้อความจากโมเดลโดยใช้คำแนะนำง่ายๆ แต่ด้วยการให้ตัวอย่างเพิ่มเติมแก่โมเดลในพร้อมท์ เหมือนกับที่มนุษย์ทำ สามารถสร้างความสมบูรณ์ที่สอดคล้องกับความตั้งใจของคุณมากขึ้น วิธีที่ดีที่สุดในการแนะนำแบบจำลองคือให้ตัวอย่างหลายคู่ของอินพุต/เอาต์พุตในพรอมต์ สิ่งนี้สร้างรูปแบบสำหรับแบบจำลองที่จะเลียนแบบ จากนั้นเพิ่มอินพุตสำหรับตัวอย่างคิวรีและปล่อยให้โมเดลดำเนินการด้วยการสร้างที่เหมาะสม

หลังจากที่คุณได้เล่นกับโมเดลแล้ว ก็ถึงเวลาที่จะใช้โน้ตบุ๊กและปรับใช้เป็นจุดสิ้นสุดในสภาพแวดล้อมของคุณ

ปรับใช้โมเดลพื้นฐานจากโน้ตบุ๊ก

กลับไปที่รายการรุ่นที่แสดงก่อนหน้านี้แล้วเลือก ดูสมุดบันทึก. คุณควรเห็นสมุดบันทึก Jurassic-1 Grande Jupyter พร้อมคำแนะนำในการปรับใช้โมเดล

มาใช้สมุดบันทึกนี้กันเถอะ สตูดิโอ Amazon SageMaker. เปิด Studio และดึงโน้ตบุ๊กโดยใช้ Git repo URL https://github.com/AI21Labs/SageMaker.git.

ตัวอย่างโน้ตบุ๊กใช้ทั้ง Boto3 SDK และ AI21 SDK เพื่อปรับใช้และโต้ตอบกับปลายทาง

โปรดทราบว่าตัวอย่างนี้ใช้อินสแตนซ์ ml.g5.12xlarge หากขีดจำกัดเริ่มต้นสำหรับบัญชี AWS ของคุณคือ 0 คุณต้องขอเพิ่มขีดจำกัดสำหรับอินสแตนซ์ GPU นี้

มาสร้างจุดสิ้นสุดโดยใช้การอนุมานของ SageMaker อันดับแรก เราตั้งค่าตัวแปรที่จำเป็น จากนั้นจึงปรับใช้โมเดลจากแพ็คเกจโมเดล:

model_name = "j1-grande"

content_type = "application/json"

real_time_inference_instance_type = (
    "ml.g5.12xlarge"
)

# create a deployable model from the model package.
model = ModelPackage(
    role=role, model_package_arn=model_package_arn, sagemaker_session=sagemaker_session
)

# Deploy the model
predictor = model.deploy(1, real_time_inference_instance_type, endpoint_name=model_name, 
                         model_data_download_timeout=3600,
                         container_startup_health_check_timeout=600,
                        )

หลังจากปรับใช้ปลายทางแล้ว คุณสามารถเรียกใช้การสอบถามเชิงอนุมานกับโมเดลได้

คุณสามารถนึกถึง Jurassic-1 Grande เป็นอัลกอริธึมการเติมข้อความอัตโนมัติที่ชาญฉลาด มันดีมากในการยึดคำแนะนำและรูปแบบที่แสดงเป็นภาษาอังกฤษธรรมดา และสร้างข้อความที่เป็นไปตามรูปแบบเดียวกัน หลังจากที่ปรับใช้โมเดลแล้ว คุณสามารถโต้ตอบกับปลายทางที่ปรับใช้ได้โดยใช้ข้อมูลโค้ดต่อไปนี้:

response = ai21.Completion.execute(sm_endpoint="j1-grande",
                                   prompt="To be or",
                                   maxTokens=4,
                                   temperature=0,
                                   numResults=1)

print(response['completions'][0]['data']['text'])

นอกจากนี้ สมุดบันทึกยังมีแนวทางปฏิบัติเกี่ยวกับวิธีเรียกใช้การสืบค้นเชิงอนุมานด้วย AI21 SDK

วิดีโอต่อไปนี้จะแนะนำขั้นตอนการทำงาน

ทำความสะอาด

หลังจากที่คุณทดสอบจุดสิ้นสุดแล้ว ตรวจสอบให้แน่ใจว่าคุณลบจุดสิ้นสุดการอนุมานของ SageMaker และลบแบบจำลองเพื่อหลีกเลี่ยงค่าใช้จ่ายที่เกิดขึ้น

สรุป

ในโพสต์นี้ เราได้แสดงวิธีทดสอบและใช้โมเดล Jurassic Grande ของ AI21 โดยใช้ Amazon SageMaker ขอการเข้าถึง ลองใช้รุ่นรองพื้น ใน SageMaker วันนี้และแจ้งให้เราทราบความคิดเห็นของคุณ!

เกี่ยวกับผู้แต่ง

การ์ธิก ภารตี เป็นผู้นำด้านผลิตภัณฑ์สำหรับทีม Amazon SageMaker ที่มีประสบการณ์ด้านการจัดการผลิตภัณฑ์ กลยุทธ์ผลิตภัณฑ์ การดำเนินการ และการเปิดตัวมากว่าทศวรรษ

โทเมอร์ อาซิดา เป็นหัวหน้าทีมอัลโกที่ AI21 Labs ในฐานะหัวหน้าทีมอัลโก Tomer เป็นหัวหน้าฝ่ายพัฒนาอัลกอริทึมของแพลตฟอร์มผู้พัฒนา Ai21 Studio รวมถึงโมเดล Jurassic-1 และ API ที่เกี่ยวข้อง