Cohere นำภาษา AI มาสู่ Amazon SageMaker

นี่คือแขกโพสต์โดย Sudip Roy ผู้จัดการฝ่ายเทคนิคของ Cohere

เป็นวันที่น่าตื่นเต้นสำหรับชุมชนนักพัฒนา AI ภาษาที่ล้ำสมัยของ Cohere พร้อมใช้งานแล้วผ่าน อเมซอน SageMaker. สิ่งนี้ทำให้ง่ายขึ้นสำหรับนักพัฒนาในการปรับใช้ Cohere ที่ได้รับการฝึกอบรมล่วงหน้า แบบจำลองภาษารุ่น ไปยัง อเมซอน SageMakerซึ่งเป็นบริการแมชชีนเลิร์นนิง (ML) แบบครบวงจร นักพัฒนา นักวิทยาศาสตร์ข้อมูล และนักวิเคราะห์ธุรกิจใช้ Amazon SageMaker เพื่อสร้าง ฝึกฝน และปรับใช้โมเดล ML อย่างรวดเร็วและง่ายดายโดยใช้โครงสร้างพื้นฐาน เครื่องมือ และเวิร์กโฟลว์ที่มีการจัดการเต็มรูปแบบ

ที่ Cohere ให้ความสำคัญกับภาษา พันธกิจของบริษัทคือการช่วยให้นักพัฒนาและธุรกิจสามารถเพิ่มภาษา AI ในกลุ่มเทคโนโลยีของตน และสร้างแอปพลิเคชันที่เปลี่ยนแปลงเกมด้วย AI Cohere ช่วยให้นักพัฒนาและธุรกิจทำงานต่างๆ โดยอัตโนมัติ เช่น การเขียนคำโฆษณา การจดจำเอนทิตีที่มีชื่อ การถอดความ การสรุปข้อความ และการจัดหมวดหมู่ บริษัทสร้างและปรับปรุงโมเดลภาษาขนาดใหญ่สำหรับวัตถุประสงค์ทั่วไป (LLM) อย่างต่อเนื่อง ทำให้เข้าถึงได้ผ่านแพลตฟอร์มที่ใช้งานง่าย บริษัทต่างๆ สามารถใช้โมเดลนอกกรอบหรือปรับแต่งให้ตรงกับความต้องการเฉพาะของตนได้โดยใช้ข้อมูลที่กำหนดเอง

นักพัฒนาที่ใช้ SageMaker จะสามารถเข้าถึงโมเดลภาษารุ่นกลางของ Cohere โมเดลรุ่นกลางเป็นเลิศในงานที่ต้องการการตอบสนองอย่างรวดเร็ว เช่น การตอบคำถาม การเขียนคำโฆษณา หรือการถอดความ มีการปรับใช้โมเดลขนาดกลางในคอนเทนเนอร์ที่ช่วยให้การอนุมานมีเวลาแฝงต่ำในชุดตัวเร่งความเร็วฮาร์ดแวร์ที่หลากหลายที่มีอยู่บน AWS ซึ่งให้ข้อได้เปรียบด้านต้นทุนและประสิทธิภาพที่แตกต่างกันสำหรับลูกค้า SageMaker

“Amazon SageMaker มอบชุดบริการที่กว้างขวางและครอบคลุมที่สุด ซึ่งช่วยขจัดภาระหนักออกจากแต่ละขั้นตอนของกระบวนการแมชชีนเลิร์นนิง เราตื่นเต้นที่จะนำเสนอโมเดลภาษาขนาดใหญ่สำหรับวัตถุประสงค์ทั่วไปของ Cohere กับ Amazon SageMaker ลูกค้าร่วมของเราสามารถใช้ประโยชน์จากบริการ Amazon SageMaker ที่หลากหลายและผสานรวมโมเดลของ Cohere เข้ากับแอปพลิเคชันของพวกเขาเพื่อเร่งเวลาให้เกิดมูลค่าและนวัตกรรมที่รวดเร็วขึ้น”

-Rajneesh Singh ผู้จัดการทั่วไป AI/ML ที่ Amazon Web Services

“ในขณะที่ Cohere ขยายขอบเขตของภาษา AI อย่างต่อเนื่อง เรารู้สึกตื่นเต้นที่ได้ร่วมงานกับ Amazon SageMaker ความร่วมมือครั้งนี้จะช่วยให้เราสามารถนำเทคโนโลยีขั้นสูงและแนวทางที่เป็นนวัตกรรมของเราไปสู่ผู้ชมที่กว้างขึ้น ช่วยให้นักพัฒนาและองค์กรต่างๆ ทั่วโลกสามารถควบคุมพลังของภาษา AI และเป็นผู้นำในตลาดที่มีการแข่งขันสูงขึ้น”

-Saurabh Baji รองประธานอาวุโสฝ่ายวิศวกรรมของ Cohere

โมเดลภาษา Cohere Medium ที่มีให้บริการผ่าน SageMaker ช่วยให้นักพัฒนาได้รับประโยชน์หลักสามประการ:

• สร้าง ทำซ้ำ และปรับใช้อย่างรวดเร็ว - Cohere มอบอำนาจให้นักพัฒนาทุกคน (ไม่จำเป็นต้องมีความเชี่ยวชาญด้าน NLP, ML หรือ AI) เพื่อเข้าถึงโมเดลเจเนอเรชันที่ล้ำสมัยที่ได้รับการฝึกฝนไว้ล่วงหน้าได้อย่างรวดเร็ว ซึ่งเข้าใจบริบทและความหมายในระดับที่ไม่เคยมีมาก่อน โมเดลภาษาขนาดใหญ่คุณภาพสูงนี้ช่วยลดเวลาสู่มูลค่าสำหรับลูกค้าโดยมอบโซลูชันที่พร้อมใช้งานทันทีสำหรับงานทำความเข้าใจภาษาที่หลากหลาย
• เป็นส่วนตัวและปลอดภัย – ด้วย SageMaker ลูกค้าสามารถหมุนคอนเทนเนอร์ที่ให้บริการโมเดลของ Cohere โดยไม่ต้องกังวลว่าข้อมูลจะออกจากคอนเทนเนอร์ที่จัดการด้วยตนเองเหล่านี้
• ความเร็วและความแม่นยำ - โมเดลขนาดกลางของ Cohere ช่วยให้ลูกค้ามีความสมดุลที่ดีในด้านคุณภาพ ต้นทุน และเวลาแฝง นักพัฒนาสามารถรวมจุดสิ้นสุด Cohere Generate เข้ากับแอพได้อย่างง่ายดายโดยใช้ API และ SDK ที่เรียบง่าย

เริ่มต้นใช้งาน Cohere ใน SageMaker

นักพัฒนาสามารถใช้อินเทอร์เฟซแบบภาพของโมเดลพื้นฐาน SageMaker JumpStart เพื่อทดสอบโมเดลของ Cohere โดยไม่ต้องเขียนโค้ดแม้แต่บรรทัดเดียว คุณสามารถประเมินแบบจำลองในงานทำความเข้าใจภาษาเฉพาะของคุณ และเรียนรู้พื้นฐานของการใช้แบบจำลองภาษาเชิงกำเนิด ดูของ Cohere เอกสาร และ บล็อก สำหรับบทช่วยสอนและเคล็ดลับต่างๆ ที่เกี่ยวข้องกับการสร้างแบบจำลองภาษา

ปรับใช้ตำแหน่งข้อมูล SageMaker โดยใช้โน้ตบุ๊ก

Cohere ได้จัดทำแพ็คเกจโมเดลขนาดกลางพร้อมกับเฟรมเวิร์กการอนุมานที่มีเวลาแฝงต่ำที่ปรับให้เหมาะสม ในคอนเทนเนอร์ที่สามารถปรับใช้เป็นจุดสิ้นสุดการอนุมานของ SageMaker คอนเทนเนอร์ของ Cohere สามารถนำไปใช้กับอินสแตนซ์ต่างๆ ได้หลากหลาย (รวมถึง ml.p3.2xlarge, ml.g5.xlarge และ ml.g5.2xlarge) ซึ่งให้การแลกเปลี่ยนต้นทุน/ประสิทธิภาพที่แตกต่างกัน ขณะนี้คอนเทนเนอร์เหล่านี้มีให้บริการในสองภูมิภาค: us-east-1 และ eu-west-1. Cohere ตั้งใจที่จะขยายข้อเสนอในอนาคตอันใกล้ รวมถึงการเพิ่มจำนวนและขนาดของโมเดลที่มี ชุดของงานที่รองรับ (เช่น จุดสิ้นสุดที่สร้างขึ้นบนโมเดลเหล่านี้) อินสแตนซ์ที่รองรับ และภูมิภาคที่พร้อมใช้งาน

เพื่อช่วยให้นักพัฒนาสามารถเริ่มต้นได้อย่างรวดเร็ว Cohere ได้จัดเตรียมไว้ให้ โน๊ตบุ๊ค Jupyter ซึ่งทำให้ง่ายต่อการปรับใช้คอนเทนเนอร์เหล่านี้และเรียกใช้การอนุมานบนจุดสิ้นสุดที่ปรับใช้ ด้วยชุดค่าคงที่ที่กำหนดค่าไว้ล่วงหน้าในโน้ตบุ๊ก การปรับใช้จุดสิ้นสุดสามารถทำได้ง่ายด้วยโค้ดเพียงไม่กี่บรรทัดดังที่แสดงในตัวอย่างต่อไปนี้:

หลังจากปรับใช้จุดสิ้นสุดแล้ว ผู้ใช้สามารถใช้ SDK ของ Cohere เพื่อเรียกใช้การอนุมาน สามารถติดตั้ง SDK ได้ง่ายๆ จาก PyPI ดังนี้:

นอกจากนี้ยังสามารถติดตั้งได้จากซอร์สโค้ดใน Cohere's ที่เก็บ SDK GitHub สาธารณะ.

หลังจากปรับใช้จุดสิ้นสุดแล้ว ผู้ใช้สามารถใช้จุดสิ้นสุด Cohere Generate เพื่อทำงานเชิงสร้างหลายอย่างให้สำเร็จ เช่น การสรุปข้อความ การสร้างเนื้อหาแบบยาว การแยกเอนทิตี หรือการเขียนคำโฆษณา สมุดบันทึก Jupyter และที่เก็บ GitHub มีตัวอย่างที่แสดงให้เห็นถึงกรณีการใช้งานบางส่วนเหล่านี้

สรุป

ความพร้อมใช้งานของ Cohere บน SageMaker ผ่านทาง AWS Marketplace ถือเป็นความสำเร็จครั้งสำคัญในด้าน NLP ความสามารถของโมเดล Cohere ในการสร้างข้อความคุณภาพสูงที่สอดคล้องกันทำให้เป็นเครื่องมือที่มีค่าสำหรับทุกคนที่ทำงานกับข้อมูลข้อความ

หากคุณสนใจที่จะใช้ Cohere สำหรับโครงการ SageMaker ของคุณเอง ตอนนี้คุณสามารถเข้าถึงได้บน SageMaker JumpStart. นอกจากนี้ คุณสามารถอ้างอิงของ Cohere โน๊ตบุ๊ค GitHub สำหรับคำแนะนำในการปรับใช้โมเดลและการเข้าถึงจาก Cohere สร้างจุดสิ้นสุด.

---

เกี่ยวกับผู้แต่ง

สุดยอดรอย เป็นผู้จัดการฝ่ายเทคนิคของ Cohere ซึ่งเป็นผู้ให้บริการเทคโนโลยีการประมวลผลภาษาธรรมชาติ (NLP) ที่ทันสมัย Sudip เป็นนักวิจัยที่ประสบความสำเร็จซึ่งเคยเผยแพร่และทำหน้าที่ในคณะกรรมการโครงการสำหรับการประชุมชั้นนำ เช่น NeurIPS, MLSys, OOPSLA, SIGMOD, VLDB และ SIGKDD และผลงานของเขาได้รับรางวัลกระดาษดีเด่นจาก SIGMOD และ MLSys

การ์ธิก ภารตี เป็นผู้นำด้านผลิตภัณฑ์สำหรับทีม Amazon SageMaker ที่มีประสบการณ์ด้านการจัดการผลิตภัณฑ์ กลยุทธ์ผลิตภัณฑ์ การดำเนินการ และการเปิดตัวมากว่าทศวรรษ

คาร์ล อัลเบิร์ตเซ่น เป็นผู้นำด้านผลิตภัณฑ์ วิศวกรรม และวิทยาศาสตร์สำหรับ Amazon SageMaker Algorithms และ JumpStart ซึ่งเป็นฮับแมชชีนเลิร์นนิงของ SageMaker เขาหลงใหลเกี่ยวกับการใช้แมชชีนเลิร์นนิงเพื่อปลดล็อกมูลค่าทางธุรกิจ

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• เพลโตบล็อคเชน Web3 Metaverse ข่าวกรอง ขยายความรู้. เข้าถึงได้ที่นี่.
• ที่มา: https://aws.amazon.com/blogs/machine-learning/cohere-brings-language-ai-to-amazon-sagemaker/