نماذج الطاقة الشمسية من Upstage متاحة الآن في Amazon SageMaker JumpStart | خدمات الويب الأمازون

تمت كتابة منشور المدونة هذا بالاشتراك مع Hwalsuk Lee في Upstage.

اليوم، يسعدنا أن نعلن أن الطاقة الشمسية نموذج الأساس الذي طورته Upstage متاح الآن للعملاء الذين يستخدمون أمازون سيج ميكر جومب ستارت. Solar عبارة عن نموذج لغة كبير (LLM) تم تدريبه مسبقًا بنسبة 100٪ الأمازون SageMaker يتفوق في الأداء ويستخدم حجمه الصغير وسجلات المسار القوية للتخصص في التدريب على الأغراض، مما يجعله متعدد الاستخدامات عبر اللغات والمجالات والمهام.

يمكنك الآن استخدام ملف الدردشة الشمسية البسيطة و الدردشة الشمسية الصغيرة – الكمية النماذج المُدربة مسبقًا داخل SageMaker JumpStart. SageMaker JumpStart هو مركز التعلم الآلي (ML) الخاص بـ SageMaker والذي يوفر الوصول إلى النماذج الأساسية بالإضافة إلى الخوارزميات المضمنة لمساعدتك على البدء بسرعة في استخدام ML.

في هذا المنشور، سنتعرف على كيفية اكتشاف نموذج الطاقة الشمسية ونشره عبر SageMaker JumpStart.

ما هو النموذج الشمسي؟

يعد Solar نموذجًا مدمجًا وقويًا للغتين الإنجليزية والكورية. وقد تم ضبطه خصيصًا لأغراض الدردشة متعددة الأدوار، مما يوضح الأداء المحسن عبر مجموعة واسعة من مهام معالجة اللغة الطبيعية.

يعتمد نموذج Solar Mini Chat على الطاقة الشمسية 10.7 ب، مع 32 طبقة اللاما 2 الهيكل، وتهيئته بأوزان مدربة مسبقًا من ميسترال 7 ب متوافق مع بنية Llama 2. ويزوده هذا الضبط الدقيق بالقدرة على التعامل مع المحادثات الممتدة بشكل أكثر فعالية، مما يجعله بارعًا بشكل خاص في التطبيقات التفاعلية. ويستخدم طريقة التحجيم تسمى توسيع نطاق العمق (DUS)، والذي يتكون من التوسع الحكيم والتدريب المسبق المستمر. يسمح DUS بتوسيع أكثر وضوحًا وفعالية للنماذج الأصغر من طرق القياس الأخرى مثل خليط من الخبراء (وزارة التربية والتعليم).

في ديسمبر 2023، أحدث نموذج Solar 10.7B ضجة كبيرة بوصوله إلى قمة العالم افتح لوحة المتصدرين LLM من احتضان الوجه. باستخدام معلمات أقل بشكل ملحوظ، يقدم Solar 10.7B استجابات مماثلة لـ GPT-3.5، ولكنها أسرع 2.5 مرة. إلى جانب تصدره قائمة Open LLM Leaderboard، يتفوق Solar 10.7B على GPT-4 بنماذج مدربة خصيصًا في مجالات ومهام معينة.

ويوضح الشكل التالي بعض هذه المقاييس:

باستخدام SageMaker JumpStart، يمكنك نشر نماذج مدربة مسبقًا تعتمد على Solar 10.7B: Solar Mini Chat وإصدار كمي من Solar Mini Chat، المُحسّن لتطبيقات الدردشة باللغتين الإنجليزية والكورية. يوفر نموذج Solar Mini Chat فهمًا متقدمًا للفروق الدقيقة في اللغة الكورية، مما يرفع مستوى تفاعلات المستخدم بشكل كبير في بيئات الدردشة. فهو يوفر استجابات دقيقة لمدخلات المستخدم، مما يضمن اتصالات أكثر وضوحًا وحل المشكلات بشكل أكثر كفاءة في تطبيقات الدردشة الإنجليزية والكورية.

ابدأ مع نماذج الطاقة الشمسية في SageMaker JumpStart

للبدء في استخدام نماذج Solar، يمكنك استخدام SageMaker JumpStart، وهي خدمة مركزية لتعلم الآلة مُدارة بالكامل لنشر نماذج تعلم الآلة المعدة مسبقًا في بيئة مستضافة جاهزة للإنتاج. يمكنك الوصول إلى نماذج الطاقة الشمسية من خلال SageMaker JumpStart في أمازون ساجميكر ستوديو، بيئة تطوير متكاملة (IDE) قائمة على الويب حيث يمكنك الوصول إلى الأدوات المصممة لهذا الغرض لتنفيذ جميع خطوات تطوير تعلم الآلة، بدءًا من إعداد البيانات وحتى إنشاء نماذج تعلم الآلة والتدريب عليها ونشرها.

في وحدة تحكم SageMaker Studio ، اختر بداية القفز في جزء التنقل. يمكنك إدخال كلمة "solar" في شريط البحث للعثور على نماذج Upstage الشمسية.

دعونا ننشر نموذج Solar Mini Chat – Quant. اختر بطاقة النموذج لعرض تفاصيل حول النموذج مثل الترخيص والبيانات المستخدمة للتدريب وكيفية استخدام النموذج. سوف تجد أيضا أ نشر الخيار، الذي ينقلك إلى الصفحة المقصودة حيث يمكنك اختبار الاستدلال باستخدام مثال للحمولة.

يتطلب هذا النموذج سوق AWS الاشتراك. إذا كنت قد اشتركت بالفعل في هذا النموذج، وتمت الموافقة على استخدام المنتج، فيمكنك نشر النموذج مباشرة.

إذا لم تكن قد اشتركت في هذا النموذج، فاختر اشتراك، انتقل إلى AWS Marketplace، وراجع شروط التسعير واتفاقية ترخيص المستخدم النهائي (EULA)، واختر اقبل العرض.

بعد اشتراكك في النموذج، يمكنك نشر النموذج الخاص بك إلى نقطة نهاية SageMaker عن طريق تحديد موارد النشر، مثل نوع المثيل وعدد المثيلات الأولي. يختار نشر وانتظر حتى يتم إنشاء نقطة النهاية لاستدلال النموذج. يمكنك تحديد ml.g5.2xlarge على سبيل المثال كخيار أرخص للاستدلال على النموذج الشمسي.

عندما يتم إنشاء نقطة نهاية SageMaker الخاصة بك بنجاح، يمكنك اختبارها من خلال بيئات تطبيق SageMaker المتنوعة.

قم بتشغيل التعليمات البرمجية الخاصة بك لنماذج الطاقة الشمسية في SageMaker Studio JupyterLab

يدعم SageMaker Studio بيئات تطوير التطبيقات المختلفة، بما في ذلك JupyterLab، وهي مجموعة من الإمكانات التي تعمل على زيادة عروض أجهزة الكمبيوتر المحمولة المُدارة بالكامل. يتضمن النواة التي تبدأ في ثوانٍ، ووقت تشغيل تم تكوينه مسبقًا مع علم البيانات الشائع، وأطر تعلم الآلة، وتخزين الكتل الخاصة عالية الأداء. لمزيد من المعلومات، راجع سيج ميكر JupyterLab.

قم بإنشاء مساحة JupyterLab داخل SageMaker Studio التي تدير موارد التخزين والحوسبة اللازمة لتشغيل تطبيق JupyterLab.

يمكنك العثور على الكود الذي يوضح نشر نماذج الطاقة الشمسية على SageMaker JumpStart ومثال لكيفية استخدام النموذج المنشور في جيثب ريبو. يمكنك الآن نشر النموذج باستخدام SageMaker JumpStart. يستخدم التعليمة البرمجية التالية المثيل الافتراضي ml.g5.2xlarge لنقطة نهاية استدلال النموذج الكمي Solar Mini Chat.

تدعم نماذج الطاقة الشمسية حمولة الطلب/الاستجابة المتوافقة مع نقطة نهاية إكمال الدردشة في OpenAI. يمكنك اختبار أمثلة الدردشة ذات المنعطف الفردي أو المتعدد باستخدام Python.

# Get a SageMaker endpoint
sagemaker_runtime = boto3.client("sagemaker-runtime")
endpoint_name = sagemaker.utils.name_from_base(model_name)

# Multi-turn chat prompt example
input = {
    "messages": [
      {
        "role": "system",
        "content": "You are a helpful assistant."
      },
      {
        "role": "user",
        "content": "Can you provide a Python script to merge two sorted lists?"
      },
      {
        "role": "assistant",
        "content": """Sure, here is a Python script to merge two sorted lists:

                    ```python
                    def merge_lists(list1, list2):
                        return sorted(list1 + list2)
                    ```
                    """
      },
      {
        "role": "user",
        "content": "Can you provide an example of how to use this function?"
      }
    ]
}

# Get response from the model
response = sagemaker_runtime.invoke_endpoint(EndpointName=endpoint_name, ContentType='application/json', Body=json.dumps (input))
result = json.loads(response['Body'].read().decode())
print result

لقد نجحت في إجراء استنتاج في الوقت الفعلي باستخدام نموذج Solar Mini Chat.

تنظيف

بعد اختبار نقطة النهاية، احذف نقطة نهاية استنتاج SageMaker واحذف النموذج لتجنب تكبد الرسوم.

يمكنك أيضًا تشغيل التعليمات البرمجية التالية لحذف نقطة النهاية والوضع في دفتر ملاحظات SageMaker Studio JupyterLab:

# Delete the endpoint 
model.sagemaker_session.delete_endpoint(endpoint_name)
model.sagemaker_session.delete_endpoint_config(endpoint_name)

# Delete the model
model.delete_model()

لمزيد من المعلومات، راجع حذف نقاط النهاية والموارد. بالإضافة إلى ذلك ، يمكنك ذلك قم بإيقاف تشغيل موارد SageMaker Studio التي لم تعد مطلوبة.

وفي الختام

في هذا المنشور، أوضحنا لك كيفية البدء باستخدام نماذج Upstage's Solar في SageMaker Studio ونشر النموذج للاستدلال. لقد أظهرنا لك أيضًا كيف يمكنك تشغيل نموذج التعليمات البرمجية لـ Python الخاص بك على SageMaker Studio JupyterLab.

نظرًا لأن نماذج الطاقة الشمسية تم تدريبها مسبقًا بالفعل، فيمكنها المساعدة في خفض تكاليف التدريب والبنية التحتية وتمكين التخصيص لتطبيقات الذكاء الاصطناعي التوليدية لديك.

جربه على وحدة تحكم SageMaker JumpStart or وحدة تحكم SageMaker Studio! كما يمكنكم مشاهدة الفيديو التالي جرب "Solar" مع Amazon SageMaker.

هذا التوجيه هو لأغراض إعلامية فقط. لا يزال يتعين عليك إجراء تقييمك المستقل، واتخاذ التدابير اللازمة لضمان امتثالك لممارسات ومعايير مراقبة الجودة المحددة الخاصة بك، والقواعد والقوانين واللوائح والتراخيص وشروط الاستخدام المحلية التي تنطبق عليك وعلى المحتوى الخاص بك، ونموذج الطرف الثالث المشار إليه في هذا التوجيه. ليس لدى AWS أي سيطرة أو سلطة على نموذج الطرف الثالث المشار إليه في هذا التوجيه، ولا تقدم أي تعهدات أو ضمانات بأن نموذج الطرف الثالث آمن أو خالي من الفيروسات أو تشغيلي أو متوافق مع بيئة ومعايير الإنتاج الخاصة بك. لا تقدم AWS أي إقرارات أو ضمانات أو ضمانات بأن أي معلومات واردة في هذا التوجيه ستؤدي إلى نتيجة أو نتيجة معينة.

---

حول المؤلف

تشاني يون هو محامي المطورين الرئيسيين في AWS، وهو متحمس لمساعدة المطورين في بناء تطبيقات حديثة على أحدث خدمات AWS. إنه مطور عملي ومدون في القلب، ويحب التعلم القائم على المجتمع ومشاركة التكنولوجيا.

هوالسوك لي هو كبير مسؤولي التكنولوجيا (CTO) في Upstage. وقد عمل لدى Samsung Techwin وNCSOFT وNaver كباحث في مجال الذكاء الاصطناعي. وهو يسعى للحصول على درجة الدكتوراه في هندسة الكمبيوتر والهندسة الكهربائية في المعهد الكوري المتقدم للعلوم والتكنولوجيا (KAIST).

براندون لي هو أحد كبار مهندسي الحلول في AWS، ويساعد بشكل أساسي عملاء التكنولوجيا التعليمية الكبار في القطاع العام. يتمتع بخبرة تزيد عن 20 عامًا في قيادة تطوير التطبيقات في الشركات العالمية والشركات الكبيرة.

• محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
• PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
• أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
• أفلاطون كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
• أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
• المصدر https://aws.amazon.com/blogs/machine-learning/solar-models-from-upstage-are-now-available-in-amazon-sagemaker-jumpstart/