مدل پایه AI21 Jurassic-1 اکنون در Amazon SageMaker در دسترس است

امروز ما مشتاقیم اعلام کنیم که مدل های پایه AI21 Jurassic-1 (J1) برای مشتریانی که استفاده می کنند در دسترس هستند. آمازون SageMaker. مدل‌های Jurassic-1 بسیار متنوع هستند و هم می‌توانند متنی شبیه انسان را تولید کنند و هم می‌توانند وظایف پیچیده‌ای مانند پاسخ‌گویی به سؤال، طبقه‌بندی متن و بسیاری موارد دیگر را حل کنند. به راحتی می توانید این مدل را امتحان کنید و از آن استفاده کنید Amazon SageMaker JumpStart. JumpStart مرکز یادگیری ماشینی (ML) SageMaker است که علاوه بر الگوریتم‌های داخلی و الگوهای راه‌حل انتها به انتها، به مدل‌های پایه دسترسی دارد تا به شما کمک کند تا به سرعت با ML شروع کنید.

در این پست به نحوه استفاده از مدل Jurassic-1 Grande در SageMaker می پردازیم.

مدل های پایه در SageMaker

JumpStart دسترسی به طیف وسیعی از مدل‌ها را از هاب‌های مدل محبوب از جمله Hugging Face، PyTorch Hub، و TensorFlow Hub فراهم می‌کند، که می‌توانید در گردش کار توسعه ML خود در SageMaker استفاده کنید. پیشرفت‌های اخیر در ML منجر به پیدایش دسته جدیدی از مدل‌ها شده است که به آن‌ها می‌گویند مدل های پایه، که معمولاً بر روی میلیاردها پارامتر آموزش داده می شوند و با دسته بندی گسترده ای از موارد استفاده مانند خلاصه سازی متن، تولید هنر دیجیتال و ترجمه زبان سازگار هستند. از آنجایی که آموزش این مدل‌ها گران است، مشتریان می‌خواهند به جای آموزش این مدل‌ها، از مدل‌های پایه از پیش آموزش‌دیده موجود استفاده کنند و در صورت نیاز آن‌ها را تنظیم کنند. SageMaker لیستی از مدل‌هایی را ارائه می‌کند که می‌توانید از میان آنها در کنسول SageMaker انتخاب کنید.

اکنون می‌توانید مدل‌های پایه را از ارائه‌دهندگان مدل‌های مختلف در JumpStart پیدا کنید، که به شما امکان می‌دهد به سرعت با مدل‌های فونداسیون شروع کنید. می توانید مدل های پایه را بر اساس وظایف مختلف یا ارائه دهندگان مدل پیدا کنید و به راحتی ویژگی های مدل و شرایط استفاده را بررسی کنید. همچنین می توانید این مدل ها را با استفاده از ویجت UI آزمایشی امتحان کنید. هنگامی که می خواهید از یک مدل پایه در مقیاس استفاده کنید، می توانید این کار را به راحتی بدون ترک SageMaker با استفاده از نوت بوک های از پیش ساخته شده از ارائه دهندگان مدل انجام دهید. از آنجایی که مدل‌ها بر روی AWS میزبانی و مستقر می‌شوند، می‌توانید مطمئن باشید که داده‌های شما، چه برای ارزیابی یا استفاده از مدل در مقیاس استفاده شود، هرگز با اشخاص ثالث به اشتراک گذاشته نمی‌شود.

مدل فونداسیون ژوراسیک-1

Jurassic-1 اولین نسل از یک سری مدل های زبانی بزرگ است که توسط آن آموزش دیده و به طور گسترده در دسترس قرار گرفته است آزمایشگاه های AI21. برای توضیح کامل ژوراسیک-1، از جمله معیارها و مقایسه های کمی با سایر مدل ها، به موارد زیر مراجعه کنید. مقاله فنی. همه مدل‌های J1 بر روی مجموعه عظیمی از متن انگلیسی آموزش داده شده‌اند، و آنها را به تولیدکننده‌های متن با هدف عمومی بسیار همه‌کاره تبدیل می‌کند، قادر به نوشتن متنی شبیه به انسان و حل کارهای پیچیده مانند پاسخ به سؤال، طبقه‌بندی متن و بسیاری موارد دیگر است. J1 را می توان تقریباً برای هر کار زبانی با ایجاد یک اعلان مناسب شامل شرح کار و چند مثال، فرآیندی که معمولاً به عنوان شناخته می شود، اعمال کرد. مهندسی سریع. موارد استفاده پرطرفدار شامل تولید کپی بازاریابی، تقویت ربات‌های گفتگو و کمک به نوشتن خلاق است.

ما در حال ساخت مدل‌های پایه در سطح جهانی برای متن هستیم و می‌خواهیم به مشتریان خود کمک کنیم تا با جدیدترین مدل‌های Jurassic-1 نوآوری کنند. Amazon SageMaker عمیق‌ترین و گسترده‌ترین مجموعه خدمات ML را ارائه می‌دهد و ما از همکاری با Amazon SageMaker خوشحالیم تا مشتریان بتوانند از این مدل‌های پایه در SageMaker در محیط توسعه خود استفاده کنند. اکنون مشتریان می توانند به سرعت نوآوری کنند، زمان به ارزش کمتری داشته باشند و کارایی کسب و کار خود را افزایش دهند.

-اوری گوشن، یکی از مدیران عامل آزمایشگاه AI21.

خرید

بیایید شما را به یک تور برای آزمایش مدل J1-Grande در SageMaker ببریم. می توانید این تجربه را در سه مرحله ساده امتحان کنید:

1. مدل Jurassic-1 را در کنسول SageMaker انتخاب کنید.
2. مدل را با استفاده از ویجت آزمایشی ارزیابی کنید.
3. از یک دفترچه یادداشت مرتبط با مدل پایه برای استقرار آن در محیط خود استفاده کنید.

بیایید هر مرحله را با جزئیات گسترش دهیم.

مدل Jurassic-1 را در کنسول SageMaker انتخاب کنید

اولین قدم ورود به سیستم است کنسول مدیریت AWS برای Amazon SageMaker و درخواست دسترسی به لیست مدل های فونداسیون را از دسته مدل فونداسیون زیر شروع به کار اینجا هستید:

پس از اینکه حساب کاربری شما در لیست مجاز قرار گرفت، می توانید لیستی از مدل ها را در این صفحه مشاهده کنید. می توانید به سرعت مدل Jurassic-1 Grande را از همان نما جستجو کنید.

مدل Jurassic-1 Grande را با یک ویجت آزمایشی ارزیابی کنید

در فهرست Jurassic-1 Grande، را انتخاب کنید مشاهده مدل. شرحی از مدل و وظایفی که می توانید انجام دهید را مشاهده خواهید کرد. قبل از ادامه، EULA را برای مدل بخوانید.

بیایید ابتدا مدل خلاصه سازی متن را امتحان کنیم. انتخاب کنید مدل را امتحان کنید.

شما در یک برگه مرورگر جداگانه به صفحه ای منتقل می شوید که در آن می توانید نمونه دستورات را به مدل J1-Grande بدهید و خروجی را مشاهده کنید.

مثال زیر خلاصه ای از یک رستوران را بر اساس بررسی ها ایجاد می کند.

توجه داشته باشید که مدل های پایه و خروجی آنها از ارائه دهنده مدل است و AWS مسئولیتی در قبال محتوا یا دقت آن ندارد.

خروجی مدل ممکن است بسته به تنظیمات و درخواست متفاوت باشد. می‌توانید با استفاده از دستورالعمل‌های ساده، متنی را از مدل تولید کنید، اما با ارائه نمونه‌های بیشتر به مدل در اعلان، درست مانند یک انسان، می‌تواند تکمیل‌هایی را تولید کند که بیشتر با اهداف شما هماهنگ هستند. بهترین راه برای هدایت مدل ارائه چندین نمونه از جفت ورودی/خروجی در اعلان است. این یک الگو برای تقلید مدل ایجاد می کند. سپس ورودی یک مثال پرس و جو را اضافه کنید و اجازه دهید مدل آن را با یک نسل مناسب تکمیل کند.

بعد از اینکه با مدل بازی کردید، نوبت به استفاده از نوت بوک و استقرار آن به عنوان نقطه پایانی در محیط خود می رسد.

مدل پایه را از یک نوت بوک پیاده کنید

به لیست مدل نشان داده شده قبلی برگردید و انتخاب کنید مشاهده نوت بوک. برای استقرار مدل باید نوت بوک Jurassic-1 Grande Jupyter را ببینید.

بیایید از این نوت بوک استفاده کنیم Amazon SageMaker Studio. استودیو را باز کنید و با استفاده از URL repo Git، نوت بوک را وارد کنید https://github.com/AI21Labs/SageMaker.git.

نمونه نوت بوک از Boto3 SDK و AI21 SDK برای استقرار و تعامل با نقطه پایانی استفاده می کند.

توجه داشته باشید که این مثال از یک نمونه ml.g5.12xlarge استفاده می کند. اگر حد پیش فرض شما برای حساب AWS شما 0 است، باید برای این نمونه GPU درخواست افزایش محدودیت کنید.

بیایید نقطه پایانی را با استفاده از استنتاج SageMaker ایجاد کنیم. ابتدا متغیرهای لازم را تنظیم می کنیم، سپس مدل را از بسته مدل مستقر می کنیم:

model_name = "j1-grande"

content_type = "application/json"

real_time_inference_instance_type = (
    "ml.g5.12xlarge"
)

# create a deployable model from the model package.
model = ModelPackage(
    role=role, model_package_arn=model_package_arn, sagemaker_session=sagemaker_session
)

# Deploy the model
predictor = model.deploy(1, real_time_inference_instance_type, endpoint_name=model_name, 
                         model_data_download_timeout=3600,
                         container_startup_health_check_timeout=600,
                        )

پس از استقرار نقطه پایانی، می توانید پرس و جوهای استنتاج را در برابر مدل اجرا کنید.

شما می توانید Jurassic-1 Grande را به عنوان یک الگوریتم تکمیل خودکار هوشمند در نظر بگیرید: این الگوریتم در اتصال به نکات و الگوهای بیان شده به زبان انگلیسی ساده و ایجاد متنی که از الگوهای یکسانی پیروی می کند بسیار خوب است. پس از استقرار مدل، می توانید با استفاده از قطعه کد زیر با نقطه پایانی مستقر شده تعامل کنید:

response = ai21.Completion.execute(sm_endpoint="j1-grande",
                                   prompt="To be or",
                                   maxTokens=4,
                                   temperature=0,
                                   numResults=1)

print(response['completions'][0]['data']['text'])

این نوت بوک همچنین حاوی توضیحاتی در مورد نحوه اجرای پرس و جوهای استنتاج با AI21 SDK است.

ویدئوی زیر روند کار را نشان می دهد.

پاک کردن

پس از اینکه نقطه پایانی را آزمایش کردید، مطمئن شوید که نقطه پایانی استنتاج SageMaker را حذف کرده و مدل را حذف کرده اید تا از تحمیل هزینه جلوگیری کنید.

نتیجه

در این پست به شما نشان دادیم که چگونه می توانید مدل Jurassic Grande AI21 را با استفاده از Amazon SageMaker تست و استفاده کنید. درخواست دسترسی، مدل پایه را امتحان کنید امروز در SageMaker و نظرات خود را با ما در میان بگذارید!

درباره نویسندگان

کارتیک بهاراتی رهبر محصول تیم آمازون SageMaker با بیش از یک دهه مدیریت محصول، استراتژی محصول، اجرا و تجربه راه اندازی است.

تومر آسیدا سرپرست تیم algo در آزمایشگاه AI21 است. تومر به عنوان سرپرست تیم الگوریتم، تلاش‌های توسعه الگوریتم پلتفرم توسعه‌دهنده ما استودیو Ai21 شامل مدل‌های Jurassic-1 و APIهای مرتبط را بر عهده دارد.