Amazon SageMaker JumpStart کا استعمال کرتے ہوئے بغیر انٹرنیٹ کنیکٹیویٹی کے VPC موڈ میں جنریٹو AI فاؤنڈیشن ماڈلز کا استعمال کریں | ایمیزون ویب سروسز

میں حالیہ پیشرفت کے ساتھ پیدا کرنے والا AIمخصوص کاروباری مسائل کو حل کرنے کے لیے مختلف صنعتوں میں جنریٹو AI کو کس طرح استعمال کیا جائے اس پر بہت سی بات چیت ہو رہی ہے۔ جنریٹو AI AI کی ایک قسم ہے جو نئے مواد اور خیالات بنا سکتی ہے، بشمول گفتگو، کہانیاں، تصاویر، ویڈیوز اور موسیقی۔ یہ سب بہت بڑے ماڈلز کی حمایت یافتہ ہے جو کہ بہت زیادہ ڈیٹا پر پہلے سے تربیت یافتہ ہیں اور عام طور پر کہا جاتا ہے۔ فاؤنڈیشن ماڈل (FMs). یہ ایف ایم کاموں کی ایک وسیع رینج انجام دے سکتے ہیں جو متعدد ڈومینز پر محیط ہیں، جیسے بلاگ پوسٹ لکھنا، تصاویر بنانا، ریاضی کے مسائل حل کرنا، ڈائیلاگ میں مشغول ہونا، اور دستاویز کی بنیاد پر سوالات کے جواب دینا۔ FMs کا سائز اور عمومی مقصد کی نوعیت انہیں روایتی ML ماڈلز سے مختلف بناتی ہے، جو عام طور پر مخصوص کام انجام دیتے ہیں، جیسے جذبات کے لیے متن کا تجزیہ کرنا، تصاویر کی درجہ بندی کرنا، اور رجحانات کی پیشن گوئی کرنا۔

جب کہ تنظیمیں ان FMs کی طاقت کو استعمال کرنے کی کوشش کر رہی ہیں، وہ یہ بھی چاہتی ہیں کہ FM پر مبنی حل ان کے اپنے محفوظ ماحول میں چل رہے ہوں۔ عالمی مالیاتی خدمات اور صحت کی دیکھ بھال اور لائف سائنسز جیسے بہت زیادہ ریگولیٹڈ جگہوں پر کام کرنے والی تنظیمیں اپنے ماحول کو اپنے VPCs میں چلانے کے لیے سمعی اور تعمیل کے تقاضے رکھتی ہیں۔ درحقیقت، اکثر اوقات، ان ماحول میں براہ راست انٹرنیٹ تک رسائی کو بھی غیر فعال کر دیا جاتا ہے تاکہ کسی بھی غیر ارادی ٹریفک، داخل ہونے اور باہر نکلنے دونوں سے بچنے کے لیے۔

ایمیزون سیج میکر جمپ اسٹارٹ الگورتھم، ماڈلز اور ایم ایل حل پیش کرنے والا ایک ML مرکز ہے۔ SageMaker JumpStart کے ساتھ، ML پریکٹیشنرز بہترین کارکردگی کا مظاہرہ کرنے والے اوپن سورس FMs کی بڑھتی ہوئی فہرست میں سے انتخاب کر سکتے ہیں۔ یہ ان ماڈلز کو آپ کے اپنے میں تعینات کرنے کی صلاحیت بھی فراہم کرتا ہے۔ ورچوئل پرائیویٹ کلاؤڈ (VPC).

اس پوسٹ میں، ہم دکھاتے ہیں کہ جمپ سٹارٹ کو کیسے استعمال کرنا ہے a Flan-T5 XXL انٹرنیٹ کنیکٹیویٹی کے بغیر VPC میں ماڈل۔ ہم مندرجہ ذیل موضوعات پر بحث کرتے ہیں:

• انٹرنیٹ تک رسائی کے بغیر VPC میں SageMaker JumpStart کا استعمال کرتے ہوئے فاؤنڈیشن ماڈل کو کیسے تعینات کیا جائے۔
• وی پی سی موڈ میں سیج میکر جمپ سٹارٹ ماڈلز کے ذریعے ایف ایم کی تعیناتی کے فوائد
• جمپ اسٹارٹ کے ذریعے فاؤنڈیشن ماڈلز کی تعیناتی کو اپنی مرضی کے مطابق کرنے کے متبادل طریقے

FLAN-T5 XXL کے علاوہ، JumpStart مختلف کاموں کے لیے بہت سے مختلف فاؤنڈیشن ماڈل فراہم کرتا ہے۔ مکمل فہرست کے لیے، چیک آؤٹ کریں۔ ایمیزون سیج میکر جمپ اسٹارٹ کے ساتھ شروع کرنا.

حل جائزہ

حل کے حصے کے طور پر، ہم درج ذیل مراحل کا احاطہ کرتے ہیں:

1. بغیر انٹرنیٹ کنکشن کے ایک VPC سیٹ اپ کریں۔
2. قائم ایمیزون سیج میکر اسٹوڈیو وی پی سی کا استعمال کرتے ہوئے جو ہم نے بنایا ہے۔
3. انٹرنیٹ تک رسائی کے بغیر VPC میں JumpStart کا استعمال کرتے ہوئے جنریٹو AI Flan T5-XXL فاؤنڈیشن ماڈل لگائیں۔

ذیل میں حل کا ایک آرکیٹیکچر ڈایاگرام ہے۔

آئیے اس حل کو نافذ کرنے کے لیے مختلف مراحل سے گزرتے ہیں۔

شرائط

اس پوسٹ کے ساتھ پیروی کرنے کے لیے، آپ کو درج ذیل کی ضرورت ہے:

بغیر انٹرنیٹ کنکشن کے ایک VPC سیٹ اپ کریں۔

ایک نیا CloudFormation اسٹیک بنائیں استعمال کرتے ہوئے 01_networking.yaml سانچے. یہ ٹیمپلیٹ ایک نیا VPC بناتا ہے اور بغیر انٹرنیٹ کنیکٹیویٹی کے دو دستیابی زونز میں دو پرائیویٹ سب نیٹس کا اضافہ کرتا ہے۔ اس کے بعد یہ رسائی کے لیے گیٹ وے VPC اینڈ پوائنٹس کو تعینات کرتا ہے۔ ایمیزون سادہ اسٹوریج سروس (Amazon S3) اور SageMaker اور چند دیگر سروسز کے لیے انٹرفیس VPC اینڈ پوائنٹس تاکہ VPC میں موجود وسائل کو AWS سروسز کے ذریعے منسلک کرنے کی اجازت دی جا سکے۔ AWS پرائیویٹ لنک.

اسٹیک کا نام فراہم کریں، جیسے No-Internet، اور اسٹیک بنانے کا عمل مکمل کریں۔

یہ حل زیادہ دستیاب نہیں ہے کیونکہ CloudFormation ٹیمپلیٹ انٹرفیس VPC اینڈ پوائنٹس صرف ایک سب نیٹ میں تخلیق کرتا ہے تاکہ اس پوسٹ میں درج مراحل پر عمل کرتے وقت لاگت کو کم کیا جا سکے۔

VPC کا استعمال کرتے ہوئے سٹوڈیو قائم کریں۔

کا استعمال کرتے ہوئے ایک اور CloudFormation اسٹیک بنائیں 02_sagemaker_studio.yaml، جو ایک اسٹوڈیو ڈومین، اسٹوڈیو صارف پروفائل، اور معاون وسائل جیسے IAM کردار تخلیق کرتا ہے۔ اسٹیک کے لیے ایک نام منتخب کریں؛ اس پوسٹ کے لیے، ہم نام استعمال کرتے ہیں۔ SageMaker-Studio-VPC-No-Internet. VPC اسٹیک کا نام فراہم کریں جو آپ نے پہلے بنایا تھا (No-Internet) کے طور پر CoreNetworkingStackName پیرامیٹر اور باقی سب کچھ بطور ڈیفالٹ چھوڑ دیں۔

اس وقت تک انتظار کریں جب تک AWS CloudFormation رپورٹ نہ کرے کہ اسٹیک کی تخلیق مکمل ہو گئی ہے۔ آپ تصدیق کر سکتے ہیں کہ سٹوڈیو ڈومین SageMaker کنسول پر استعمال کرنے کے لیے دستیاب ہے۔

اس بات کی تصدیق کرنے کے لیے کہ اسٹوڈیو ڈومین صارف کے پاس انٹرنیٹ تک رسائی نہیں ہے، SageMaker کنسول کا استعمال کرتے ہوئے سٹوڈیو لانچ کریں۔. منتخب کریں فائل, نئی، اور ٹرمنل، پھر انٹرنیٹ وسائل تک رسائی حاصل کرنے کی کوشش کریں۔ جیسا کہ درج ذیل اسکرین شاٹ میں دکھایا گیا ہے، ٹرمینل وسائل کا انتظار کرتا رہے گا اور آخر کار وقت ختم ہو جائے گا۔

اس سے ثابت ہوتا ہے کہ اسٹوڈیو ایک وی پی سی میں کام کر رہا ہے جس میں انٹرنیٹ تک رسائی نہیں ہے۔

JumpStart کا استعمال کرتے ہوئے جنریٹو AI فاؤنڈیشن ماڈل Flan T5-XXL کو تعینات کریں۔

ہم اس ماڈل کو اسٹوڈیو کے ساتھ ساتھ API کے ذریعے بھی تعینات کر سکتے ہیں۔ JumpStart ماڈل کو SageMaker نوٹ بک کے ذریعے تعینات کرنے کے لیے تمام کوڈ فراہم کرتا ہے جو اسٹوڈیو کے اندر سے قابل رسائی ہے۔ اس پوسٹ کے لیے، ہم اسٹوڈیو سے اس صلاحیت کو ظاہر کرتے ہیں۔

• اسٹوڈیو کے استقبال والے صفحے پر، منتخب کریں۔ جمپ اسٹارٹ پری بلٹ اور خودکار حل کے تحت۔

• کے تحت Flan-T5 XXL ماڈل کا انتخاب کریں۔ فاؤنڈیشن ماڈلز.

• پہلے سے طے شدہ طور پر، یہ کھولتا ہے تعینات ٹیب کو وسعت دیں۔ تعیناتی کی ترتیب سیکشن کو تبدیل کرنے کے لیے hosting instance اور endpoint name، یا کوئی اضافی ٹیگ شامل کریں۔ کو تبدیل کرنے کا آپشن بھی ہے۔ S3 bucket location جہاں اختتامی نقطہ بنانے کے لیے ماڈل آرٹفیکٹ کو محفوظ کیا جائے گا۔ اس پوسٹ کے لیے، ہم ہر چیز کو اس کی ڈیفالٹ اقدار پر چھوڑ دیتے ہیں۔ پیشین گوئیاں کرنے کے لیے اختتامی نقطہ کی درخواست کرتے وقت استعمال کرنے کے لیے اختتامی نقطہ کے نام کا ایک نوٹ بنائیں۔

• پھیلائیں سیکورٹی کی ترتیبات سیکشن، جہاں آپ وضاحت کر سکتے ہیں IAM role اختتامی نقطہ بنانے کے لیے۔ آپ اس کی بھی وضاحت کر سکتے ہیں۔ VPC configurations فراہم کرکے subnets اور security groups. سب نیٹ IDs اور سیکیورٹی گروپ IDs کو AWS CloudFormation کنسول پر VPC اسٹیک کے آؤٹ پٹ ٹیب سے پایا جا سکتا ہے۔ SageMaker JumpStart کو اس ترتیب کے حصے کے طور پر کم از کم دو ذیلی نیٹ کی ضرورت ہوتی ہے۔ ذیلی نیٹ اور سیکورٹی گروپ ماڈل کنٹینر تک اور اس سے رسائی کو کنٹرول کرتے ہیں۔

نوٹس: اس سے قطع نظر کہ SageMaker JumpStart ماڈل VPC میں تعینات ہے یا نہیں، ماڈل ہمیشہ نیٹ ورک آئسولیشن موڈ میں چلتا ہے، جو ماڈل کنٹینر کو الگ کرتا ہے لہذا ماڈل کنٹینر پر یا اس سے کوئی ان باؤنڈ یا آؤٹ باؤنڈ نیٹ ورک کال نہیں کی جا سکتی۔ چونکہ ہم ایک VPC استعمال کر رہے ہیں، SageMaker ہمارے مخصوص VPC کے ذریعے ماڈل آرٹفیکٹ کو ڈاؤن لوڈ کرتا ہے۔ ماڈل کنٹینر کو نیٹ ورک آئسولیشن میں چلانا آپ کے سیج میکر اینڈ پوائنٹ کو انفرنس کی درخواستوں کا جواب دینے سے نہیں روکتا ہے۔ ایک سرور کا عمل ماڈل کنٹینر کے ساتھ چلتا ہے اور اسے تخمینہ کی درخواستوں کو آگے بھیجتا ہے، لیکن ماڈل کنٹینر کو نیٹ ورک تک رسائی حاصل نہیں ہے۔

• میں سے انتخاب کریں تعینات ماڈل کو تعینات کرنے کے لئے. ہم ترقی میں اختتامی نقطہ تخلیق کی قریب قریب حقیقی وقت کی حیثیت دیکھ سکتے ہیں۔ اختتامی نقطہ کی تخلیق کو مکمل ہونے میں 5-10 منٹ لگ سکتے ہیں۔

کھیت کی قدر کا مشاہدہ کریں۔ ماڈل ڈیٹا لوکیشن اس صفحے پر. تمام سیج میکر جمپ سٹارٹ ماڈلز سیج میکر کے زیر انتظام S3 بالٹی (s3://jumpstart-cache-prod-{region})۔ لہٰذا، قطع نظر اس کے کہ جمپ اسٹارٹ سے کس ماڈل کا انتخاب کیا گیا ہے، ماڈل کو عوامی طور پر قابل رسائی SageMaker JumpStart S3 بالٹی سے لگایا جاتا ہے اور ٹریفک کبھی بھی عوامی ماڈل زو APIs کو ماڈل ڈاؤن لوڈ کرنے کے لیے نہیں جاتی ہے۔ یہی وجہ ہے کہ ماڈل اینڈ پوائنٹ کی تخلیق کامیابی سے شروع ہوئی یہاں تک کہ جب ہم وی پی سی میں اینڈ پوائنٹ بنا رہے ہیں جس میں براہ راست انٹرنیٹ تک رسائی نہیں ہے۔

ماڈل کے نمونے کو کسی بھی نجی ماڈل کے چڑیا گھر یا آپ کی اپنی S3 بالٹی میں بھی نقل کیا جا سکتا ہے تاکہ ماڈل ماخذ کی جگہ کو مزید کنٹرول اور محفوظ کیا جا سکے۔ آپ ماڈل کو مقامی طور پر ڈاؤن لوڈ کرنے کے لیے درج ذیل کمانڈ کا استعمال کر سکتے ہیں۔ AWS کمانڈ لائن انٹرفیس (AWS CLI):

aws s3 cp s3://jumpstart-cache-prod-eu-west-1/huggingface-infer/prepack/v1.0.2/infer-prepack-huggingface-text2text-flan-t5-xxl.tar.gz .

• چند منٹوں کے بعد، اختتامی نقطہ کامیابی سے بن جاتا ہے اور اس کی حیثیت کو ظاہر کرتا ہے۔ سروس میں. منتخب کریں Open Notebook میں Use Endpoint from Studio سیکشن یہ ایک نمونہ نوٹ بک ہے جو جمپ سٹارٹ کے تجربے کے حصے کے طور پر فراہم کی گئی ہے تاکہ اختتامی نقطہ کو تیزی سے جانچ سکے۔

• نوٹ بک میں، تصویر کو بطور منتخب کریں۔ ڈیٹا سائنس 3.0 اور دانا کے طور پر ازگر 3. جب دانا تیار ہو جائے تو، آپ اختتامی نقطہ پر پیشین گوئیاں کرنے کے لیے نوٹ بک سیل چلا سکتے ہیں۔ نوٹ کریں کہ نوٹ بک استعمال کرتی ہے۔ invoke_endpoint() سے API Python کے لیے AWS SDK پیشن گوئی کرنے کے لئے. متبادل طور پر، آپ استعمال کر سکتے ہیں SageMaker Python SDK کی پیشین گوئی() ایک ہی نتیجہ حاصل کرنے کا طریقہ۔

یہ بغیر انٹرنیٹ تک رسائی کے VPC کے اندر JumpStart کا استعمال کرتے ہوئے Flan-T5 XXL ماڈل کو تعینات کرنے کے اقدامات کو ختم کرتا ہے۔

SageMaker جمپ سٹارٹ ماڈلز کو VPC موڈ میں تعینات کرنے کے فوائد

سیج میکر جمپ سٹارٹ ماڈلز کو VPC موڈ میں تعینات کرنے کے کچھ فوائد درج ذیل ہیں:

• چونکہ SageMaker JumpStart ماڈلز کو عوامی ماڈل چڑیا گھر سے ڈاؤن لوڈ نہیں کرتا ہے، اس لیے اسے مکمل طور پر لاک ڈاؤن ماحول میں بھی استعمال کیا جا سکتا ہے جہاں انٹرنیٹ تک رسائی نہیں ہے۔
• چونکہ SageMaker جمپ سٹارٹ ماڈلز کے لیے نیٹ ورک تک رسائی محدود اور اس کا دائرہ کار محدود کیا جا سکتا ہے، اس سے ٹیموں کو ماحول کی حفاظتی پوزیشن کو بہتر بنانے میں مدد ملتی ہے۔
• وی پی سی کی حدود کی وجہ سے، اختتامی نقطہ تک رسائی سب نیٹس اور سیکیورٹی گروپس کے ذریعے بھی محدود ہوسکتی ہے، جس سے سیکیورٹی کی ایک اضافی پرت شامل ہوتی ہے۔

SageMaker JumpStart کے ذریعے فاؤنڈیشن ماڈلز کی تعیناتی کو اپنی مرضی کے مطابق کرنے کے متبادل طریقے

اس سیکشن میں، ہم ماڈل کو تعینات کرنے کے کچھ متبادل طریقے بتاتے ہیں۔

اپنے پسندیدہ IDE سے SageMaker JumpStart APIs استعمال کریں۔

SageMaker JumpStart کے فراہم کردہ ماڈلز کے لیے آپ کو اسٹوڈیو تک رسائی کی ضرورت نہیں ہے۔ آپ انہیں کسی بھی IDE سے SageMaker اینڈ پوائنٹس پر تعینات کر سکتے ہیں، شکریہ جمپ اسٹارٹ APIs. آپ اس پوسٹ میں پہلے زیر بحث اسٹوڈیو سیٹ اپ مرحلہ کو چھوڑ سکتے ہیں اور ماڈل کو تعینات کرنے کے لیے JumpStart APIs کا استعمال کر سکتے ہیں۔ یہ APIs دلائل فراہم کرتے ہیں جہاں VPC کنفیگریشنز بھی فراہم کی جا سکتی ہیں۔ APIs کا حصہ ہیں۔ SageMaker Python SDK خود مزید معلومات کے لیے رجوع کریں۔ پہلے سے تربیت یافتہ ماڈلز.

سیج میکر اسٹوڈیو سے سیج میکر جمپ اسٹارٹ کی فراہم کردہ نوٹ بک استعمال کریں۔

SageMaker JumpStart ماڈل کو براہ راست تعینات کرنے کے لیے نوٹ بک بھی فراہم کرتا ہے۔ ماڈل کی تفصیل والے صفحے پر، منتخب کریں۔ نوٹ بک کھولیں۔ اختتامی نقطہ کو تعینات کرنے کے لیے کوڈ پر مشتمل ایک نمونہ نوٹ بک کھولنے کے لیے۔ نوٹ بک استعمال کرتا ہے۔ سیج میکر جمپ اسٹارٹ انڈسٹری APIs جو آپ کو ماڈلز کی فہرست اور فلٹر کرنے، نمونے حاصل کرنے، اور اختتامی پوائنٹس کو تعینات کرنے اور استفسار کرنے کی اجازت دیتا ہے۔ آپ نوٹ بک کوڈ میں ترمیم بھی کر سکتے ہیں اپنے استعمال کے معاملے کی مخصوص ضروریات کے مطابق۔

وسائل کو صاف کریں۔

دیکھو CLEANUP.md اس پوسٹ کے حصے کے طور پر بنائے گئے اسٹوڈیو، وی پی سی، اور دیگر وسائل کو حذف کرنے کے تفصیلی اقدامات تلاش کرنے کے لیے فائل۔

خرابیوں کا سراغ لگانا

اگر آپ کو CloudFormation کے اسٹیک بنانے میں کوئی مسئلہ درپیش ہے، تو رجوع کریں۔ CloudFormation کا ازالہ کرنا.

نتیجہ

بڑے لینگویج ماڈلز کے ذریعے تقویت یافتہ جنریٹو AI تبدیل کر رہا ہے کہ لوگ کیسے معلومات حاصل کرتے ہیں اور ان کا اطلاق کرتے ہیں۔ تاہم، بہت زیادہ ریگولیٹڈ جگہوں پر کام کرنے والی تنظیموں کے لیے ضروری ہے کہ وہ تخلیقی AI صلاحیتوں کو اس طریقے سے استعمال کریں جو انہیں تیزی سے اختراع کرنے کی اجازت دے بلکہ اس طرح کی صلاحیتوں تک رسائی کے نمونوں کو بھی آسان بنائے۔

ہم آپ کی حوصلہ افزائی کرتے ہیں کہ آپ اس پوسٹ میں فراہم کردہ نقطہ نظر کو آزمائیں تاکہ آپ کے موجودہ ماحول میں تخلیقی AI صلاحیتوں کو سرایت کر سکیں جبکہ اسے انٹرنیٹ تک رسائی کے بغیر اپنے VPC کے اندر رکھیں۔ SageMaker JumpStart فاؤنڈیشن ماڈلز پر مزید پڑھنے کے لیے، درج ذیل کو چیک کریں:

---

مصنفین کے بارے میں

وکیش پانڈے AWS میں ایک مشین لرننگ اسپیشلسٹ سولیوشن آرکیٹیکٹ ہے، جو مالیاتی صنعتوں کے صارفین کو جنریٹو AI اور ML پر حل تیار کرنے اور بنانے میں مدد کرتا ہے۔ کام سے باہر، وکیش کو مختلف کھانے آزمانے اور آؤٹ ڈور کھیل کھیلنے کا لطف آتا ہے۔

مہران نکو AWS میں ایک سینئر سولیوشن آرکیٹیکٹ ہے، جو برطانیہ میں ڈیجیٹل مقامی کاروباروں کے ساتھ کام کر رہا ہے اور ان کے مقاصد کو حاصل کرنے میں ان کی مدد کر رہا ہے۔ اپنے سافٹ ویئر انجینئرنگ کے تجربے کو مشین لرننگ پر لاگو کرنے کے بارے میں پرجوش، وہ اینڈ ٹو اینڈ مشین لرننگ اور MLOps کے طریقوں میں مہارت رکھتا ہے۔

• SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
• پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
• پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
• پلیٹو ای ایس جی۔ آٹوموٹو / ای وی، کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
• بلاک آفسیٹس۔ ماحولیاتی آفسیٹ ملکیت کو جدید بنانا۔ یہاں تک رسائی حاصل کریں۔
• ماخذ: https://aws.amazon.com/blogs/machine-learning/use-generative-ai-foundation-models-in-vpc-mode-with-no-internet-connectivity-using-amazon-sagemaker-jumpstart/