ملٹی ریجن Amazon SageMaker اینڈ پوائنٹس کے CI/CD کو فعال کریں۔

ایمیزون سیج میکر اور سیج میکر انفرنس اینڈ پوائنٹس آپ کے AI اور مشین لرننگ (ML) ورک بوجھ کو تربیت دینے اور تعینات کرنے کی صلاحیت فراہم کریں۔ انفرنس اینڈ پوائنٹس کے ساتھ، آپ اپنے ماڈلز کو ریئل ٹائم یا بیچ انفرنس کے لیے تعینات کر سکتے ہیں۔ اختتامی نکات مختلف قسم کے ایم ایل ماڈلز کی حمایت کرتے ہیں جن کا استعمال کرتے ہوئے میزبانی کی گئی ہے۔ AWS ڈیپ لرننگ کنٹینرز یا حسب ضرورت AI/ML الگورتھم کے ساتھ آپ کے اپنے کنٹینرز۔ جب آپ متعدد مثالوں کے ساتھ SageMaker انفرنس اینڈ پوائنٹس لانچ کرتے ہیں، تو SageMaker اعلی دستیابی کے لیے متعدد دستیابی زونز (ایک ہی علاقے میں) میں مثالیں تقسیم کرتا ہے۔

تاہم، بعض صورتوں میں، متنوع جغرافیائی علاقوں میں گاہکوں کے لیے کم سے کم ممکنہ تاخیر کو یقینی بنانے کے لیے، آپ کو متعدد خطوں میں انفرنس اینڈ پوائنٹس کی تعیناتی کی ضرورت پڑ سکتی ہے۔ SageMaker اینڈ پوائنٹس اور دیگر متعلقہ ایپلیکیشن اور انفراسٹرکچر کے اجزاء کی کثیر علاقائی تعیناتی بھی آپ کے مشن کے لیے اہم کام کے بوجھ کے لیے تباہی کی بحالی کی حکمت عملی کا حصہ ہو سکتی ہے جس کا مقصد علاقائی ناکامی کے خطرے کو کم کرنا ہے۔

سیج میکر پروجیکٹس پہلے سے تعمیر شدہ MLOps ٹیمپلیٹس کا ایک سیٹ لاگو کرتا ہے جو اختتامی نقطہ کی تعیناتیوں کو منظم کرنے میں مدد کرسکتا ہے۔ اس پوسٹ میں، ہم دکھاتے ہیں کہ آپ MLOps SageMaker پروجیکٹس پائپ لائن کو کس طرح بڑھا سکتے ہیں تاکہ آپ کے AI/ML انفرنس اینڈ پوائنٹس کی کثیر علاقائی تعیناتی کو فعال کیا جا سکے۔

حل جائزہ

SageMaker پروجیکٹس تربیت اور تعیناتی دونوں MLOPs پائپ لائنوں کو تعینات کرتا ہے۔ آپ ان کا استعمال کسی ماڈل کو تربیت دینے اور انفرنس اینڈ پوائنٹ کا استعمال کرتے ہوئے اسے تعینات کرنے کے لیے کر سکتے ہیں۔ ملٹی ریجن حل کی پیچیدگی اور لاگت کو کم کرنے کے لیے، ہم فرض کرتے ہیں کہ آپ ماڈل کو ایک ہی ریجن میں ٹریننگ دیتے ہیں اور دو یا زیادہ ریجنز میں انفرنس اینڈ پوائنٹس لگاتے ہیں۔

یہ پوسٹ ایک ایسا حل پیش کرتی ہے جو کثیر علاقائی تعیناتی کو سپورٹ کرنے کے لیے SageMaker پروجیکٹ ٹیمپلیٹ میں قدرے ترمیم کرتا ہے۔ تبدیلیوں کو بہتر طور پر بیان کرنے کے لیے، درج ذیل تصویر SageMaker (مرحلہ 1-5) کے ذریعے خود بخود بنائی گئی معیاری MLOps پائپ لائن دونوں کو دکھاتی ہے اور ساتھ ہی اسے ثانوی علاقے تک بڑھانے کے لیے درکار تبدیلیاں (مرحلہ 6-11)۔

سیج میکر پروجیکٹس ٹیمپلیٹ خود بخود ایک بوائلر پلیٹ MLOps حل تعینات کرتا ہے، جس میں درج ذیل اجزاء شامل ہیں:

1. ایمیزون ایونٹ برج نظر رکھتا ہے AWS CodeCommit تبدیلیوں کے ذخیرے اور ایک رن شروع ہوتا ہے۔ AWS کوڈ پائپ لائن اگر کوڈ کمٹ کا پتہ چلا ہے۔
2. اگر کوڈ میں تبدیلی ہوتی ہے، AWS کوڈ بلڈ۔ SageMaker ٹریننگ جابز کا استعمال کرتے ہوئے ماڈل ٹریننگ آرکیسٹریٹ کرتا ہے۔
3. تربیتی کام مکمل ہونے کے بعد، سیج میکر ماڈل رجسٹری تربیت یافتہ ماڈل کو رجسٹر اور کیٹلاگ کرتا ہے۔
4. تعیناتی کے مرحلے کی تیاری کے لیے، CodeBuild ڈیفالٹ کو بڑھاتا ہے۔ AWS کلاؤڈ فارمیشن ماڈل رجسٹری سے منظور شدہ ماڈل کے پیرامیٹرز کے ساتھ ٹیمپلیٹ کنفیگریشن فائلز۔
5. آخر میں، CodePipeline منظور شدہ ماڈل کو سٹیجنگ اور پروڈکشن انفرنس اینڈ پوائنٹس پر تعینات کرنے کے لیے CloudFormation ٹیمپلیٹس چلاتی ہے۔

درج ذیل اضافی اقدامات ثانوی خطے میں AI/ML ماڈل کی تعیناتی کو فعال کرنے کے لیے MLOps پروجیکٹس ٹیمپلیٹ میں ترمیم کرتے ہیں:

6. کی ایک نقل ایمیزون سادہ اسٹوریج سروس پرائمری ریجن میں (ایمیزون S3) بالٹی ثانوی ریجن میں ماڈل نمونے کو ذخیرہ کرنے کی ضرورت ہے۔
7. منظور شدہ ماڈل کی کراس ریجن تعیناتی کو چلانے کے لیے CodePipeline ٹیمپلیٹ کو مزید مراحل کے ساتھ بڑھایا گیا ہے۔
8. کراس ریجن کی تعیناتی کے عمل کے ایک حصے کے طور پر، کوڈ پائپ لائن ٹیمپلیٹ ایک ثانوی علاقے میں انفرنس اینڈ پوائنٹ کو تعینات کرنے کے لیے ایک نیا CloudFormation ٹیمپلیٹ استعمال کرتا ہے۔ CloudFormation ٹیمپلیٹ مرحلہ 3 میں تخلیق کردہ S6 ریپلیکا بالٹی سے ماڈل نمونے سے ماڈل کو تعینات کرتا ہے۔

9-11 اختیاری طور پر، وسائل تخلیق کریں۔ ایمیزون روٹ 53, ایمیزون API گیٹ وے، اور او ڈبلیو ایس لامبڈا۔ ایپلیکیشن ٹریفک کو ثانوی علاقے میں اختتامی نقطہ تک پہنچانے کے لیے۔

شرائط

اپنے بنیادی علاقے میں سیج میکر پروجیکٹ بنائیں (اس پوسٹ میں us-east-2)۔ اندر کے مراحل کو مکمل کریں۔ ایمیزون سیج میکر پائپ لائنز کا استعمال کرتے ہوئے ایم ایل ورک فلو کی تعمیر، خودکار، انتظام، اور اسکیلنگ سیکشن تک حسب ضرورت استعمال کے کیس کے لیے نمونہ کوڈ میں ترمیم کرنا.

CodePipeline میں اپنی پائپ لائن کو اپ ڈیٹ کریں۔

اس سیکشن میں، ہم اس بات پر تبادلہ خیال کرتے ہیں کہ کس طرح دستی کوڈ پائپ لائن کی منظوری اور کراس ریجن ماڈل کی تعیناتی کے مراحل کو SageMaker کے ذریعے آپ کے لیے بنائی گئی موجودہ پائپ لائن میں شامل کیا جائے۔

1. اپنے پرائمری ریجن میں CodePipeline کنسول پر، اپنے پروجیکٹ کے نام پر مشتمل پائپ لائن تلاش کریں اور اسے منتخب کریں جس کا اختتام تعیناتی کے ساتھ ہو۔ یہ پائپ لائن پہلے ہی آپ کے لیے SageMaker پروجیکٹس کے ذریعے بنائی جا چکی ہے۔ آپ ثانوی خطے کے لیے AI/ML اینڈ پوائنٹ کی تعیناتی کے مراحل کو شامل کرنے کے لیے اس پائپ لائن میں ترمیم کرتے ہیں۔
2. میں سے انتخاب کریں ترمیم کریں.
3. میں سے انتخاب کریں اسٹیج شامل کریں۔.
4. کے لئے اسٹیج کا نام، داخل کریں SecondaryRegionDeployment.
5. میں سے انتخاب کریں اسٹیج شامل کریں۔.
6. میں SecondaryRegionDeployment مرحلہ، منتخب کریں ایکشن گروپ شامل کریں۔اس ایکشن گروپ میں، آپ سیکنڈری ریجن میں ماڈل کی تعیناتی کے لیے دستی منظوری کا مرحلہ شامل کرتے ہیں۔
7. کے لئے ایکشن کا نام، داخل کریں ManualApprovaltoDeploytoSecondaryRegion.
8. کے لئے ایکشن فراہم کنندہمنتخب کریں دستی منظوری.
9. دیگر تمام ترتیبات کو ان کے ڈیفالٹس پر چھوڑ دیں اور منتخب کریں۔ کیا.
10. میں SecondaryRegionDeployment مرحلہ، منتخب کریں ایکشن گروپ شامل کریں۔ (کے بعد) ManualApprovaltoDeploytoSecondaryRegion.اس ایکشن گروپ میں، آپ کراس ریجن AWS CloudFormation کی تعیناتی کا مرحلہ شامل کرتے ہیں۔ آپ ان تعمیراتی نمونوں کے نام بتاتے ہیں جو آپ بعد میں اس پوسٹ میں بناتے ہیں۔
11. کے لئے ایکشن کا نام، داخل کریں DeploytoSecondaryRegion.
12. کے لئے ایکشن فراہم کنندہمنتخب کریں AWS کلاؤڈ فارمیشن.
13. کے لئے ریجناپنے ثانوی علاقے کا نام درج کریں (مثال کے طور پر، us-west-2).
14. کے لئے نمونے داخل کریں۔، داخل کریں BuildArtifact.
15. کے لئے ایکشن موڈ، داخل کریں CreateorUpdateStack.
16. کے لئے StackName، داخل کریں DeploytoSecondaryRegion.
17. کے تحت سانچہ، کے لئے آرٹفیکٹ کا ناممنتخب BuildArtifact.
18. کے تحت سانچہ، کے لئے فائل کا نام، داخل کریں template-export-secondary-region.yml.
19. مڑیں کنفیگریشن فائل استعمال کریں۔ پر.
20. کے تحت سانچہ، کے لئے آرٹفیکٹ کا ناممنتخب BuildArtifact.
21. کے تحت سانچہ، کے لئے فائل کا نام، داخل کریں secondary-region-config-export.json.
22. کے تحت صلاحیتوںمنتخب کریں CAPABILITY_NAMED_IAM.
23. کے لئے کردارمنتخب کریں AmazonSageMakerServiceCatalogProductsUseRole سیج میکر پروجیکٹس کے ذریعہ تخلیق کیا گیا ہے۔
24. میں سے انتخاب کریں کیا.
25. میں سے انتخاب کریں محفوظ کریں.
26. اگر ایک پائپ لائن کی تبدیلیوں کو محفوظ کریں۔ ڈائیلاگ ظاہر ہوتا ہے، منتخب کریں محفوظ کریں پھر سے.

IAM کردار میں ترمیم کریں۔

ہمیں اضافی اجازتیں شامل کرنے کی ضرورت ہے۔ AWS شناخت اور رسائی کا انتظام (IAM) کا کردار AmazonSageMakerServiceCatalogProductsUseRole کے ذریعے بنائی AWS سروس کیٹلاگ کراس ریجن کی تعیناتی کے لیے CodePipeline اور S3 بالٹی تک رسائی کو فعال کرنے کے لیے۔

1. IAM کنسول پر، منتخب کریں۔ رولز نیوی گیشن پین میں.
2. تلاش کریں اور منتخب کریں۔ AmazonSageMakerServiceCatalogProductsUseRole.
3. کے تحت IAM پالیسی کا انتخاب کریں۔ پالیسی کا نام: AmazonSageMakerServiceCatalogProductsUseRole-XXXXXXXXX.
4. میں سے انتخاب کریں پالیسی میں ترمیم کریں۔ اور پھر JSON.
5. AWS CloudFormation کی اجازتوں میں ترمیم کریں تاکہ CodePipeline کو سیکنڈری ریجن میں S3 بالٹی کی مطابقت پذیری کی اجازت دی جا سکے۔ آپ موجودہ IAM پالیسی کو درج ذیل میں سے اپ ڈیٹ کردہ پالیسی سے بدل سکتے ہیں۔ GitHub repo (لائنز دیکھیں: 16-18، 198، 213)
6. میں سے انتخاب کریں پالیسی کا جائزہ لیں۔.
7. میں سے انتخاب کریں تبدیلیاں محفوظ کرو.

سیکنڈری ریجن کے لیے تعیناتی ٹیمپلیٹ شامل کریں۔

ثانوی خطے میں ایک نتیجہ کے اختتامی نقطہ کو گھمانے کے لیے، SecondaryRegionDeployment اسٹیج کو کلاؤڈ فارمیشن ٹیمپلیٹ کی ضرورت ہے (کے لیے endpoint-config-template-secondary-region.yml) اور کنفیگریشن فائل (secondary-region-config.json).

CloudFormation ٹیمپلیٹ کو مکمل طور پر پیرامیٹرز کے ذریعے ترتیب دیا گیا ہے۔ آپ اپنی ضروریات کو پورا کرنے کے لیے اس میں مزید ترمیم کر سکتے ہیں۔ اسی طرح، آپ اینڈ پوائنٹ لانچ کنفیگریشن کے پیرامیٹرز کی وضاحت کرنے کے لیے config فائل کا استعمال کر سکتے ہیں، جیسے مثال کی قسم اور مثال کی گنتی:

{
  "Parameters": {
    "StageName": "secondary-prod",
    "EndpointInstanceCount": "1",
    "EndpointInstanceType": "ml.m5.large",
    "SamplingPercentage": "100",
    "EnableDataCapture": "true"
  }

ان فائلوں کو اپنے پروجیکٹ میں شامل کرنے کے لیے، انہیں فراہم کردہ لنکس سے ڈاؤن لوڈ کریں اور ان پر اپ لوڈ کریں۔ ایمیزون سیج میکر اسٹوڈیو بنیادی علاقے میں اسٹوڈیو میں، منتخب کریں۔ فائل براؤزر اور پھر فولڈر جس میں آپ کے پروجیکٹ کا نام ہے اور اس کے ساتھ ختم ہوتا ہے۔ modeldeploy.

اپ لوڈ آئیکن کو منتخب کر کے ان فائلوں کو ڈیپلائمنٹ ریپوزٹری کے روٹ فولڈر میں اپ لوڈ کریں۔ یقینی بنائیں کہ فائلیں روٹ فولڈر میں موجود ہیں جیسا کہ درج ذیل اسکرین شاٹ میں دکھایا گیا ہے۔

بلڈ ازگر فائل میں ترمیم کریں۔

اگلا، ہمیں تعیناتی کو ایڈجسٹ کرنے کی ضرورت ہے۔ build.py درج ذیل کام کرنے کے لیے سیکنڈری ریجن میں SageMaker اینڈ پوائنٹ کی تعیناتی کو فعال کرنے کے لیے فائل:

• ماڈل نمونے کے مقام کی بازیافت کریں اور ایمیزون لچکدار کنٹینر رجسٹری (ایمیزون ای سی آر) سیکنڈری ریجن میں ماڈل امیج کے لیے URI
• ایک پیرامیٹر فائل تیار کریں جو ماڈل کے مخصوص دلائل کو CloudFormation ٹیمپلیٹ میں منتقل کرنے کے لیے استعمال ہوتی ہے جو ماڈل کو سیکنڈری ریجن میں تعینات کرتی ہے۔

آپ تازہ کاری کو ڈاؤن لوڈ کرسکتے ہیں build.py فائل کریں اور اپنے فولڈر میں موجود کو تبدیل کریں۔ اسٹوڈیو میں، منتخب کریں۔ فائل براؤزر اور پھر فولڈر جس میں آپ کے پروجیکٹ کا نام ہے اور اس کے ساتھ ختم ہوتا ہے۔ modeldeploy. build.py فائل کو تلاش کریں اور اسے اپنے ڈاؤن لوڈ کردہ فائل سے تبدیل کریں۔

CloudFormation ٹیمپلیٹ S3 بالٹی میں محفوظ کردہ ماڈل نمونے اور Amazon ECR امیج پاتھ کو سیکنڈری ریجن میں انفرنس اینڈ پوائنٹ کو تعینات کرنے کے لیے استعمال کرتا ہے۔ یہ پرائمری ریجن میں ماڈل رجسٹری کی تعیناتی سے مختلف ہے، کیونکہ آپ کو سیکنڈری ریجن میں ماڈل رجسٹری کی ضرورت نہیں ہے۔

buildspec فائل میں ترمیم کریں۔

buildspec.yml CodeBuild کے ذریعے چلنے والی ہدایات پر مشتمل ہے۔ ہم درج ذیل کام کرنے کے لیے اس فائل میں ترمیم کرتے ہیں:

• کوڈ رن کو سپورٹ کرنے کے لیے درکار SageMaker Python لائبریری انسٹال کریں۔
• ثانوی-علاقہ اور ماڈل کے لیے مخصوص پیرامیٹرز سے گزریں۔ build.py
• S3 بالٹی مواد کی مطابقت پذیری کو پرائمری سے سیکنڈری ریجنز میں شامل کریں۔
• سیکنڈری ریجن CloudFormation ٹیمپلیٹ اور متعلقہ پیرامیٹر فائل کو CodeBuild قدم کے نمونے کے طور پر برآمد کریں

کھولو buildspec.yml ماڈل ڈیپلائے فولڈر سے فائل کریں اور نمایاں ترمیم کریں جیسا کہ درج ذیل اسکرین شاٹ میں دکھایا گیا ہے۔

متبادل طور پر، آپ درج ذیل کو ڈاؤن لوڈ کر سکتے ہیں۔ buildspec.yml پہلے سے طے شدہ فائل کو تبدیل کرنے کے لئے فائل۔

CodeBuild ماحولیاتی متغیرات شامل کریں۔

اس مرحلے میں، آپ ثانوی علاقے میں ماڈل کی تعیناتی کنفیگریشن فائلوں کو بنانے کے لیے CodeBuild کے لیے درکار کنفیگریشن پیرامیٹرز شامل کرتے ہیں۔

1. پرائمری ریجن میں CodeBuild کنسول پر، وہ پروجیکٹ تلاش کریں جس میں آپ کے پروجیکٹ کا نام ہو اور اس کا اختتام تعینات ہو۔ یہ پروجیکٹ پہلے ہی آپ کے لیے SageMaker پروجیکٹس کے ذریعے بنایا جا چکا ہے۔

2. پروجیکٹ کا انتخاب کریں اور پر ترمیم کریں مینو، منتخب کریں ماحولیات.

3. میں اعلی درجے کی ترتیب سیکشن، غیر منتخب کریں۔ AWS CodeBuild کو اس سروس رول میں ترمیم کرنے کی اجازت دیں تاکہ اسے اس بلڈ پروجیکٹ کے ساتھ استعمال کیا جا سکے۔.
4. اضافی CloudFormation ٹیمپلیٹس، سیکنڈری ریجن، اور ماڈل کے لیے مخصوص پیرامیٹرز کے ناموں کی وضاحت کرتے ہوئے درج ذیل ماحولیاتی متغیرات شامل کریں:
   1. EXPORT_TEMPLATE_NAME_SECONDARY_REGION - کے لئے قدر، داخل کریں template-export-secondary-region.yml اور کے لئے قسممنتخب کریں سادہ متن.
   2. EXPORT_TEMPLATE_SECONDARY_REGION_CONFIG - کے لئے قدر، داخل کریں secondary-region-config-export.json اور کے لئے قسممنتخب کریں سادہ متن.
   3. AWS_SECONDARY_REGION - کے لئے قدرداخل کریں us-west-2 اور for قسممنتخب کریں سادہ متن.
   4. فریم ورک - کے لئے قدر، داخل کریں xgboost (اپنے فریم ورک سے بدلیں) اور کے لیے قسممنتخب کریں سادہ متن.
   5. MODEL_VERSION - کے لئے قدر، 1.0-1 درج کریں (اپنے ماڈل ورژن سے بدلیں) اور کے لیے قسممنتخب کریں سادہ متن.
5. کی قدر کاپی کریں۔ ARTIFACT_BUCKET نوٹ پیڈ یا کسی اور ٹیکسٹ ایڈیٹر میں۔ آپ کو اگلے مرحلے میں اس قدر کی ضرورت ہے۔
6. میں سے انتخاب کریں ماحول کو اپ ڈیٹ کریں۔.

آپ کو ان اقدار کی ضرورت ہے جن کی آپ نے ماڈل ٹریننگ کے لیے وضاحت کی ہے۔ FRAMEWORK اور MODEL_VERSION. مثال کے طور پر، MLOps بوائلر پلیٹ کی تعیناتی میں استعمال ہونے والے Abalone ماڈل کے لیے ان اقدار کو تلاش کرنے کے لیے، سٹوڈیو کھولیں اور فائل براؤزر مینو، فولڈر کو اپنے پروجیکٹ کے نام کے ساتھ کھولیں اور ماڈل بلڈ کے ساتھ ختم ہوں۔ پر نیویگیٹ کریں۔ pipelines/abalone اور کھولیں pipeline.py فائل تلاش کریں۔ sagemaker.image_uris.retrieve اور متعلقہ اقدار کو کاپی کریں۔

سیکنڈری ریجن میں S3 ریپلیکا بالٹی بنائیں

ہمیں سیکنڈری ریجن میں ماڈل کے نمونے رکھنے کے لیے S3 بالٹی بنانے کی ضرورت ہے۔ SageMaker اس بالٹی کو ماڈل کا تازہ ترین ورژن حاصل کرنے کے لیے استعمال کرتا ہے تاکہ ایک انفرنس اینڈ پوائنٹ کو گھمایا جا سکے۔ آپ کو یہ صرف ایک بار کرنے کی ضرورت ہے۔ CodeBuild خود بخود پرائمری ریجن میں بالٹی کے مواد کو ہر پائپ لائن چلانے کے ساتھ نقل کی بالٹی سے ہم آہنگ کرتا ہے۔

1. ایمیزون S3 کنسول پر، منتخب کریں۔ بالٹی بنائیں.
2. کے لئے بالٹی کا نامکی قدر درج کریں۔ ARTEFACT_BUCKET پچھلے مرحلے میں کاپی کیا اور شامل کریں۔ -replica آخر تک (مثال کے طور پر، sagemaker-project-X-XXXXXXXX-replica.
3. کے لئے AWS علاقہاپنا ثانوی علاقہ درج کریں (us-west-2).
4. دیگر تمام اقدار کو ان کے ڈیفالٹ پر چھوڑ دیں اور منتخب کریں۔ بالٹی بنائیں.

تعیناتی کے لیے ایک ماڈل کو منظور کریں۔

پائپ لائن کی تعیناتی کے مرحلے کو شروع کرنے کے لیے ایک منظور شدہ ماڈل کی ضرورت ہوتی ہے۔ پرائمری ریجن میں تعیناتی کے لیے یہ ضروری ہے۔

1. اسٹوڈیو (بنیادی علاقہ) میں، منتخب کریں۔ سیج میکر کے وسائل نیوی گیشن پین میں.
2. کے لئے دیکھنے کے لیے وسائل کا انتخاب کریں۔منتخب کریں ماڈل رجسٹری.
3. اپنے پروجیکٹ کے نام سے شروع ہونے والے ماڈل گروپ کا نام منتخب کریں۔
4. دائیں پین میں، ماڈل ورژن، سٹیج اور سٹیٹس چیک کریں۔
5. اگر اسٹیٹس زیر التواء دکھائی دیتا ہے، ماڈل ورژن منتخب کریں اور پھر منتخب کریں۔ اپ ڈیٹ کی حیثیت.
6. اسٹیٹس کو میں تبدیل کریں۔ منظوری دے دی، پھر منتخب کریں اپ ڈیٹ کی حیثیت.

تعینات کریں اور تبدیلیوں کی تصدیق کریں۔

آپ کے سیج میکر انفرنس اینڈ پوائنٹ کی ملٹی ریجن تعیناتی کے لیے درکار تمام تبدیلیاں اب مکمل ہو چکی ہیں اور آپ تعیناتی کا عمل شروع کر سکتے ہیں۔

1. سٹوڈیو میں، آپ کی ترمیم کردہ تمام فائلوں کو محفوظ کریں، منتخب کریں۔ جاؤ، اور اپنے پروجیکٹ کے نام پر مشتمل اور deploy کے ساتھ ختم ہونے والے ذخیرہ کا انتخاب کریں۔
2. تبدیلیاں کرنے کے لیے جمع کا نشان منتخب کریں۔
3. کے تحت تبدیل ہوگیاشامل کریں build.py اور buildspec.yml.
4. کے تحت ٹریک نہیں کیا گیا۔شامل کریں endpoint-config-template-secondary-region.yml اور secondary-region-config.json.
5. میں ایک تبصرہ درج کریں۔ خلاصہ فیلڈ اور منتخب کریں۔ عہد.
6. منتخب کرکے تبدیلیوں کو ذخیرہ میں دھکیلیں۔ پش.

ان تبدیلیوں کو CodeCommit ریپوزٹری میں دھکیلنے سے ایک نئی پائپ لائن چلتی ہے، کیونکہ ایک EventBridge ایونٹ پشڈ کمٹ کی نگرانی کرتا ہے۔ چند لمحوں کے بعد، آپ کوڈ پائپ لائن کنسول پر پائپ لائن پر نیویگیٹ کر کے رن کی نگرانی کر سکتے ہیں۔

پروڈکشن اور سیکنڈری ریجن میں تعیناتی کے لیے دستی منظوری فراہم کرنا یقینی بنائیں۔

آپ اس بات کی تصدیق کر سکتے ہیں کہ سیج میکر کنسول پر سیکنڈری ریجن اینڈ پوائنٹ بنایا گیا ہے۔ ڈیش بورڈ نیویگیشن پین میں اور اختتامی نقطہ کی حیثیت کی تصدیق کرنا حالیہ سرگرمی.

API گیٹ وے اور روٹ 53 شامل کریں (اختیاری)

آپ اختیاری طور پر میں دی گئی ہدایات پر عمل کر سکتے ہیں۔ ایمیزون API گیٹ وے اور اے ڈبلیو ایس لیمبڈا کا استعمال کرتے ہوئے ایمیزون سیج میکر ماڈل اینڈ پوائنٹ کو کال کریں۔ ایک API کے طور پر سیکنڈری ریجن میں سیج میکر انفرنس اینڈ پوائنٹ کو بے نقاب کرنے کے لیے API گیٹ وے اور لیمبڈا کا استعمال کرتے ہوئے.

صاف کرو

سیج میکر پروجیکٹ کو حذف کرنے کے لیے دیکھیں ایمیزون سیج میکر اسٹوڈیو کا استعمال کرتے ہوئے ایک MLOps پروجیکٹ کو حذف کریں۔. اس بات کو یقینی بنانے کے لیے کہ سیکنڈری انفرنس اینڈ پوائنٹ کو تباہ کر دیا گیا ہے، AWS CloudFormation کنسول پر جائیں اور اپنے پرائمری اور سیکنڈری ریجنز میں متعلقہ اسٹیکس کو حذف کریں۔ اس سے سیج میکر انفرنس اینڈ پوائنٹس کو تباہ کر دیا جاتا ہے۔

نتیجہ

اس پوسٹ میں، ہم نے دکھایا کہ کس طرح ایک MLOps ماہر اپنے ملٹی ریجن کی تعیناتی کے استعمال کے کیس کے لیے پہلے سے تشکیل شدہ MLOps ٹیمپلیٹ میں ترمیم کر سکتا ہے، جیسے کہ متعدد جغرافیوں میں کام کے بوجھ کو تعینات کرنا یا کثیر علاقائی تباہی کی بحالی کی حکمت عملی کو نافذ کرنے کے حصے کے طور پر۔ اس تعیناتی نقطہ نظر کے ساتھ، آپ کو ثانوی علاقے میں خدمات کو ترتیب دینے کی ضرورت نہیں ہے اور کراس ریجنل تعیناتی کے لیے پرائمری ریجن میں CodePipeline اور CloudBuild سیٹ اپس کو دوبارہ استعمال کر سکتے ہیں۔ مزید برآں، آپ پرائمری ریجن میں اپنے ماڈلز کی ٹریننگ جاری رکھ کر لاگت میں بچت کر سکتے ہیں جبکہ عالمی سطح پر اپنی AI/ML تعیناتی کو سکیل کرنے کے لیے متعدد ریجنز میں SageMaker انفرنس کا استعمال کر سکتے ہیں۔

براہ کرم ہمیں تبصرے کے سیکشن میں اپنی رائے سے آگاہ کریں۔

مصنفین کے بارے میں

مہران نجفی، پی ایچ ڈی، AWS کے لیے ایک سینئر سولیوشن آرکیٹیکٹ ہے جو اسکیل پر AI/ML اور SaaS سلوشنز پر مرکوز ہے۔

اسٹیون ایلیخن AWS کے لیے ایک سینئر سولیوشن آرکیٹیکٹ ہے جس کی توجہ MLOps پر اسکیل پر ہے۔