যেহেতু মেশিন লার্নিং (ML) মূলধারায় চলে যায় এবং ব্যাপকভাবে গ্রহণ করে, এমএল-চালিত অনুমান অ্যাপ্লিকেশনগুলি জটিল ব্যবসায়িক সমস্যার একটি পরিসর সমাধানের জন্য ক্রমশ সাধারণ হয়ে উঠছে। এই জটিল ব্যবসায়িক সমস্যার সমাধানের জন্য প্রায়শই একাধিক এমএল মডেল এবং ধাপ ব্যবহার করতে হয়। এই পোস্টটি আপনাকে দেখায় কিভাবে কাস্টম কন্টেইনার দিয়ে একটি ML অ্যাপ্লিকেশন তৈরি এবং হোস্ট করতে হয় আমাজন সেজমেকার.
অ্যামাজন সেজমেকার অফার করে অন্তর্নির্মিত অ্যালগরিদম এবং পূর্ব-নির্মিত সেজমেকার মডেল স্থাপনার জন্য ডকার ইমেজ। কিন্তু, যদি এগুলি আপনার প্রয়োজনের সাথে খাপ খায় না, তবে আপনি Amazon SageMaker-এ হোস্ট করার জন্য আপনার নিজস্ব কন্টেইনার (BYOC) আনতে পারেন।
অনেকগুলি ব্যবহারের ক্ষেত্রে রয়েছে যেখানে ব্যবহারকারীদের Amazon SageMaker-এ হোস্ট করার জন্য BYOC এর প্রয়োজন হতে পারে।
- কাস্টম এমএল ফ্রেমওয়ার্ক বা লাইব্রেরি: আপনি যদি একটি এমএল ফ্রেমওয়ার্ক বা লাইব্রেরি ব্যবহার করার পরিকল্পনা করেন যা Amazon SageMaker বিল্ট-ইন অ্যালগরিদম বা প্রি-বিল্ট কন্টেনার দ্বারা সমর্থিত নয়, তাহলে আপনাকে একটি কাস্টম কন্টেইনার তৈরি করতে হবে।
- বিশেষায়িত মডেল: নির্দিষ্ট ডোমেন বা শিল্পের জন্য, আপনাকে নির্দিষ্ট মডেল আর্কিটেকচার বা উপযোগী প্রিপ্রসেসিং পদক্ষেপের প্রয়োজন হতে পারে যা বিল্ট-ইন Amazon SageMaker অফারে উপলব্ধ নয়।
- মালিকানা অ্যালগরিদম: আপনি যদি আপনার নিজের মালিকানাধীন অ্যালগরিদমগুলি ইনহাউস তৈরি করে থাকেন, তাহলে আপনাকে Amazon SageMaker-এ স্থাপন করার জন্য একটি কাস্টম ধারক প্রয়োজন হবে৷
- জটিল অনুমান পাইপলাইন: যদি আপনার এমএল ইনফারেন্স ওয়ার্কফ্লোতে কাস্টম ব্যবসায়িক যুক্তি জড়িত থাকে — জটিল পদক্ষেপগুলির একটি সিরিজ যা একটি নির্দিষ্ট ক্রমে কার্যকর করা দরকার — তাহলে BYOC আপনাকে এই পদক্ষেপগুলি আরও দক্ষতার সাথে পরিচালনা এবং অর্কেস্ট্রেট করতে সহায়তা করতে পারে।
সমাধান ওভারভিউ
এই সমাধানে, আমরা দেখাই কিভাবে আমাজন সেজমেকারে একটি এমএল সিরিয়াল ইনফারেন্স অ্যাপ্লিকেশন হোস্ট করতে হয় রিয়েল-টাইম এন্ডপয়েন্ট সহ দুটি কাস্টম ইনফারেন্স কন্টেইনার ব্যবহার করে। scikit-learn
এবং xgboost
প্যাকেজ।
প্রথম ধারক একটি ব্যবহার করে scikit-learn
বৈশিষ্ট্যযুক্ত কলামে কাঁচা ডেটা রূপান্তর করার মডেল। এটা প্রযোজ্য স্ট্যান্ডার্ডস্কেলার সংখ্যাসূচক কলামের জন্য এবং OneHotEncoder শ্রেণীবদ্ধ বেশী.
দ্বিতীয় ধারক একটি pretrained হোস্ট XGboost
মডেল (অর্থাৎ, ভবিষ্যদ্বাণীকারী)। ভবিষ্যদ্বাণীকারী মডেল বৈশিষ্ট্যযুক্ত ইনপুট গ্রহণ করে এবং পূর্বাভাস আউটপুট করে।
অবশেষে, আমরা স্থাপন ফিচারাইজার এবং ভবিষ্যদ্বাণী একটি অ্যামাজন সেজমেকার রিয়েল-টাইম এন্ডপয়েন্টে সিরিয়াল-ইনফারেন্স পাইপলাইনে।
আপনি কেন আপনার অনুমান আবেদনের মধ্যে আলাদা পাত্র রাখতে চাইতে পারেন সে সম্পর্কে এখানে কয়েকটি ভিন্ন বিবেচনা রয়েছে।
- Decoupling - পাইপলাইনের বিভিন্ন ধাপের একটি সুস্পষ্টভাবে সংজ্ঞায়িত উদ্দেশ্য রয়েছে এবং জড়িত অন্তর্নিহিত নির্ভরতার কারণে পৃথক পাত্রে চালানো প্রয়োজন। এটি পাইপলাইনকে সুগঠিত রাখতেও সাহায্য করে।
- ফ্রেমওয়ার্ক – পাইপলাইনের বিভিন্ন ধাপে নির্দিষ্ট ফিট-ফর-পারপাস ফ্রেমওয়ার্ক ব্যবহার করা হয় (যেমন স্কিট বা স্পার্ক এমএল) এবং তাই আলাদা পাত্রে চালানো প্রয়োজন।
- সম্পদ বিচ্ছিন্নতা - পাইপলাইনের বিভিন্ন ধাপে বিভিন্ন সম্পদ খরচের প্রয়োজনীয়তা রয়েছে এবং তাই আরও নমনীয়তা এবং নিয়ন্ত্রণের জন্য আলাদা পাত্রে চালানো প্রয়োজন।
- রক্ষণাবেক্ষণ এবং আপগ্রেড - একটি অপারেশনাল দৃষ্টিকোণ থেকে, এটি কার্যকরী বিচ্ছিন্নতাকে উৎসাহিত করে এবং আপনি অন্যান্য মডেলগুলিকে প্রভাবিত না করেই আরও সহজে পৃথক পদক্ষেপগুলি আপগ্রেড বা সংশোধন করা চালিয়ে যেতে পারেন।
উপরন্তু, পৃথক পাত্রের স্থানীয় নির্মাণ প্রিয় সরঞ্জাম এবং সমন্বিত উন্নয়ন পরিবেশ (আইডিই) দিয়ে বিকাশ এবং পরীক্ষার পুনরাবৃত্তিমূলক প্রক্রিয়ায় সহায়তা করে। কনটেইনারগুলি প্রস্তুত হয়ে গেলে, আপনি Amazon SageMaker এন্ডপয়েন্ট ব্যবহার করে অনুমানের জন্য AWS ক্লাউডে তাদের স্থাপন করতে পারেন।
কোড স্নিপেট সহ সম্পূর্ণ বাস্তবায়ন এই Github সংগ্রহস্থলে উপলব্ধ এখানে.
পূর্বশর্ত
যেহেতু আমরা প্রথমে স্থানীয়ভাবে এই কাস্টম কন্টেনারগুলি পরীক্ষা করি, আমাদের আপনার স্থানীয় কম্পিউটারে ডকার ডেস্কটপ ইনস্টল করতে হবে। ডকার কন্টেইনার নির্মাণের সাথে আপনার পরিচিত হওয়া উচিত।
এই অ্যাপ্লিকেশনটি এন্ড-টু-এন্ড পরীক্ষা করার জন্য আপনাকে Amazon SageMaker, Amazon ECR এবং Amazon S3-এ অ্যাক্সেস সহ একটি AWS অ্যাকাউন্টের প্রয়োজন হবে।
আপনার কাছে এর সর্বশেষ সংস্করণ আছে তা নিশ্চিত করুন Boto3
এবং Amazon SageMaker Python প্যাকেজ ইনস্টল করা হয়েছে:
সমাধান ওয়াকথ্রু
কাস্টম ফিচারাইজার ধারক তৈরি করুন
প্রথম ধারক, ফিচারাইজার কন্টেইনার তৈরি করতে, আমরা একটি প্রশিক্ষণ দিই scikit-learn
মধ্যে কাঁচা বৈশিষ্ট্য প্রক্রিয়া করার মডেল ঝিনুক ডেটাসেট প্রিপ্রসেসিং স্ক্রিপ্ট ব্যবহার করে সরল ইম্পিউটার অনুপস্থিত মান পরিচালনার জন্য, স্ট্যান্ডার্ডস্কেলার সংখ্যাসূচক কলাম স্বাভাবিক করার জন্য, এবং OneHotEncoder শ্রেণীবদ্ধ কলাম রূপান্তর করার জন্য। ট্রান্সফরমার লাগানোর পরে, আমরা মডেলটি সংরক্ষণ করি joblib বিন্যাস তারপরে আমরা একটি অ্যামাজন সিম্পল স্টোরেজ সার্ভিসে (আমাজন S3) বালতি।
এখানে একটি নমুনা কোড স্নিপেট যা এটি প্রদর্শন করে। নির্দেশ করে featurizer.ipynb সম্পূর্ণ বাস্তবায়নের জন্য:
এরপরে, ফিচারাইজার মডেলের জন্য একটি কাস্টম ইনফারেন্স কন্টেইনার তৈরি করতে, আমরা ফিচারাইজার মডেলের জন্য অন্যান্য প্রয়োজনীয় নির্ভরতা সহ nginx, gunicorn, ফ্লাস্ক প্যাকেজ সহ একটি ডকার ইমেজ তৈরি করি।
Nginx, gunicorn এবং Flask অ্যাপ মডেল সার্ভিং স্ট্যাক হিসেবে কাজ করবে অ্যামাজন সেজমেকার রিয়েল-টাইম এন্ডপয়েন্টে।
Amazon SageMaker-এ হোস্টিংয়ের জন্য কাস্টম কন্টেইনার আনার সময়, আমাদের নিশ্চিত করতে হবে যে কনটেইনারের ভিতরে চালু হওয়ার পরে অনুমান স্ক্রিপ্ট নিম্নলিখিত কাজগুলি সম্পাদন করে:
- মডেল লোড হচ্ছে: অনুমান লিপি (
preprocessing.py
) উল্লেখ করা উচিত/opt/ml/model
কন্টেইনারে মডেল লোড করার জন্য ডিরেক্টরি। Amazon S3-এর মডেল আর্টিফ্যাক্টগুলি ডাউনলোড করা হবে এবং পাথের পাত্রে মাউন্ট করা হবে/opt/ml/model
. - পরিবেশ পরিবর্তনশীল: কন্টেইনারে কাস্টম এনভায়রনমেন্ট ভেরিয়েবল পাস করতে, আপনাকে অবশ্যই সেগুলি নির্দিষ্ট করতে হবে মডেল সৃষ্টি পদক্ষেপ বা সময় শেষপ্রান্ত একটি প্রশিক্ষণ কাজ থেকে সৃষ্টি.
- API প্রয়োজনীয়তা: অনুমান স্ক্রিপ্ট উভয়ই বাস্তবায়ন করতে হবে
/ping
এবং/invocations
একটি ফ্লাস্ক অ্যাপ্লিকেশন হিসাবে রুট. দ্য/ping
API স্বাস্থ্য পরীক্ষার জন্য ব্যবহার করা হয়, যখন/invocations
API অনুমানের অনুরোধগুলি পরিচালনা করে। - লগিং: অনুমান স্ক্রিপ্টে আউটপুট লগগুলি অবশ্যই স্ট্যান্ডার্ড আউটপুটে লিখতে হবে (stdout) এবং স্ট্যান্ডার্ড ত্রুটি (stderr) প্রবাহ। এই লগগুলি তারপর স্ট্রিম করা হয় অ্যামাজন ক্লাউডওয়াচ অ্যামাজন সেজমেকার দ্বারা।
এখানে থেকে একটি স্নিপেট preprocessing.py
যে এর বাস্তবায়ন দেখায় /ping
এবং /invocations
.
নির্দেশ করে preprocessing.py সম্পূর্ণ বাস্তবায়নের জন্য ফিচারাইজার ফোল্ডারের অধীনে।
ফিচারাইজার এবং মডেল সার্ভিং স্ট্যাকের সাথে ডকার ইমেজ তৈরি করুন
আসুন এখন একটি কাস্টম বেস ইমেজ ব্যবহার করে একটি ডকারফাইল তৈরি করি এবং প্রয়োজনীয় নির্ভরতা ইনস্টল করি।
এই জন্য, আমরা ব্যবহার করি python:3.9-slim-buster
বেস ইমেজ হিসাবে। আপনি এটি আপনার ব্যবহারের ক্ষেত্রে প্রাসঙ্গিক অন্য কোনো বেস ইমেজ পরিবর্তন করতে পারেন।
তারপরে আমরা nginx কনফিগারেশন, gunicorn এর ওয়েব সার্ভার গেটওয়ে ফাইল এবং অনুমান স্ক্রিপ্ট কন্টেইনারে অনুলিপি করি। আমরা সার্ভ নামে একটি পাইথন স্ক্রিপ্টও তৈরি করি যা ব্যাকগ্রাউন্ডে nginx এবং gunicorn প্রসেস চালু করে এবং কনটেইনারের এন্ট্রি পয়েন্ট হিসেবে ইনফারেন্স স্ক্রিপ্ট (যেমন, preprocessing.py ফ্লাস্ক অ্যাপ্লিকেশন) সেট করে।
এখানে ফিচারাইজার মডেল হোস্ট করার জন্য ডকারফাইলের একটি স্নিপেট রয়েছে। সম্পূর্ণ বাস্তবায়নের জন্য পড়ুন Dockerfile অধীনে ফিচারাইজার ফোল্ডার.
স্থানীয়ভাবে ফিচারাইজার দিয়ে কাস্টম ইনফারেন্স ইমেজ পরীক্ষা করুন
এখন, আমাজন ব্যবহার করে স্থানীয়ভাবে ফিচারাইজার সহ কাস্টম ইনফারেন্স কন্টেইনার তৈরি এবং পরীক্ষা করুন সেজমেকার স্থানীয় মোড. স্থানীয় মোড Amazon SageMaker-এ কোনো কাজ চালু না করেই আপনার প্রক্রিয়াকরণ, প্রশিক্ষণ এবং অনুমান স্ক্রিপ্ট পরীক্ষা করার জন্য উপযুক্ত। আপনার স্থানীয় পরীক্ষার ফলাফল নিশ্চিত করার পরে, আপনি ন্যূনতম পরিবর্তন সহ Amazon SageMaker-এ স্থাপনার জন্য প্রশিক্ষণ এবং অনুমান স্ক্রিপ্টগুলি সহজেই মানিয়ে নিতে পারেন।
স্থানীয়ভাবে ফিচারাইজার কাস্টম ইমেজ পরীক্ষা করতে, প্রথমে পূর্বে সংজ্ঞায়িত ব্যবহার করে ইমেজ তৈরি করুন Dockerfile. তারপর, ফিচারাইজার মডেল ধারণকারী ডিরেক্টরি মাউন্ট করে একটি ধারক চালু করুন (preprocess.joblib
) থেকে /opt/ml/model
ধারক ভিতরে ডিরেক্টরি. অতিরিক্তভাবে, কন্টেইনার থেকে হোস্টে ম্যাপ পোর্ট 8080।
একবার চালু হলে, আপনি অনুমান অনুরোধ পাঠাতে পারেন http://localhost:8080/invocations.
ধারক তৈরি এবং চালু করতে, একটি টার্মিনাল খুলুন এবং নিম্নলিখিত কমান্ডগুলি চালান।
মনে রাখবেন আপনি প্রতিস্থাপন করা উচিত <IMAGE_NAME>
, আপনার ধারকটির ছবির নামের সাথে নিম্নলিখিত কোডে দেখানো হয়েছে।
নিম্নলিখিত কমান্ডটিও অনুমান করে যে প্রশিক্ষণপ্রাপ্ত scikit-learn
মডেল (preprocess.joblib
) নামক একটি ডিরেক্টরির অধীনে উপস্থিত রয়েছে models
.
ধারক আপ এবং চলমান পরে, আমরা উভয় পরীক্ষা করতে পারেন /পিং এবং /আমন্ত্রণ কার্ল কমান্ড ব্যবহার করে রুট।
একটি টার্মিনাল থেকে নীচের কমান্ড চালান
যখন কাঁচা (অপরিবর্তিত) ডেটা পাঠানো হয় http://localhost:8080/invocations, শেষবিন্দু রূপান্তরিত ডেটার সাথে প্রতিক্রিয়া জানায়।
আপনি নিম্নলিখিত অনুরূপ প্রতিক্রিয়া দেখতে হবে:
আমরা এখন চলমান কন্টেইনারটি বন্ধ করে দিই, এবং তারপর স্থানীয় কাস্টম ইমেজটিকে একটি ব্যক্তিগত অ্যামাজন ইলাস্টিক কন্টেইনার রেজিস্ট্রিতে ট্যাগ করে পুশ করি (আমাজন ইসিআর) ভান্ডার।
অ্যামাজন ইসিআর-এ লগইন করতে নিম্নলিখিত কমান্ডগুলি দেখুন, যা স্থানীয় চিত্রটিকে সম্পূর্ণ অ্যামাজন ইসিআর চিত্র পাথ দিয়ে ট্যাগ করে এবং তারপরে ছবিটিকে অ্যামাজন ইসিআর-এ পুশ করে। আপনি প্রতিস্থাপন নিশ্চিত করুন region
এবং account
ভেরিয়েবল আপনার পরিবেশের সাথে মেলে।
নির্দেশ করে একটি সংগ্রহস্থল তৈরি করুন এবং অ্যামাজন ইসিআর-এ একটি ছবি পুশ করুন AWS কমান্ড লাইন ইন্টারফেস (এডাব্লুএস সি এল আই) আরও তথ্যের জন্য কমান্ড।
ঐচ্ছিক পদক্ষেপ
ঐচ্ছিকভাবে, আপনি Amazon ECR-তে কাস্টম ডকার ইমেজ সহ একটি রিয়েল-টাইম এন্ডপয়েন্টে ফিচারাইজার মডেল স্থাপন করে একটি লাইভ পরীক্ষা করতে পারেন। নির্দেশ করে featurizer.ipynb আমাজন ইসিআর-এ কাস্টম ইমেজ তৈরি, পরীক্ষা এবং পুশ করার সম্পূর্ণ বাস্তবায়নের জন্য নোটবুক।
Amazon SageMaker অনুমান শেষ বিন্দু শুরু করে এবং মডেলের নিদর্শনগুলি অনুলিপি করে /opt/ml/model
ধারক ভিতরে ডিরেক্টরি. দেখা কিভাবে SageMaker আপনার মডেল শিল্পকর্ম লোড করে.
কাস্টম XGBoost ভবিষ্যদ্বাণীকারী ধারক তৈরি করুন
XGBoost ইনফারেন্স কন্টেইনার তৈরি করার জন্য আমরা ফিচারাইজার কন্টেইনারের জন্য ইমেজ তৈরি করার সময় অনুরূপ পদক্ষেপগুলি অনুসরণ করি:
- প্রি-ট্রেইনড ডাউনলোড করুন
XGBoost
Amazon S3 থেকে মডেল। - তৈরি করুন
inference.py
স্ক্রিপ্ট যা পূর্বপ্রশিক্ষিত লোড করেXGBoost
মডেল, ফিচারাইজার থেকে প্রাপ্ত রূপান্তরিত ইনপুট ডেটা রূপান্তর করে এবং এতে রূপান্তর করেXGBoost.DMatrix
বিন্যাস, রানpredict
বুস্টারে, এবং json বিন্যাসে পূর্বাভাস প্রদান করে। - স্ক্রিপ্ট এবং কনফিগারেশন ফাইল যা মডেল সার্ভিং স্ট্যাক গঠন করে (যেমন,
nginx.conf
,wsgi.py
, এবংserve
একই থাকে এবং কোন পরিবর্তনের প্রয়োজন নেই। - আমরা ব্যাবহার করি
Ubuntu:18.04
ডকারফাইলের ভিত্তি চিত্র হিসাবে। এটি একটি পূর্বশর্ত নয়। আমরা উবুন্টু বেস ইমেজ ব্যবহার করি তা দেখাতে যে কোন বেস ইমেজ দিয়ে কন্টেইনার তৈরি করা যায়। - গ্রাহক ডকার ইমেজ তৈরি, স্থানীয়ভাবে ইমেজ পরীক্ষা করা এবং অ্যামাজন ইসিআর-এ পরীক্ষিত ছবি পুশ করার ধাপগুলো আগের মতোই থাকে।
সংক্ষিপ্ততার জন্য, যেমন পদক্ষেপগুলি পূর্বে দেখানো হয়েছে; যাইহোক, আমরা শুধুমাত্র নিম্নলিখিত পরিবর্তিত কোডিং দেখাই।
প্রথম, দী inference.py
লিপি. এখানে একটি স্নিপেট এর বাস্তবায়ন দেখায় /ping
এবং /invocations
। নির্দেশ করে inference.py অধীনে ভবিষ্যদ্বাণী এই ফাইলটির সম্পূর্ণ বাস্তবায়নের জন্য ফোল্ডার।
ভবিষ্যদ্বাণীকারী মডেল হোস্ট করার জন্য এখানে ডকারফাইলের একটি স্নিপেট রয়েছে। সম্পূর্ণ বাস্তবায়নের জন্য পড়ুন Dockerfile ভবিষ্যদ্বাণীকারী ফোল্ডারের অধীনে।
তারপরে আমরা এই কাস্টম ভবিষ্যদ্বাণীকারী চিত্রটি তৈরি করা, পরীক্ষা করা এবং অ্যামাজন ইসিআর-এর একটি ব্যক্তিগত সংগ্রহস্থলে পুশ করা চালিয়ে যাচ্ছি। নির্দেশ করে predictor.ipynb আমাজন ইসিআর-এ কাস্টম ইমেজ তৈরি, পরীক্ষা এবং পুশ করার সম্পূর্ণ বাস্তবায়নের জন্য নোটবুক।
সিরিয়াল ইনফারেন্স পাইপলাইন স্থাপন করুন
আমরা ফিচারাইজার এবং ভবিষ্যদ্বাণীকারী ছবি উভয়ই পরীক্ষা করার পরে এবং সেগুলিকে Amazon ECR-তে ঠেলে দেওয়ার পরে, আমরা এখন আমাদের মডেল শিল্পকর্মগুলি একটি Amazon S3 বালতিতে আপলোড করি৷
তারপর, আমরা দুটি মডেল অবজেক্ট তৈরি করি: একটি এর জন্য featurizer
(অর্থাত, preprocess.joblib
) এবং অন্যান্য জন্য predictor
(অর্থাত, xgboost-model
) আমরা আগে তৈরি কাস্টম ইমেজ uri নির্দিষ্ট করে।
এখানে একটি স্নিপেট যে দেখায়. নির্দেশ করে serial-inference-pipeline.ipynb সম্পূর্ণ বাস্তবায়নের জন্য।
এখন, এই কন্টেইনারগুলিকে সিরিয়াল ফ্যাশনে স্থাপন করার জন্য, আমরা প্রথমে একটি তৈরি করি পাইপলাইন মডেল বস্তু এবং পাস featurizer
মডেল এবং predictor
একই ক্রমে একটি পাইথন তালিকা বস্তুর মডেল.
তারপর, আমরা কল .deploy()
পদ্ধতিতে পাইপলাইন মডেল দৃষ্টান্তের ধরন এবং দৃষ্টান্ত গণনা নির্দিষ্ট করা।
এই পর্যায়ে, Amazon SageMaker একটি রিয়েল-টাইম এন্ডপয়েন্টে সিরিয়াল ইনফারেন্স পাইপলাইন স্থাপন করে। আমরা শেষ বিন্দু হওয়ার জন্য অপেক্ষা করি InService
.
আমরা এখন এই লাইভ এন্ডপয়েন্টে কিছু অনুমান অনুরোধ পাঠিয়ে শেষবিন্দু পরীক্ষা করতে পারি।
নির্দেশ করে serial-inference-pipeline.ipynb সম্পূর্ণ বাস্তবায়নের জন্য।
পরিষ্কার কর
আপনি পরীক্ষা শেষ করার পরে, অপ্রয়োজনীয় চার্জ এড়াতে এই পোস্টে দেওয়া সংস্থানগুলি মুছে ফেলার জন্য নোটবুকের ক্লিনআপ বিভাগে নির্দেশাবলী অনুসরণ করুন। নির্দেশ করে অ্যামাজন সেজমেকার প্রাইসিং অনুমান দৃষ্টান্ত খরচ বিস্তারিত জানার জন্য.
উপসংহার
এই পোস্টে, আমি দেখিয়েছি কিভাবে আমরা Amazon SageMaker-এ রিয়েল-টাইম এন্ডপয়েন্টে কাস্টম ইনফারেন্স কন্টেনার ব্যবহার করে একটি সিরিয়াল এমএল ইনফারেন্স অ্যাপ্লিকেশন তৈরি এবং স্থাপন করতে পারি।
এই সমাধানটি দেখায় কিভাবে গ্রাহকরা তাদের নিজস্ব কাস্টম পাত্রে Amazon SageMaker-এ হোস্ট করার জন্য একটি সাশ্রয়ী পদ্ধতিতে আনতে পারেন। BYOC বিকল্পের সাহায্যে, গ্রাহকরা দ্রুত তাদের ML অ্যাপ্লিকেশনগুলি তৈরি করতে এবং মানিয়ে নিতে পারেন যাতে Amazon SageMaker-এ স্থাপন করা হয়।
আমরা আপনাকে আপনার ব্যবসার কী পারফরম্যান্স ইন্ডিকেটর (KPIs) এর সাথে প্রাসঙ্গিক ডেটাসেট দিয়ে এই সমাধানটি চেষ্টা করার জন্য উত্সাহিত করি। আপনি এই সম্পূর্ণ সমাধান উল্লেখ করতে পারেন GitHub সংগ্রহস্থল.
তথ্যসূত্র
লেখক সম্পর্কে
প্রবীণ চামারথি অ্যামাজন ওয়েব পরিষেবার একজন সিনিয়র এআই/এমএল বিশেষজ্ঞ। তিনি AI/ML এবং সমস্ত কিছু AWS সম্পর্কে উত্সাহী। তিনি আমেরিকা জুড়ে গ্রাহকদের AWS-এ দক্ষতার সাথে ML কাজের চাপ স্কেল, উদ্ভাবন এবং পরিচালনা করতে সহায়তা করেন। তার অবসর সময়ে, প্রবীণ পড়তে ভালোবাসে এবং সাই-ফাই সিনেমা উপভোগ করে।
- এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
- PlatoData.Network উল্লম্ব জেনারেটিভ Ai. নিজেকে ক্ষমতায়িত করুন। এখানে প্রবেশ করুন.
- প্লেটোএআইস্ট্রিম। Web3 ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
- প্লেটোইএসজি। কার্বন, ক্লিনটেক, শক্তি, পরিবেশ সৌর, বর্জ্য ব্যবস্থাপনা. এখানে প্রবেশ করুন.
- প্লেটো হেলথ। বায়োটেক এবং ক্লিনিক্যাল ট্রায়াল ইন্টেলিজেন্স। এখানে প্রবেশ করুন.
- উত্স: https://aws.amazon.com/blogs/machine-learning/build-and-deploy-ml-inference-applications-from-scratch-using-amazon-sagemaker/
- : আছে
- : হয়
- :না
- :কোথায়
- $ ইউপি
- 08
- 09
- 1
- 10
- 100
- 11
- 13
- 14
- 150
- 16
- 17
- 20
- 200
- 2023
- 25
- 28
- 30
- 500
- 7
- 8
- 87
- 9
- a
- সম্পর্কে
- সমর্থন দিন
- গ্রহণ
- প্রবেশ
- তদনুসারে
- হিসাব
- দিয়ে
- খাপ খাওয়ানো
- উপরন্তু
- গ্রহণ
- প্রভাবিত
- পর
- এআই / এমএল
- আলগোরিদিম
- সব
- বরাবর
- এছাড়াও
- মর্দানী স্ত্রীলোক
- আমাজন সেজমেকার
- অ্যামাজন ওয়েব সার্ভিসেস
- আমেরিকা
- an
- এবং
- কোন
- API
- অ্যাপ্লিকেশন
- আবেদন
- অ্যাপ্লিকেশন
- প্রযোজ্য
- এপ্রিল
- রয়েছি
- বিন্যাস
- AS
- অনুমান
- At
- সহজলভ্য
- এড়াতে
- ডেস্কটপ AWS
- পটভূমি
- ভিত্তি
- ভিত্তি
- BE
- মানানসই
- আগে
- হচ্ছে
- নিচে
- শরীর
- সহায়তাকারী
- উভয়
- আনা
- আনয়ন
- নির্মাণ করা
- ভবন
- নির্মিত
- বিল্ট-ইন
- পাঁজা
- ব্যবসায়
- কিন্তু
- by
- কল
- নামক
- CAN
- কেস
- মামলা
- ক্যাট
- কিছু
- পরিবর্তন
- পরিবর্তিত
- পরিবর্তন
- চার্জ
- চেক
- চেক
- পরিষ্কারভাবে
- মেঘ
- কোড
- কোডিং
- স্তম্ভ
- কলাম
- এর COM
- সাধারণ
- জটিল
- কম্পিউটার
- কনফিগারেশন
- সংযুক্ত
- সংযোগ
- বিবেচ্য বিষয়
- ধ্রুব
- গঠন করা
- খরচ
- আধার
- কন্টেনারগুলি
- বিষয়বস্তু
- সুখী
- অবিরত
- নিয়ন্ত্রণ
- রূপান্তর
- মূল্য
- পারা
- সৃষ্টি
- তৈরি করা হচ্ছে
- সৃষ্টি
- পরিচয়পত্র
- প্রথা
- ক্রেতা
- গ্রাহকদের
- উপাত্ত
- তারিখ
- নির্ধারণ করা
- সংজ্ঞায়িত
- প্রদর্শন
- প্রমান
- নির্ভরতা
- স্থাপন
- মোতায়েন
- মোতায়েন
- বিস্তৃতি
- স্থাপন
- ডেস্কটপ
- বিস্তারিত
- নির্ধারিত
- উন্নত
- উন্নয়ন
- অভি
- DID
- বিভিন্ন
- ডকশ্রমিক
- ডোমেইনের
- সম্পন্ন
- Dont
- কারণে
- সময়
- e
- পূর্বে
- সহজে
- দক্ষতার
- আর
- উত্সাহিত করা
- সর্বশেষ সীমা
- শেষপ্রান্ত
- নিশ্চিত করা
- সমগ্র
- প্রবেশ
- পরিবেশ
- পরিবেশের
- ভুল
- ইত্যাদি
- উদাহরণ
- ছাড়া
- ব্যতিক্রম
- নিষ্পন্ন
- পরিচিত
- ফ্যাশন
- প্রিয়
- বৈশিষ্ট্য
- কয়েক
- ফাইল
- নথি পত্র
- প্রথম
- ফিট
- মানানসই
- নমনীয়তা
- অনুসরণ করা
- অনুসরণ
- জন্য
- ফর্ম
- বিন্যাস
- পাওয়া
- ফ্রেমওয়ার্ক
- অবকাঠামো
- থেকে
- সম্পূর্ণ
- ক্রিয়া
- কার্মিক
- একেই
- প্রবেশপথ
- পাওয়া
- GitHub
- GMT
- Goes
- হাতল
- হ্যান্ডলগুলি
- হ্যান্ডলিং
- আছে
- he
- স্বাস্থ্য
- উচ্চতা
- সাহায্য
- সাহায্য
- তার
- নিমন্ত্রণকর্তা
- হোস্টিং
- হোস্ট
- কিভাবে
- কিভাবে
- যাহোক
- এইচটিএমএল
- HTTP
- HTTPS দ্বারা
- i
- if
- ভাবমূর্তি
- চিত্র
- বাস্তবায়ন
- বাস্তবায়ন
- আমদানি
- in
- অন্তর্ভুক্ত
- সুদ্ধ
- ক্রমবর্ধমানভাবে
- সূচক
- স্বতন্ত্র
- শিল্প
- তথ্য
- বাড়িতে
- পরিবর্তন করা
- ইনপুট
- ভিতরে
- ইনস্টল
- ইনস্টল
- উদাহরণ
- নির্দেশাবলী
- সংহত
- ইন্টারফেস
- মধ্যে
- জড়িত
- বিচ্ছিন্নতা
- IT
- কাজ
- জবস
- JPG
- JSON
- রাখা
- চাবি
- লেবেল
- সর্বশেষ
- শুরু করা
- চালু
- লঞ্চ
- চালু করা
- শিক্ষা
- বাম
- লম্বা
- লাইব্রেরি
- লাইন
- তালিকা
- তালিকাভুক্ত
- জীবিত
- বোঝা
- বোঝাই
- লোড
- স্থানীয়
- স্থানীয়ভাবে
- যুক্তিবিদ্যা
- লগইন
- ভালবাসে
- মেশিন
- মেশিন লার্নিং
- মেনস্ট্রিম
- তৈরি করে
- মেকিং
- পরিচালনা করা
- পদ্ধতি
- মানচিত্র
- ছাপ
- ম্যাচ
- মে..
- পদ্ধতি
- হতে পারে
- যত্সামান্য
- অনুপস্থিত
- ML
- মোড
- মডেল
- মডেল
- পরিবর্তন
- অধিক
- চলচ্চিত্র
- অনেক
- বহু
- অবশ্যই
- নাম
- নাম
- প্রয়োজন
- চাহিদা
- না।
- না
- নোটবই
- এখন
- সংখ্যা
- অসাড়
- লক্ষ্য
- বস্তু
- of
- অর্ঘ
- অফার
- প্রায়ই
- on
- একদা
- ONE
- ওগুলো
- কেবল
- সম্মুখের দিকে
- খোলা
- পরিচালনা করা
- কর্মক্ষম
- পছন্দ
- or
- ক্রম
- OS
- অন্যান্য
- আমাদের
- আউটপুট
- নিজের
- প্যাকেজ
- পান্ডাস
- পরামিতি
- বিশেষ
- পাস
- কামুক
- পথ
- নির্ভুল
- সম্পাদন করা
- কর্মক্ষমতা
- সঞ্চালিত
- পাইপলাইন
- পরিকল্পনা
- Plato
- প্লেটো ডেটা ইন্টেলিজেন্স
- প্লেটোডাটা
- দয়া করে
- বিন্দু
- পোস্ট
- ভবিষ্যদ্বাণী
- ভবিষ্যতবাণী
- Predictor
- বর্তমান
- পূর্বে
- ব্যক্তিগত
- সমস্যা
- প্রক্রিয়া
- প্রসেস
- প্রক্রিয়াজাতকরণ
- প্রসেসর
- প্রচার
- মালিকানা
- উদ্দেশ্য
- ধাক্কা
- ধাক্কা
- ঠেলাঠেলি
- পাইথন
- দ্রুত
- বৃদ্ধি
- পরিসর
- কাঁচা
- পড়া
- প্রস্তুত
- প্রকৃত সময়
- গৃহীত
- পড়ুন
- রেজিস্ট্রি
- প্রাসঙ্গিক
- থাকা
- প্রতিস্থাপন করা
- সংগ্রহস্থলের
- অনুরোধ
- অনুরোধ
- প্রয়োজন
- প্রয়োজনীয়
- আবশ্যকতা
- প্রয়োজন
- সংস্থান
- Resources
- প্রতিক্রিয়া
- ফল
- ফলাফল
- প্রত্যাবর্তন
- ফিরতি
- আয়
- রিং
- রুট
- যাত্রাপথ
- সারিটি
- চালান
- দৌড়
- রান
- ঋষি নির্মাতা
- একই
- সংরক্ষণ করুন
- সংরক্ষিত
- স্কেল
- কল্পবিজ্ঞান
- আঁচড়ের দাগ
- লিপি
- স্ক্রিপ্ট
- দ্বিতীয়
- অধ্যায়
- দেখ
- পাঠান
- পাঠানোর
- জ্যেষ্ঠ
- প্রেরিত
- আলাদা
- ক্রমিক
- ক্রম
- পরিবেশন করা
- সার্ভার
- সেবা
- সেবা
- ভজনা
- সেশন
- সেট
- সেট
- বিভিন্ন
- লিঙ্গ
- উচিত
- প্রদর্শনী
- দেখিয়েছেন
- প্রদর্শিত
- শো
- অনুরূপ
- সহজ
- টুকিটাকি
- So
- সমাধান
- সমাধান
- কিছু
- কিছু
- স্ফুলিঙ্গ
- বিশেষজ্ঞ
- নির্দিষ্ট
- গাদা
- পর্যায়
- মান
- দৃষ্টিকোণ
- অবস্থা
- ধাপ
- প্রারম্ভিক ব্যবহারের নির্দেশাবলী
- স্টোরেজ
- স্ট্রীম
- স্ট্রিম
- স্ট্রিং
- কাঠামোবদ্ধ
- সফলভাবে
- এমন
- সূর্য
- সমর্থিত
- সমর্থক
- সমর্থন
- TAG
- উপযোগী
- লাগে
- কাজ
- প্রান্তিক
- পরীক্ষা
- প্রমাণিত
- পরীক্ষামূলক
- পরীক্ষা
- যে
- সার্জারির
- তাদের
- তাহাদিগকে
- তারপর
- সেখানে।
- অতএব
- এইগুলো
- কিছু
- এই
- সময়
- থেকে
- সরঞ্জাম
- রেলগাড়ি
- প্রশিক্ষিত
- প্রশিক্ষণ
- রুপান্তর
- রুপান্তরিত
- ট্রান্সফরমার
- ট্রান্সফরমার
- রূপান্তর
- চেষ্টা
- চেষ্টা
- দুই
- আদর্শ
- উবুন্টু
- অধীনে
- নিম্নাবস্থিত
- অপ্রয়োজনীয়
- আপগ্রেড
- উপভোগ্য
- ব্যবহার
- ব্যবহার ক্ষেত্রে
- ব্যবহৃত
- ব্যবহারকারী
- ব্যবহারসমূহ
- ব্যবহার
- মানগুলি
- বিভিন্ন
- অসমজ্ঞ্জস
- যাচাই
- সংস্করণ
- অপেক্ষা করুন
- প্রয়োজন
- ছিল
- we
- ওয়েব
- ওয়েব সার্ভার
- ওয়েব সার্ভিস
- আমরা একটি
- যে
- যখন
- কেন
- ব্যাপকতর
- ইচ্ছা
- সঙ্গে
- মধ্যে
- ছাড়া
- কর্মপ্রবাহ
- কাজ
- লিখিত
- X
- এক্সজিবিস্ট
- আপনি
- আপনার
- zephyrnet