বর্তমানে উপলব্ধ সবচেয়ে জনপ্রিয় মডেলগুলির মধ্যে একটি হল XGBoost। শ্রেণীবিভাগ এবং রিগ্রেশনের মতো বিভিন্ন সমস্যা সমাধান করার ক্ষমতা সহ, XGBoost একটি জনপ্রিয় বিকল্প হয়ে উঠেছে যা গাছ-ভিত্তিক মডেলের বিভাগেও পড়ে। এই পোস্টে, আমরা কিভাবে দেখতে গভীর ডুব আমাজন সেজমেকার ব্যবহার করে এই মডেল পরিবেশন করতে পারেন এনভিআইডিএ ট্রাইটন ইনফারেন্স সার্ভার. রিয়েল-টাইম ইনফারেন্স ওয়ার্কলোডের বিভিন্ন স্তরের প্রয়োজনীয়তা এবং লেটেন্সি এবং থ্রুপুট পরিপ্রেক্ষিতে পরিষেবা স্তরের চুক্তি (এসএলএ) থাকতে পারে এবং সেজমেকার রিয়েল-টাইম এন্ডপয়েন্ট ব্যবহার করে পূরণ করা যেতে পারে।
সেজমেকার প্রদান করে একক মডেলের শেষ পয়েন্ট, যা আপনাকে লজিক্যাল এন্ডপয়েন্টের বিপরীতে একটি একক মেশিন লার্নিং (ML) মডেল স্থাপন করতে দেয়। অন্যান্য ব্যবহারের ক্ষেত্রে, আপনি ব্যবহার করে খরচ এবং কর্মক্ষমতা পরিচালনা করতে বেছে নিতে পারেন বহু মডেল শেষ পয়েন্ট, যা আপনাকে লজিক্যাল এন্ডপয়েন্টের পিছনে হোস্ট করার জন্য একাধিক মডেল নির্দিষ্ট করার অনুমতি দেয়। আপনি যে বিকল্পটি বেছে নিন তা নির্বিশেষে, সেজমেকার এন্ডপয়েন্টগুলি এমনকী সবচেয়ে বেশি চাহিদাসম্পন্ন এন্টারপ্রাইজ গ্রাহকদের জন্য একটি মাপযোগ্য প্রক্রিয়ার অনুমতি দেয় যখন বৈশিষ্ট্যের আধিক্যে মূল্য প্রদান করে, যার মধ্যে রয়েছে ছায়া বৈকল্পিক, স্বয়ংক্রিয় স্কেলিং, এবং সঙ্গে নেটিভ ইন্টিগ্রেশন অ্যামাজন ক্লাউডওয়াচ (আরও তথ্যের জন্য, পড়ুন মাল্টি-মডেল এন্ডপয়েন্ট স্থাপনার জন্য ক্লাউডওয়াচ মেট্রিক্স).
ট্রাইটন ইঞ্জিন হিসাবে বিভিন্ন ব্যাকএন্ড সমর্থন করে অনুমান করার জন্য বিভিন্ন ML মডেলের চলমান এবং পরিবেশন সমর্থন করে। যেকোন ট্রাইটন স্থাপনার জন্য, ব্যাকএন্ড আচরণ কীভাবে আপনার কাজের চাপকে প্রভাবিত করে এবং আপনি যাতে সফল হতে পারেন তার জন্য কী আশা করা যায় তা জানা অত্যন্ত গুরুত্বপূর্ণ। এই পোস্টে, আমরা আপনাকে বুঝতে সাহায্য ফরেস্ট ইনফারেন্স লাইব্রেরি (এফআইএল) ব্যাকএন্ড, যা SageMaker-এ Triton দ্বারা সমর্থিত, যাতে আপনি আপনার কাজের চাপের জন্য একটি জ্ঞাত সিদ্ধান্ত নিতে পারেন এবং সম্ভাব্য সর্বোত্তম কর্মক্ষমতা এবং খরচ অপ্টিমাইজেশান পেতে পারেন।
FIL ব্যাকএন্ডে গভীর ডুব দিন
ট্রাইটন সমর্থন করে FIL ব্যাকএন্ড গাছ মডেল পরিবেশন করা, যেমন এক্সজিবিস্ট, লাইটজিবিএম, scikit-শিখতে এলোমেলো বন, RAPIDS cuML এলোমেলো বন, এবং অন্য কোন মডেল দ্বারা সমর্থিত ট্রিলাইট. এই মডেলগুলি দীর্ঘদিন ধরে শ্রেণীবিভাগ বা রিগ্রেশনের মতো সমস্যা সমাধানের জন্য ব্যবহার করা হয়েছে। যদিও এই ধরনের মডেলগুলি ঐতিহ্যগতভাবে CPU-তে চলে, এই মডেলগুলির জনপ্রিয়তা এবং অনুমানের চাহিদাগুলি অনুমান কার্যক্ষমতা বাড়ানোর জন্য বিভিন্ন কৌশলের দিকে পরিচালিত করেছে। FIL ব্যাকএন্ড cuML কনস্ট্রাক্ট ব্যবহার করে এই কৌশলগুলির অনেকগুলি ব্যবহার করে এবং GPU অ্যাক্সিলারেটরগুলিতে অনুমান কার্যকারিতা অপ্টিমাইজ করার জন্য C++ এবং CUDA কোর লাইব্রেরিতে নির্মিত।
FIL ব্যাকএন্ড cuML এর লাইব্রেরি ব্যবহার করে CPU বা GPU কোর ব্যবহার করে শেখার গতি বাড়াতে। এই প্রসেসরগুলি ব্যবহার করার জন্য, হোস্ট মেমরি (উদাহরণস্বরূপ, NumPy অ্যারে) বা GPU অ্যারে (uDF, Numba, cuPY, বা যে কোনও লাইব্রেরি যা সমর্থন করে) থেকে ডেটা উল্লেখ করা হয় __cuda_array_interface__
) API ডেটা মেমরিতে স্টেজ করার পরে, FIL ব্যাকএন্ড সমস্ত উপলব্ধ CPU বা GPU কোর জুড়ে প্রক্রিয়াকরণ চালাতে পারে।
FIL ব্যাকএন্ড থ্রেড হোস্টের শেয়ার করা মেমরি ব্যবহার না করেই একে অপরের সাথে যোগাযোগ করতে পারে, কিন্তু এনসেম্বল ওয়ার্কলোডের ক্ষেত্রে হোস্ট মেমরি বিবেচনা করা উচিত। নিম্নলিখিত চিত্রটি একটি এনসেম্বল শিডিউলার রানটাইম আর্কিটেকচার দেখায় যেখানে আপনার কাছে মেমরির অঞ্চলগুলিকে সূক্ষ্ম-টিউন করার ক্ষমতা রয়েছে, যার মধ্যে রয়েছে CPU ঠিকানাযোগ্য শেয়ার্ড মেমরি যা বিনিময়ের জন্য ট্রাইটন (C++) এবং পাইথন প্রক্রিয়ার (পাইথন ব্যাকএন্ড) মধ্যে আন্তঃ-প্রক্রিয়া যোগাযোগের জন্য ব্যবহৃত হয়। FIL ব্যাকএন্ড সহ টেনসর (ইনপুট/আউটপুট)।
ট্রাইটন ইনফরেন্স সার্ভার ডেভেলপারদের তাদের কাজের চাপ এবং মডেলের কর্মক্ষমতা অপ্টিমাইজ করার জন্য কনফিগারযোগ্য বিকল্প প্রদান করে। কনফিগারেশন dynamic_batching
ট্রাইটনকে ক্লায়েন্ট-সাইড অনুরোধগুলিকে ধারণ করতে এবং সার্ভারের দিকে ব্যাচ করার অনুমতি দেয় যাতে FIL-এর সমান্তরাল গণনা দক্ষতার সাথে পুরো ব্যাচকে একসাথে অনুমান করার জন্য ব্যবহার করা যায়। ইচ্ছা max_queue_delay_microseconds
ট্রাইটন একটি ব্যাচ গঠনের জন্য কতক্ষণ অপেক্ষা করে তার একটি ব্যর্থ-নিরাপদ নিয়ন্ত্রণ অফার করে।
অন্যান্য FIL-নির্দিষ্ট একটি সংখ্যা আছে অপশন উপলব্ধ যে প্রভাব কর্মক্ষমতা এবং আচরণ. আমরা দিয়ে শুরু করার পরামর্শ দিই storage_type
. GPU-তে ব্যাকএন্ড চালানোর সময়, FIL একটি নতুন মেমরি/ডেটা স্ট্রাকচার তৈরি করে যা সেই গাছের প্রতিনিধিত্ব করে যার জন্য FIL কর্মক্ষমতা এবং পদচিহ্নকে প্রভাবিত করতে পারে। এটি পরিবেশের প্যারামিটারের মাধ্যমে কনফিগারযোগ্য storage_type
, যাতে ঘন, বিক্ষিপ্ত এবং অটো বিকল্প রয়েছে। ঘন বিকল্পটি বেছে নিলে আরও বেশি GPU মেমরি খরচ হবে এবং সর্বদা ভাল পারফরম্যান্সের ফলাফল হয় না, তাই এটি পরীক্ষা করা ভাল। বিপরীতে, স্পার্স বিকল্পটি কম GPU মেমরি ব্যবহার করবে এবং সম্ভবত ঘনত্বের চেয়ে ভাল বা ভাল পারফর্ম করতে পারে। স্বয়ংক্রিয় নির্বাচন করা মডেলটিকে ডিফল্ট ঘনত্বে পরিণত করবে যদি না তা না করলে তা স্পার্সের তুলনায় উল্লেখযোগ্যভাবে বেশি GPU মেমরি গ্রহণ করবে।
যখন মডেল পারফরম্যান্সের কথা আসে, তখন আপনি জোর দেওয়ার বিষয়টি বিবেচনা করতে পারেন threads_per_tree
বিকল্প বাস্তব-বিশ্বের দৃশ্যকল্পে আপনি যে একটি জিনিসের তত্ত্বাবধান করতে পারেন তা হল threads_per_tree
অন্য কোনো প্যারামিটারের চেয়ে থ্রুপুটে বড় প্রভাব ফেলতে পারে। এটিকে 2-1 থেকে 32-এর যেকোনো শক্তিতে সেট করা বৈধ। এই প্যারামিটারের জন্য সর্বোত্তম মানটি অনুমান করা কঠিন, কিন্তু যখন সার্ভারটি উচ্চতর লোডের সাথে মোকাবিলা করবে বা বড় ব্যাচের আকারগুলি প্রক্রিয়া করবে বলে আশা করা হয়, তখন এটি একটি সময়ে কয়েকটি সারি প্রক্রিয়াকরণের তুলনায় একটি বড় মান থেকে উপকৃত হয়।
সচেতন হতে আরেকটি পরামিতি হল algo
, যা আপনি GPU তে চললেও উপলব্ধ। এই প্যারামিটারটি অ্যালগরিদম নির্ধারণ করে যা অনুমান অনুরোধগুলি প্রক্রিয়া করতে ব্যবহৃত হয়। এই জন্য সমর্থিত বিকল্প ALGO_AUTO
, NAIVE
, TREE_REORG
, এবং BATCH_TREE_REORG
. এই বিকল্পগুলি নির্ধারণ করে যে কীভাবে একটি গাছের মধ্যে নোডগুলি সংগঠিত হয় এবং এর ফলে কার্যক্ষমতা বৃদ্ধি পেতে পারে। দ্য ALGO_AUTO
বিকল্প ডিফল্ট NAIVE
স্পার্স স্টোরেজ এবং জন্য BATCH_TREE_REORG
ঘন সঞ্চয়ের জন্য।
সবশেষে, এফআইএল শ্যাপলি ব্যাখ্যাকারীর সাথে আসে, যা ব্যবহার করে সক্রিয় করা যেতে পারে treeshap_output
প্যারামিটার যাইহোক, আপনার মনে রাখা উচিত যে Shapley আউটপুট তার আউটপুট আকারের কারণে কর্মক্ষমতা ক্ষতি করে।
মডেল বিন্যাস
বন-ভিত্তিক মডেলগুলি সংরক্ষণ করার জন্য বর্তমানে কোন স্ট্যান্ডার্ড ফাইল বিন্যাস নেই; প্রতিটি কাঠামো তার নিজস্ব বিন্যাস সংজ্ঞায়িত করে। একাধিক ইনপুট ফাইল ফর্ম্যাট সমর্থন করার জন্য, FIL ওপেন সোর্স ব্যবহার করে ডেটা আমদানি করে ট্রিলাইট লাইব্রেরি এটি FIL কে জনপ্রিয় ফ্রেমওয়ার্কগুলিতে প্রশিক্ষিত মডেলগুলিকে সমর্থন করতে সক্ষম করে, যেমন৷ এক্সজিবিস্ট এবং লাইটজিবিএম. মনে রাখবেন যে আপনি যে মডেলটি প্রদান করছেন তার বিন্যাসটি অবশ্যই তে সেট করা উচিত model_type
কনফিগারেশন মান উল্লেখ করা হয়েছে config.pbtxt
ফাইল.
Config.pbtxt
প্রতিটি মডেল এ মডেল সংগ্রহস্থল একটি মডেল কনফিগারেশন অন্তর্ভুক্ত করতে হবে যা মডেল সম্পর্কে প্রয়োজনীয় এবং ঐচ্ছিক তথ্য প্রদান করে। সাধারণত, এই কনফিগারেশন একটি প্রদান করা হয় config.pbtxt
ফাইল হিসাবে নির্দিষ্ট করা হয়েছে মডেলকনফিগ প্রোটোবাফ. কনফিগার সেটিংস সম্পর্কে আরও জানতে, পড়ুন মডেল কনফিগারেশন. নিম্নলিখিত মডেল কনফিগারেশন পরামিতি কিছু আছে:
- সর্বোচ্চ_ব্যাচ_সাইজ - এটি সর্বোচ্চ ব্যাচের আকার নির্ধারণ করে যা এই মডেলে পাস করা যেতে পারে। সাধারণভাবে, FIL ব্যাকএন্ডে পাস করা ব্যাচের আকারের একমাত্র সীমা হল মেমরি উপলব্ধ যা দিয়ে সেগুলি প্রক্রিয়া করা যায়। GPU রানের জন্য, উপলব্ধ মেমরি ট্রাইটনের CUDA মেমরি পুলের আকার দ্বারা নির্ধারিত হয়, যা সার্ভার শুরু করার সময় একটি কমান্ড লাইন আর্গুমেন্টের মাধ্যমে সেট করা যেতে পারে।
- ইনপুট – এই বিভাগে থাকা বিকল্পগুলি ট্রাইটনকে প্রতিটি ইনপুট নমুনার জন্য আশা করা বৈশিষ্ট্যের সংখ্যা বলে।
- আউটপুট – এই বিভাগে থাকা বিকল্পগুলি ট্রাইটনকে বলে যে প্রতিটি নমুনার জন্য কতগুলি আউটপুট মান থাকবে। যদি
predict_proba
বিকল্পটি সত্য হিসাবে সেট করা হয়েছে, তারপর প্রতিটি শ্রেণীর জন্য একটি সম্ভাব্যতা মান ফেরত দেওয়া হবে। অন্যথায়, একটি একক মান ফেরত দেওয়া হবে, প্রদত্ত নমুনার জন্য পূর্বাভাসিত শ্রেণী নির্দেশ করে। - instance_group - এটি নির্ধারণ করে যে এই মডেলের কতগুলি উদাহরণ তৈরি করা হবে এবং তারা GPU বা CPU ব্যবহার করবে কিনা।
- মডেল_টাইপ - এই স্ট্রিংটি নির্দেশ করে যে মডেলটি কোন ফর্ম্যাটে আছে (
xgboost_json
এই উদাহরণে, কিন্তুxgboost
,lightgbm
, এবংtl_checkpoint
পাশাপাশি বৈধ বিন্যাস)। - predict_proba - যদি সত্যে সেট করা হয়, তবে শুধুমাত্র একটি শ্রেণির পূর্বাভাসের পরিবর্তে প্রতিটি শ্রেণীর জন্য সম্ভাব্যতার মানগুলি ফেরত দেওয়া হবে।
- output_class - এটি শ্রেণীবিভাগ মডেলের জন্য সত্য এবং রিগ্রেশন মডেলের জন্য মিথ্যা সেট করা হয়েছে।
- গোবরাট - এটি শ্রেণিবিন্যাস নির্ধারণের জন্য একটি স্কোর থ্রেশহোল্ড। কখন
output_class
সত্য হিসাবে সেট করা আছে, এটি অবশ্যই প্রদান করতে হবে, যদিও এটি ব্যবহার করা হবে না যদিpredict_proba
এছাড়াও সত্য সেট করা হয়. - স্টোরেজ_টাইপ - সাধারণভাবে, এই সেটিং এর জন্য AUTO ব্যবহার করে বেশিরভাগ ক্ষেত্রেই ব্যবহার করা উচিত। অটো স্টোরেজ নির্বাচন করা হলে, FIL মডেলের আনুমানিক আকারের উপর ভিত্তি করে একটি স্পার্স বা ঘন উপস্থাপনা ব্যবহার করে মডেলটি লোড করবে। কিছু ক্ষেত্রে, আপনি বড় মডেলের মেমরি পদচিহ্ন কমাতে স্পষ্টভাবে এটিকে SPARSE-তে সেট করতে চাইতে পারেন।
সেজমেকারে ট্রাইটন ইনফারেন্স সার্ভার
SageMaker অনুমতি আপনি NVIDIA Triton Inference সার্ভারের সাথে একক মডেল এবং মাল্টি-মডেল এন্ডপয়েন্ট উভয়ই স্থাপন করতে পারবেন। নিম্নলিখিত চিত্রটি ট্রাইটন ইনফারেন্স সার্ভারের উচ্চ-স্তরের আর্কিটেকচার দেখায়। দ্য মডেল সংগ্রহস্থল ট্রাইটন অনুমান করার জন্য উপলব্ধ করবে এমন মডেলগুলির একটি ফাইল সিস্টেম-ভিত্তিক সংগ্রহস্থল। অনুমান অনুরোধগুলি সার্ভারে আসে এবং উপযুক্ত প্রতি-মডেল শিডিউলারের কাছে পাঠানো হয়। ট্রাইটন প্রয়োগ করে একাধিক সময়সূচী এবং ব্যাচিং অ্যালগরিদম যেটি মডেল-বাই-মডেল ভিত্তিতে কনফিগার করা যেতে পারে। প্রতিটি মডেলের সময়সূচী ঐচ্ছিকভাবে অনুমান অনুরোধের ব্যাচিং সঞ্চালন করে এবং তারপরে অনুরোধগুলিকে পাস করে ব্যাক মডেল টাইপ অনুরূপ. ব্যাকএন্ড অনুরোধকৃত আউটপুটগুলি তৈরি করতে ব্যাচড অনুরোধগুলিতে প্রদত্ত ইনপুটগুলি ব্যবহার করে অনুমান করা করে। আউটপুট তারপর ফেরত দেওয়া হয়.
SageMaker এন্ডপয়েন্টের জন্য আপনার স্বয়ংক্রিয় স্কেলিং গ্রুপগুলি কনফিগার করার সময়, আপনি বিবেচনা করতে চাইতে পারেন SageMakerVariantInvocationsPerInstance
আপনার স্বয়ংক্রিয় স্কেলিং গ্রুপের স্কেলিং বৈশিষ্ট্য নির্ধারণের প্রাথমিক মানদণ্ড হিসাবে। উপরন্তু, আপনার মডেলগুলি GPU বা CPU-তে চলছে কিনা তার উপর নির্ভর করে, আপনি CPUUtilization বা GPUUtilization ব্যবহার করার কথা অতিরিক্ত মানদণ্ড হিসাবে বিবেচনা করতে পারেন। মনে রাখবেন যে একক মডেলের এন্ডপয়েন্টগুলির জন্য, যেহেতু মোতায়েন করা মডেলগুলি একই, আপনার SLAগুলি পূরণ করার জন্য সঠিক নীতিগুলি সেট করা মোটামুটি সহজ। মাল্টি-মডেল এন্ডপয়েন্টের জন্য, আমরা প্রদত্ত এন্ডপয়েন্টের পিছনে অনুরূপ মডেল স্থাপন করার পরামর্শ দিই যাতে আরও স্থির অনুমানযোগ্য পারফরম্যান্স থাকে। ব্যবহারের ক্ষেত্রে যেখানে বিভিন্ন আকার এবং প্রয়োজনীয়তার মডেলগুলি ব্যবহার করা হয়, আপনি সেই কাজের চাপগুলিকে একাধিক মাল্টি-মডেল এন্ডপয়েন্ট জুড়ে আলাদা করতে চাইতে পারেন বা সেরা খরচ এবং কর্মক্ষমতা ভারসাম্য পেতে আপনার স্বয়ংক্রিয় স্কেলিং গোষ্ঠী নীতিকে ফাইন-টিউনিং করতে কিছু সময় ব্যয় করতে পারেন।
সেজমেকার ইনফারেন্স দ্বারা সমর্থিত NVIDIA ট্রাইটন ডিপ লার্নিং কন্টেনার (DLCs) এর একটি তালিকার জন্য, দেখুন উপলব্ধ ডিপ লার্নিং কনটেইনার ইমেজ.
সেজমেকার নোটবুক ওয়াকথ্রু
এমএল অ্যাপ্লিকেশনগুলি জটিল এবং প্রায়ই ডেটা প্রিপ্রসেসিংয়ের প্রয়োজন হতে পারে। এই নোটবুকে, আমরা সেজমেকার মাল্টি-মডেল এন্ডপয়েন্টে ট্রাইটনের FIL ব্যাকএন্ড ব্যবহার করে XGBoost-এর মতো একটি ট্রি-ভিত্তিক ML মডেল কীভাবে স্থাপন করা যায় সে সম্পর্কে ডুবে আছি। ট্রাইটনের এনসেম্বল বৈশিষ্ট্য ব্যবহার করে আপনার মডেলের জন্য পাইথন-ভিত্তিক ডেটা প্রিপ্রসেসিং ইনফারেন্স পাইপলাইন কীভাবে বাস্তবায়ন করা যায় তাও আমরা কভার করি। এটি আমাদেরকে ক্লায়েন্টের দিক থেকে কাঁচা ডেটা পাঠানোর অনুমতি দেবে এবং সর্বোত্তম ইনফারেন্স পারফরম্যান্সের জন্য ট্রাইটন সেজমেকার এন্ডপয়েন্টে ডেটা প্রিপ্রসেসিং এবং মডেল ইনফরেন্স উভয়ই ঘটবে।
Triton মডেল ensemble বৈশিষ্ট্য
ট্রাইটন ইনফারেন্স সার্ভার উৎপাদনে স্কেলে এআই মডেলের স্থাপনাকে ব্যাপকভাবে সরল করে। ট্রাইটন ইনফারেন্স সার্ভার একটি সুবিধাজনক সমাধান নিয়ে আসে যা বিল্ডিং প্রিপ্রসেসিং এবং পোস্টপ্রসেসিং পাইপলাইনকে সহজ করে। ট্রাইটন ইনফারেন্স সার্ভার প্ল্যাটফর্মটি এনসেম্বল শিডিউলার সরবরাহ করে, যা কার্যকারিতা নিশ্চিত করে এবং থ্রুপুট অপ্টিমাইজ করার সময় অনুমান প্রক্রিয়ায় অংশগ্রহণকারী মডেলগুলিকে পাইপলাইন করার জন্য দায়ী। এনসেম্বল মডেলগুলি ব্যবহার করে মধ্যবর্তী টেনসর স্থানান্তরের ওভারহেড এড়াতে পারে এবং ট্রাইটনের কাছে পাঠানো আবশ্যক অনুরোধের সংখ্যা হ্রাস করতে পারে।
এই নোটবুকে, আমরা XGBoost মডেল ইনফারেন্সের সাথে ডেটা প্রিপ্রসেসিং এর একটি পাইপলাইন তৈরির জন্য এনসেম্বল বৈশিষ্ট্যটি কীভাবে ব্যবহার করতে হয় তা দেখাই এবং আপনি পাইপলাইনে কাস্টম পোস্টপ্রসেসিং যুক্ত করতে এটি থেকে এক্সট্রাপোলেট করতে পারেন।
পরিবেশ স্থাপন করুন
আমরা প্রয়োজনীয় পরিবেশ স্থাপন করে শুরু করি। আমরা আমাদের মডেল পাইপলাইন প্যাকেজ করার জন্য প্রয়োজনীয় নির্ভরতাগুলি ইনস্টল করি এবং ট্রাইটন ইনফারেন্স সার্ভার ব্যবহার করে অনুমানগুলি চালাই। এছাড়াও আমরা সংজ্ঞায়িত করি এডাব্লুএস আইডেন্টিটি এবং অ্যাক্সেস ম্যানেজমেন্ট (IAM) ভূমিকা যা সেজমেকারকে মডেল আর্টিফ্যাক্ট এবং NVIDIA Triton-এ অ্যাক্সেস দেবে অ্যামাজন ইলাস্টিক কনটেইনার রেজিস্ট্রি (Amazon ECR) ছবি। নিম্নলিখিত কোড দেখুন:
প্রিপ্রসেসিং নির্ভরতার জন্য একটি কনডা পরিবেশ তৈরি করুন
ট্রাইটনের পাইথন ব্যাকএন্ডের জন্য আমাদের a ব্যবহার করতে হবে Conda কোনো অতিরিক্ত নির্ভরতার জন্য পরিবেশ। এই ক্ষেত্রে, FIL ব্যাকএন্ডে চলমান XGBoost মডেলে ফিড করার আগে কাঁচা ডেটা প্রিপ্রসেস করতে আমরা পাইথন ব্যাকএন্ড ব্যবহার করি। যদিও আমরা প্রাথমিকভাবে ডেটা প্রিপ্রসেসিং করার জন্য RAPIDS cuDF এবং cuML ব্যবহার করেছি, এখানে আমরা অনুমান করার সময় প্রিপ্রসেসিং নির্ভরতা হিসাবে পান্ডাস এবং স্কিট-লার্ন ব্যবহার করি। আমরা তিনটি কারণে এটি করি:
- আমরা দেখাই কিভাবে আপনার নির্ভরতার জন্য একটি কনডা পরিবেশ তৈরি করতে হয় এবং কীভাবে এটি প্যাকেজ করতে হয় বিন্যাস প্রত্যাশিত ট্রাইটনের পাইথন ব্যাকএন্ড দ্বারা।
- CPU-তে Python ব্যাকএন্ডে চলমান প্রি-প্রসেসিং মডেল দেখানোর মাধ্যমে যখন XGBoost FIL ব্যাকএন্ডে GPU-তে চলে, আমরা ব্যাখ্যা করি কিভাবে ট্রাইটনের এনসেম্বল পাইপলাইনের প্রতিটি মডেল আলাদা ফ্রেমওয়ার্ক ব্যাকএন্ডের পাশাপাশি বিভিন্ন হার্ডওয়্যার কনফিগারেশনে চলতে পারে।
- এটি হাইলাইট করে যে কীভাবে RAPIDS লাইব্রেরিগুলি (cuDF, cuML) তাদের CPU সমকক্ষের (পান্ডাস, স্কিট-লার্ন) সাথে সামঞ্জস্যপূর্ণ। উদাহরণস্বরূপ, আমরা কীভাবে দেখাতে পারি
LabelEncoders
cuML-এ তৈরি করা scikit-learn এবং তদ্বিপরীত ব্যবহার করা যেতে পারে।
আমরা থেকে নির্দেশাবলী অনুসরণ ট্রাইটন ডকুমেন্টেশন প্যাকেজিং প্রি-প্রসেসিং নির্ভরতাগুলির জন্য (scikit-learn এবং Pandas) Python ব্যাকএন্ডে Conda এনভায়রনমেন্ট TAR ফাইল হিসাবে ব্যবহার করা হবে। ব্যাশ স্ক্রিপ্ট create_prep_env.sh কনডা এনভায়রনমেন্ট TAR ফাইল তৈরি করে, তারপর আমরা এটিকে প্রিপ্রসেসিং মডেল ডিরেক্টরিতে নিয়ে যাই। নিম্নলিখিত কোড দেখুন:
আমরা পূর্ববর্তী স্ক্রিপ্ট চালানোর পরে, এটি উৎপন্ন হয় preprocessing_env.tar.gz
, যা আমরা প্রিপ্রসেসিং ডিরেক্টরিতে অনুলিপি করি:
Triton Python ব্যাকএন্ড দিয়ে প্রিপ্রসেসিং সেট আপ করুন
প্রিপ্রসেসিংয়ের জন্য, আমরা Triton's ব্যবহার করি পাইথন ব্যাকএন্ড সার্ভারে আসা কাঁচা ডেটা অনুরোধের অনুমানের সময় ট্যাবুলার ডেটা প্রিপ্রসেসিং (শ্রেণীগত এনকোডিং) সঞ্চালন করা। প্রশিক্ষণের সময় যে প্রিপ্রসেসিং করা হয়েছিল সে সম্পর্কে আরও তথ্যের জন্য, পড়ুন প্রশিক্ষণ নোটবুক.
পাইথন ব্যাকএন্ড প্রি-প্রসেসিং, পোস্টপ্রসেসিং এবং অন্য কোনো কাস্টম লজিককে পাইথনে প্রয়োগ করতে এবং ট্রাইটনের সাথে পরিবেশন করতে সক্ষম করে। সেজমেকারে ট্রাইটন ব্যবহার করার জন্য আমাদের প্রথমে একটি মডেল রিপোজিটরি ফোল্ডার সেট আপ করতে হবে যে মডেলগুলি আমরা পরিবেশন করতে চাই। আমরা ইতিমধ্যে পাইথন ডেটা প্রিপ্রসেসিংয়ের জন্য একটি মডেল সেট আপ করেছি যার নাম প্রিপ্রসেসিং ইন cpu_model_repository
এবং gpu_model_repository
.
ট্রাইটনের মডেল সংগ্রহস্থল বিন্যাসের জন্য নির্দিষ্ট প্রয়োজনীয়তা রয়েছে। টপ-লেভেল মডেল রিপোজিটরি ডিরেক্টরির মধ্যে, প্রতিটি মডেলের নিজস্ব সাবডিরেক্টরি থাকে যার মধ্যে সংশ্লিষ্ট মডেলের তথ্য থাকে। ট্রাইটনের প্রতিটি মডেল ডিরেক্টরিতে মডেলের একটি সংস্করণের প্রতিনিধিত্বকারী কমপক্ষে একটি সংখ্যাসূচক সাবডিরেক্টরি থাকতে হবে। মান 1 আমাদের পাইথন প্রিপ্রসেসিং মডেলের সংস্করণ 1 প্রতিনিধিত্ব করে। প্রতিটি মডেল একটি নির্দিষ্ট ব্যাকএন্ড দ্বারা চালিত হয়, তাই প্রতিটি সংস্করণ সাবডিরেক্টরির মধ্যে অবশ্যই সেই ব্যাকএন্ডের জন্য প্রয়োজনীয় মডেল আর্টিফ্যাক্ট থাকতে হবে। এই উদাহরণের জন্য, আমরা পাইথন ব্যাকএন্ড ব্যবহার করি, যার জন্য প্রয়োজন যে পাইথন ফাইলটি আপনি পরিবেশন করছেন তাকে model.py বলা হবে এবং ফাইলটিকে বাস্তবায়ন করতে হবে নির্দিষ্ট ফাংশন. আমরা একটি PyTorch ব্যাকএন্ড ব্যবহার করলে, একটি model.pt ফাইল প্রয়োজন হবে, এবং তাই। মডেল ফাইলের জন্য নামকরণ প্রথা সম্পর্কে আরো বিস্তারিত জানার জন্য, পড়ুন মডেল ফাইল.
সার্জারির model.py আমরা এখানে যে পাইথন ফাইলটি ব্যবহার করি তা আমাদের XGBoost মডেলে খাওয়ানো যেতে পারে এমন বৈশিষ্ট্যগুলিতে কাঁচা ডেটা রূপান্তর করতে সমস্ত ট্যাবুলার ডেটা প্রিপ্রসেসিং লজিক প্রয়োগ করে।
প্রতিটি ট্রাইটন মডেল অবশ্যই একটি প্রদান করবে config.pbtxt
মডেল কনফিগারেশন বর্ণনাকারী ফাইল। কনফিগার সেটিংস সম্পর্কে আরও জানতে, পড়ুন মডেল কনফিগারেশন. আমাদের config.pbtxt ফাইল ব্যাকএন্ডটিকে পাইথন হিসাবে নির্দিষ্ট করে এবং প্রিপ্রসেসড আউটপুট সহ কাঁচা ডেটার জন্য সমস্ত ইনপুট কলাম, যা 15টি বৈশিষ্ট্য নিয়ে গঠিত। আমরা সিপিইউতে এই পাইথন প্রিপ্রসেসিং মডেলটি চালাতে চাই তাও উল্লেখ করি। নিম্নলিখিত কোড দেখুন:
FIL ব্যাকএন্ডের জন্য একটি ট্রি-ভিত্তিক ML মডেল সেট আপ করুন৷
এর পরে, আমরা XGBoost-এর মতো একটি ট্রি-ভিত্তিক ML মডেলের জন্য মডেল ডিরেক্টরি সেট আপ করি, যা FIL ব্যাকএন্ড ব্যবহার করবে।
জন্য প্রত্যাশিত বিন্যাস cpu_memory_repository
এবং gpu_memory_repository
আমরা আগে দেখিয়েছি এক অনুরূপ.
এখানে, FIL
মডেলের নাম। আমরা এটির মতো একটি ভিন্ন নাম দিতে পারি xgboost
যদি আমরা চাই 1
সংস্করণ উপ-ডিরেক্টরি, যা মডেল আর্টিফ্যাক্ট ধারণ করে। এই ক্ষেত্রে, এটা xgboost.json
মডেল যে আমরা সংরক্ষিত. আসুন এই প্রত্যাশিত লেআউটটি তৈরি করি:
আমাদের কনফিগারেশন ফাইল থাকতে হবে config.pbtxt
ট্রি-ভিত্তিক এমএল মডেলের মডেল কনফিগারেশনের বর্ণনা, যাতে ট্রাইটনের FIL ব্যাকএন্ড কীভাবে এটি পরিবেশন করতে হয় তা বুঝতে পারে। আরও তথ্যের জন্য, সর্বশেষ জেনেরিক পড়ুন ট্রাইটন কনফিগারেশন বিকল্প এবং নির্দিষ্ট কনফিগারেশন বিকল্প FIL ব্যাকএন্ড. আমরা এই উদাহরণে সবচেয়ে সাধারণ এবং প্রাসঙ্গিক বিকল্পগুলির মধ্যে কয়েকটির উপর ফোকাস করি৷
সৃষ্টি config.pbtxt
উন্নত model_cpu_repository
:
একইভাবে, সেট আপ করুন config.pbtxt
উন্নত model_gpu_repository
(দ্রষ্টব্য পার্থক্য হল USE_GPU = True
):
ensembles ব্যবহার করে পাইথন ব্যাকএন্ড এবং FIL ব্যাকএন্ড প্রিপ্রসেসিং ডেটার একটি অনুমান পাইপলাইন সেট আপ করুন
এখন আমরা ডেটা প্রিপ্রসেসিং এবং ট্রি-ভিত্তিক মডেল অনুমানের জন্য ইনফারেন্স পাইপলাইন সেট আপ করতে প্রস্তুত ensemble মডেল. একটি ensemble মডেল এক বা একাধিক মডেলের একটি পাইপলাইন এবং সেই মডেলগুলির মধ্যে ইনপুট এবং আউটপুট টেনসরের সংযোগকে উপস্থাপন করে। এখানে আমরা পাইথন ব্যাকএন্ডে ডাটা প্রিপ্রসেসিং এর একটি পাইপলাইন তৈরি করতে এনসেম্বল মডেল ব্যবহার করি যার পরে FIL ব্যাকেন্ডে XGBoost।
জন্য প্রত্যাশিত বিন্যাস ensemble
মডেল ডিরেক্টরির অনুরূপ যা আমরা আগে দেখিয়েছি:
আমরা ensemble মডেল এর তৈরি config.pbtxt নির্দেশিকা অনুসরণ এনসেম্বল মডেল. গুরুত্বপূর্ণভাবে, আমাদের এনসেম্বল শিডিউলার সেট আপ করতে হবে config.pbtxt
, যা ensemble এর মধ্যে মডেলের মধ্যে ডেটা প্রবাহ নির্দিষ্ট করে। এনসেম্বল সিডিউলার প্রতিটি ধাপে আউটপুট টেনসর সংগ্রহ করে এবং স্পেসিফিকেশন অনুযায়ী অন্যান্য ধাপের জন্য ইনপুট টেনসর হিসেবে তাদের প্রদান করে।
মডেল সংগ্রহস্থল প্যাকেজ এবং Amazon S3 আপলোড
অবশেষে, আমরা নিম্নলিখিত মডেল রিপোজিটরি ডিরেক্টরি কাঠামোর সাথে শেষ করেছি, যেখানে একটি পাইথন প্রিপ্রসেসিং মডেল এবং XGBoost FIL মডেল এবং মডেল ensemble সহ এর নির্ভরতা রয়েছে।
আমরা ডিরেক্টরি এবং এর বিষয়বস্তু প্যাকেজ হিসাবে হিসাবে model.tar.gz
আপলোড করার জন্য আমাজন সিম্পল স্টোরেজ সার্ভিস (Amazon S3)। এই উদাহরণে আমাদের কাছে দুটি বিকল্প রয়েছে: একটি CPU-ভিত্তিক উদাহরণ বা একটি GPU-ভিত্তিক উদাহরণ ব্যবহার করে৷ একটি জিপিইউ-ভিত্তিক উদাহরণ আরও উপযুক্ত যখন আপনার উচ্চতর প্রক্রিয়াকরণ শক্তির প্রয়োজন হয় এবং CUDA কোর ব্যবহার করতে চান।
নিম্নলিখিত কোড সহ একটি CPU-ভিত্তিক উদাহরণের জন্য মডেল প্যাকেজ তৈরি এবং আপলোড করুন (CPU-এর জন্য অপ্টিমাইজ করা):
নিম্নলিখিত কোড সহ একটি GPU-ভিত্তিক উদাহরণের জন্য মডেল প্যাকেজ তৈরি এবং আপলোড করুন (GPU-এর জন্য অপ্টিমাইজ করা):
একটি সেজমেকার এন্ডপয়েন্ট তৈরি করুন
আমাদের কাছে এখন মডেল আর্টিফ্যাক্টগুলি একটি S3 বালতিতে সংরক্ষিত আছে। এই ধাপে, আমরা অতিরিক্ত পরিবেশ পরিবর্তনশীল প্রদান করতে পারি SAGEMAKER_TRITON_DEFAULT_MODEL_NAME
, যা Triton দ্বারা লোড করা মডেলের নাম নির্দিষ্ট করে। এই কীটির মান Amazon S3 এ আপলোড করা মডেল প্যাকেজের ফোল্ডারের নামের সাথে মেলে। এই পরিবর্তনশীলটি একটি একক মডেলের ক্ষেত্রে ঐচ্ছিক। এনসেম্বল মডেলের ক্ষেত্রে, সেজমেকারে ট্রিটন শুরু করার জন্য এই কীটি নির্দিষ্ট করতে হবে।
উপরন্তু, আপনি সেট করতে পারেন SAGEMAKER_TRITON_BUFFER_MANAGER_THREAD_COUNT
এবং SAGEMAKER_TRITON_THREAD_COUNT
থ্রেড সংখ্যা অপ্টিমাইজ করার জন্য।
আমরা একটি এন্ডপয়েন্ট কনফিগারেশন তৈরি করতে পূর্ববর্তী মডেল ব্যবহার করি যেখানে আমরা এন্ডপয়েন্টে আমরা যে ধরনের উদাহরণ চাই তা নির্দিষ্ট করতে পারি
আমরা একটি সেজমেকার এন্ডপয়েন্ট তৈরি করতে এই এন্ডপয়েন্ট কনফিগারেশনটি ব্যবহার করি এবং স্থাপনা শেষ হওয়ার জন্য অপেক্ষা করি। SageMaker MMEs এর সাথে, আমাদের কাছে এই প্রক্রিয়াটি পুনরাবৃত্তি করে একাধিক ensemble মডেল হোস্ট করার বিকল্প আছে, কিন্তু আমরা এই উদাহরণের জন্য একটি স্থাপনার সাথে লেগে থাকি:
স্থিতি পরিবর্তন হবে InService
যখন স্থাপনা সফল হয়।
SageMaker এন্ডপয়েন্টে হোস্ট করা আপনার মডেলকে আহ্বান করুন
এন্ডপয়েন্ট চালু হওয়ার পরে, আমরা পেলোড ফর্ম্যাট হিসাবে JSON ব্যবহার করে অনুমান সম্পাদন করতে কিছু নমুনা কাঁচা ডেটা ব্যবহার করতে পারি। অনুমান অনুরোধ বিন্যাসের জন্য, ট্রাইটন ব্যবহার করে KFServing
সম্প্রদায়ের মান অনুমান প্রোটোকল। নিম্নলিখিত কোডটি দেখুন:
ব্লগে উল্লেখিত নোটবুকটি পাওয়া যাবে GitHub সংগ্রহস্থল.
সেরা অনুশীলন
আমরা আগে উল্লেখ করা FIL ব্যাকএন্ডের সেটিংস সূক্ষ্ম-টিউন করার বিকল্পগুলি ছাড়াও, ডেটা বিজ্ঞানীরা নিশ্চিত করতে পারেন যে ব্যাকএন্ডের জন্য ইনপুট ডেটা ইঞ্জিন দ্বারা প্রক্রিয়াকরণের জন্য অপ্টিমাইজ করা হয়েছে। যখনই সম্ভব, GPU অ্যারেতে সারি-মেজর ফর্ম্যাটে ডেটা ইনপুট করুন। অন্যান্য ফরম্যাটের জন্য অভ্যন্তরীণ রূপান্তর প্রয়োজন হবে এবং কার্যক্ষমতা হ্রাস করে চক্র গ্রহণ করবে।
GPU মেমরিতে FIL ডেটা স্ট্রাকচার যেভাবে রক্ষণাবেক্ষণ করা হয় তার কারণে, গাছের গভীরতা সম্পর্কে সচেতন থাকুন। গাছের গভীরতা যত গভীর হবে, আপনার GPU মেমরির পদচিহ্ন তত বড় হবে।
ব্যবহার instance_group_count
কর্মী প্রসেস যোগ করতে এবং FIL ব্যাকএন্ডের থ্রুপুট বাড়ানোর প্যারামিটার, যার ফলে CPU এবং GPU মেমরি খরচ হবে। এছাড়াও, সেজমেকার-নির্দিষ্ট ভেরিয়েবলগুলি বিবেচনা করুন যা থ্রুপুট বাড়ানোর জন্য উপলব্ধ, যেমন HTTP থ্রেড, HTTP বাফার আকার, ব্যাচের আকার এবং সর্বোচ্চ বিলম্ব।
উপসংহার
এই পোস্টে, আমরা এফআইএল ব্যাকএন্ডের গভীরে প্রবেশ করেছি যা ট্রাইটন ইনফারেন্স সার্ভার সেজমেকারে সমর্থন করে। এই ব্যাকএন্ডটি আপনার ট্রি-ভিত্তিক মডেল যেমন জনপ্রিয় XGBoost অ্যালগরিদমের CPU এবং GPU উভয় ত্বরণ প্রদান করে। অনুমানের জন্য সর্বোত্তম পারফরম্যান্স পেতে বিবেচনা করার জন্য অনেকগুলি বিকল্প রয়েছে, যেমন ব্যাচের আকার, ডেটা ইনপুট ফর্ম্যাট এবং অন্যান্য বিষয়গুলি যা আপনার প্রয়োজন মেটাতে টিউন করা যেতে পারে। SageMaker আপনাকে পারফরম্যান্সের ভারসাম্য এবং খরচ সাশ্রয়ের জন্য একক এবং মাল্টি-মডেল এন্ডপয়েন্টের সাথে এই ক্ষমতা ব্যবহার করার অনুমতি দেয়।
আমরা আপনাকে এই পোস্টে তথ্য নেওয়ার জন্য উত্সাহিত করছি এবং দেখতে চাই যে সেজমেকার আপনার হোস্টিং ট্রি-ভিত্তিক মডেলগুলি পরিবেশন করতে, খরচ হ্রাস এবং কাজের চাপের কর্মক্ষমতার জন্য আপনার প্রয়োজনীয়তাগুলি পূরণ করতে পারে কিনা।
এই পোস্টে উল্লেখিত নোটবুকটি সেজমেকার উদাহরণগুলিতে পাওয়া যাবে GitHub সংগ্রহস্থল. উপরন্তু, আপনি FIL ব্যাকএন্ড অন সর্বশেষ ডকুমেন্টেশন খুঁজে পেতে পারেন GitHub.
লেখক সম্পর্কে
রঘু রমেশা অ্যামাজন সেজমেকার সার্ভিস টিমের একজন সিনিয়র এমএল সলিউশন আর্কিটেক্ট। তিনি গ্রাহকদের এমএল উৎপাদন কাজের লোডগুলিকে সেজমেকারে স্কেলে তৈরি, স্থাপন এবং স্থানান্তর করতে সহায়তা করার দিকে মনোনিবেশ করেন। তিনি মেশিন লার্নিং, এআই, এবং কম্পিউটার ভিশন ডোমেনে বিশেষজ্ঞ এবং UT ডালাস থেকে কম্পিউটার সায়েন্সে স্নাতকোত্তর ডিগ্রি অর্জন করেছেন। তার অবসর সময়ে, তিনি ভ্রমণ এবং ফটোগ্রাফি উপভোগ করেন।
জেমস পার্ক অ্যামাজন ওয়েব সার্ভিসের একজন সলিউশন আর্কিটেক্ট। তিনি AWS-এ প্রযুক্তি সমাধান ডিজাইন, নির্মাণ এবং স্থাপন করার জন্য Amazon.com-এর সাথে কাজ করেন এবং AI এবং মেশিন লার্নিং-এ বিশেষ আগ্রহ রয়েছে। তার অবসর সময়ে তিনি নতুন সংস্কৃতি, নতুন অভিজ্ঞতা খোঁজা এবং সর্বশেষ প্রযুক্তির প্রবণতাগুলির সাথে আপ টু ডেট থাকতে উপভোগ করেন।
ধাওয়াল প্যাটেল AWS-এর একজন প্রধান মেশিন লার্নিং আর্কিটেক্ট। তিনি ডিস্ট্রিবিউটেড কম্পিউটিং এবং কৃত্রিম বুদ্ধিমত্তা সংক্রান্ত সমস্যা নিয়ে বড় উদ্যোগ থেকে শুরু করে মাঝারি আকারের স্টার্টআপ পর্যন্ত সংস্থাগুলির সাথে কাজ করেছেন। তিনি এনএলপি এবং কম্পিউটার ভিশন ডোমেন সহ গভীর শিক্ষার উপর মনোনিবেশ করেন। তিনি গ্রাহকদের Amazon SageMaker-এ উচ্চ-পারফরম্যান্স মডেল অনুমান অর্জনে সহায়তা করেন।
জিয়াহং লিউ NVIDIA-এর ক্লাউড পরিষেবা প্রদানকারী দলের একজন সমাধান স্থপতি। তিনি ক্লায়েন্টদের মেশিন লার্নিং এবং এআই সমাধান গ্রহণে সহায়তা করেন যা তাদের প্রশিক্ষণ এবং অনুমান চ্যালেঞ্জ মোকাবেলায় NVIDIA ত্বরিত কম্পিউটিংকে সুবিধা দেয়। অবসর সময়ে, তিনি অরিগামি, DIY প্রকল্প এবং বাস্কেটবল খেলা উপভোগ করেন।
ক্ষিতিজ গুপ্ত NVIDIA-এর একজন সলিউশন আর্কিটেক্ট। তিনি ক্লাউড গ্রাহকদের জিপিইউ এআই প্রযুক্তি সম্পর্কে শিক্ষিত করতে উপভোগ করেন NVIDIA-এর অফার করা এবং তাদের মেশিন লার্নিং এবং গভীর শিক্ষার অ্যাপ্লিকেশনগুলিকে ত্বরান্বিত করতে সহায়তা করা। কাজের বাইরে, তিনি দৌড়ানো, হাইকিং এবং বন্যপ্রাণী দেখা উপভোগ করেন।
- এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
- প্লেটোএআইস্ট্রিম। Web3 ডেটা ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
- অ্যাড্রিয়েন অ্যাশলির সাথে ভবিষ্যত মিন্টিং। এখানে প্রবেশ করুন.
- উত্স: https://aws.amazon.com/blogs/machine-learning/hosting-ml-models-on-amazon-sagemaker-using-triton-xgboost-lightgbm-and-treelite-models/
- : আছে
- : হয়
- :না
- :কোথায়
- $ ইউপি
- 1
- 100
- 11
- 13
- 200
- 23
- 24
- 7
- 8
- 9
- a
- ক্ষমতা
- সম্পর্কে
- দ্রুততর করা
- দ্রুততর
- ত্বরক
- ত্বক
- প্রবেশ
- অনুযায়ী
- তদনুসারে
- হিসাব
- অর্জন করা
- দিয়ে
- যোগ
- যোগ
- অতিরিক্ত
- ঠিকানা
- সম্বোধনযোগ্য
- দত্তক
- পর
- বিরুদ্ধে
- চুক্তি
- AI
- অ্যালগরিদম
- সব
- বরাদ্দ
- অনুমতি
- অনুমতি
- বরাবর
- ইতিমধ্যে
- এছাড়াও
- যদিও
- সর্বদা
- মর্দানী স্ত্রীলোক
- আমাজন সেজমেকার
- অ্যামাজন ওয়েব সার্ভিসেস
- Amazon.com
- পরিমাণ
- an
- এবং
- কোন
- API
- অ্যাপ্লিকেশন
- যথাযথ
- স্থাপত্য
- রয়েছি
- এলাকার
- যুক্তি
- বিন্যাস
- কৃত্রিম
- কৃত্রিম বুদ্ধিমত্তা
- AS
- সহায়তা
- At
- গাড়ী
- সহজলভ্য
- এড়াতে
- ডেস্কটপ AWS
- ব্যাক-এন্ড
- ভারসাম্য
- ভিত্তি
- সজোরে আঘাত
- ভিত্তি
- বাস্কেটবল
- BE
- কারণ
- পরিণত
- হয়েছে
- আগে
- শুরু করা
- পিছনে
- নিচে
- সুবিধা
- সর্বোত্তম
- উত্তম
- মধ্যে
- বড়
- ব্লগ
- শরীর
- উভয়
- বাফার
- নির্মাণ করা
- ভবন
- নির্মিত
- কিন্তু
- by
- সি ++
- নামক
- CAN
- কার্ড
- কেস
- মামলা
- বিভাগ
- কারণ
- চ্যালেঞ্জ
- পরিবর্তন
- বৈশিষ্ট্য
- চেক
- চিপ
- বেছে নিন
- নির্বাচন
- শহর
- শ্রেণী
- শ্রেণীবিন্যাস
- মক্কেল
- ক্লায়েন্ট
- মেঘ
- কোড
- কলাম
- এর COM
- আসে
- আসছে
- সাধারণ
- যোগাযোগ
- যোগাযোগ
- সম্প্রদায়
- উপযুক্ত
- জটিল
- গণনা
- কম্পিউটার
- কম্পিউটার বিজ্ঞান
- কম্পিউটার ভিশন
- কম্পিউটিং
- কনফিগারেশন
- সংযোগ
- বিবেচনা
- বিবেচিত
- গ্রাস করা
- খরচ
- আধার
- কন্টেনারগুলি
- ধারণ
- সুখী
- বিপরীত হত্তয়া
- নিয়ন্ত্রণ
- সুবিধাজনক
- পরিবর্তন
- রূপান্তর
- মূল
- অনুরূপ
- মূল্য
- মূল্য হ্রাস
- খরচ বাঁচানো
- আবরণ
- সৃষ্টি
- নির্মিত
- সৃষ্টি
- নির্ণায়ক
- কঠোর
- এখন
- প্রথা
- গ্রাহকদের
- চক্র
- ডালাস
- উপাত্ত
- তারিখ
- দিন
- লেনদেন
- রায়
- গভীর
- গভীর জ্ঞানার্জন
- গভীর
- ডিফল্ট
- অক্ষমতা
- ডিগ্রী
- বিলম্ব
- চাহিদা
- দাবি
- নির্ভর করে
- স্থাপন
- মোতায়েন
- মোতায়েন
- বিস্তৃতি
- গভীরতা
- নকশা
- বিস্তারিত
- নির্ধারণ
- নির্ধারিত
- নির্ধারণ করে
- নির্ণয়
- ডেভেলপারদের
- পার্থক্য
- বিভিন্ন
- বণ্টিত
- ডিস্ট্রিবিউটেড কম্পিউটিং
- DIY
- do
- ডকুমেন্টেশন
- না
- করছেন
- ডোমেইনের
- সম্পন্ন
- ঘুঘু
- কারণে
- সময়
- প্রতি
- পূর্বে
- শিক্ষিত
- দক্ষতা
- দক্ষতার
- পারেন
- জোর
- সম্ভব
- উত্সাহিত করা
- শেষ
- শেষপ্রান্ত
- ইঞ্জিন
- ইঞ্জিন
- নিশ্চিত করা
- নিশ্চিত
- উদ্যোগ
- উদ্যোগ
- সমগ্র
- পরিবেশ
- ত্রুটি
- এমন কি
- প্রতি
- উদাহরণ
- উদাহরণ
- বিনিময়
- আশা করা
- প্রত্যাশিত
- অভিজ্ঞতা
- রপ্তানি
- কারণের
- নিরপেক্ষভাবে
- ঝরনা
- মিথ্যা
- বৈশিষ্ট্য
- বৈশিষ্ট্য
- প্রতিপালিত
- প্রতিপালন
- কয়েক
- ব্যক্তিত্ব
- ফাইল
- নথি পত্র
- আবিষ্কার
- শেষ
- প্রথম
- প্রবাহ
- কেন্দ্রবিন্দু
- গুরুত্ত্ব
- অনুসরণ করা
- অনুসৃত
- অনুসরণ
- পদাঙ্ক
- জন্য
- ফর্ম
- বিন্যাস
- পাওয়া
- ফ্রেমওয়ার্ক
- অবকাঠামো
- প্রতারণা
- বিনামূল্যে
- থেকে
- তদ্ব্যতীত
- একেই
- সাধারণ
- উত্পন্ন
- পাওয়া
- দাও
- প্রদত্ত
- জিপিইউ
- অতিশয়
- গ্রুপ
- গ্রুপের
- পথপ্রদর্শন
- ঘটা
- কঠিন
- হার্ডওয়্যারের
- আছে
- he
- সাহায্য
- সাহায্য
- সাহায্য
- এখানে
- উচ্চস্তর
- উচ্চ পারদর্শিতা
- ঊর্ধ্বতন
- হাইলাইট
- তার
- রাখা
- ঝুলিতে
- নিমন্ত্রণকর্তা
- হোস্ট
- হোস্টিং
- কিভাবে
- কিভাবে
- যাহোক
- এইচটিএমএল
- HTTP
- HTTPS দ্বারা
- আহত
- পরিচয়
- আইডি
- IDX
- if
- ভাবমূর্তি
- প্রভাব
- প্রভাব
- বাস্তবায়ন
- বাস্তবায়িত
- সরঁজাম
- আমদানি
- in
- অন্তর্ভুক্ত করা
- সুদ্ধ
- বৃদ্ধি
- ইঙ্গিত
- তথ্য
- অবগত
- ইনপুট
- ইনস্টল
- উদাহরণ
- নির্দেশাবলী
- ইন্টিগ্রেশন
- বুদ্ধিমত্তা
- স্বার্থ
- অভ্যন্তরীণ
- মধ্যে
- IT
- এর
- JPG
- JSON
- মাত্র
- রাখা
- চাবি
- রকম
- জানা
- বড়
- বড় উদ্যোগ
- বৃহত্তর
- অদৃশ্যতা
- সর্বশেষ
- বিন্যাস
- শিখতে
- শিক্ষা
- অন্তত
- বরফ
- বৈধ
- কম
- উচ্চতা
- মাত্রা
- লেভারেজ
- লাইব্রেরি
- লাইব্রেরি
- মত
- LIMIT টি
- লাইন
- তালিকা
- বোঝা
- যুক্তিবিদ্যা
- যৌক্তিক
- দীর্ঘ
- মেশিন
- মেশিন লার্নিং
- করা
- পরিচালনা করা
- অনেক
- মাস্টার্স
- ম্যাচ
- সর্বোচ্চ
- সর্বাধিক
- মে..
- পদ্ধতি
- সম্মেলন
- সাক্ষাৎ
- স্মৃতি
- উল্লিখিত
- বণিক
- ছন্দোবিজ্ঞান
- হতে পারে
- মাইগ্রেট
- মন
- ML
- মোড
- মডেল
- মডেল
- মাস
- অধিক
- সেতু
- সবচেয়ে জনপ্রিয়
- পদক্ষেপ
- মাল্টি-মডেল এন্ডপয়েন্ট
- বহু
- অবশ্যই
- নাম
- নামকরণ
- স্থানীয়
- প্রয়োজন
- চাহিদা
- নতুন
- NLP
- না।
- নোড
- নোটবই
- এখন
- সংখ্যা
- অসাড়
- এনভিডিয়া
- প্রাপ্ত
- of
- অর্পণ
- অফার
- প্রায়ই
- on
- ONE
- ওগুলো
- কেবল
- ওপেন সোর্স
- অনুকূল
- অপ্টিমাইজেশান
- অপ্টিমিজ
- অপ্টিমাইজ
- সর্বোচ্চকরন
- পছন্দ
- অপশন সমূহ
- or
- ক্রম
- সংগঠন
- সংগঠিত
- মূলত
- OS
- অন্যান্য
- অন্যভাবে
- আমাদের
- বাইরে
- আউটপুট
- বাহিরে
- নিজের
- প্যাকেজ
- প্যাকেজিং
- পান্ডাস
- সমান্তরাল
- স্থিতিমাপ
- পরামিতি
- অংশগ্রহণকারী
- বিশেষ
- গৃহীত
- পাস
- পথ
- সম্পাদন করা
- কর্মক্ষমতা
- সঞ্চালিত
- অনুমতি
- ফটোগ্রাফি
- পাইপলাইন
- মাচা
- Plato
- প্লেটো ডেটা ইন্টেলিজেন্স
- প্লেটোডাটা
- কেলি
- দয়া করে
- আধিক্য
- নীতি
- নীতি
- পুকুর
- জনপ্রিয়
- জনপ্রিয়তা
- সম্ভব
- সম্ভবত
- পোস্ট
- ক্ষমতা
- ভবিষ্যদ্বাণী করা
- আন্দাজের
- পূর্বাভাস
- ভবিষ্যদ্বাণী
- ভবিষ্যতবাণী
- পূর্বে
- প্রাথমিক
- অধ্যক্ষ
- সমস্যা
- প্রক্রিয়া
- প্রসেস
- প্রক্রিয়াজাতকরণ
- প্রসেসিং শক্তি
- প্রসেসর
- উৎপাদন করা
- উত্পাদনের
- প্রকল্প
- সঠিক
- এটা কেন
- প্রদান
- প্রদত্ত
- প্রদানকারী
- উপলব্ধ
- প্রদানের
- পাইথন
- পাইটার্চ
- এলোমেলো
- রেঞ্জিং
- বরং
- কাঁচা
- প্রস্তুত
- বাস্তব জগতে
- প্রকৃত সময়
- কারণে
- সুপারিশ করা
- হ্রাস করা
- উল্লেখ করা
- তথাপি
- এলাকা
- সংশ্লিষ্ট
- প্রাসঙ্গিক
- প্রতিস্থাপন করা
- সংগ্রহস্থলের
- প্রতিনিধিত্ব
- প্রতিনিধিত্বমূলক
- প্রতিনিধিত্ব করে
- অনুরোধ
- অনুরোধ
- প্রয়োজন
- প্রয়োজনীয়
- আবশ্যকতা
- প্রয়োজন
- প্রতিক্রিয়া
- দায়ী
- ফল
- ফলাফল
- ভূমিকা
- চালান
- দৌড়
- s
- ঋষি নির্মাতা
- সেজমেকার ইনফারেন্স
- একই
- জমা
- মাপযোগ্য
- স্কেল
- আরোহী
- পরিস্থিতিতে
- পূর্বপরিকল্পনা
- বিজ্ঞান
- বিজ্ঞানীরা
- scikit-শিখতে
- স্কোর
- অধ্যায়
- দেখ
- সচেষ্ট
- নির্বাচিত
- পাঠান
- জ্যেষ্ঠ
- আলাদা
- পরিবেশন করা
- সেবা
- সার্ভিস প্রোভাইডার
- সেবা
- ভজনা
- সেট
- বিন্যাস
- সেটিংস
- আকৃতি
- ভাগ
- উচিত
- প্রদর্শনী
- শো
- পাশ
- উল্লেখযোগ্যভাবে
- অনুরূপ
- সহজ
- একক
- আয়তন
- মাপ
- So
- সমাধান
- সলিউশন
- সমাধান
- সমাধানে
- কিছু
- উৎস
- বিশেষ
- নির্দিষ্ট
- সবিস্তার বিবরণী
- নিদিষ্ট
- ব্যয় করা
- মান
- শুরু
- শুরু হচ্ছে
- প্রারম্ভ
- রাষ্ট্র
- অবস্থা
- অবিচলিত
- ধাপ
- প্রারম্ভিক ব্যবহারের নির্দেশাবলী
- স্টোরেজ
- দোকান
- সঞ্চিত
- অকপট
- স্ট্রিং
- গঠন
- সফল
- এমন
- সুপারিশ
- উপযুক্ত
- সমর্থন
- সমর্থিত
- সমর্থন
- গ্রহণ করা
- টীম
- প্রযুক্তি
- প্রযুক্তি
- প্রযুক্তিঃ
- বলা
- শর্তাবলী
- চেয়ে
- যে
- সার্জারির
- তথ্য
- তাদের
- তাহাদিগকে
- তারপর
- সেখানে।
- এইগুলো
- তারা
- জিনিস
- এই
- সেগুলো
- যদিও?
- তিন
- গোবরাট
- থ্রুপুট
- সময়
- থেকে
- আজ
- একসঙ্গে
- উপরের স্তর
- ঐতিহ্যগতভাবে
- প্রশিক্ষিত
- প্রশিক্ষণ
- স্থানান্তরিত হচ্ছে
- ভ্রমণ
- বৃক্ষ
- প্রবণতা
- Triton,
- সত্য
- দুই
- আদর্শ
- ধরনের
- সাধারণত
- বোঝা
- আপলোড করা
- আপলোড
- us
- ব্যবহার
- ব্যবহৃত
- ব্যবহারকারী
- ব্যবহার
- ব্যবহার
- ব্যবহার
- মূল্য
- মানগুলি
- বিভিন্ন
- সংস্করণ
- মাধ্যমে
- দৃষ্টি
- W
- অপেক্ষা করুন
- প্রয়োজন
- ছিল
- পর্যবেক্ষক
- উপায়..
- we
- ওয়েব
- ওয়েব সার্ভিস
- আমরা একটি
- ছিল
- কি
- কখন
- যখনই
- কিনা
- যে
- যখন
- ইচ্ছা
- সঙ্গে
- মধ্যে
- ছাড়া
- হয়া যাই ?
- কাজ করছে
- কর্মী
- কাজ
- would
- এক্সজিবিস্ট
- বছর
- আপনি
- আপনার
- zephyrnet
- ফ্যাস্ শব্দ