2021 में, हमने लॉन्च किया AWS सपोर्ट प्रोएक्टिव सर्विसेज के हिस्से के रूप में AWS एंटरप्राइज सपोर्ट योजना। इसकी शुरुआत के बाद से, हमने सैकड़ों ग्राहकों को उनके कार्यभार को अनुकूलित करने, रेलिंग सेट करने और उनके मशीन लर्निंग (एमएल) कार्यभार की लागत और उपयोग की दृश्यता में सुधार करने में मदद की है।
पोस्ट की इस श्रृंखला में, हम लागतों को अनुकूलित करने के बारे में सीखे गए पाठ साझा करते हैं अमेज़न SageMaker. में भाग 1, हमने दिखाया कि उपयोग कैसे शुरू करें AWS लागत एक्सप्लोरर सेजमेकर में लागत अनुकूलन के अवसरों की पहचान करना। इस पोस्ट में, हम सेजमेकर अनुमान वातावरण पर ध्यान केंद्रित करते हैं: वास्तविक समय अनुमान, बैच परिवर्तन, अतुल्यकालिक अनुमान, और सर्वर रहित अनुमान।
SageMaker कई अनुमान विकल्प प्रदान करता है आपके कार्यभार की आवश्यकताओं के आधार पर आपके लिए चयन:
- वास्तविक समय अनुमान ऑनलाइन, कम विलंबता, या उच्च थ्रूपुट आवश्यकताओं के लिए
- बैच परिवर्तन ऑफ़लाइन, निर्धारित प्रसंस्करण के लिए और जब आपको लगातार समापन बिंदु की आवश्यकता नहीं होती है
- अतुल्यकालिक अनुमान जब आपके पास लंबे प्रसंस्करण समय के साथ बड़े पेलोड हों और आप अनुरोधों को कतारबद्ध करना चाहते हों
- सर्वर रहित अनुमान जब आपके पास रुक-रुक कर या अप्रत्याशित ट्रैफ़िक पैटर्न हो और आप ठंडी शुरुआत को सहन कर सकें
निम्नलिखित अनुभागों में, हम प्रत्येक अनुमान विकल्प पर अधिक विस्तार से चर्चा करते हैं।
सेजमेकर रीयल-टाइम अनुमान
जब आप एक समापन बिंदु बनाते हैं, तो सेजमेकर एक संलग्न करता है अमेज़न इलास्टिक ब्लॉक स्टोर (अमेज़ॅन ईबीएस) भंडारण मात्रा के लिए अमेज़ॅन इलास्टिक कम्प्यूट क्लाउड (अमेज़ॅन EC2) उदाहरण जो समापन बिंदु को होस्ट करता है। यह उन सभी इंस्टेंस प्रकारों के लिए सत्य है जो SSD स्टोरेज के साथ नहीं आते हैं। चूँकि d* इंस्टेंस प्रकार NVMe SSD स्टोरेज के साथ आते हैं, SageMaker इन ML कंप्यूट इंस्टेंसेस में EBS स्टोरेज वॉल्यूम संलग्न नहीं करता है। को देखें होस्ट इंस्टेंस स्टोरेज वॉल्यूम स्टोरेज वॉल्यूम के आकार के लिए जिसे सेजमेकर प्रत्येक इंस्टेंस प्रकार के लिए एकल एंडपॉइंट और मल्टी-मॉडल एंडपॉइंट के लिए संलग्न करता है।
सेजमेकर रीयल-टाइम एंडपॉइंट की लागत प्रत्येक इंस्टेंस के लिए उपभोग किए गए प्रति इंस्टेंस-घंटे पर आधारित होती है, जबकि एंडपॉइंट चल रहा है, जीबी-महीने के प्रावधानित स्टोरेज (ईबीएस वॉल्यूम) की लागत, साथ ही अंदर और बाहर संसाधित जीबी डेटा पर आधारित है। समापन बिंदु उदाहरण का, जैसा कि इसमें बताया गया है अमेज़न SageMaker मूल्य निर्धारण. कॉस्ट एक्सप्लोरर में, आप उपयोग प्रकार पर फ़िल्टर लागू करके वास्तविक समय समापन बिंदु लागत देख सकते हैं। इन उपयोग प्रकारों के नाम इस प्रकार संरचित हैं:
REGION-Host:instanceType
(उदाहरण के लिए,USE1-Host:ml.c5.9xlarge
)REGION-Host:VolumeUsage.gp2
(उदाहरण के लिए,USE1-Host:VolumeUsage.gp2
)REGION-Hst:Data-Bytes-Out
(उदाहरण के लिए,USE2-Hst:Data-Bytes-In
)REGION-Hst:Data-Bytes-Out
(उदाहरण के लिए,USW2-Hst:Data-Bytes-Out)
जैसा कि निम्नलिखित स्क्रीनशॉट में दिखाया गया है, उपयोग प्रकार के आधार पर फ़िल्टर करना Host:
किसी खाते में वास्तविक समय के होस्टिंग उपयोग प्रकारों की एक सूची दिखाई देगी।
आप या तो विशिष्ट उपयोग प्रकार चुन सकते हैं या चयन कर सकते हैं सभी का चयन करें और चुनें लागू करें सेजमेकर वास्तविक समय होस्टिंग उपयोग की लागत का विवरण प्रदर्शित करने के लिए। उदाहरण के लिए घंटों के आधार पर लागत और उपयोग का विवरण देखने के लिए, आपको सभी का चयन रद्द करना होगा REGION-Host:VolumeUsage.gp2
उपयोग प्रकार फ़िल्टर लागू करने से पहले उपयोग प्रकार। आप खाता संख्या, EC2 उदाहरण प्रकार, लागत आवंटन टैग, क्षेत्र और जैसे अतिरिक्त फ़िल्टर भी लागू कर सकते हैं अधिक. निम्नलिखित स्क्रीनशॉट चयनित होस्टिंग उपयोग प्रकारों के लिए लागत और उपयोग ग्राफ़ दिखाता है।
इसके अतिरिक्त, आप इसका उपयोग करके एक या अधिक होस्टिंग इंस्टेंसेस से जुड़ी लागत का पता लगा सकते हैं उदाहरण प्रकार फ़िल्टर. निम्नलिखित स्क्रीनशॉट होस्टिंग उदाहरण ml.p2.xlarge के लिए लागत और उपयोग का विवरण दिखाता है।
इसी प्रकार, संसाधित और संसाधित किए गए जीबी डेटा की लागत को लागू फ़िल्टर के रूप में संबंधित उपयोग प्रकारों का चयन करके प्रदर्शित किया जा सकता है, जैसा कि निम्नलिखित स्क्रीनशॉट में दिखाया गया है।
फ़िल्टर और ग्रुपिंग के साथ अपने वांछित परिणाम प्राप्त करने के बाद, आप या तो चुनकर अपने परिणाम डाउनलोड कर सकते हैं सीएसवी के रूप में डाउनलोड करें या चुनकर रिपोर्ट सहेजें रिपोर्ट लाइब्रेरी में सहेजें. कॉस्ट एक्सप्लोरर का उपयोग करने पर सामान्य मार्गदर्शन के लिए, देखें AWS कॉस्ट एक्सप्लोरर का नया रूप और सामान्य उपयोग के मामले.
वैकल्पिक रूप से, आप सक्षम कर सकते हैं एडब्ल्यूएस लागत और उपयोग रिपोर्ट (AWS CUR) आपके खातों की लागत और उपयोग डेटा के बारे में जानकारी प्राप्त करने के लिए। AWS CUR में प्रति घंटा AWS खपत विवरण शामिल है। यह संग्रहित है अमेज़न सरल भंडारण सेवा (अमेज़ॅन एस3) भुगतानकर्ता खाते में, जो सभी लिंक किए गए खातों के डेटा को समेकित करता है। आप अपने उपयोग के रुझानों का विश्लेषण करने और लागत को अनुकूलित करने के लिए उचित कार्रवाई करने के लिए क्वेरी चला सकते हैं। अमेज़न एथेना एक सर्वर रहित क्वेरी सेवा है जिसका उपयोग आप मानक SQL का उपयोग करके Amazon S3 में AWS CUR से डेटा का विश्लेषण करने के लिए कर सकते हैं। अधिक जानकारी और उदाहरण प्रश्न यहां पाए जा सकते हैं एडब्ल्यूएस सीयूआर क्वेरी लाइब्रेरी.
आप इसमें AWS CUR डेटा भी फीड कर सकते हैं अमेज़न क्विकसाइट, जहां आप रिपोर्टिंग या विज़ुअलाइज़ेशन उद्देश्यों के लिए इसे किसी भी तरह से टुकड़े-टुकड़े कर सकते हैं। निर्देशों के लिए देखें मैं Amazon QuickSight में AWS लागत और उपयोग रिपोर्ट (CUR) को कैसे अंतर्ग्रहण और कल्पना कर सकता हूं?.
आप AWS CUR से संसाधन-स्तरीय जानकारी जैसे एंडपॉइंट एआरएन, एंडपॉइंट इंस्टेंस प्रकार, प्रति घंटा इंस्टेंस दर, दैनिक उपयोग घंटे और बहुत कुछ प्राप्त कर सकते हैं। अतिरिक्त स्तर की विस्तृत जानकारी के लिए आप अपनी क्वेरी में लागत-आवंटन टैग भी शामिल कर सकते हैं। निम्नलिखित उदाहरण क्वेरी दिए गए भुगतानकर्ता खाते के लिए पिछले 3 महीनों के लिए वास्तविक समय होस्टिंग संसाधन उपयोग लौटाती है:
निम्नलिखित स्क्रीनशॉट एथेना का उपयोग करके क्वेरी चलाने से प्राप्त परिणाम दिखाता है। अधिक जानकारी के लिए देखें अमेज़ॅन एथेना का उपयोग करके लागत और उपयोग रिपोर्ट की पूछताछ.
क्वेरी का परिणाम उस समापन बिंदु को दर्शाता है mme-xgboost-housing
ml.x4.xlarge इंस्टेंस के साथ लगातार कई दिनों तक 24 घंटे का रनटाइम रिपोर्ट किया जा रहा है। उदाहरण दर $0.24/घंटा है और 24 घंटे चलाने की दैनिक लागत $5.76 है।
AWS CUR परिणाम आपको प्रत्येक लिंक किए गए खाते में लगातार दिनों तक चलने वाले एंडपॉइंट के पैटर्न के साथ-साथ उच्चतम मासिक लागत वाले एंडपॉइंट की पहचान करने में मदद कर सकते हैं। इससे आपको यह तय करने में भी मदद मिल सकती है कि लागत बचाने के लिए गैर-उत्पादन खातों में अंतिम बिंदुओं को हटाया जा सकता है या नहीं।
वास्तविक समय के समापन बिंदुओं के लिए लागतों का अनुकूलन करें
लागत प्रबंधन के दृष्टिकोण से, कम उपयोग किए गए (या अधिक आकार वाले) उदाहरणों की पहचान करना और यदि आवश्यक हो, तो कार्यभार आवश्यकताओं के अनुरूप उदाहरण आकार और गणना लाना महत्वपूर्ण है। सीपीयू/जीपीयू उपयोग और मेमोरी उपयोग जैसे सामान्य सिस्टम मेट्रिक्स को लिखा जाता है अमेज़ॅन क्लाउडवॉच सभी होस्टिंग उदाहरणों के लिए. वास्तविक समय के समापन बिंदुओं के लिए, सेजमेकर क्लाउडवॉच में कई अतिरिक्त मेट्रिक्स उपलब्ध कराता है। आमतौर पर मॉनिटर किए जाने वाले कुछ मेट्रिक्स में इनवोकेशन काउंट और इनवोकेशन 4xx/5xx त्रुटियां शामिल हैं। मेट्रिक्स की पूरी सूची के लिए, देखें Amazon CloudWatch के साथ Amazon SageMaker की निगरानी करें.
मीट्रिक CPUUtilization
प्रत्येक व्यक्तिगत सीपीयू कोर के उपयोग का योग प्रदान करता है। प्रत्येक कोर रेंज का सीपीयू उपयोग 0-100 है। उदाहरण के लिए, यदि चार सीपीयू हैं, तो CPUUtilization
सीमा 0-400% है। मीट्रिक MemoryUtilization
मेमोरी का वह प्रतिशत है जो किसी इंस्टेंस पर कंटेनर द्वारा उपयोग किया जाता है। यह मान सीमा 0-100% है। निम्नलिखित स्क्रीनशॉट क्लाउडवॉच मेट्रिक्स का एक उदाहरण दिखाता है CPUUtilization
और MemoryUtilization
एक एंडपॉइंट इंस्टेंस ml.m4.10xlarge के लिए जो 40 vCPUs और 160 GiB मेमोरी के साथ आता है।
ये मेट्रिक्स ग्राफ़ अधिकतम CPU उपयोग लगभग 3,000% दिखाते हैं, जो 30 vCPU के बराबर है। इसका मतलब यह है कि यह समापन बिंदु 30 वीसीपीयू की कुल क्षमता में से 40 से अधिक वीसीपीयू का उपयोग नहीं कर रहा है। इसी प्रकार, मेमोरी उपयोग 6% से कम है। इस जानकारी का उपयोग करके, आप संभवतः एक छोटे उदाहरण के साथ प्रयोग कर सकते हैं जो इस संसाधन की आवश्यकता से मेल खा सकता है। इसके अलावा, CPUUtilization
मीट्रिक आवधिक उच्च और निम्न सीपीयू मांग का एक क्लासिक पैटर्न दिखाता है, जो इस समापन बिंदु को ऑटो स्केलिंग के लिए एक अच्छा उम्मीदवार बनाता है। आप एक छोटे उदाहरण से शुरुआत कर सकते हैं और जैसे-जैसे आपकी गणना की मांग बदलती है, पहले बड़े पैमाने पर काम कर सकते हैं। जानकारी के लिए देखें अमेज़ॅन सेजमेकर मॉडल को स्वचालित रूप से स्केल करें.
सेजमेकर नए मॉडलों के परीक्षण के लिए बहुत अच्छा है क्योंकि आप उन्हें आसानी से ए/बी परीक्षण वातावरण में तैनात कर सकते हैं उत्पादन वेरिएंट, और आप केवल उसी के लिए भुगतान करते हैं जिसका आप उपयोग करते हैं। प्रत्येक उत्पादन वैरिएंट अपने स्वयं के कंप्यूट इंस्टेंस पर चलता है और वैरिएंट चलने के दौरान आपसे प्रत्येक इंस्टेंस के लिए उपभोग किए गए प्रति घंटे के हिसाब से शुल्क लिया जाता है।
सेजमेकर भी सपोर्ट करता है छाया वेरिएंट, जिसमें उत्पादन संस्करण के समान घटक होते हैं और अपने स्वयं के कंप्यूट इंस्टेंस पर चलते हैं। छाया वेरिएंट के साथ, सेजमेकर स्वचालित रूप से एक परीक्षण वातावरण में मॉडल को तैनात करता है, उत्पादन मॉडल द्वारा प्राप्त अनुमान अनुरोधों की एक प्रति को वास्तविक समय में परीक्षण मॉडल में रूट करता है, और विलंबता और थ्रूपुट जैसे प्रदर्शन मेट्रिक्स एकत्र करता है। यह आपको अपने मॉडल सर्विंग स्टैक के किसी भी नए उम्मीदवार घटक को उत्पादन में बढ़ावा देने से पहले सत्यापित करने में सक्षम बनाता है।
जब आपका परीक्षण पूरा हो जाए और आप एंडपॉइंट या वेरिएंट का बड़े पैमाने पर उपयोग नहीं कर रहे हों, तो आपको लागत बचाने के लिए इसे हटा देना चाहिए। चूँकि मॉडल Amazon S3 में संग्रहीत है, आप आवश्यकतानुसार इसे पुनः बना सकते हैं। आप स्वचालित रूप से इन समापन बिंदुओं का पता लगा सकते हैं और इसका उपयोग करके सुधारात्मक कार्रवाई (जैसे उन्हें हटाना) कर सकते हैं अमेज़न CloudWatch ईवेंट और AWS लाम्बा कार्य. उदाहरण के लिए, आप इसका उपयोग कर सकते हैं Invocations
एक मॉडल एंडपॉइंट पर भेजे गए अनुरोधों की कुल संख्या प्राप्त करने के लिए मीट्रिक और फिर पता लगाएं कि क्या एंडपॉइंट पिछले कई घंटों से निष्क्रिय हैं (एक निश्चित अवधि में कोई आमंत्रण नहीं है, जैसे कि 24 घंटे)।
यदि आपके पास कई कम उपयोग वाले एंडपॉइंट इंस्टेंस हैं, तो होस्टिंग विकल्पों पर विचार करें जैसे बहु-मॉडल समापन बिंदु (एमएमई), मल्टी-कंटेनर समापन बिंदु (एमसीई), और क्रमिक अनुमान पाइपलाइनें उपयोग को कम समापन बिंदु उदाहरणों तक समेकित करने के लिए।
वास्तविक समय और अतुल्यकालिक अनुमान मॉडल परिनियोजन के लिए, आप SageMaker पर मॉडल परिनियोजन करके लागत और प्रदर्शन को अनुकूलित कर सकते हैं एडब्ल्यूएस ग्रेविटन. AWS Graviton, AWS द्वारा डिज़ाइन किया गया प्रोसेसर का एक परिवार है जो सर्वोत्तम मूल्य प्रदर्शन प्रदान करता है और अपने x86 समकक्षों की तुलना में अधिक ऊर्जा कुशल है। एडब्ल्यूएस ग्रेविटॉन-आधारित उदाहरणों के लिए एमएल मॉडल को तैनात करने और मूल्य प्रदर्शन लाभ पर विवरण के लिए मार्गदर्शन के लिए, देखें Amazon SageMaker के साथ AWS Graviton- आधारित उदाहरणों पर मशीन लर्निंग इंट्रेंस वर्कलोड चलाएं. सेजमेकर भी सपोर्ट करता है एडब्ल्यूएस इन्फेंटेंटिया त्वरक के माध्यम से ml.inf2 वास्तविक समय और अतुल्यकालिक अनुमान के लिए एमएल मॉडल तैनात करने के लिए उदाहरणों का परिवार। आप बड़े भाषा मॉडल (एलएलएम) और विज़न ट्रांसफार्मर सहित जनरेटिव आर्टिफिशियल इंटेलिजेंस (एआई) मॉडल के लिए कम लागत पर उच्च प्रदर्शन प्राप्त करने के लिए सेजमेकर पर इन उदाहरणों का उपयोग कर सकते हैं।
इसके अलावा, आप उपयोग कर सकते हैं अमेज़ॅन सेजमेकर अनुमान अनुशंसाकर्ता लोड परीक्षण चलाने और इन उदाहरणों पर अपने मॉडल को तैनात करने के मूल्य प्रदर्शन लाभों का मूल्यांकन करने के लिए। निष्क्रिय सेजमेकर एंडपॉइंट्स का स्वचालित रूप से पता लगाने पर अतिरिक्त मार्गदर्शन के लिए, साथ ही सेजमेकर एंडपॉइंट्स के लिए सही आकार और ऑटो स्केलिंग के उदाहरण के लिए, देखें Amazon SageMaker पर संसाधनों की कुशल गणना सुनिश्चित करें.
SageMaker बैच परिवर्तन
बैच अनुमान, या ऑफ़लाइन अनुमान, अवलोकनों के एक बैच पर भविष्यवाणियाँ उत्पन्न करने की प्रक्रिया है। ऑफ़लाइन पूर्वानुमान बड़े डेटासेट के लिए उपयुक्त हैं और ऐसे मामलों में जहां आप प्रतिक्रिया के लिए कई मिनट या घंटों तक इंतजार कर सकते हैं।
सेजमेकर बैच ट्रांसफ़ॉर्म की लागत प्रत्येक इंस्टेंस के लिए उपभोग किए गए प्रति इंस्टेंस-घंटे पर आधारित होती है, जबकि बैच ट्रांसफ़ॉर्म कार्य चल रहा होता है, जैसा कि इसमें बताया गया है अमेज़न SageMaker मूल्य निर्धारण. कॉस्ट एक्सप्लोरर में, आप उपयोग प्रकार पर फ़िल्टर लागू करके बैच ट्रांसफ़ॉर्म लागत का पता लगा सकते हैं। इस उपयोग प्रकार का नाम इस प्रकार संरचित है REGION-Tsform:instanceType
(उदाहरण के लिए, USE1-Tsform:ml.c5.9xlarge
).
जैसा कि निम्नलिखित स्क्रीनशॉट में दिखाया गया है, उपयोग प्रकार के अनुसार फ़िल्टर करना Tsform:
एक खाते में सेजमेकर बैच ट्रांसफ़ॉर्म उपयोग प्रकारों की एक सूची दिखाएगा।
आप या तो विशिष्ट उपयोग प्रकार चुन सकते हैं या चयन कर सकते हैं सभी का चयन करें और चुनें लागू करें चयनित प्रकारों के लिए बैच ट्रांसफ़ॉर्म इंस्टेंस उपयोग की लागत का विवरण प्रदर्शित करने के लिए। जैसा कि पहले बताया गया है, आप अतिरिक्त फ़िल्टर भी लागू कर सकते हैं। निम्नलिखित स्क्रीनशॉट चयनित बैच परिवर्तन उपयोग प्रकारों के लिए लागत और उपयोग ग्राफ़ दिखाता है।
बैच परिवर्तन के लिए लागतों का अनुकूलन करें
सेजमेकर बैच ट्रांसफ़ॉर्म आपसे केवल आपके कार्य चलने के दौरान उपयोग किए गए इंस्टेंसेस के लिए शुल्क लेता है। यदि आपका डेटा पहले से ही Amazon S3 में है, तो Amazon S3 से इनपुट डेटा पढ़ने और आउटपुट डेटा को Amazon S3 पर लिखने की कोई लागत नहीं है। सभी आउटपुट ऑब्जेक्ट को Amazon S3 पर अपलोड करने का प्रयास किया गया है। यदि सभी सफल होते हैं, तो बैच ट्रांसफॉर्म कार्य को पूर्ण के रूप में चिह्नित किया जाता है। यदि एक या अधिक ऑब्जेक्ट विफल हो जाते हैं, तो बैच ट्रांसफ़ॉर्म कार्य को विफल के रूप में चिह्नित किया जाता है।
बैच ट्रांसफ़ॉर्म नौकरियों के लिए शुल्क निम्नलिखित परिदृश्यों में लागू होते हैं:
- कार्य सफल है
- असफलता के कारण
ClientError
और मॉडल कंटेनर सेजमेकर या है एक सेजमेकर प्रबंधित ढांचा - असफलता के कारण
AlgorithmError
orClientError
और मॉडल कंटेनर आपका अपना कस्टम कंटेनर है (बीवाईओसी)
सेजमेकर बैच ट्रांसफॉर्म जॉब को अनुकूलित करने के लिए कुछ सर्वोत्तम अभ्यास निम्नलिखित हैं। ये अनुशंसाएँ आपके बैच परिवर्तन कार्य के कुल रनटाइम को कम कर सकती हैं, जिससे लागत कम हो सकती है:
- सेट बैचरणनीति सेवा मेरे
MultiRecord
औरSplitType
सेवा मेरेLine
यदि आपको इनपुट फ़ाइल से मिनी बैच बनाने के लिए बैच ट्रांसफ़ॉर्म कार्य की आवश्यकता है। यदि यह स्वचालित रूप से डेटासेट को मिनी बैचों में विभाजित नहीं कर सकता है, तो आप प्रत्येक बैच को डेटा स्रोत S3 बकेट में रखी एक अलग इनपुट फ़ाइल में डालकर इसे मिनी बैचों में विभाजित कर सकते हैं। - सुनिश्चित करें कि बैच का आकार मेमोरी में फिट बैठता है। सेजमेकर आमतौर पर इसे स्वचालित रूप से संभालता है; हालाँकि, बैचों को मैन्युअल रूप से विभाजित करते समय, इसे मेमोरी के आधार पर ट्यून करने की आवश्यकता होती है।
- बैच कुंजी द्वारा इनपुट में S3 ऑब्जेक्ट के विभाजन को रूपांतरित करता है और उन ऑब्जेक्ट को उदाहरणों में मैप करता है। जब आपके पास एकाधिक फ़ाइलें हों, तो एक उदाहरण संसाधित हो सकता है
input1.csv
, और एक अन्य उदाहरण प्रक्रिया कर सकता हैinput2.csv
. यदि आपके पास एक इनपुट फ़ाइल है, लेकिन कई कंप्यूट इंस्टेंस को प्रारंभ करते हैं, तो केवल एक इंस्टेंस इनपुट फ़ाइल को संसाधित करता है और बाकी इंस्टेंस निष्क्रिय हैं। सुनिश्चित करें कि फ़ाइलों की संख्या उदाहरणों की संख्या के बराबर या उससे अधिक है। - यदि आपके पास बड़ी संख्या में छोटी फ़ाइलें हैं, तो Amazon S3 इंटरेक्शन समय को कम करने के लिए एकाधिक फ़ाइलों को छोटी संख्या में बड़ी फ़ाइलों में संयोजित करना फायदेमंद हो सकता है।
- यदि आप उपयोग कर रहे हैं क्रिएटट्रांसफॉर्मजॉब एपीआई, आप जैसे मापदंडों के लिए इष्टतम मानों का उपयोग करके बैच ट्रांसफ़ॉर्म नौकरियों को पूरा करने में लगने वाले समय को कम कर सकते हैं मैक्सपेलोडइनएमबी, मैक्सकंकरंटट्रांसफॉर्मया, बैचरणनीति:
MaxConcurrentTransforms
ट्रांसफॉर्म जॉब में प्रत्येक इंस्टेंस पर भेजे जा सकने वाले समानांतर अनुरोधों की अधिकतम संख्या को इंगित करता है। के लिए आदर्श मूल्यMaxConcurrentTransforms
एक उदाहरण में vCPU कोर की संख्या के बराबर है।MaxPayloadInMB
पेलोड का अधिकतम अनुमत आकार एमबी में है। में मूल्यMaxPayloadInMB
एकल रिकॉर्ड के आकार से बड़ा या उसके बराबर होना चाहिए। एमबी में किसी रिकॉर्ड के आकार का अनुमान लगाने के लिए, अपने डेटासेट के आकार को रिकॉर्ड की संख्या से विभाजित करें। यह सुनिश्चित करने के लिए कि रिकॉर्ड अधिकतम पेलोड आकार के भीतर फिट हों, हम थोड़े बड़े मूल्य का उपयोग करने की सलाह देते हैं। डिफ़ॉल्ट मान 6 एमबी है.MaxPayloadInMB
100 एमबी से अधिक नहीं होना चाहिए. यदि आप वैकल्पिक निर्दिष्ट करते हैंMaxConcurrentTransforms
पैरामीटर, फिर का मान (MaxConcurrentTransforms
*MaxPayloadInMB
) भी 100 एमबी से अधिक नहीं होना चाहिए।- ऐसे मामलों के लिए जहां पेलोड मनमाने ढंग से बड़ा हो सकता है और HTTP खंडित एन्कोडिंग का उपयोग करके प्रसारित किया जाता है, MaxPayloadInMB मान को 0 पर सेट करें। यह सुविधा केवल समर्थित एल्गोरिदम में काम करती है। वर्तमान में, सेजमेकर अंतर्निर्मित एल्गोरिदम HTTP खंडित एन्कोडिंग का समर्थन नहीं करते हैं।
- बैच अनुमान कार्य आमतौर पर क्षैतिज स्केलिंग के लिए अच्छे उम्मीदवार होते हैं। क्लस्टर के भीतर प्रत्येक कार्यकर्ता अन्य श्रमिकों के साथ जानकारी के आदान-प्रदान की आवश्यकता के बिना डेटा के एक अलग उपसमूह पर काम कर सकता है। AWS कई स्टोरेज और कंप्यूट विकल्प प्रदान करता है जो क्षैतिज स्केलिंग को सक्षम बनाता है। यदि एक उदाहरण आपकी प्रदर्शन आवश्यकताओं को पूरा करने के लिए पर्याप्त नहीं है, तो कार्यभार को वितरित करने के लिए समानांतर में कई उदाहरणों का उपयोग करने पर विचार करें। जब आर्किटेक्टिंग बैच नौकरियों को बदलता है तो मुख्य विचारों के लिए, देखें अमेज़ॅन सेजमेकर के साथ स्केल पर बैच अनुमान.
- क्लाउडवॉच का उपयोग करके अपने सेजमेकर बैच ट्रांसफॉर्म नौकरियों के प्रदर्शन मेट्रिक्स की लगातार निगरानी करें। यह निर्धारित करने के लिए कि क्या आपको इंस्टेंस आकार या कॉन्फ़िगरेशन को समायोजित करने की आवश्यकता है, बाधाओं को देखें, जैसे उच्च सीपीयू या जीपीयू उपयोग, मेमोरी उपयोग, या नेटवर्क थ्रूपुट।
- सेजमेकर अमेज़न S3 का उपयोग करता है मल्टीपार्ट अपलोड एपीआई बैच ट्रांसफ़ॉर्म जॉब से परिणाम अमेज़न S3 पर अपलोड करने के लिए। यदि कोई त्रुटि होती है, तो अपलोड किए गए परिणाम Amazon S3 से हटा दिए जाते हैं। कुछ मामलों में, जैसे कि जब नेटवर्क आउटेज होता है, तो Amazon S3 में अधूरा मल्टीपार्ट अपलोड रह सकता है। भंडारण शुल्क से बचने के लिए, हम अनुशंसा करते हैं कि आप इसे जोड़ें S3 बाल्टी नीति S3 बकेट जीवनचक्र नियमों के लिए। यह नीति अधूरे मल्टीपार्ट अपलोड को हटा देती है जो S3 बकेट में संग्रहीत हो सकते हैं। अधिक जानकारी के लिए देखें अपने भंडारण जीवनचक्र का प्रबंधन.
SageMaker अतुल्यकालिक निष्कर्ष
बड़े पेलोड और बर्स्ट ट्रैफ़िक वाले लागत-संवेदनशील कार्यभार के लिए अतुल्यकालिक अनुमान एक बढ़िया विकल्प है। अनुरोधों को संसाधित होने में 1 घंटे तक का समय लग सकता है और इसका पेलोड आकार 1 जीबी तक हो सकता है, इसलिए यह उन वर्कलोड के लिए अधिक उपयुक्त है जिनमें विलंबता आवश्यकताओं में ढील दी गई है।
अतुल्यकालिक समापन बिंदुओं का आह्वान वास्तविक समय के समापन बिंदुओं से भिन्न होता है। अनुरोध पेलोड को अनुरोध के साथ समकालिक रूप से पारित करने के बजाय, आप पेलोड को अमेज़ॅन एस 3 पर अपलोड करते हैं और अनुरोध के एक भाग के रूप में एक एस 3 यूआरआई पास करते हैं। आंतरिक रूप से, सेजमेकर इन अनुरोधों के साथ एक कतार बनाए रखता है और उन्हें संसाधित करता है। समापन बिंदु निर्माण के दौरान, आप वैकल्पिक रूप से एक निर्दिष्ट कर सकते हैं अमेज़न सरल अधिसूचना सेवा (अमेज़ॅन एसएनएस) विषय सफलता या त्रुटि सूचनाएं प्राप्त करने के लिए। जब आपको सूचना मिलती है कि आपका अनुमान अनुरोध सफलतापूर्वक संसाधित हो गया है, तो आप आउटपुट अमेज़ॅन S3 स्थान पर परिणाम तक पहुंच सकते हैं।
एसिंक्रोनस अनुमान की लागत प्रत्येक उदाहरण के लिए उपभोग किए गए प्रति इंस्टेंस-घंटे पर आधारित होती है, जबकि एंडपॉइंट चल रहा है, प्रावधानित भंडारण के जीबी-महीने की लागत, साथ ही एंडपॉइंट इंस्टेंस के अंदर और बाहर संसाधित जीबी डेटा, जैसा कि उल्लिखित है अमेज़न SageMaker मूल्य निर्धारण. कॉस्ट एक्सप्लोरर में, आप उपयोग प्रकार पर फ़िल्टर लागू करके अतुल्यकालिक अनुमान लागतों को फ़िल्टर कर सकते हैं। इस उपयोग प्रकार का नाम इस प्रकार संरचित है REGION-AsyncInf:instanceType
(उदाहरण के लिए, USE1-AsyncInf:ml.c5.9xlarge
). ध्यान दें कि जीबी वॉल्यूम और जीबी डेटा संसाधित उपयोग प्रकार वास्तविक समय के समापन बिंदुओं के समान हैं, जैसा कि इस पोस्ट में पहले बताया गया है।
जैसा कि निम्नलिखित स्क्रीनशॉट में दिखाया गया है, उपयोग प्रकार के आधार पर फ़िल्टर करना AsyncInf:
कॉस्ट एक्सप्लोरर में एसिंक्रोनस एंडपॉइंट उपयोग प्रकारों द्वारा लागत विश्लेषण प्रदर्शित किया जाता है।
उदाहरण के लिए घंटों के आधार पर लागत और उपयोग का विवरण देखने के लिए, आपको सभी का चयन रद्द करना होगा REGION-Host:VolumeUsage.gp2
उपयोग प्रकार फ़िल्टर लागू करने से पहले उपयोग प्रकार। आप अतिरिक्त फ़िल्टर भी लागू कर सकते हैं. संसाधन-स्तरीय जानकारी जैसे एंडपॉइंट एआरएन, एंडपॉइंट इंस्टेंस प्रकार, प्रति घंटा इंस्टेंस दर और दैनिक उपयोग घंटे एडब्ल्यूएस सीयूआर से प्राप्त किए जा सकते हैं। पिछले 3 महीनों के लिए एसिंक्रोनस होस्टिंग संसाधन उपयोग प्राप्त करने के लिए AWS CUR क्वेरी का एक उदाहरण निम्नलिखित है:
निम्नलिखित स्क्रीनशॉट एथेना का उपयोग करके AWS CUR क्वेरी चलाने से प्राप्त परिणाम दिखाता है।
क्वेरी का परिणाम उस समापन बिंदु को दर्शाता है sagemaker-abc-model-5
ml.m5.xlarge इंस्टेंस के साथ लगातार कई दिनों तक 24 घंटे का रनटाइम रिपोर्ट किया जा रहा है। उदाहरण दर $0.23/घंटा है और 24 घंटे तक चलने की दैनिक लागत $5.52 है।
जैसा कि पहले उल्लेख किया गया है, AWS CUR परिणाम आपको लगातार दिनों तक चलने वाले एंडपॉइंट के पैटर्न के साथ-साथ उच्चतम मासिक लागत वाले एंडपॉइंट की पहचान करने में मदद कर सकते हैं। इससे आपको यह तय करने में भी मदद मिल सकती है कि लागत बचाने के लिए गैर-उत्पादन खातों में अंतिम बिंदुओं को हटाया जा सकता है या नहीं।
अतुल्यकालिक अनुमान के लिए लागतों का अनुकूलन करें
वास्तविक समय के समापन बिंदुओं की तरह, अतुल्यकालिक समापन बिंदुओं की लागत उदाहरण प्रकार के उपयोग पर आधारित होती है। इसलिए, कम उपयोग किए गए उदाहरणों की पहचान करना और कार्यभार आवश्यकताओं के आधार पर उनका आकार बदलना महत्वपूर्ण है। एसिंक्रोनस एंडपॉइंट्स की निगरानी करने के लिए, सेजमेकर बनाता है कई मैट्रिक्स जैसे ApproximateBacklogSize
, HasBacklogWithoutCapacity
, और अधिक CloudWatch में उपलब्ध है। ये मेट्रिक्स एक उदाहरण के लिए कतार में अनुरोध दिखा सकते हैं और समापन बिंदु को ऑटो स्केलिंग के लिए उपयोग किया जा सकता है। सेजमेकर एसिंक्रोनस अनुमान में होस्ट-स्तरीय मेट्रिक्स भी शामिल हैं। होस्ट-स्तरीय मेट्रिक्स पर जानकारी के लिए देखें सेजमेकर जॉब्स और एंडपॉइंट मेट्रिक्स. ये मेट्रिक्स संसाधन उपयोग दिखा सकते हैं जो आपको उदाहरण को सही आकार देने में मदद कर सकते हैं।
सेजमेकर समर्थन करता है ऑटो स्केलिंग अतुल्यकालिक समापन बिंदुओं के लिए. वास्तविक समय में होस्ट किए गए समापन बिंदुओं के विपरीत, अतुल्यकालिक अनुमान समापन बिंदु न्यूनतम क्षमता को शून्य पर सेट करके उदाहरणों को शून्य तक स्केल करने का समर्थन करते हैं। अतुल्यकालिक समापन बिंदुओं के लिए, सेजमेकर दृढ़ता से अनुशंसा करता है कि आप एक तैनात मॉडल (वेरिएंट) के लिए लक्ष्य-ट्रैकिंग स्केलिंग के लिए एक नीति कॉन्फ़िगरेशन बनाएं। आपको उस स्केलिंग नीति को परिभाषित करने की आवश्यकता है जो स्केल की गई है ApproximateBacklogPerInstance
कस्टम मीट्रिक और सेट करें MinCapacity
मान शून्य.
जब प्रक्रिया के लिए कोई अनुरोध नहीं होता है तो एसिंक्रोनस अनुमान आपको इंस्टेंस गिनती को स्वचालित रूप से शून्य पर स्केल करके लागत बचाने में सक्षम बनाता है, इसलिए आप केवल तभी भुगतान करते हैं जब आपका एंडपॉइंट अनुरोध संसाधित कर रहा हो। शून्य इंस्टेंसेस होने पर प्राप्त होने वाले अनुरोधों को एंडपॉइंट स्केल बढ़ने के बाद प्रसंस्करण के लिए कतारबद्ध किया जाता है। इसलिए, ऐसे उपयोग के मामलों के लिए जो कुछ मिनटों की कोल्ड स्टार्ट पेनल्टी को सहन कर सकते हैं, आप वैकल्पिक रूप से कोई बकाया अनुरोध न होने पर एंडपॉइंट इंस्टेंस गिनती को शून्य तक कम कर सकते हैं और नए अनुरोध आने पर स्केल को वापस बढ़ा सकते हैं। कोल्ड स्टार्ट का समय स्क्रैच से एक नया एंडपॉइंट लॉन्च करने के लिए आवश्यक समय पर निर्भर करता है। साथ ही अगर मॉडल ही बड़ा है तो समय भी ज्यादा लग सकता है. यदि आपके कार्य में 1 घंटे के प्रसंस्करण समय से अधिक समय लगने की उम्मीद है, तो आप सेजमेकर बैच परिवर्तन पर विचार करना चाह सकते हैं।
इसके अतिरिक्त, आप इंस्टेंस प्रकार चुनने के लिए अपने अनुरोध के कतारबद्ध समय को प्रसंस्करण समय के साथ जोड़कर भी विचार कर सकते हैं। उदाहरण के लिए, यदि आपका उपयोग मामला घंटों प्रतीक्षा समय को सहन कर सकता है, तो आप लागत बचाने के लिए एक छोटा उदाहरण चुन सकते हैं।
सेजमेकर एंडपॉइंट के लिए सही आकार और ऑटो स्केलिंग जैसे अतिरिक्त मार्गदर्शन के लिए, देखें Amazon SageMaker पर संसाधनों की कुशल गणना सुनिश्चित करें.
सर्वर रहित अनुमान
सर्वर रहित अनुमान आपको अंतर्निहित बुनियादी ढांचे को कॉन्फ़िगर या प्रबंधित किए बिना अनुमान के लिए एमएल मॉडल तैनात करने की अनुमति देता है। आपके मॉडल को प्राप्त होने वाले अनुमान अनुरोधों की मात्रा के आधार पर, सेजमेकर सर्वर रहित अनुमान स्वचालित रूप से गणना क्षमता का प्रावधान, माप और बंद कर देता है। परिणामस्वरूप, आप केवल अपने अनुमान कोड को चलाने के लिए गणना समय और संसाधित डेटा की मात्रा के लिए भुगतान करते हैं, निष्क्रिय समय के लिए नहीं। सर्वर रहित समापन बिंदुओं के लिए, उदाहरण प्रावधान आवश्यक नहीं है। आपको उपलब्ध कराने की आवश्यकता है मेमोरी का आकार और अधिकतम समवर्तीता. क्योंकि सर्वर रहित एंडपॉइंट मांग पर संसाधनों की गणना करने का प्रावधान करते हैं, आपके एंडपॉइंट को निष्क्रिय अवधि के बाद पहले आह्वान के लिए कुछ अतिरिक्त सेकंड की विलंबता (कोल्ड स्टार्ट) का अनुभव हो सकता है। आप अनुमान अनुरोधों को संसाधित करने के लिए उपयोग की जाने वाली गणना क्षमता, मिलीसेकंड, प्रावधानित भंडारण के जीबी-माह और संसाधित डेटा की मात्रा के आधार पर भुगतान करते हैं। गणना शुल्क आपके द्वारा चुने गए मेमोरी कॉन्फ़िगरेशन पर निर्भर करता है।
कॉस्ट एक्सप्लोरर में, आप उपयोग प्रकार पर फ़िल्टर लागू करके सर्वर रहित एंडपॉइंट लागतों को फ़िल्टर कर सकते हैं। इस उपयोग प्रकार का नाम इस प्रकार संरचित है REGION-ServerlessInf:Mem-MemorySize
(उदाहरण के लिए, USE2-ServerlessInf:Mem-4GB
). ध्यान दें कि जीबी वॉल्यूम और जीबी डेटा संसाधित उपयोग प्रकार वास्तविक समय समापन बिंदु के समान हैं।
आप खाता संख्या, उदाहरण प्रकार, क्षेत्र और अधिक जैसे अतिरिक्त फ़िल्टर लागू करके लागत विवरण देख सकते हैं। निम्नलिखित स्क्रीनशॉट सर्वर रहित अनुमान उपयोग प्रकार के लिए फ़िल्टर लागू करके लागत विवरण दिखाता है।
सर्वर रहित अनुमान के लिए लागत का अनुकूलन करें
अपने सर्वर रहित एंडपॉइंट को कॉन्फ़िगर करते समय, आप मेमोरी आकार और समवर्ती इनवोकेशन की अधिकतम संख्या निर्दिष्ट कर सकते हैं। सेजमेकर सर्वर रहित अनुमान आपके द्वारा चुनी गई मेमोरी के अनुपात में संसाधनों की गणना स्वचालित रूप से करता है। यदि आप बड़ा मेमोरी आकार चुनते हैं, तो आपके कंटेनर के पास अधिक वीसीपीयू तक पहुंच है। सर्वर रहित अनुमान के साथ, आप केवल अनुमान अनुरोधों को संसाधित करने के लिए उपयोग की जाने वाली गणना क्षमता, मिलीसेकंड द्वारा बिल और संसाधित डेटा की मात्रा के लिए भुगतान करते हैं। गणना शुल्क आपके द्वारा चुने गए मेमोरी कॉन्फ़िगरेशन पर निर्भर करता है। आप जो मेमोरी साइज़ चुन सकते हैं वे हैं 1024 एमबी, 2048 एमबी, 3072 एमबी, 4096 एमबी, 5120 एमबी और 6144 एमबी। जैसा कि बताया गया है, मेमोरी आकार में वृद्धि के साथ मूल्य निर्धारण बढ़ता है अमेज़न SageMaker मूल्य निर्धारण, इसलिए सही मेमोरी आकार का चयन करना महत्वपूर्ण है। एक सामान्य नियम के रूप में, मेमोरी का आकार कम से कम आपके मॉडल के आकार जितना बड़ा होना चाहिए। हालाँकि, मॉडल आकार के अलावा, एंडपॉइंट मेमोरी आकार तय करते समय मेमोरी उपयोग को संदर्भित करना एक अच्छा अभ्यास है।
सेजमेकर अनुमान लागत को अनुकूलित करने के लिए सामान्य सर्वोत्तम अभ्यास
होस्टिंग लागतों को अनुकूलित करना कोई एक बार की घटना नहीं है। यह तैनात बुनियादी ढांचे, उपयोग पैटर्न और प्रदर्शन की निगरानी करने की एक सतत प्रक्रिया है, और एडब्ल्यूएस द्वारा जारी नए अभिनव समाधानों पर भी गहरी नजर रखती है जो लागत को प्रभावित कर सकते हैं। निम्नलिखित सर्वोत्तम प्रथाओं पर विचार करें:
- एक उपयुक्त उदाहरण प्रकार चुनें - सेजमेकर कई इंस्टेंस प्रकारों का समर्थन करता है, प्रत्येक सीपीयू, जीपीयू, मेमोरी और स्टोरेज क्षमताओं के अलग-अलग संयोजनों के साथ। अपने मॉडल की संसाधन आवश्यकताओं के आधार पर, एक इंस्टेंस प्रकार चुनें जो अति-प्रावधान के बिना आवश्यक संसाधन प्रदान करता है। उपलब्ध सेजमेकर इंस्टेंस प्रकारों, उनकी विशिष्टताओं और सही इंस्टेंस के चयन पर मार्गदर्शन के बारे में जानकारी के लिए देखें Amazon SageMaker पर संसाधनों की कुशल गणना सुनिश्चित करें.
- स्थानीय मोड का उपयोग करके परीक्षण करें - विफलताओं का पता लगाने और तेजी से डीबग करने के लिए, कोड और कंटेनर (BYOC के मामले में) का परीक्षण करने की अनुशंसा की जाती है स्थानीय प्रणाली दूरस्थ सेजमेकर इंस्टेंस पर अनुमान कार्यभार चलाने से पहले। सेजमेकर प्रबंधित होस्टिंग वातावरण में चलाने से पहले स्थानीय मोड आपकी स्क्रिप्ट का परीक्षण करने का एक शानदार तरीका है।
- अधिक प्रदर्शनशील होने के लिए मॉडलों को अनुकूलित करें - गैर-अनुकूलित मॉडल लंबे समय तक चल सकते हैं और अधिक संसाधनों का उपयोग कर सकते हैं। प्रदर्शन को बेहतर बनाने के लिए आप अधिक या बड़े उदाहरणों का उपयोग करना चुन सकते हैं; हालाँकि, इससे लागत अधिक हो जाती है। अपने मॉडलों को अधिक प्रदर्शनशील बनाने के लिए अनुकूलित करके, आप समान या बेहतर प्रदर्शन विशेषताओं को बनाए रखते हुए कम या छोटे उदाहरणों का उपयोग करके लागत कम करने में सक्षम हो सकते हैं। आप उपयोग कर सकते हैं अमेज़न SageMaker नियो मॉडलों को स्वचालित रूप से अनुकूलित करने के लिए सेजमेकर अनुमान के साथ। अधिक विवरण और नमूनों के लिए देखें नियो का उपयोग करके मॉडल प्रदर्शन को अनुकूलित करें.
- टैग और लागत प्रबंधन टूल का उपयोग करें - आपके अनुमान कार्यभार में दृश्यता बनाए रखने के लिए, टैग के साथ-साथ AWS लागत प्रबंधन टूल जैसे कि का उपयोग करने की अनुशंसा की जाती है एडब्ल्यूएस बजट, AWS बिलिंग कंसोल, और कॉस्ट एक्सप्लोरर की पूर्वानुमान सुविधा। आप एक लचीले मूल्य निर्धारण मॉडल के रूप में सेजमेकर बचत योजनाओं का भी पता लगा सकते हैं। इन विकल्पों के बारे में अधिक जानकारी के लिए देखें भाग 1 इस श्रृंखला के।
निष्कर्ष
इस पोस्ट में, हमने सेजमेकर अनुमान विकल्पों का उपयोग करते समय लागत विश्लेषण और सर्वोत्तम प्रथाओं पर मार्गदर्शन प्रदान किया। चूंकि मशीन लर्निंग खुद को उद्योगों में एक शक्तिशाली उपकरण के रूप में स्थापित करती है, इसलिए प्रशिक्षण और एमएल मॉडल चलाने को लागत प्रभावी बनाए रखने की आवश्यकता है। सेजमेकर एमएल पाइपलाइन में प्रत्येक चरण को सुविधाजनक बनाने के लिए एक विस्तृत और गहन सुविधा सेट प्रदान करता है और प्रदर्शन या चपलता को प्रभावित किए बिना लागत अनुकूलन के अवसर प्रदान करता है। अपने सेजमेकर कार्यभार पर लागत मार्गदर्शन के लिए अपनी AWS टीम से संपर्क करें।
लेखक के बारे में
दीपाली राजले AWS में एक वरिष्ठ AI/ML विशेषज्ञ हैं। वह एडब्ल्यूएस पारिस्थितिकी तंत्र में एआई/एमएल समाधानों को तैनात करने और बनाए रखने के लिए सर्वोत्तम प्रथाओं के साथ तकनीकी मार्गदर्शन प्रदान करने वाले उद्यम ग्राहकों के साथ काम करती है। उन्होंने एनएलपी और कंप्यूटर विज़न से जुड़े विभिन्न गहन शिक्षण उपयोग मामलों पर कई संगठनों के साथ काम किया है। वह अपने उपयोग के अनुभव को बढ़ाने के लिए जेनरेटर एआई का लाभ उठाने के लिए संगठनों को सशक्त बनाने को लेकर उत्साहित हैं। अपने खाली समय में, वह फिल्में, संगीत और साहित्य का आनंद लेती हैं।
उरी रोसेनबर्ग यूरोप, मध्य पूर्व और अफ्रीका के लिए एआई और एमएल विशेषज्ञ तकनीकी प्रबंधक हैं। इज़राइल में स्थित, उरी उद्यम ग्राहकों को एमएल की सभी चीजों को डिजाइन, निर्माण और बड़े पैमाने पर संचालित करने के लिए सशक्त बनाने के लिए काम करता है। अपने खाली समय में, वह साइकिल चलाना, लंबी पैदल यात्रा और रॉक एंड रोल क्लाइंबिंग का आनंद लेते हैं।
- एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
- प्लेटोआईस्ट्रीम। Web3 डेटा इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
- मिंटिंग द फ्यूचर डब्ल्यू एड्रिएन एशले। यहां पहुंचें।
- PREIPO® के साथ PRE-IPO कंपनियों में शेयर खरीदें और बेचें। यहां पहुंचें।
- स्रोत: https://aws.amazon.com/blogs/machine-learning/part-5-analyze-amazon-sagemaker-spend-and-determine-cost-optimization-opportunities-based-on-usage-part-5-hosting/
- :हैस
- :है
- :नहीं
- :कहाँ
- $यूपी
- 000
- 1
- 100
- 2021
- 24
- 30
- 40
- 500
- 7
- 8
- a
- योग्य
- About
- त्वरक
- पहुँच
- लेखा
- अकौन्टस(लेखा)
- पाना
- हासिल
- के पार
- कार्य
- कार्रवाई
- जोड़ना
- इसके अलावा
- अतिरिक्त
- अफ्रीका
- बाद
- AI
- ऐ / एमएल
- एल्गोरिदम
- सब
- आवंटन
- की अनुमति देता है
- पहले ही
- भी
- वीरांगना
- अमेज़ॅन EC2
- अमेज़न SageMaker
- अमेज़ॅन वेब सेवा
- राशि
- an
- विश्लेषण
- विश्लेषण करें
- और
- अन्य
- कोई
- अब
- एपीआई
- लागू
- लागू करें
- लागू
- उपयुक्त
- लगभग
- हैं
- कृत्रिम
- कृत्रिम बुद्धिमत्ता
- कृत्रिम बुद्धिमत्ता (AI)
- AS
- जुड़े
- At
- संलग्न करना
- प्रयास किया
- स्वत:
- स्वतः
- उपलब्ध
- से बचने
- एडब्ल्यूएस
- वापस
- आधारित
- BE
- क्योंकि
- किया गया
- से पहले
- नीचे
- लाभदायक
- लाभ
- लाभ
- BEST
- सर्वोत्तम प्रथाओं
- बेहतर
- बड़ा
- बड़ा
- बिलिंग
- खंड
- विश्लेषण
- लाना
- निर्माण
- में निर्मित
- लेकिन
- by
- कर सकते हैं
- उम्मीदवार
- उम्मीदवारों
- क्षमता
- क्षमता
- मामला
- मामलों
- कुछ
- परिवर्तन
- विशेषताएँ
- प्रभार
- आरोप लगाया
- प्रभार
- चुनाव
- चुनें
- चुनने
- क्लासिक
- क्लाइम्बिंग
- समूह
- कोड
- ठंड
- संयोजन
- गठबंधन
- संयुक्त
- कैसे
- आता है
- सामान्य
- सामान्यतः
- पूरा
- अंग
- घटकों
- गणना करना
- कंप्यूटर
- Computer Vision
- समवर्ती
- विन्यास
- लगातार
- विचार करना
- विचार
- को मजबूत
- समेकित
- प्रयुक्त
- खपत
- कंटेनर
- कंटेनरों
- शामिल हैं
- निरंतर
- मूल
- सही
- लागत
- लागत प्रबंधन
- प्रभावी लागत
- लागत
- सका
- बनाना
- निर्माण
- वर्तमान में
- रिवाज
- ग्राहक
- दैनिक
- तिथि
- डेटासेट
- दिन
- तय
- निर्णय लेने से
- गहरा
- ध्यान लगा के पढ़ना या सीखना
- चूक
- मांग
- निर्भर करता है
- तैनात
- तैनात
- तैनाती
- तैनाती
- तैनात
- डिज़ाइन
- बनाया गया
- वांछित
- विस्तार
- विवरण
- निर्धारित करना
- विभिन्न
- चर्चा करना
- डिस्प्ले
- प्रदर्शित करता है
- बांटो
- do
- नहीं करता है
- किया
- dont
- डबल
- नीचे
- डाउनलोड
- दो
- दौरान
- से प्रत्येक
- पूर्व
- आसानी
- पूर्व
- पारिस्थितिकी तंत्र
- कुशल
- भी
- सशक्त
- सशक्त बनाने के लिए
- सक्षम
- सक्षम बनाता है
- endpoint
- ऊर्जा
- बढ़ाना
- सुनिश्चित
- उद्यम
- वातावरण
- वातावरण
- बराबर
- बराबर
- त्रुटि
- त्रुटियाँ
- स्थापित करता
- आकलन
- यूरोप
- मूल्यांकन करें
- कार्यक्रम
- उदाहरण
- से अधिक
- एक्सचेंज
- अपेक्षित
- अनुभव
- प्रयोग
- समझाया
- का पता लगाने
- एक्सप्लोरर
- बड़े पैमाने पर
- अतिरिक्त
- आंख
- अभिनंदन करना
- असफल
- विफल रहे
- परिवार
- और तेज
- Feature
- कुछ
- कम
- पट्टिका
- फ़ाइलें
- फ़िल्टर
- छानने
- फ़िल्टर
- प्रथम
- फिट
- लचीला
- फोकस
- निम्नलिखित
- इस प्रकार है
- के लिए
- पाया
- चार
- से
- पूर्ण
- कार्यों
- और भी
- लाभ
- सामान्य जानकारी
- सृजन
- उत्पादक
- जनरेटिव एआई
- मिल
- दी
- अच्छा
- GPU
- रेखांकन
- महान
- अधिक से अधिक
- समूह
- मार्गदर्शन
- हैंडल
- है
- होने
- he
- मदद
- मदद की
- उसे
- हाई
- उच्चतर
- उच्चतम
- उसके
- क्षैतिज
- मेजबानी
- होस्टिंग
- होस्टिंग लागत
- मेजबान
- घंटा
- घंटे
- कैसे
- How To
- तथापि
- एचटीएमएल
- http
- HTTPS
- सैकड़ों
- i
- आदर्श
- पहचान करना
- निष्क्रिय
- if
- प्रभाव
- प्रभावित
- महत्वपूर्ण
- में सुधार
- in
- शामिल
- शामिल
- सहित
- बढ़ जाती है
- इंगित करता है
- व्यक्ति
- उद्योगों
- करें-
- इंफ्रास्ट्रक्चर
- अभिनव
- निवेश
- अंतर्दृष्टि
- उदाहरण
- निर्देश
- बुद्धि
- बातचीत
- के भीतर
- में
- परिचय
- शामिल
- इजराइल
- IT
- आईटी इस
- खुद
- काम
- नौकरियां
- जेपीजी
- इच्छुक
- रखना
- कुंजी
- भाषा
- बड़ा
- बड़ा
- पिछली बार
- विलंब
- लांच
- शुभारंभ
- नेतृत्व
- बिक्रीसूत्र
- सीखा
- सीख रहा हूँ
- कम से कम
- पाठ
- सबक सीखा
- स्तर
- लीवरेज
- जीवन चक्र
- पसंद
- लाइन
- जुड़ा हुआ
- सूची
- साहित्य
- भार
- स्थानीय
- स्थान
- लंबा
- लंबे समय तक
- देखिए
- निम्न
- कम
- कम
- मशीन
- यंत्र अधिगम
- बनाए रखना
- को बनाए रखने के
- का कहना है
- बनाना
- बनाता है
- प्रबंधन
- कामयाब
- प्रबंध
- प्रबंधन उपकरण
- प्रबंधक
- मैन्युअल
- मैप्स
- चिह्नित
- मैच
- अधिकतम
- मई..
- साधन
- मिलना
- याद
- उल्लेख किया
- मीट्रिक
- मेट्रिक्स
- मध्यम
- मध्य पूर्व
- हो सकता है
- न्यूनतम
- मिनटों
- ML
- मोड
- आदर्श
- मॉडल
- मॉनिटर
- नजर रखी
- निगरानी
- महीना
- मासिक
- महीने
- अधिक
- चलचित्र
- बहु-मॉडल समापन बिंदु
- विभिन्न
- संगीत
- चाहिए
- नाम
- नामों
- आवश्यक
- आवश्यकता
- जरूरत
- की जरूरत है
- नेटवर्क
- नेटवर्क से बाहर
- नया
- NLP
- नहीं
- अधिसूचना
- सूचनाएं
- संख्या
- वस्तुओं
- प्राप्त
- प्राप्त
- of
- बंद
- ऑफर
- ऑफ़लाइन
- on
- ONE
- ऑनलाइन
- केवल
- संचालित
- अवसर
- इष्टतम
- इष्टतमीकरण
- ऑप्टिमाइज़ करें
- के अनुकूलन के
- विकल्प
- ऑप्शंस
- or
- आदेश
- संगठनों
- अन्य
- आउट
- आउटेज
- उल्लिखित
- उत्पादन
- बकाया
- के ऊपर
- अपना
- समानांतर
- प्राचल
- पैरामीटर
- भाग
- पास
- पासिंग
- आवेशपूर्ण
- अतीत
- पैटर्न
- पैटर्न उपयोग करें
- वेतन
- प्रतिशतता
- प्रदर्शन
- अवधि
- समय-समय
- परिप्रेक्ष्य
- चुनना
- पाइपलाइन
- योजना
- योजनाओं
- प्लेटो
- प्लेटो डेटा इंटेलिजेंस
- प्लेटोडाटा
- नीति
- संभवतः
- पद
- पोस्ट
- शक्तिशाली
- अभ्यास
- प्रथाओं
- भविष्यवाणियों
- मूल्य
- कीमत निर्धारण
- मूल्य निर्धारण मॉडल
- प्रोएक्टिव
- प्रक्रिया
- प्रसंस्कृत
- प्रक्रियाओं
- प्रसंस्करण
- प्रोसेसर
- उत्पादन
- को बढ़ावा देना
- प्रदान करना
- बशर्ते
- प्रदान करता है
- प्रदान कर
- प्रावधान
- प्रयोजनों
- लाना
- प्रश्नों
- रेंज
- मूल्यांकन करें
- बल्कि
- पहुंच
- पढ़ना
- वास्तविक
- वास्तविक समय
- प्राप्त करना
- प्राप्त
- प्राप्त
- की सिफारिश
- सिफारिशें
- की सिफारिश की
- की सिफारिश की
- रिकॉर्ड
- अभिलेख
- को कम करने
- क्षेत्र
- विज्ञप्ति
- रहना
- दूरस्थ
- हटाया
- रिपोर्ट
- रिपोर्टिंग
- रिपोर्ट
- का अनुरोध
- अनुरोधों
- अपेक्षित
- आवश्यकताएँ
- संसाधन
- उपयुक्त संसाधन चुनें
- प्रतिक्रिया
- बाकी
- परिणाम
- परिणाम
- रिटर्न
- सही
- चट्टान
- रोल
- मार्गों
- नियम
- नियम
- रन
- दौड़ना
- sagemaker
- सेजमेकर अनुमान
- वही
- सहेजें
- बचत
- स्केल
- तराजू
- स्केलिंग
- परिदृश्यों
- अनुसूचित
- खरोंच
- लिपियों
- सेकंड
- वर्गों
- देखना
- चयनित
- का चयन
- वरिष्ठ
- भेजा
- अलग
- कई
- serverless
- सेवा
- सेवाएँ
- सेवारत
- सेट
- की स्थापना
- कई
- छाया
- Share
- वह
- चाहिए
- दिखाना
- पता चला
- दिखाया
- दिखाता है
- उसी प्रकार
- सरल
- के बाद से
- एक
- आकार
- आकार
- टुकड़ा
- छोटा
- छोटे
- So
- समाधान ढूंढे
- कुछ
- स्रोत
- विशेषज्ञ
- विशिष्ट
- विनिर्देशों
- बिताना
- विभाजित
- धुआँरा
- मानक
- प्रारंभ
- शुरू
- कदम
- भंडारण
- संग्रहित
- दृढ़ता से
- संरचित
- सफलता
- सफल
- सफलतापूर्वक
- ऐसा
- पर्याप्त
- उपयुक्त
- समर्थन
- सक्रिय समर्थन
- समर्थित
- समर्थन करता है
- प्रणाली
- टैग
- लेना
- लेता है
- कार्य
- टीम
- तकनीकी
- परीक्षण
- परीक्षण
- परीक्षण
- से
- कि
- RSI
- लेकिन हाल ही
- उन
- फिर
- वहाँ।
- जिसके चलते
- इसलिये
- इन
- चीज़ें
- इसका
- उन
- यहाँ
- THROUGHPUT
- पहर
- बार
- सेवा मेरे
- साधन
- उपकरण
- विषय
- कुल
- यातायात
- प्रशिक्षण
- बदालना
- ट्रान्सफ़ॉर्मर
- रुझान
- <strong>उद्देश्य</strong>
- बदल जाता है
- टाइप
- प्रकार
- आधारभूत
- भिन्न
- अप्रत्याशित
- अपलोड की गई
- प्रयोग
- उपयोग
- उदाहरण
- प्रयुक्त
- का उपयोग करता है
- का उपयोग
- आमतौर पर
- उपयोग
- सत्यापित करें
- मूल्य
- मान
- प्रकार
- विभिन्न
- देखें
- दृश्यता
- दृष्टि
- दृश्य
- आयतन
- संस्करणों
- प्रतीक्षा
- करना चाहते हैं
- मार्ग..
- we
- वेब
- वेब सेवाओं
- कुंआ
- क्या
- कब
- या
- कौन कौन से
- जब
- चौड़ा
- विस्तृत श्रृंखला
- मर्जी
- साथ में
- अंदर
- बिना
- काम किया
- कामगार
- श्रमिकों
- कार्य
- लिख रहे हैं
- लिखा हुआ
- आप
- आपका
- जेफिरनेट
- शून्य