एमएल प्रशिक्षण को अनुकूलित करने और प्रदर्शन और लागत का अनुमान लगाने के लिए अमेज़ॅन म्यूजिक एनवीआईडीआईए के साथ सेजमेकर का उपयोग कैसे करता है | अमेज़न वेब सेवाएँ

एमएल प्रशिक्षण को अनुकूलित करने और प्रदर्शन और लागत का अनुमान लगाने के लिए अमेज़ॅन म्यूजिक एनवीआईडीआईए के साथ सेजमेकर का उपयोग कैसे करता है | अमेज़न वेब सेवाएँ

स्ट्रीमिंग की गतिशील दुनिया में अमेज़न संगीत, किसी गीत, पॉडकास्ट, या प्लेलिस्ट की प्रत्येक खोज में एक कहानी, एक मनोदशा, या भावनाओं की बाढ़ सामने आने की प्रतीक्षा में होती है। ये खोजें नई खोजों, पोषित अनुभवों और स्थायी यादों के प्रवेश द्वार के रूप में काम करती हैं। खोज बार का तात्पर्य सिर्फ एक गाना ढूंढना नहीं है; यह उन लाखों सक्रिय उपयोगकर्ताओं के बारे में है जो अमेज़ॅन म्यूज़िक द्वारा पेश की जाने वाली समृद्ध और विविध दुनिया में अपनी निजी यात्रा शुरू कर रहे हैं।

उपयोगकर्ताओं द्वारा खोजे जाने वाले संगीत को तुरंत ढूंढने के लिए एक बेहतर ग्राहक अनुभव प्रदान करने के लिए एक ऐसे प्लेटफ़ॉर्म की आवश्यकता होती है जो स्मार्ट और उत्तरदायी दोनों हो। Amazon Music इसे पूरा करने के लिए AI की शक्ति का उपयोग करता है। हालाँकि, प्रशिक्षण की लागत का प्रबंधन करते हुए ग्राहक अनुभव को अनुकूलित करना और एआई मॉडल का अनुमान लगाना जो खोज बार की क्षमताओं को शक्ति प्रदान करता है, जैसे वास्तविक समय वर्तनी जांच और वेक्टर खोज, पीक ट्रैफिक समय के दौरान मुश्किल होता है।

अमेज़न SageMaker सेवाओं का एक संपूर्ण सेट प्रदान करता है जो अमेज़ॅन म्यूज़िक को न्यूनतम प्रयास के साथ AWS क्लाउड पर निर्माण, प्रशिक्षण और तैनाती की अनुमति देता है। अविभाजित भारी उठाने का ख्याल रखते हुए, सेजमेकर आपको अपने मशीन लर्निंग (एमएल) मॉडल पर काम करने पर ध्यान केंद्रित करने की अनुमति देता है, और बुनियादी ढांचे जैसी चीजों के बारे में चिंता नहीं करता है। साझा जिम्मेदारी मॉडल के हिस्से के रूप में, सेजमेकर यह सुनिश्चित करता है कि उनके द्वारा प्रदान की जाने वाली सेवाएँ विश्वसनीय, निष्पादन योग्य और स्केलेबल हैं, जबकि आप यह सुनिश्चित करते हैं कि एमएल मॉडल का अनुप्रयोग सेजमेकर द्वारा प्रदान की जाने वाली क्षमताओं का सबसे अच्छा उपयोग करता है।

इस पोस्ट में, हम अमेज़ॅन म्यूजिक द्वारा सेजमेकर और एनवीआईडीआईए ट्राइटन इनफेरेंस सर्वर और टेन्सोरआरटी ​​का उपयोग करके प्रदर्शन और लागत को अनुकूलित करने के लिए की गई यात्रा के बारे में बताएंगे। हम यह दिखाने में गहराई से उतरते हैं कि यह प्रतीत होता है कि सरल, फिर भी जटिल, खोज बार कैसे काम करता है, जिससे अमेज़ॅन म्यूजिक के ब्रह्मांड में थोड़ी-से-शून्य निराशाजनक टाइपो देरी और प्रासंगिक वास्तविक समय खोज परिणामों के साथ एक अखंड यात्रा सुनिश्चित होती है।

अमेज़ॅन सेजमेकर और एनवीआईडीआईए: तेज़ और सटीक वेक्टर खोज और वर्तनी जांच क्षमताएं प्रदान करते हैं

अमेज़ॅन म्यूज़िक 100 मिलियन से अधिक गानों और लाखों पॉडकास्ट एपिसोड की एक विशाल लाइब्रेरी प्रदान करता है। हालाँकि, सही गीत या पॉडकास्ट ढूंढना चुनौतीपूर्ण हो सकता है, खासकर यदि आप सटीक शीर्षक, कलाकार या एल्बम का नाम नहीं जानते हैं, या खोजी गई क्वेरी बहुत व्यापक है, जैसे "समाचार पॉडकास्ट"।

अमेज़ॅन म्यूज़िक ने खोज और पुनर्प्राप्ति प्रक्रिया को बेहतर बनाने के लिए दोतरफा दृष्टिकोण अपनाया है। पहला कदम वेक्टर खोज (जिसे एम्बेडिंग-आधारित पुनर्प्राप्ति के रूप में भी जाना जाता है) को पेश करना है, एक एमएल तकनीक जो उपयोगकर्ताओं को सामग्री के शब्दार्थ का उपयोग करके सबसे अधिक प्रासंगिक सामग्री ढूंढने में मदद कर सकती है। दूसरे चरण में खोज स्टैक में ट्रांसफार्मर-आधारित वर्तनी सुधार मॉडल पेश करना शामिल है। संगीत की खोज करते समय यह विशेष रूप से सहायक हो सकता है, क्योंकि उपयोगकर्ता हमेशा किसी गीत के शीर्षक या कलाकार के नाम की सटीक वर्तनी नहीं जान सकते हैं। वर्तनी सुधार से उपयोगकर्ताओं को वह संगीत ढूंढने में मदद मिल सकती है जिसे वे ढूंढ रहे हैं, भले ही वे अपनी खोज क्वेरी में वर्तनी की गलती करते हों।

खोज और पुनर्प्राप्ति पाइपलाइन में ट्रांसफार्मर मॉडल पेश करने से (वेक्टर खोज के लिए आवश्यक क्वेरी एम्बेडिंग पीढ़ी और वर्तनी सुधार में जेनरेटिव Seq2Seq ट्रांसफार्मर मॉडल) समग्र विलंबता में महत्वपूर्ण वृद्धि हो सकती है, जिससे ग्राहक अनुभव नकारात्मक रूप से प्रभावित हो सकता है। इसलिए, वेक्टर खोज और वर्तनी सुधार मॉडल के लिए वास्तविक समय अनुमान विलंबता को अनुकूलित करना हमारे लिए सर्वोच्च प्राथमिकता बन गई।

अमेज़ॅन म्यूज़िक और एनवीआईडीआईए खोज बार में सर्वोत्तम संभव ग्राहक अनुभव लाने के लिए एक साथ आए हैं, जिसमें वेक्टर खोज-आधारित तकनीकों का उपयोग करके तेज़ और सटीक वर्तनी जांच क्षमताओं और वास्तविक समय अर्थपूर्ण खोज सुझावों को लागू करने के लिए सेजमेकर का उपयोग किया गया है। समाधान में G5 इंस्टेंस द्वारा संचालित SageMaker होस्टिंग का उपयोग शामिल है जो NVIDIA A10G Tensor Core GPU, SageMaker-समर्थित NVIDIA ट्राइटन इंफ़रेंस सर्वर कंटेनर और का उपयोग करता है। NVIDIA TensorRT मॉडल प्रारूप. चरम ट्रैफ़िक पर स्पेलचेक मॉडल की अनुमान विलंबता को 25 मिलीसेकंड तक कम करके, और सीपीयू आधारित अनुमान की तुलना में खोज क्वेरी एम्बेडिंग पीढ़ी विलंबता को औसतन 63% और लागत को 73% कम करके, अमेज़ॅन म्यूज़िक ने खोज बार के प्रदर्शन को बढ़ाया है।

इसके अतिरिक्त, सटीक परिणाम देने के लिए एआई मॉडल को प्रशिक्षित करते समय, अमेज़ॅन म्यूजिक ने अपने जीपीयू उपयोग को अनुकूलित करके, अपने बार्ट अनुक्रम-से-अनुक्रम वर्तनी सुधारक ट्रांसफार्मर मॉडल के लिए प्रशिक्षण समय में 12 गुना तेजी हासिल की, जिससे उनका समय और पैसा दोनों बचा।

अमेज़ॅन म्यूज़िक ने ग्राहक खोज अनुभव को प्राथमिकता देने और अच्छी तरह से अनुकूलित वर्तनी जांच और वेक्टर खोज कार्यक्षमताओं के साथ एक खोज बार तैयार करने के लिए NVIDIA के साथ साझेदारी की। निम्नलिखित अनुभागों में, हम इस बारे में अधिक जानकारी साझा करेंगे कि ये अनुकूलन कैसे व्यवस्थित किए गए थे।

NVIDIA Tensor Core GPU के साथ प्रशिक्षण का अनुकूलन

बड़े भाषा मॉडल प्रशिक्षण के लिए NVIDIA Tensor Core GPU तक पहुंच प्राप्त करना इसकी वास्तविक क्षमता को पकड़ने के लिए पर्याप्त नहीं है। जीपीयू के उपयोग को पूरी तरह से अधिकतम करने के लिए प्रशिक्षण के दौरान प्रमुख अनुकूलन चरण होने चाहिए। हालाँकि, कम उपयोग किया गया जीपीयू निस्संदेह संसाधनों के अकुशल उपयोग, लंबी प्रशिक्षण अवधि और परिचालन लागत में वृद्धि को बढ़ावा देगा।

प्रशिक्षण के प्रारंभिक चरणों के दौरान वर्तनी सुधारक BART (बार्ट-बेस) सेजमेकर ml.p3.24xलार्ज इंस्टेंस (8 NVIDIA V100 टेंसर कोर जीपीयू) पर ट्रांसफार्मर मॉडल, अमेज़ॅन म्यूजिक का जीपीयू उपयोग लगभग 35% था। NVIDIA GPU-त्वरित प्रशिक्षण के लाभों को अधिकतम करने के लिए, AWS और NVIDIA समाधान आर्किटेक्ट्स ने अनुकूलन के लिए क्षेत्रों की पहचान करने में अमेज़ॅन म्यूजिक का समर्थन किया, विशेष रूप से बैच आकार और सटीक मापदंडों के आसपास। ये दो महत्वपूर्ण पैरामीटर गहन शिक्षण मॉडल के प्रशिक्षण की दक्षता, गति और सटीकता को प्रभावित करते हैं।

परिणामी अनुकूलन से एक नया और बेहतर V100 GPU उपयोग प्राप्त हुआ, जो लगभग 89% पर स्थिर रहा, जिससे Amazon Music के प्रशिक्षण का समय 3 दिन से घटकर 5-6 घंटे रह गया। बैच आकार को 32 से 256 पर स्विच करके और रनिंग जैसी अनुकूलन तकनीकों का उपयोग करके स्वचालित मिश्रित परिशुद्धता प्रशिक्षण केवल FP32 परिशुद्धता का उपयोग करने के बजाय, Amazon Music समय और धन दोनों बचाने में सक्षम था।

निम्नलिखित चार्ट अनुकूलन के बाद GPU उपयोग में 54% प्रतिशत वृद्धि को दर्शाता है।

How Amazon Music uses SageMaker with NVIDIA to optimize ML training and inference performance and cost | Amazon Web Services PlatoBlockchain Data Intelligence. Vertical Search. Ai.

निम्नलिखित चित्र प्रशिक्षण समय में तेजी को दर्शाता है।

How Amazon Music uses SageMaker with NVIDIA to optimize ML training and inference performance and cost | Amazon Web Services PlatoBlockchain Data Intelligence. Vertical Search. Ai.

बैच आकार में इस वृद्धि ने NVIDIA GPU को कई टेंसर कोर में एक साथ काफी अधिक डेटा संसाधित करने में सक्षम बनाया, जिसके परिणामस्वरूप प्रशिक्षण समय में तेजी आई। हालाँकि, मेमोरी के साथ एक नाजुक संतुलन बनाए रखना महत्वपूर्ण है, क्योंकि बड़े बैच आकार अधिक मेमोरी की मांग करते हैं। एनवीआईडीआईए टेन्सर कोर जीपीयू की शक्ति को अनलॉक करने में बैच आकार बढ़ाना और मिश्रित परिशुद्धता को नियोजित करना दोनों महत्वपूर्ण हो सकते हैं।

मॉडल को अभिसरण के लिए प्रशिक्षित करने के बाद, अमेज़ॅन म्यूज़िक के खोज बार पर अनुमान परिनियोजन के लिए अनुकूलन करने का समय आ गया था।

वर्तनी सुधार: बार्ट मॉडल अनुमान

SageMaker G5 इंस्टेंसेस और NVIDIA ट्राइटन इंफ़रेंस सर्वर (एक ओपन सोर्स इंफ़ेक्शन सर्विंग सॉफ़्टवेयर) की मदद से, साथ ही NVIDIA TensorRT, उच्च-प्रदर्शन वाले गहन शिक्षण इंफ़ेक्शन के लिए एक SDK जिसमें एक इंफ़ेक्शन ऑप्टिमाइज़र और रनटाइम शामिल है, अमेज़न म्यूज़िक अपने स्पेलचेक BART को सीमित करता है। (बार्ट-बेस) मॉडल सर्वर अनुमान विलंबता को अधिकतम ट्रैफ़िक पर केवल 25 मिलीसेकंड तक सीमित करता है। इसमें लोड संतुलन, प्रीप्रोसेसिंग, मॉडल अनुमान और पोस्टप्रोसेसिंग समय जैसे ओवरहेड शामिल हैं।

एनवीआईडीआईए ट्राइटन इंट्रेंस सर्वर दो अलग-अलग प्रकार के बैकएंड प्रदान करता है: एक जीपीयू पर मॉडल होस्ट करने के लिए, और एक पायथन बैकएंड जहां आप प्रीप्रोसेसिंग और पोस्टप्रोसेसिंग चरणों में उपयोग करने के लिए अपना स्वयं का कस्टम कोड ला सकते हैं। निम्नलिखित चित्र दर्शाता है मॉडल पहनावा योजना.

How Amazon Music uses SageMaker with NVIDIA to optimize ML training and inference performance and cost | Amazon Web Services PlatoBlockchain Data Intelligence. Vertical Search. Ai.

अमेज़ॅन म्यूज़िक ने अपना BART बनाया अनुमान पाइपलाइन सीपीयू पर प्रीप्रोसेसिंग (टेक्स्ट टोकनाइजेशन) और पोस्टप्रोसेसिंग (टेक्स्ट पर टोकन) दोनों चरण चलाकर, जबकि मॉडल निष्पादन चरण चलता है NVIDIA A10G टेंसर कोर जीपीयू. एक पायथन बैकएंड प्रीप्रोसेसिंग और पोस्टप्रोसेसिंग चरणों के बीच में बैठता है, और TensorRT-परिवर्तित BART मॉडल के साथ-साथ एनकोडर/डिकोडर नेटवर्क के साथ संचार करने के लिए जिम्मेदार है। टेंसरआरटी सटीक अंशांकन, परत और टेंसर फ़्यूज़न, कर्नेल ऑटो-ट्यूनिंग, डायनेमिक टेंसर मेमोरी, मल्टी-स्ट्रीम निष्पादन और समय फ़्यूज़न के साथ अनुमान प्रदर्शन को बढ़ाता है।

निम्नलिखित चित्र प्रमुख मॉड्यूल के उच्च-स्तरीय डिज़ाइन को दर्शाता है जो वर्तनी सुधारक BART मॉडल अनुमान पाइपलाइन बनाते हैं।

How Amazon Music uses SageMaker with NVIDIA to optimize ML training and inference performance and cost | Amazon Web Services PlatoBlockchain Data Intelligence. Vertical Search. Ai.

वेक्टर खोज: क्वेरी एम्बेडिंग जनरेशन वाक्य BERT मॉडल अनुमान

निम्नलिखित चार्ट सीपीयू-आधारित बेसलाइन की तुलना में एनवीआईडीआईए एआई अनुमान प्लेटफार्म का उपयोग करते समय विलंबता (पी60 90-800 टीपीएस की सेवा) में 900% सुधार को दर्शाता है।

How Amazon Music uses SageMaker with NVIDIA to optimize ML training and inference performance and cost | Amazon Web Services PlatoBlockchain Data Intelligence. Vertical Search. Ai.

सीपीयू-आधारित बेसलाइन की तुलना में एनवीआईडीआईए एआई इंफ़रेंस प्लेटफ़ॉर्म का उपयोग करते समय निम्नलिखित चार्ट लागत में 70% सुधार दिखाता है।

How Amazon Music uses SageMaker with NVIDIA to optimize ML training and inference performance and cost | Amazon Web Services PlatoBlockchain Data Intelligence. Vertical Search. Ai.

निम्नलिखित चित्र उच्च-प्रदर्शन गहन शिक्षण अनुमान के लिए एक एसडीके दिखाता है। इसमें एक गहन शिक्षण अनुमान अनुकूलक और रनटाइम शामिल है जो अनुमान अनुप्रयोगों के लिए कम विलंबता और उच्च थ्रूपुट प्रदान करता है।

How Amazon Music uses SageMaker with NVIDIA to optimize ML training and inference performance and cost | Amazon Web Services PlatoBlockchain Data Intelligence. Vertical Search. Ai.

इन परिणामों को प्राप्त करने के लिए, अमेज़ॅन म्यूज़िक ने कई अलग-अलग ट्राइटन परिनियोजन मापदंडों का प्रयोग किया ट्राइटन मॉडल विश्लेषक, एक उपकरण जो कुशल अनुमान लगाने के लिए सर्वोत्तम NVIDIA ट्राइटन मॉडल कॉन्फ़िगरेशन खोजने में मदद करता है। मॉडल अनुमान को अनुकूलित करने के लिए, ट्राइटन गतिशील बैचिंग और समवर्ती मॉडल निष्पादन जैसी सुविधाएं प्रदान करता है, और अन्य लचीलेपन क्षमताओं के लिए फ्रेमवर्क समर्थन प्रदान करता है। डायनामिक बैचिंग अनुमान अनुरोधों को इकट्ठा करती है, थ्रूपुट को अधिकतम करने के लिए उन्हें सहजता से समूहों में समूहित करती है, यह सब अमेज़ॅन म्यूजिक उपयोगकर्ताओं के लिए वास्तविक समय की प्रतिक्रियाओं को सुनिश्चित करते हुए। समवर्ती मॉडल निष्पादन क्षमता एक ही जीपीयू पर मॉडल की कई प्रतियों को होस्ट करके अनुमान प्रदर्शन को और बढ़ाती है। अंत में, उपयोग करके ट्राइटन मॉडल विश्लेषक, अमेज़ॅन म्यूजिक सिम्युलेटेड ट्रैफ़िक का उपयोग करके अनुमान प्रदर्शन को अधिकतम करने वाली इष्टतम सेटिंग्स खोजने के लिए डायनामिक बैचिंग और मॉडल समवर्ती अनुमान होस्टिंग मापदंडों को सावधानीपूर्वक ठीक करने में सक्षम था।

निष्कर्ष

सेजमेकर पर ट्राइटन इंट्रेंस सर्वर और टेन्सोरआरटी ​​के साथ कॉन्फ़िगरेशन को अनुकूलित करने से अमेज़ॅन म्यूजिक को प्रशिक्षण और इंट्रेंस पाइपलाइन दोनों के लिए उत्कृष्ट परिणाम प्राप्त करने की अनुमति मिली। सेजमेकर प्लेटफॉर्म एआई उत्पादन के लिए एंड-टू-एंड ओपन प्लेटफॉर्म है, जो हार्डवेयर और सॉफ्टवेयर दोनों में सभी प्रमुख एआई उपयोग मामलों का समर्थन करने के लिए त्वरित समय और बहुमुखी प्रतिभा प्रदान करता है। NVIDIA A100G Tensor Core GPU का उपयोग करके प्रशिक्षण और CPU से G5 इंस्टेंसेस पर स्विच करने के लिए V10 GPU उपयोग को अनुकूलित करके, साथ ही ट्राइटन इन्फेरेंस सर्वर और TensorRT जैसे अनुकूलित NVIDIA सॉफ़्टवेयर का उपयोग करके, Amazon Music जैसी कंपनियां दोनों में प्रदर्शन को बढ़ावा देते हुए समय और पैसा बचा सकती हैं। प्रशिक्षण और अनुमान, सीधे बेहतर ग्राहक अनुभव और कम परिचालन लागत में अनुवाद।

सेजमेकर एमएल प्रशिक्षण और होस्टिंग के लिए अविभाज्य भारी भारोत्तोलन को संभालता है, जिससे अमेज़ॅन म्यूजिक हार्डवेयर और सॉफ्टवेयर दोनों में विश्वसनीय, स्केलेबल एमएल संचालन प्रदान कर सकता है।

हम आपको यह जांचने के लिए प्रोत्साहित करते हैं कि आपके हार्डवेयर और सॉफ़्टवेयर विकल्पों का हमेशा मूल्यांकन करके सेजमेकर का उपयोग करके आपके कार्यभार को अनुकूलित किया गया है, यह देखने के लिए कि क्या ऐसे तरीके हैं जिनसे आप कम लागत के साथ बेहतर प्रदर्शन प्राप्त कर सकते हैं।

AWS में NVIDIA AI के बारे में अधिक जानने के लिए, निम्नलिखित देखें:


लेखक के बारे में

How Amazon Music uses SageMaker with NVIDIA to optimize ML training and inference performance and cost | Amazon Web Services PlatoBlockchain Data Intelligence. Vertical Search. Ai.सिद्धार्थ शर्मा अमेज़ॅन म्यूज़िक में विज्ञान और मॉडलिंग टीम में मशीन लर्निंग टेक लीड हैं। वह खोज, पुनर्प्राप्ति, रैंकिंग और एनएलपी संबंधित मॉडलिंग समस्याओं में माहिर हैं। सिद्धार्थ के पास बड़े पैमाने पर मशीन सीखने की समस्याओं पर काम करने का एक समृद्ध पृष्ठभूमि है जो विलंबता संवेदनशील हैं जैसे कि विज्ञापन लक्ष्यीकरण, मल्टी मॉडल पुनर्प्राप्ति, खोज क्वेरी समझ आदि। अमेज़ॅन म्यूजिक में काम करने से पहले, सिद्धार्थ मेटा, वॉलमार्ट लैब्स, राकुटेन जैसी कंपनियों में काम कर रहे थे। ई-कॉमर्स केंद्रित एमएल समस्याओं पर। सिद्धार्थ ने अपने करियर का शुरुआती हिस्सा बे एरिया एड-टेक स्टार्टअप्स के साथ काम करते हुए बिताया।

How Amazon Music uses SageMaker with NVIDIA to optimize ML training and inference performance and cost | Amazon Web Services PlatoBlockchain Data Intelligence. Vertical Search. Ai.तरुण शर्मा एक सॉफ्टवेयर डेवलपमेंट मैनेजर है जो अमेज़ॅन म्यूजिक सर्च प्रासंगिकता का नेतृत्व करता है। उनके वैज्ञानिकों और एमएल इंजीनियरों की टीम अमेज़ॅन म्यूजिक ग्राहकों को प्रासंगिक रूप से प्रासंगिक और वैयक्तिकृत खोज परिणाम प्रदान करने के लिए जिम्मेदार है।

How Amazon Music uses SageMaker with NVIDIA to optimize ML training and inference performance and cost | Amazon Web Services PlatoBlockchain Data Intelligence. Vertical Search. Ai.जेम्स पार्क Amazon Web Services में एक समाधान वास्तुकार है। वह AWS पर प्रौद्योगिकी समाधानों को डिजाइन, निर्माण और तैनात करने के लिए Amazon.com के साथ काम करता है, और AI और मशीन लर्निंग में उनकी विशेष रुचि है। अपने खाली समय में वह नई संस्कृतियों, नए अनुभवों की खोज करना और नवीनतम प्रौद्योगिकी रुझानों के साथ अद्यतित रहना पसंद करता है। आप उसे यहां पा सकते हैं लिंक्डइन.

How Amazon Music uses SageMaker with NVIDIA to optimize ML training and inference performance and cost | Amazon Web Services PlatoBlockchain Data Intelligence. Vertical Search. Ai.क्षितिज गुप्ता NVIDIA में एक समाधान वास्तुकार है। उन्हें GPU AI तकनीकों के बारे में क्लाउड ग्राहकों को शिक्षित करने में मज़ा आता है, NVIDIA को उनके मशीन लर्निंग और डीप लर्निंग एप्लिकेशन में तेजी लाने के लिए उन्हें पेश करना और उनकी सहायता करना है। काम के बाहर, उन्हें दौड़ना, लंबी पैदल यात्रा और वन्य जीवन देखना पसंद है।

How Amazon Music uses SageMaker with NVIDIA to optimize ML training and inference performance and cost | Amazon Web Services PlatoBlockchain Data Intelligence. Vertical Search. Ai.जियाहोंग लिउ NVIDIA में क्लाउड सेवा प्रदाता टीम पर एक समाधान वास्तुकार है। वह मशीन लर्निंग और एआई समाधानों को अपनाने में ग्राहकों की सहायता करता है जो उनके प्रशिक्षण और अनुमान चुनौतियों का समाधान करने के लिए एनवीआईडीआईए त्वरित कंप्यूटिंग का लाभ उठाते हैं। अपने ख़ाली समय में, वह ओरिगेमी, DIY प्रोजेक्ट्स और बास्केटबॉल खेलने का आनंद लेते हैं।

How Amazon Music uses SageMaker with NVIDIA to optimize ML training and inference performance and cost | Amazon Web Services PlatoBlockchain Data Intelligence. Vertical Search. Ai.तुगरुल कोनुक NVIDIA में एक वरिष्ठ समाधान वास्तुकार हैं, जो बड़े पैमाने पर प्रशिक्षण, मल्टीमॉडल डीप लर्निंग और उच्च-प्रदर्शन वैज्ञानिक कंप्यूटिंग में विशेषज्ञता रखते हैं। NVIDIA से पहले, उन्होंने ऊर्जा उद्योग में काम किया और कम्प्यूटेशनल इमेजिंग के लिए एल्गोरिदम विकसित करने पर ध्यान केंद्रित किया। अपनी पीएचडी के हिस्से के रूप में, उन्होंने बड़े पैमाने पर संख्यात्मक सिमुलेशन के लिए भौतिकी-आधारित गहन शिक्षण पर काम किया। अपने ख़ाली समय में, उन्हें पढ़ना, गिटार और पियानो बजाना पसंद है।

How Amazon Music uses SageMaker with NVIDIA to optimize ML training and inference performance and cost | Amazon Web Services PlatoBlockchain Data Intelligence. Vertical Search. Ai.रोहिल भार्गव NVIDIA में एक उत्पाद विपणन प्रबंधक है, जो विशिष्ट CSP प्लेटफार्मों पर NVIDIA एप्लिकेशन फ्रेमवर्क और SDK को तैनात करने पर केंद्रित है।

How Amazon Music uses SageMaker with NVIDIA to optimize ML training and inference performance and cost | Amazon Web Services PlatoBlockchain Data Intelligence. Vertical Search. Ai.एलीउथ ट्रायना इज़ाज़ा एनवीआईडीआईए में एक डेवलपर रिलेशन मैनेजर है जो अमेज़ॅन के एआई एमएलओप्स, डेवऑप्स, वैज्ञानिकों और एडब्ल्यूएस तकनीकी विशेषज्ञों को डेटा क्यूरेशन, जीपीयू प्रशिक्षण, मॉडल अनुमान और एडब्ल्यूएस जीपीयू उदाहरणों पर उत्पादन परिनियोजन से लेकर जेनरेटिव एआई फाउंडेशन मॉडल को तेज और अनुकूलित करने के लिए एनवीआईडीआईए कंप्यूटिंग स्टैक में महारत हासिल करने के लिए सशक्त बनाता है। . इसके अलावा, एलीउथ एक भावुक माउंटेन बाइकर, स्कीयर, टेनिस और पोकर खिलाड़ी है।

समय टिकट:

से अधिक AWS मशीन लर्निंग

मेडिडेटा ने 30 गुना तेजी से एमएल अनुमान भविष्यवाणियों को तेज करने के लिए अमेज़ॅन सेजमेकर एसिंक्रोनस इंट्रेंस का उपयोग कैसे किया

स्रोत नोड: 1662307
समय टिकट: सितम्बर 12, 2022