बिंग चैट इतनी जीपीयू-भूख है, माइक्रोसॉफ्ट ओरेकल को किराए पर लेगा

माइक्रोसॉफ्ट की एआई सेवाओं की मांग स्पष्ट रूप से इतनी अधिक है - या रेडमंड के संसाधन इतने तंग हैं - कि सॉफ्टवेयर दिग्गज ने मंगलवार को घोषित बहु-वर्षीय समझौते के हिस्से के रूप में बिंग सर्च द्वारा उपयोग किए जाने वाले कुछ मशीन-लर्निंग मॉडल को ओरेकल के जीपीयू सुपरक्लस्टर में उतारने की योजना बनाई है।

माइक्रोसॉफ्ट की सर्च और एआई मार्केटिंग टीम के प्रमुख दिव्य कुमार ने बताया, "ओरेकल के साथ हमारा सहयोग और हमारे माइक्रोसॉफ्ट एज़्योर एआई इंफ्रास्ट्रक्चर के साथ ओरेकल क्लाउड इंफ्रास्ट्रक्चर का उपयोग, ग्राहकों तक पहुंच का विस्तार करेगा और हमारे कई खोज परिणामों की गति में सुधार करेगा।" में एक कथन.

साझेदारी अनिवार्य रूप से इस प्रकार है: Microsoft को अपनी AI सेवाओं की कथित "विस्फोटक वृद्धि" को बनाए रखने के लिए अधिक कंप्यूटिंग संसाधनों की आवश्यकता है, और Oracle के पास किराए के लिए हजारों Nvidia A100s और H100 GPU उपलब्ध हैं। लैरी-एलिसन द्वारा स्थापित डेटाबेस दिग्गज के पास सिलिकॉन के स्टॉक का उपभोग करने के लिए पर्याप्त क्लाउड ग्राहक नहीं हैं, यह सुझाव देना हमारे लिए बहुत दूर की बात है।

माइक्रोसॉफ्ट अपने खोज इंजन में जेनरेटिव एआई चैटबॉट को एकीकृत करने वाले पहले लोगों में से एक था लांच फरवरी में बिंग चैट का। आप सभी अब तक इस प्रक्रिया को जानते हैं: आप बिंग चैट में संकेत, अनुरोध या प्रश्न फ़ीड कर सकते हैं, और यह जानकारी देखने, ख़राब कविता लिखने, चित्र और अन्य सामग्री तैयार करने इत्यादि का प्रयास करेगा।

बड़े भाषा मॉडल जो सेवा को रेखांकित करते हैं, उन्हें न केवल प्रशिक्षित करने के लिए जीपीयू के बड़े समूहों की आवश्यकता होती है, बल्कि अनुमान लगाने के लिए - एक मॉडल को काम पर लगाने की प्रक्रिया - बड़े पैमाने पर चलाने की भी आवश्यकता होती है। यह ओरेकल के जीपीयू का ढेर है जो इस अनुमान कार्य में मदद करेगा।

दो क्लाउड प्रदाताओं का नवीनतम सहयोग Microsoft Azure के लिए Oracle इंटरकनेक्ट का लाभ उठाता है, जो Azure में चलने वाली सेवाओं को Oracle क्लाउड इंफ्रास्ट्रक्चर (OCI) में संसाधनों के साथ इंटरैक्ट करने की अनुमति देता है। दो सुपर-कोर के पास है पहले से ग्राहकों को Azure में चल रहे वर्कलोड को OCI डेटाबेस से कनेक्ट करने की अनुमति देने के लिए सेवा का उपयोग किया।

इस मामले में, माइक्रोसॉफ्ट बिंग की एआई सुविधाओं की मांग को पूरा करने के लिए ओरेकल के जीपीयू नोड्स को व्यवस्थित करने के लिए अपनी एज़्योर कुबेरनेट्स सेवा के साथ सिस्टम का उपयोग कर रहा है।

स्टेटकाउंटर के अनुसार, अक्टूबर 2023 के लिए, बिंग के पास एक था 3.1 प्रतिशत सभी प्लेटफार्मों के लिए वैश्विक वेब खोज बाजार हिस्सेदारी - इसकी तुलना Google के 91.6 प्रतिशत से की जाती है, लेकिन पिछले महीने के 3 प्रतिशत से अधिक है। डेस्कटॉप पर, बिंग 9.1 प्रतिशत और टैबलेट के लिए 4.6 प्रतिशत तक चढ़ गया।

शायद स्टेटकाउंटर गलत है; हो सकता है कि माइक्रोसॉफ्ट का चैटिंग सर्च इंजन उतना लोकप्रिय न हो जितना हम मानते हैं। हो सकता है कि माइक्रोसॉफ्ट बिंग को ऐसा दिखाना चाहता हो जैसे इसकी भारी मांग हो; शायद रेडमंड को वास्तव में अतिरिक्त गणना की आवश्यकता है।

ओरेकल का दावा है कि उसके क्लाउड सुपर-क्लस्टर, जो संभवतः बिंग का उपयोग करेंगे, अल्ट्रा-लो लेटेंसी रिमोट डायरेक्ट मेमोरी एक्सेस (आरडीएमए) नेटवर्क का उपयोग करके प्रत्येक को 32,768 एनवीडिया ए100 या 16,384 एच100 जीपीयू तक स्केल कर सकते हैं। यह अत्यधिक समानांतर अनुप्रयोगों का समर्थन करने के लिए डिज़ाइन किए गए उच्च-प्रदर्शन क्लस्टर फ़ाइल भंडारण के पेटाबाइट्स द्वारा समर्थित है।

Microsoft ने यह नहीं बताया है कि उसे अपनी AI सेवाओं और ऐप्स के लिए Oracle के कितने GPU नोड्स की आवश्यकता है, और न ही बताएगा। एक प्रवक्ता ने हमें बताया: "वे विवरण नहीं हैं जिन्हें हम इस घोषणा के हिस्से के रूप में साझा कर रहे हैं।" हमने ओरेकल से भी अधिक जानकारी मांगी है और अगर हमें कोई जवाब मिलता है तो हम आपको बताएंगे।

यह पहली बार नहीं है जब दुश्मन मदद के लिए एक-दूसरे पर निर्भर हुए हों। सितंबर में वापस ओरेकल की घोषणा यह अपने डेटाबेस सिस्टम को Microsoft Azure डेटासेंटर में स्थापित करेगा। उस स्थिति में, सहयोग का उद्देश्य OCI में चल रहे Oracle डेटाबेस को Azure में वर्कलोड से जोड़ने से जुड़ी विलंबता को कम करना था। ®

• एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
• प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
• प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
• प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
• प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
• स्रोत: https://go.theregister.com/feed/www.theregister.com/2023/11/07/bing_gpu_oracle/