Nvidia H100 GPU-এর জন্য টাইমলাইন সেট করে – এখন HGX-এর জন্য, DGX-এর জন্য পরের বছর

GTC এনভিডিয়ার দীর্ঘ প্রতীক্ষিত হপার H100 এক্সিলারেটরগুলি আগামী মাসের শেষের দিকে OEM-নির্মিত HGX সিস্টেমে শিপিং শুরু করবে, সিলিকন জায়ান্ট আজ তার GPU প্রযুক্তি সম্মেলনে (GTC) ইভেন্টে বলেছে।

যাইহোক, যারা Nvidia-এর DGX H100 সিস্টেমে হাত পেতে অপেক্ষা করছেন তাদের পরের বছরের Q1-এ কিছু সময় পর্যন্ত অপেক্ষা করতে হবে। ডিজিএক্স হল এনভিডিয়ার লাইন অফ ওয়ার্কস্টেশন এবং সার্ভারগুলি এর জিপিইউ এবং আন্তঃসংযোগ ব্যবহার করে, এবং এইচজিএক্স সিস্টেমগুলি আবার এনভির প্রযুক্তি ব্যবহার করে অংশীদার-নির্মিত সার্ভার।

এবং যখন এনভিডিয়া ডেটাসেন্টারে তার হপার আর্কিটেকচারকে হাইপ করছে, এই সপ্তাহে ঘোষিত বেশিরভাগ এন্টারপ্রাইজ কিট শীঘ্রই যে কোনও সময় চিপ জায়ান্টের ফ্ল্যাগশিপ আর্কিটেকচার পাবে না।

প্রান্তে, এনভিডিয়া তার অ্যাম্পিয়ার আর্কিটেকচার থেকে একটি পূর্ণ জীবন পেতে সন্তুষ্ট বলে মনে হচ্ছে।

আজ, এনভিডিয়া পরবর্তী-জেনার এজ এআই এবং রোবোটিক্স প্ল্যাটফর্মের বিশদ বিবরণ দিয়েছে যাকে IGX বলা হয়।

IGX হল একটি "অল-ইন-ওয়ান কম্পিউটিং প্ল্যাটফর্ম যা রিয়েল-টাইম ইন্টেলিজেন্ট মেশিন এবং মেডিক্যাল ডিভাইসের মোতায়েনকে ত্বরান্বিত করার জন্য," কিম্বার্লি পাওয়েল, এনভিডিয়ার হেলথ কেয়ার ভীপ বলেছেন। এর মূলে, সিস্টেমটি মূলত এনভিডিয়ার পূর্বে ঘোষিত জেটসন এজিএক্স ওরিন মডিউলের একটি প্রসারিত সংস্করণ, এটি ঘোষণা করেছে বসন্ত.

“IGX হল Nvidia Orin রোবোটিক্স প্রসেসর, Ampere tensor-core GPU, ConnectX স্ট্রিমিং I/O প্রসেসর, একটি কার্যকরী নিরাপত্তা দ্বীপ এবং নিরাপত্তা মাইক্রোকন্ট্রোলার ইউনিট সহ একটি সম্পূর্ণ সিস্টেম কারণ একই পরিবেশে আরও বেশি সংখ্যক রোবট এবং মানুষ কাজ করবে। ," সে যোগ করল.

পারফরম্যান্সের ক্ষেত্রে, এখানে নতুন কিছু নেই। আমাদের বলা হয়েছে যে প্ল্যাটফর্মটি 64GB মেমরি সহ মডিউলের একটি Orin শিল্প সিস্টেমের উপর ভিত্তি করে যা এই বছরের শুরুতে চালু হওয়া AGX Orin মডিউলের সাথে পারফরম্যান্সের সাথে তুলনীয়। সেই সিস্টেমে 32GB মেমরি, একটি অক্টাকোর আর্ম কর্টেক্স A78AE CPU এবং Ampere-ভিত্তিক GPU বৈশিষ্ট্যযুক্ত।

IGX দুটি 7Gbps ইন্টারফেসের মাধ্যমে উচ্চ-গতির সংযোগের জন্য একটি সমন্বিত ConnectX-200 NIC লাভ করে। বোর্ডে M.2 স্টোরেজ, PCIe স্লট এবং সম্প্রসারণের জন্য অন্তত একটি লিগ্যাসি PCI স্লটের সম্পূর্ণ পরিপূরক বৈশিষ্ট্য রয়েছে বলে মনে হচ্ছে।

এনভিডিয়া IGX প্ল্যাটফর্মকে লক্ষ্য করছে বিভিন্ন এজ এআই এবং রোবোটিক্স স্বাস্থ্যসেবা, উত্পাদন এবং লজিস্টিকসে ক্ষেত্রে ব্যবহার করে, যেখানে গোপনীয়তা বা বিলম্বিতা আরও কেন্দ্রীভূত সিস্টেমকে অব্যবহারিক করে তোলে।

AGX Orin-এর মতো, সিস্টেমটিকে এনভিডিয়ার এআই এন্টারপ্রাইজ সফটওয়্যার স্যুট এবং ফ্লিট কমান্ড প্ল্যাটফর্ম স্থাপন এবং পরিচালনার জন্য প্রশংসা করেছে।

IGX প্ল্যাটফর্মের প্রথম অ্যাপ্লিকেশনগুলির মধ্যে একটি Nvidia এর রোবোটিক্স ইমেজিং প্ল্যাটফর্ম ব্যবহার করবে।

"এনভিডিয়া ক্লারা হলোস্ক্যান হল আমাদের অ্যাপ্লিকেশন ফ্রেমওয়ার্ক যা মেডিকেল ডিভাইস এবং ইমেজিং রোবোটিক্স পাইপলাইনের জন্য IGX-এর উপরে বসেছে," পাওয়েল ব্যাখ্যা করেছেন।

তিনটি মেডিকেল ডিভাইস বিক্রেতা - অ্যাক্টিভ সার্জিক্যাল, মুন সার্জিক্যাল এবং প্রক্সিমিনি - তাদের সার্জিক্যাল রোবোটিক্স এবং টেলিপ্রেসেন্স প্ল্যাটফর্মগুলিকে শক্তিশালী করতে IGX এবং Clara Holoscan ব্যবহার করার পরিকল্পনা করছে৷ IGX Orin ডেভেলপার কিটগুলি পরের বছরের শুরুতে ADLink, Advantech, Dedicated Computing, Kontron, MBX, এবং Onyx থেকে পাওয়া প্রোডাকশন সিস্টেমের সাথে শিপ করা হবে।

ওরিনের বিষয়ে, এনভিডিয়া তার জেটসন ওরিন ন্যানো কম্পিউট মডিউলও উন্মোচন করেছে। Orin Nano লঞ্চের সময় দুটি কনফিগারেশনে উপলব্ধ একটি 8GB সংস্করণ যার মধ্যে 40 TOPS AI inferencing সক্ষম এবং 4GB মেমরির 20 TOPS সক্ষম একটি কাট-ডাউন সংস্করণ।

পূর্বের জেটসন মডিউলের মতো, ওরিন ন্যানো একটি পিন-সামঞ্জস্যপূর্ণ প্রান্ত সংযোগকারী ব্যবহার করে যা ল্যাপটপ SODIMM মেমরির জন্য ব্যবহৃত হয় এবং অ্যাপ্লিকেশন এবং SKU এর উপর নির্ভর করে 5W এবং 15W এর মধ্যে ব্যবহার করে। এনভিডিয়ার জেটসন ওরিন ন্যানো মডিউলগুলি জানুয়ারিতে $199 থেকে শুরু করে উপলব্ধ।

একটি OVX রিফ্রেশ

এনভিডিয়ার ওভিএক্স সার্ভারগুলি, যা তার সর্বজনীন প্ল্যাটফর্ম চালানোর জন্য ডিজাইন করা হয়েছে, হপারেও চলবে না।

কোম্পানির দ্বিতীয়-জেনের ভিজ্যুয়ালাইজেশন এবং ডিজিটাল-টুইনিং সিস্টেমগুলি পরিবর্তে আটটি L40 GPU-এর সাথে সজ্জিত। কার্ডগুলি কোম্পানির পরবর্তী প্রজন্মের অ্যাডা লাভলেস আর্কিটেকচারের উপর ভিত্তি করে তৈরি করা হয়েছে এবং এতে এনভিডিয়ার তৃতীয়-জেনার রে ট্রেসিং কোর এবং চতুর্থ-জেনার টেনসর কোর রয়েছে।

8362GHz পর্যন্ত মোট 128টি প্রসেসর থ্রেডের জন্য GPU-এর সাথে আইস লেক ইন্টেল Xeon প্লাটিনাম 3.6 CPU-এর একটি জোড়া রয়েছে।

কম্পিউট সিস্টেমের সাথে তিনটি ConnectX-7 NIC রয়েছে, প্রতিটি 400Gbps থ্রুপুট এবং 16TB NVMe স্টোরেজ করতে সক্ষম। যদিও সিস্টেমটি পৃথক নোড হিসাবে উপলব্ধ, এনভিডিয়া ধারণা করে যে এটি একটি OVX সুপারপড নামে পরিচিত, যা কোম্পানির 32Tbps স্পেকট্রাম-51.2 সুইচ ব্যবহার করে সংযুক্ত 3টি সিস্টেমকে অন্তর্ভুক্ত করে তার অংশ হিসাবে স্থাপন করা হচ্ছে৷

দ্বিতীয় প্রজন্মের সিস্টেমগুলি 2023 থেকে Lenovo, Supermicro এবং Inspur থেকে পাওয়া যাবে৷ ভবিষ্যতে, Nvidia অতিরিক্ত অংশীদারদের কাছে সিস্টেমগুলির প্রাপ্যতা প্রসারিত করার পরিকল্পনা করেছে৷

ড্রাইভ থর উপর hopped আপ

এই সপ্তাহে জিটিসি-তে ঘোষিত কিটের একমাত্র বিট যা এনভিডিয়ার হপার আর্কিটেকচার পাচ্ছে তা হল ড্রাইভ থর স্বায়ত্তশাসিত গাড়ির কম্পিউটার সিস্টেম।

ড্রাইভ থর তার 2025 রোডম্যাপে এনভিডিয়ার আটলান প্ল্যাটফর্মকে প্রতিস্থাপন করেছে এবং এটি চালু হওয়ার সময় 2,000 টপস ইনফারেন্সিং পারফরম্যান্স সরবরাহ করার প্রতিশ্রুতি দিয়েছে।

"ড্রাইভ থর আমাদের গ্রেস সিপিইউ, আমাদের হপার জিপিইউ এবং আমাদের পরবর্তী প্রজন্মের জিপিইউ আর্কিটেকচারে প্রবর্তিত অত্যাধুনিক ক্ষমতার সাথে পরিপূর্ণ," ড্যানি শাপিরো, এনভিডিয়ার অটোমোটিভের ভিপি, একটি প্রেস ব্রিফিংয়ে বলেছেন। তিনি বলেছিলেন যে ড্রাইভ থর কম্পিউটার সিস্টেমের লিটানিকে একত্রিত করার জন্য ডিজাইন করা হয়েছে যা আধুনিক অটোমোবাইলকে একটি একক কেন্দ্রীভূত প্ল্যাটফর্মে শক্তি দেয়।

"আজকের উন্নত ড্রাইভার-সহায়তা সিস্টেমগুলি দেখুন - পার্কিং, ড্রাইভার মনিটরিং, ক্যামেরা মিরর, ডিজিটাল ইন্সট্রুমেন্ট ক্লাস্টার, ইনফোটেইনমেন্ট সিস্টেম - এগুলি সমস্ত গাড়ি জুড়ে বিতরণ করা বিভিন্ন কম্পিউটারে রয়েছে," তিনি বলেছিলেন। “2025 সালে, তবে, এই ফাংশনগুলি আর আলাদা কম্পিউটার হবে না। বরং, ড্রাইভ থর নির্মাতাদের একক সিস্টেমে এই ফাংশনগুলিকে দক্ষতার সাথে একত্রিত করতে সক্ষম করবে।"

অটোমোবাইল সেন্সর থেকে সমস্ত তথ্য স্ট্রিমিংয়ের সাথে মানিয়ে নিতে, চিপটিতে মাল্টি-কম্পিউট-ডোমেন বিচ্ছিন্নতা রয়েছে, যা এনভিডিয়া বলেছে যে চিপকে বাধা ছাড়াই সমসাময়িক সমালোচনামূলক প্রক্রিয়াগুলি চালানোর অনুমতি দেয়।

প্রযুক্তিটি চিপটিকে বিভিন্ন যানবাহনের অ্যাপ্লিকেশনের জন্য একযোগে একাধিক অপারেটিং সিস্টেম চালানোর অনুমতি দেয়। উদাহরণস্বরূপ, গাড়ির মূল অপারেটিং সিস্টেম লিনাক্সে চলতে পারে, যখন ইনফোটেইনমেন্ট সিস্টেমটি QNX বা Android চালাতে পারে।

যাইহোক, এটি অজানা কখন আমরা প্রযুক্তিটি কার্যকর দেখতে পেতে পারি। এটি দাঁড়িয়েছে, Nvidia-এর তিনটি লঞ্চ অংশীদার - Zeekr, Xpeng এবং QCraft - চীনে অবস্থিত৷ ®