টেকসই AI/ML-এ CPU-এর ভূমিকা

advertorial যেহেতু AI ব্যবসায়িক কম্পিউটিং পরিবেশ জুড়ে তার নাগাল প্রসারিত করছে, এর প্রভাব কিছু অপ্রত্যাশিত নক-অন প্রভাব সৃষ্টি করছে। IDC এর সর্বশেষ ফিউচারস্কেপ প্রতিবেদনে, উদাহরণ স্বরূপ, ভবিষ্যদ্বাণী করা হয়েছে যে কোম্পানিগুলো যখন AI-বর্ধিত পণ্য/পরিষেবা প্রবর্তন করতে এবং তাদের গ্রাহকদের AI বাস্তবায়নে সহায়তা করার জন্য প্রতিযোগিতা করে, প্রযুক্তিটি উদ্ভাবনের জন্য একটি মূল প্রেরণা হয়ে উঠবে।

আরেকটি এআই-চালিত পরিবর্তনের পিভট যে পরিমাণে ডেটাসেন্টারকে বিচ্ছিন্ন এআই অ্যাক্সিলারেটরগুলির সাথে সিপিইউগুলির ভারসাম্য বজায় রাখতে হতে পারে, যেমন জিপিইউ বা বিশেষ আর্কিটেকচারগুলি যাতে এআই বিকাশকারীরা চান এমন উচ্চ-পারফরম্যান্স কম্পিউট ক্ষমতা প্রদান করতে।

এটি একটি বিতর্ক যা অতিরিক্ত CAPEX বিনিয়োগের ক্ষেত্রে এবং সম্ভাব্য GPU-চালিত AI অপারেশনগুলি প্রচলিত আইটি কাজের চাপের চেয়ে বেশি শক্তি খরচ করে এমন সম্ভাবনা উভয় ক্ষেত্রেই ডেটাসেন্টার মালিকদের জন্য উচ্চ-স্টেকের সমস্যাগুলি উত্থাপন করে৷

AI-এর উচ্চ শক্তি/কার্বন ওভারহেডের সাথে মোকাবিলা করা ডেটাসেন্টার ক্রিয়াকলাপের জন্য একটি অতিরিক্ত ব্যথা-বিন্দু, যা অবশ্যই নিশ্চিত করতে হবে যে AI-এর জন্য অপ্টিমাইজ করা আপগ্রেড করা কম্পিউট আর্কিটেকচারগুলি বিদ্যমান প্রযুক্তি বা সুবিধাগুলিকে ওভারলোড করার ঝুঁকি ছাড়াই বর্ধিত বিদ্যুতের চাহিদাগুলি পরিচালনা করতে পারে।

তাই টেকসই শাসন এবং কার্বন ব্যবস্থাপনায় বর্ধিত নিয়ন্ত্রণ আইটি হার্ডওয়্যার এবং সফ্টওয়্যার জুড়ে শক্তির ব্যবহার কমাতে ক্রিয়াকলাপগুলিকে ঠেলে দেয়, এআই সুযোগ এবং বাধা উভয়কেই উপস্থাপন করে।

এআই পাওয়ার খরচ কমানো

ইন্টেলের AI সেন্টার অফ এক্সিলেন্স-এর কৃত্রিম বুদ্ধিমত্তা GTM-এর ডিরেক্টর স্টেফান গিলিচ ব্যাখ্যা করেছেন, একত্রে নেওয়া, বর্ধিত বিদ্যুত খরচ, এবং AI এবং মেশিন লার্নিং কাজের লোডগুলিকে মিটমাট করার জন্য প্রয়োজনীয় স্থাপত্যের পুনর্বিন্যাসগুলি ডেটাসেন্টারগুলির জন্য একটি অবর্ণনীয় চ্যালেঞ্জ তৈরি করেছে৷

“এটি উল্লম্ব সেক্টর এবং শিল্প জুড়ে মোটামুটি পরিষ্কার, যেখানেই এআই/মেশিন লার্নিং অ্যাপ্লিকেশন এবং পরিষেবাগুলি তৈরি করা হচ্ছে, প্রশিক্ষিত করা হচ্ছে এবং চালানো হচ্ছে, অন-প্রেম এবং ক্লাউড-হোস্টেড আইটি সুবিধাগুলির সক্ষমতাগুলিকে ডেটার বর্ধিত ভলিউম মোকাবেলা করার জন্য আপগ্রেড করতে হবে৷ -নিবিড় কাজের চাপ," গিলিচ বলেছেন। "এটাও স্পষ্ট যে সেই আপগ্রেডগুলিকে কেবল র‌্যাম্পিং-আপ কম্পিউট ক্ষমতার চেয়ে বেশি কিছু করতে হবে।"

এআই-কেন্দ্রিক ডেটাসেন্টারগুলির স্থায়িত্ব বাড়ানোর জন্য অনেক কিছু করা যেতে পারে, গিলিচ বিশ্বাস করেন, এআই/মেশিন লার্নিং ল্যান্ডস্কেপের আশেপাশের কিছু অনুমানের পুনঃমূল্যায়ন করার মাধ্যমে। প্রক্রিয়াকরণ ইউনিটগুলি শুরু করার জন্য একটি ভাল জায়গা, বিশেষ করে সিপিইউ বা জিপিইউগুলি কাজের জন্য উপযুক্ত কিনা তা সিদ্ধান্ত নেওয়ার সময়।

কারণ যখন AI নির্দিষ্ট কম্পিউট-ইনটেনসিভ ওয়ার্কলোড বাড়ছে বলে মনে হচ্ছে (কোন গতিতে কেউই নিশ্চিত নয়) বেশিরভাগ ডেটাসেন্টার কাজের (অ-এআই ওয়ার্কলোডগুলি) অবশ্যই দিনে দিনে দূরে চলে যেতে হবে – স্থির অ্যাপ্লিকেশন সরবরাহ করে এবং পরিষেবা রাজস্ব স্ট্রিম বিরক্ত করা যাবে না.

এগুলোর বেশিরভাগই বর্তমানে CPU-র দ্বারা পরিচালিত হয় এবং আরও ব্যয়বহুল GPU সহ একটি স্ট্যান্ডার্ড ডেটাসেন্টার রিফিট করা, অনেক সুবিধার জন্য প্রয়োজনের তুলনায় উদ্বৃত্ত হবে। সাধারণ পরিভাষায়, একটি জিপিইউ একটি অনুরূপ কাজ সম্পাদন করতে একটি সিপিইউর চেয়ে বেশি ওয়াট ব্যবহার করে। একটি প্রদত্ত র্যাক কনফিগারেশনে পাওয়ার সাপ্লাইয়ের উপর নির্ভর করে, ডেটাসেন্টার অবকাঠামোতে GPU গুলিকে একীভূত করার জন্য পাওয়ার ডিস্ট্রিবিউশন সিস্টেমে আপগ্রেড করতে হবে, উদাহরণস্বরূপ, যেগুলি একবার চালু হওয়ার পরে উচ্চ শক্তির বিল ছাড়াও অতিরিক্ত অগ্রিম খরচ বহন করতে বাধ্য।

আরও কি, ইন্টেলের সিপিইউ উন্নয়নে উদ্ভাবন অব্যাহত রয়েছে। একাধিক ব্যবহারের ক্ষেত্রে একটি সিপিইউ একটি জিপিইউ হিসাবে ভাল - এবং কখনও কখনও ভাল - সামগ্রিক কর্মক্ষমতা অর্জনের জন্য প্রমাণিত হতে পারে, গিলিচ যুক্তি দেন। এবং তাদের কর্মক্ষমতা ইন্টেল® AMX (অ্যাডভান্সড ম্যাট্রিক্স এক্সটেনশন) 4র্থ প্রজন্মের ইন্টেল জেওন সিপিইউ-তে তৈরি একটি এক্সিলারেটরের মতো যুগান্তকারী প্রযুক্তির মাধ্যমে বৃদ্ধি করা যেতে পারে।

"ইন্টেল জিওন প্রসেসরগুলি একটি ডেটাসেন্টারকে বিল্ট-ইন এআই ত্বরণের মাধ্যমে তার AI গ্রহণকে স্কেল করতে সক্ষম করতে পারে যা মেশিন লার্নিং, প্রশিক্ষণ এবং অনুমানের জন্য CPU কর্মক্ষমতা বাড়ায়" গিলিচ উল্লেখ করেছেন। "এইভাবে, তারা বিদ্যমান ইন্টেল জিওন প্রসেসিং এনভায়রনমেন্টের সুবিধা নেওয়ার সময় CAPEX কমাতে এবং পারফরম্যান্সকে সর্বাধিক করার জন্য আলাদা এক্সিলারেটর গ্রহণ করতে পারে।"

এআই এবং নন-এআই ওয়ার্কলোড মিশ্রিত করা প্রয়োজন

ইন্টেল এএমএক্স হল ইন্টেল জেওন স্কেলেবল প্রসেসর কোরের একটি ডেডিকেটেড হার্ডওয়্যার ব্লক যা AI ওয়ার্কলোডগুলিকে একটি বিচ্ছিন্ন অ্যাক্সিলারেটরে অফলোড করার পরিবর্তে CPU-তে চালানোর জন্য সক্ষম করে, যা একটি উল্লেখযোগ্য কর্মক্ষমতা বৃদ্ধি করে। এটি মেশিন লার্নিং সুপারিশকারী সিস্টেম, চিত্র স্বীকৃতি এবং প্রাকৃতিক ভাষা প্রক্রিয়াকরণের মতো AI কাজের চাপের জন্য উপযুক্ত, যা ম্যাট্রিক্স গণিতের উপর নির্ভর করে।

বর্ধিত সিপিইউ-এর পক্ষে আরেকটি যুক্তি হল যে তারা ডেটাসেন্টার অপারেটরদের বিদ্যমান সিপিইউ প্রতিশ্রুতিগুলিকে আরও বেশি করে তোলার জন্য একটি ব্যয়-কার্যকর রুট প্রদান করে, তাদের সম্পদের ভবিষ্যৎ প্রমাণ যাতে তারা মিশ্র কাজের চাপ নিতে সক্ষম হয় এবং তাদের আরও ভাল অবস্থানে রাখতে পারে। সামগ্রিক শক্তি ব্যবহার নিয়ন্ত্রণ।

এটি, পরিবর্তে, ডেটাসেন্টার পরিষেবা প্রদানকারীদের (এবং তাদের গ্রাহকদের) স্থায়িত্ব লক্ষ্য পূরণে সহায়তা করতে পারে এবং সফ্টওয়্যার বিকাশকারীদের (এন্টারপ্রাইজ বা তৃতীয় পক্ষ) যারা তাদের কোডিংয়ের শক্তি দক্ষতা প্রদর্শনের জন্য একটি অপ্টিমাইজড প্ল্যাটফর্ম খুঁজছেন তাদের জন্য একটি বিক্রয় পয়েন্ট প্রদান করে। আউটপুট

"বাস্তবতা হল, এআই কাজের চাপের প্রতিশ্রুতি দেওয়ার সুযোগের দিকে তাড়াহুড়ো করার পরিবর্তে, ডেটাসেন্টার অপারেটররা উপলব্ধি করছেন যে তাদের এমন কিছু প্রয়োজনীয়তা বিবেচনা করা উচিত যা প্রযুক্তিগত পছন্দগুলির মতো বাণিজ্যিক উদ্বেগের দ্বারা অবহিত করা হয়," গিলিচ বলেছেন।

এই প্রয়োজনীয়তাগুলির মধ্যে অন্তর্ভুক্ত থাকতে পারে: নন-এআই ওয়ার্কলোডের সাথে এআই ওয়ার্কলোডের একীকরণ; বিভিন্ন হার্ডওয়্যার এবং সফ্টওয়্যার স্ট্যাকের একীকরণ; এবং কারণ তারা নিশ্চিত করতে চায় যে তাদের একটি আর্কিটেকচার আছে যা একাধিক ভিন্ন কাজের চাপের জন্য উপযুক্ত, বিভিন্ন ধরনের ওয়ার্কস্ট্রিমের একীকরণ।

"এই প্রশ্নগুলি জটিল চ্যালেঞ্জগুলির দিকে নির্দেশ করে, কারণ সেগুলিকে সঠিকভাবে পাওয়ার জন্য সর্বোত্তম প্রযুক্তিগত এবং শক্তি দক্ষতার উপর একটি প্রভাব রয়েছে - শক্তি দক্ষতার সাথে এখন একটি মূল কর্মক্ষমতা বেঞ্চমার্ক যা একটি ডেটাসেন্টারের বাণিজ্যিক কার্যকারিতাকে ক্রমবর্ধমানভাবে প্রভাবিত করবে," গিলিচ বলেছেন৷ "তাই আবার, এটি অত্যন্ত গুরুত্বপূর্ণ।"

গিলিচের দৃষ্টিকোণ থেকে, এই উদ্ভূত বাস্তবতার সাথে খাপ খাইয়ে নেওয়ার চাবিকাঠি হল একটি ধাপ-প্রক্রিয়া যাকে 'এআই অ্যাসিমিলেশন' বলা যেতে পারে। এখানে একটি পয়েন্ট হল যে AI ওয়ার্কলোডগুলি অন্য কাজের চাপের ধরন থেকে আলাদা করা হয় না – সেগুলি আলাদাভাবে চালানোর পরিবর্তে প্রচলিত কাজের লোডগুলিতে একীভূত হবে।

গিলিচ এই পর্যায়ক্রমে একীকরণের উদাহরণ হিসাবে ভিডিও কনফারেন্সিং দিয়েছেন: “ইতিমধ্যেই স্ট্যান্ডার্ড অ্যাপ্লিকেশন জুড়ে স্ট্যান্ডার্ড অডিও/ভিডিও ট্র্যাফিক স্ট্রিম করার সময়, সারসংক্ষেপ, অনুবাদ, ট্রান্সক্রিপশনের মতো সমসাময়িক কাজগুলি সম্পাদন করার জন্য AI সংহত হয়েছে৷ এই ধরনের বৈশিষ্ট্যগুলি AI দ্বারা খুব ভালভাবে সমর্থিত।

শেষ থেকে শেষ শক্তি সঞ্চয়

গিলিচ যুক্তি দেন যে শক্তির দক্ষতা অর্জন করা একটি সত্যিকারের শেষ থেকে শেষ কৌশলগত উদ্যোগ হতে হবে। "এটি সফ্টওয়্যার সাইডের পাশাপাশি হার্ডওয়্যার আর্কিটেকচারগুলিকে বিস্তৃত করে - একটি প্রদত্ত ওয়ার্কফ্লো প্রক্রিয়াকে সক্ষম করার সম্পূর্ণ প্রক্রিয়া৷ অ্যাক্সেসকে সবচেয়ে দক্ষ করার জন্য ডেটা কোথায় সংরক্ষণ করা হয় - গণনা অনুসারে এবং তাই শক্তি-ভিত্তিক - এটি কি শক্তি দক্ষতার জন্য সেরা জায়গা?"

এই মূল্যায়নে আনতে অন্য ফ্যাক্টর হল কাজের চাপ কোথায় চলছে তা নির্ধারণ করা। উদাহরণস্বরূপ, এটি কি ক্লায়েন্টদের উপর চলছে (যেমন এআই পিসি ইনটেল কোর আল্ট্রা প্রসেসর দ্বারা সজ্জিত, ডাটাসেন্টারে সার্ভারের পরিবর্তে? এই AI ওয়ার্কলোডগুলির মধ্যে কিছু কি আসলেই ক্লায়েন্টগুলিতে (সার্ভারের পাশাপাশি) চালানো যেতে পারে?

প্রতিটি বিকল্পই বিবেচনার যোগ্য যদি এটি এআই-কম্পিউট/বিদ্যুৎ খরচের ভারসাম্যকে আরও ভাল প্রান্তিককরণে আনতে সাহায্য করে, গিলিচ যুক্তি দেন: "এটি প্রায় ডিস্ট্রিবিউটেড কম্পিউটিংয়ের পুরানো-বিদ্যালয়ের ধারণায় ফিরে আসার মতো।"

গিলিচ যোগ করেছেন: “কখনও কখনও আমাদের গ্রাহকরা জিজ্ঞাসা করেন, 'এআই কোথায় খেলবে?' - উত্তর হল যে এআই সর্বত্র খেলবে। তাই ইন্টেলে আমাদের উচ্চাকাঙ্ক্ষা AI এর সার্বজনীন আবাসন বলা যেতে পারে তার উপর দৃষ্টি নিবদ্ধ করে, কারণ আমরা বিশ্বাস করি এটি সমস্ত অ্যাপ্লিকেশন ক্ষেত্রে প্রবেশ করবে।"

ইন্টেলে এটি এপিআই-এর মতো মিডলওয়্যারকে অন্তর্ভুক্ত করে, যা সফ্টওয়্যার স্ট্যাকের অন্যান্য অংশের মতোই যতটা সম্ভব দক্ষ হতে হবে। 'এপিআই স্প্রল' এর ফলে অপ্রয়োজনীয় প্রক্রিয়াকরণ, তাদের অবকাঠামোর পদচিহ্ন হ্রাস করা এবং পর্যবেক্ষণ ও নিয়ন্ত্রণের অভাব হতে পারে।

"সঙ্গে ইন্টেল ওয়ানএপিআই, এন্টারপ্রাইজগুলি তাদের সম্পূর্ণ হার্ডওয়্যার মান উপলব্ধি করতে পারে, উচ্চ-পারফরম্যান্স ক্রস-আর্কিটেকচার কোড বিকাশ করতে পারে এবং ভবিষ্যতের প্রয়োজনের জন্য তাদের অ্যাপ্লিকেশনগুলিকে প্রস্তুত করতে পারে,” গিলিচ ব্যাখ্যা করেন।

“Intel oneAPI হল একটি উন্মুক্ত, ক্রস-ইন্ডাস্ট্রি, স্ট্যান্ডার্ড-ভিত্তিক, ইউনিফাইড, মাল্টি-আর্কিটেকচার, মাল্টি-ভেন্ডর প্রোগ্রামিং মডেল যা এক্সিলারেটর আর্কিটেকচার জুড়ে একটি সাধারণ বিকাশকারীর অভিজ্ঞতা প্রদান করে – দ্রুত অ্যাপ্লিকেশন কর্মক্ষমতা এবং উন্নত উত্পাদনশীলতার জন্য। ওয়ানএপিআই উদ্যোগটি ওয়ানএপিআই স্পেসিফিকেশন এবং ইকোসিস্টেম জুড়ে সামঞ্জস্যপূর্ণ ওয়ানএপিআই বাস্তবায়নে সহযোগিতাকে উৎসাহিত করে।”

গিলিচ যোগ করেছেন: “oneAPI একটি মিডলওয়্যার স্ট্যাক প্রদান করে যা AI ফ্রেমওয়ার্কের মতো স্ট্যান্ডার্ড জিনিসগুলি নেয় – যেমন পাইটর্চ বা টেনসরফ্লো [এআই এবং মেশিন লার্নিংয়ের জন্য ওপেন-সোর্স সফ্টওয়্যার প্ল্যাটফর্ম] – এবং সেগুলিকে একটি মেশিন লেভেলে অনুবাদ করে, এবং OneAPI একটি কার্যকর উপায় সক্ষম করে। কর এটা. ব্যবহারকারীরা Ai ফ্রেমওয়ার্ক স্তরে একটি সাধারণ API ব্যবহার করতে পারে এবং আমাদের কাছে একটি API (oneAPI) রয়েছে যা বিভিন্ন হার্ডওয়্যারের স্বাদকে সম্বোধন করে।" সুতরাং একটি সাধারণ API মানে ব্যবহারকারীরা ওপেন সফ্টওয়্যার তৈরি করতে পারে যা একটি ওপেন সফ্টওয়্যার স্ট্যাকে সমর্থিত হতে পারে।

CPU-স্তরের মূল্য-পয়েন্টে GPU-স্তরের কর্মক্ষমতা

আইটি-তে অগ্রগতি মূলত ডিপ্লোয়মেন্ট কৌশলগুলির অন্তর্দৃষ্টি-চালিত উন্নতির সাথে যুক্ত ক্রমাগত প্রযুক্তিগত অগ্রগতির প্রত্যাশার দ্বারা চালিত হয়। এটি একটি মডেল যা বাজেট ব্যয় এবং ব্যবসায়িক ROI এর মধ্যে সর্বোত্তম অর্জনযোগ্য ভারসাম্য খুঁজে পাওয়ার উপর ভিত্তি করে এবং প্রত্যাশার জন্য সর্বদা আরও নতুনত্ব রয়েছে। AI এই আদর্শের apogee প্রতিনিধিত্ব করে - এটি চিরস্থায়ী স্ব-উন্নতির মাধ্যমে তার নিজস্ব মূল্য প্রস্তাব পুনরায় উদ্ভাবনের জন্য যথেষ্ট স্মার্ট।

AMX অ্যাক্সিলারেটরকে তার 4th প্রজন্মের Intel Xeon CPU-তে তৈরি করে, ইন্টেল দেখায় কিভাবে CPU-স্তরের মূল্য-পয়েন্টে GPU-স্তরের কর্মক্ষমতা অর্জন করা যায়। এটি ডেটাসেন্টারগুলিকে তাদের বিদ্যমান ইন্টেল জিওন-চালিত প্রসেসিং এস্টেটের রিটার্ন মান সর্বাধিক করার সময় স্কেল করার অনুমতি দেয়, তবে একটি মূল্যের মডেলও প্রদান করে যা AI কাজের চাপ কিন্তু সীমিত বাজেটের গ্রাহকদের জন্য প্রবেশের খরচ কম করে।

এবং CPU-এর কম বিদ্যুত খরচের মানে হল যে একটি ডেটাসেন্টার সুবিধার সম্পূর্ণ ক্রিয়াকলাপ জুড়ে শক্তি দক্ষতা সামগ্রিকভাবে অর্জন করা যেতে পারে - যেমন কুলিং এবং বায়ুচলাচল - এবং এটি টেকসই-সচেতন সফ্টওয়্যার আর্কিটেক্ট এবং AL সমাধানগুলির বিকাশকারীদের জন্য আরেকটি বিজয়ী টান।

ইন্টেল দ্বারা অবদান.

• এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
• PlatoData.Network উল্লম্ব জেনারেটিভ Ai. নিজেকে ক্ষমতায়িত করুন। এখানে প্রবেশ করুন.
• প্লেটোএআইস্ট্রিম। Web3 ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
• প্লেটোইএসজি। কার্বন, ক্লিনটেক, শক্তি, পরিবেশ সৌর, বর্জ্য ব্যবস্থাপনা. এখানে প্রবেশ করুন.
• প্লেটো হেলথ। বায়োটেক এবং ক্লিনিক্যাল ট্রায়াল ইন্টেলিজেন্স। এখানে প্রবেশ করুন.
• উত্স: https://go.theregister.com/feed/www.theregister.com/2024/01/29/the_role_of_the_cpu/