বাস্তব ব্যবহারের ক্ষেত্রে মাধ্যমে প্রান্তে মেশিন লার্নিং demystifying

প্রান্ত একটি শব্দ যা একটি অবস্থানকে বোঝায়, ক্লাউড বা একটি বড় ডেটা সেন্টার থেকে দূরে, যেখানে আপনার কাছে একটি কম্পিউটার ডিভাইস (এজ ডিভাইস) রয়েছে যা (এজ) অ্যাপ্লিকেশনগুলি চালাতে সক্ষম। এজ কম্পিউটিং হল এই প্রান্ত ডিভাইসগুলিতে কাজের চাপ চালানোর কাজ। প্রান্তে মেশিন লার্নিং (ML@Edge) হল একটি ধারণা যা স্থানীয়ভাবে ML মডেলগুলিকে প্রান্ত ডিভাইসগুলিতে চালানোর ক্ষমতা নিয়ে আসে৷ এই ML মডেলগুলি তারপর প্রান্ত অ্যাপ্লিকেশন দ্বারা আহ্বান করা যেতে পারে। ML@Edge অনেক পরিস্থিতিতে গুরুত্বপূর্ণ যেখানে ক্লাউড থেকে অনেক দূরের উৎস থেকে কাঁচা তথ্য সংগ্রহ করা হয়। এই পরিস্থিতিতে নির্দিষ্ট প্রয়োজনীয়তা বা সীমাবদ্ধতা থাকতে পারে:

• কম বিলম্ব, রিয়েল-টাইম ভবিষ্যদ্বাণী
• ক্লাউডের সাথে দুর্বল বা বিদ্যমান সংযোগ নেই
• আইনি সীমাবদ্ধতা যা বহিরাগত পরিষেবাগুলিতে ডেটা পাঠানোর অনুমতি দেয় না
• ক্লাউডে প্রতিক্রিয়া পাঠানোর আগে বড় ডেটাসেটগুলিকে স্থানীয়ভাবে প্রি-প্রসেস করতে হবে

নিম্নলিখিত অনেকগুলি ব্যবহারের ক্ষেত্রে রয়েছে যা ভবিষ্যদ্বাণীগুলির জন্য ব্যবহৃত ডেটা তৈরি করে এমন সরঞ্জামগুলির কাছাকাছি চলমান এমএল মডেলগুলি থেকে উপকৃত হতে পারে:

• নিরাপত্তা এবং সুরক্ষা - একটি সীমাবদ্ধ এলাকা যেখানে ভারী মেশিনগুলি একটি স্বয়ংক্রিয় পোর্টে কাজ করে একটি ক্যামেরা দ্বারা পর্যবেক্ষণ করা হয়। যদি কোনও ব্যক্তি ভুলবশত এই এলাকায় প্রবেশ করে, তবে মেশিনগুলিকে থামাতে এবং মানুষকে রক্ষা করার জন্য একটি সুরক্ষা ব্যবস্থা সক্রিয় করা হয়।
• ভবিষ্যদ্বাণীপূর্ণ রক্ষণাবেক্ষণ - কম্পন এবং অডিও সেন্সর একটি বায়ু টারবাইনের একটি গিয়ারবক্স থেকে ডেটা সংগ্রহ করে৷ একটি অসঙ্গতি সনাক্তকরণ মডেল সেন্সর ডেটা প্রক্রিয়া করে এবং সরঞ্জামের সাথে অসঙ্গতি আছে কিনা তা সনাক্ত করে। যদি কোনো অসঙ্গতি সনাক্ত করা হয়, তাহলে এজ ডিভাইসটি রিয়েল টাইমে একটি আকস্মিক পরিমাপ শুরু করতে পারে যাতে সরঞ্জামের ক্ষতি না হয়, যেমন বিরতি নিযুক্ত করা বা গ্রিড থেকে জেনারেটর সংযোগ বিচ্ছিন্ন করা।
• উত্পাদন লাইনে ত্রুটি সনাক্তকরণ - একটি ক্যামেরা কনভেয়র বেল্টে পণ্যগুলির ছবি ধারণ করে এবং একটি চিত্র শ্রেণিবিন্যাসের মডেলের সাথে ফ্রেমগুলি প্রক্রিয়া করে৷ যদি একটি ত্রুটি সনাক্ত করা হয়, পণ্যটি ম্যানুয়াল হস্তক্ষেপ ছাড়াই স্বয়ংক্রিয়ভাবে বাতিল করা যেতে পারে।

যদিও ML@Edge অনেক ব্যবহারের ক্ষেত্রে মোকাবেলা করতে পারে, সেখানে জটিল স্থাপত্যগত চ্যালেঞ্জ রয়েছে যা একটি সুরক্ষিত, মজবুত এবং নির্ভরযোগ্য ডিজাইনের জন্য সমাধান করা প্রয়োজন। এই পোস্টে, আপনি ML@Edge সম্পর্কে কিছু বিশদ বিবরণ শিখবেন, সম্পর্কিত বিষয়গুলি এবং এই চ্যালেঞ্জগুলি কাটিয়ে উঠতে এবং প্রান্তের কাজের চাপে আপনার ML-এর জন্য একটি সম্পূর্ণ সমাধান বাস্তবায়নের জন্য কীভাবে AWS পরিষেবাগুলি ব্যবহার করবেন।

ML@Edge ওভারভিউ

ML@Edge এবং ইন্টারনেট অফ থিংস (IoT) এর ক্ষেত্রে একটি সাধারণ বিভ্রান্তি রয়েছে, তাই ML@Edge IoT থেকে কীভাবে আলাদা এবং কিছু ক্ষেত্রে একটি শক্তিশালী সমাধান দিতে তারা উভয়ে কীভাবে একত্রিত হতে পারে তা স্পষ্ট করা গুরুত্বপূর্ণ।

একটি প্রান্ত সমাধান যা ML@Edge ব্যবহার করে তার দুটি প্রধান উপাদান রয়েছে: একটি প্রান্ত অ্যাপ্লিকেশন এবং একটি ML মডেল (অ্যাপ্লিকেশন দ্বারা আমন্ত্রিত) প্রান্ত ডিভাইসে চলছে৷ ML@Edge হল এক বা একাধিক এমএল মডেলের লাইফ সাইকেল নিয়ন্ত্রণ করা যা এজ ডিভাইসের বহরে মোতায়েন করা হয়েছে। এমএল মডেল লাইফসাইকেল ক্লাউড সাইডে শুরু হতে পারে (চালু আমাজন সেজমেকার, উদাহরণস্বরূপ) কিন্তু সাধারণত প্রান্ত ডিভাইসে মডেলের একটি স্বতন্ত্র স্থাপনায় শেষ হয়। প্রতিটি দৃশ্যকল্প বিভিন্ন এমএল মডেল লাইফসাইকেলের দাবি করে যেগুলো অনেকগুলো ধাপ দ্বারা রচিত হতে পারে, যেমন তথ্য সংগ্রহ; তথ্য প্রস্তুতি; মডেল বিল্ডিং, সংকলন, এবং প্রান্ত ডিভাইসে স্থাপনা; মডেল লোড এবং চলমান; এবং জীবনচক্রের পুনরাবৃত্তি।

ML@Edge মেকানিজম অ্যাপ্লিকেশন জীবনচক্রের জন্য দায়ী নয়। সে জন্য ভিন্ন পন্থা অবলম্বন করতে হবে। এমএল মডেল লাইফসাইকেল এবং অ্যাপ্লিকেশান লাইফসাইকেল ডিকপল করা আপনাকে বিভিন্ন গতিতে এগুলিকে বিকশিত করার স্বাধীনতা এবং নমনীয়তা দেয়। একটি মোবাইল অ্যাপ্লিকেশন কল্পনা করুন যা একটি এমএল মডেলকে একটি ইমেজ বা এক্সএমএল ফাইলের মতো একটি সংস্থান হিসাবে এম্বেড করে৷ এই ক্ষেত্রে, আপনি যখনই একটি নতুন মডেলকে প্রশিক্ষণ দেবেন এবং এটি মোবাইল ফোনে স্থাপন করতে চান, আপনাকে পুরো অ্যাপ্লিকেশনটি পুনরায় স্থাপন করতে হবে। এটি সময় এবং অর্থ খরচ করে, এবং আপনার অ্যাপ্লিকেশনে বাগ প্রবর্তন করতে পারে। এমএল মডেল লাইফসাইকেল ডিকপল করার মাধ্যমে, আপনি মোবাইল অ্যাপটি একবার প্রকাশ করেন এবং আপনার প্রয়োজন অনুযায়ী এমএল মডেলের অনেকগুলি সংস্করণ স্থাপন করেন।

কিন্তু কিভাবে IoT ML@Edge এর সাথে সম্পর্কযুক্ত? IoT সেন্সর, প্রক্রিয়াকরণ ক্ষমতা এবং সফ্টওয়্যার মত প্রযুক্তির সাথে এমবেড করা ভৌত বস্তুর সাথে সম্পর্কিত। তথ্য বিনিময় করার জন্য এই বস্তুগুলি ইন্টারনেট বা অন্যান্য যোগাযোগ নেটওয়ার্কের মাধ্যমে অন্যান্য ডিভাইস এবং সিস্টেমের সাথে সংযুক্ত থাকে। নিচের চিত্রটি এই স্থাপত্যের চিত্র তুলে ধরে। ধারণাটি প্রাথমিকভাবে তৈরি করা হয়েছিল যখন সাধারণ ডিভাইসগুলির কথা চিন্তা করা হয়েছিল যেগুলি কেবল প্রান্ত থেকে ডেটা সংগ্রহ করে, সাধারণ স্থানীয় প্রক্রিয়াকরণ করে এবং ফলাফলকে আরও শক্তিশালী কম্পিউটিং ইউনিটিতে পাঠায় যা বিশ্লেষণ প্রক্রিয়াগুলি চালায় যা মানুষ এবং কোম্পানিগুলিকে তাদের সিদ্ধান্ত গ্রহণে সহায়তা করে৷ আইওটি সমাধান প্রান্ত অ্যাপ্লিকেশন জীবনচক্র নিয়ন্ত্রণের জন্য দায়ী। IoT সম্পর্কে আরও তথ্যের জন্য, পড়ুন কিছু ইন্টারনেট.

আপনার যদি ইতিমধ্যেই একটি IoT অ্যাপ্লিকেশন থাকে, তাহলে আপনি পণ্যটিকে আরও দক্ষ করে তুলতে ML@Edge ক্ষমতা যোগ করতে পারেন, যেমনটি নিম্নলিখিত চিত্রে দেখানো হয়েছে। মনে রাখবেন যে ML@Edge IoT এর উপর নির্ভর করে না, তবে আপনি আরও শক্তিশালী সমাধান তৈরি করতে তাদের একত্রিত করতে পারেন। আপনি যখন এটি করেন, তখন আপনি পরবর্তী প্রক্রিয়াকরণের জন্য ক্লাউডে ডেটা পাঠানোর চেয়ে দ্রুত আপনার ব্যবসার জন্য রিয়েল-টাইম অন্তর্দৃষ্টি তৈরি করার জন্য আপনার সাধারণ ডিভাইসের সম্ভাবনাকে উন্নত করেন।

আপনি যদি ML@Edge ক্ষমতার সাথে স্ক্র্যাচ থেকে একটি নতুন প্রান্ত সমাধান তৈরি করেন, তাহলে একটি নমনীয় আর্কিটেকচার ডিজাইন করা গুরুত্বপূর্ণ যা অ্যাপ্লিকেশন এবং এমএল মডেল লাইফসাইকেল উভয়কেই সমর্থন করে। আমরা পরে এই পোস্টে ML@Edge-এর সাথে এজ অ্যাপ্লিকেশনের জন্য কিছু রেফারেন্স আর্কিটেকচার প্রদান করি। কিন্তু প্রথমে, আসুন এজ কম্পিউটিং এর আরও গভীরে প্রবেশ করি এবং পরিবেশের সীমাবদ্ধতার উপর ভিত্তি করে আপনার সমাধানের জন্য সঠিক প্রান্ত ডিভাইসটি কীভাবে চয়ন করবেন তা শিখি।

এজ কম্পিউটিং

ডিভাইসটি ক্লাউড বা একটি বড় ডেটা সেন্টার (বেস) থেকে কত দূরে রয়েছে তার উপর নির্ভর করে, সিস্টেমের কর্মক্ষমতা এবং দীর্ঘায়ু সর্বাধিক করার জন্য প্রান্ত ডিভাইসগুলির তিনটি প্রধান বৈশিষ্ট্য বিবেচনা করা প্রয়োজন: কম্পিউটিং এবং স্টোরেজ ক্ষমতা, সংযোগ এবং শক্তি খরচ। নীচের চিত্রটি প্রান্ত ডিভাইসগুলির তিনটি গ্রুপ দেখায় যা এই বৈশিষ্ট্যগুলির বিভিন্ন বৈশিষ্ট্যকে একত্রিত করে, ভিত্তি থেকে কতটা দূরে তার উপর নির্ভর করে।

গ্রুপগুলো নিম্নরূপ:

• MECs (মাল্টি-অ্যাক্সেস এজ কম্পিউটিং) – MEC বা ছোট ডেটা সেন্টার, কম বা অতি-লো লেটেন্সি এবং উচ্চ ব্যান্ডউইথ দ্বারা চিহ্নিত, সাধারণ পরিবেশ যেখানে ML@Edge ক্লাউড ওয়ার্কলোডের তুলনায় বড় সীমাবদ্ধতা ছাড়াই সুবিধা আনতে পারে। কারখানা, গুদাম, পরীক্ষাগার ইত্যাদিতে 5G অ্যান্টেনা এবং সার্ভারগুলি ন্যূনতম শক্তির সীমাবদ্ধতা এবং ভাল ইন্টারনেট সংযোগ সহ GPU এবং CPU, ভার্চুয়াল মেশিন, কন্টেইনার এবং বেয়ার-মেটাল সার্ভারগুলিতে ML মডেলগুলি চালানোর বিভিন্ন উপায় অফার করে।
• প্রান্তের কাছাকাছি - এটি তখনই হয় যখন গতিশীলতা বা ডেটা একত্রিতকরণের প্রয়োজনীয়তা থাকে এবং ডিভাইসগুলির বিদ্যুৎ খরচ এবং প্রক্রিয়াকরণ শক্তি সম্পর্কিত কিছু সীমাবদ্ধতা থাকে, তবে এখনও কিছু নির্ভরযোগ্য সংযোগ থাকে, যদিও উচ্চতর বিলম্ব সহ, সীমিত থ্রুপুট সহ এবং "প্রান্তের কাছাকাছি" এর চেয়ে বেশি ব্যয়বহুল। মোবাইল অ্যাপ্লিকেশন, ML মডেলগুলিকে ত্বরান্বিত করার জন্য নির্দিষ্ট বোর্ড, বা ML মডেলগুলি চালানোর ক্ষমতা সহ সাধারণ ডিভাইসগুলি, বেতার নেটওয়ার্ক দ্বারা আচ্ছাদিত, এই গ্রুপে অন্তর্ভুক্ত করা হয়েছে৷
• দূর প্রান্ত - এই চরম পরিস্থিতিতে, প্রান্ত ডিভাইসগুলির তীব্র শক্তি খরচ বা সংযোগের সীমাবদ্ধতা রয়েছে৷ ফলস্বরূপ, প্রক্রিয়াকরণ শক্তি অনেক দূরবর্তী পরিস্থিতিতেও সীমাবদ্ধ। কৃষি, খনি, নজরদারি এবং নিরাপত্তা, এবং সামুদ্রিক পরিবহন এমন কিছু ক্ষেত্র যেখানে দূরবর্তী ডিভাইসগুলি গুরুত্বপূর্ণ ভূমিকা পালন করে। সাধারণ বোর্ড, সাধারণত জিপিইউ বা অন্যান্য এআই অ্যাক্সিলারেটর ছাড়াই সাধারণ। এগুলি সাধারণ এমএল মডেলগুলি লোড এবং চালানোর জন্য ডিজাইন করা হয়েছে, একটি স্থানীয় ডাটাবেসে ভবিষ্যদ্বাণীগুলি সংরক্ষণ করতে এবং পরবর্তী ভবিষ্যদ্বাণী চক্র পর্যন্ত ঘুমাতে পারে৷ যে ডিভাইসগুলিকে রিয়েল-টাইম ডেটা প্রক্রিয়া করতে হবে সেগুলিতে ডেটা হারানো এড়াতে বড় স্থানীয় স্টোরেজ থাকতে পারে।

চ্যালেঞ্জ

ML@Edge পরিস্থিতিগুলি থাকা সাধারণ যেখানে আপনার শত শত বা হাজার হাজার (সম্ভবত এমনকি লক্ষ লক্ষ) ডিভাইস একই মডেল এবং এজ অ্যাপ্লিকেশন চালাচ্ছে। আপনি যখন আপনার সিস্টেমকে স্কেল করেন, তখন একটি শক্তিশালী সমাধান থাকা গুরুত্বপূর্ণ যা আপনাকে সমর্থন করার জন্য প্রয়োজনীয় ডিভাইসগুলির সংখ্যা পরিচালনা করতে পারে। এটি একটি জটিল কাজ এবং এই পরিস্থিতিগুলির জন্য, আপনাকে অনেক প্রশ্ন জিজ্ঞাসা করতে হবে:

• প্রান্তে থাকা ডিভাইসগুলির বহরে আমি কীভাবে এমএল মডেলগুলি পরিচালনা করব?
• আমি কীভাবে একাধিক প্রান্ত ডিভাইসে এমএল মডেলগুলি তৈরি, অপ্টিমাইজ এবং স্থাপন করব?
• প্রান্তে স্থাপন এবং চালানোর সময় আমি কীভাবে আমার মডেলটিকে সুরক্ষিত করব?
• আমি কীভাবে আমার মডেলের কর্মক্ষমতা নিরীক্ষণ করব এবং প্রয়োজন হলে এটিকে পুনরায় প্রশিক্ষণ দেব?
• আমি কীভাবে আমার সীমাবদ্ধ ডিভাইসে টেনসরফ্লো বা পাইটর্চের মতো একটি বড় ফ্রেমওয়ার্ক ইনস্টল করার প্রয়োজনীয়তা দূর করব?
• আমি কিভাবে আমার এজ অ্যাপ্লিকেশনের সাথে একটি সাধারণ API হিসাবে এক বা একাধিক মডেল প্রকাশ করব?
• এজ ডিভাইসগুলি দ্বারা ক্যাপচার করা পেলোড এবং ভবিষ্যদ্বাণীগুলির সাথে আমি কীভাবে একটি নতুন ডেটাসেট তৈরি করব?
• আমি কীভাবে এই সমস্ত কাজগুলি স্বয়ংক্রিয়ভাবে করব (MLOps প্লাস ML@Edge)?

পরবর্তী বিভাগে, আমরা উদাহরণ ব্যবহারের ক্ষেত্রে এবং রেফারেন্স আর্কিটেকচারের মাধ্যমে এই সমস্ত প্রশ্নের উত্তর প্রদান করি। অন্বেষণ করা প্রতিটি পরিস্থিতির জন্য সম্পূর্ণ সমাধান তৈরি করতে আপনি কোন AWS পরিষেবাগুলিকে একত্রিত করতে পারেন তাও আমরা আলোচনা করি। যাইহোক, আপনি যদি আপনার ML@Edge সমাধান তৈরি করতে AWS দ্বারা প্রদত্ত কিছু পরিষেবা কীভাবে ব্যবহার করবেন তা বর্ণনা করে এমন একটি খুব সাধারণ প্রবাহ দিয়ে শুরু করতে চান, এটি একটি উদাহরণ:

সেজমেকারের সাহায্যে, আপনি সহজেই একটি ডেটাসেট প্রস্তুত করতে পারেন এবং প্রান্ত ডিভাইসগুলিতে স্থাপন করা এমএল মডেলগুলি তৈরি করতে পারেন। সঙ্গে অ্যামাজন সেজমেকার নিও, আপনি আপনার বেছে নেওয়া নির্দিষ্ট প্রান্ত ডিভাইসে প্রশিক্ষিত মডেলটি কম্পাইল এবং অপ্টিমাইজ করতে পারেন। মডেল কম্পাইল করার পরে, এটি চালানোর জন্য আপনার শুধুমাত্র একটি হালকা রানটাইম প্রয়োজন (পরিষেবা দ্বারা প্রদত্ত)। আমাজন সেজমেকার এজ ম্যানেজার আপনার এজ ডিভাইসের বহরে নিয়োজিত সমস্ত ML মডেলের জীবনচক্র পরিচালনার জন্য দায়ী। এজ ম্যানেজার লক্ষ লক্ষ ডিভাইসের বহর পরিচালনা করতে পারে। একটি এজেন্ট, প্রতিটি প্রান্তের ডিভাইসে ইনস্টল করা, প্রয়োগ করা এমএল মডেলগুলিকে এপিআই হিসাবে অ্যাপ্লিকেশনটিতে প্রকাশ করে। এজেন্ট মেট্রিক্স, পেলোড এবং ভবিষ্যদ্বাণী সংগ্রহের জন্যও দায়ী যা আপনি নিরীক্ষণের জন্য ব্যবহার করতে পারেন বা প্রয়োজনে মডেলটিকে পুনরায় প্রশিক্ষণ দেওয়ার জন্য একটি নতুন ডেটাসেট তৈরি করতে পারেন। অবশেষে, সঙ্গে অ্যামাজন সেজমেকার পাইপলাইন, আপনি আপনার ডিভাইসের বহরে ML মডেলগুলি তৈরি, অপ্টিমাইজ এবং স্থাপন করার জন্য প্রয়োজনীয় সমস্ত পদক্ষেপ সহ একটি স্বয়ংক্রিয় পাইপলাইন তৈরি করতে পারেন৷ এই স্বয়ংক্রিয় পাইপলাইনটি মানুষের হস্তক্ষেপ ছাড়াই আপনার সংজ্ঞায়িত সাধারণ ঘটনাগুলির দ্বারা ট্রিগার হতে পারে।

কেস 1 ব্যবহার করুন

ধরা যাক একটি বিমান প্রস্তুতকারক উত্পাদন হ্যাঙ্গারে অংশ এবং সরঞ্জামগুলি সনাক্ত এবং ট্র্যাক করতে চায়। উত্পাদনশীলতা উন্নত করার জন্য, উত্পাদনের প্রতিটি পর্যায়ে প্রকৌশলীদের জন্য সমস্ত প্রয়োজনীয় অংশ এবং সঠিক সরঞ্জাম উপলব্ধ থাকতে হবে। আমরা এই ধরনের প্রশ্নের উত্তর দিতে সক্ষম হতে চাই: অংশ A কোথায়? বা টুল বি কোথায়? আমাদের ইতিমধ্যে একাধিক আইপি ক্যামেরা ইনস্টল করা আছে এবং একটি স্থানীয় নেটওয়ার্কের সাথে সংযুক্ত রয়েছে৷ ক্যামেরা পুরো হ্যাঙ্গারকে কভার করে এবং নেটওয়ার্কের মাধ্যমে রিয়েল-টাইম এইচডি ভিডিও স্ট্রিম করতে পারে।

AWS প্যানোরামা এই ক্ষেত্রে সুন্দরভাবে ফিট করে। AWS প্যানোরামা একটি ML অ্যাপ্লায়েন্স এবং পরিচালিত পরিষেবা প্রদান করে যা আপনাকে আপনার বিদ্যমান আইপি ক্যামেরার বহরে কম্পিউটার ভিশন (সিভি) যোগ করতে এবং স্বয়ংক্রিয় করতে সক্ষম করে। AWS প্যানোরামা আপনাকে আপনার বিদ্যমান ইন্টারনেট প্রোটোকল (IP) ক্যামেরাগুলিতে CV যোগ করার এবং ঐতিহ্যগতভাবে মানুষের পরিদর্শন এবং পর্যবেক্ষণের প্রয়োজন এমন কাজগুলি স্বয়ংক্রিয় করার ক্ষমতা দেয়।

নিম্নলিখিত রেফারেন্স আর্কিটেকচারে, আমরা একটি AWS প্যানোরামা অ্যাপ্লায়েন্সে চলমান অ্যাপ্লিকেশনের প্রধান উপাদানগুলি দেখাই৷ প্যানোরামা অ্যাপ্লিকেশন SDK ক্যামেরা স্ট্রীম থেকে ভিডিও ক্যাপচার করা, একাধিক ML মডেলের একটি পাইপলাইনের সাহায্যে অনুমান করা এবং একটি পাত্রে চলমান পাইথন কোড ব্যবহার করে ফলাফলগুলি প্রক্রিয়া করা সহজ করে তোলে। আপনি যেকোন জনপ্রিয় ML লাইব্রেরি যেমন TensorFlow, PyTorch, বা TensorRT থেকে মডেল চালাতে পারেন। মডেলের ফলাফলগুলি আপনার স্থানীয় এলাকা নেটওয়ার্কের ব্যবসায়িক সিস্টেমের সাথে একত্রিত করা যেতে পারে, যা আপনাকে রিয়েল টাইমে ইভেন্টগুলিতে প্রতিক্রিয়া জানাতে দেয়।

সমাধান নিম্নলিখিত পদক্ষেপ নিয়ে গঠিত:

1. একই স্থানীয় নেটওয়ার্কে একটি AWS প্যানোরামা ডিভাইস সংযুক্ত করুন এবং কনফিগার করুন৷
2. প্রতিটি ফ্রেমের অংশ এবং সরঞ্জাম সনাক্ত করতে একটি এমএল মডেল (বস্তু সনাক্তকরণ) প্রশিক্ষণ দিন।
3. একটি AWS প্যানোরামা অ্যাপ্লিকেশন তৈরি করুন যা ML মডেল থেকে ভবিষ্যদ্বাণী পায়, প্রতিটি বস্তুতে একটি ট্র্যাকিং প্রক্রিয়া প্রয়োগ করে এবং ফলাফলগুলি একটি রিয়েল-টাইম ডাটাবেসে পাঠায়৷
4. অপারেটররা অংশ এবং সরঞ্জামগুলি সনাক্ত করতে ডাটাবেসে প্রশ্ন পাঠাতে পারে।

কেস 2 ব্যবহার করুন

আমাদের পরবর্তী ব্যবহারের ক্ষেত্রে, কল্পনা করুন যে আমরা অনেক পরিস্থিতিতে চালককে সমর্থন করতে সক্ষম যানবাহনের জন্য একটি ড্যাশক্যাম তৈরি করছি, যেমন পথচারীদের এড়ানো, আমবারাল্লা থেকে CV25 বোর্ড. সীমিত সিস্টেম সংস্থান সহ একটি ডিভাইসে ML মডেল হোস্ট করা কঠিন হতে পারে। এই ক্ষেত্রে, ধরুন আমরা ইতিমধ্যেই একটি সু-প্রতিষ্ঠিত ওভার-দ্য-এয়ার (OTA) ডেলিভারি মেকানিজম রয়েছে যাতে এজ ডিভাইসে প্রয়োজনীয় অ্যাপ্লিকেশান উপাদানগুলি স্থাপন করা যায়। যাইহোক, আমরা এখনও মডেলের ওটিএ স্থাপনার ক্ষমতা থেকে উপকৃত হব, যার ফলে অ্যাপ্লিকেশন লাইফসাইকেল এবং মডেল লাইফসাইকেল বিচ্ছিন্ন হয়ে যাবে।

আমাজন সেজমেকার এজ ম্যানেজার এবং অ্যামাজন সেজমেকার নিও এই ব্যবহারের ক্ষেত্রে ভাল ফিট.

এজ ম্যানেজার এমএল এজ ডেভেলপারদের জন্য ক্লাউডে বা এজ ডিভাইসে একই পরিচিত টুল ব্যবহার করা সহজ করে তোলে। এটি আপনাকে আপনার ডিভাইসের ফ্লিট জুড়ে মডেলের গুণমানকে ক্রমাগত নিরীক্ষণ এবং উন্নত করার অনুমতি দিয়ে, উত্পাদনে মডেলগুলি পেতে প্রয়োজনীয় সময় এবং প্রচেষ্টাকে হ্রাস করে৷ SageMaker Edge-এ একটি OTA ডিপ্লয়মেন্ট মেকানিজম রয়েছে যা আপনাকে অ্যাপ্লিকেশন বা ডিভাইস ফার্মওয়্যার থেকে স্বাধীন ফ্লিটে মডেল স্থাপন করতে সাহায্য করে। দ্য এজ ম্যানেজার এজেন্ট আপনাকে একই ডিভাইসে একাধিক মডেল চালানোর অনুমতি দেয়। এজেন্ট আপনার নিয়ন্ত্রণ করা যুক্তির উপর ভিত্তি করে ভবিষ্যদ্বাণী ডেটা সংগ্রহ করে, যেমন বিরতি, এবং এটি ক্লাউডে আপলোড করে যাতে আপনি সময়ের সাথে সাথে আপনার মডেলগুলিকে পর্যায়ক্রমে পুনরায় প্রশিক্ষণ দিতে পারেন। সেজমেকার এজ ক্রিপ্টোগ্রাফিকভাবে আপনার মডেলগুলিতে স্বাক্ষর করে যাতে আপনি যাচাই করতে পারেন যে এটি ক্লাউড থেকে এজ ডিভাইসে যাওয়ার সাথে সাথে এটির সাথে টেম্পার করা হয়নি।

নিও একটি পরিষেবা হিসাবে একটি কম্পাইলার এবং এই ব্যবহারের ক্ষেত্রে বিশেষভাবে উপযুক্ত। নিও স্বয়ংক্রিয়ভাবে ক্লাউড ইন্সট্যান্স এবং এজ ডিভাইসে নির্ভুলতার কোনো ক্ষতি ছাড়াই দ্রুত চালানোর জন্য এমএল মডেলগুলিকে অপ্টিমাইজ করে। আপনি একটি এমএল মডেল দিয়ে শুরু করুন যার একটি দিয়ে তৈরি সমর্থিত কাঠামো এবং সেজমেকার বা অন্য কোথাও প্রশিক্ষিত। তারপর আপনি আপনার লক্ষ্য হার্ডওয়্যার প্ল্যাটফর্ম চয়ন করুন, (এর তালিকা পড়ুন সমর্থিত ডিভাইসের) একটি মাত্র ক্লিকের মাধ্যমে, নিও প্রশিক্ষিত মডেলটিকে অপ্টিমাইজ করে এবং এটিকে একটি প্যাকেজে কম্পাইল করে যা লাইটওয়েট সেজমেকার এজ রানটাইম ব্যবহার করে চালানো যেতে পারে। কম্পাইলার পারফরম্যান্স অপ্টিমাইজেশান প্রয়োগ করতে একটি ML মডেল ব্যবহার করে যা ক্লাউড ইনস্ট্যান্স বা প্রান্ত ডিভাইসে আপনার মডেলের জন্য সেরা উপলব্ধ কর্মক্ষমতা বের করে। তারপরে আপনি মডেলটিকে সেজমেকার এন্ডপয়েন্ট হিসাবে বা সমর্থিত প্রান্ত ডিভাইসগুলিতে স্থাপন করুন এবং ভবিষ্যদ্বাণী করা শুরু করুন।

নিম্নলিখিত চিত্রটি এই স্থাপত্যের চিত্র তুলে ধরেছে।

সমাধান কর্মপ্রবাহ নিম্নলিখিত পদক্ষেপ নিয়ে গঠিত:

1. ডেভেলপার চূড়ান্ত মডেল আর্টিফ্যাক্ট তৈরি করে, ট্রেনিং করে, যাচাই করে এবং তৈরি করে যা ড্যাশক্যামে স্থাপন করা প্রয়োজন।
2. প্রশিক্ষিত মডেল কম্পাইল করতে নিওকে আহ্বান করুন।
3. সেজমেকার এজ এজেন্ট এজ ডিভাইসে ইনস্টল এবং কনফিগার করা হয়েছে, এই ক্ষেত্রে ড্যাশক্যাম।
4. একটি স্বাক্ষরিত মডেলের সাথে একটি স্থাপনার প্যাকেজ তৈরি করুন এবং সেজমেকার এজ এজেন্ট দ্বারা অপ্টিমাইজ করা মডেলটি লোড করার জন্য ব্যবহৃত রানটাইম।
5. বিদ্যমান OTA ডিপ্লয়মেন্ট মেকানিজম ব্যবহার করে প্যাকেজ স্থাপন করুন।
6. এজ অ্যাপ্লিকেশনটি অনুমান করতে সেজমেকার এজ এজেন্টের সাথে যোগাযোগ করে।
7. মডেল পর্যবেক্ষণ এবং পরিমার্জন উদ্দেশ্যে অ্যাপ্লিকেশন থেকে রিয়েল-টাইম নমুনা ইনপুট ডেটা পাঠাতে এজেন্টকে কনফিগার করা যেতে পারে (যদি প্রয়োজন হয়)।

কেস 3 ব্যবহার করুন

ধরুন আপনার গ্রাহক এমন একটি অ্যাপ্লিকেশন তৈরি করছেন যা একটি উইন্ড টারবাইনের (যেমন গিয়ারবক্স, জেনারেটর বা রটার) এর প্রক্রিয়াগুলিতে অসামঞ্জস্যতা সনাক্ত করে৷ লক্ষ্য হল ফ্লাইতে স্থানীয় সুরক্ষা পদ্ধতি চালানোর মাধ্যমে সরঞ্জামের ক্ষতি কমানো। এই টারবাইনগুলি খুব ব্যয়বহুল এবং এমন জায়গায় অবস্থিত যা সহজে অ্যাক্সেসযোগ্য নয়। টারবাইন থেকে সেন্সর ডেটা নিরীক্ষণের জন্য প্রতিটি টারবাইনকে একটি NVIDIA জেটসন ডিভাইস দিয়ে সাজানো যেতে পারে। তারপরে ডেটা ক্যাপচার করার জন্য আমাদের একটি সমাধান দরকার এবং অসঙ্গতিগুলি সনাক্ত করতে একটি ML অ্যালগরিদম ব্যবহার করতে হবে। ডিভাইসে সফ্টওয়্যার এবং ML মডেলগুলিকে আপ টু ডেট রাখার জন্য আমাদের একটি OTA প্রক্রিয়ারও প্রয়োজন৷

AWS IoT গ্রীনগ্রাস V2 এজ ম্যানেজারের সাথে এই ব্যবহারের ক্ষেত্রে ভাল ফিট। AWS IoT Greengrass হল একটি ওপেন-সোর্স IoT প্রান্ত রানটাইম এবং ক্লাউড পরিষেবা যা আপনাকে আপনার ডিভাইসে IoT অ্যাপ্লিকেশন তৈরি, স্থাপন এবং পরিচালনা করতে সহায়তা করে। আপনি পূর্ব-নির্মিত সফ্টওয়্যার মডিউল ব্যবহার করে প্রান্ত অ্যাপ্লিকেশন তৈরি করতে AWS IoT Greengrass ব্যবহার করতে পারেন, যাকে বলা হয় উপাদান, যা আপনার প্রান্ত ডিভাইসগুলিকে AWS পরিষেবা বা তৃতীয় পক্ষের পরিষেবাগুলির সাথে সংযুক্ত করতে পারে৷ AWS IoT Greengrass-এর এই ক্ষমতাটি SageMaker Edge এজেন্ট সহ ডিভাইসগুলিতে সম্পদ স্থাপন করা সহজ করে তোলে। এডব্লিউএস আইওটি গ্রীনগ্রাস অ্যাপ্লিকেশন লাইফসাইকেল পরিচালনার জন্য দায়ী, যখন এজ ম্যানেজার এমএল মডেল লাইফসাইকেলকে ডিকপল করে। এটি আপনাকে এজ অ্যাপ্লিকেশনের নতুন সংস্করণ এবং এমএল মডেলগুলিকে স্বাধীনভাবে মোতায়েন করে সম্পূর্ণ সমাধানটি বিকশিত করতে নমনীয়তা দেয়। নিচের চিত্রটি এই স্থাপত্যকে তুলে ধরে।

সমাধান নিম্নলিখিত পদক্ষেপ নিয়ে গঠিত:

1. বিকাশকারী চূড়ান্ত মডেল আর্টিফ্যাক্ট তৈরি করে, ট্রেনিং করে, যাচাই করে এবং তৈরি করে যা উইন্ড টারবাইনে স্থাপন করা প্রয়োজন।
2. প্রশিক্ষিত মডেল কম্পাইল করতে নিওকে আহ্বান করুন।
3. AWS IoT Greengrass V2 ইন্টিগ্রেশন সহ এজ ম্যানেজার ব্যবহার করে একটি মডেল উপাদান তৈরি করুন।
4. AWS IoT Greengrass V2 সেট আপ করুন।
5. AWS IoT Greengrass V2 ব্যবহার করে একটি অনুমান উপাদান তৈরি করুন।
6. এজ অ্যাপ্লিকেশনটি অনুমান করতে সেজমেকার এজ এজেন্টের সাথে যোগাযোগ করে।
7. মডেল পর্যবেক্ষণ এবং পরিমার্জন উদ্দেশ্যে অ্যাপ্লিকেশন থেকে রিয়েল-টাইম নমুনা ইনপুট ডেটা পাঠাতে এজেন্টকে কনফিগার করা যেতে পারে (যদি প্রয়োজন হয়)।

কেস 4 ব্যবহার করুন

আমাদের চূড়ান্ত ব্যবহারের ক্ষেত্রে, আসুন একটি জাহাজ পরিবহনকারী পাত্রের দিকে তাকাই, যেখানে প্রতিটি পাত্রে কয়েকটি সেন্সর থাকে এবং স্থানীয়ভাবে স্থাপন করা গণনা এবং স্টোরেজ পরিকাঠামোর জন্য একটি সংকেত প্রবাহিত করে। চ্যালেঞ্জ হল যে আমরা প্রতিটি পাত্রের বিষয়বস্তু এবং প্রতিটি পাত্রের ভিতরের তাপমাত্রা, আর্দ্রতা এবং গ্যাসের উপর ভিত্তি করে পণ্যের অবস্থা জানতে চাই। আমরা প্রতিটি পাত্রে সমস্ত পণ্য ট্র্যাক করতে চাই। সমুদ্রযাত্রা জুড়ে কোনো ইন্টারনেট সংযোগ নেই, এবং সমুদ্রযাত্রায় কয়েক মাস সময় লাগতে পারে। এই অবকাঠামোতে চলমান এমএল মডেলগুলিকে আমাদের সমস্ত প্রশ্নের উত্তর দেওয়ার জন্য ডেটা প্রিপ্রসেস করা উচিত এবং তথ্য তৈরি করা উচিত। উৎপন্ন ডেটা স্থানীয়ভাবে কয়েক মাস ধরে সংরক্ষণ করতে হবে। প্রান্ত অ্যাপ্লিকেশন একটি স্থানীয় ডাটাবেসে সমস্ত অনুমান সংরক্ষণ করে এবং তারপর জাহাজটি বন্দরের কাছে গেলে ফলাফলগুলিকে ক্লাউডের সাথে সিঙ্ক্রোনাইজ করে।

AWS স্নোকোন এবং AWS স্নোবল থেকে AWS স্নো পরিবার এই ব্যবহারের ক্ষেত্রে খুব ভাল ফিট হতে পারে.

AWS Snowcone হল একটি ছোট, রুগ্ন, এবং সুরক্ষিত প্রান্ত কম্পিউটিং এবং ডেটা মাইগ্রেশন ডিভাইস। স্নোকোন এক-ব্যক্তি উত্তোলনযোগ্য ডিভাইসের জন্য OSHA স্ট্যান্ডার্ডে ডিজাইন করা হয়েছে। Snowcone ব্যবহার করে প্রান্ত ওয়ার্কলোড চালাতে আপনাকে সক্ষম করে অ্যামাজন ইলাস্টিক কম্পিউট ক্লাউড (Amazon EC2) কম্পিউটিং, এবং কঠোর, সংযোগ বিচ্ছিন্ন ক্ষেত্রের পরিবেশে স্থানীয় স্টোরেজ যেমন তেল রিগ, অনুসন্ধান এবং উদ্ধারকারী যান, সামরিক সাইট, বা কারখানার মেঝে, সেইসাথে দূরবর্তী অফিস, হাসপাতাল এবং সিনেমা থিয়েটার।

স্নোকোনের তুলনায় স্নোবল আরও কম্পিউটিং যোগ করে এবং তাই আরও বেশি চাহিদাপূর্ণ অ্যাপ্লিকেশনের জন্য উপযুক্ত হতে পারে। কম্পিউট অপ্টিমাইজড বৈশিষ্ট্যটি সংযোগ বিচ্ছিন্ন পরিবেশে একটি অ্যাপ্লিকেশনের কর্মক্ষমতা ত্বরান্বিত করতে EC100 দৃষ্টান্ত সহ একটি ঐচ্ছিক NVIDIA Tesla V2 GPU প্রদান করে। GPU বিকল্পের সাহায্যে, আপনি অল্প বা কোনো সংযোগহীন পরিবেশে উন্নত ML এবং ফুল মোশন ভিডিও বিশ্লেষণের মতো অ্যাপ্লিকেশন চালাতে পারেন।

EC2 দৃষ্টান্তের উপরে, আপনার কাছে যেকোনো ধরনের প্রান্ত সমাধান তৈরি এবং স্থাপন করার স্বাধীনতা রয়েছে। উদাহরণস্বরূপ: আপনি ব্যবহার করতে পারেন আমাজন ইসিএস বা অন্য কন্টেইনার ম্যানেজার এজ অ্যাপ্লিকেশন, এজ ম্যানেজার এজেন্ট এবং এমএল মডেলকে পৃথক কন্টেইনার হিসেবে স্থাপন করতে। এই আর্কিটেকচারটি একটি কন্টেইনার ম্যানেজার টুল যোগ করার সাথে ইউজ কেস 2 (এটি বেশিরভাগ সময় অফলাইনে কাজ করবে বাদে) অনুরূপ হবে।

নিম্নলিখিত চিত্রটি এই সমাধানের আর্কিটেকচারকে চিত্রিত করে।

এই সমাধানটি বাস্তবায়ন করতে, শুধুমাত্র থেকে আপনার স্নো ডিভাইস অর্ডার করুন এডাব্লুএস ম্যানেজমেন্ট কনসোল এবং আপনার সম্পদ চালু করুন।

উপসংহার

এই পোস্টে, আমরা প্রান্তের বিভিন্ন দিক নিয়ে আলোচনা করেছি যা আপনি আপনার ব্যবহারের ক্ষেত্রের উপর ভিত্তি করে কাজ করতে বেছে নিতে পারেন। এছাড়াও আমরা ML@Edge-এর আশেপাশের কিছু মূল ধারণা নিয়ে আলোচনা করেছি এবং কীভাবে অ্যাপ্লিকেশন লাইফসাইকেল এবং ML মডেল লাইফসাইকেলকে ডিকপলিং করে আপনাকে একে অপরের উপর কোনো নির্ভরতা ছাড়াই সেগুলিকে বিকশিত করার স্বাধীনতা দেয়। আমরা জোর দিয়েছি কিভাবে আপনার কাজের চাপের জন্য সঠিক প্রান্তের ডিভাইস নির্বাচন করা এবং সমাধান প্রক্রিয়া চলাকালীন সঠিক প্রশ্ন জিজ্ঞাসা করা আপনাকে পিছনের দিকে কাজ করতে এবং সঠিক AWS পরিষেবাগুলিকে সংকুচিত করতে সাহায্য করতে পারে। আমরা রেফারেন্স আর্কিটেকচার সহ বিভিন্ন ব্যবহারের ক্ষেত্রেও উপস্থাপন করেছি যাতে আপনি আপনার নিজস্ব সমাধান তৈরি করতে অনুপ্রাণিত হন যা আপনার কাজের চাপের জন্য কাজ করবে।

---

লেখক সম্পর্কে

দীনেশ কুমার সুব্রামণি স্কটল্যান্ডের এডিনবার্গে অবস্থিত ইউকেআইআর এসএমবি দলের একজন সিনিয়র সলিউশন আর্কিটেক্ট। তিনি কৃত্রিম বুদ্ধিমত্তা এবং মেশিন লার্নিংয়ে বিশেষজ্ঞ। AWS পরিষেবাগুলির সাথে তাদের সমস্যাগুলি সমাধান করতে দীনেশ সমস্ত শিল্পের গ্রাহকদের সাথে কাজ করা উপভোগ করেন৷ কাজের বাইরে, তিনি তার পরিবারের সাথে সময় কাটাতে, দাবা খেলতে এবং জেনার জুড়ে সঙ্গীত উপভোগ করতে পছন্দ করেন।

সমীর আরাজ্জো এডাব্লুএসে একটি এআই / এমএল সলিউশন আর্কিটেক্ট। তিনি এআই / এমএল সমাধান তৈরি করতে গ্রাহকদের সহায়তা করেন যা এডাব্লুএস ব্যবহার করে তাদের ব্যবসায়ের চ্যালেঞ্জগুলি সমাধান করে। তিনি কম্পিউটার ভিশন, প্রাকৃতিক ভাষা প্রক্রিয়াজাতকরণ, পূর্বাভাস, এমএল প্রান্তে এবং আরও অনেকগুলি সম্পর্কিত বেশ কয়েকটি এআই / এমএল প্রকল্পগুলিতে কাজ করছেন। তিনি তার ফ্রি সময়ে হার্ডওয়্যার এবং অটোমেশন প্রকল্পগুলির সাথে খেলতে পছন্দ করেন এবং রোবোটিকের প্রতি তাঁর বিশেষ আগ্রহ রয়েছে।

• Coinsmart. ইউরোপের সেরা বিটকয়েন এবং ক্রিপ্টো এক্সচেঞ্জ।
• প্লেটোব্লকচেন। Web3 মেটাভার্স ইন্টেলিজেন্স। জ্ঞান প্রসারিত. বিনামূল্যে এক্সেস.
• ক্রিপ্টোহক। Altcoin রাডার। বিনামূল্যে ট্রায়াল.
• সূত্র: https://aws.amazon.com/blogs/machine-learning/demystifying-machine-learning-at-the-edge-through-real-use-cases/