জেনারেটিভ এআই-এর আবির্ভাবের সাথে, আজকের ফাউন্ডেশন মডেল (এফএম), যেমন বৃহৎ ভাষার মডেল (এলএলএম) ক্লাউড 2 এবং লামা 2, টেক্সট ডেটাতে প্রশ্ন উত্তর, সংক্ষিপ্তকরণ এবং বিষয়বস্তু তৈরির মতো অনেকগুলি উত্পাদনমূলক কাজ সম্পাদন করতে পারে। যাইহোক, বাস্তব-বিশ্বের ডেটা একাধিক পদ্ধতিতে বিদ্যমান, যেমন পাঠ্য, চিত্র, ভিডিও এবং অডিও। উদাহরণস্বরূপ, একটি পাওয়ারপয়েন্ট স্লাইড ডেক নিন। এটি পাঠ্য আকারে তথ্য ধারণ করতে পারে, বা গ্রাফ, টেবিল এবং ছবিগুলিতে এম্বেড করা থাকতে পারে।
এই পোস্টে, আমরা একটি সমাধান উপস্থাপন করি যা মাল্টিমডাল এফএম ব্যবহার করে যেমন আমাজন টাইটান মাল্টিমোডাল এমবেডিংস মডেল এবং LLaVA 1.5 এবং AWS পরিষেবা সহ আমাজন বেডরক এবং আমাজন সেজমেকার মাল্টিমোডাল ডেটাতে অনুরূপ উত্পাদনশীল কাজগুলি সম্পাদন করতে।
সমাধান ওভারভিউ
সমাধানটি একটি স্লাইড ডেকের পাঠ্য এবং ভিজ্যুয়াল উপাদানে থাকা তথ্য ব্যবহার করে প্রশ্নের উত্তর দেওয়ার জন্য একটি বাস্তবায়ন প্রদান করে। ডিজাইনটি রিট্রিভাল অগমেন্টেড জেনারেশন (RAG) ধারণার উপর নির্ভর করে। ঐতিহ্যগতভাবে, RAG টেক্সচুয়াল ডেটার সাথে যুক্ত করা হয়েছে যা এলএলএম দ্বারা প্রক্রিয়া করা যেতে পারে। এই পোস্টে, আমরা ছবিগুলিও অন্তর্ভুক্ত করতে RAG প্রসারিত করি। এটি পাঠ্যের সাথে টেবিল এবং গ্রাফের মতো ভিজ্যুয়াল উপাদানগুলি থেকে প্রাসঙ্গিকভাবে প্রাসঙ্গিক বিষয়বস্তু বের করার জন্য একটি শক্তিশালী অনুসন্ধান ক্ষমতা প্রদান করে।
একটি RAG সমাধান ডিজাইন করার বিভিন্ন উপায় রয়েছে যাতে ছবিগুলি অন্তর্ভুক্ত থাকে। আমরা এখানে একটি পদ্ধতি উপস্থাপন করেছি এবং এই তিন পর্বের সিরিজের দ্বিতীয় পোস্টে একটি বিকল্প পদ্ধতির সাথে অনুসরণ করব।
এই সমাধান নিম্নলিখিত উপাদান অন্তর্ভুক্ত:
- অ্যামাজন টাইটান মাল্টিমোডাল এমবেডিং মডেল – এই FM এই পোস্টে ব্যবহৃত স্লাইড ডেকের বিষয়বস্তুর জন্য এম্বেডিং তৈরি করতে ব্যবহৃত হয়। একটি মাল্টিমোডাল মডেল হিসাবে, এই টাইটান মডেলটি ইনপুট হিসাবে পাঠ্য, ছবি বা একটি সংমিশ্রণ প্রক্রিয়া করতে পারে এবং এম্বেডিং তৈরি করতে পারে। টাইটান মাল্টিমোডাল এমবেডিংস মডেলটি 1,024 মাত্রার ভেক্টর (এম্বেডিং) তৈরি করে এবং অ্যামাজন বেডরকের মাধ্যমে অ্যাক্সেস করা হয়।
- বড় ভাষা এবং দৃষ্টি সহকারী (LLaVA) – LLaVA হল ভিজ্যুয়াল এবং ভাষা বোঝার জন্য একটি ওপেন সোর্স মাল্টিমোডাল মডেল এবং স্লাইডের ডেটা ব্যাখ্যা করতে ব্যবহৃত হয়, যার মধ্যে ভিজ্যুয়াল উপাদান যেমন গ্রাফ এবং টেবিল। আমরা 7 বিলিয়ন প্যারামিটার সংস্করণ ব্যবহার করি LLaVA 1.5-7 খ এই সমাধানে।
- আমাজন সেজমেকার - LLaVA মডেলটি SageMaker হোস্টিং পরিষেবাগুলি ব্যবহার করে একটি SageMaker এন্ডপয়েন্টে স্থাপন করা হয়েছে, এবং আমরা LLaVA মডেলের বিরুদ্ধে অনুমান চালানোর জন্য ফলাফলের শেষ পয়েন্ট ব্যবহার করি৷ আমরা সেজমেকার নোটবুকগুলিও ব্যবহার করি অর্কেস্ট্রেট করতে এবং এই সমাধানটি শেষ পর্যন্ত প্রদর্শন করতে।
- অ্যামাজন ওপেনসার্চ সার্ভারহীন - OpenSearch Serverless হল একটি অন-ডিমান্ড সার্ভারহীন কনফিগারেশন আমাজন ওপেন সার্চ সার্ভিস. আমরা টাইটান মাল্টিমোডাল এমবেডিং মডেল দ্বারা তৈরি এমবেডিংগুলি সংরক্ষণ করার জন্য একটি ভেক্টর ডাটাবেস হিসাবে OpenSearch Serverless ব্যবহার করি৷ OpenSearch Serverless সংগ্রহে তৈরি একটি সূচক আমাদের RAG সমাধানের ভেক্টর স্টোর হিসেবে কাজ করে।
- Amazon OpenSearch Ingestion (OSI) – OSI হল একটি সম্পূর্ণরূপে পরিচালিত, সার্ভারহীন ডেটা সংগ্রাহক যেটি OpenSearch Service ডোমেন এবং OpenSearch Serverless সংগ্রহগুলিতে ডেটা সরবরাহ করে৷ এই পোস্টে, আমরা OpenSearch Serverless ভেক্টর স্টোরে ডেটা সরবরাহ করতে একটি OSI পাইপলাইন ব্যবহার করি।
সমাধান আর্কিটেকচার
সমাধান নকশা দুটি অংশ নিয়ে গঠিত: ইনজেশন এবং ব্যবহারকারীর মিথস্ক্রিয়া। ইনজেশনের সময়, আমরা প্রতিটি স্লাইডকে একটি ছবিতে রূপান্তর করে ইনপুট স্লাইড ডেক প্রক্রিয়া করি, এই চিত্রগুলির জন্য এমবেডিং তৈরি করি, এবং তারপর ভেক্টর ডেটা স্টোরটি পূরণ করি। এই পদক্ষেপগুলি ব্যবহারকারীর ইন্টারঅ্যাকশন পদক্ষেপের আগে সম্পন্ন হয়।
ব্যবহারকারীর ইন্টারঅ্যাকশন পর্বে, ব্যবহারকারীর একটি প্রশ্ন এম্বেডিং-এ রূপান্তরিত হয় এবং ভেক্টর ডাটাবেসে একটি সাদৃশ্য অনুসন্ধান চালানো হয় যাতে একটি স্লাইড খুঁজে বের করা হয় যাতে ব্যবহারকারীর প্রশ্নের সম্ভাব্য উত্তর থাকতে পারে। তারপরে আমরা এই স্লাইডটি (একটি চিত্র ফাইলের আকারে) LLaVA মডেলে এবং ব্যবহারকারীর প্রশ্নের উত্তর তৈরি করার প্রম্পট হিসাবে সরবরাহ করি। এই পোস্টের জন্য সমস্ত কোড পাওয়া যায় GitHub রেপো
নিম্নলিখিত চিত্রটি ইনজেশন আর্কিটেকচারকে চিত্রিত করে।
কর্মপ্রবাহের ধাপগুলি নিম্নরূপ:
- স্লাইডগুলিকে JPG ফরম্যাটে ইমেজ ফাইলে (প্রতি স্লাইডে একটি) রূপান্তরিত করা হয় এবং এমবেডিং তৈরি করতে টাইটান মাল্টিমোডাল এমবেডিং মডেলে পাঠানো হয়। এই পোস্টে, আমরা শিরোনাম স্লাইড ডেক ব্যবহার AWS Trainium এবং AWS Inferentia ব্যবহার করে স্থিতিশীল ডিফিউশনকে প্রশিক্ষণ দিন এবং স্থাপন করুন টরন্টোতে AWS সামিট থেকে, জুন 2023, সমাধানটি প্রদর্শন করতে। নমুনা ডেকে 31টি স্লাইড আছে, তাই আমরা ভেক্টর এমবেডিংয়ের 31 সেট তৈরি করি, প্রতিটি 1,024 মাত্রা সহ। আমরা এই উৎপন্ন ভেক্টর এম্বেডিংগুলিতে অতিরিক্ত মেটাডেটা ক্ষেত্র যোগ করি এবং একটি JSON ফাইল তৈরি করি। এই অতিরিক্ত মেটাডেটা ক্ষেত্রগুলি OpenSearch-এর শক্তিশালী অনুসন্ধান ক্ষমতা ব্যবহার করে সমৃদ্ধ অনুসন্ধান প্রশ্নগুলি সম্পাদন করতে ব্যবহার করা যেতে পারে।
- জেনারেট করা এমবেডিংগুলিকে আপলোড করা একটি একক JSON ফাইলে একসাথে রাখা হয়৷ আমাজন সিম্পল স্টোরেজ সার্ভিস (Amazon S3)।
- মাধ্যমে অ্যামাজন এস 3 ইভেন্টের বিজ্ঞপ্তি, একটি ঘটনা একটি করা হয় অ্যামাজন সরল সারি পরিষেবা (Amazon SQS) সারি।
- SQS সারিতে থাকা এই ইভেন্টটি OSI পাইপলাইন চালানোর জন্য একটি ট্রিগার হিসেবে কাজ করে, যার ফলে ওপেনসার্চ সার্ভারলেস ইনডেক্সে ডকুমেন্ট হিসেবে ডেটা (JSON ফাইল) অন্তর্ভুক্ত হয়। মনে রাখবেন যে OpenSearch Serverless সূচকটি এই পাইপলাইনের জন্য সিঙ্ক হিসাবে কনফিগার করা হয়েছে এবং OpenSearch Serverless সংগ্রহের অংশ হিসাবে তৈরি করা হয়েছে।
নিম্নলিখিত চিত্রটি ব্যবহারকারীর ইন্টারঅ্যাকশন আর্কিটেকচারকে চিত্রিত করে।
কর্মপ্রবাহের ধাপগুলি নিম্নরূপ:
- একজন ব্যবহারকারী স্লাইড ডেকের সাথে সম্পর্কিত একটি প্রশ্ন জমা দেন যা গ্রহণ করা হয়েছে।
- অ্যামাজন বেডরকের মাধ্যমে অ্যাক্সেস করা টাইটান মাল্টিমোডাল এমবেডিং মডেল ব্যবহার করে ব্যবহারকারীর ইনপুট এম্বেডিং-এ রূপান্তরিত হয়। একটি OpenSearch ভেক্টর অনুসন্ধান এই এমবেডিং ব্যবহার করে সঞ্চালিত হয়. ব্যবহারকারীর প্রশ্নের সাথে মিলে যাওয়া সবচেয়ে প্রাসঙ্গিক এম্বেডিং পুনরুদ্ধার করতে আমরা একটি k- নিকটতম প্রতিবেশী (k=1) অনুসন্ধান করি। k=1 সেট করা ব্যবহারকারীর প্রশ্নের জন্য সবচেয়ে প্রাসঙ্গিক স্লাইড পুনরুদ্ধার করে।
- OpenSearch Serverless থেকে প্রতিক্রিয়ার মেটাডেটা সবচেয়ে প্রাসঙ্গিক স্লাইডের সাথে সম্পর্কিত চিত্রের একটি পথ ধারণ করে।
- ব্যবহারকারীর প্রশ্ন এবং চিত্রের পথকে একত্রিত করে একটি প্রম্পট তৈরি করা হয় এবং সেজমেকারে হোস্ট করা LLaVA-কে প্রদান করা হয়। LLaVA মডেলটি ব্যবহারকারীর প্রশ্ন বুঝতে এবং চিত্রের ডেটা পরীক্ষা করে উত্তর দিতে সক্ষম।
- এই অনুমানের ফলাফল ব্যবহারকারীকে ফেরত দেওয়া হয়।
এই পদক্ষেপগুলি নিম্নলিখিত বিভাগে বিশদভাবে আলোচনা করা হয়েছে। দেখুন ফলাফল আউটপুটে স্ক্রিনশট এবং বিশদ বিবরণের জন্য বিভাগ।
পূর্বশর্ত
এই পোস্টে দেওয়া সমাধান বাস্তবায়ন করতে, আপনার একটি থাকা উচিত এডাব্লুএস অ্যাকাউন্ট এবং FM, Amazon Bedrock, SageMaker, এবং OpenSearch পরিষেবার সাথে পরিচিতি।
এই সমাধানটি টাইটান মাল্টিমোডাল এমবেডিং মডেল ব্যবহার করে। নিশ্চিত করুন যে এই মডেলটি অ্যামাজন বেডরকে ব্যবহারের জন্য সক্ষম করা হয়েছে৷ অ্যামাজন বেডরক কনসোলে, বেছে নিন মডেল অ্যাক্সেস নেভিগেশন ফলকে। যদি টাইটান মাল্টিমোডাল এম্বেডিং সক্ষম করা থাকে, তবে অ্যাক্সেসের স্থিতি থাকবে অ্যাক্সেস মঞ্জুর.
যদি মডেলটি উপলব্ধ না হয়, নির্বাচন করে মডেলটিতে অ্যাক্সেস সক্ষম করুন৷ মডেল অ্যাক্সেস পরিচালনা করুন, নির্বাচন টাইটান মাল্টিমোডাল এম্বেডিংস জি 1, এবং নির্বাচন করা মডেল অ্যাক্সেস অনুরোধ. মডেল অবিলম্বে ব্যবহারের জন্য সক্ষম করা হয়.
সমাধান স্ট্যাক তৈরি করতে একটি AWS CloudFormation টেমপ্লেট ব্যবহার করুন
নিচের যেকোনো একটি ব্যবহার করুন এডাব্লুএস ক্লাউডফর্মেশন সমাধান সংস্থান চালু করতে টেমপ্লেট (আপনার অঞ্চলের উপর নির্ভর করে)।
AWS অঞ্চল | লিংক |
---|---|
us-east-1 |
|
us-west-2 |
স্ট্যাকটি সফলভাবে তৈরি হওয়ার পরে, স্ট্যাকের দিকে নেভিগেট করুন আউটপুট AWS CloudFormation কনসোলে ট্যাব করুন এবং এর জন্য মানটি নোট করুন MultimodalCollectionEndpoint
, যা আমরা পরবর্তী ধাপে ব্যবহার করি।
CloudFormation টেমপ্লেট নিম্নলিখিত সংস্থান তৈরি করে:
- IAM ভূমিকা - অনুসরণ এডাব্লুএস আইডেন্টিটি এবং অ্যাক্সেস ম্যানেজমেন্ট (IAM) ভূমিকা তৈরি করা হয়। আবেদন করতে এই ভূমিকা আপডেট করুন সর্বনিম্ন বিশেষাধিকার অনুমতি.
SMExecutionRole
Amazon S3, SageMaker, OpenSearch Service, এবং Bedrock পূর্ণ অ্যাক্সেস সহ।OSPipelineExecutionRole
নির্দিষ্ট Amazon SQS এবং OSI অ্যাকশন অ্যাক্সেস সহ।
- সেজমেকার নোটবুক - এই পোস্টের সমস্ত কোড এই নোটবুকের মাধ্যমে চালিত হয়।
- OpenSearch সার্ভারহীন সংগ্রহ - এটি এম্বেডিং সংরক্ষণ এবং পুনরুদ্ধারের জন্য ভেক্টর ডাটাবেস।
- ওএসআই পাইপলাইন - এটি OpenSearch Serverless-এ ডেটা ইনজেস্ট করার জন্য পাইপলাইন।
- এস 3 বালতি - এই পোস্টের জন্য সমস্ত ডেটা এই বালতিতে সংরক্ষণ করা হয়।
- SQS সারি - OSI পাইপলাইন চালানোর জন্য ইভেন্টগুলি এই সারিতে রাখা হয়েছে।
CloudFormation টেমপ্লেট OSI পাইপলাইনকে Amazon S3 এবং Amazon SQS প্রসেসিংকে উৎস হিসেবে এবং একটি OpenSearch Serverless সূচককে সিঙ্ক হিসেবে কনফিগার করে। নির্দিষ্ট S3 বালতি এবং উপসর্গে তৈরি যেকোনো বস্তু (multimodal/osi-embeddings-json
) SQS বিজ্ঞপ্তিগুলিকে ট্রিগার করবে, যা OSI পাইপলাইন দ্বারা OpenSearch Serverless-এ ডেটা ইনজেস্ট করতে ব্যবহৃত হয়।
CloudFormation টেমপ্লেটও তৈরি করে নেটওয়ার্ক, এনক্রিপশন, এবং তথ্য এক্সেস OpenSearch Serverless সংগ্রহের জন্য প্রয়োজনীয় নীতি। ন্যূনতম বিশেষাধিকার প্রয়োগ করতে এই নীতিগুলি আপডেট করুন৷
মনে রাখবেন যে ক্লাউডফর্মেশন টেমপ্লেট নামটি সেজমেকার নোটবুকগুলিতে উল্লেখ করা হয়েছে। যদি ডিফল্ট টেমপ্লেট নাম পরিবর্তন করা হয়, তাহলে নিশ্চিত করুন যে আপনি একই আপডেট করেছেন৷ globals.py
সমাধান পরীক্ষা করুন
পূর্বশর্ত পদক্ষেপগুলি সম্পূর্ণ হওয়ার পরে এবং ক্লাউডফর্মেশন স্ট্যাকটি সফলভাবে তৈরি হওয়ার পরে, আপনি এখন সমাধানটি পরীক্ষা করার জন্য প্রস্তুত:
- সেজমেকার কনসোলে, নির্বাচন করুন নোটবুক নেভিগেশন ফলকে।
- নির্বাচন করুন
MultimodalNotebookInstance
নোটবুক উদাহরণ এবং নির্বাচন করুন JupyterLab খুলুন. - In ফাইল ব্রাউজার, নোটবুক এবং সমর্থনকারী ফাইল দেখতে নোটবুক ফোল্ডারে যান।
নোটবুকগুলি যে ক্রমানুসারে চালিত হয় সেই ক্রমানুসারে সংখ্যা করা হয়৷ প্রতিটি নোটবুকের নির্দেশাবলী এবং মন্তব্যগুলি সেই নোটবুকের দ্বারা সম্পাদিত ক্রিয়াগুলি বর্ণনা করে৷ আমরা এই নোটবুকগুলো একে একে চালাই।
- বেছে নিন 0_deploy_llava.ipynb JupyterLab এ খুলতে।
- উপরে চালান মেনু, নির্বাচন করুন সমস্ত সেল চালান এই নোটবুকে কোড চালানোর জন্য।
এই নোটবুকটি LLaVA-v1.5-7B মডেলটিকে সেজমেকার এন্ডপয়েন্টে স্থাপন করে। এই নোটবুকে, আমরা HuggingFace হাব থেকে LLaVA-v1.5-7B মডেলটি ডাউনলোড করি, inference.py স্ক্রিপ্ট এর সাথে প্রতিস্থাপন করি llava_inference.py, এবং এই মডেলের জন্য একটি model.tar.gz ফাইল তৈরি করুন। model.tar.gz ফাইলটি Amazon S3 এ আপলোড করা হয়েছে এবং SageMaker এন্ডপয়েন্টে মডেল স্থাপনের জন্য ব্যবহার করা হয়েছে। দ্য llava_inference.py অ্যামাজন S3 থেকে একটি ইমেজ ফাইল পড়ার এবং এটিতে অনুমান চালানোর জন্য স্ক্রিপ্টে অতিরিক্ত কোড রয়েছে।
- বেছে নিন 1_data_prep.ipynb JupyterLab এ খুলতে।
- উপরে চালান মেনু, নির্বাচন করুন সমস্ত সেল চালান এই নোটবুকে কোড চালানোর জন্য।
এই নোটবুক ডাউনলোড স্লাইড ডেক, প্রতিটি স্লাইডকে JPG ফাইল ফরম্যাটে রূপান্তর করে, এবং এই পোস্টের জন্য ব্যবহৃত S3 বালতিতে আপলোড করে।
- বেছে নিন 2_data_ingestion.ipynb JupyterLab এ খুলতে।
- উপরে চালান মেনু, নির্বাচন করুন সমস্ত সেল চালান এই নোটবুকে কোড চালানোর জন্য।
আমরা এই নোটবুকে নিম্নলিখিতগুলি করি:
- আমরা OpenSearch Serverless সংগ্রহে একটি সূচক তৈরি করি। এই সূচকটি স্লাইড ডেকের জন্য এমবেডিং ডেটা সঞ্চয় করে। নিম্নলিখিত কোড দেখুন:
- আমরা টাইটান মাল্টিমোডাল এমবেডিং মডেল ব্যবহার করি পূর্ববর্তী নোটবুকে তৈরি করা JPG ছবিকে ভেক্টর এম্বেডিং-এ রূপান্তর করতে। এই এমবেডিং এবং অতিরিক্ত মেটাডেটা (যেমন ইমেজ ফাইলের S3 পাথ) একটি JSON ফাইলে সংরক্ষণ করা হয় এবং Amazon S3 এ আপলোড করা হয়। মনে রাখবেন যে একটি একক JSON ফাইল তৈরি করা হয়েছে, এতে এমবেডিং-এ রূপান্তরিত সমস্ত স্লাইডের (ছবি) নথি রয়েছে। নিম্নলিখিত কোড স্নিপেট দেখায় কিভাবে একটি ছবি (একটি বেস64 এনকোডেড স্ট্রিং আকারে) এম্বেডিং-এ রূপান্তরিত হয়:
- এই ক্রিয়াটি ওপেনসার্চ ইনজেশন পাইপলাইনকে ট্রিগার করে, যা ফাইলটি প্রক্রিয়া করে এবং এটিকে ওপেনসার্চ সার্ভারলেস ইনডেক্সে প্রবেশ করে। নীচে তৈরি করা JSON ফাইলের একটি নমুনা। (উদাহরণ কোডে চারটি মাত্রা সহ একটি ভেক্টর দেখানো হয়েছে। টাইটান মাল্টিমোডাল এমবেডিংস মডেল 1,024 মাত্রা তৈরি করে।)
- বেছে নিন 3_rag_inference.ipynb JupyterLab এ খুলতে।
- উপরে চালান মেনু, নির্বাচন করুন সমস্ত সেল চালান এই নোটবুকে কোড চালানোর জন্য।
এই নোটবুকটি RAG সমাধান প্রয়োগ করে: আমরা ব্যবহারকারীর প্রশ্নটিকে এম্বেডিং-এ রূপান্তর করি, ভেক্টর ডাটাবেস থেকে একটি অনুরূপ চিত্র (স্লাইড) খুঁজে পাই এবং ব্যবহারকারীর প্রশ্নের উত্তর তৈরি করতে LLaVA-তে পুনরুদ্ধার করা চিত্র সরবরাহ করি। আমরা নিম্নলিখিত প্রম্পট টেমপ্লেট ব্যবহার করি:
নিম্নলিখিত কোড স্নিপেট RAG ওয়ার্কফ্লো প্রদান করে:
ফলাফল
নিম্নলিখিত কিছু ব্যবহারকারীর প্রশ্ন এবং আমাদের বাস্তবায়ন দ্বারা উত্পন্ন প্রতিক্রিয়া একটি সংকলন. দ্য প্রশ্ন কলাম ব্যবহারকারীর প্রশ্ন ক্যাপচার করে, এবং উত্তর কলাম হল LLaVA দ্বারা উত্পন্ন পাঠ্য প্রতিক্রিয়া। ভাবমূর্তি K- নিকটতম (k=1) স্লাইড মিল যা OpenSearch সার্ভারহীন ভেক্টর অনুসন্ধান দ্বারা প্রত্যাবর্তিত হয়। এই স্লাইডটি উত্তর দেওয়ার জন্য LLaVA দ্বারা ব্যাখ্যা করা হয়েছে।
মাল্টিমডাল RAG ফলাফল
প্রশ্ন | উত্তর | ভাবমূর্তি |
---|---|---|
কিভাবে Inf2 তুলনীয় EC2 দৃষ্টান্তের সাথে কর্মক্ষমতা তুলনা করে? আমার নাম্বার দরকার | স্লাইড ডেক অনুসারে, AWS Inferentia2 দ্বারা Inf2 দৃষ্টান্তগুলি তুলনীয় EC4 দৃষ্টান্তগুলির তুলনায় 10x উচ্চতর থ্রুপুট এবং 2x কম লেটেন্সি অফার করে৷ | |
AI/ML ফ্লাইহুইল অনুসারে, AWS AI/ML পরিষেবাগুলি কী প্রদান করে? | AWS AI/ML পরিষেবাগুলি আরও ভাল $/perfer ক্ষমতা, নতুন ক্ষমতা এবং উদ্ভাবনে বিনিয়োগ প্রদান করে। | |
GPT-2-এর তুলনায়, GPT-3-এর আরও কতগুলি প্যারামিটার আছে? GPT-2 এবং GPT-3-এর প্যারামিটার আকারের মধ্যে সংখ্যাগত পার্থক্য কী? | স্লাইড অনুসারে, GPT-3 এর 175 বিলিয়ন প্যারামিটার রয়েছে, যেখানে GPT-2-এর 1.5 বিলিয়ন প্যারামিটার রয়েছে। GPT-2 এবং GPT-3-এর প্যারামিটার আকারের মধ্যে সংখ্যাগত পার্থক্য হল 173.5 বিলিয়ন। | |
কণা পদার্থবিদ্যায় কোয়ার্ক কি? | আমি স্লাইড ডেকে এই প্রশ্নের উত্তর খুঁজে পাইনি। |
আপনার স্লাইড ডেক এই সমাধান প্রসারিত নির্দ্বিধায়. আপনার স্লাইড ডেকের URL সহ globals.py-এ SLIDE_DECK ভেরিয়েবল আপডেট করুন এবং পূর্ববর্তী বিভাগে বিস্তারিত ইনজেশন ধাপগুলি চালান৷
ডগা
আপনার ইনডেক্স এবং ইনজেস্ট করা ডেটাতে দ্রুত পরীক্ষা চালানোর জন্য আপনি OpenSearch API এর সাথে ইন্টারঅ্যাক্ট করতে ওপেন সার্চ ড্যাশবোর্ড ব্যবহার করতে পারেন। নিম্নলিখিত স্ক্রিনশটটি একটি OpenSearch ড্যাশবোর্ড GET উদাহরণ দেখায়।
পরিষ্কার কর
ভবিষ্যতের চার্জ এড়াতে, আপনার তৈরি সংস্থানগুলি মুছুন। আপনি ক্লাউডফর্মেশন কনসোলের মাধ্যমে স্ট্যাকটি মুছে দিয়ে এটি করতে পারেন।
অতিরিক্তভাবে, LLaVA অনুমানের জন্য তৈরি সেজমেকার ইনফারেন্স এন্ডপয়েন্ট মুছুন। আপনি পরিষ্কার করার ধাপে মন্তব্য না করে এটি করতে পারেন 3_rag_inference.ipynb এবং সেলটি চালাচ্ছেন, অথবা সেজমেকার কনসোলের মাধ্যমে এন্ডপয়েন্ট মুছে দিয়ে: বেছে নিন অনুমিতি এবং সমাপ্তি নেভিগেশন প্যানে, তারপর শেষ পয়েন্টটি নির্বাচন করুন এবং এটি মুছুন।
উপসংহার
এন্টারপ্রাইজগুলি সর্বদা নতুন বিষয়বস্তু তৈরি করে, এবং স্লাইড ডেক হল একটি সাধারণ প্রক্রিয়া যা সংস্থার সাথে অভ্যন্তরীণভাবে এবং গ্রাহকদের সাথে বা কনফারেন্সে বাহ্যিকভাবে তথ্য ভাগ করে এবং প্রচার করতে ব্যবহৃত হয়। সময়ের সাথে সাথে, সমৃদ্ধ তথ্যগুলি এই স্লাইড ডেকগুলিতে গ্রাফ এবং টেবিলের মতো অ-পাঠ্য পদ্ধতিতে সমাহিত এবং লুকানো থাকতে পারে। আপনি এই সমাধানটি ব্যবহার করতে পারেন এবং মাল্টিমোডাল এফএম-এর শক্তি যেমন টাইটান মাল্টিমোডাল এম্বেডিংস মডেল এবং LLaVA নতুন তথ্য আবিষ্কার করতে বা স্লাইড ডেকের বিষয়বস্তুতে নতুন দৃষ্টিভঙ্গি উন্মোচন করতে।
আমরা আপনাকে অন্বেষণ করে আরও শিখতে উত্সাহিত করি আমাজন সেজমেকার জাম্পস্টার্ট, অ্যামাজন টাইটান মডেল, Amazon Bedrock, এবং OpenSearch পরিষেবা, এবং এই পোস্টে দেওয়া নমুনা বাস্তবায়ন ব্যবহার করে একটি সমাধান তৈরি করা।
এই সিরিজের অংশ হিসাবে দুটি অতিরিক্ত পোস্টের জন্য সন্ধান করুন। অংশ 2 আপনার স্লাইড ডেকের সাথে কথা বলার জন্য আপনি নিতে পারেন এমন আরেকটি পদ্ধতিকে কভার করে। এই পদ্ধতিটি LLaVA অনুমানগুলি তৈরি এবং সঞ্চয় করে এবং ব্যবহারকারীর প্রশ্নের উত্তর দিতে সেই সঞ্চিত অনুমানগুলি ব্যবহার করে। পার্ট 3 দুটি পদ্ধতির তুলনা করে।
লেখক সম্পর্কে
অমিত অরোরা অ্যামাজন ওয়েব সার্ভিসেস-এর একজন AI এবং ML বিশেষজ্ঞ স্থপতি, এন্টারপ্রাইজ গ্রাহকদের তাদের উদ্ভাবনগুলি দ্রুত স্কেল করতে ক্লাউড-ভিত্তিক মেশিন লার্নিং পরিষেবাগুলি ব্যবহার করতে সহায়তা করে৷ এছাড়াও তিনি ওয়াশিংটন ডিসির জর্জটাউন ইউনিভার্সিটির এমএস ডেটা সায়েন্স এবং অ্যানালিটিক্স প্রোগ্রামের একজন সহকারী প্রভাষক।
মঞ্জু প্রসাদ আমাজন ওয়েব সার্ভিসে কৌশলগত অ্যাকাউন্টের মধ্যে একজন সিনিয়র সলিউশন আর্কিটেক্ট। তিনি একটি মার্কি M&E গ্রাহককে AI/ML সহ বিভিন্ন ডোমেনে প্রযুক্তিগত দিকনির্দেশনা প্রদানের উপর ফোকাস করেন। AWS-এ যোগদানের আগে, তিনি আর্থিক পরিষেবা খাতে কোম্পানিগুলির জন্য এবং একটি স্টার্টআপের জন্য সমাধানগুলি ডিজাইন এবং তৈরি করেছিলেন।
অর্চনা ইনাপুদি কৌশলগত গ্রাহকদের সমর্থনকারী AWS-এর একজন সিনিয়র সলিউশন আর্কিটেক্ট। গ্রাহকদের ডেটা অ্যানালিটিক্স এবং ডাটাবেস সমাধান ডিজাইন এবং তৈরি করতে সহায়তা করার এক দশকেরও বেশি অভিজ্ঞতা রয়েছে তার। তিনি গ্রাহকদের মূল্য প্রদান করতে এবং ব্যবসায়িক ফলাফল অর্জন করতে প্রযুক্তি ব্যবহার সম্পর্কে উত্সাহী।
অন্তরা রাইসা ডালাস, টেক্সাসের বাইরের কৌশলগত গ্রাহকদের সমর্থন করে অ্যামাজন ওয়েব পরিষেবার একজন AI এবং ML সলিউশন আর্কিটেক্ট৷ AWS-এ বৃহৎ এন্টারপ্রাইজ অংশীদারদের সাথে কাজ করার পূর্ব অভিজ্ঞতাও রয়েছে, যেখানে তিনি ডিজিটাল নেটিভ গ্রাহকদের জন্য পার্টনার সাকসেস সলিউশন আর্কিটেক্ট হিসেবে কাজ করেছেন।
- এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
- PlatoData.Network উল্লম্ব জেনারেটিভ Ai. নিজেকে ক্ষমতায়িত করুন। এখানে প্রবেশ করুন.
- প্লেটোএআইস্ট্রিম। Web3 ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
- প্লেটোইএসজি। কার্বন, ক্লিনটেক, শক্তি, পরিবেশ সৌর, বর্জ্য ব্যবস্থাপনা. এখানে প্রবেশ করুন.
- প্লেটো হেলথ। বায়োটেক এবং ক্লিনিক্যাল ট্রায়াল ইন্টেলিজেন্স। এখানে প্রবেশ করুন.
- উত্স: https://aws.amazon.com/blogs/machine-learning/talk-to-your-slide-deck-using-multimodal-foundation-models-hosted-on-amazon-bedrock-and-amazon-sagemaker-part-1/
- : আছে
- : হয়
- :না
- :কোথায়
- $ ইউপি
- 1
- 10
- 100
- 13
- 15%
- 16
- 173
- 20
- 2023
- 26%
- 29
- 31
- 7
- 8
- 9
- a
- সক্ষম
- সম্পর্কে
- প্রবেশ
- অ্যাক্সেসড
- অ্যাকাউন্টস
- অর্জন করা
- কর্ম
- স্টক
- কাজ
- যোগ
- অতিরিক্ত
- সংযোজন
- আবির্ভাব
- বিরুদ্ধে
- AI
- এআই / এমএল
- সব
- অনুমতি
- বরাবর
- এছাড়াও
- মর্দানী স্ত্রীলোক
- আমাজন সেজমেকার
- অ্যামাজন ওয়েব সার্ভিসেস
- an
- বৈশ্লেষিক ন্যায়
- এবং
- অন্য
- উত্তর
- উত্তর
- উত্তর
- কোন
- API
- প্রয়োগ করা
- অভিগমন
- পন্থা
- স্থাপত্য
- রয়েছি
- AS
- জিজ্ঞাসা করা
- সহায়ক
- যুক্ত
- At
- অডিও
- উদ্দীপিত
- প্রমাণীকরণ
- সহজলভ্য
- এড়াতে
- ডেস্কটপ AWS
- এডাব্লুএস ক্লাউডফর্মেশন
- ভিত্তি
- BE
- হয়েছে
- উত্তম
- মধ্যে
- বিলিয়ন
- শরীর
- নির্মাণ করা
- ভবন
- নির্মিত
- ব্যবসায়
- by
- CAN
- ক্ষমতা
- সামর্থ্য
- ক্যাচ
- কোষ
- পরিবর্তিত
- চার্জ
- বেছে নিন
- নির্বাচন
- মক্কেল
- কোড
- সংগ্রহ
- সংগ্রহ
- সংগ্রাহক
- স্তম্ভ
- সমাহার
- মিশ্রন
- মন্তব্য
- সাধারণ
- কোম্পানি
- তুলনীয়
- তুলনা করা
- তুলনা
- সম্পূর্ণ
- সম্পন্ন হয়েছে
- উপাদান
- ধারণা
- সম্মেলন
- কনফিগারেশন
- কনফিগার
- গঠিত
- কনসোল
- ধারণ করা
- অন্তর্ভুক্ত
- ধারণ
- বিষয়বস্তু
- বিষয়বস্তু-সৃষ্টি
- রূপান্তর
- ধর্মান্তরিত
- রূপান্তর
- অনুরূপ
- পারা
- কভার
- সৃষ্টি
- নির্মিত
- সৃষ্টি
- তৈরি করা হচ্ছে
- সৃষ্টি
- পরিচয়পত্র
- ক্রেতা
- গ্রাহকদের
- ডালাস
- ড্যাশবোর্ড
- ড্যাশবোর্ডের
- উপাত্ত
- ডেটা বিশ্লেষণ
- তথ্য বিজ্ঞান
- ডেটাবেস
- দশক
- ডেক
- ডিফল্ট
- প্রদান করা
- বিতরণ
- প্রদর্শন
- নির্ভর করে
- স্থাপন
- মোতায়েন
- মোতায়েন
- স্থাপন
- বর্ণনা করা
- নকশা
- পরিকল্পিত
- বিস্তারিত
- বিশদ
- বিস্তারিত
- অভি
- DID
- পার্থক্য
- বিভিন্ন
- আশ্লেষ
- ডিজিটাল
- মাত্রা
- মাত্রা
- আবিষ্কার করা
- আলোচনা
- প্রদর্শন
- do
- কাগজপত্র
- না
- ডোমেইনের
- ডাউনলোড
- ডাউনলোড
- সময়
- e
- প্রতি
- উপাদান
- এম্বেড করা
- এম্বেডিং
- সক্ষম করা
- সক্ষম করা
- এনকোডেড
- উত্সাহিত করা
- শেষ
- শেষপ্রান্ত
- ইঞ্জিন
- নিশ্চিত করা
- উদ্যোগ
- ভুল
- ঘটনা
- ঘটনাবলী
- অনুসন্ধানী
- উদাহরণ
- ছাড়া
- ব্যতিক্রম
- বিদ্যমান
- অভিজ্ঞতা
- এক্সপ্লোরিং
- প্রসারিত করা
- বাহ্যিকভাবে
- নির্যাস
- ঘনিষ্ঠতা
- ক্ষেত্রসমূহ
- ফাইল
- নথি পত্র
- আর্থিক
- অর্থনৈতিক সেবা সমূহ
- আবিষ্কার
- গুরুত্ত্ব
- অনুসরণ করা
- অনুসরণ
- অনুসরণ
- জন্য
- ফর্ম
- বিন্যাস
- ভিত
- চার
- বিনামূল্যে
- থেকে
- সম্পূর্ণ
- সম্পূর্ণরূপে
- ভবিষ্যৎ
- উত্পাদন করা
- উত্পন্ন
- উত্পন্ন
- প্রজন্ম
- সৃজক
- জেনারেটিভ এআই
- জর্জ
- পাওয়া
- GitHub
- চালু
- গ্রাফ
- পথপ্রদর্শন
- আছে
- he
- সহায়ক
- সাহায্য
- এখানে
- গোপন
- ঊর্ধ্বতন
- হিট
- নিমন্ত্রণকর্তা
- হোস্ট
- হোস্টিং
- হোস্টিং সেবা
- হোস্ট
- কিভাবে
- যাহোক
- এইচটিএমএল
- HTTP
- HTTPS দ্বারা
- নাভি
- জড়িয়ে আছে
- i
- পরিচয়
- if
- প্রকাশ
- ভাবমূর্তি
- চিত্র
- অবিলম্বে
- বাস্তবায়ন
- বাস্তবায়ন
- সরঁজাম
- in
- অন্তর্ভুক্ত করা
- অন্তর্ভুক্ত
- সুদ্ধ
- সূচক
- ইন্ডিসিস
- তথ্য
- ইনোভেশন
- প্রবর্তিত
- ইনপুট
- উদাহরণ
- নির্দেশাবলী
- গর্ভনাটিকা
- মিথষ্ক্রিয়া
- অন্ত
- মধ্যে
- বিনিয়োগ
- IT
- যোগদান
- JPG
- JSON
- জুন
- ভাষা
- বড়
- অদৃশ্যতা
- শুরু করা
- শিখতে
- শিক্ষা
- মত
- LINK
- শিখা
- স্থানীয়
- নিম্ন
- মেশিন
- মেশিন লার্নিং
- করা
- পরিচালনা করা
- পরিচালিত
- অনেক
- ম্যাচ
- ম্যাচিং
- পদ্ধতি
- মেনু
- মেটাডাটা
- পদ্ধতি
- ML
- মডেল
- মডেল
- অধিক
- সেতু
- MS
- বহু
- নাম
- স্থানীয়
- নেভিগেট করুন
- ন্যাভিগেশন
- প্রয়োজন
- নতুন
- না
- বিঃদ্রঃ
- নোটবই
- বিজ্ঞপ্তি
- এখন
- সংখ্যাযুক্ত
- সংখ্যার
- বস্তু
- of
- অর্পণ
- on
- চাহিদা সাপেক্ষে
- ONE
- কেবল
- খোলা
- ওপেন সোর্স
- or
- সংগঠন
- OS
- আমাদের
- বাইরে
- ফলাফল
- আউটপুট
- শেষ
- শার্সি
- স্থিতিমাপ
- পরামিতি
- অংশ
- হাসপাতাল
- অংশীদারদের
- যন্ত্রাংশ
- গৃহীত
- কামুক
- পথ
- পিডিএফ
- প্রতি
- সম্পাদন করা
- কর্মক্ষমতা
- সম্পাদিত
- অনুমতি
- দৃষ্টিকোণ
- ফেজ
- পদার্থবিদ্যা
- ছবি
- পাইপলাইন
- Plato
- প্লেটো ডেটা ইন্টেলিজেন্স
- প্লেটোডাটা
- নীতি
- পোস্ট
- পোস্ট
- সম্ভাব্য
- ক্ষমতা
- ক্ষমতাশালী
- Predictor
- বর্তমান
- উপস্থাপন
- আগে
- পূর্বে
- প্রক্রিয়া
- প্রক্রিয়াকৃত
- প্রসেস
- প্রক্রিয়াজাতকরণ
- কার্যক্রম
- বৈশিষ্ট্য
- প্রদান
- প্রদত্ত
- উপলব্ধ
- প্রদানের
- করা
- কোয়ার্ক
- প্রশ্নের
- প্রশ্ন
- প্রশ্ন
- দ্রুত
- টেনা
- পরিসর
- দ্রুত
- পড়া
- প্রস্তুত
- বাস্তব জগতে
- গৃহীত
- রেফারেন্সড
- এলাকা
- সংশ্লিষ্ট
- প্রাসঙ্গিক
- থাকা
- প্রতিস্থাপন করা
- অনুরোধ
- প্রয়োজনীয়
- Resources
- প্রতিক্রিয়া
- প্রতিক্রিয়া
- প্রতিক্রিয়া
- ফল
- ফলে এবং
- ফলাফল
- উদ্ধার
- প্রত্যাবর্তন
- ধনী
- ভূমিকা
- চালান
- দৌড়
- ঋষি নির্মাতা
- সেজমেকার ইনফারেন্স
- একই
- বলা
- স্কেল
- বিজ্ঞান
- স্ক্রিনশট
- লিপি
- সার্চ
- দ্বিতীয়
- অধ্যায়
- বিভাগে
- সেক্টর
- দেখ
- নির্বাচন করা
- নির্বাচন
- জ্যেষ্ঠ
- ক্রম
- ক্রম
- Serverless
- স্থল
- সেবা
- সেবা
- সেশন
- সেট
- বিন্যাস
- সেটিংস
- শেয়ার
- সে
- উচিত
- প্রদর্শিত
- শো
- অনুরূপ
- সহজ
- কেবল
- একক
- আয়তন
- স্লাইড্
- স্লাইডগুলি
- টুকিটাকি
- So
- সমাধান
- সলিউশন
- কিছু
- উৎস
- বিশেষজ্ঞ
- নির্দিষ্ট
- নিদিষ্ট
- স্থিতিশীল
- গাদা
- প্রারম্ভকালে
- রাষ্ট্র
- অবস্থা
- ধাপ
- প্রারম্ভিক ব্যবহারের নির্দেশাবলী
- স্টোরেজ
- দোকান
- সঞ্চিত
- দোকান
- সংরক্ষণ
- কৌশলগত
- স্ট্রিং
- পরবর্তী
- সাফল্য
- সফলভাবে
- এমন
- শিখর
- সমর্থক
- নিশ্চিত
- টেবিল
- গ্রহণ করা
- আলাপ
- কাজ
- কারিগরী
- প্রযুক্তিঃ
- টেমপ্লেট
- টেমপ্লেট
- পরীক্ষা
- পরীক্ষা
- টেক্সাস
- পাঠ
- পাঠগত
- যে
- সার্জারির
- তথ্য
- তাদের
- তারপর
- এইগুলো
- এই
- সেগুলো
- থ্রুপুট
- সময়
- দানব
- খেতাবধারী
- থেকে
- আজকের
- একসঙ্গে
- টরন্টো
- ঐতিহ্যগতভাবে
- তর্ক করা
- ট্রিগার
- ট্রিগারিং
- সত্য
- চেষ্টা
- চালু
- দুই
- আদর্শ
- উন্মোচন
- বোঝা
- বোধশক্তি
- বিশ্ববিদ্যালয়
- আপডেট
- আপলোড করা
- URL টি
- ব্যবহার
- ব্যবহৃত
- ব্যবহারকারী
- ব্যবহারসমূহ
- ব্যবহার
- মূল্য
- পরিবর্তনশীল
- বৈচিত্র্য
- সংস্করণ
- মাধ্যমে
- ভিডিও
- চেক
- দৃষ্টি
- চাক্ষুষ
- ওয়াশিংটন
- উপায়
- we
- ওয়েব
- ওয়েব সার্ভিস
- আমরা একটি
- কি
- যে
- যখন
- ইচ্ছা
- সঙ্গে
- মধ্যে
- কাজ করছে
- কর্মপ্রবাহ
- কাজ
- আপনি
- আপনার
- zephyrnet