Amazon SageMaker JumpStart-এ টেক্সট জেনারেশনের জন্য ফাইন-টিউন লামা 2 | আমাজন ওয়েব সার্ভিসেস

আজ, আমরা মেটা ব্যবহার করে লামা 2 মডেলগুলিকে ফাইন-টিউন করার ক্ষমতা ঘোষণা করতে পেরে আনন্দিত আমাজন সেজমেকার জাম্পস্টার্ট. লামা 2 ফ্যামিলি অফ লার্জ ল্যাঙ্গুয়েজ মডেল (LLMs) হল 7 বিলিয়ন থেকে 70 বিলিয়ন প্যারামিটারের স্কেলে প্রাক-প্রশিক্ষিত এবং সূক্ষ্ম-টিউনড জেনারেটিভ টেক্সট মডেলের একটি সংগ্রহ। ফাইন-টিউনড এলএলএম, যাকে লামা-২-চ্যাট বলা হয়, সংলাপ ব্যবহারের ক্ষেত্রে অপ্টিমাইজ করা হয়। আপনি সহজেই এই মডেলগুলি ব্যবহার করে দেখতে পারেন এবং সেজমেকার জাম্পস্টার্টের সাথে ব্যবহার করতে পারেন, এটি একটি মেশিন লার্নিং (ML) হাব যা অ্যালগরিদম, মডেল এবং ML সমাধানগুলিতে অ্যাক্সেস সরবরাহ করে যাতে আপনি দ্রুত ML এর সাথে শুরু করতে পারেন৷ এখন আপনি SageMaker JumpStart ব্যবহার করে 2 বিলিয়ন, 7 বিলিয়ন, এবং 13 বিলিয়ন প্যারামিটার Llama 70 টেক্সট জেনারেশন মডেলগুলিকে ফাইন-টিউন করতে পারেন অ্যামাজন সেজমেকার স্টুডিও কয়েক ক্লিকে বা SageMaker Python SDK ব্যবহার করে UI।

জেনারেটিভ এআই ফাউন্ডেশন মডেলগুলি এক বছরেরও বেশি সময় ধরে বেশিরভাগ এমএল এবং কৃত্রিম বুদ্ধিমত্তা গবেষণা এবং ব্যবহারের ক্ষেত্রে কেন্দ্রীভূত হয়েছে। এই ফাউন্ডেশন মডেলগুলি টেক্সট জেনারেশন, সংক্ষিপ্তকরণ, প্রশ্নের উত্তর, ইমেজ এবং ভিডিও জেনারেশন এবং আরও অনেক কিছুর মতো জেনারেটিভ কাজগুলির সাথে খুব ভাল কাজ করে, কারণ তাদের বড় আকারের কারণে এবং এছাড়াও তারা বেশ কয়েকটি বৃহৎ ডেটাসেট এবং শত শত কাজের জন্য প্রশিক্ষিত। এই মডেলগুলির দুর্দান্ত সাধারণীকরণের ক্ষমতা থাকা সত্ত্বেও, প্রায়শই এমন ক্ষেত্রে ব্যবহার করা হয় যেখানে খুব নির্দিষ্ট ডোমেন ডেটা থাকে (যেমন স্বাস্থ্যসেবা বা আর্থিক পরিষেবা), যার কারণে এই মডেলগুলি এই ব্যবহারের ক্ষেত্রে ভাল ফলাফল দিতে সক্ষম নাও হতে পারে। এর ফলে কেস-নির্দিষ্ট এবং ডোমেন-নির্দিষ্ট ডেটা ব্যবহারের ক্ষেত্রে এই জেনারেটিভ এআই মডেলগুলির আরও সূক্ষ্ম-টিউনিংয়ের প্রয়োজন হয়।

এই পোস্টে, আমরা সেজমেকার জাম্পস্টার্টের মাধ্যমে লামা 2 প্রাক-প্রশিক্ষিত টেক্সট জেনারেশন মডেলগুলিকে কীভাবে সূক্ষ্ম-টিউন করতে পারি তা নিয়ে চলেছি।

লামা কি 2

Llama 2 একটি স্বয়ংক্রিয়-রিগ্রেসিভ ভাষা মডেল যা একটি অপ্টিমাইজড ট্রান্সফরমার আর্কিটেকচার ব্যবহার করে। Llama 2 ইংরেজিতে বাণিজ্যিক ও গবেষণার জন্য ব্যবহার করা হয়েছে। এটি প্যারামিটার আকারের পরিসরে আসে—৭ বিলিয়ন, ১৩ বিলিয়ন, এবং ৭০ বিলিয়ন—সেইসাথে প্রাক-প্রশিক্ষিত এবং সূক্ষ্ম-সুরক্ষিত বৈচিত্র। Meta-এর মতে, টিউন করা সংস্করণগুলি মানবিক প্রতিক্রিয়া (RLHF) সহ তদারকিকৃত ফাইন-টিউনিং (SFT) এবং রিইনফোর্সমেন্ট লার্নিং ব্যবহার করে সাহায্য এবং নিরাপত্তার জন্য মানুষের পছন্দের সাথে সারিবদ্ধ করতে। Llama 7 সর্বজনীনভাবে উপলব্ধ উত্স থেকে 13 ট্রিলিয়ন টোকেন ডেটাতে প্রাক-প্রশিক্ষিত ছিল। টিউন করা মডেলগুলি সহকারীর মতো চ্যাটের উদ্দেশ্যে তৈরি করা হয়েছে, যেখানে প্রাক-প্রশিক্ষিত মডেলগুলি বিভিন্ন প্রাকৃতিক ভাষা তৈরির কাজের জন্য অভিযোজিত হতে পারে। একজন বিকাশকারী মডেলের কোন সংস্করণ ব্যবহার করেন তা নির্বিশেষে, মেটা থেকে দায়িত্বশীল ব্যবহারের নির্দেশিকা উপযুক্ত নিরাপত্তা প্রশমনের সাথে মডেলগুলিকে কাস্টমাইজ এবং অপ্টিমাইজ করার জন্য প্রয়োজনীয় অতিরিক্ত সূক্ষ্ম-টিউনিং গাইডে সহায়তা করতে পারে।

বর্তমানে, Llama 2 নিম্নলিখিত অঞ্চলে উপলব্ধ:

• উপলব্ধ প্রাক-প্রশিক্ষিত মডেল স্থাপন করুন: "us-west-2", "us-east-1", "us-east-2", "eu-west-1", "ap-southeast-1", "ap-southeast-2"
• ফাইন-টিউন করুন এবং ফাইন-টিউনড মডেল স্থাপন করুন: “us-east-1”, “us-west-2”,“eu-west-1”

সেজমেকার জাম্পস্টার্ট কি

SageMaker JumpStart এর সাথে, ML অনুশীলনকারীরা সর্বজনীনভাবে উপলব্ধ ফাউন্ডেশন মডেলগুলির একটি বিস্তৃত নির্বাচন থেকে বেছে নিতে পারেন। এমএল অনুশীলনকারীরা ডেডিকেটেডদের জন্য ভিত্তি মডেল স্থাপন করতে পারে আমাজন সেজমেকার একটি নেটওয়ার্ক বিচ্ছিন্ন পরিবেশ থেকে উদাহরণ এবং মডেল প্রশিক্ষণ এবং স্থাপনার জন্য SageMaker ব্যবহার করে মডেলগুলি কাস্টমাইজ করুন। আপনি এখন সেজমেকার স্টুডিওতে কয়েকটি ক্লিকের মাধ্যমে বা প্রোগ্রাম্যাটিকভাবে সেজমেকার পাইথন SDK-এর মাধ্যমে Llama 2 আবিষ্কার এবং স্থাপন করতে পারেন, যা আপনাকে SageMaker বৈশিষ্ট্যগুলির সাথে মডেল পারফরম্যান্স এবং MLOps নিয়ন্ত্রণগুলি অর্জন করতে সক্ষম করে যেমন অ্যামাজন সেজমেকার পাইপলাইন, আমাজন সেজমেকার ডিবাগার, বা ধারক লগ. মডেলটি একটি AWS সুরক্ষিত পরিবেশে এবং আপনার VPC নিয়ন্ত্রণের অধীনে স্থাপন করা হয়েছে, যা ডেটা নিরাপত্তা নিশ্চিত করতে সহায়তা করে। এছাড়াও, আপনি সেজমেকার জাম্পস্টার্টের মাধ্যমে Llama2 7B, 13B, এবং 70B প্রাক-প্রশিক্ষিত পাঠ্য প্রজন্মের মডেলগুলিকে ফাইন-টিউন করতে পারেন।

ফাইন-টিউন Llama2 মডেল

আপনি SageMaker Studio UI বা SageMaker Python SDK ব্যবহার করে মডেলগুলিকে সূক্ষ্ম-টিউন করতে পারেন। আমরা এই বিভাগে উভয় পদ্ধতি আলোচনা.

SageMaker স্টুডিও UI এর মাধ্যমে নো-কোড ফাইন-টিউনিং

সেজমেকার স্টুডিওতে, আপনি সেজমেকার জাম্পস্টার্ট এর অধীনে লামা 2 মডেল অ্যাক্সেস করতে পারেন মডেল, নোটবুক, এবং সমাধান, নিম্নলিখিত স্ক্রিনশট হিসাবে দেখানো হয়েছে।

আপনি যদি Llama 2 মডেল দেখতে না পান, তাহলে বন্ধ করে এবং পুনরায় চালু করে আপনার SageMaker স্টুডিও সংস্করণ আপডেট করুন। সংস্করণ আপডেট সম্পর্কে আরও তথ্যের জন্য, পড়ুন বন্ধ করুন এবং স্টুডিও অ্যাপ আপডেট করুন.

আপনি পছন্দ করে অন্য চারটি মডেলের বৈকল্পিকও খুঁজে পেতে পারেন সমস্ত টেক্সট জেনারেশন মডেল অন্বেষণ করুন অথবা সার্চ বক্সে লামা খুঁজছেন।

এই পৃষ্ঠায়, আপনি নির্দেশ করতে পারেন আমাজন সিম্পল স্টোরেজ সার্ভিস (Amazon S3) ফাইন-টিউনিংয়ের জন্য প্রশিক্ষণ এবং বৈধতা ডেটাসেট ধারণকারী বালতি। উপরন্তু, আপনি ফাইন-টিউনিংয়ের জন্য স্থাপনার কনফিগারেশন, হাইপারপ্যারামিটার এবং নিরাপত্তা সেটিংস কনফিগার করতে পারেন। আপনি তারপর চয়ন করতে পারেন রেলগাড়ি একটি সেজমেকার এমএল উদাহরণে প্রশিক্ষণের কাজ শুরু করতে। পূর্ববর্তী স্ক্রিনশট Llama-2 7B মডেলের জন্য ফাইন-টিউনিং পৃষ্ঠা দেখায়; যাইহোক, আপনি একইভাবে তাদের নিজ নিজ মডেল পৃষ্ঠাগুলি ব্যবহার করে 13B এবং 70B Llama 2 পাঠ্য প্রজন্মের মডেলগুলিকে সূক্ষ্ম-টিউন করতে পারেন। Llama 2 মডেল ব্যবহার করতে, আপনাকে শেষ ব্যবহারকারী লাইসেন্স চুক্তি (EULA) গ্রহণ করতে হবে। আপনি যখন চয়ন করেন তখন এটি প্রদর্শিত হবে রেলগাড়ি, নিম্নলিখিত স্ক্রিনশটে দেখানো হয়েছে। পছন্দ করা আমি EULA এবং AUP পড়েছি এবং গ্রহণ করেছি ফাইন-টিউনিং কাজ শুরু করতে।

মডেল মোতায়েন করুন

মডেলটি ফাইন-টিউন করার পরে, আপনি SageMaker JumpStart-এ মডেল পৃষ্ঠা ব্যবহার করে এটি স্থাপন করতে পারেন। ফাইন-টিউনিং সম্পন্ন হলে ফাইন-টিউনড মডেল স্থাপন করার বিকল্পটি প্রদর্শিত হবে, যেমনটি নিম্নলিখিত স্ক্রিনশটে দেখানো হয়েছে।

SageMaker Python SDK-এর মাধ্যমে ফাইন-টিউন

আপনি সেজমেকার পাইথন SDK ব্যবহার করে লামা 2 মডেলগুলিকে সূক্ষ্ম-টিউন করতে পারেন। আপনার ডেটাসেটে Llama 2 7B সূক্ষ্ম-টিউন করার জন্য নিম্নলিখিত একটি নমুনা কোড:

import os
import boto3
from sagemaker.session import Session
from sagemaker.jumpstart.estimator import JumpStartEstimator # To fine-tune the 13B/70B model, please change model_id to `meta-textgeneration-llama-2-13b`/`meta-textgeneration-llama-2-70b`.
model_id = "meta-textgeneration-llama-2-7b" estimator = JumpStartEstimator( model_id=model_id, environment={"accept_eula": "true"}
)
# By default, instruction tuning is set to false. Thus, to use instruction tuning dataset you use
estimator.set_hyperparameters(instruction_tuned="True", epoch="5")
estimator.fit({"training": train_data_location})

আপনি অনুমানকারী থেকে সরাসরি সূক্ষ্ম-টিউনড মডেল স্থাপন করতে পারেন:

finetuned_predictor = estimator.deploy()

এছাড়াও আপনি কোড খুঁজে পেতে পারেন সেজমেকার জাম্প স্টার্টে LLaMA 2 মডেলের সূক্ষ্ম সুর. এতে ডেটাসেট প্রস্তুতি, আপনার কাস্টম ডেটাসেটের প্রশিক্ষণ এবং সূক্ষ্ম-টিউনড মডেল স্থাপন অন্তর্ভুক্ত রয়েছে। এটি ডলি ডেটাসেটের একটি উপসেটে সূক্ষ্ম-টিউনিং প্রদর্শন করে, যার সংক্ষিপ্তকরণ টাস্কের উদাহরণ রয়েছে। গ্রাউন্ড ট্রুথ রেসপন্স সহ ফাইন-টিউনড এবং নন-ফাইন-টিউনড থেকে প্রতিক্রিয়া সহ নিম্নলিখিত উদাহরণ ইনপুট:

মডেল ইনপুট:

Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:nWhen did Felix Luna die?nn### Input:nFélix César Luna (30 September 1925 – 5 November 2009) was an Argentine writer, lyricist and historian.nnnn### Response:n

স্থল সত্য প্রতিক্রিয়া:

Felix Luna died on November 5th, 2009

নন ফাইন-টিউনড মডেল থেকে প্রতিক্রিয়া:

Félix César Luna (30 September 1925 – 5 November 2009) was an ArgentinennWhen did Luna die?nnn### Explanation:nWe answer the question with the input's date of birth and the date of death.nnn### Solution: 1102n

সূক্ষ্ম সুর করা মডেল থেকে প্রতিক্রিয়া:

Félix Luna died on November 5th, 2009.nn

ডলি এবং ডায়ালগসাম ডেটাসেটে বিভিন্ন মডেলের পারফরম্যান্স বেঞ্চমার্কিংয়ের জন্য, দেখুন কর্মক্ষমতা বেঞ্চমার্কিং এই পোস্টের শেষে পরিশিষ্টে বিভাগ।

ফাইন-টিউনিং কৌশল

ভাষা মডেল যেমন লামা 10 জিবি বা এমনকি 100 গিগাবাইট আকারেরও বেশি। এই ধরনের বড় মডেলের ফাইন-টিউনিংয়ের জন্য উল্লেখযোগ্যভাবে উচ্চ CUDA মেমরি সহ উদাহরণ প্রয়োজন। তদ্ব্যতীত, মডেলের আকারের কারণে এই মডেলগুলিকে প্রশিক্ষণ দেওয়া খুব ধীর হতে পারে। অতএব, দক্ষ সূক্ষ্ম টিউনিংয়ের জন্য, আমরা নিম্নলিখিত অপ্টিমাইজেশানগুলি ব্যবহার করি:

• নিম্ন-র্যাঙ্ক অভিযোজন (LoRA) - এটি বড় মডেলের দক্ষ ফাইন-টিউনিং এর জন্য এক ধরণের প্যারামিটার দক্ষ ফাইন-টিউনিং (PEFT)। এতে, আমরা পুরো মডেলটি হিমায়িত করি এবং মডেলটিতে শুধুমাত্র সামঞ্জস্যযোগ্য প্যারামিটার বা স্তরগুলির একটি ছোট সেট যুক্ত করি। উদাহরণস্বরূপ, Llama 7 2B-এর জন্য সমস্ত 7 বিলিয়ন প্যারামিটার প্রশিক্ষণের পরিবর্তে, আমরা প্যারামিটারের 1% এরও কম সূক্ষ্ম-টিউন করতে পারি। এটি মেমরির প্রয়োজনীয়তা উল্লেখযোগ্যভাবে হ্রাস করতে সহায়তা করে কারণ আমাদের শুধুমাত্র 1% প্যারামিটারের জন্য গ্রেডিয়েন্ট, অপ্টিমাইজার স্টেট এবং অন্যান্য প্রশিক্ষণ-সম্পর্কিত তথ্য সংরক্ষণ করতে হবে। তদ্ব্যতীত, এটি প্রশিক্ষণের সময় এবং খরচ কমাতে সহায়তা করে। এই পদ্ধতি সম্পর্কে আরো বিস্তারিত জানার জন্য, পড়ুন LoRA: বড় ভাষার মডেলের নিম্ন-র্যাঙ্ক অভিযোজন.
• Int8 কোয়ান্টাইজেশন - এমনকি LoRA এর মতো অপ্টিমাইজেশনের সাথেও, Llama 70B-এর মতো মডেলগুলি এখনও প্রশিক্ষণের জন্য অনেক বড়৷ প্রশিক্ষণের সময় মেমরির পদচিহ্ন কমাতে, আমরা প্রশিক্ষণের সময় Int8 কোয়ান্টাইজেশন ব্যবহার করতে পারি। কোয়ান্টাইজেশন সাধারণত ফ্লোটিং পয়েন্ট ডেটা প্রকারের নির্ভুলতা হ্রাস করে। যদিও এটি মডেলের ওজন সঞ্চয় করার জন্য প্রয়োজনীয় মেমরি হ্রাস করে, তথ্য হারানোর কারণে এটি কর্মক্ষমতা হ্রাস করে। Int8 কোয়ান্টাইজেশন শুধুমাত্র এক চতুর্থাংশ নির্ভুলতা ব্যবহার করে কিন্তু কার্যক্ষমতার অবনতি ঘটায় না কারণ এটি কেবল বিটগুলিকে ড্রপ করে না। এটি ডেটাকে এক প্রকার থেকে অন্য প্রকারে বৃত্তাকার করে। Int8 কোয়ান্টাইজেশন সম্পর্কে জানতে, পড়ুন LLM.int8(): স্কেলে ট্রান্সফরমারের জন্য 8-বিট ম্যাট্রিক্স গুণন.
• সম্পূর্ণরূপে শার্ডেড ডেটা প্যারালাল (FSDP) – এটি এক ধরনের ডেটা-সমান্তরাল প্রশিক্ষণ অ্যালগরিদম যা ডেটা সমান্তরাল কর্মীদের জুড়ে মডেলের প্যারামিটারগুলিকে শার্ড করে এবং ঐচ্ছিকভাবে CPU-তে প্রশিক্ষণ গণনার অংশ অফলোড করতে পারে। যদিও প্যারামিটারগুলি বিভিন্ন জিপিইউ জুড়ে শার্ড করা হয়েছে, প্রতিটি মাইক্রোব্যাচের গণনা GPU কর্মীর কাছে স্থানীয়। এটি পরামিতিগুলিকে আরও সমানভাবে শার্ড করে এবং প্রশিক্ষণের সময় যোগাযোগ এবং গণনার ওভারল্যাপিংয়ের মাধ্যমে অপ্টিমাইজ করা কর্মক্ষমতা অর্জন করে।

নিম্নলিখিত টেবিলটি তিনটি লামা 2 মডেলের সাথে বিভিন্ন পদ্ধতির তুলনা করে।

উল্লেখ্য যে লামা মডেলগুলির ফাইন-টিউনিং নিম্নলিখিত দ্বারা প্রদত্ত স্ক্রিপ্টের উপর ভিত্তি করে গিটহুব রেপো.

প্রশিক্ষণ ডেটাসেট বিন্যাস

সেজমেকার জাম্পস্টার্ট বর্তমানে ডোমেন অভিযোজন বিন্যাস এবং নির্দেশনা টিউনিং বিন্যাসে উভয় ডেটাসেট সমর্থন করে। এই বিভাগে, আমরা উভয় ফর্ম্যাটে একটি উদাহরণ ডেটাসেট নির্দিষ্ট করি। আরো বিস্তারিত জানার জন্য, দেখুন ডেটাসেট বিন্যাস পরিশিষ্টে বিভাগ।

ডোমেন অভিযোজন বিন্যাস

টেক্সট জেনারেশন লামা 2 মডেল যেকোন ডোমেন-নির্দিষ্ট ডেটাসেটে ফাইন-টিউন করা যেতে পারে। এটি ডোমেন-নির্দিষ্ট ডেটাসেটে সূক্ষ্ম-টিউন করার পরে, মডেলটি ডোমেন-নির্দিষ্ট পাঠ্য তৈরি করবে এবং কয়েকটি-শট প্রম্পটিং সহ সেই নির্দিষ্ট ডোমেনে বিভিন্ন NLP কাজগুলি সমাধান করবে বলে আশা করা হচ্ছে। এই ডেটাসেটের সাথে, ইনপুট একটি CSV, JSON, বা TXT ফাইল নিয়ে গঠিত। উদাহরণস্বরূপ, ইনপুট ডেটা একটি পাঠ্য ফাইল হিসাবে অ্যামাজনের এসইসি ফাইলিং হতে পারে:

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions.

নির্দেশ টিউনিং বিন্যাস

নির্দেশনা ফাইন-টিউনিং-এ, নির্দেশাবলী ব্যবহার করে বর্ণিত প্রাকৃতিক ভাষা প্রক্রিয়াকরণ (NLP) কাজের একটি সেটের জন্য মডেলটি সূক্ষ্ম-টিউন করা হয়েছে। এটি জিরো-শট প্রম্পট সহ অদেখা কাজগুলির জন্য মডেলের কর্মক্ষমতা উন্নত করতে সহায়তা করে। নির্দেশনা টিউনিং ডেটাসেট বিন্যাসে, আপনি নির্দিষ্ট করুন template.json ফাইল ইনপুট এবং আউটপুট ফরম্যাট বর্ণনা করে। উদাহরণস্বরূপ, ফাইলের প্রতিটি লাইন train.jsonl নিম্নলিখিত মত দেখাচ্ছে:

{"instruction": "What is a dispersive prism?", "context": "In optics, a dispersive prism is an optical prism that is used to disperse light, that is, to separate light into its spectral components (the colors of the rainbow). Different wavelengths (colors) of light will be deflected by the prism at different angles. This is a result of the prism material's index of refraction varying with wavelength (dispersion). Generally, longer wavelengths (red) undergo a smaller deviation than shorter wavelengths (blue). The dispersion of white light into colors by a prism led Sir Isaac Newton to conclude that white light consisted of a mixture of different colors.", "response": "A dispersive prism is an optical prism that disperses the light's different wavelengths at different angles. When white light is shined through a dispersive prism it will separate into the different colors of the rainbow."}

অতিরিক্ত ফাইল template.json নিম্নলিখিত মত দেখাচ্ছে:

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. " "Write a response that appropriately completes the request.nn" "### Instruction:n{instruction}nn### Input:n{context}nn", "completion": " {response}",
}

প্রশিক্ষণের জন্য সমর্থিত হাইপারপ্যারামিটার

Llama 2 ফাইন-টিউনিং বেশ কয়েকটি হাইপারপ্যারামিটার সমর্থন করে, যার প্রতিটি মেমরির প্রয়োজনীয়তা, প্রশিক্ষণের গতি এবং সূক্ষ্ম-টিউনড মডেলের কর্মক্ষমতাকে প্রভাবিত করতে পারে:

• কাল - প্রশিক্ষণ ডেটাসেটের মাধ্যমে ফাইন-টিউনিং অ্যালগরিদম যে পাসগুলি নেয়। 1 এর থেকে বড় একটি পূর্ণসংখ্যা হতে হবে। ডিফল্ট হল 5।
• শেখার_হার - প্রশিক্ষণ উদাহরণের প্রতিটি ব্যাচের মাধ্যমে কাজ করার পরে মডেলের ওজনগুলি যে হারে আপডেট করা হয়। 0-এর চেয়ে বড় একটি ধনাত্মক ফ্লোট হতে হবে। ডিফল্ট হল 1e-4।
• instruction_tuned - মডেলটিকে নির্দেশনা-প্রশিক্ষণ দিতে হবে কি না। অবশ্যই 'True'বা'False' ডিফল্ট হল 'False'.
• প্রতি_ডিভাইস_ট্রেন_ব্যাচ_সাইজ - প্রশিক্ষণের জন্য GPU কোর/CPU প্রতি ব্যাচের আকার। একটি ধনাত্মক পূর্ণসংখ্যা হতে হবে। ডিফল্ট হল 4।
• per_device_eval_batch_size - মূল্যায়নের জন্য GPU কোর/CPU প্রতি ব্যাচের আকার। একটি ধনাত্মক পূর্ণসংখ্যা হতে হবে। ডিফল্ট হল 1।
• max_train_samples – ডিবাগিং উদ্দেশ্যে বা দ্রুত প্রশিক্ষণের জন্য, প্রশিক্ষণের উদাহরণের সংখ্যা এই মান থেকে ছেঁটে দিন। মান -1 মানে প্রশিক্ষণের সমস্ত নমুনা ব্যবহার করা। একটি ধনাত্মক পূর্ণসংখ্যা বা -1 হতে হবে। ডিফল্ট হল -1।
• সর্বোচ্চ_ভাল_নমুনা - ডিবাগিং উদ্দেশ্যে বা দ্রুত প্রশিক্ষণের জন্য, এই মানটিতে বৈধকরণ উদাহরণের সংখ্যা ছেঁটে দিন। মান -1 মানে সমস্ত বৈধকরণ নমুনা ব্যবহার করা। একটি ধনাত্মক পূর্ণসংখ্যা বা -1 হতে হবে। ডিফল্ট হল -1।
• সর্বাধিক_ইনপুট_দৈর্ঘ্য - টোকেনাইজেশনের পরে সর্বাধিক মোট ইনপুট ক্রম দৈর্ঘ্য। এর থেকে দীর্ঘ ক্রমগুলি কাটা হবে৷ যদি -1, max_input_length টোকেনাইজার দ্বারা সংজ্ঞায়িত সর্বনিম্ন 1024 এবং সর্বাধিক মডেল দৈর্ঘ্য সেট করা হয়। যদি একটি ইতিবাচক মান সেট করা হয়, max_input_length প্রদত্ত মানের সর্বনিম্ন সেট করা হয় এবং model_max_length টোকেনাইজার দ্বারা সংজ্ঞায়িত। একটি ধনাত্মক পূর্ণসংখ্যা বা -1 হতে হবে। ডিফল্ট হল -1।
• বৈধতা_বিভাজন_অনুপাত - যদি বৈধতা চ্যানেল হয় none, ট্রেন ডেটা থেকে ট্রেন-ভ্যালিডেশন স্প্লিটের অনুপাত 0-1 এর মধ্যে হতে হবে। ডিফল্ট 0.2।
• ট্রেন_ডেটা_বিভক্ত_বীজ - যদি বৈধতা ডেটা উপস্থিত না থাকে, তাহলে এটি অ্যালগরিদম দ্বারা ব্যবহৃত প্রশিক্ষণ এবং বৈধতা ডেটাতে ইনপুট প্রশিক্ষণ ডেটার এলোমেলো বিভাজন ঠিক করে৷ একটি পূর্ণসংখ্যা হতে হবে. ডিফল্ট 0।
• প্রিপ্রসেসিং_সংখ্যা_কর্মী - প্রিপ্রসেসিংয়ের জন্য ব্যবহার করার জন্য প্রসেসের সংখ্যা। যদি None, প্রধান প্রক্রিয়া preprocessing জন্য ব্যবহৃত হয়. ডিফল্ট হয় None.
• lora_r - Lora R. একটি ধনাত্মক পূর্ণসংখ্যা হতে হবে। ডিফল্ট 8।
• lora_alpha - লোরা আলফা। একটি ধনাত্মক পূর্ণসংখ্যা হতে হবে। ডিফল্ট হল 32
• lora_dropout - লোরা ড্রপআউট। 0 এবং 1 এর মধ্যে একটি ইতিবাচক ফ্লোট হওয়া আবশ্যক। ডিফল্ট হল 0.05।
• int8_পরিমাণকরণ - যদি True, মডেলটি প্রশিক্ষণের জন্য 8-বিট নির্ভুলতার সাথে লোড করা হয়। 7B এবং 13B এর জন্য ডিফল্ট False. 70B এর জন্য ডিফল্ট True.
• enable_fsdp - যদি True, প্রশিক্ষণ FSDP ব্যবহার করে। 7B এবং 13B এর জন্য ডিফল্ট True. 70B এর জন্য ডিফল্ট False। মনে রাখবেন যে int8_quantization FSDP এর সাথে সমর্থিত নয়।

উদাহরণ প্রকার এবং সামঞ্জস্যপূর্ণ হাইপারপ্যারামিটার

ফাইন-টিউনিংয়ের সময় মেমরির প্রয়োজনীয়তা বিভিন্ন কারণের উপর ভিত্তি করে পরিবর্তিত হতে পারে:

• মডেলের ধরন – 7B মডেলের সর্বনিম্ন GPU মেমরির প্রয়োজন এবং 70B-এর মেমরির প্রয়োজন সবচেয়ে বেশি
• সর্বোচ্চ ইনপুট দৈর্ঘ্য - ইনপুট দৈর্ঘ্যের একটি উচ্চ মান এক সময়ে আরও টোকেন প্রক্রিয়াকরণের দিকে পরিচালিত করে এবং এর জন্য আরও CUDA মেমরির প্রয়োজন হয়
• ব্যাচ আকার - একটি বড় ব্যাচের আকারের জন্য বৃহত্তর CUDA মেমরির প্রয়োজন এবং সেইজন্য বড় ধরনের উদাহরণের প্রয়োজন
• Int8 কোয়ান্টাইজেশন - যদি Int8 কোয়ান্টাইজেশন ব্যবহার করা হয়, মডেলটি কম নির্ভুলতায় লোড হয় এবং তাই কম CUDA মেমরির প্রয়োজন হয়

আপনাকে শুরু করতে সাহায্য করার জন্য, আমরা বিভিন্ন দৃষ্টান্তের ধরন, হাইপারপ্যারামিটার এবং মডেল প্রকারের সংমিশ্রণের একটি সেট সরবরাহ করি যা সফলভাবে সূক্ষ্ম-টিউন করা যেতে পারে। আপনি আপনার প্রয়োজনীয়তা এবং উদাহরণ প্রকারের প্রাপ্যতা অনুযায়ী একটি কনফিগারেশন নির্বাচন করতে পারেন। আমরা সারসংক্ষেপ উদাহরণ সহ ডলি ডেটাসেটের একটি উপসেটে তিনটি যুগের সাথে বিভিন্ন সেটিংসে তিনটি মডেলকে ফাইন-টিউন করি।

7B মডেল

নিম্নলিখিত সারণীটি 7B মডেলের ফাইন-টিউনিং বিকল্পগুলির সংক্ষিপ্ত বিবরণ দেয়৷

13B

নিম্নলিখিত সারণীটি 13B মডেলের ফাইন-টিউনিং বিকল্পগুলির সংক্ষিপ্ত বিবরণ দেয়৷

70B

নিম্নলিখিত সারণীটি 70B মডেলের ফাইন-টিউনিং বিকল্পগুলির সংক্ষিপ্ত বিবরণ দেয়৷

উদাহরণের ধরন এবং হাইপারপ্যারামিটারের উপর সুপারিশ

মডেলের নির্ভুলতা ফাইন-টিউনিং করার সময়, নিম্নলিখিতগুলি মনে রাখবেন:

• বড় মডেল যেমন 70B 7B থেকে ভালো পারফরম্যান্স প্রদান করে
• Int8 কোয়ান্টাইজেশন ছাড়া পারফরম্যান্স INT8 কোয়ান্টাইজেশনের সাথে পারফরম্যান্সের চেয়ে ভাল

নিম্নলিখিত প্রশিক্ষণ সময় এবং CUDA মেমরি প্রয়োজনীয়তা নোট করুন:

• বিন্যাস int8_quantization=True মেমরির প্রয়োজনীয়তা হ্রাস করে এবং দ্রুত প্রশিক্ষণের দিকে পরিচালিত করে।
• কমে per_device_train_batch_size এবং max_input_length মেমরির প্রয়োজনীয়তা হ্রাস করে এবং তাই ছোট ক্ষেত্রে চালানো যেতে পারে। যাইহোক, খুব কম মান সেট করা প্রশিক্ষণের সময় বাড়িয়ে দিতে পারে।
• আপনি যদি Int8 কোয়ান্টাইজেশন ব্যবহার না করেন (int8_quantization=False), FSDP ব্যবহার করুন (enable_fsdp=True) দ্রুত এবং দক্ষ প্রশিক্ষণের জন্য।

উদাহরণ টাইপ নির্বাচন করার সময়, নিম্নলিখিত বিবেচনা করুন:

• G5 দৃষ্টান্ত সমর্থিত উদাহরণ প্রকারের মধ্যে সবচেয়ে দক্ষ প্রশিক্ষণ প্রদান করে। অতএব, যদি আপনার কাছে G5 দৃষ্টান্ত উপলব্ধ থাকে, তাহলে আপনার সেগুলি ব্যবহার করা উচিত।
• প্রশিক্ষণের সময় মূলত নির্ভর করে GPU এর সংখ্যা এবং উপলব্ধ CUDA মেমরির উপর। তাই, একই সংখ্যক জিপিইউ সহ উদাহরণের প্রশিক্ষণ (উদাহরণস্বরূপ, ml.g5.2xlarge এবং ml.g5.4xlarge) মোটামুটি একই। অতএব, আপনি প্রশিক্ষণের জন্য সস্তা উদাহরণ ব্যবহার করতে পারেন (ml.g5.2xlarge)।
• p3 দৃষ্টান্ত ব্যবহার করার সময়, প্রশিক্ষণ 32-বিট নির্ভুলতার সাথে সম্পন্ন করা হবে কারণ এই উদাহরণগুলিতে bfloat16 সমর্থিত নয়। তাই, প্রশিক্ষণের কাজটি g3 দৃষ্টান্তের তুলনায় p5 দৃষ্টান্তে প্রশিক্ষণের সময় CUDA মেমরির দ্বিগুণ পরিমাণ খরচ করবে।

প্রতি উদাহরণে প্রশিক্ষণের খরচ সম্পর্কে জানতে, পড়ুন Amazon EC2 G5 দৃষ্টান্ত.

যদি ডেটাসেটটি নির্দেশনা টিউনিং বিন্যাসে থাকে এবং ইনপুট+সম্পূর্ণতা ক্রমগুলি ছোট হয় (যেমন 50-100 শব্দ), তাহলে এর উচ্চ মান max_input_length খুব খারাপ কর্মক্ষমতা বাড়ে. এই প্যারামিটারের ডিফল্ট মান হল -1, যা এর সাথে মিলে যায় max_input_length লামা মডেলের জন্য 2048 সালের। অতএব, আমরা সুপারিশ করি যে যদি আপনার ডেটাসেটে ছোট নমুনা থাকে তবে এর জন্য একটি ছোট মান ব্যবহার করুন max_input_length (যেমন 200-400)।

অবশেষে, G5 দৃষ্টান্তগুলির উচ্চ চাহিদার কারণে, আপনি ত্রুটি সহ আপনার অঞ্চলে এই উদাহরণগুলির অনুপলব্ধতা অনুভব করতে পারেন “CapacityError: Unable to provision requested ML compute capacity. Please retry using a different ML instance type.” আপনি যদি এই ত্রুটিটি অনুভব করেন, প্রশিক্ষণের কাজটি আবার চেষ্টা করুন বা একটি ভিন্ন অঞ্চল চেষ্টা করুন৷

খুব বড় মডেলের ফাইন-টিউনিং করার সময় সমস্যা

এই বিভাগে, আমরা খুব বড় মডেলের ফাইন-টিউনিং করার সময় দুটি বিষয় নিয়ে আলোচনা করি।

আউটপুট কম্প্রেশন অক্ষম করুন

ডিফল্টরূপে, একটি প্রশিক্ষণ কাজের আউটপুট হল একটি প্রশিক্ষিত মডেল যা Amazon S3 এ আপলোড করার আগে .tar.gz ফরম্যাটে সংকুচিত হয়। যাইহোক, মডেলের বড় আকারের কারণে, এই পদক্ষেপটি দীর্ঘ সময় নিতে পারে। উদাহরণস্বরূপ, 70B মডেলটি সংকুচিত এবং আপলোড করতে 4 ঘন্টার বেশি সময় লাগতে পারে৷ এই সমস্যাটি এড়াতে, আপনি SageMaker প্রশিক্ষণ প্ল্যাটফর্ম দ্বারা সমর্থিত অক্ষম আউটপুট কম্প্রেশন বৈশিষ্ট্য ব্যবহার করতে পারেন। এই ক্ষেত্রে, মডেলটি কোনো কম্প্রেশন ছাড়াই আপলোড করা হয়, যা আরও স্থাপনের জন্য ব্যবহার করা হয়:

estimator = JumpStartEstimator(
model_id=model_id, environment={"accept_eula": "true"}, disable_output_compression=True
)

সেজমেকার স্টুডিও কার্নেল টাইমআউট সমস্যা

Llama 70B মডেলের আকারের কারণে, প্রশিক্ষণের কাজটি কয়েক ঘন্টা সময় নিতে পারে এবং সেজমেকার স্টুডিও কার্নেল প্রশিক্ষণের পর্যায়ে মারা যেতে পারে। তবে, এই সময়ের মধ্যে, সেজমেকারে এখনও প্রশিক্ষণ চলছে। যদি এটি ঘটে, আপনি এখনও নিম্নলিখিত কোড সহ প্রশিক্ষণ কাজের নাম ব্যবহার করে শেষ পয়েন্ট স্থাপন করতে পারেন:

from sagemaker.jumpstart.estimator import JumpStartEstimator
training_job_name = <<<INSERT_TRAINING_JOB_NAME>>> attached_estimator = JumpStartEstimator.attach(training_job_name, model_id)
attached_estimator.logs()
attached_estimator.deploy()

প্রশিক্ষণ কাজের নাম খুঁজতে, SageMaker কনসোলে এবং নীচে নেভিগেট করুন প্রশিক্ষণ নেভিগেশন ফলকে, নির্বাচন করুন প্রশিক্ষণ কাজ. প্রশিক্ষণ কাজের নাম চিহ্নিত করুন এবং পূর্ববর্তী কোডে এটি প্রতিস্থাপন করুন।

উপসংহার

এই পোস্টে, আমরা সেজমেকার জাম্পস্টার্ট ব্যবহার করে মেটার লামা 2 মডেলের ফাইন-টিউনিং নিয়ে আলোচনা করেছি। আমরা দেখিয়েছি যে আপনি SageMaker স্টুডিওতে SageMaker জাম্পস্টার্ট কনসোল বা SageMaker Python SDK ব্যবহার করতে পারেন এই মডেলগুলিকে সূক্ষ্ম-টিউন করতে এবং স্থাপন করতে। আমরা ফাইন-টিউনিং কৌশল, উদাহরণের ধরন এবং সমর্থিত হাইপারপ্যারামিটার নিয়েও আলোচনা করেছি। উপরন্তু, আমরা বিভিন্ন পরীক্ষা-নিরীক্ষার উপর ভিত্তি করে অপ্টিমাইজড প্রশিক্ষণের জন্য সুপারিশগুলি তুলে ধরেছি। দুটি ডেটাসেটের উপর তিনটি মডেলের ফাইন-টিউনিংয়ের ফলাফল এই পোস্টের শেষে পরিশিষ্টে দেখানো হয়েছে। আমরা এই ফলাফলগুলি থেকে দেখতে পাচ্ছি, ফাইন-টিউনিং নন-ফাইন-টিউনড মডেলের তুলনায় সারসংক্ষেপকে উন্নত করে। পরবর্তী পদক্ষেপ হিসাবে, আপনি আপনার ব্যবহারের ক্ষেত্রে ফলাফলগুলি পরীক্ষা এবং বেঞ্চমার্ক করার জন্য GitHub সংগ্রহস্থলে প্রদত্ত কোড ব্যবহার করে আপনার নিজস্ব ডেটাসেটে এই মডেলগুলিকে ফাইন-টিউন করার চেষ্টা করতে পারেন।

লেখকরা ক্রিস্টোফার হুইটেন, জিন হুয়াং, কাইল উলরিচ, সিফেই লি, অ্যামি ইউ, অ্যাডাম কোজড্রোভিজ, ইভান ক্রাভিটজ, বেঞ্জামিন ক্র্যাবট্রি, হাওটিয়ান আন, মানান শাহ, টনি ক্রুজ, এরনেভ শর্মা, জোনাথন গুইনেগেন এবং জুনের প্রযুক্তিগত অবদানের স্বীকৃতি দিতে চান। জিতেছে।

লেখক সম্পর্কে

বিবেক মদন ড অ্যামাজন সেজমেকার জাম্পস্টার্ট দলের একজন ফলিত বিজ্ঞানী। তিনি আরবানা-চ্যাম্পেইনের ইলিনয় বিশ্ববিদ্যালয় থেকে তার পিএইচডি পেয়েছিলেন এবং জর্জিয়া টেকের পোস্ট ডক্টরাল গবেষক ছিলেন। তিনি মেশিন লার্নিং এবং অ্যালগরিদম ডিজাইনের একজন সক্রিয় গবেষক এবং EMNLP, ICLR, COLT, FOCS এবং SODA কনফারেন্সে গবেষণাপত্র প্রকাশ করেছেন।

ফারুক সাবির ডা AWS-এর একজন সিনিয়র আর্টিফিশিয়াল ইন্টেলিজেন্স এবং মেশিন লার্নিং স্পেশালিস্ট সলিউশন আর্কিটেক্ট। তিনি অস্টিনের টেক্সাস বিশ্ববিদ্যালয় থেকে ইলেকট্রিক্যাল ইঞ্জিনিয়ারিংয়ে পিএইচডি এবং এমএস ডিগ্রি এবং জর্জিয়া ইনস্টিটিউট অফ টেকনোলজি থেকে কম্পিউটার সায়েন্সে এমএস ডিগ্রি অর্জন করেছেন। তার 15 বছরেরও বেশি কাজের অভিজ্ঞতা রয়েছে এবং তিনি কলেজের শিক্ষার্থীদের পড়াতে ও পরামর্শ দিতে পছন্দ করেন। AWS-এ, তিনি গ্রাহকদের ডেটা সায়েন্স, মেশিন লার্নিং, কম্পিউটার ভিশন, কৃত্রিম বুদ্ধিমত্তা, সংখ্যাসূচক অপ্টিমাইজেশান এবং সম্পর্কিত ডোমেনে তাদের ব্যবসায়িক সমস্যাগুলি তৈরি করতে এবং সমাধান করতে সহায়তা করেন৷ ডালাস, টেক্সাসে অবস্থিত, তিনি এবং তার পরিবার ভ্রমণ করতে এবং দীর্ঘ সড়ক ভ্রমণে যেতে পছন্দ করেন।

আশিস খেতান ড Amazon SageMaker JumpStart-এর একজন সিনিয়র অ্যাপ্লাইড সায়েন্টিস্ট এবং মেশিন লার্নিং অ্যালগরিদম ডেভেলপ করতে সাহায্য করে৷ তিনি ইউনিভার্সিটি অফ ইলিনয় আরবানা-চ্যাম্পেইন থেকে পিএইচডি লাভ করেন। তিনি মেশিন লার্নিং এবং পরিসংখ্যানগত অনুমানের একজন সক্রিয় গবেষক এবং নিউরিআইপিএস, আইসিএমএল, আইসিএলআর, জেএমএলআর, এসিএল এবং ইএমএনএলপি সম্মেলনে অনেক গবেষণাপত্র প্রকাশ করেছেন।

উপাঙ্গ

এই পরিশিষ্ট কর্মক্ষমতা বেঞ্চমার্কিং এবং ডেটাসেট বিন্যাস সম্পর্কে অতিরিক্ত তথ্য প্রদান করে।

কর্মক্ষমতা বেঞ্চমার্কিং

এই বিভাগে, আমরা দুটি ভিন্ন ডেটাসেটে তিনটি Llama 2 মডেল (7B, 13B, এবং 70B) সূক্ষ্ম-টিউন করার ফলাফল প্রদান করি: ক্ষুদ্র পুতুলের মত এবং ডায়ালগসাম. ডলি ডেটাসেটের জন্য, আমাদের কাজ হল পাঠ্যের একটি অনুচ্ছেদের সংক্ষিপ্তকরণ করা, যেখানে ডায়ালগসামের জন্য, আমরা দুটি ব্যক্তির মধ্যে আলোচনার সংক্ষিপ্তসারের জন্য মডেলটিকে সূক্ষ্ম-টিউনিং করছি৷ নিম্নলিখিত সারণীতে, আমরা মডেলের ইনপুট (প্রম্পট এবং নির্দেশাবলী), গ্রাউন্ড ট্রুথ (সারাংশ), প্রাক-প্রশিক্ষিত লামা 2 মডেলের প্রতিক্রিয়া এবং তিনটি লামার প্রতিটির জন্য সূক্ষ্ম-টিউন করা লামা 2 মডেল থেকে প্রতিক্রিয়া দেখাই। 2 মডেল। আমরা পাঁচটি ডেটা পয়েন্টের জন্য অনুমান ফলাফল দেখাই। আপনি নিম্নলিখিত সারণীগুলি থেকে লক্ষ্য করতে পারেন যে যখন আমরা মডেলগুলিকে সূক্ষ্ম-টিউন করি তখন উভয় ডেটাসেটের জন্য সারাংশগুলি উন্নত হয়৷

• ডলি ডেটাসেটে Llama 2 7B টেক্সট জেনারেশন মডেলকে ফাইন-টিউন করার ফলাফল:

• ডলি ডেটাসেটে Llama 2 13B টেক্সট জেনারেশন মডেলকে ফাইন-টিউন করার ফলাফল:

• ডলি ডেটাসেটে Llama 2 70B টেক্সট জেনারেশন মডেলকে ফাইন-টিউন করার ফলাফল:

• ডায়ালগসাম ডেটাসেটে Llama 2 7B টেক্সট জেনারেশন মডেলকে ফাইন-টিউন করার ফলাফল:

• ডায়ালগসাম ডেটাসেটে Llama-2 13B মডেলটিকে ফাইন-টিউন করার ফলাফল:

• ডায়ালগসাম ডেটাসেটে Llama 2 70B মডেলকে ফাইন-টিউন করার ফলাফল:

ডেটাসেট বিন্যাস

আমরা বর্তমানে দুটি ধরণের ফাইন-টিউনিং অফার করি: নির্দেশনা ফাইন-টিউনিং এবং ডোমেন অভিযোজন ফাইন-টিউনিং। প্যারামিটার উল্লেখ করে আপনি সহজেই প্রশিক্ষণ পদ্ধতির একটিতে যেতে পারেন instruction_tuned হিসাবে 'True'বা'False'.

ডোমেন অভিযোজন বিন্যাস

যেকোন ডোমেন-নির্দিষ্ট ডেটাসেটে টেক্সট জেনারেশন মডেলটি সূক্ষ্ম-টিউন করা যেতে পারে। এটি ডোমেন-নির্দিষ্ট ডেটাসেটে সূক্ষ্ম-টিউন করার পরে, মডেলটি ডোমেন-নির্দিষ্ট পাঠ্য তৈরি করবে এবং কয়েকটি-শট প্রম্পটিং সহ সেই নির্দিষ্ট ডোমেনে বিভিন্ন NLP কাজগুলি সমাধান করবে বলে আশা করা হচ্ছে।

মডেল ইনপুট জন্য, একটি প্রশিক্ষণ এবং ঐচ্ছিক বৈধতা ডিরেক্টরি ব্যবহার করুন. প্রতিটি ডিরেক্টরিতে একটি CSV, JSON, বা TXT ফাইল থাকে। CSV এবং JSON ফাইলের জন্য, ট্রেন বা বৈধতা ডেটা টেক্সট নামক কলাম থেকে বা প্রথম কলাম থেকে ব্যবহার করা হয় যদি কোন কলাম না থাকে text পাওয়া. ট্রেন এবং যাচাইকরণের অধীনে ফাইলের সংখ্যা (যদি প্রদান করা হয়) যথাক্রমে 1 এর সমান হওয়া উচিত।

আউটপুট একটি প্রশিক্ষিত মডেল যা অনুমানের জন্য স্থাপন করা যেতে পারে।

টেক্সট জেনারেশন মডেলকে সূক্ষ্ম-টিউন করার জন্য নিম্নলিখিতটি একটি TXT ফাইলের উদাহরণ। TXT ফাইল হল 2021-2022 সাল থেকে Amazon-এর SEC ফাইলিং:

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions. Forward-looking
statements are based on current expectations and assumptions that are subject
to risks and uncertainties that may cause actual results to differ materially.
We describe risks and uncertainties that could cause actual results and events
to differ materially in “Risk Factors,” “Management’s Discussion and Analysis
of Financial Condition and Results of Operations,” and “Quantitative and
Qualitative Disclosures about Market Risk” (Part II, Item 7A of this Form
10-K). Readers are cautioned not to place undue reliance on forward-looking
statements, which speak only as of the date they are made. We undertake no
obligation to update or revise publicly any forward-looking statements,
whether because of new information, future events, or otherwise. GENERAL Embracing Our Future ...

নির্দেশনা ফাইন-টিউনিং

টেক্সট জেনারেশন মডেল যেকোন টেক্সট ডেটার উপর নির্দেশনা-টিউন করা যেতে পারে যদি ডেটা প্রত্যাশিত বিন্যাসে থাকে। অনুমানের জন্য নির্দেশ-সুরিত মডেলটি আরও স্থাপন করা যেতে পারে।

ইনপুট জন্য, একটি প্রশিক্ষণ এবং ঐচ্ছিক বৈধতা ডিরেক্টরি ব্যবহার করুন. ট্রেন এবং যাচাইকরণ ডিরেক্টরিতে এক বা একাধিক JSON লাইন (.jsonl) ফর্ম্যাট করা ফাইল থাকা উচিত। বিশেষ করে, ট্রেন ডিরেক্টরিতে ইনপুট এবং আউটপুট ফর্ম্যাটগুলি বর্ণনা করে একটি ঐচ্ছিক *.json ফাইল থাকতে পারে।

প্রতিটি যুগের শেষে গণনা করা বৈধতা ক্ষতি অনুসারে সেরা মডেলটি নির্বাচন করা হয়। যদি একটি বৈধতা সেট দেওয়া না হয়, প্রশিক্ষণের ডেটার একটি (নিয়ন্ত্রণযোগ্য) শতাংশ স্বয়ংক্রিয়ভাবে বিভক্ত হয় এবং বৈধতার জন্য ব্যবহার করা হয়।

প্রশিক্ষণের ডেটা অবশ্যই একটি JSON লাইন (.jsonl) ফর্ম্যাটে ফর্ম্যাট করা উচিত, যেখানে প্রতিটি লাইন একটি একক ডেটা নমুনা উপস্থাপন করে একটি অভিধান। সমস্ত প্রশিক্ষণ তথ্য একটি একক ফোল্ডারে থাকতে হবে; তবে, এটি একাধিক .jsonl ফাইলে সংরক্ষণ করা যেতে পারে। .jsonl ফাইল এক্সটেনশন বাধ্যতামূলক। প্রশিক্ষণ ফোল্ডারে একটি থাকতে পারে template.json ফাইল ইনপুট এবং আউটপুট বিন্যাস বর্ণনা. যদি কোনো টেমপ্লেট ফাইল না দেওয়া হয়, তাহলে নিম্নলিখিত টেমপ্লেটটি ব্যবহার করা হবে:

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:n{instruction}nn### Input:n{context}`, "completion": "{response}",
}

এই ক্ষেত্রে, JSON লাইন এন্ট্রির ডেটা অবশ্যই অন্তর্ভুক্ত করতে হবে prompt এবং completion ক্ষেত্র একটি কাস্টম টেমপ্লেট প্রদান করা হলে, এটি ব্যবহার করা আবশ্যক prompt এবং completion ইনপুট এবং আউটপুট টেমপ্লেট সংজ্ঞায়িত করার জন্য কী। নিম্নলিখিত একটি নমুনা কাস্টম টেমপ্লেট:

{ "prompt": "question: {question} context: {context}", "completion": "{answer}"
}

এখানে, JSON লাইন এন্ট্রির ডেটা অবশ্যই অন্তর্ভুক্ত করতে হবে question, context, এবং answer ক্ষেত্র।

আউটপুট একটি প্রশিক্ষিত মডেল যা অনুমানের জন্য স্থাপন করা যেতে পারে।

আমরা অ্যামাজনের এসইসি ফাইলিং ডেটার একটি উপসেট প্রদান করি। এটি সর্বজনীনভাবে উপলব্ধ থেকে ডাউনলোড করা হয় এডগার. ডেটা অ্যাক্সেস করার নির্দেশাবলীর জন্য, পড়ুন EDGAR ডেটা অ্যাক্সেস করা হচ্ছে.

লাইসেন্স: Creative Commons Attribution-ShareAlike লাইসেন্স (CC BY-SA 4.0)

• এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
• PlatoData.Network উল্লম্ব জেনারেটিভ Ai. নিজেকে ক্ষমতায়িত করুন। এখানে প্রবেশ করুন.
• প্লেটোএআইস্ট্রিম। Web3 ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
• প্লেটোইএসজি। মোটরগাড়ি / ইভি, কার্বন, ক্লিনটেক, শক্তি, পরিবেশ সৌর, বর্জ্য ব্যবস্থাপনা. এখানে প্রবেশ করুন.
• প্লেটো হেলথ। বায়োটেক এবং ক্লিনিক্যাল ট্রায়াল ইন্টেলিজেন্স। এখানে প্রবেশ করুন.
• চার্টপ্রাইম। ChartPrime এর সাথে আপনার ট্রেডিং গেমটি উন্নত করুন। এখানে প্রবেশ করুন.
• ব্লকঅফসেট। পরিবেশগত অফসেট মালিকানার আধুনিকীকরণ। এখানে প্রবেশ করুন.
• উত্স: https://aws.amazon.com/blogs/machine-learning/fine-tune-llama-2-for-text-generation-on-amazon-sagemaker-jumpstart/