Amazon Bedrock کے لیے نالج بیسز اب RetrieveAndGenerate API کے لیے حسب ضرورت پرامپٹس اور بازیافت شدہ نتائج کی زیادہ سے زیادہ تعداد کی ترتیب کو سپورٹ کرتا ہے۔ ایمیزون ویب سروسز

ساتھ ایمیزون بیڈرک کے لیے نالج بیسز، آپ فاؤنڈیشن ماڈلز (FMs) کو محفوظ طریقے سے جوڑ سکتے ہیں۔ ایمیزون بیڈرک Retrieval Augmented Generation (RAG) کے لیے آپ کی کمپنی کے ڈیٹا تک۔ اضافی ڈیٹا تک رسائی ماڈل کو FMs کو دوبارہ تربیت دیے بغیر زیادہ متعلقہ، سیاق و سباق کے مطابق، اور درست جوابات پیدا کرنے میں مدد دیتی ہے۔

اس پوسٹ میں، ہم ایمیزون بیڈرک کے لیے نالج بیسز کی دو نئی خصوصیات پر بات کرتے ہیں۔ RetrieveAndGenerate API: نتائج کی زیادہ سے زیادہ تعداد کو ترتیب دینا اور نالج بیس پرامپٹ ٹیمپلیٹ کے ساتھ حسب ضرورت پرامپٹس بنانا۔ اب آپ ان کو تلاش کی قسم کے ساتھ سوال کے اختیارات کے طور پر منتخب کر سکتے ہیں۔

نئی خصوصیات کا جائزہ اور فوائد

نتائج کی زیادہ سے زیادہ تعداد آپ کو ویکٹر اسٹور سے حاصل کیے جانے والے تلاش کے نتائج کی تعداد پر کنٹرول فراہم کرتی ہے اور جواب تیار کرنے کے لیے FM کو بھیجی جاتی ہے۔ یہ آپ کو نسل کے لیے فراہم کردہ پس منظر کی معلومات کی مقدار کو حسب ضرورت بنانے کی اجازت دیتا ہے، اس طرح پیچیدہ سوالات کے لیے زیادہ سیاق و سباق یا آسان سوالات کے لیے کم۔ یہ آپ کو 100 تک نتائج حاصل کرنے کی اجازت دیتا ہے۔ یہ آپشن متعلقہ سیاق و سباق کے امکانات کو بہتر بنانے میں مدد کرتا ہے، اس طرح درستگی کو بہتر بناتا ہے اور پیدا ہونے والے ردعمل کے فریب کو کم کرتا ہے۔

حسب ضرورت نالج بیس پرامپٹ ٹیمپلیٹ آپ کو پہلے سے طے شدہ پرامپٹ ٹیمپلیٹ کو اپنی مرضی کے مطابق تبدیل کرنے کی اجازت دیتا ہے تاکہ ردعمل پیدا کرنے کے لیے ماڈل کو بھیجے جانے والے پرامپٹ کو حسب ضرورت بنایا جا سکے۔ یہ آپ کو FM کے ٹون، آؤٹ پٹ فارمیٹ، اور رویے کو اپنی مرضی کے مطابق کرنے کی اجازت دیتا ہے جب یہ صارف کے سوال کا جواب دیتا ہے۔ اس اختیار کے ساتھ، آپ اپنی صنعت یا ڈومین (جیسے صحت کی دیکھ بھال یا قانونی) سے بہتر طور پر مماثل اصطلاحات کو ٹھیک کر سکتے ہیں۔ مزید برآں، آپ اپنے مخصوص ورک فلو کے مطابق حسب ضرورت ہدایات اور مثالیں شامل کر سکتے ہیں۔

مندرجہ ذیل حصوں میں، ہم وضاحت کرتے ہیں کہ آپ ان خصوصیات کو کس طرح استعمال کر سکتے ہیں۔ AWS مینجمنٹ کنسول یا SDK۔

شرائط

ان مثالوں کی پیروی کرنے کے لیے، آپ کے پاس موجودہ علمی بنیاد ہونا ضروری ہے۔ ایک بنانے کے لیے ہدایات کے لیے، دیکھیں علم کی بنیاد بنائیں.

کنسول کا استعمال کرتے ہوئے نتائج کی زیادہ سے زیادہ تعداد کو ترتیب دیں۔

کنسول کا استعمال کرتے ہوئے نتائج کے اختیارات کی زیادہ سے زیادہ تعداد استعمال کرنے کے لیے، درج ذیل مراحل کو مکمل کریں:

1. ایمیزون بیڈرک کنسول پر، منتخب کریں۔ علم کی بنیادیں۔ بائیں نیوی گیشن پین میں.
2. آپ نے جو علمی بنیاد بنایا ہے اسے منتخب کریں۔
3. میں سے انتخاب کریں علم کی بنیاد کی جانچ کریں۔.
4. کنفیگریشن آئیکن کو منتخب کریں۔
5. میں سے انتخاب کریں ڈیٹا سورس کی مطابقت پذیری کریں۔ اس سے پہلے کہ آپ اپنے علم کی بنیاد کی جانچ شروع کریں۔
   
6. کے تحت ترتیبات، کے لئے تلاش کی قسماپنے استعمال کے کیس کی بنیاد پر تلاش کی قسم منتخب کریں۔

اس پوسٹ کے لیے، ہم ہائبرڈ سرچ کا استعمال کرتے ہیں کیونکہ یہ سیمنٹک اور ٹیکسٹ سرچ کو یکجا کرتا ہے تاکہ زیادہ درستگی فراہم کی جاسکے۔ ہائبرڈ تلاش کے بارے میں مزید جاننے کے لیے، دیکھیں ایمیزون بیڈرک کے لیے علم کی بنیادیں اب ہائبرڈ تلاش کو سپورٹ کرتی ہیں۔.

7. توسیع ماخذ حصوں کی زیادہ سے زیادہ تعداد اور اپنے نتائج کی زیادہ سے زیادہ تعداد سیٹ کریں۔
   

نئی خصوصیت کی قدر کو ظاہر کرنے کے لیے، ہم مثالیں دکھاتے ہیں کہ آپ کس طرح پیدا کردہ جواب کی درستگی کو بڑھا سکتے ہیں۔ ہم نے استعمال کیا ایمیزون 10K دستاویز برائے 2023 علم کی بنیاد بنانے کے لیے ماخذ ڈیٹا کے طور پر۔ ہم تجربہ کے لیے درج ذیل استفسار کا استعمال کرتے ہیں: "کس سال میں Amazon کی سالانہ آمدنی $245B سے $434B تک بڑھ گئی؟"

اس استفسار کا درست جواب یہ ہے کہ "Amazon کی سالانہ آمدنی 245 میں $2019B سے بڑھ کر 434 میں $2022B ہو گئی،" نالج بیس میں موجود دستاویزات کی بنیاد پر۔ ہم نے نالج بیس سے حاصل کردہ سیاق و سباق کی معلومات کی بنیاد پر حتمی ردعمل پیدا کرنے کے لیے FM کے بطور Claude v2 کا استعمال کیا۔ کلاڈ 3 سونیٹ اور کلاڈ 3 ہائیکو بھی جنریشن ایف ایم کے طور پر معاون ہیں۔

ہم نے مختلف کنفیگریشنز کے ساتھ بازیافت کا موازنہ ظاہر کرنے کے لیے ایک اور استفسار کیا۔ ہم نے وہی ان پٹ استفسار استعمال کیا ("کس سال میں Amazon کی سالانہ آمدنی $245B سے $434B تک بڑھ گئی؟") اور نتائج کی زیادہ سے زیادہ تعداد کو 5 پر سیٹ کیا۔

جیسا کہ مندرجہ ذیل اسکرین شاٹ میں دکھایا گیا ہے، پیدا کردہ جواب تھا "معذرت، میں اس درخواست میں آپ کی مدد کرنے سے قاصر ہوں۔"

اگلا، ہم زیادہ سے زیادہ نتائج کو 12 پر سیٹ کرتے ہیں اور وہی سوال پوچھتے ہیں۔ پیدا کردہ جواب ہے "ایمیزون کی سالانہ آمدنی 245 میں $2019B سے بڑھ کر 434 میں $2022B ہو گئی۔"

جیسا کہ اس مثال میں دکھایا گیا ہے، ہم بازیافت شدہ نتائج کی تعداد کی بنیاد پر درست جواب حاصل کرنے کے قابل ہیں۔ اگر آپ ماخذ انتساب کے بارے میں مزید جاننا چاہتے ہیں جو حتمی آؤٹ پٹ کو تشکیل دیتا ہے، تو منتخب کریں۔ ماخذ کی تفصیلات دکھائیں۔ علم کی بنیاد پر پیدا کردہ جواب کی توثیق کرنے کے لیے۔

کنسول کا استعمال کرتے ہوئے نالج بیس پرامپٹ ٹیمپلیٹ کو حسب ضرورت بنائیں

آپ استعمال کے کیس کی بنیاد پر اپنے پرامپٹ کے ساتھ ڈیفالٹ پرامپٹ کو بھی اپنی مرضی کے مطابق بنا سکتے ہیں۔ کنسول پر ایسا کرنے کے لیے، درج ذیل مراحل کو مکمل کریں:

1. اپنے علم کی بنیاد کی جانچ شروع کرنے کے لیے پچھلے حصے میں دیے گئے اقدامات کو دہرائیں۔
2. فعال کریں جوابات تیار کریں۔.
   
3. ردعمل پیدا کرنے کے لیے اپنی پسند کا ماڈل منتخب کریں۔

ہم اس پوسٹ میں Claude v2 ماڈل کو بطور مثال استعمال کرتے ہیں۔ کلاڈ 3 سونیٹ اور ہائیکو ماڈل نسل کے لیے بھی دستیاب ہے۔

4. میں سے انتخاب کریں کا اطلاق کریں آگے بڑھنے کے لئے.
   

ماڈل منتخب کرنے کے بعد، ایک نیا سیکشن کہا جاتا ہے۔ نالج بیس پرامپٹ ٹیمپلیٹ کے تحت ظاہر ہوتا ہے۔ ترتیبات.

5. میں سے انتخاب کریں ترمیم کریں پرامپٹ کو حسب ضرورت بنانا شروع کرنے کے لیے۔
   
6. اپنی مرضی کے مطابق کرنے کے لیے پرامپٹ ٹیمپلیٹ کو ایڈجسٹ کریں کہ آپ بازیافت شدہ نتائج کو کس طرح استعمال کرنا چاہتے ہیں اور مواد تیار کرنا چاہتے ہیں۔

اس پوسٹ کے لیے، ہم نے اپنی مرضی کے اشارے کے ساتھ ایمیزون کی مالی رپورٹس کا استعمال کرتے ہوئے "مالی مشیر AI نظام" بنانے کے لیے چند مثالیں دیں۔ فوری انجینئرنگ کے بہترین طریقوں کے لیے، رجوع کریں۔ فوری انجینئرنگ رہنما خطوط.

اب ہم ڈیفالٹ پرامپٹ ٹیمپلیٹ کو کئی مختلف طریقوں سے اپنی مرضی کے مطابق بناتے ہیں، اور جوابات کا مشاہدہ کرتے ہیں۔

آئیے پہلے ڈیفالٹ پرامپٹ کے ساتھ استفسار کرنے کی کوشش کریں۔ ہم پوچھتے ہیں "2019 اور 2021 میں ایمیزون کی آمدنی کیا تھی؟" درج ذیل ہمارے نتائج دکھاتا ہے۔

آؤٹ پٹ سے، ہمیں معلوم ہوتا ہے کہ یہ بازیافت شدہ علم کی بنیاد پر فری فارم ردعمل پیدا کر رہا ہے۔ حوالہ جات کے لیے حوالہ جات بھی درج ہیں۔

ہم کہتے ہیں کہ ہم اس بارے میں اضافی ہدایات دینا چاہتے ہیں کہ کس طرح تیار کردہ جواب کو فارمیٹ کیا جائے، جیسے اسے JSON کے طور پر معیاری بنانا۔ ہم معلومات کی بازیافت کے بعد ان ہدایات کو ایک الگ قدم کے طور پر شامل کر سکتے ہیں، پرامپٹ ٹیمپلیٹ کے حصے کے طور پر:

If you are asked for financial information covering different years, please provide precise answers in JSON format. Use the year as the key and the concise answer as the value. For example: {year:answer}

حتمی جواب میں مطلوبہ ڈھانچہ ہوتا ہے۔

پرامپٹ کو حسب ضرورت بنا کر، آپ تیار کردہ جواب کی زبان بھی تبدیل کر سکتے ہیں۔ مندرجہ ذیل مثال میں، ہم ماڈل کو ہسپانوی میں جواب فراہم کرنے کی ہدایت کرتے ہیں۔

ہٹانے کے بعد $output_format_instructions$ پہلے سے طے شدہ پرامپٹ سے، تیار کردہ جواب سے حوالہ ہٹا دیا جاتا ہے۔

مندرجہ ذیل حصوں میں، ہم وضاحت کرتے ہیں کہ آپ ان خصوصیات کو SDK کے ساتھ کیسے استعمال کر سکتے ہیں۔

SDK کا استعمال کرتے ہوئے نتائج کی زیادہ سے زیادہ تعداد کو ترتیب دیں۔

SDK کے ساتھ نتائج کی زیادہ سے زیادہ تعداد کو تبدیل کرنے کے لیے، درج ذیل نحو کا استعمال کریں۔ اس مثال کے لیے، سوال یہ ہے کہ "کس سال میں Amazon کی سالانہ آمدنی $245B سے بڑھ کر $434B ہو گئی؟" درست جواب یہ ہے کہ "ایمیزون کی سالانہ آمدنی 245 میں $2019B سے بڑھ کر 434 میں $2022B ہو گئی۔"

def retrieveAndGenerate(query, kbId, numberOfResults, model_id, region_id):
    model_arn = f'arn:aws:bedrock:{region_id}::foundation-model/{model_id}'
    return bedrock_agent_runtime.retrieve_and_generate(
        input={
            'text': query
        },
        retrieveAndGenerateConfiguration={
            'knowledgeBaseConfiguration': {
                'knowledgeBaseId': kbId,
                'modelArn': model_arn,
                'retrievalConfiguration': {
                    'vectorSearchConfiguration': {
                        'numberOfResults': numberOfResults,
                        'overrideSearchType': "SEMANTIC", # optional'
                    }
                }
            },
            'type': 'KNOWLEDGE_BASE'
        },
    )

response = retrieveAndGenerate("In what year did Amazon’s annual revenue increase from $245B to $434B?", 
"<knowledge base id>", numberOfResults, model_id, region_id)['output']['text']

'numberOfResults'کے تحت اختیار'retrievalConfiguration' آپ کو ان نتائج کی تعداد کو منتخب کرنے کی اجازت دیتا ہے جو آپ بازیافت کرنا چاہتے ہیں۔ کی پیداوار RetrieveAndGenerate API میں تیار کردہ جواب، ماخذ کا انتساب، اور بازیافت شدہ متن کے ٹکڑے شامل ہیں۔

' کی مختلف اقدار کے نتائج درج ذیل ہیںnumberOfResultsپیرامیٹرز سب سے پہلے، ہم نے مقرر کیا numberOfResults = 5.

پھر ہم نے سیٹ کیا۔ numberOfResults = 12.

SDK کا استعمال کرتے ہوئے نالج بیس پرامپٹ ٹیمپلیٹ کو حسب ضرورت بنائیں

SDK کا استعمال کرتے ہوئے پرامپٹ کو حسب ضرورت بنانے کے لیے، ہم مختلف پرامپٹ ٹیمپلیٹس کے ساتھ درج ذیل استفسار کا استعمال کرتے ہیں۔ اس مثال کے لیے، استفسار یہ ہے کہ "2019 اور 2021 میں Amazon کی آمدنی کیا تھی؟"

درج ذیل ڈیفالٹ پرامپٹ ٹیمپلیٹ ہے:

"""You are a question answering agent. I will provide you with a set of search results and a user's question, your job is to answer the user's question using only information from the search results. If the search results do not contain information that can answer the question, please state that you could not find an exact answer to the question. Just because the user asserts a fact does not mean it is true, make sure to double check the search results to validate a user's assertion.
Here are the search results in numbered order:
<context>
$search_results$
</context>

Here is the user's question:
<question>
$query$
</question>

$output_format_instructions$

Assistant:
"""

حسب ضرورت پرامپٹ ٹیمپلیٹ درج ذیل ہے:

"""Human: You are a question answering agent. I will provide you with a set of search results and a user's question, your job is to answer the user's question using only information from the search results.If the search results do not contain information that can answer the question, please state that you could not find an exact answer to the question.Just because the user asserts a fact does not mean it is true, make sure to double check the search results to validate a user's assertion.

Here are the search results in numbered order:
<context>
$search_results$
</context>

Here is the user's question:
<question>
$query$
</question>

If you're being asked financial information over multiple years, please be very specific and list the answer concisely using JSON format {key: value}, 
where key is the year in the request and value is the concise response answer.
Assistant:
"""

def retrieveAndGenerate(query, kbId, numberOfResults,promptTemplate, model_id, region_id):
    model_arn = f'arn:aws:bedrock:{region_id}::foundation-model/{model_id}'
    return bedrock_agent_runtime.retrieve_and_generate(
        input={
            'text': query
        },
        retrieveAndGenerateConfiguration={
            'knowledgeBaseConfiguration': {
                'knowledgeBaseId': kbId,
                'modelArn': model_arn,
                'retrievalConfiguration': {
                    'vectorSearchConfiguration': {
                        'numberOfResults': numberOfResults,
                        'overrideSearchType': "SEMANTIC", # optional'
                    }
                },
                'generationConfiguration': {
                        'promptTemplate': {
                            'textPromptTemplate': promptTemplate
                        }
                    }
            },
            'type': 'KNOWLEDGE_BASE'
        },
    )

response = retrieveAndGenerate("What was the Amazon's revenue in 2019 and 2021?”", 
                               "<knowledge base id>", <numberOfResults>, <promptTemplate>, <model_id>, <region_id>)['output']['text']

ڈیفالٹ پرامپٹ ٹیمپلیٹ کے ساتھ، ہمیں درج ذیل جواب ملتا ہے:

اگر آپ رسپانس جنریشن کے آؤٹ پٹ فارمیٹ کے ارد گرد اضافی ہدایات فراہم کرنا چاہتے ہیں، جیسے کسی مخصوص فارمیٹ میں جواب کو معیاری بنانا (جیسے JSON)، آپ مزید رہنمائی فراہم کر کے موجودہ پرامپٹ کو اپنی مرضی کے مطابق بنا سکتے ہیں۔ ہمارے حسب ضرورت پرامپٹ ٹیمپلیٹ کے ساتھ، ہمیں درج ذیل جواب ملتا ہے۔

'promptTemplate'میں آپشن'generationConfiguration' آپ کو جواب کی تیاری پر بہتر کنٹرول کے لیے پرامپٹ کو اپنی مرضی کے مطابق کرنے کی اجازت دیتا ہے۔

نتیجہ

اس پوسٹ میں، ہم نے Amazon Bedrock کے لیے نالج بیسز میں دو نئی خصوصیات متعارف کروائی ہیں: تلاش کے نتائج کی زیادہ سے زیادہ تعداد کو ایڈجسٹ کرنا اور پہلے سے طے شدہ پرامپٹ ٹیمپلیٹ کو حسب ضرورت بنانا RetrieveAndGenerate API ہم نے یہ ظاہر کیا کہ کنسول پر اور SDK کے ذریعے ان خصوصیات کو کس طرح ترتیب دیا جائے تاکہ پیدا کردہ ردعمل کی کارکردگی اور درستگی کو بہتر بنایا جا سکے۔ زیادہ سے زیادہ نتائج میں اضافہ زیادہ جامع معلومات فراہم کرتا ہے، جب کہ پرامپٹ ٹیمپلیٹ کو اپنی مرضی کے مطابق بنانا آپ کو فاؤنڈیشن ماڈل کے لیے مخصوص استعمال کے معاملات کے ساتھ بہتر طور پر ہم آہنگ کرنے کے لیے ہدایات کو ٹھیک کرنے کی اجازت دیتا ہے۔ یہ اضافہ زیادہ لچک اور کنٹرول پیش کرتے ہیں، جو آپ کو RAG پر مبنی ایپلی کیشنز کے لیے موزوں تجربات فراہم کرنے کے قابل بناتے ہیں۔

اپنے AWS ماحول میں لاگو کرنے کے لیے اضافی وسائل کے لیے، درج ذیل کو دیکھیں:

مصنفین کے بارے میں

سندیپ سنگھ۔ Amazon Web Services میں ایک سینئر جنریٹو AI ڈیٹا سائنٹسٹ ہے، جو کاروباروں کو جنریٹو AI کے ساتھ اختراع کرنے میں مدد کرتا ہے۔ وہ جنریٹو AI، مصنوعی ذہانت، مشین لرننگ اور سسٹم ڈیزائن میں مہارت رکھتا ہے۔ وہ متنوع صنعتوں کے لیے پیچیدہ کاروباری مسائل کو حل کرنے، کارکردگی اور اسکیل ایبلٹی کو بہتر بنانے کے لیے جدید ترین AI/ML سے چلنے والے حل تیار کرنے کا پرجوش ہے۔

سوین وانگ AWS میں ایک AI/ML ماہر حل آرکیٹیکٹ ہے۔ اس کے پاس مشین لرننگ، فنانشل انفارمیشن سروس اور اکنامکس میں بین الضابطہ تعلیم کا پس منظر ہے، اس کے ساتھ ساتھ ڈیٹا سائنس اور مشین لرننگ ایپلی کیشنز بنانے کے تجربے کے ساتھ جو حقیقی دنیا کے کاروباری مسائل کو حل کرتی ہیں۔ وہ گاہکوں کو صحیح کاروباری سوالات کی نشاندہی کرنے اور صحیح AI/ML حل تیار کرنے میں مدد کرتی ہے۔ اپنے فارغ وقت میں، وہ گانا اور کھانا پکانا پسند کرتی ہے۔

شیری ڈنگ ایمیزون ویب سروسز (AWS) میں ایک سینئر مصنوعی ذہانت (AI) اور مشین لرننگ (ML) ماہر حل آرکیٹیکٹ ہے۔ وہ کمپیوٹر سائنس میں پی ایچ ڈی کی ڈگری کے ساتھ مشین لرننگ کا وسیع تجربہ رکھتی ہیں۔ وہ بنیادی طور پر پبلک سیکٹر کے صارفین کے ساتھ مختلف AI/ML متعلقہ کاروباری چیلنجز پر کام کرتی ہے، جس سے انہیں AWS کلاؤڈ پر مشین لرننگ کے سفر کو تیز کرنے میں مدد ملتی ہے۔ گاہکوں کی مدد نہ کرنے پر، وہ بیرونی سرگرمیوں سے لطف اندوز ہوتی ہے۔

• SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
• پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
• پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
• پلیٹو ای ایس جی۔ کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
• پلیٹو ہیلتھ۔ بائیوٹیک اینڈ کلینیکل ٹرائلز انٹیلی جنس۔ یہاں تک رسائی حاصل کریں۔
• ماخذ: https://aws.amazon.com/blogs/machine-learning/knowledge-bases-for-amazon-bedrock-now-supports-custom-prompts-for-the-retrieveandgenerate-api-and-configuration-of-the-maximum-number-of-retrieved-results/