Χρησιμοποιήστε το RAG για την ανακάλυψη φαρμάκων με τις Γνωσιακές Βάσεις για το Amazon Bedrock | Υπηρεσίες Ιστού της Amazon

Θεμέλιο του Αμαζονίου παρέχει ένα ευρύ φάσμα μοντέλων από την Amazon και τρίτους παρόχους, συμπεριλαμβανομένων των Anthropic, AI21, Meta, Cohere και Stability AI, και καλύπτει ένα ευρύ φάσμα περιπτώσεων χρήσης, συμπεριλαμβανομένης της δημιουργίας κειμένου και εικόνων, ενσωμάτωσης, συνομιλίας, πρακτόρων υψηλού επιπέδου με συλλογισμό και ενορχήστρωση, και πολλά άλλα. Βάσεις γνώσεων για το Amazon Bedrock σας επιτρέπει να δημιουργήσετε αποδοτικές και προσαρμοσμένες εφαρμογές ανάκτησης επαυξημένης γενιάς (RAG) πάνω από AWS και καταστήματα διανυσμάτων τρίτων χρησιμοποιώντας μοντέλα AWS και τρίτων κατασκευαστών. Το Knowledge Bases for Amazon Bedrock αυτοματοποιεί τον συγχρονισμό των δεδομένων σας με το διανυσματικό σας κατάστημα, συμπεριλαμβανομένης της διαφοράς των δεδομένων κατά την ενημέρωση, τη φόρτωση και την τμηματοποίηση εγγράφων, καθώς και τη σημασιολογική ενσωμάτωση. Σας επιτρέπει να προσαρμόζετε απρόσκοπτα τις προτροπές RAG και τις στρατηγικές ανάκτησης—παρέχουμε την απόδοση της πηγής και χειριζόμαστε αυτόματα τη διαχείριση της μνήμης. Οι Γνωσιακές Βάσεις είναι εντελώς χωρίς διακομιστή, επομένως δεν χρειάζεται να διαχειρίζεστε καμία υποδομή και όταν χρησιμοποιείτε τις Γνωσιακές Βάσεις, χρεώνεστε μόνο για τα μοντέλα, τις διανυσματικές βάσεις δεδομένων και τον χώρο αποθήκευσης που χρησιμοποιείτε.

Το RAG είναι μια δημοφιλής τεχνική που συνδυάζει τη χρήση ιδιωτικών δεδομένων με μεγάλα γλωσσικά μοντέλα (LLM). Το RAG ξεκινά με ένα αρχικό βήμα για την ανάκτηση σχετικών εγγράφων από ένα χώρο αποθήκευσης δεδομένων (συνηθέστερα ένα διανυσματικό ευρετήριο) με βάση το ερώτημα του χρήστη. Στη συνέχεια, χρησιμοποιεί ένα μοντέλο γλώσσας για να δημιουργήσει μια απάντηση λαμβάνοντας υπόψη τόσο τα ανακτημένα έγγραφα όσο και το αρχικό ερώτημα.

Σε αυτήν την ανάρτηση, δείχνουμε πώς να δημιουργήσετε μια ροή εργασίας RAG χρησιμοποιώντας Γνωσιακές Βάσεις για το Amazon Bedrock για μια περίπτωση χρήσης ανακάλυψης ναρκωτικών.

Επισκόπηση των Βάσεων Γνώσης για το Amazon Bedrock

Το Knowledge Bases for Amazon Bedrock υποστηρίζει ένα ευρύ φάσμα κοινών τύπων αρχείων, συμπεριλαμβανομένων των .txt, .docx, .pdf, .csv και άλλων. Για να καταστεί δυνατή η αποτελεσματική ανάκτηση από ιδιωτικά δεδομένα, μια κοινή πρακτική είναι να χωρίζονται πρώτα αυτά τα έγγραφα σε διαχειρίσιμα κομμάτια. Το Knowledge Bases έχει εφαρμόσει μια προεπιλεγμένη στρατηγική τμηματοποίησης που λειτουργεί καλά στις περισσότερες περιπτώσεις για να σας επιτρέψει να ξεκινήσετε πιο γρήγορα. Εάν θέλετε περισσότερο έλεγχο, οι Γνωσιακές Βάσεις σάς επιτρέπουν να ελέγχετε τη στρατηγική τμηματοποίησης μέσω ενός συνόλου προδιαμορφωμένων επιλογών. Μπορείτε να ελέγξετε το μέγιστο μέγεθος διακριτικού και την ποσότητα επικάλυψης που θα δημιουργηθεί μεταξύ των τμημάτων για να παρέχετε συνεκτικό πλαίσιο στην ενσωμάτωση. Το Knowledge Bases for Amazon Bedrock διαχειρίζεται τη διαδικασία συγχρονισμού δεδομένων από το δικό σας Απλή υπηρεσία αποθήκευσης Amazon Ο κάδος (Amazon S3), τον χωρίζει σε μικρότερα κομμάτια, δημιουργεί ενσωματώσεις διανυσμάτων και αποθηκεύει τις ενσωματώσεις σε ένα διανυσματικό ευρετήριο. Αυτή η διαδικασία συνοδεύεται από έξυπνη διαχείριση διαφορών, απόδοσης και αποτυχίας.

Κατά το χρόνο εκτέλεσης, χρησιμοποιείται ένα μοντέλο ενσωμάτωσης για τη μετατροπή του ερωτήματος του χρήστη σε διάνυσμα. Το διανυσματικό ευρετήριο τίθεται στη συνέχεια για να βρει έγγραφα παρόμοια με το ερώτημα του χρήστη συγκρίνοντας διανύσματα εγγράφων με το διάνυσμα ερωτήματος χρήστη. Στο τελικό βήμα, σημασιολογικά παρόμοια έγγραφα που ανακτώνται από το διανυσματικό ευρετήριο προστίθενται ως περιβάλλον για το αρχικό ερώτημα χρήστη. Κατά τη δημιουργία μιας απάντησης για τον χρήστη, τα σημασιολογικά παρόμοια έγγραφα ζητούνται στο μοντέλο κειμένου, μαζί με την απόδοση της πηγής για ιχνηλασιμότητα.

Το Knowledge Bases for Amazon Bedrock υποστηρίζει πολλαπλές διανυσματικές βάσεις δεδομένων, μεταξύ των οποίων Amazon OpenSearch χωρίς διακομιστή, Amazon-Aurora, Pinecone και Redis Enterprise Cloud. Τα API Retrieve και RetrieveAndGenerate επιτρέπουν στις εφαρμογές σας να υποβάλουν απευθείας ερωτήματα στο ευρετήριο χρησιμοποιώντας μια ενοποιημένη και τυπική σύνταξη χωρίς να χρειάζεται να μάθουν ξεχωριστά API για κάθε διαφορετική διανυσματική βάση δεδομένων, μειώνοντας την ανάγκη εγγραφής προσαρμοσμένων ερωτημάτων ευρετηρίου στο διανυσματικό σας κατάστημα. Το Retrieve API λαμβάνει το εισερχόμενο ερώτημα, το μετατρέπει σε διάνυσμα ενσωμάτωσης και υποβάλλει ερώτημα στον χώρο αποθήκευσης υποστήριξης χρησιμοποιώντας τους αλγόριθμους που έχουν διαμορφωθεί σε επίπεδο διανυσματικής βάσης δεδομένων. το RetrieveAndGenerate API χρησιμοποιεί ένα LLM ρυθμισμένο από τον χρήστη που παρέχεται από το Amazon Bedrock και δημιουργεί την τελική απάντηση σε φυσική γλώσσα. Η εγγενής υποστήριξη ιχνηλασιμότητας ενημερώνει την αιτούσα εφαρμογή σχετικά με τις πηγές που χρησιμοποιούνται για την απάντηση μιας ερώτησης. Για εταιρικές υλοποιήσεις, υποστηρίζει το Knowledge Bases Υπηρεσία διαχείρισης κλειδιών AWS κρυπτογράφηση (AWS KMS), AWS CloudTrail ενσωμάτωση και πολλά άλλα.

Στις επόμενες ενότητες, δείχνουμε πώς να δημιουργήσετε μια ροή εργασιών RAG χρησιμοποιώντας Γνωσιακές Βάσεις για το Amazon Bedrock, που υποστηρίζεται από τον διανυσματικό μηχανισμό OpenSearch Serverless, για να αναλύσετε ένα μη δομημένο σύνολο δεδομένων κλινικών δοκιμών για μια περίπτωση χρήσης ανακάλυψης φαρμάκων. Αυτά τα δεδομένα είναι πλούσια σε πληροφορίες, αλλά μπορεί να είναι πολύ ετερογενή. Ο σωστός χειρισμός εξειδικευμένης ορολογίας και εννοιών σε διαφορετικές μορφές είναι απαραίτητος για τον εντοπισμό γνώσεων και τη διασφάλιση της αναλυτικής ακεραιότητας. Με τις Γνωσιακές Βάσεις για το Amazon Bedrock, μπορείτε να έχετε πρόσβαση σε λεπτομερείς πληροφορίες μέσω απλών, φυσικών ερωτημάτων.

Δημιουργήστε μια βάση γνώσεων για το Amazon Bedrock

Σε αυτήν την ενότητα, παρουσιάζουμε τη διαδικασία δημιουργίας μιας βάσης γνώσεων για το Amazon Bedrock μέσω της κονσόλας. Ολοκληρώστε τα παρακάτω βήματα:

1. Στην κονσόλα Amazon Bedrock, κάτω Ορχήστρα στο παράθυρο πλοήγησης, επιλέξτε Βάση γνώσεων.
2. Επιλέξτε Δημιουργήστε βάση γνώσεων.

3. Στο Λεπτομέρειες γνωσιακής βάσης ενότητα, πληκτρολογήστε ένα όνομα και προαιρετική περιγραφή.
4. Στο Δικαιώματα IAM , επιλέξτε Δημιουργήστε και χρησιμοποιήστε έναν νέο ρόλο υπηρεσίας.
5. Για Ρόλος ονόματος υπηρεσίας, εισαγάγετε ένα όνομα για το ρόλο σας, το οποίο πρέπει να ξεκινά με AmazonBedrockExecutionRoleForKnowledgeBase_.
6. Επιλέξτε Επόμενο.

7. Στο Πηγή δεδομένων ενότητα, εισαγάγετε ένα όνομα για την πηγή δεδομένων σας και το S3 URI όπου βρίσκεται το σύνολο δεδομένων. Το Knowledge Bases υποστηρίζει τις ακόλουθες μορφές αρχείων:
   • Απλό κείμενο (.txt)
   • Markdown (.md)
   • Γλώσσα σήμανσης υπερκειμένου (.html)
   • Έγγραφο Microsoft Word (.doc/.docx)
   • Τιμές διαχωρισμένες με κόμματα (.csv)
   • Υπολογιστικό φύλλο Microsoft Excel (.xls/.xlsx)
   • Μορφή φορητού εγγράφου (.pdf)

8. Κάτω από Επιπρόσθετες ρυθμίσεις¸ επιλέξτε την προτιμώμενη στρατηγική τμηματοποίησης (για αυτήν την ανάρτηση, επιλέγουμε εμείς Τεμαχισμός σταθερού μεγέθους) και καθορίστε το μέγεθος και την επικάλυψη σε ποσοστό. Εναλλακτικά, μπορείτε να χρησιμοποιήσετε τις προεπιλεγμένες ρυθμίσεις.
9. Επιλέξτε Επόμενο.

10. Στο Μοντέλο ενσωματώσεων ενότητα, επιλέξτε το μοντέλο Titan Embeddings από το Amazon Bedrock.
11. Στο Διανυσματική βάση δεδομένων , επιλέξτε Γρήγορη δημιουργία ενός νέου διανυσματικού καταστήματος, το οποίο διαχειρίζεται τη διαδικασία δημιουργίας ενός διανυσματικού καταστήματος.
12. Επιλέξτε Επόμενο.

13. Ελέγξτε τις ρυθμίσεις και επιλέξτε Δημιουργήστε βάση γνώσεων.

14. Περιμένετε να ολοκληρωθεί η δημιουργία της βάσης γνώσεων και επιβεβαιώστε την κατάστασή της Έτοιμος.
15. Στο Πηγή δεδομένων ή στο banner στο επάνω μέρος της σελίδας ή στο αναδυόμενο παράθυρο στο δοκιμαστικό παράθυρο, επιλέξτε Συγχρονισμός για να ενεργοποιήσετε τη διαδικασία φόρτωσης δεδομένων από τον κάδο S3, χωρίζοντάς τα σε κομμάτια του μεγέθους που ορίσατε, δημιουργώντας διανυσματικές ενσωματώσεις χρησιμοποιώντας το επιλεγμένο μοντέλο ενσωμάτωσης κειμένου και αποθήκευση τους στο χώρο αποθήκευσης διανυσμάτων που διαχειρίζεται το Knowledge Bases για το Amazon Bedrock.

Η λειτουργία συγχρονισμού υποστηρίζει την απορρόφηση, την ενημέρωση και τη διαγραφή των εγγράφων από το διανυσματικό ευρετήριο με βάση τις αλλαγές σε έγγραφα στο Amazon S3. Μπορείτε επίσης να χρησιμοποιήσετε το StartIngestionJob API για την ενεργοποίηση του συγχρονισμού μέσω του AWS SDK.

Όταν ολοκληρωθεί ο συγχρονισμός, το ιστορικό συγχρονισμού εμφανίζει την κατάσταση Ολοκληρώθηκε το.

Ζητήστε τη βάση γνώσεων

Σε αυτήν την ενότητα, δείχνουμε πώς να έχετε πρόσβαση σε λεπτομερείς πληροφορίες στη βάση γνώσεων μέσω απλών και φυσικών ερωτημάτων. Χρησιμοποιούμε ένα μη δομημένο συνθετικό σύνολο δεδομένων που αποτελείται από αρχεία PDF, με τον αριθμό σελίδας του καθενός να κυμαίνεται από 10 έως 100 σελίδες, προσομοιώνοντας ένα σχέδιο κλινικής δοκιμής ενός προτεινόμενου νέου φαρμάκου, συμπεριλαμβανομένων μεθόδων στατιστικής ανάλυσης και εντύπων συναίνεσης συμμετεχόντων. Χρησιμοποιούμε τις Γνωσιακές Βάσεις για το Amazon Bedrock retrieve_and_generate και retrieve API με Ενσωμάτωση Amazon Bedrock LangChain.

Για να μπορέσετε να γράψετε σενάρια που χρησιμοποιούν το Amazon Bedrock API, θα χρειαστεί να εγκαταστήσετε την κατάλληλη έκδοση του AWS SDK στο περιβάλλον σας. Για σενάρια Python, αυτό θα είναι το AWS SDK για Python (Boto3):

pip install langchain
pip install boto3

Επιπλέον, ενεργοποιήστε την πρόσβαση στο μοντέλο Amazon Titan Embeddings και στο Anthropic Claude v2 ή v1. Για περισσότερες πληροφορίες, ανατρέξτε στο Πρόσβαση μοντέλου.

Δημιουργήστε ερωτήσεις χρησιμοποιώντας το Amazon Bedrock

Μπορούμε να χρησιμοποιήσουμε το Anthropic Claude 2.1 για το Amazon Bedrock για να προτείνουμε μια λίστα ερωτήσεων για το σύνολο δεδομένων κλινικών δοκιμών:

import boto3
from langchain.llms.bedrock import Bedrock

bedrock_client = boto3.client("bedrock-runtime")

# Start with the query
prompt = "For medical research trial consent forms to sign, what are the top 5 questions can be asked?"

claude_llm = Bedrock(
    model_id="anthropic.claude-v2:1",
    model_kwargs={"temperature": 0, "top_k": 10, "max_tokens_to_sample": 3000},
    client=bedrock_client,
)

# Provide the prompt to the LLM to generate an answer to the query without any additional context provided
response = claude_llm(prompt)
questions = [
    item.split(".")[1].strip() for item in response.strip().split("nn")[1:-1]
]
questions
>>> answer:
'What is the purpose of the study? Make sure you understand the goals of the research and what the study procedures will entail',
'What are the risks and potential benefits? The form should explain all foreseeable risks, side effects, or discomforts you might experience from participating',
'What will participation involve? Get details on what tests, medications, lifestyle changes, or procedures you will go through, how much time it will take, and how long the study will last',
'Are there any costs or payments? Ask if you will be responsible for any costs related to the study or get paid for participating',
'How will my privacy be protected? The form should explain how your personal health information will be kept confidential before, during, and after the trial'

Χρησιμοποιήστε το Amazon Bedrock RetrieveAndGenerate API

Για μια πλήρως διαχειριζόμενη εμπειρία RAG, μπορείτε να χρησιμοποιήσετε τις εγγενείς βάσεις γνώσεων για το Amazon Bedrock RetrieveAndGenerate API για να λάβετε άμεσα τις απαντήσεις:

bedrock_agent_client = boto3.client("bedrock-agent-runtime")

kb_id = "<YOUR_KNOWLEDGE_BASE_ID>"

def retrieveAndGenerate(
    input: str,
    kbId: str,
    region: str = "us-east-1",
    sessionId: str = None,
    model_id: str = "anthropic.claude-v2:1",
):
    model_arn = f"arn:aws:bedrock:{region}::foundation-model/{model_id}"

    if sessionId:
        return bedrock_agent_client.retrieve_and_generate(
            input={"text": input},
            retrieveAndGenerateConfiguration={
                "type": "KNOWLEDGE_BASE",
                "knowledgeBaseConfiguration": {
                    "knowledgeBaseId": kbId,
                    "modelArn": model_arn,
                },
            },
            sessionId=sessionId,
        )

    else:
        return bedrock_agent_client.retrieve_and_generate(
            input={"text": input},
            retrieveAndGenerateConfiguration={
                "type": "KNOWLEDGE_BASE",
                "knowledgeBaseConfiguration": {
                    "knowledgeBaseId": kbId,
                    "modelArn": model_arn,
                },
            },
        )

response = retrieveAndGenerate(
    "What are the potential risks and benefits of participating?", kb_id
)

generated_text = response["output"]["text"]
>>> "The potential risks include side effects from the study medication lithium such as nausea, loose stools, thirst, urination changes, shakiness, headaches, sweating, fatigue, decreased concentration, and skin rash. There is also a risk of lithium interaction with other medications. For women, there is a risk of birth defects if lithium is taken during pregnancy. There are no guaranteed benefits, but possible benefits include new information that could help the participant from the interviews and tests conducted during the study."

Η αναφερόμενη πηγή πληροφοριών μπορεί να ληφθεί μέσω του ακόλουθου κώδικα (με ορισμένες από τις εξόδους διατυπωμένες για συντομία):

response["citations"]

>>> [
    {
        "generatedResponsePart": {
            "textResponsePart": {
                "text": " The potential risks include side effects from the study...",
                "span": {"start": 0, "end": 361},
            }
        },
        "retrievedReferences": [
            {
                "content": {
                    "text": "590 ICF#2 Page 7 of 19 The primary risks and discomforts of participation…"
                },
                "location": {"type": "S3", "s3Location": {"uri": "s3://XXXX/XXXX.pdf"}},
            },
            {
                "content": {
                    "text": "N/A CSP 590 ICF#2 Page 10 of 19 Risks associated with suddenly stopping study medications..."
                },
                "location": {"type": "S3", "s3Location": {"uri": "s3://XXXX/XXXX.pdf"}},
            },
        ],
    },
    {
        "generatedResponsePart": {
            "textResponsePart": {
                "text": " There are no guaranteed benefits, but possible benefits include...",
                "span": {"start": 363, "end": 531},
            }
        },
        "retrievedReferences": [
            {
                "content": {
                    "text": "research, not usual clinical care. After these are done we ask..."
                },
                "location": {"type": "S3", "s3Location": {"uri": "s3://XXXX/XXXX.pdf"}},
            }
        ],
    },
]

Περνώντας το αναγνωριστικό συνεδρίας του RetrieveAndGenerate API, μπορείτε να διατηρήσετε το πλαίσιο συνομιλίας και να κάνετε επακόλουθες ερωτήσεις. Για παράδειγμα, χωρίς το πλαίσιο, εάν ζητήσετε περισσότερες λεπτομέρειες από την προηγούμενη απάντηση, ενδέχεται να μην μπορεί να απαντήσει σωστά:

retrieveAndGenerate("elaborate more on the first side effect", kb_id, sessionId=None)["output"]["text"]
>>> "The search results do not provide additional details about the mild nausea side effect that would allow me to elaborate further on it."

Αλλά περνώντας το αναγνωριστικό περιόδου σύνδεσης, η διοχέτευση RAG είναι σε θέση να αναγνωρίσει το αντίστοιχο πλαίσιο και να επιστρέψει σχετικές απαντήσεις:

retrieveAndGenerate("elaborate more on the first side effect", kb_id, sessionId=response["sessionId"])["output"]["text"]
>>> "The search results provide details that nausea from taking lithium is usually mild and goes away after days or weeks for most people. Specifically, up to 75% of people may experience mild nausea when first starting lithium, but this goes away in 90-99% of people who continue taking it."

Ο παρακάτω πίνακας δείχνει τις απαντήσεις που ανακτήθηκαν σε όλες τις αντίστοιχες ερωτήσεις.

Ερώτημα χρησιμοποιώντας το Amazon Bedrock Retrieve API

Για να προσαρμόσετε τη ροή εργασιών RAG, μπορείτε να χρησιμοποιήσετε το Retrieve API για να ανακτήσετε τα σχετικά κομμάτια με βάση το ερώτημά σας και να τα μεταβιβάσετε σε οποιοδήποτε LLM που παρέχεται από το Amazon Bedrock. Για να χρησιμοποιήσετε το Retrieve API, ορίστε το ως εξής:

def retrieve(query: str, kbId: str, numberOfResults: int = 5):
    return bedrock_agent_client.retrieve(
        retrievalQuery={"text": query},
        knowledgeBaseId=kbId,
        retrievalConfiguration={
            "vectorSearchConfiguration": {"numberOfResults": numberOfResults}
        },
    )

Ανακτήστε το αντίστοιχο περιβάλλον (με ορισμένες από τις εξόδους να έχουν διαγραφεί για συντομία):

query = "What is the purpose of the medical research study?"
response = retrieve(query, kb_id, 3)
retrievalResults = response["retrievalResults"]
>>> [
    {
        "content": {"text": "You will not be charged for any procedures that..."},
        "location": {"type": "S3", "s3Location": {"uri": "s3://XXXXX/XXXX.pdf"}},
        "score": 0.6552521,
    },
    {
        "content": {"text": "and possible benefits of the study. You have been..."},
        "location": {"type": "S3", "s3Location": {"uri": "s3://XXXX/XXXX.pdf"}},
        "score": 0.6581577,
    },
    ...,
]

Εξαγωγή του περιβάλλοντος για το πρότυπο προτροπής:

def get_contexts(retrievalResults):
    contexts = []
    for retrievedResult in retrievalResults:
        contexts.append(retrievedResult["content"]["text"])
    return " ".join(contexts)

contexts = get_contexts(retrievalResults)

Εισαγάγετε τις λειτουργικές μονάδες Python και ρυθμίστε το πρότυπο εντολών απάντησης ερωτήσεων εντός του πλαισίου και, στη συνέχεια, δημιουργήστε την τελική απάντηση:

from langchain.prompts import PromptTemplate

PROMPT_TEMPLATE = """
Human: You are an AI system working on medical trial research, and provides answers to questions 
by using fact based and statistical information when possible.
Use the following pieces of information to provide a concise answer to the question enclosed in <question> tags.
If you don't know the answer, just say that you don't know, don't try to make up an answer.

<context>
{context_str}
</context>

<question>
{query_str}
</question>

The response should be specific and use statistics or numbers when possible.

Assistant:"""

claude_prompt = PromptTemplate(
    template=PROMPT_TEMPLATE, input_variables=["context_str", "query_str"]
)

prompt = claude_prompt.format(context_str=contexts, query_str=query)
response = claude_llm(prompt)
>>> "Based on the context provided, the purpose of this medical research study is to evaluate the efficacy of lithium compared to a placebo in preventing suicide over a 1 year period. Specifically, participants will be randomly assigned to receive either lithium or a placebo pill for 1 year, with their doctors and the participants themselves not knowing which treatment they receive (double-blind). Blood lithium levels will be monitored and doses adjusted over the first 6-8 visits, then participants will be followed monthly for 1 year to assess outcomes."

Ερώτημα χρησιμοποιώντας την ενσωμάτωση Amazon Bedrock LangChain

Για να δημιουργήσετε μια προσαρμοσμένη εφαρμογή Q&A από άκρο σε άκρο, το Knowledge Bases for Amazon Bedrock παρέχει ενοποίηση με το LangChain. Για να ρυθμίσετε την ανάκτηση LangChain, δώστε το αναγνωριστικό της βάσης γνώσεων και καθορίστε τον αριθμό των αποτελεσμάτων που θα επιστραφούν από το ερώτημα:

from langchain.retrievers.bedrock import AmazonKnowledgeBasesRetriever

retriever = AmazonKnowledgeBasesRetriever(
    knowledge_base_id=kb_id,
    retrieval_config={"vectorSearchConfiguration": {"numberOfResults": 4}},
)

Ρυθμίστε τώρα το LangChain RetrievalQA και δημιουργήστε απαντήσεις από τη βάση γνώσεων:

from langchain.chains import RetrievalQA

qa = RetrievalQA.from_chain_type(
    llm=claude_llm,
    chain_type="stuff",
    retriever=retriever,
    return_source_documents=True,
    chain_type_kwargs={"prompt": claude_prompt},
)

[qa(q)["result"] for q in questions]

Αυτό θα δημιουργήσει αντίστοιχες απαντήσεις παρόμοιες με αυτές που αναφέρονται στον προηγούμενο πίνακα.

εκκαθάριση

Φροντίστε να διαγράψετε τους παρακάτω πόρους για να αποφύγετε πρόσθετες χρεώσεις:

Συμπέρασμα

Το Amazon Bedrock παρέχει ένα ευρύ σύνολο βαθιά ενσωματωμένων υπηρεσιών για την τροφοδοσία εφαρμογών RAG κάθε κλίμακας, καθιστώντας εύκολο να ξεκινήσετε με την ανάλυση των δεδομένων της εταιρείας σας. Το Knowledge Bases for Amazon Bedrock ενσωματώνεται με τα μοντέλα θεμελίωσης του Amazon Bedrock για τη δημιουργία κλιμακωτών αγωγών ενσωμάτωσης εγγράφων και υπηρεσιών ανάκτησης εγγράφων για να τροφοδοτήσει ένα ευρύ φάσμα εσωτερικών εφαρμογών και εφαρμογών που απευθύνονται σε πελάτες. Είμαστε ενθουσιασμένοι για το μέλλον και τα σχόλιά σας θα διαδραματίσουν ζωτικό ρόλο στην καθοδήγηση της προόδου αυτού του προϊόντος. Για να μάθετε περισσότερα σχετικά με τις δυνατότητες του Amazon Bedrock και τις βάσεις γνώσεων, ανατρέξτε στο Γνωσιακή βάση για το Amazon Bedrock.

Σχετικά με τους Συγγραφείς

Μαρκ Ρόι είναι ένας κύριος αρχιτέκτονας μηχανικής εκμάθησης για το AWS, που βοηθά τους πελάτες να σχεδιάσουν και να δημιουργήσουν λύσεις AI/ML. Το έργο του Mark καλύπτει ένα ευρύ φάσμα περιπτώσεων χρήσης ML, με πρωταρχικό ενδιαφέρον για την όραση υπολογιστών, τη βαθιά μάθηση και την κλιμάκωση της ML σε όλη την επιχείρηση. Έχει βοηθήσει εταιρείες σε πολλούς κλάδους, συμπεριλαμβανομένων των ασφαλίσεων, των χρηματοοικονομικών υπηρεσιών, των μέσων ενημέρωσης και της ψυχαγωγίας, της υγειονομικής περίθαλψης, των επιχειρήσεων κοινής ωφελείας και της μεταποίησης. Ο Mark κατέχει έξι Πιστοποιήσεις AWS, συμπεριλαμβανομένης της Πιστοποίησης Ειδικότητας ML. Πριν από την ένταξή του στην AWS, ο Mark ήταν αρχιτέκτονας, προγραμματιστής και ηγέτης τεχνολογίας για περισσότερα από 25 χρόνια, συμπεριλαμβανομένων 19 ετών στις χρηματοοικονομικές υπηρεσίες.

Μάνι Χανιούγια είναι επικεφαλής της τεχνολογίας – Generative AI Specialists, συγγραφέας του βιβλίου – Applied Machine Learning and High Performance Computing στο AWS και μέλος του Διοικητικού Συμβουλίου του Ιδρύματος για τις Γυναίκες στο Manufacturing Education. Διευθύνει έργα μηχανικής μάθησης (ML) σε διάφορους τομείς όπως η όραση υπολογιστών, η επεξεργασία φυσικής γλώσσας και η γενετική τεχνητή νοημοσύνη. Βοηθά τους πελάτες να κατασκευάσουν, να εκπαιδεύσουν και να αναπτύξουν μεγάλα μοντέλα μηχανικής εκμάθησης σε κλίμακα. Μιλάει σε εσωτερικά και εξωτερικά συνέδρια όπως το re:Invent, το Women in Manufacturing West, τα διαδικτυακά σεμινάρια στο YouTube και το GHC 23. Στον ελεύθερο χρόνο της, της αρέσει να κάνει μεγάλες διαδρομές στην παραλία.

Δρ Baichuan Sun, που επί του παρόντος υπηρετεί ως Sr. AI/ML Solution Architect στο AWS, εστιάζει στη γενετική τεχνητή νοημοσύνη και εφαρμόζει τις γνώσεις του στην επιστήμη των δεδομένων και τη μηχανική μάθηση για να παρέχει πρακτικές επιχειρηματικές λύσεις που βασίζονται στο cloud. Με εμπειρία στη συμβουλευτική διαχείρισης και την αρχιτεκτονική λύσεων AI, αντιμετωπίζει μια σειρά από πολύπλοκες προκλήσεις, όπως η ρομποτική όραση υπολογιστών, η πρόβλεψη χρονοσειρών και η προγνωστική συντήρηση, μεταξύ άλλων. Το έργο του βασίζεται σε ένα σταθερό υπόβαθρο διαχείρισης έργων, Ε&Α λογισμικού και ακαδημαϊκών αναζητήσεων. Εκτός δουλειάς, ο Dr. Sun απολαμβάνει την ισορροπία του ταξιδιού και του χρόνου με την οικογένεια και τους φίλους.

Ντέρικ Τσου είναι Senior Solutions Architect στην AWS που επικεντρώνεται στην επιτάχυνση του ταξιδιού των πελατών στο cloud και στη μεταμόρφωση της επιχείρησής τους μέσω της υιοθέτησης λύσεων που βασίζονται στο cloud. Η τεχνογνωσία του είναι στην ανάπτυξη εφαρμογών full stack και μηχανικής μάθησης. Βοηθά τους πελάτες να σχεδιάσουν και να δημιουργήσουν ολοκληρωμένες λύσεις που καλύπτουν διεπαφές χρήστη διεπαφής, εφαρμογές IoT, ενσωματώσεις API και δεδομένων και μοντέλα μηχανικής μάθησης. Στον ελεύθερο χρόνο του, του αρέσει να περνά χρόνο με την οικογένειά του και να πειραματίζεται με τη φωτογραφία και τη βιντεοσκόπηση.

Φρανκ Γουίνκλερ είναι Senior Solutions Architect και Generative AI Specialist στο AWS που εδρεύει στη Σιγκαπούρη, με εστίαση στη Μηχανική Μάθηση και τη Δημιουργική AI. Συνεργάζεται με παγκόσμιες εγγενείς ψηφιακές εταιρείες για την αρχιτεκτονική κλιμάκωση, ασφαλή και οικονομικά αποδοτικά προϊόντα και υπηρεσίες στο AWS. Στον ελεύθερο χρόνο του, περνά χρόνο με τον γιο και την κόρη του και ταξιδεύει για να απολαύσει τα κύματα σε όλη την ASEAN.

Nihir Chadderwala είναι αρχιτέκτονας λύσεων Sr. AI/ML στην ομάδα Global Healthcare and Life Sciences. Η εξειδίκευσή του είναι στη δημιουργία λύσεων με τεχνολογία Big Data και AI σε προβλήματα πελατών, ειδικά στον τομέα της βιοϊατρικής, των βιοεπιστημών και της υγειονομικής περίθαλψης. Είναι επίσης ενθουσιασμένος με τη διασταύρωση της επιστήμης της κβαντικής πληροφορίας και της τεχνητής νοημοσύνης και του αρέσει να μαθαίνει και να συνεισφέρει σε αυτόν τον χώρο. Στον ελεύθερο χρόνο του, του αρέσει να παίζει τένις, να ταξιδεύει και να μαθαίνει για την κοσμολογία.

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
• PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
• PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
• πηγή: https://aws.amazon.com/blogs/machine-learning/use-rag-for-drug-discovery-with-knowledge-bases-for-amazon-bedrock/