Απλοποιήστε την πρόσβαση σε εσωτερικές πληροφορίες χρησιμοποιώντας Augmented Generation Retrieval and LangChain Agents

Αναδημοσίευση από τον Πλάτωνα

Ακολουθούν: 0

Αυτή η ανάρτηση σάς οδηγεί στις πιο συνηθισμένες προκλήσεις που αντιμετωπίζουν οι πελάτες κατά την αναζήτηση εσωτερικών εγγράφων και σας παρέχει συγκεκριμένες οδηγίες σχετικά με τον τρόπο χρήσης των υπηρεσιών AWS για τη δημιουργία ενός παραγωγικού ρομπότ συνομιλίας AI που κάνει πιο χρήσιμες τις εσωτερικές πληροφορίες.

Τα μη δομημένα δεδομένα αντιπροσωπεύουν το 80% του συνόλου των δεδομένων βρίσκονται σε οργανισμούς, που αποτελούνται από αποθετήρια εγχειριδίων, PDF, Συχνές Ερωτήσεις, email και άλλα έγγραφα που αυξάνονται καθημερινά. Οι επιχειρήσεις σήμερα βασίζονται σε συνεχώς αυξανόμενες αποθήκες εσωτερικών πληροφοριών και προκύπτουν προβλήματα όταν ο όγκος των μη δομημένων δεδομένων καθίσταται μη διαχειρίσιμος. Συχνά, οι χρήστες βρίσκονται να διαβάζουν και να ελέγχουν πολλές διαφορετικές εσωτερικές πηγές για να βρουν τις απαντήσεις που χρειάζονται.

Τα εσωτερικά φόρουμ ερωτήσεων και απαντήσεων μπορούν να βοηθήσουν τους χρήστες να λάβουν πολύ συγκεκριμένες απαντήσεις, αλλά απαιτούν επίσης μεγαλύτερους χρόνους αναμονής. Στην περίπτωση των εσωτερικών Συχνών Ερωτήσεων για συγκεκριμένες εταιρείες, οι μεγάλοι χρόνοι αναμονής οδηγούν σε χαμηλότερη παραγωγικότητα των εργαζομένων. Τα φόρουμ ερωτήσεων και απαντήσεων είναι δύσκολο να κλιμακωθούν καθώς βασίζονται σε χειροκίνητες γραπτές απαντήσεις. Με το Generative AI, υπάρχει επί του παρόντος μια αλλαγή παραδείγματος στον τρόπο με τον οποίο οι χρήστες αναζητούν και βρίσκουν πληροφορίες. Το επόμενο λογικό βήμα είναι να χρησιμοποιήσετε τη γενετική τεχνητή νοημοσύνη για τη συμπύκνωση μεγάλων εγγράφων σε πληροφορίες μικρότερου μεγέθους για ευκολότερη κατανάλωση από τον χρήστη. Αντί να αφιερώνουν πολύ χρόνο διαβάζοντας κείμενο ή περιμένουν απαντήσεις, οι χρήστες μπορούν να δημιουργήσουν περιλήψεις σε πραγματικό χρόνο με βάση πολλαπλές υπάρχουσες αποθήκες εσωτερικών πληροφοριών.

Επισκόπηση λύσεων

Η λύση επιτρέπει στους πελάτες να ανακτούν επιμελημένες απαντήσεις σε ερωτήσεις που τίθενται σχετικά με εσωτερικά έγγραφα χρησιμοποιώντας ένα μοντέλο μετασχηματιστή για τη δημιουργία απαντήσεων σε ερωτήσεις σχετικά με δεδομένα στα οποία δεν έχει εκπαιδευτεί, μια τεχνική γνωστή ως προτροπή μηδενικής λήψης. Με την υιοθέτηση αυτής της λύσης, οι πελάτες μπορούν να αποκομίσουν τα ακόλουθα οφέλη:

Βρείτε ακριβείς απαντήσεις σε ερωτήσεις με βάση τις υπάρχουσες πηγές εσωτερικών εγγράφων
Μειώστε τον χρόνο που αφιερώνουν οι χρήστες αναζητώντας απαντήσεις χρησιμοποιώντας μοντέλα μεγάλων γλωσσών (LLM) για να παρέχουν σχεδόν άμεσες απαντήσεις σε σύνθετα ερωτήματα χρησιμοποιώντας έγγραφα με τις πιο ενημερωμένες πληροφορίες
Αναζητήστε ερωτήσεις που έχετε απαντήσει στο παρελθόν μέσω ενός κεντρικού πίνακα ελέγχου
Μειώστε το άγχος που προκαλείται από το να αφιερώνετε χρόνο στη μη αυτόματη ανάγνωση πληροφοριών για να αναζητήσετε απαντήσεις

Ανάκτηση επαυξημένης γενιάς (RAG)

Το Retrieval Augmented Generation (RAG) μειώνει ορισμένες από τις ελλείψεις των ερωτημάτων που βασίζονται στο LLM, βρίσκοντας τις απαντήσεις από τη βάση γνώσεών σας και χρησιμοποιώντας το LLM για να συνοψίσετε τα έγγραφα σε συνοπτικές απαντήσεις. Παρακαλώ διάβασε αυτό θέση για να μάθετε πώς να εφαρμόζετε την προσέγγιση RAG με Amazon Kendra. Οι ακόλουθοι κίνδυνοι και περιορισμοί σχετίζονται με ερωτήματα που βασίζονται στο LLM που αντιμετωπίζει μια προσέγγιση RAG με το Amazon Kendra:

Ψευδαισθήσεις και ιχνηλασιμότητα – Τα LLMS εκπαιδεύονται σε μεγάλα σύνολα δεδομένων και δημιουργούν απαντήσεις σχετικά με πιθανότητες. Αυτό μπορεί να οδηγήσει σε ανακριβείς απαντήσεις, οι οποίες είναι γνωστές ως παραισθήσεις.
Πολλαπλά σιλό δεδομένων – Για να παραπέμψετε δεδομένα από πολλές πηγές στην απόκρισή σας, πρέπει να ρυθμίσετε ένα οικοσύστημα σύνδεσης για τη συγκέντρωση των δεδομένων. Η πρόσβαση σε πολλά αποθετήρια είναι χειροκίνητη και χρονοβόρα.
Ασφάλεια – Η ασφάλεια και το απόρρητο είναι κρίσιμα ζητήματα κατά την ανάπτυξη ρομπότ συνομιλίας που υποστηρίζονται από RAG και LLM. Παρά τη χρήση Κατανοήστε το Amazon για το φιλτράρισμα των προσωπικών δεδομένων που ενδέχεται να παρέχονται μέσω ερωτημάτων χρήστη, παραμένει η πιθανότητα ακούσιας εμφάνισης προσωπικών ή ευαίσθητων πληροφοριών, ανάλογα με τα δεδομένα που λαμβάνονται. Αυτό σημαίνει ότι ο έλεγχος της πρόσβασης στο chatbot είναι ζωτικής σημασίας για την αποτροπή ακούσιας πρόσβασης σε ευαίσθητες πληροφορίες.
Συνάφεια δεδομένων – Τα LLMS εκπαιδεύονται σε δεδομένα μέχρι ορισμένης ημερομηνίας, πράγμα που σημαίνει ότι οι πληροφορίες συχνά δεν είναι ενημερωμένες. Το κόστος που σχετίζεται με τα μοντέλα εκπαίδευσης σε πρόσφατα δεδομένα είναι υψηλό. Προκειμένου να διασφαλιστούν ακριβείς και ενημερωμένες απαντήσεις, οι οργανισμοί φέρουν την ευθύνη της τακτικής ενημέρωσης και εμπλουτισμού του περιεχομένου των ευρετηριασμένων εγγράφων.
Κόστος – Το κόστος που σχετίζεται με την ανάπτυξη αυτής της λύσης θα πρέπει να λαμβάνεται υπόψη για τις επιχειρήσεις. Οι επιχειρήσεις πρέπει να αξιολογούν προσεκτικά τις απαιτήσεις προϋπολογισμού και απόδοσης κατά την εφαρμογή αυτής της λύσης. Η εκτέλεση LLM μπορεί να απαιτεί σημαντικούς υπολογιστικούς πόρους, οι οποίοι μπορεί να αυξήσουν το λειτουργικό κόστος. Αυτό το κόστος μπορεί να γίνει περιορισμός για εφαρμογές που πρέπει να λειτουργούν σε μεγάλη κλίμακα. Ωστόσο, ένα από τα οφέλη του Σύννεφο AWS είναι η ευελιξία να πληρώνετε μόνο για ό,τι χρησιμοποιείτε. Το AWS προσφέρει ένα απλό, συνεπές, pay-as-you-go μοντέλο τιμολόγησης, ώστε να χρεώνεστε μόνο για τους πόρους που καταναλώνετε.

Χρήση του Amazon SageMaker JumpStart

Για μοντέλα γλώσσας που βασίζονται σε μετασχηματιστές, οι οργανισμοί μπορούν να επωφεληθούν από τη χρήση Amazon Sage Maker Το JumpStart, το οποίο προσφέρει μια συλλογή από προκατασκευασμένα μοντέλα μηχανικής εκμάθησης. Το Amazon SageMaker JumpStart προσφέρει ένα ευρύ φάσμα βασικών μοντέλων δημιουργίας κειμένου και απάντησης ερωτήσεων (Q&A) που μπορούν εύκολα να αναπτυχθούν και να χρησιμοποιηθούν. Αυτή η λύση ενσωματώνει ένα μοντέλο FLAN T5-XL Amazon SageMaker JumpStart, αλλά υπάρχουν διαφορετικές πτυχές που πρέπει να έχετε κατά νου όταν επιλέγοντας ένα μοντέλο θεμελίωσης.

Ενσωμάτωση της ασφάλειας στη ροή εργασίας μας

Ακολουθώντας τις βέλτιστες πρακτικές του Πυλώνα Ασφαλείας του Καλά Αρχιτεκτονικό Πλαίσιο, Amazon Cognito χρησιμοποιείται για έλεγχο ταυτότητας. Οι ομάδες χρηστών Amazon Cognito μπορούν να ενσωματωθούν με τρίτους παρόχους ταυτότητας που υποστηρίζουν διάφορα πλαίσια που χρησιμοποιούνται για έλεγχο πρόσβασης, όπως Open Authorization (OAuth), OpenID Connect (OIDC) ή Security Assertion Markup Language (SAML). Η αναγνώριση των χρηστών και των ενεργειών τους επιτρέπει στη λύση να διατηρήσει την ιχνηλασιμότητα. Η λύση χρησιμοποιεί επίσης το Ανίχνευση προσωπικών στοιχείων ταυτοποίησης (PII) του Amazon Comprehend δυνατότητα αυτόματης ταυτοποίησης και επεξεργασίας PII. Το Redacted PII περιλαμβάνει διευθύνσεις, αριθμούς κοινωνικής ασφάλισης, διευθύνσεις email και άλλες ευαίσθητες πληροφορίες. Αυτός ο σχεδιασμός διασφαλίζει ότι τυχόν PII που παρέχεται από τον χρήστη μέσω του ερωτήματος εισόδου έχει διορθωθεί. Το PII δεν αποθηκεύεται, δεν χρησιμοποιείται από την Amazon Kendra, ούτε τροφοδοτείται στο LLM.

Λύση Walkthrough

Τα ακόλουθα βήματα περιγράφουν τη ροή εργασίας της ερώτησης που απαντά στη ροή εγγράφων:

Οι χρήστες στέλνουν ένα ερώτημα μέσω μιας διεπαφής ιστού.
Amazon Cognito χρησιμοποιείται για έλεγχο ταυτότητας, εξασφαλίζοντας ασφαλή πρόσβαση στην εφαρμογή Ιστού.
Το front-end της εφαρμογής web φιλοξενείται στο Ενίσχυση AWS.
Amazon API Gateway φιλοξενεί ένα REST API με διάφορα τελικά σημεία για τη διεκπεραίωση των αιτημάτων των χρηστών που ελέγχονται με χρήση του Amazon Cognito.
PII διόρθωση με Κατανοήστε το Amazon:
- Επεξεργασία ερωτημάτων χρήστη: Όταν ένας χρήστης υποβάλλει ένα ερώτημα ή ένα στοιχείο εισαγωγής, πρώτα διαβιβάζεται μέσω του Amazon Comprehend. Η υπηρεσία αναλύει το κείμενο και προσδιορίζει τυχόν οντότητες PII που υπάρχουν στο ερώτημα.
- Εξαγωγή PII: Το Amazon Comprehend εξάγει τις ανιχνευμένες οντότητες PII από το ερώτημα χρήστη.
Ανάκτηση σχετικών πληροφοριών με Amazon Kendra:
- Το Amazon Kendra χρησιμοποιείται για τη διαχείριση ενός ευρετηρίου εγγράφων που περιέχει τις πληροφορίες που χρησιμοποιούνται για τη δημιουργία απαντήσεων στα ερωτήματα του χρήστη.
- Η Ανάκτηση QA LangChain Η ενότητα χρησιμοποιείται για τη δημιουργία μιας αλυσίδας συνομιλιών που έχει σχετικές πληροφορίες σχετικά με τα ερωτήματα του χρήστη.
Ενσωμάτωση με Amazon SageMaker JumpStart:
- Η συνάρτηση AWS Lambda χρησιμοποιεί τη βιβλιοθήκη LangChain και συνδέεται με το τελικό σημείο Amazon SageMaker JumpStart με ένα ερώτημα εμπλουτισμένο με περιβάλλον. Το τελικό σημείο Amazon SageMaker JumpStart χρησιμεύει ως διεπαφή του LLM που χρησιμοποιείται για εξαγωγή συμπερασμάτων.
Αποθήκευση απαντήσεων και επιστροφή στον χρήστη:
- Η απάντηση από το LLM αποθηκεύεται στο Amazon DynamoDB μαζί με το ερώτημα του χρήστη, τη χρονική σήμανση, ένα μοναδικό αναγνωριστικό και άλλα αυθαίρετα αναγνωριστικά για το στοιχείο, όπως η κατηγορία ερώτησης. Η αποθήκευση της ερώτησης και της απάντησης ως διακριτών στοιχείων επιτρέπει στη λειτουργία AWS Lambda να αναδημιουργεί εύκολα το ιστορικό συνομιλιών ενός χρήστη με βάση την ώρα που τέθηκαν οι ερωτήσεις.
- Τέλος, η απάντηση αποστέλλεται πίσω στον χρήστη μέσω αιτήματος HTTPs μέσω της απόκρισης ενσωμάτωσης του Amazon API Gateway REST API.

Απλοποιήστε την πρόσβαση σε εσωτερικές πληροφορίες χρησιμοποιώντας Retrieval Augmented Generation και LangChain Agents | Υπηρεσίες Ιστού Amazon PlatoBlockchain Data Intelligence. Κάθετη αναζήτηση. Ολα συμπεριλαμβάνονται.

Τα ακόλουθα βήματα περιγράφουν τις λειτουργίες AWS Lambda και τη ροή τους στη διαδικασία:

Ελέγξτε και αφαιρέστε τυχόν PII / Ευαίσθητες πληροφορίες
LangChain QA Retrieval Chain
- Αναζητήστε και ανακτήστε σχετικές πληροφορίες
Context Stuffing & Prompt Engineering
Συμπέρασμα με LLM
Επιστρέψτε την απάντηση και αποθηκεύστε την

Χρήση περιπτώσεις

Υπάρχουν πολλές περιπτώσεις επιχειρηματικής χρήσης όπου οι πελάτες μπορούν να χρησιμοποιήσουν αυτήν τη ροή εργασίας. Η επόμενη ενότητα εξηγεί πώς μπορεί να χρησιμοποιηθεί η ροή εργασίας σε διαφορετικούς κλάδους και κλάδους.

Βοήθεια εργαζομένων

Η καλά σχεδιασμένη εταιρική εκπαίδευση μπορεί να βελτιώσει την ικανοποίηση των εργαζομένων και να μειώσει τον χρόνο που απαιτείται για την επιβίβαση νέων εργαζομένων. Καθώς οι οργανισμοί μεγαλώνουν και η πολυπλοκότητα αυξάνεται, οι εργαζόμενοι δυσκολεύονται να κατανοήσουν τις πολλές πηγές εσωτερικών εγγράφων. Τα εσωτερικά έγγραφα σε αυτό το πλαίσιο περιλαμβάνουν εταιρικές κατευθυντήριες γραμμές, πολιτικές και Τυπικές Λειτουργικές Διαδικασίες. Για αυτό το σενάριο, ένας υπάλληλος έχει μια ερώτηση σχετικά με το πώς να προχωρήσει και να επεξεργαστεί ένα εισιτήριο εσωτερικής έκδοσης. Ο υπάλληλος μπορεί να έχει πρόσβαση και να χρησιμοποιήσει το ρομπότ συνομιλίας γενετικής τεχνητής νοημοσύνης (AI) για να ζητήσει και να εκτελέσει τα επόμενα βήματα για ένα συγκεκριμένο εισιτήριο.

Ειδική περίπτωση χρήσης: Αυτοματοποιήστε την επίλυση προβλημάτων για τους εργαζόμενους με βάση τις εταιρικές κατευθυντήριες γραμμές.

Τα ακόλουθα βήματα περιγράφουν τις λειτουργίες AWS Lambda και τη ροή τους στη διαδικασία:

Πράκτορας LangChain για τον προσδιορισμό της πρόθεσης
Αποστολή ειδοποίησης βάσει αιτήματος υπαλλήλου
Τροποποίηση κατάστασης εισιτηρίου

Σε αυτό το διάγραμμα αρχιτεκτονικής, τα εταιρικά εκπαιδευτικά βίντεο μπορούν να εισαχθούν μέσω Μεταγραφή Amazon για να συλλέξετε ένα αρχείο καταγραφής αυτών των σεναρίων βίντεο. Επιπλέον, το εταιρικό εκπαιδευτικό περιεχόμενο που είναι αποθηκευμένο σε διάφορες πηγές (π.χ. Confluence, Microsoft SharePoint, Google Drive, Jira κ.λπ.) μπορεί να χρησιμοποιηθεί για τη δημιουργία ευρετηρίων μέσω των συνδέσεων Amazon Kendra. Διαβάστε αυτό το άρθρο για να μάθετε περισσότερα σχετικά με τη συλλογή εγγενών υποδοχές μπορείτε να χρησιμοποιήσετε στο Amazon Kendra ως σημείο πηγής. Ο ανιχνευτής Amazon Kendra μπορεί στη συνέχεια να χρησιμοποιήσει τόσο τα εταιρικά σενάρια βίντεο εκπαίδευσης όσο και την τεκμηρίωση που είναι αποθηκευμένα σε αυτές τις άλλες πηγές για να βοηθήσει το συνομιλητικό ρομπότ να απαντήσει σε ερωτήσεις ειδικά για τις εταιρικές οδηγίες εκπαίδευσης της εταιρείας. Ο πράκτορας LangChain επαληθεύει τα δικαιώματα, τροποποιεί την κατάσταση του εισιτηρίου και ειδοποιεί τα σωστά άτομα χρησιμοποιώντας την υπηρεσία απλής ειδοποίησης της Amazon (Amazon SNS).

Ομάδες Υποστήριξης Πελατών

Η γρήγορη επίλυση ερωτημάτων πελατών βελτιώνει την εμπειρία του πελάτη και ενθαρρύνει την αφοσίωση στην επωνυμία. Η πιστή βάση πελατών συμβάλλει στην αύξηση των πωλήσεων, γεγονός που συμβάλλει στο τελικό αποτέλεσμα και αυξάνει την αφοσίωση των πελατών. Οι ομάδες υποστήριξης πελατών ξοδεύουν πολλή ενέργεια παραπέμποντας σε πολλά εσωτερικά έγγραφα και λογισμικό διαχείρισης σχέσεων πελατών για να απαντήσουν σε ερωτήματα πελατών σχετικά με προϊόντα και υπηρεσίες. Τα εσωτερικά έγγραφα σε αυτό το πλαίσιο μπορούν να περιλαμβάνουν γενικά σενάρια κλήσεων υποστήριξης πελατών, βιβλία αναπαραγωγής, οδηγίες κλιμάκωσης και επιχειρηματικές πληροφορίες. Το δημιουργικό ρομπότ συνομιλίας AI βοηθά στη βελτιστοποίηση του κόστους, επειδή χειρίζεται ερωτήματα για λογαριασμό της ομάδας υποστήριξης πελατών.

Ειδική περίπτωση χρήσης: Χειρισμός αιτήματος αλλαγής λαδιού με βάση το ιστορικό σέρβις και το πρόγραμμα εξυπηρέτησης πελατών που αγοράσατε.

Σε αυτό το διάγραμμα αρχιτεκτονικής, ο πελάτης δρομολογείται είτε στο δημιουργικό ρομπότ συνομιλίας AI είτε στο Amazon Connect κέντρο επικοινωνίας. Αυτή η απόφαση μπορεί να βασίζεται στο επίπεδο υποστήριξης που απαιτείται ή στη διαθεσιμότητα πρακτόρων υποστήριξης πελατών. Ο πράκτορας LangChain προσδιορίζει την πρόθεση του πελάτη και επαληθεύει την ταυτότητα. Ο αντιπρόσωπος της LangChain ελέγχει επίσης το ιστορικό υπηρεσιών και το αγορασμένο σχέδιο υποστήριξης.

Τα ακόλουθα βήματα περιγράφουν τις λειτουργίες AWS Lambda και τη ροή τους στη διαδικασία:

Ο πράκτορας LangChain προσδιορίζει την πρόθεση
Ανάκτηση πληροφοριών πελάτη
Ελέγξτε το ιστορικό εξυπηρέτησης πελατών και τις πληροφορίες εγγύησης
Κλείστε ραντεβού, δώστε περισσότερες πληροφορίες ή διαδρομή προς το κέντρο επικοινωνίας
Αποστολή επιβεβαίωσης email

Το Amazon Connect χρησιμοποιείται για τη συλλογή των αρχείων καταγραφής φωνής και συνομιλίας και το Amazon Comprehend χρησιμοποιείται για την αφαίρεση στοιχείων προσωπικής ταυτοποίησης (PII) από αυτά τα αρχεία καταγραφής. Ο ανιχνευτής Amazon Kendra μπορεί στη συνέχεια να χρησιμοποιήσει τα ανανεωμένα αρχεία καταγραφής φωνής και συνομιλιών, τα σενάρια κλήσεων πελατών και τις πολιτικές σχεδίου υποστήριξης εξυπηρέτησης πελατών για τη δημιουργία του ευρετηρίου. Μόλις ληφθεί μια απόφαση, το ρομπότ συνομιλίας τεχνητής νοημοσύνης που δημιουργείται αποφασίζει εάν θα κλείσει ένα ραντεβού, θα παράσχει περισσότερες πληροφορίες ή θα κατευθύνει τον πελάτη στο κέντρο επικοινωνίας για περαιτέρω βοήθεια. Για βελτιστοποίηση κόστους, ο πράκτορας LangChain μπορεί επίσης να δημιουργήσει απαντήσεις χρησιμοποιώντας λιγότερα διακριτικά και ένα λιγότερο ακριβό μοντέλο μεγάλης γλώσσας για ερωτήματα πελατών χαμηλότερης προτεραιότητας.

Χρηματοοικονομικές Υπηρεσίες

Οι εταιρείες χρηματοοικονομικών υπηρεσιών βασίζονται στην έγκαιρη χρήση των πληροφοριών για να παραμείνουν ανταγωνιστικές και να συμμορφωθούν με τους χρηματοοικονομικούς κανονισμούς. Χρησιμοποιώντας ένα δημιουργικό ρομπότ συνομιλίας τεχνητής νοημοσύνης, οι οικονομικοί αναλυτές και σύμβουλοι μπορούν να αλληλεπιδράσουν με τις πληροφορίες κειμένου με συνομιλητικό τρόπο και να μειώσουν τον χρόνο και την προσπάθεια που απαιτείται για τη λήψη καλύτερα τεκμηριωμένων αποφάσεων. Εκτός από τις επενδύσεις και την έρευνα αγοράς, ένα δημιουργικό ρομπότ συνομιλίας με τεχνητή νοημοσύνη μπορεί επίσης να αυξήσει τις ανθρώπινες ικανότητες χειριζόμενος εργασίες που παραδοσιακά απαιτούσαν περισσότερη ανθρώπινη προσπάθεια και χρόνο. Για παράδειγμα, ένα χρηματοπιστωτικό ίδρυμα που ειδικεύεται σε προσωπικά δάνεια μπορεί να αυξήσει το ρυθμό επεξεργασίας των δανείων παρέχοντας παράλληλα καλύτερη διαφάνεια στους πελάτες.

Ειδική περίπτωση χρήσης: Χρησιμοποιήστε το οικονομικό ιστορικό πελατών και προηγούμενες αιτήσεις δανείου για να αποφασίσετε και να εξηγήσετε την απόφαση δανείου.

Τα ακόλουθα βήματα περιγράφουν τις λειτουργίες AWS Lambda και τη ροή τους στη διαδικασία:

Πράκτορας LangChain για τον προσδιορισμό της πρόθεσης
Ελέγξτε το ιστορικό οικονομικών και πιστωτικών αποτελεσμάτων πελατών
Ελέγξτε το εσωτερικό σύστημα διαχείρισης πελατειακών σχέσεων
Ελέγξτε τις τυπικές πολιτικές δανείων και προτείνετε απόφαση για τον εργαζόμενο που πληροί τις προϋποθέσεις για το δάνειο
Αποστολή ειδοποίησης στον πελάτη

Αυτή η αρχιτεκτονική ενσωματώνει οικονομικά δεδομένα πελατών που είναι αποθηκευμένα σε μια βάση δεδομένων και δεδομένα που είναι αποθηκευμένα σε ένα εργαλείο διαχείρισης πελατειακών σχέσεων (CRM). Αυτά τα σημεία δεδομένων χρησιμοποιούνται για τη λήψη απόφασης με βάση τις εσωτερικές δανειακές πολιτικές της εταιρείας. Ο πελάτης είναι σε θέση να κάνει διευκρινιστικές ερωτήσεις για να καταλάβει ποια δάνεια πληρούν τις προϋποθέσεις και τους όρους των δανείων που μπορούν να δεχτούν. Εάν το ρομπότ συνομιλίας με τη δημιουργία τεχνητής νοημοσύνης δεν είναι σε θέση να εγκρίνει μια αίτηση δανείου, ο χρήστης μπορεί να υποβάλει ερωτήσεις σχετικά με τη βελτίωση των πιστωτικών αποτελεσμάτων ή τις εναλλακτικές επιλογές χρηματοδότησης.

Κυβέρνηση

Τα γενετικά ρομπότ συνομιλίας με τεχνητή νοημοσύνη μπορούν να ωφελήσουν σημαντικά τους κυβερνητικούς θεσμούς επιταχύνοντας τις διαδικασίες επικοινωνίας, αποτελεσματικότητας και λήψης αποφάσεων. Τα γενετικά ρομπότ συνομιλίας τεχνητής νοημοσύνης μπορούν επίσης να παρέχουν άμεση πρόσβαση σε εσωτερικές βάσεις γνώσεων για να βοηθήσουν τους κρατικούς υπαλλήλους να ανακτούν γρήγορα πληροφορίες, πολιτικές και διαδικασίες (δηλ. κριτήρια καταλληλότητας, διαδικασίες αιτήσεων και υπηρεσίες και υποστήριξη πολιτών). Μια λύση είναι ένα διαδραστικό σύστημα, το οποίο επιτρέπει στους φορολογούμενους και στους φορολογικούς επαγγελματίες να βρίσκουν εύκολα στοιχεία και οφέλη που σχετίζονται με τη φορολογία. Μπορεί να χρησιμοποιηθεί για την κατανόηση των ερωτήσεων των χρηστών, τη σύνοψη φορολογικών εγγράφων και την παροχή σαφών απαντήσεων μέσω διαδραστικών συνομιλιών.

Οι χρήστες μπορούν να κάνουν ερωτήσεις όπως:

Πώς λειτουργεί ο φόρος κληρονομιάς και ποια είναι τα φορολογικά όρια;
Μπορείτε να εξηγήσετε την έννοια του φόρου εισοδήματος;
Ποιες είναι οι φορολογικές επιπτώσεις κατά την πώληση ενός δεύτερου ακινήτου;

Επιπλέον, οι χρήστες μπορούν να έχουν την ευκολία υποβολής φορολογικών εντύπων σε ένα σύστημα, το οποίο μπορεί να βοηθήσει στην επαλήθευση της ορθότητας των παρεχόμενων πληροφοριών.

Αυτή η αρχιτεκτονική δείχνει πώς οι χρήστες μπορούν να ανεβάζουν συμπληρωμένα φορολογικά έντυπα στη λύση και να τα χρησιμοποιούν για διαδραστική επαλήθευση και καθοδήγηση σχετικά με τον τρόπο με τον οποίο συμπληρώνουν με ακρίβεια τις απαραίτητες πληροφορίες.

Φροντίδα Υγείας

Οι επιχειρήσεις υγειονομικής περίθαλψης έχουν την ευκαιρία να αυτοματοποιήσουν τη χρήση μεγάλων ποσοτήτων εσωτερικών πληροφοριών ασθενών, ενώ επίσης αντιμετωπίζουν κοινά ερωτήματα σχετικά με περιπτώσεις χρήσης, όπως επιλογές θεραπείας, ασφαλιστικές αξιώσεις, κλινικές δοκιμές και φαρμακευτική έρευνα. Η χρήση ενός δημιουργικού ρομπότ συνομιλίας AI επιτρέπει τη γρήγορη και ακριβή δημιουργία απαντήσεων σχετικά με πληροφορίες υγείας από την παρεχόμενη βάση γνώσεων. Για παράδειγμα, ορισμένοι επαγγελματίες υγείας αφιερώνουν πολύ χρόνο συμπληρώνοντας έντυπα για να υποβάλουν αξιώσεις ασφάλισης.

Σε παρόμοια περιβάλλοντα, οι διαχειριστές κλινικών δοκιμών και οι ερευνητές πρέπει να βρουν πληροφορίες σχετικά με τις επιλογές θεραπείας. Ένα δημιουργικό ρομπότ συνομιλίας με τεχνητή νοημοσύνη μπορεί να χρησιμοποιήσει τις προκατασκευασμένες συνδέσεις στο Amazon Kendra για να ανακτήσει τις πιο σχετικές πληροφορίες από τα εκατομμύρια των εγγράφων που δημοσιεύονται μέσω συνεχούς έρευνας που διεξάγεται από φαρμακευτικές εταιρείες και πανεπιστήμια.

Ειδική περίπτωση χρήσης: Μειώστε τα λάθη και τον χρόνο που απαιτείται για τη συμπλήρωση και αποστολή των εντύπων ασφάλισης.

Σε αυτό το διάγραμμα αρχιτεκτονικής, ένας επαγγελματίας υγείας είναι σε θέση να χρησιμοποιήσει το γενετικό ρομπότ συνομιλίας AI για να καταλάβει ποιες φόρμες πρέπει να συμπληρωθούν για την ασφάλιση. Ο πράκτορας LangChain μπορεί στη συνέχεια να ανακτήσει τις σωστές φόρμες και να προσθέσει τις απαραίτητες πληροφορίες για έναν ασθενή, καθώς και να δώσει απαντήσεις για περιγραφικά μέρη των εντύπων με βάση τα ασφαλιστήρια συμβόλαια και τα προηγούμενα έντυπα. Ο επαγγελματίας υγείας μπορεί να επεξεργαστεί τις απαντήσεις που δίνονται από το LLM πριν εγκρίνει και παραδώσει το έντυπο στην ασφαλιστική πύλη.

Τα ακόλουθα βήματα περιγράφουν τις λειτουργίες AWS Lambda και τη ροή τους στη διαδικασία:

Πράκτορας LangChain για τον προσδιορισμό της πρόθεσης
Ανακτήστε τις απαραίτητες πληροφορίες για τον ασθενή
Συμπληρώστε το έντυπο ασφάλισης με βάση τις πληροφορίες ασθενούς και τις οδηγίες της φόρμας
Υποβάλετε τη φόρμα στην ασφαλιστική πύλη μετά την έγκριση του χρήστη

AWS HealthLake χρησιμοποιείται για την ασφαλή αποθήκευση των δεδομένων υγείας, συμπεριλαμβανομένων των προηγούμενων εντύπων ασφάλισης και των πληροφοριών ασθενών, και το Amazon Comprehend χρησιμοποιείται για την αφαίρεση στοιχείων προσωπικής ταυτοποίησης (PII) από τα προηγούμενα έντυπα ασφάλισης. Ο ανιχνευτής Amazon Kendra μπορεί στη συνέχεια να χρησιμοποιήσει το σύνολο των ασφαλιστικών εντύπων και οδηγιών για τη δημιουργία του ευρετηρίου. Αφού συμπληρωθούν τα έντυπα από την γενετική τεχνητή νοημοσύνη, τότε τα έντυπα που εξετάστηκαν από τον ιατρό μπορούν να σταλούν στην ασφαλιστική πύλη.

Εκτίμηση κόστους

Το κόστος ανάπτυξης της βασικής λύσης ως απόδειξης ιδέας φαίνεται στον παρακάτω πίνακα. Δεδομένου ότι η βασική λύση θεωρείται απόδειξη της ιδέας, το Amazon Kendra Developer Edition χρησιμοποιήθηκε ως επιλογή χαμηλού κόστους, καθώς ο φόρτος εργασίας δεν θα ήταν στην παραγωγή. Η υπόθεση μας για το Amazon Kendra Developer Edition ήταν 730 ενεργές ώρες για τον μήνα.

Για το Amazon SageMaker, υποθέσαμε ότι ο πελάτης θα χρησιμοποιούσε την παρουσία ml.g4dn.2xlarge για συμπέρασμα σε πραγματικό χρόνο, με ένα μόνο τελικό σημείο συμπερασμάτων ανά περίπτωση. Μπορείτε να βρείτε περισσότερες πληροφορίες σχετικά με την τιμολόγηση του Amazon SageMaker και τους διαθέσιμους τύπους περιπτώσεων συμπερασμάτων εδώ.

Υπηρεσία	Πόροι που καταναλώνονται	Εκτίμηση κόστους ανά μήνα σε USD
Ενίσχυση AWS	150 λεπτά κατασκευής 1 GB δεδομένων που εξυπηρετούνται 500,000 αιτήματα	15.71
Amazon API Gateway	1M Κλήσεις API REST	3.5
AWS Lambda	1 εκατομμύριο αιτήματα Διάρκεια 5 δευτερόλεπτα ανά αίτημα Διατίθεται μνήμη 2 GB	160.23
Amazon DynamoDB	1 εκατομμύριο αναγνώσεις 1 εκατομμύριο γράφει 100 GB χώρο στο δίσκο	26.38
Amazon Sagemaker	Συμπεράσματα σε πραγματικό χρόνο με ml.g4dn.2xlarge	676.8
Amazon Kendra	Έκδοση για προγραμματιστές με 730 ώρες/μήνα Σαρώθηκαν 10,000 έγγραφα 5,000 ερωτήματα/ημέρα	821.25
.	.	Συνολικό Κόστος: 1703.87

* Το Amazon Cognito διαθέτει ένα δωρεάν επίπεδο 50,000 μηνιαίων ενεργών χρηστών που χρησιμοποιούν ομάδες χρηστών Cognito ή 50 μηνιαίους ενεργούς χρήστες που χρησιμοποιούν παρόχους ταυτότητας SAML 2.0

Εκκαθάριση

Για να εξοικονομήσετε κόστος, διαγράψτε όλους τους πόρους που χρησιμοποιήσατε ως μέρος του σεμιναρίου. Μπορείτε να διαγράψετε τυχόν τελικά σημεία του SageMaker που έχετε δημιουργήσει μέσω της κονσόλας του SageMaker. Θυμηθείτε, η διαγραφή ενός ευρετηρίου Amazon Kendra δεν αφαιρεί τα πρωτότυπα έγγραφα από τον αποθηκευτικό χώρο σας.

Συμπέρασμα

Σε αυτήν την ανάρτηση, σας δείξαμε πώς να απλοποιήσετε την πρόσβαση σε εσωτερικές πληροφορίες συνοψίζοντας από πολλαπλά αποθετήρια σε πραγματικό χρόνο. Μετά τις πρόσφατες εξελίξεις των εμπορικά διαθέσιμων LLM, οι δυνατότητες δημιουργίας τεχνητής νοημοσύνης έχουν γίνει πιο εμφανείς. Σε αυτήν την ανάρτηση, παρουσιάσαμε τρόπους χρήσης των υπηρεσιών AWS για τη δημιουργία ενός chatbot χωρίς διακομιστή που χρησιμοποιεί γενετικό AI για να απαντά σε ερωτήσεις. Αυτή η προσέγγιση ενσωματώνει ένα επίπεδο ελέγχου ταυτότητας και τον εντοπισμό PII του Amazon Comprehend για να φιλτράρει τυχόν ευαίσθητες πληροφορίες που παρέχονται στο ερώτημα του χρήστη. Είτε πρόκειται για άτομα στον τομέα της υγειονομικής περίθαλψης που κατανοούν τις αποχρώσεις της υποβολής αξιώσεων ασφάλισης είτε για ανθρώπινο δυναμικό που κατανοούν συγκεκριμένους κανονισμούς σε όλη την εταιρεία, υπάρχουν πολλοί κλάδοι και κλάδοι που μπορούν να επωφεληθούν από αυτήν την προσέγγιση. Ένα μοντέλο βάσης Amazon SageMaker JumpStart είναι ο κινητήρας πίσω από το chatbot, ενώ χρησιμοποιείται μια προσέγγιση γεμίσματος περιβάλλοντος που χρησιμοποιεί την τεχνική RAG για να διασφαλιστεί ότι οι απαντήσεις αναφέρονται με μεγαλύτερη ακρίβεια στα εσωτερικά έγγραφα.

Για να μάθετε περισσότερα σχετικά με την εργασία με το Generative AI στο AWS, ανατρέξτε στο Ανακοίνωση νέων εργαλείων για δημιουργία με Generative AI στο AWS. Για πιο αναλυτική καθοδήγηση σχετικά με τη χρήση της τεχνικής RAG με τις υπηρεσίες AWS, ανατρέξτε στο Δημιουργήστε γρήγορα εφαρμογές Generative AI υψηλής ακρίβειας σε εταιρικά δεδομένα χρησιμοποιώντας Amazon Kendra, LangChain και μεγάλα μοντέλα γλώσσας. Δεδομένου ότι η προσέγγιση σε αυτό το ιστολόγιο είναι LLM αγνωστικιστική, οποιοδήποτε LLM μπορεί να χρησιμοποιηθεί για συμπέρασμα. Στην επόμενη ανάρτησή μας, θα περιγράψουμε τρόπους υλοποίησης αυτής της λύσης χρησιμοποιώντας το Amazon Bedrock και το Amazon Titan LLM.

Σχετικά με τους Συγγραφείς

Abhishek Maligehalli Shivalingaiah είναι Senior AI Services Solution Architect στην AWS. Είναι παθιασμένος με τη δημιουργία εφαρμογών χρησιμοποιώντας Generative AI, Amazon Kendra και NLP. Έχει περίπου 10 χρόνια εμπειρίας στην κατασκευή λύσεων δεδομένων και τεχνητής νοημοσύνης για τη δημιουργία αξίας για πελάτες και επιχειρήσεις. Έχει δημιουργήσει ακόμη και ένα (προσωπικό) chatbot για διασκέδαση για να απαντά σε ερωτήσεις σχετικά με την καριέρα και το επαγγελματικό του ταξίδι. Εκτός δουλειάς του αρέσει να φτιάχνει πορτρέτα οικογένειας και φίλων και λατρεύει να δημιουργεί έργα τέχνης.

Medha Aiyah είναι Associate Solutions Architect στο AWS, με έδρα το Ώστιν του Τέξας. Πρόσφατα αποφοίτησε από το Πανεπιστήμιο του Τέξας στο Ντάλας τον Δεκέμβριο του 2022 με μεταπτυχιακό της στην Επιστήμη Υπολογιστών με εξειδίκευση στα Ευφυή Συστήματα με επίκεντρο την AI/ML. Ενδιαφέρεται να μάθει περισσότερα για το AI/ML και τη χρήση των υπηρεσιών AWS για να ανακαλύψει λύσεις από τις οποίες μπορούν να επωφεληθούν οι πελάτες.

Ούγκο Τσε είναι Associate Solutions Architect στην AWS με έδρα το Seattle της Ουάσιγκτον. Είναι κάτοχος μεταπτυχιακού τίτλου στην Πληροφορική από το Πολιτειακό Πανεπιστήμιο της Αριζόνα και πτυχίο στα Οικονομικά από το Πανεπιστήμιο του Σικάγο. Είναι μέλος του Information Systems Audit and Control Association (ISACA) και του International Information System Security Certification Consortium (ISC)2. Του αρέσει να βοηθά τους πελάτες να επωφεληθούν από την τεχνολογία.

Ayman Ishimwe είναι Associate Solutions Architect στην AWS με έδρα το Seattle της Ουάσιγκτον. Είναι κάτοχος μεταπτυχιακού τίτλου στη Μηχανική Λογισμικού και την Πληροφορική από το Πανεπιστήμιο του Όκλαντ. Έχει προηγούμενη εμπειρία στην ανάπτυξη λογισμικού και συγκεκριμένα στην κατασκευή μικροϋπηρεσιών για κατανεμημένες διαδικτυακές εφαρμογές. Είναι παθιασμένος με το να βοηθά τους πελάτες να δημιουργήσουν ισχυρές και επεκτάσιμες λύσεις στις υπηρεσίες cloud AWS ακολουθώντας τις βέλτιστες πρακτικές.

Σέρβιν Σούρες είναι Associate Solutions Architect στην AWS με έδρα το Ώστιν του Τέξας. Έχει αποφοιτήσει με μεταπτυχιακό στη Μηχανική Λογισμικού με επικέντρωση στο Cloud Computing and Virtualization και πτυχίο στη Μηχανική Υπολογιστών από το San Jose State University. Είναι παθιασμένος με τη μόχλευση της τεχνολογίας για να βοηθήσει στη βελτίωση της ζωής ανθρώπων από όλα τα υπόβαθρα.