Δώστε τη δυνατότητα στους χρήστες της επιχείρησής σας να εξάγουν πληροφορίες από έγγραφα της εταιρείας χρησιμοποιώντας το Amazon SageMaker Canvas και το Generative AI | Υπηρεσίες Ιστού της Amazon

Οι επιχειρήσεις επιδιώκουν να αξιοποιήσουν τις δυνατότητες της Μηχανικής Μάθησης (ML) για την επίλυση σύνθετων προβλημάτων και τη βελτίωση των αποτελεσμάτων. Μέχρι πρόσφατα, η κατασκευή και η ανάπτυξη μοντέλων ML απαιτούσε βαθιά επίπεδα τεχνικών και δεξιοτήτων κωδικοποίησης, συμπεριλαμβανομένου του συντονισμού μοντέλων ML και της διατήρησης επιχειρησιακών αγωγών. Από την εισαγωγή του το 2021, Καμβάς Amazon SageMaker έδωσε τη δυνατότητα στους επιχειρησιακούς αναλυτές να δημιουργήσουν, να αναπτύξουν και να χρησιμοποιήσουν μια ποικιλία μοντέλων ML – συμπεριλαμβανομένης της επεξεργασίας πινάκων, υπολογιστικής όρασης και φυσικής γλώσσας – χωρίς να γράφουν μια γραμμή κώδικα. Αυτό έχει επιταχύνει την ικανότητα των επιχειρήσεων να εφαρμόζουν ML για χρήση περιπτώσεων όπως η πρόβλεψη χρονοσειρών, η πρόβλεψη απόκλισης πελατών, η ανάλυση συναισθήματος, ο εντοπισμός βιομηχανικών ελαττωμάτων και πολλές άλλες.

Όπως ανακοινώθηκε στις Οκτώβριος 5, 2023, η SageMaker Canvas επέκτεινε την υποστήριξή της για μοντέλα σε μοντέλα θεμελίωσης (FM) – μεγάλα γλωσσικά μοντέλα που χρησιμοποιούνται για τη δημιουργία και τη σύνοψη περιεχομένου. Με την Κυκλοφορία 12 Οκτωβρίου 2023, το SageMaker Canvas επιτρέπει στους χρήστες να κάνουν ερωτήσεις και να λαμβάνουν απαντήσεις που βασίζονται στα εταιρικά δεδομένα τους. Αυτό διασφαλίζει ότι τα αποτελέσματα είναι συγκεκριμένα για το περιβάλλον, ανοίγοντας πρόσθετες περιπτώσεις χρήσης όπου μπορεί να εφαρμοστεί ML χωρίς κώδικα για την επίλυση επιχειρηματικών προβλημάτων. Για παράδειγμα, οι επιχειρηματικές ομάδες μπορούν τώρα να διατυπώνουν απαντήσεις που να συνάδουν με το συγκεκριμένο λεξιλόγιο και τις αρχές ενός οργανισμού και μπορούν πιο γρήγορα να αναζητούν μεγάλα έγγραφα για να λάβουν απαντήσεις συγκεκριμένες και βασισμένες στο περιεχόμενο αυτών των εγγράφων. Όλο αυτό το περιεχόμενο εκτελείται με ιδιωτικό και ασφαλή τρόπο, διασφαλίζοντας την πρόσβαση σε όλα τα ευαίσθητα δεδομένα με σωστή διακυβέρνηση και διασφαλίσεις.

Για να ξεκινήσετε, ένας διαχειριστής cloud διαμορφώνει και συμπληρώνει Amazon Kendra ευρετήρια με εταιρικά δεδομένα ως πηγές δεδομένων για το SageMaker Canvas. Οι χρήστες του καμβά επιλέγουν το ευρετήριο όπου βρίσκονται τα έγγραφά τους και μπορούν να κάνουν ιδέες, να ερευνήσουν και να εξερευνήσουν γνωρίζοντας ότι το αποτέλεσμα θα υποστηρίζεται πάντα από τις πηγές της αλήθειας τους. Το SageMaker Canvas χρησιμοποιεί υπερσύγχρονα FM από Θεμέλιο του Αμαζονίου και Amazon SageMaker JumpStart. Οι συνομιλίες μπορούν να ξεκινήσουν με πολλά FM δίπλα-δίπλα, συγκρίνοντας τις εξόδους και καθιστώντας πραγματικά το Generative-AI προσβάσιμο σε όλους.

Σε αυτήν την ανάρτηση, θα εξετάσουμε τη δυνατότητα που κυκλοφόρησε πρόσφατα, θα συζητήσουμε την αρχιτεκτονική και θα παρουσιάσουμε έναν οδηγό βήμα προς βήμα για να επιτρέψουμε στο SageMaker Canvas να αναζητά έγγραφα από τη γνωσιακή σας βάση, όπως φαίνεται στην ακόλουθη λήψη οθόνης.

Επισκόπηση λύσεων

Τα μοντέλα θεμελίωσης μπορούν να προκαλέσουν παραισθήσεις – απαντήσεις που είναι γενικές, ασαφείς, άσχετες ή ανακριβείς. Ανάκτηση επαυξημένης γενιάς (RAG) είναι μια συχνά χρησιμοποιούμενη προσέγγιση για τη μείωση των παραισθήσεων. Οι αρχιτεκτονικές RAG χρησιμοποιούνται για την ανάκτηση δεδομένων εκτός ενός FM, τα οποία στη συνέχεια χρησιμοποιούνται για την εκτέλεση εκμάθησης εντός περιβάλλοντος για την απάντηση στο ερώτημα του χρήστη. Αυτό διασφαλίζει ότι το FM μπορεί να χρησιμοποιήσει δεδομένα από μια αξιόπιστη βάση γνώσεων και να χρησιμοποιήσει αυτές τις γνώσεις για να απαντήσει στις ερωτήσεις των χρηστών, μειώνοντας τον κίνδυνο παραισθήσεων.

Με το RAG, τα δεδομένα εκτός του FM και που χρησιμοποιούνται για την ενίσχυση των προτροπών των χρηστών μπορούν να προέρχονται από πολλές διαφορετικές πηγές δεδομένων, όπως αποθήκες εγγράφων, βάσεις δεδομένων ή API. Το πρώτο βήμα είναι να μετατρέψετε τα έγγραφά σας και τυχόν ερωτήματα χρήστη σε συμβατή μορφή για την εκτέλεση σημασιολογικής αναζήτησης συνάφειας. Για να γίνουν οι μορφές συμβατές, μια συλλογή εγγράφων ή μια βιβλιοθήκη γνώσεων και τα ερωτήματα που υποβάλλονται από τον χρήστη μετατρέπονται σε αριθμητικές αναπαραστάσεις χρησιμοποιώντας μοντέλα ενσωμάτωσης.

Με αυτήν την έκδοση, η λειτουργικότητα RAG παρέχεται χωρίς κώδικα και απρόσκοπτα. Οι επιχειρήσεις μπορούν να εμπλουτίσουν την εμπειρία συνομιλίας στο Canvas με το Amazon Kendra ως το υποκείμενο σύστημα διαχείρισης γνώσης. Το παρακάτω διάγραμμα απεικονίζει την αρχιτεκτονική λύσης.

Η σύνδεση του SageMaker Canvas στο Amazon Kendra απαιτεί ρύθμιση μία φορά. Περιγράφουμε τη διαδικασία ρύθμισης λεπτομερώς στο Ρύθμιση καμβά για αναζήτηση εγγράφων. Εάν δεν έχετε ήδη ρυθμίσει τον τομέα SageMaker, ανατρέξτε στο Ενσωματωμένος στον τομέα Amazon SageMaker.

Ως μέρος της διαμόρφωσης τομέα, ένας διαχειριστής cloud μπορεί να επιλέξει έναν ή περισσότερους δείκτες Kendra στους οποίους μπορεί να ρωτήσει ο επιχειρηματικός αναλυτής όταν αλληλεπιδρά με το FM μέσω του SageMaker Canvas.

Αφού ενυδατωθούν και διαμορφωθούν οι δείκτες Kendra, οι επιχειρηματικοί αναλυτές τους χρησιμοποιούν με το SageMaker Canvas ξεκινώντας μια νέα συνομιλία και επιλέγοντας την εναλλαγή «Έγγραφα ερωτήματος». Στη συνέχεια, το SageMaker Canvas θα διαχειρίζεται την υποκείμενη επικοινωνία μεταξύ του Amazon Kendra και του FM της επιλογής για να εκτελέσει τις ακόλουθες λειτουργίες:

1. Ρωτήστε τους δείκτες Kendra με την ερώτηση να προέρχεται από τον χρήστη.
2. Ανακτήστε τα αποσπάσματα (και τις πηγές) από τους δείκτες Kendra.
3. Σχεδιάστε την προτροπή με τα αποσπάσματα με το αρχικό ερώτημα, έτσι ώστε το μοντέλο θεμελίωσης να μπορεί να δημιουργήσει μια απάντηση από τα ανακτημένα έγγραφα.
4. Δώστε την απάντηση που δημιουργήθηκε στον χρήστη, μαζί με αναφορές στις σελίδες/έγγραφα που χρησιμοποιήθηκαν για τη διατύπωση της απάντησης.

Ρύθμιση του Καμβά για την αναζήτηση εγγράφων

Σε αυτήν την ενότητα, θα σας καθοδηγήσουμε στα βήματα για να ρυθμίσετε το Canvas για να ρωτήσετε έγγραφα που προβάλλονται μέσω ευρετηρίων Kendra. Θα πρέπει να έχετε τις ακόλουθες προϋποθέσεις:

• Ρύθμιση τομέα SageMaker – Ενσωματωμένος στον τομέα Amazon SageMaker
• Δημιουργία Δείκτης Kendra (ή περισσότερα από ένα)
• Ρυθμίστε την υποδοχή Kendra Amazon S3 – ακολουθήστε το Υποδοχή Amazon S3 – και ανεβάστε αρχεία PDF και άλλα έγγραφα στον κάδο Amazon S3 που σχετίζεται με το ευρετήριο Kendra
• Ρυθμίστε το IAM έτσι ώστε το Canvas να έχει τα κατάλληλα δικαιώματα, συμπεριλαμβανομένων εκείνων που απαιτούνται για την κλήση τελικών σημείων του Amazon Bedrock ή/και του SageMaker – ακολουθήστε Ρύθμιση Canvas Chat τεκμηρίωση

Τώρα μπορείτε να ενημερώσετε το Domain ώστε να έχει πρόσβαση στους επιθυμητούς δείκτες. Στην κονσόλα SageMaker, για τον συγκεκριμένο τομέα, επιλέξτε Επεξεργασία στην καρτέλα Ρυθμίσεις τομέα. Ενεργοποιήστε την εναλλαγή «Ενεργοποίηση εγγράφων ερωτήματος με το Amazon Kendra» που μπορείτε να βρείτε στο βήμα Ρυθμίσεις καμβά. Μόλις ενεργοποιηθεί, επιλέξτε έναν ή περισσότερους δείκτες Kendra που θέλετε να χρησιμοποιήσετε με το Canvas.

Αυτό είναι το μόνο που χρειάζεται για τη διαμόρφωση της λειτουργίας εγγράφων ερωτήματος καμβά. Οι χρήστες μπορούν τώρα να μεταβούν σε μια συνομιλία εντός του Canvas και να αρχίσουν να χρησιμοποιούν τις βάσεις γνώσεων που έχουν προσαρτηθεί στον Τομέα μέσω των ευρετηρίων Kendra. Οι συντηρητές της βάσης γνώσεων μπορούν να συνεχίσουν να ενημερώνουν την πηγή της αλήθειας και με τη δυνατότητα συγχρονισμού στο Kendra, οι χρήστες συνομιλίας θα μπορούν αυτόματα να χρησιμοποιούν τις ενημερωμένες πληροφορίες με απρόσκοπτο τρόπο.

Χρήση της δυνατότητας Έγγραφα ερωτήματος για συνομιλία

Ως χρήστης του SageMaker Canvas, μπορείτε να έχετε πρόσβαση στη λειτουργία Έγγραφα ερωτήματος μέσα από μια συνομιλία. Για να ξεκινήσετε τη συνεδρία συνομιλίας, κάντε κλικ ή αναζητήστε το κουμπί «Δημιουργία, εξαγωγή και σύνοψη περιεχομένου» από την καρτέλα Έτοιμα για χρήση μοντέλα στον καμβά SageMaker.

Μόλις φτάσετε εκεί, μπορείτε να ενεργοποιήσετε και να απενεργοποιήσετε τα Έγγραφα ερωτήματος με την εναλλαγή στο επάνω μέρος της οθόνης. Ανατρέξτε στην προτροπή πληροφοριών για να μάθετε περισσότερα σχετικά με τη δυνατότητα.

Όταν είναι ενεργοποιημένα τα Έγγραφα ερωτήματος, μπορείτε να επιλέξετε μεταξύ μιας λίστας δεικτών Kendra που έχει ενεργοποιήσει ο διαχειριστής του cloud.

Μπορείτε να επιλέξετε ένα ευρετήριο κατά την έναρξη μιας νέας συνομιλίας. Στη συνέχεια, μπορείτε να κάνετε μια ερώτηση στο UX με τη γνώση να προέρχεται αυτόματα από το επιλεγμένο ευρετήριο. Σημειώστε ότι μετά την έναρξη μιας συνομιλίας με ένα συγκεκριμένο ευρετήριο, δεν είναι δυνατή η εναλλαγή σε άλλο ευρετήριο.

Για τις ερωτήσεις που τέθηκαν, η συνομιλία θα εμφανίσει την απάντηση που δημιουργήθηκε από το FM μαζί με τα έγγραφα πηγής που συνέβαλαν στη δημιουργία της απάντησης. Όταν κάνετε κλικ σε οποιοδήποτε από τα έγγραφα προέλευσης, το Canvas ανοίγει μια προεπισκόπηση του εγγράφου, επισημαίνοντας το απόσπασμα που χρησιμοποιείται από το FM.

Συμπέρασμα

Το Conversational AI έχει τεράστιες δυνατότητες να μεταμορφώσει την εμπειρία των πελατών και των εργαζομένων παρέχοντας έναν βοηθό που μοιάζει με άνθρωπο με φυσικές και διαισθητικές αλληλεπιδράσεις όπως:

• Διεξαγωγή έρευνας για ένα θέμα ή αναζήτηση και περιήγηση στη βάση γνώσεων του οργανισμού
• Συνοψίζοντας όγκους περιεχομένου για γρήγορη συλλογή πληροφοριών
• Αναζήτηση για Οντότητες, Συναισθήματα, PII και άλλα χρήσιμα δεδομένα και αύξηση της επιχειρηματικής αξίας μη δομημένου περιεχομένου
• Δημιουργία σχεδίων για έγγραφα και επιχειρηματική αλληλογραφία
• Δημιουργία άρθρων γνώσης από διαφορετικές εσωτερικές πηγές (συμβάντα, αρχεία καταγραφής συνομιλιών, wiki)

Η καινοτόμος ενσωμάτωση διεπαφών συνομιλίας, ανάκτησης γνώσης και FM δίνει τη δυνατότητα στις επιχειρήσεις να παρέχουν ακριβείς, σχετικές απαντήσεις σε ερωτήσεις των χρηστών, χρησιμοποιώντας τις γνώσεις τους στον τομέα και τις πηγές της αλήθειας.

Συνδέοντας το SageMaker Canvas με βάσεις γνώσεων στο Amazon Kendra, οι οργανισμοί μπορούν να διατηρήσουν τα ιδιόκτητα δεδομένα τους στο δικό τους περιβάλλον, ενώ παράλληλα επωφελούνται από τις προηγμένες δυνατότητες φυσικής γλώσσας των FM. Με την κυκλοφορία της δυνατότητας Query Documents του SageMaker Canvas, διευκολύνουμε κάθε επιχείρηση να χρησιμοποιεί τα LLM και τις επιχειρηματικές γνώσεις τους ως πηγή αλήθειας για να τροφοδοτήσει μια ασφαλή εμπειρία συνομιλίας. Όλη αυτή η λειτουργικότητα είναι διαθέσιμη σε μορφή χωρίς κώδικα, επιτρέποντας στις επιχειρήσεις να αποφεύγουν τον χειρισμό επαναλαμβανόμενων και μη εξειδικευμένων εργασιών.

Για να μάθετε περισσότερα σχετικά με το SageMaker Canvas και πώς διευκολύνει όλους να ξεκινήσουν με τη Μηχανική Εκμάθηση, ανατρέξτε στο Ανακοίνωση SageMaker Canvas. Μάθετε περισσότερα σχετικά με τον τρόπο με τον οποίο το SageMaker Canvas βοηθά στην προώθηση της συνεργασίας μεταξύ επιστημόνων δεδομένων και επιχειρηματικών αναλυτών διαβάζοντας το Δημιουργία, κοινή χρήση και ανάπτυξη ανάρτησης. Τέλος, για να μάθετε πώς να δημιουργείτε τη δική σας ροή εργασιών Αυξημένης γενιάς ανάκτησης, ανατρέξτε στο SageMaker JumpStart RAG.

αναφορές

Lewis, P., Perez, E., Piktus, A., Petroni, F., Karpukhin, V., Goyal, N., Küttler, H., Lewis, M., Yih, W., Rocktäschel, T., Riedel, S., Kiela, D. (2020). Ανάκτηση-αυξημένη γενιά για εργασίες NLP με ένταση γνώσης. Προόδους στα Συστήματα Επεξεργασίας Νευρωνικών Πληροφοριών, 33, 9459-9474.

---

Σχετικά με τους Συγγραφείς

Davide Gallitelli είναι Senior Specialist Solutions Architect για AI/ML. Η έδρα του είναι στις Βρυξέλλες και συνεργάζεται στενά με πελάτες σε όλο τον κόσμο που θέλουν να υιοθετήσουν τεχνολογίες μηχανικής μάθησης χαμηλού κώδικα/χωρίς κώδικα και Generative AI. Είναι προγραμματιστής από πολύ μικρός, άρχισε να κωδικοποιεί σε ηλικία 7 ετών. Άρχισε να μαθαίνει AI/ML στο πανεπιστήμιο και από τότε το ερωτεύτηκε.

Μπιλάλ Αλάμ είναι Αρχιτέκτονας Enterprise Solutions στην AWS με έμφαση στον κλάδο των Χρηματοοικονομικών Υπηρεσιών. Τις περισσότερες μέρες ο Bilal βοηθά τους πελάτες να δημιουργήσουν, να αναβαθμίσουν και να εξασφαλίσουν το περιβάλλον AWS τους για να αναπτύξουν τους πιο κρίσιμους φόρτους εργασίας τους. Έχει μεγάλη εμπειρία σε τηλεπικοινωνίες, δικτύωση και ανάπτυξη λογισμικού. Πιο πρόσφατα, εξετάζει τη χρήση AI/ML για την επίλυση επιχειρηματικών προβλημάτων.

Pashmeen Mistry είναι Ανώτερος Διευθυντής Προϊόντων στην AWS. Εκτός δουλειάς, ο Pashmeen απολαμβάνει περιπετειώδεις πεζοπορίες, φωτογραφίσεις και περνά χρόνο με την οικογένειά του.

Νταν Σινράιχ είναι Ανώτερος Διευθυντής Προϊόντων στην AWS, συμβάλλοντας στον εκδημοκρατισμό της μηχανικής εκμάθησης χαμηλού κώδικα/χωρίς κώδικα. Πριν από το AWS, ο Dan κατασκεύασε και εμπορευματοποίησε επιχειρησιακές πλατφόρμες SaaS και μοντέλα χρονοσειρών που χρησιμοποιούνταν από θεσμικούς επενδυτές για τη διαχείριση του κινδύνου και τη δημιουργία βέλτιστων χαρτοφυλακίων. Εκτός δουλειάς, μπορεί να βρεθεί να παίζει χόκεϊ, να κάνει καταδύσεις και να διαβάζει επιστημονική φαντασία.

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
• PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
• PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
• πηγή: https://aws.amazon.com/blogs/machine-learning/empower-your-business-users-to-extract-insights-from-company-documents-using-amazon-sagemaker-canvas-generative-ai/