Omogočite svojim poslovnim uporabnikom pridobivanje vpogledov iz dokumentov podjetja z uporabo Amazon SageMaker Canvas Generative AI | Spletne storitve Amazon

Podjetja želijo izkoristiti potencial strojnega učenja (ML) za reševanje zapletenih problemov in izboljšanje rezultatov. Do nedavnega je izdelava in uvedba modelov ML zahtevala globoke tehnične in kodirne spretnosti, vključno s prilagajanjem modelov ML in vzdrževanjem operativnih cevovodov. Od uvedbe leta 2021, Amazon SageMaker Canvas je poslovnim analitikom omogočil izgradnjo, uvajanje in uporabo različnih modelov ML – vključno s tabelami, računalniškim vidom in obdelavo naravnega jezika – brez pisanja vrstice kode. To je pospešilo zmožnost podjetij, da uporabljajo strojno učenje za primere uporabe, kot so napovedovanje časovnih vrst, napovedovanje opuščanja strank, analiza razpoloženja, odkrivanje industrijskih napak in mnogi drugi.

Kot je objavljeno dne Oktober 5, 2023, je SageMaker Canvas razširil svojo podporo modelov na temeljne modele (FM) – velike jezikovne modele, ki se uporabljajo za ustvarjanje in povzemanje vsebine. z Izdaja 12. oktober 2023, SageMaker Canvas omogoča uporabnikom, da postavljajo vprašanja in dobijo odgovore, ki temeljijo na podatkih njihovega podjetja. To zagotavlja, da so rezultati odvisni od konteksta, kar odpira dodatne primere uporabe, kjer je mogoče uporabiti ML brez kode za reševanje poslovnih težav. Na primer, poslovne skupine lahko zdaj oblikujejo odgovore, ki so skladni s specifičnim besediščem in načeli organizacije, in lahko hitreje poizvedujejo po dolgih dokumentih, da dobijo odgovore, specifične in utemeljene na vsebini teh dokumentov. Vsa ta vsebina se izvaja na zaseben in varen način, kar zagotavlja dostop do vseh občutljivih podatkov z ustreznim upravljanjem in zaščitnimi ukrepi.

Za začetek skrbnik oblaka konfigurira in zapolni Amazonska Kendra indeksi s podatki podjetja kot viri podatkov za SageMaker Canvas. Uporabniki Canvasa izberejo indeks, kjer so njihovi dokumenti, in lahko razmišljajo, raziskujejo in raziskujejo, saj vedo, da bo rezultat vedno podprt z njihovimi viri resnice. SageMaker Canvas uporablja najsodobnejše FM-je iz Amazon Bedrock in Amazon SageMaker JumpStart. Pogovore je mogoče začeti z več FM-ji drug ob drugem, primerjati rezultate in resnično narediti generativno AI dostopno vsem.

V tej objavi bomo pregledali nedavno izdano funkcijo, razpravljali o arhitekturi in predstavili vodnik po korakih, ki bo SageMaker Canvas omogočil poizvedovanje po dokumentih iz vaše baze znanja, kot je prikazano na naslednjem posnetku zaslona.

Pregled rešitev

Temeljni modeli lahko povzročijo halucinacije – odzive, ki so generični, nejasni, nepovezani ali dejansko nepravilni. Retrieval Augmented Generation (RAG) je pogosto uporabljen pristop za zmanjšanje halucinacij. Arhitekture RAG se uporabljajo za pridobivanje podatkov zunaj FM, ki se nato uporabijo za izvajanje učenja v kontekstu za odgovor na uporabnikovo poizvedbo. To zagotavlja, da lahko FM uporabi podatke iz zaupanja vredne baze znanja in to znanje uporabi za odgovore na vprašanja uporabnikov, kar zmanjša tveganje za halucinacije.

Z RAG lahko podatki, ki so zunaj FM in se uporabljajo za razširitev uporabniških pozivov, prihajajo iz več različnih virov podatkov, kot so repozitoriji dokumentov, baze podatkov ali API-ji. Prvi korak je pretvorba vaših dokumentov in morebitnih uporabniških poizvedb v združljivo obliko za izvedbo semantičnega iskanja po ustreznosti. Da bi bili formati združljivi, se zbirka dokumentov ali knjižnica znanja in poizvedbe, ki jih oddajo uporabniki, pretvorijo v numerične predstavitve z uporabo modelov vdelave.

S to izdajo je funkcionalnost RAG zagotovljena brez kode in brezhibno. Podjetja lahko obogatijo izkušnjo klepeta v Canvasu z Amazon Kendra kot osnovnim sistemom za upravljanje znanja. Naslednji diagram ponazarja arhitekturo rešitve.

Povezovanje SageMaker Canvas z Amazon Kendra zahteva enkratno nastavitev. Postopek namestitve podrobno opisujemo v Nastavitvi Canvasa za poizvedovanje po dokumentih. Če še niste nastavili svoje domene SageMaker, glejte Vkrcajte se na domeno Amazon SageMaker.

Kot del konfiguracije domene lahko skrbnik oblaka izbere enega ali več indeksov Kendra, po katerih lahko poslovni analitik poizveduje pri interakciji s FM prek SageMaker Canvas.

Ko so indeksi Kendra hidrirani in konfigurirani, jih poslovni analitiki uporabljajo s SageMaker Canvas tako, da začnejo nov klepet in izberejo preklop »Dokumenti poizvedbe«. SageMaker Canvas bo nato upravljal osnovno komunikacijo med Amazon Kendra in FM po izbiri za izvajanje naslednjih operacij:

1. Poizvedujte po indeksih Kendra z vprašanjem, ki prihaja od uporabnika.
2. Pridobite izrezke (in vire) iz indeksov Kendra.
3. Ustvarite poziv z izrezki z izvirno poizvedbo, tako da lahko temeljni model ustvari odgovor iz pridobljenih dokumentov.
4. Uporabniku zagotovite ustvarjen odgovor skupaj s sklici na strani/dokumente, ki so bili uporabljeni za oblikovanje odgovora.

Nastavitev Canvasa za poizvedovanje po dokumentih

V tem razdelku vas bomo popeljali skozi korake za nastavitev Canvasa za poizvedovanje po dokumentih, ki se strežejo prek indeksov Kendra. Morali bi imeti naslednje predpogoje:

• Nastavitev domene SageMaker – Vkrcajte se na domeno Amazon SageMaker
• Ustvarite Kendra indeks (ali več kot ena)
• Nastavite konektor Kendra Amazon S3 – sledite Amazon S3 priključek – in naložite datoteke PDF in druge dokumente v vedro Amazon S3, povezano z indeksom Kendra
• Nastavite IAM tako, da ima Canvas ustrezna dovoljenja, vključno s tistimi, ki so potrebna za klicanje končnih točk Amazon Bedrock in/ali SageMaker – sledite Nastavite Canvas Chat Dokumentacija

Zdaj lahko domeno posodobite tako, da bo lahko dostopala do želenih indeksov. Na konzoli SageMaker za dano domeno izberite Uredi pod zavihkom Nastavitve domene. Omogočite preklop »Omogoči poizvedbene dokumente z Amazon Kendra«, ki ga najdete v koraku Nastavitve platna. Ko je aktiviran, izberite enega ali več indeksov Kendra, ki jih želite uporabiti s Canvasom.

To je vse, kar je potrebno za konfiguracijo funkcije poizvedbenih dokumentov Canvas. Uporabniki lahko zdaj skočijo v klepet znotraj Canvasa in začnejo uporabljati baze znanja, ki so bile priložene domeni prek indeksov Kendra. Vzdrževalci baze znanja lahko še naprej posodabljajo vir resnice in z zmožnostjo sinhronizacije v Kendri bodo uporabniki klepeta samodejno lahko brezhibno uporabljali posodobljene informacije.

Uporaba funkcije Query Documents za klepet

Kot uporabnik SageMaker Canvas lahko do funkcije Query Documents dostopate iz klepeta. Če želite začeti sejo klepeta, kliknite ali poiščite gumb »Ustvari, ekstrahiraj in povzemi vsebino« na zavihku Modeli, pripravljeni za uporabo, v SageMaker Canvas.

Ko ste tam, lahko vklopite in izklopite Query Documents s preklopnim gumbom na vrhu zaslona. Oglejte si informacijski poziv, če želite izvedeti več o funkciji.

Ko je omogočen Query Documents, lahko izbirate med seznamom indeksov Kendra, ki jih omogoči skrbnik oblaka.

Ko začnete nov klepet, lahko izberete indeks. Nato lahko postavite vprašanje v uporabniškem vmesniku, pri čemer se znanje samodejno pridobi iz izbranega indeksa. Upoštevajte, da po začetku pogovora z določenim indeksom ni mogoče preklopiti na drug indeks.

Za zastavljena vprašanja bo klepet prikazal odgovor, ki ga je ustvaril FM, skupaj z izvornimi dokumenti, ki so prispevali k ustvarjanju odgovora. Ko kliknete kateri koli izvorni dokument, Canvas odpre predogled dokumenta in označi izvleček, ki ga je uporabil FM.

zaključek

Pogovorna umetna inteligenca ima ogromen potencial za preoblikovanje izkušenj strank in zaposlenih z zagotavljanjem človeku podobnega pomočnika z naravnimi in intuitivnimi interakcijami, kot so:

• Izvajanje raziskav o temi ali iskanje in brskanje po bazi znanja organizacije
• Povzemanje količin vsebine za hitro zbiranje vpogledov
• Iskanje entitet, občutkov, PII in drugih uporabnih podatkov ter povečanje poslovne vrednosti nestrukturirane vsebine
• Ustvarjanje osnutkov za dokumente in poslovno korespondenco
• Ustvarjanje člankov znanja iz različnih notranjih virov (incidentov, dnevnikov klepetov, wikijev)

Inovativna integracija klepetalnih vmesnikov, pridobivanja znanja in FM-jev omogoča podjetjem, da zagotovijo točne, ustrezne odgovore na vprašanja uporabnikov z uporabo njihovega znanja o domeni in virov resnice.

S povezovanjem SageMaker Canvas z bazami znanja v Amazon Kendra lahko organizacije hranijo svoje lastniške podatke v lastnem okolju, medtem ko še vedno izkoristijo najsodobnejše zmožnosti naravnega jezika FM. Z uvedbo funkcije Query Documents SageMaker Canvas vsem podjetjem olajšamo uporabo LLM-jev in njihovega poslovnega znanja kot vira resnice za zagotavljanje varne izkušnje klepeta. Vse te funkcije so na voljo v formatu brez kode, kar podjetjem omogoča, da se izognejo ponavljajočim se in nespecializiranim nalogam.

Če želite izvedeti več o SageMaker Canvas in o tem, kako vsem olajša začetek strojnega učenja, si oglejte Najava SageMaker Canvas. Preberite več o tem, kako SageMaker Canvas pomaga spodbujati sodelovanje med podatkovnimi znanstveniki in poslovnimi analitiki. Zgradite, delite in razmestite objavo. Nazadnje, če želite izvedeti, kako ustvariti lasten potek dela Retrieval Augmented Generation, glejte SageMaker JumpStart RAG.

Reference

Lewis, P., Perez, E., Piktus, A., Petroni, F., Karpukhin, V., Goyal, N., Küttler, H., Lewis, M., Yih, W., Rocktäschel, T., Riedel, S., Kiela, D. (2020). Generacija z razširjenim iskanjem za NLP naloge, ki zahtevajo veliko znanja. Napredek v nevronskih sistemih za obdelavo informacij, 33, 9459-9474.

---

O avtorjih

Davide Gallitelli je višji specialist za rešitve za AI/ML. Sedež ima v Bruslju in tesno sodeluje s strankami po vsem svetu, ki želijo sprejeti tehnologije strojnega učenja z nizko kodo/brez kode in Generative AI. Razvijalec je že od malih nog, kodirati je začel pri 7 letih. AI/ML se je začel učiti na univerzi in od takrat se je vanj zaljubil.

Bilal Alam je arhitekt za podjetniške rešitve pri AWS s poudarkom na panogi finančnih storitev. Večino dni Bilal pomaga strankam pri gradnji, nadgradnji in varovanju okolja AWS za uvedbo njihovih najbolj kritičnih delovnih obremenitev. Ima bogate izkušnje na področju telekomunikacij, mreženja in razvoja programske opreme. Pred kratkim je preučeval uporabo AI/ML za reševanje poslovnih težav.

Pashmeen Mistry je višji produktni vodja pri AWS. Zunaj dela Pashmeen uživa v pustolovskih pohodih, fotografiranju in preživljanju časa s svojo družino.

Dan Sinnreich je višji produktni vodja pri AWS, ki pomaga demokratizirati strojno učenje z nizko kodo/brez kode. Pred AWS je Dan zgradil in komercializiral podjetniške platforme SaaS in modele časovnih vrst, ki jih uporabljajo institucionalni vlagatelji za obvladovanje tveganja in oblikovanje optimalnih portfeljev. Zunaj dela ga lahko najdemo med igranjem hokeja, potapljanjem in branjem znanstvene fantastike.

• Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
• PlatoData.Network Vertical Generative Ai. Opolnomočite se. Dostopite tukaj.
• PlatoAiStream. Web3 Intelligence. Razširjeno znanje. Dostopite tukaj.
• PlatoESG. Ogljik, CleanTech, Energija, Okolje, sončna energija, Ravnanje z odpadki. Dostopite tukaj.
• PlatoHealth. Obveščanje o biotehnologiji in kliničnih preskušanjih. Dostopite tukaj.
• vir: https://aws.amazon.com/blogs/machine-learning/empower-your-business-users-to-extract-insights-from-company-documents-using-amazon-sagemaker-canvas-generative-ai/