Valtuuta yrityskäyttäjiäsi poimimaan oivalluksia yrityksen asiakirjoista Amazon SageMaker Canvasin ja Generatiivisen tekoälyn avulla | Amazon Web Services

Yritykset pyrkivät hyödyntämään koneoppimisen (ML) potentiaalia monimutkaisten ongelmien ratkaisemiseksi ja tulosten parantamiseksi. Viime aikoihin asti ML-mallien rakentaminen ja käyttöönotto vaati syvällisiä teknisiä ja koodaustaitoja, mukaan lukien ML-mallien virittäminen ja toimivien putkien ylläpito. Sen käyttöönoton jälkeen vuonna 2021 Amazon SageMaker Canvas on auttanut yritysanalyytikot rakentamaan, ottamaan käyttöön ja käyttämään erilaisia ​​ML-malleja – mukaan lukien taulukkomuodot, tietokonenäön ja luonnollisen kielen käsittely – ilman koodiriviä. Tämä on nopeuttanut yritysten kykyä soveltaa ML:ää käyttääkseen tapauksia, kuten aikasarjaennusteita, asiakkaiden vaihtuvuusennusteita, mielipideanalyysiä, teollisuusvikojen havaitsemista ja monia muita.

Kuten ilmoitettiin Lokakuu 5, 2023, SageMaker Canvas laajensi mallien tukinsa perustusmalleihin (FM) – suuriin kielimalleihin, joita käytetään sisällön luomiseen ja yhteenvetoon. Kanssa Julkaisu 12, SageMaker Canvasin avulla käyttäjät voivat esittää kysymyksiä ja saada vastauksia, jotka perustuvat heidän yritystietoihinsa. Tämä varmistaa, että tulokset ovat kontekstikohtaisia, mikä avaa uusia käyttötapauksia, joissa kooditonta ML:ää voidaan soveltaa liiketoimintaongelmien ratkaisemiseen. Esimerkiksi yritystiimit voivat nyt muotoilla vastauksia organisaation erityissanaston ja periaatteiden mukaisesti ja voivat nopeammin etsiä pitkiä asiakirjoja saadakseen täsmällisiä ja näiden asiakirjojen sisältöön perustuvia vastauksia. Kaikki tämä sisältö suoritetaan yksityisellä ja suojatulla tavalla, mikä varmistaa, että kaikkiin arkaluontoisiin tietoihin pääsee käsiksi asianmukaisella hallinnolla ja suojatoimilla.

Aloittaaksesi pilvijärjestelmänvalvoja määrittää ja täyttää Amazon Kendra indeksoi yritystietoja SageMaker Canvasin tietolähteinä. Canvas-käyttäjät valitsevat hakemiston, jossa heidän asiakirjansa ovat, ja voivat ideoida, tutkia ja tutkia tietäen, että tulosten taustalla on aina heidän totuudenlähteensä. SageMaker Canvas käyttää uusimpia FM-ääniä Amazonin kallioperä ja Amazon SageMaker JumpStart. Keskustelut voidaan aloittaa useilla FM-soittimilla rinnakkain vertaamalla lähtöjä ja tekemällä generatiivisesta tekoälystä todella kaikkien saatavilla.

Tässä viestissä tarkastelemme äskettäin julkaistua ominaisuutta, keskustelemme arkkitehtuurista ja esittelemme vaiheittaisen oppaan, jonka avulla SageMaker Canvas voi hakea asiakirjoja tietokannastasi seuraavan kuvakaappauksen mukaisesti.

Ratkaisun yleiskatsaus

Perusmallit voivat tuottaa hallusinaatioita – vastauksia, jotka ovat yleisiä, epämääräisiä, toisiinsa liittymättömiä tai tosiasiallisesti vääriä. Retrieval Augmented Generation (RAG) on usein käytetty lähestymistapa hallusinaatioiden vähentämiseen. RAG-arkkitehtuuria käytetään tietojen hakemiseen FM:n ulkopuolelta, jota käytetään sitten kontekstin sisäiseen oppimiseen vastaamaan käyttäjän kyselyyn. Tämä varmistaa, että FM voi käyttää luotettavan tietokannan tietoja ja vastata käyttäjien kysymyksiin, mikä vähentää hallusinaatioiden riskiä.

RAG:n avulla FM:n ulkopuoliset tiedot, joita käytetään käyttäjien kehotteiden lisäämiseen, voivat tulla useista eri tietolähteistä, kuten asiakirjavarastoista, tietokannoista tai API-liittymistä. Ensimmäinen askel on muuntaa asiakirjasi ja käyttäjän kyselyt yhteensopivaan muotoon osuvuuden semanttisen haun suorittamiseksi. Jotta formaatit olisivat yhteensopivia, asiakirjakokoelma tai tietokirjasto ja käyttäjien lähettämät kyselyt muunnetaan numeerisiksi esityksiksi upotusmalleja käyttämällä.

Tässä julkaisussa RAG-toiminnot tarjotaan ilman koodia ja saumattomalla tavalla. Yritykset voivat rikastuttaa keskustelukokemusta Canvasissa käyttämällä Amazon Kendraa tiedonhallintajärjestelmänä. Seuraava kaavio havainnollistaa ratkaisun arkkitehtuuria.

SageMaker Canvasin yhdistäminen Amazon Kendraan vaatii kertaluonteisen asennuksen. Kuvaamme määritysprosessin yksityiskohtaisesti kohdassa Canvasin määrittäminen asiakirjojen kyselyä varten. Jos et ole vielä määrittänyt SageMaker-verkkotunnustasi, katso kohta Sisääntulo Amazon SageMaker -verkkotunnukseen.

Osana verkkotunnuksen konfigurointia pilvijärjestelmänvalvoja voi valita yhden tai useamman Kendra-indeksin, joita yritysanalyytikko voi kysyä ollessaan vuorovaikutuksessa FM:n kanssa SageMaker Canvasin kautta.

Kun Kendra-indeksit on hydratoitu ja määritetty, yritysanalyytikot käyttävät niitä SageMaker Canvasin kanssa aloittamalla uuden keskustelun ja valitsemalla "Kyselyasiakirjat"-kytkimen. SageMaker Canvas hallitsee sitten alla olevaa viestintää Amazon Kendran ja valitun FM:n välillä suorittaakseen seuraavat toiminnot:

1. Kysy Kendra-indeksejä käyttäjältä tulevalla kysymyksellä.
2. Hae katkelmat (ja lähteet) Kendra-indekseistä.
3. Suunnittele kehote katkelmilla alkuperäisellä kyselyllä, jotta perusmalli voi luoda vastauksen haetuista asiakirjoista.
4. Anna luotu vastaus käyttäjälle sekä viittaukset sivuihin/asiakirjoihin, joita käytettiin vastauksen muotoilussa.

Canvasin asettaminen asiakirjojen kyselyä varten

Tässä osiossa opastamme sinut Canvasin määrittämiseksi Kendra-hakemistojen kautta toimitetuille asiakirjoille. Sinulla tulee olla seuraavat edellytykset:

• SageMaker-verkkotunnuksen asetukset - Sisääntulo Amazon SageMaker -verkkotunnukseen
• Luo Kendra-indeksi (tai useamman kuin yhden)
• Asenna Kendra Amazon S3 -liitin – seuraa ohjeita Amazon S3 -liitin – ja lataa PDF-tiedostoja ja muita asiakirjoja Kendra-indeksiin liittyvään Amazon S3 -ämpäriin
• Asenna IAM niin, että Canvasilla on asianmukaiset oikeudet, mukaan lukien Amazon Bedrock- ja/tai SageMaker-päätepisteiden kutsumiseen tarvittavat oikeudet – noudata Määritä Canvas Chat dokumentointi

Nyt voit päivittää Domainin, jotta se voi käyttää haluttuja indeksejä. Valitse SageMaker-konsolissa tietylle Domainille Domain Settings -välilehdeltä Muokkaa. Ota käyttöön kytkin "Ota kyselyasiakirjat käyttöön Amazon Kendralla", joka löytyy Kanvas-asetukset-vaiheesta. Kun olet aktivoinut, valitse yksi tai useampi Kendra-indeksi, jota haluat käyttää Canvasin kanssa.

Se on kaikki mitä tarvitaan Canvas-kyselyasiakirja-ominaisuuden määrittämiseen. Käyttäjät voivat nyt hypätä keskusteluun Canvasissa ja alkaa käyttää tietokantoja, jotka on liitetty verkkotunnukseen Kendra-hakemistojen kautta. Tietokannan ylläpitäjät voivat jatkaa totuuden lähteen päivittämistä ja Kendran synkronointiominaisuuden ansiosta chatin käyttäjät voivat automaattisesti käyttää ajantasaista tietoa saumattomasti.

Asiakirjojen kyselyominaisuuden käyttäminen chatissa

SageMaker Canvas -käyttäjänä kyselyasiakirjat-ominaisuutta voi käyttää chatissa. Aloita chat-istunto napsauttamalla tai etsimällä "Luo, pura ja tee sisältö" -painiketta SageMaker Canvasin Käyttövalmiit mallit -välilehdeltä.

Kun olet siellä, voit ottaa Kyselyasiakirjat käyttöön ja poistaa ne käytöstä näytön yläreunassa olevalla valitsimella. Katso tietokehote saadaksesi lisätietoja ominaisuudesta.

Kun Kyselyasiakirjat on käytössä, voit valita pilvijärjestelmänvalvojan käyttöön ottamien Kendra-indeksien luettelosta.

Voit valita indeksin aloittaessasi uuden chatin. Voit sitten esittää kysymyksen UX:ssä tietolähteen ollessa automaattisesti valitusta hakemistosta. Huomaa, että kun keskustelu on alkanut tiettyä hakemistoa vastaan, ei ole mahdollista vaihtaa toiseen hakemistoon.

Esitettyihin kysymyksiin chatissa näkyy FM:n luoma vastaus sekä lähdeasiakirjat, jotka vaikuttivat vastauksen luomiseen. Kun napsautat mitä tahansa lähdeasiakirjaa, Canvas avaa asiakirjan esikatselun ja korostaa FM:n käyttämän otteen.

Yhteenveto

Keskustelutekoälyllä on valtava potentiaali muuttaa asiakas- ja työntekijäkokemusta tarjoamalla ihmisen kaltaisen avustajan luonnollisella ja intuitiivisella vuorovaikutuksella, kuten:

• Tee tutkimusta aiheesta tai hae ja selaa organisaation tietokantaa
• Sisällön määrien yhteenveto saadaksesi tietoja nopeasti
• Entiteettien, tunteiden, henkilökohtaisten tunnistetietojen ja muiden hyödyllisten tietojen etsiminen ja jäsentämättömän sisällön liikearvon kasvattaminen
• Luonnosten luominen asiakirjoille ja liikekirjeenvaihdolle
• Tietoartikkeleiden luominen erilaisista sisäisistä lähteistä (tapahtumat, chat-lokit, wikit)

Chat-liitäntöjen, tiedonhaun ja FM-laitteiden innovatiivinen integrointi antaa yrityksille mahdollisuuden tarjota tarkkoja ja osuvia vastauksia käyttäjien kysymyksiin käyttämällä verkkotunnuksensa tietoa ja totuuden lähteitä.

Yhdistämällä SageMaker Canvasin Amazon Kendran tietokantoihin organisaatiot voivat säilyttää omat tietonsa omassa ympäristössään samalla, kun he hyötyvät FM-laitteiden uusimmista luonnollisen kielen ominaisuuksista. SageMaker Canvasin Query Documents -ominaisuuden julkaisun myötä minkä tahansa yrityksen on helppo käyttää LLM:itä ja heidän yritystietoaan totuuden lähteenä turvallisen keskustelukokemuksen tehostamiseksi. Kaikki nämä toiminnot ovat saatavilla koodittomassa muodossa, jolloin yritykset voivat välttää toistuvien ja erikoistumattomien tehtävien käsittelyn.

Saat lisätietoja SageMaker Canvasista ja siitä, kuinka se auttaa kaikkia helpottamaan koneoppimisen aloittamista, tutustumalla SageMaker Canvas -ilmoitus. Lue lisää siitä, kuinka SageMaker Canvas auttaa edistämään yhteistyötä datatieteilijöiden ja yritysanalyytikkojen välillä. Luo, jaa ja ota käyttöön viesti. Katso lopuksi, kuinka voit luoda oman haun lisätyn sukupolven työnkulkusi SageMaker JumpStart RAG.

Viitteet

Lewis, P., Perez, E., Piktus, A., Petroni, F., Karpukhin, V., Goyal, N., Küttler, H., Lewis, M., Yih, W., Rocktäschel, T., Riedel, S., Kiela, D. (2020). Haku-lisätty sukupolvi tietointensiivisiin NLP-tehtäviin. Edistykset hermostotietojärjestelmissä, 33, 9459-9474.

---

Tietoja Tekijät

Davide Gallitelli on AI/ML:n vanhempi asiantuntijaratkaisuarkkitehti. Hän työskentelee Brysselissä ja tekee tiivistä yhteistyötä asiakkaiden kanssa ympäri maailmaa, jotka haluavat ottaa käyttöön Low-Code/No-Code koneoppimistekniikoita ja generatiivista tekoälyä. Hän on ollut kehittäjä pienestä pitäen, aloitti koodaamisen 7-vuotiaana. Hän aloitti tekoälyn/ML:n opiskelun yliopistossa ja on siitä lähtien rakastunut siihen.

Bilal Alam on AWS:n yritysratkaisuarkkitehti, joka keskittyy rahoituspalvelualaan. Useimpina päivinä Bilal auttaa asiakkaita AWS-ympäristön rakentamisessa, parantamisessa ja turvaamisessa kriittisimmissä työkuormissaan. Hänellä on laaja kokemus Telcosta, verkottumisesta ja ohjelmistokehityksestä. Viime aikoina hän on tutkinut tekoälyn/ML:n käyttöä yritysongelmien ratkaisemiseen.

Pashmeen Mistry on AWS:n tuotepäällikkö. Työn ulkopuolella Pashmeen nauttii seikkailunhaluisista vaelluksista, valokuvaamisesta ja perheen kanssa viettämisestä.

Dan Sinnreich on AWS:n vanhempi tuotepäällikkö, joka auttaa demokratisoimaan matalakoodia/kooditonta koneoppimista. Ennen AWS:ää Dan rakensi ja kaupallisti yrityssaaS-alustoja ja aikasarjamalleja, joita institutionaaliset sijoittajat käyttivät riskien hallintaan ja optimaalisten portfolioiden rakentamiseen. Työn ulkopuolella hänet voi tavata pelaamassa jääkiekkoa, sukeltamassa ja lukemassa tieteiskirjallisuutta.

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
• Lähde: https://aws.amazon.com/blogs/machine-learning/empower-your-business-users-to-extract-insights-from-company-documents-using-amazon-sagemaker-canvas-generative-ai/