Geef uw zakelijke gebruikers de mogelijkheid inzichten uit bedrijfsdocumenten te halen met behulp van Amazon SageMaker Canvas Genative AI | Amazon-webservices

Bedrijven proberen het potentieel van Machine Learning (ML) te benutten om complexe problemen op te lossen en de resultaten te verbeteren. Tot voor kort vereiste het bouwen en implementeren van ML-modellen diepgaande technische en codeervaardigheden, waaronder het afstemmen van ML-modellen en het onderhouden van operationele pijplijnen. Sinds de introductie in 2021 is Amazon SageMaker-canvas heeft bedrijfsanalisten in staat gesteld een verscheidenheid aan ML-modellen te bouwen, implementeren en gebruiken – inclusief tabellarische modellen, computervisie en natuurlijke taalverwerking – zonder ook maar één regel code te hoeven schrijven. Dit heeft het vermogen van ondernemingen versneld om ML toe te passen in toepassingen als tijdreeksprognoses, voorspelling van klantverloop, sentimentanalyse, detectie van industriële defecten en vele andere.

Zoals aangekondigd op 5 oktober 2023breidde SageMaker Canvas de ondersteuning van modellen uit naar basismodellen (FM's) – grote taalmodellen die worden gebruikt om inhoud te genereren en samen te vatten. Met de Release van 12 oktober 2023Met SageMaker Canvas kunnen gebruikers vragen stellen en antwoorden krijgen die zijn gebaseerd op hun bedrijfsgegevens. Dit zorgt ervoor dat de resultaten contextspecifiek zijn, waardoor extra gebruiksscenario's ontstaan ​​waarin ML zonder code kan worden toegepast om bedrijfsproblemen op te lossen. Bedrijfsteams kunnen nu bijvoorbeeld antwoorden formuleren die consistent zijn met de specifieke woordenschat en uitgangspunten van een organisatie, en kunnen sneller lange documenten doorzoeken om antwoorden specifiek en gegrond op de inhoud van die documenten te krijgen. Al deze inhoud wordt op een private en veilige manier uitgevoerd, waardoor wordt gegarandeerd dat alle gevoelige gegevens toegankelijk zijn met goed bestuur en waarborgen.

Om aan de slag te gaan, configureert en vult een cloudbeheerder de gegevens in Amazon Kendra indexen met bedrijfsgegevens als gegevensbronnen voor SageMaker Canvas. Canvas-gebruikers selecteren de index waar hun documenten zich bevinden, en kunnen ideeën bedenken, onderzoeken en verkennen, wetende dat de output altijd zal worden ondersteund door hun bronnen van waarheid. SageMaker Canvas maakt gebruik van de modernste FM's van Amazonebodem en Amazon SageMaker JumpStart. Gesprekken kunnen worden gestart met meerdere FM's naast elkaar, waarbij de resultaten worden vergeleken en generatieve AI echt voor iedereen toegankelijk wordt gemaakt.

In dit bericht bespreken we de onlangs uitgebrachte functie, bespreken we de architectuur en presenteren we een stapsgewijze handleiding waarmee SageMaker Canvas documenten uit uw kennisbank kan opvragen, zoals weergegeven in de volgende schermopname.

Overzicht oplossingen

Basismodellen kunnen hallucinaties veroorzaken – reacties die algemeen, vaag, niet-gerelateerd of feitelijk onjuist zijn. Ophalen van Augmented Generation (RAG) is een veelgebruikte aanpak om hallucinaties te verminderen. RAG-architecturen worden gebruikt om gegevens van buiten een FM op te halen, die vervolgens worden gebruikt om in-context leren uit te voeren om de vraag van de gebruiker te beantwoorden. Dit zorgt ervoor dat de FM gegevens uit een vertrouwde kennisbank kan gebruiken en die kennis kan gebruiken om vragen van gebruikers te beantwoorden, waardoor het risico op hallucinaties wordt verminderd.

Met RAG kunnen de gegevens buiten het FM en die worden gebruikt om gebruikersprompts te vergroten, afkomstig zijn uit meerdere ongelijksoortige gegevensbronnen, zoals documentopslagplaatsen, databases of API's. De eerste stap is het converteren van uw documenten en eventuele gebruikersquery's naar een compatibel formaat om semantisch zoeken op relevantie uit te voeren. Om de formaten compatibel te maken, worden een documentverzameling of kennisbibliotheek en door de gebruiker ingediende zoekopdrachten omgezet in numerieke representaties met behulp van inbeddingsmodellen.

Met deze release wordt RAG-functionaliteit op een no-code en naadloze manier aangeboden. Bedrijven kunnen de chatervaring in Canvas verrijken met Amazon Kendra als onderliggend kennismanagementsysteem. Het volgende diagram illustreert de oplossingsarchitectuur.

Voor het verbinden van SageMaker Canvas met Amazon Kendra is een eenmalige installatie vereist. We beschrijven het installatieproces in detail in Canvas instellen voor het opvragen van documenten. Als u uw SageMaker Domain nog niet hebt ingesteld, raadpleegt u Aan boord van Amazon SageMaker Domain.

Als onderdeel van de domeinconfiguratie kan een cloudbeheerder een of meer Kendra-indexen kiezen die de bedrijfsanalist kan opvragen tijdens interactie met de FM via SageMaker Canvas.

Nadat de Kendra-indexen zijn gehydrateerd en geconfigureerd, gebruiken bedrijfsanalisten ze met SageMaker Canvas door een nieuwe chat te starten en de schakelaar “Query Documenten” te selecteren. SageMaker Canvas beheert vervolgens de onderliggende communicatie tussen Amazon Kendra en de FM naar keuze om de volgende bewerkingen uit te voeren:

1. Doorzoek de Kendra-indexen met de vraag afkomstig van de gebruiker.
2. Haal de fragmenten (en de bronnen) op uit Kendra-indices.
3. Ontwikkel de prompt met de fragmenten met de oorspronkelijke query, zodat het basismodel een antwoord kan genereren op basis van de opgehaalde documenten.
4. Geef het gegenereerde antwoord aan de gebruiker, samen met verwijzingen naar de pagina's/documenten die zijn gebruikt om het antwoord te formuleren.

Canvas instellen om documenten op te vragen

In deze sectie leiden we u door de stappen om Canvas in te stellen voor het opvragen van documenten die via Kendra-indexen worden aangeboden. U moet aan de volgende vereisten voldoen:

• SageMaker-domein instellen – Aan boord van Amazon SageMaker Domain
• Maak een Kendra-index (of meer dan één)
• Stel de Kendra Amazon S3-connector in – volg de Amazon S3-connector – en upload PDF-bestanden en andere documenten naar de Amazon S3-bucket die is gekoppeld aan de Kendra-index
• Stel IAM zo in dat Canvas de juiste machtigingen heeft, inclusief de machtigingen die vereist zijn voor het aanroepen van Amazon Bedrock- en/of SageMaker-eindpunten – volg de Canvaschat instellen documentatie

Nu kunt u het domein bijwerken zodat het toegang heeft tot de gewenste indexen. Op de SageMaker-console selecteert u voor het opgegeven domein Bewerken op het tabblad Domeininstellingen. Schakel de schakelaar "Querydocumenten inschakelen met Amazon Kendra" in, die u kunt vinden bij de stap Canvas-instellingen. Eenmaal geactiveerd, kies je een of meer Kendra-indexen die je met Canvas wilt gebruiken.

Dat is alles wat nodig is om de functie Canvas-querydocumenten te configureren. Gebruikers kunnen nu in Canvas een chat starten en de kennisbanken gaan gebruiken die via de Kendra-indexen aan het domein zijn gekoppeld. De beheerders van de kennisbank kunnen de bron van de waarheid blijven updaten en met de synchronisatiemogelijkheid in Kendra kunnen de chatgebruikers automatisch op een naadloze manier gebruik maken van de actuele informatie.

De functie Querydocumenten gebruiken voor chat

Als SageMaker Canvas-gebruiker is de functie Querydocumenten toegankelijk vanuit een chat. Om de chatsessie te starten, klikt u op of zoekt u naar de knop ‘Inhoud genereren, extraheren en samenvatten’ op het tabblad Kant-en-klare modellen in SageMaker Canvas.

Eenmaal daar kunt u Query-documenten in- en uitschakelen met de schakelaar bovenaan het scherm. Bekijk de informatieprompt voor meer informatie over de functie.

Wanneer Querydocumenten is ingeschakeld, kunt u kiezen uit een lijst met Kendra-indexen die zijn ingeschakeld door de cloudbeheerder.

U kunt een index selecteren wanneer u een nieuwe chat start. Vervolgens kunt u een vraag stellen in de UX, waarbij kennis automatisch uit de geselecteerde index wordt gehaald. Houd er rekening mee dat nadat een gesprek tegen een specifieke index is gestart, het niet mogelijk is om naar een andere index over te schakelen.

Voor de gestelde vragen toont de chat het door de FM gegenereerde antwoord, samen met de brondocumenten die hebben bijgedragen aan het genereren van het antwoord. Wanneer je op een van de brondocumenten klikt, opent Canvas een voorbeeld van het document, waarbij het door de FM gebruikte fragment wordt gemarkeerd.

Conclusie

Conversationele AI heeft een enorm potentieel om de ervaring van klanten en werknemers te transformeren door een mensachtige assistent te bieden met natuurlijke en intuïtieve interacties zoals:

• Onderzoek doen naar een onderwerp of zoeken en bladeren in de kennisbank van de organisatie
• Het samenvatten van inhoudsvolumes om snel inzichten te verzamelen
• Zoeken naar entiteiten, sentimenten, PII en andere nuttige gegevens, en het vergroten van de zakelijke waarde van ongestructureerde inhoud
• Het genereren van concepten voor documenten en zakelijke correspondentie
• Kennisartikelen maken uit ongelijksoortige interne bronnen (incidenten, chatlogs, wiki's)

De innovatieve integratie van chatinterfaces, het ophalen van kennis en FM's stelt bedrijven in staat nauwkeurige, relevante antwoorden te geven op vragen van gebruikers door gebruik te maken van hun domeinkennis en bronnen van waarheid.

Door SageMaker Canvas te verbinden met kennisbanken in Amazon Kendra kunnen organisaties hun bedrijfseigen gegevens binnen hun eigen omgeving houden en toch profiteren van de ultramoderne natuurlijke taalmogelijkheden van FM's. Met de lancering van de functie Query Documenten van SageMaker Canvas maken we het voor elke onderneming gemakkelijk om LLM's en hun bedrijfskennis te gebruiken als bron van waarheid voor een veilige chatervaring. Al deze functionaliteit is beschikbaar in een codevrij formaat, waardoor bedrijven de repetitieve en niet-gespecialiseerde taken kunnen vermijden.

Voor meer informatie over SageMaker Canvas en hoe het het voor iedereen makkelijker maakt om met Machine Learning te beginnen, bekijk de SageMaker Canvas-aankondiging. Lees meer over hoe SageMaker Canvas de samenwerking tussen datawetenschappers en bedrijfsanalisten helpt bevorderen door de Post bouwen, delen en implementeren. Als u ten slotte wilt weten hoe u uw eigen Retrieval Augmented Generation-workflow kunt maken, raadpleegt u SageMaker JumpStart RAG.

Referenties

Lewis, P., Perez, E., Piktus, A., Petroni, F., Karpukhin, V., Goyal, N., Küttler, H., Lewis, M., Yih, W., Rocktäschel, T., Riedel, S., Kiela, D. (2020). Retrieval-Augmented Generation voor kennisintensieve NLP-taken. Vooruitgang in neurale informatieverwerkingssystemen, 33, 9459-9474.

---

Over de auteurs

David Gallitelli is een Senior Specialist Solutions Architect voor AI/ML. Hij is gevestigd in Brussel en werkt nauw samen met klanten over de hele wereld die Low-Code/No-Code Machine Learning-technologieën en generatieve AI willen adopteren. Hij is ontwikkelaar sinds hij heel jong was en begon op 7-jarige leeftijd met coderen. Hij begon AI/ML te leren op de universiteit en is er sindsdien verliefd op geworden.

Bilal Alam is een Enterprise Solutions Architect bij AWS met een focus op de financiële dienstverlening. Op de meeste dagen helpt Bilal klanten met het bouwen, verbeteren en beveiligen van hun AWS-omgeving om hun meest kritische workloads in te zetten. Hij heeft uitgebreide ervaring op het gebied van telecom, netwerken en softwareontwikkeling. Meer recentelijk heeft hij zich gebogen over het gebruik van AI/ML om bedrijfsproblemen op te lossen.

Pashmeen Mistry is senior productmanager bij AWS. Buiten zijn werk houdt Pashmeen van avontuurlijke wandelingen, fotografie en tijd doorbrengen met zijn gezin.

Dan Sinnreich is Senior Product Manager bij AWS en helpt bij het democratiseren van low-code/no-code machine learning. Vóór AWS bouwde en commercialiseerde Dan zakelijke SaaS-platforms en tijdreeksmodellen die door institutionele beleggers worden gebruikt om risico's te beheren en optimale portefeuilles samen te stellen. Buiten zijn werk speelt hij hockey, duikt hij en leest hij sciencefiction.

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://aws.amazon.com/blogs/machine-learning/empower-your-business-users-to-extract-insights-from-company-documents-using-amazon-sagemaker-canvas-generative-ai/