Erstellen Sie einen Kundenservice-Bot mit Foundation-Modell (FM) und Agenten für Amazon Bedrock | Amazon Web Services

Von der Verbesserung des Gesprächserlebnisses bis hin zur Agentenunterstützung gibt es viele Möglichkeiten, wie generative künstliche Intelligenz (KI) und Basismodelle (FMs) dazu beitragen können, schnelleren und besseren Support bereitzustellen. Angesichts der zunehmenden Verfügbarkeit und Vielfalt von FMs ist es schwierig, zu experimentieren und mit den neuesten Modellversionen auf dem Laufenden zu bleiben. Amazonas Grundgestein ist ein vollständig verwalteter Dienst, der eine Auswahl leistungsstarker FMs von führenden KI-Unternehmen wie AI21 Labs, Anthropic, Cohere, Meta, Stability AI und Amazon bietet. Mit den umfassenden Funktionen von Amazon Bedrock können Sie problemlos mit einer Vielzahl von Top-FMs experimentieren und diese mithilfe von Techniken wie Feinabstimmung und Retrieval Augmented Generation (RAG) privat an Ihre Daten anpassen.

Agenten für Amazon Bedrock

Im Juli kündigte AWS die Vorschau von an Agenten für Amazon Bedrock, eine neue Möglichkeit für Entwickler, mit wenigen Klicks vollständig verwaltete Agenten zu erstellen. Agenten erweitern FMs, um komplexe Geschäftsaufgaben auszuführen – von der Buchung von Reisen und der Bearbeitung von Versicherungsansprüchen bis hin zur Erstellung von Werbekampagnen und der Verwaltung von Inventar – und das alles, ohne Code schreiben zu müssen. Mit vollständig verwalteten Agenten müssen Sie sich keine Gedanken über die Bereitstellung oder Verwaltung der Infrastruktur machen.

In diesem Beitrag stellen wir eine Schritt-für-Schritt-Anleitung mit Bausteinen zum Erstellen eines Kundenservice-Bots bereit. Wir verwenden ein Textgenerierungsmodell (Anthropischer Claude V2) und Agenten für Amazon Bedrock für diese Lösung. Wir bieten eine AWS CloudFormation Vorlage zur Bereitstellung der für die Erstellung dieser Lösung erforderlichen Ressourcen. Anschließend führen wir Sie durch die Schritte zum Erstellen eines Agenten für Amazon Bedrock.

ReAct-Eingabeaufforderung

FMs bestimmen, wie vom Benutzer angeforderte Aufgaben mit einer Technik namens gelöst werden sollen Reagieren. Es handelt sich um ein allgemeines Paradigma, das Denken und Handeln mit FMs verbindet. ReAct fordert FMs auf, verbale Argumentationsspuren und Aktionen für eine Aufgabe zu generieren. Dies ermöglicht es dem System, dynamische Überlegungen durchzuführen, um Handlungspläne zu erstellen, aufrechtzuerhalten und anzupassen und gleichzeitig zusätzliche Informationen in die Überlegungen einzubeziehen. Die strukturierten Eingabeaufforderungen umfassen eine Abfolge von Frage-Gedanken-Handlungs-Beobachtungsbeispielen.

• Bei der Frage handelt es sich um die vom Benutzer angeforderte Aufgabe oder das zu lösende Problem.
• Der Gedanke ist ein Argumentationsschritt, der dem FM zeigt, wie er das Problem angehen und eine zu ergreifende Maßnahme ermitteln kann.
• Die Aktion ist eine API, die das Modell über einen zulässigen Satz von APIs aufrufen kann.
• Die Beobachtung ist das Ergebnis der Durchführung der Aktion.

Komponenten in Agenten für Amazon Bedrock

Hinter den Kulissen automatisieren Agenten für Amazon Bedrock die zeitnahe Planung und Orchestrierung von vom Benutzer angeforderten Aufgaben. Sie können die Eingabeaufforderungen sicher mit unternehmensspezifischen Informationen ergänzen, um dem Benutzer Antworten in natürlicher Sprache zu geben. Der Agent unterteilt die vom Benutzer angeforderte Aufgabe in mehrere Schritte und orchestriert Teilaufgaben mithilfe von FMs. Aktionsgruppen sind Aufgaben, die der Agent autonom ausführen kann. Aktionsgruppen werden einem zugeordnet AWS Lambda Funktion und zugehöriges API-Schema zum Ausführen von API-Aufrufen. Das folgende Diagramm zeigt die Agentenstruktur.

Lösungsüberblick

Wir verwenden einen Anwendungsfall eines Schuhhändlers, um den Kundenservice-Bot zu erstellen. Der Bot hilft Kunden beim Schuhkauf, indem er in einem menschenähnlichen Gespräch Optionen anbietet. Kunden kommunizieren mit dem Bot in natürlicher Sprache, wobei sie in mehreren Schritten externe APIs aufrufen, um Teilaufgaben auszuführen. Das folgende Diagramm veranschaulicht den Beispielprozessablauf.

Das folgende Diagramm zeigt eine allgemeine Architektur dieser Lösung.

1. Sie können einen Agenten mit von Amazon Bedrock unterstützten FMs wie Anthropic Claude V2 erstellen.
2. Hängen Sie ein API-Schema an, das sich in einem befindet Einfacher Amazon-Speicherdienst (Amazon S3) Bucket und eine Lambda-Funktion, die die Geschäftslogik für den Agenten enthält. (Hinweis: Dies ist ein einmaliger Einrichtungsschritt.)
3. Der Agent verwendet Kundenanfragen, um mithilfe des ReAct-Frameworks eine Eingabeaufforderung zu erstellen. Anschließend wird das API-Schema verwendet, um entsprechenden Code in der Lambda-Funktion aufzurufen.
4. Sie können eine Vielzahl von Aufgaben ausführen, darunter das Senden von E-Mail-Benachrichtigungen, das Schreiben in Datenbanken und das Auslösen von Anwendungs-APIs in den Lambda-Funktionen.

In diesem Beitrag verwenden wir die Lambda-Funktion, um Kundendaten abzurufen, Schuhe aufzulisten, die der vom Kunden bevorzugten Aktivität entsprechen, und schließlich Bestellungen aufzugeben. Unser Code wird durch eine In-Memory-SQLite-Datenbank gestützt. Sie können ähnliche Konstrukte verwenden, um in einen persistenten Datenspeicher zu schreiben.

Voraussetzungen:

Um die in diesem Beitrag bereitgestellte Lösung zu implementieren, sollten Sie über eine AWS-Konto und Zugriff auf Amazon Bedrock mit aktivierten Agenten (derzeit in der Vorschau). Verwenden Sie die AWS CloudFormation-Vorlage, um den für die Lösung erforderlichen Ressourcenstapel zu erstellen.

us-east-1

Die CloudFormation-Vorlage erstellt zwei IAM-Rollen. Aktualisieren Sie diese Rollen, um die Berechtigungen mit den geringsten Rechten anzuwenden, wie in beschrieben Bewährte Sicherheitsmethoden. Klicken Sie hier Erfahren Sie, welche IAM-Funktionen für die Verwendung mit Agenten für Amazon Bedrock verfügbar sind.

1. LambdaBasicExecutionRole mit Amazon S3-Vollzugriff und CloudWatch-Zugriff für die Protokollierung.
2. AmazonBedrockExecutionRoleForAgents mit Vollzugriff auf Amazon S3 und Vollzugriff auf Lambda.

Wichtig: Agenten für Amazon Bedrock müssen den Rollennamen mit dem Präfix haben AmazonBedrockExecutionRoleForAgents_*

Einrichtung von Bedrock Agents

In den nächsten beiden Abschnitten führen wir Sie durch die Erstellung und das Testen eines Agenten.

Erstellen Sie einen Agenten für Amazon Bedrock

Um einen Agenten zu erstellen, öffnen Sie die Amazon Bedrock-Konsole und wählen Sie Mitarbeiter im linken Navigationsbereich. Dann auswählen Agent erstellen.

Dadurch wird der Workflow zur Agentenerstellung gestartet.

1. Geben Sie Agentendetails an: Geben Sie dem Agenten einen Namen und eine Beschreibung (optional). Wählen Sie die vom CloudFormation-Stack erstellte Dienstrolle aus und wählen Sie aus Weiter.

2. Wählen Sie ein Fundamentmodell aus: Im Modell auswählen Auf dem Bildschirm wählen Sie ein Modell aus. Geben Sie dem Agenten klare und präzise Anweisungen darüber, welche Aufgaben er ausführen und wie er mit den Benutzern interagieren soll.

3. Aktionsgruppen hinzufügen: Eine Aktion ist eine Aufgabe, die der Agent durch API-Aufrufe ausführen kann. Eine Reihe von Aktionen bilden eine Aktionsgruppe. Sie stellen ein API-Schema bereit, das alle APIs in der Aktionsgruppe definiert. Sie müssen ein API-Schema im bereitstellen OpenAPI-Schema JSON-Format. Die Lambda-Funktion enthält die Geschäftslogik, die zum Ausführen von API-Aufrufen erforderlich ist. Sie müssen jeder Aktionsgruppe eine Lambda-Funktion zuordnen.

Geben Sie der Aktionsgruppe einen Namen und eine Beschreibung für die Aktion. Wählen Sie die Lambda-Funktion aus, stellen Sie eine API-Schemadatei bereit und wählen Sie aus Weiter.

4. Überprüfen Sie im letzten Schritt die Agentenkonfiguration und wählen Sie aus Agent erstellen.

Testen und Bereitstellen von Agenten für Amazon Bedrock

1. Testen Sie den Agenten: Nachdem der Agent erstellt wurde, wird in einem Dialogfeld die Agentenübersicht zusammen mit einem Arbeitsentwurf angezeigt. Die Amazon Bedrock-Konsole bietet eine Benutzeroberfläche zum Testen Ihres Agenten.

2. Deploy: Nach erfolgreichem Test können Sie Ihren Agenten bereitstellen. Um einen Agenten in Ihrer Anwendung bereitzustellen, müssen Sie einen Alias ​​erstellen. Amazon Bedrock erstellt dann automatisch eine Version für diesen Alias.

Die folgenden Aktionen werden mit der vorherigen Agenteneinrichtung und dem in diesem Beitrag bereitgestellten Lambda-Code ausgeführt:

1. Der Agent erstellt eine Eingabeaufforderung aus den vom Entwickler bereitgestellten Anweisungen (z. B. „Sie sind ein Agent, der Kunden beim Kauf von Schuhen hilft“), ​​API-Schemata, die zum Abschließen der Aufgaben erforderlich sind, und Datenquellendetails. Die automatische Eingabeaufforderungserstellung erspart wochenlanges Experimentieren mit Eingabeaufforderungen für verschiedene FMs.
2. Der Agent orchestriert die vom Benutzer angeforderte Aufgabe, z. B. „Ich suche Schuhe“, indem er sie in kleinere Teilaufgaben aufteilt, z. B. das Abrufen von Kundendaten, das Zuordnen der vom Kunden bevorzugten Aktivität zur Schuhaktivität und das Aufgeben von Schuhbestellungen. Der Agent bestimmt die richtige Reihenfolge der Aufgaben und kümmert sich nebenbei um Fehlerszenarien.

Der folgende Screenshot zeigt einige Beispielantworten des Agenten.

Durch die Auswahl Spur anzeigen Für jede Antwort zeigt ein Dialogfeld die vom Agenten verwendete Argumentationstechnik und die vom FM generierte endgültige Antwort an.

Aufräumen

Um künftige Gebühren zu vermeiden, löschen Sie die Ressourcen. Sie können dies tun, indem Sie den Stack aus der CloudFormation-Konsole löschen.

Laden Sie den in diesem Beitrag verwendeten Code gerne von GitHub herunter und testen Sie ihn Agenten für das Amazon Bedrock-Repository. Sie können die Agenten für Amazon Bedrock auch programmgesteuert aufrufen; ein Beispiel Jupyter Notebook wird im Repository bereitgestellt.

Zusammenfassung

Agenten für Amazon Bedrock können Ihnen dabei helfen, die Produktivität zu steigern, Ihr Kundenserviceerlebnis zu verbessern oder DevOps-Aufgaben zu automatisieren. In diesem Beitrag haben wir Ihnen gezeigt, wie Sie Agenten für Amazon Bedrock einrichten, um einen Kundenservice-Bot zu erstellen.

Wir empfehlen Ihnen, durch eine Rezension mehr zu erfahren Zusatzfunktionen des Amazonas-Grundgesteins. Sie können den in diesem Beitrag bereitgestellten Beispielcode verwenden, um Ihre Implementierung zu erstellen. Probier unser Werkstatt um praktische Erfahrungen mit Amazon Bedrock zu sammeln.

---

Über die Autoren

Amit Arora ist ein KI- und ML-Spezialistenarchitekt bei Amazon Web Services und unterstützt Unternehmenskunden bei der Nutzung cloudbasierter maschineller Lerndienste, um ihre Innovationen schnell zu skalieren. Er ist außerdem außerordentlicher Dozent im MS Data Science and Analytics-Programm an der Georgetown University in Washington DC

Manju Prasad ist Senior Solutions Architect im Bereich Strategic Accounts bei Amazon Web Services. Sie konzentriert sich auf die Bereitstellung technischer Beratung in verschiedenen Bereichen, einschließlich KI/ML, für einen bedeutenden M&E-Kunden. Bevor sie zu AWS kam, arbeitete sie für Unternehmen im Finanzdienstleistungssektor und auch für ein Startup.

Archana Inapudi ist Senior Solutions Architect bei AWS und unterstützt strategische Kunden. Sie verfügt über mehr als ein Jahrzehnt Erfahrung in der Unterstützung von Kunden beim Entwerfen und Erstellen von Datenanalysen und Datenbanklösungen. Ihre Leidenschaft gilt dem Einsatz von Technologie, um Kunden einen Mehrwert zu bieten und Geschäftsergebnisse zu erzielen.

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
• PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
• PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
• PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
• Quelle: https://aws.amazon.com/blogs/machine-learning/build-a-foundation-model-fm-powered-customer-service-bot-with-agents-for-amazon-bedrock/