Accenture crée une solution Knowledge Assist utilisant des services d'IA générative sur AWS | Services Web Amazon

Cet article est co-écrit avec Ilan Geller et Shuyu Yang d'Accenture.

Les entreprises sont aujourd’hui confrontées à des défis majeurs lorsqu’il s’agit d’utiliser leurs bases d’informations et de connaissances pour leurs opérations commerciales internes et externes. Avec des opérations, des processus, des politiques et des exigences de conformité en constante évolution, il peut être extrêmement difficile pour les employés et les clients de rester informés. Dans le même temps, la nature non structurée d’une grande partie de ce contenu fait qu’il est long de trouver des réponses à l’aide de la recherche traditionnelle.

En interne, les employés peuvent souvent passer d'innombrables heures à rechercher les informations dont ils ont besoin pour faire leur travail, ce qui entraîne frustration et réduction de la productivité. Et lorsqu’ils ne trouvent pas de réponses, ils doivent faire remonter les problèmes ou prendre des décisions sans contexte complet, ce qui peut créer des risques.

En externe, les clients peuvent également trouver frustrant de trouver les informations qu’ils recherchent. Bien que les bases de connaissances des entreprises aient, au fil du temps, amélioré l’expérience client, elles peuvent encore s’avérer lourdes et difficiles à utiliser. Qu'il s'agisse de chercher des réponses à une question relative à un produit ou d'avoir besoin d'informations sur les heures d'ouverture et les lieux d'ouverture, une mauvaise expérience peut entraîner de la frustration, ou pire, une défection du client.

Dans les deux cas, à mesure que la gestion des connaissances devient plus complexe, l’IA générative offre aux entreprises une opportunité révolutionnaire de connecter les individus aux informations dont ils ont besoin pour fonctionner et innover. Avec la bonne stratégie, ces solutions intelligentes peuvent transformer la façon dont les connaissances sont capturées, organisées et utilisées au sein d’une organisation.

Pour aider à relever ce défi, Accenture a collaboré avec AWS pour créer une solution innovante d'IA générative appelée Knowledge Assist. En utilisant les services d'IA générative d'AWS, l'équipe a développé un système capable d'ingérer et de comprendre d'énormes quantités de contenu d'entreprise non structuré.

Plutôt que les recherches traditionnelles par mots clés, les utilisateurs peuvent désormais poser des questions et extraire des réponses précises dans une interface conversationnelle simple. L'IA générative comprend le contexte et les relations au sein de la base de connaissances pour fournir des réponses personnalisées et précises. À mesure qu’il répond à davantage de requêtes, le système améliore continuellement son traitement linguistique grâce à des algorithmes d’apprentissage automatique (ML).

Depuis le lancement de ce cadre d'assistance à l'IA, les entreprises ont constaté des améliorations spectaculaires en termes de rétention des connaissances et de productivité des employés. En fournissant un accès rapide et précis aux informations et en permettant aux employés de se servir en libre-service, cette solution réduit le temps de formation des nouvelles recrues de plus de 50 % et réduit les escalades jusqu'à 40 %.

Grâce à la puissance de l’IA générative, les entreprises peuvent transformer la manière dont les connaissances sont capturées, organisées et partagées au sein de l’organisation. En exploitant leurs bases de connaissances existantes, les entreprises peuvent améliorer la productivité de leurs employés et la satisfaction de leurs clients. Comme le démontre la collaboration d'Accenture avec AWS, l'avenir de la gestion des connaissances d'entreprise réside dans les systèmes basés sur l'IA qui évoluent grâce aux interactions entre les humains et les machines.

Accenture travaille avec AWS pour aider les clients à déployer Socle amazonien, utilisez les modèles fondamentaux les plus avancés tels que Titan d'Amazonie, et déployer des technologies de pointe telles que Amazon SageMaker JumpStart ainsi que Amazon Inférence aux côtés d'autres services AWS ML.

Cet article donne un aperçu d'une solution d'IA générative de bout en bout développée par Accenture pour un cas d'utilisation en production utilisant Amazon Bedrock et d'autres services AWS.

Vue d'ensemble de la solution

Un important client du secteur de la santé publique sert des millions de citoyens chaque jour, et ces derniers exigent un accès facile à des informations actualisées dans un paysage sanitaire en constante évolution. Accenture a intégré cette fonctionnalité d'IA générative dans un bot FAQ existant, permettant au chatbot de fournir des réponses à un plus large éventail de questions des utilisateurs. Augmenter la capacité des citoyens à accéder aux informations pertinentes en libre-service permet au service d'économiser du temps et de l'argent, réduisant ainsi le besoin d'interaction avec les agents des centres d'appels. Les principales fonctionnalités de la solution incluent :

• Approche d’intention hybride – Utilise des intentions génératives et pré-entraînées
• Support multilingue – Converses en anglais et espagnol
• Analyse conversationnelle – Rapports sur les besoins, les sentiments et les préoccupations des utilisateurs
• Conversations naturelles – Maintient le contexte avec le traitement du langage naturel (NLP) de type humain
• Citations transparentes – Guide les utilisateurs vers les informations sources

La solution d'IA générative d'Accenture offre les avantages suivants par rapport aux frameworks de chatbot existants ou traditionnels :

• Génère rapidement des réponses précises, pertinentes et naturelles aux requêtes des utilisateurs
• Se souvient du contexte et répond aux questions de suivi
• Gère les requêtes et génère des réponses dans plusieurs langues (telles que l'anglais et l'espagnol)
• Apprend et améliore continuellement les réponses en fonction des commentaires des utilisateurs
• Est facilement intégrable à votre plateforme Web existante
• Ingère un vaste référentiel de base de connaissances d’entreprise
• Répond de manière humaine
• L'évolution des connaissances est disponible en permanence avec un minimum ou aucun effort
• Utilise un modèle de paiement à l'utilisation sans frais initiaux

Le flux de travail de haut niveau de cette solution implique les étapes suivantes :

1. Les utilisateurs créent une intégration simple avec les plateformes Web existantes.​
2. Les données sont ingérées dans la plateforme sous forme de téléchargement groupé le jour 0, puis de téléchargements incrémentiels le jour 1+.​
3. Les requêtes des utilisateurs sont traitées en temps réel et le système évolue selon les besoins pour répondre à la demande des utilisateurs.
4. Les conversations sont enregistrées dans les bases de données de l'application (Base de données Amazon Dynamo) pour prendre en charge les conversations à plusieurs tours.​
5. Le modèle de base Anthropic Claude est invoqué via Amazon Bedrock, qui est utilisé pour générer des réponses aux requêtes basées sur le contenu le plus pertinent.
6. Le modèle de fondation Anthropic Claude est utilisé pour traduire les requêtes ainsi que les réponses de l'anglais vers d'autres langues souhaitées afin de prendre en charge les conversations multilingues.
7. Le modèle de fondation Amazon Titan est invoqué via Amazon Bedrock pour générer des intégrations vectorielles.
8. La pertinence du contenu est déterminée par la similarité des intégrations de contenu brut et de l'intégration des requêtes de l'utilisateur à l'aide des intégrations de bases de données vectorielles Pinecone.​
9. Le contexte ainsi que la question de l'utilisateur sont ajoutés pour créer une invite, qui est fournie en entrée du modèle Anthropic Claude. La réponse générée est renvoyée à l'utilisateur via la plateforme Web.

Le diagramme suivant illustre l'architecture de la solution.

Le flux de l'architecture peut être compris en deux parties :

Dans les sections suivantes, nous abordons plus en détail différents aspects de la solution et son développement.

Sélection du modèle

Le processus de sélection du modèle comprenait des tests de régression de divers modèles disponibles dans Amazon Bedrock, notamment les modèles de base AI21 Labs, Cohere, Anthropic et Amazon. Nous avons vérifié les cas d'utilisation pris en charge, les attributs du modèle, le nombre maximal de jetons, le coût, la précision, les performances et les langues. Sur cette base, nous avons sélectionné Claude-2 comme le mieux adapté à ce cas d'utilisation.

La source de données

Nous avons créé un index Amazon Kendra et ajouté une source de données à l'aide de connecteurs de robot d'exploration Web avec une URL Web racine et une profondeur de répertoire de deux niveaux. Plusieurs pages Web ont été ingérées dans l'index Amazon Kendra et utilisées comme source de données.

Processus de demande et de réponse du chatbot GenAI

Les étapes de ce processus consistent en une interaction de bout en bout avec une demande provenant de Amazon Lex et une réponse d'un grand modèle de langage (LLM) :

1. L'utilisateur soumet la demande à l'application frontale conversationnelle hébergée dans un Service de stockage simple Amazon (Amazon S3) via le compartiment Amazon Route 53 ainsi que Amazon CloudFront.
2. Amazon Lex comprend l'intention et dirige la demande vers l'orchestrateur hébergé dans un AWS Lambda la fonction.
3. La fonction Lambda de l'orchestrateur effectue les étapes suivantes :
   1. La fonction interagit avec la base de données de l'application, qui est hébergée dans une base de données gérée par DynamoDB. La base de données stocke l'ID de session et l'ID utilisateur pour l'historique des conversations.
   2. Une autre requête est envoyée à l'index Amazon Kendra pour obtenir les cinq premiers résultats de recherche pertinents afin de créer le contexte pertinent. En utilisant ce contexte, une invite modifiée est construite, requise pour le modèle LLM.
   3. La connexion est établie entre Amazon Bedrock et l'orchestrateur. Une demande est publiée sur le modèle Amazon Bedrock Claude-2 pour obtenir la réponse du modèle LLM sélectionné.
4. Les données sont post-traitées à partir de la réponse LLM et une réponse est envoyée à l'utilisateur.

Rapports en ligne

Le processus de déclaration en ligne comprend les étapes suivantes :

1. Les utilisateurs finaux interagissent avec le chatbot via une couche frontale CloudFront CDN.
2. Chaque interaction demande/réponse est facilitée par le SDK AWS et envoie le trafic réseau à Amazon Lex (le composant NLP du bot).
3. Les métadonnées sur les paires requête/réponse sont enregistrées dans Amazon Cloud Watch.
4. Le groupe de journaux CloudWatch est configuré avec un filtre d'abonnement qui envoie les journaux vers Service Amazon OpenSearch.
5. Une fois disponibles dans OpenSearch Service, les journaux peuvent être utilisés pour générer des rapports et des tableaux de bord à l'aide de Kibana.

Conclusion

Dans cet article, nous avons montré comment Accenture utilise les services d'IA générative d'AWS pour mettre en œuvre une approche de bout en bout de la transformation numérique. Nous avons identifié les lacunes des plateformes de questions-réponses traditionnelles et de l'intelligence générative augmentée dans son cadre pour des temps de réponse plus rapides et une amélioration continue du système tout en interagissant avec les utilisateurs du monde entier. Contactez l'équipe du Centre d'excellence d'Accenture pour approfondir la solution et déployer cette solution pour vos clients.

Cette plateforme Knowledge Assist peut être appliquée à différents secteurs, notamment les sciences de la santé, les services financiers, l'industrie manufacturière, etc. Cette plateforme fournit des réponses naturelles et humaines aux questions en utilisant des connaissances sécurisées. Cette plate-forme permet à ses utilisateurs d'effectuer des actions efficaces, productives et plus précises.

L'effort commun s'appuie sur la relation stratégique de 15 ans entre les entreprises et utilise les mêmes mécanismes et accélérateurs éprouvés construits par le Groupe d'affaires Accenture AWS (AABG).

Connectez-vous avec l'équipe AABG à accentureaws@amazon.com pour générer des résultats commerciaux en vous transformant en une entreprise de données intelligente sur AWS.

Pour plus d'informations sur l'IA générative sur AWS à l'aide d'Amazon Bedrock ou Amazon Sage Maker, nous recommandons les ressources suivantes :

Vous pouvez aussi vous inscrivez-vous à la newsletter AWS sur l'IA générative, qui comprend des ressources pédagogiques, des blogs et des mises à jour de services.

---

À propos des auteurs

Ilan Geller est le directeur général d'Accenture, spécialisé dans l'intelligence artificielle, aidant les clients à faire évoluer les applications d'intelligence artificielle et le responsable mondial des partenaires GenAI COE pour AWS.

Shu Yu Yang est responsable de la fourniture de l'IA générative et de grands modèles linguistiques et dirige également les équipes du CoE (Centre d'excellence) Accenture AI (professionnel AWS DevOps).

Shikhar Kwatra est un architecte de solutions spécialisé en IA/ML chez Amazon Web Services, travaillant avec un intégrateur de systèmes mondial de premier plan. Il a obtenu le titre de l'un des plus jeunes maîtres inventeurs indiens avec plus de 500 brevets dans les domaines de l'IA/ML et de l'IoT. Shikhar aide à concevoir, créer et maintenir des environnements cloud rentables et évolutifs pour l'organisation, et aide le partenaire GSI à créer des solutions industrielles stratégiques sur AWS.

Jay Pillai est architecte de solutions principal chez Amazon Web Services. Dans ce rôle, il agit en tant qu'architecte principal mondial de l'IA générative et également architecte principal pour les solutions de chaîne d'approvisionnement chez AABG. En tant que leader des technologies de l'information, Jay se spécialise dans les domaines de l'intelligence artificielle, de l'intégration de données, de la business intelligence et de l'interface utilisateur. Il possède 23 années d'expérience approfondie auprès de plusieurs clients dans les domaines de la chaîne d'approvisionnement, des technologies juridiques, de l'immobilier, des services financiers, de l'assurance, des paiements et des études de marché.

Karthik Sonti dirige une équipe mondiale d'architectes de solutions axée sur la conceptualisation, la création et le lancement de solutions horizontales, fonctionnelles et verticales avec Accenture pour aider nos clients communs à transformer leur entreprise de manière différenciée sur AWS.

• Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
• PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
• PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
• PlatonESG. Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
• PlatoHealth. Veille biotechnologique et essais cliniques. Accéder ici.
• La source: https://aws.amazon.com/blogs/machine-learning/accenture-creates-a-knowledge-assist-solution-using-generative-ai-services-on-aws/