Az Accenture egy Knowledge Assist megoldást hoz létre az AWS | generatív AI-szolgáltatásaival Amazon webszolgáltatások

Ezt a bejegyzést Ilan Gellerrel és Shuyu Yanggal közösen írták az Accenture-től.

A vállalatok manapság komoly kihívásokkal néznek szembe információ- és tudásbázisaik belső és külső üzleti műveletekhez való felhasználása során. A folyamatosan fejlődő műveletek, folyamatok, irányelvek és megfelelőségi követelmények miatt rendkívül nehéz lehet az alkalmazottak és az ügyfelek számára, hogy naprakészek maradjanak. Ugyanakkor a tartalom nagy részének strukturálatlansága időigényessé teszi a válaszok keresését a hagyományos kereséssel.

Belsőleg az alkalmazottak gyakran számtalan órát tölthetnek a munkájukhoz szükséges információk felkutatásával, ami frusztrációhoz és csökkent termelékenységhez vezet. Ha pedig nem találnak válaszokat, eszkalálniuk kell a problémákat, vagy teljes kontextus nélkül kell döntéseket hozniuk, ami kockázatot jelenthet.

Külsőleg az ügyfelek is frusztrálónak találhatják a keresett információ megtalálását. Bár a vállalati tudásbázisok idővel javították az ügyfélélményt, továbbra is nehézkesek és nehezen használhatók lehetnek. Akár egy termékkel kapcsolatos kérdésre keresi a választ, akár információra van szüksége a nyitvatartási időről és a helyszínekről, a rossz tapasztalatok frusztrációhoz, vagy ami még rosszabb, az ügyfél disszidációjához vezethetnek.

Mindkét esetben, ahogy a tudásmenedzsment egyre összetettebbé válik, a generatív mesterséges intelligencia megváltoztatja a lehetőséget a vállalkozások számára, hogy kapcsolatba lépjenek az emberekkel a teljesítményhez és az innovációhoz szükséges információkhoz. A megfelelő stratégiával ezek az intelligens megoldások átalakíthatják a tudás megszerzését, rendszerezését és felhasználását a szervezeten belül.

Ennek a kihívásnak a leküzdése érdekében az Accenture együttműködött az AWS-szel egy innovatív generatív mesterséges intelligencia-megoldás kidolgozásában, a Knowledge Assist néven. Az AWS generatív AI-szolgáltatások használatával a csapat olyan rendszert fejlesztett ki, amely hatalmas mennyiségű strukturálatlan vállalati tartalmat képes befogadni és megérteni.

A hagyományos kulcsszavas keresés helyett a felhasználók kérdéseket tehetnek fel, és pontos válaszokat kaphatnak egy egyszerű, párbeszédes felületen. A Generatív AI megérti a tudásbázison belüli összefüggéseket és kapcsolatokat, hogy személyre szabott és pontos válaszokat adjon. Ahogy egyre több lekérdezést ad meg, a rendszer folyamatosan fejleszti nyelvi feldolgozását gépi tanulási (ML) algoritmusok segítségével.

Az AI-segítő keretrendszer elindítása óta a vállalatok drámai javulást tapasztaltak az alkalmazottak tudásmegtartásában és termelékenységében. Azáltal, hogy gyors és pontos hozzáférést biztosít az információkhoz, és lehetővé teszi az alkalmazottak önkiszolgálását, ez a megoldás több mint 50%-kal csökkenti az új alkalmazottak képzési idejét, és akár 40%-kal csökkenti az eszkalációt.

A generatív mesterséges intelligencia erejével a vállalkozások átalakíthatják a tudás rögzítésének, rendszerezésének és megosztásának módját a szervezeten belül. Meglévő tudásbázisaik felszabadításával a vállalatok növelhetik az alkalmazottak termelékenységét és az ügyfelek elégedettségét. Ahogy az Accenture és az AWS együttműködése is mutatja, a vállalati tudásmenedzsment jövője az AI-vezérelt rendszerekben rejlik, amelyek az emberek és a gépek közötti interakciókon keresztül fejlődnek.

Az Accenture az AWS-szel együttműködve segíti az ügyfeleket a telepítésben Amazon alapkőzet, használja a legfejlettebb alapozó modelleket, mint pl Amazon Titan, és olyan iparágvezető technológiákat alkalmaz, mint pl Amazon SageMaker JumpStart és a Amazon Inferentia más AWS ML szolgáltatások mellett.

Ez a bejegyzés áttekintést nyújt az Accenture által az Amazon Bedrock és más AWS-szolgáltatások felhasználásával készült éles felhasználási esetekre kifejlesztett, teljes körű generatív AI-megoldásról.

Megoldás áttekintése

A közegészségügyi szektor nagy ügyfelei nap mint nap polgárok millióit szolgálják ki, és a folyamatosan változó egészségügyi környezetben könnyű hozzáférést igényelnek a naprakész információkhoz. Az Accenture ezt a generatív AI-funkciót egy meglévő GYIK-botba integrálta, lehetővé téve a chatbot számára, hogy a felhasználói kérdések szélesebb körére adjon választ. Ha növeljük a polgárok azon képességét, hogy önkiszolgáló módon hozzáférjenek a releváns információkhoz, az osztály időt és pénzt takarít meg, és csökkenti a call center-ügynökök interakciójának szükségességét. A megoldás főbb jellemzői a következők:

• Hibrid szándékos megközelítés – Generatív és előre betanított szándékokat használ
• Többnyelvű támogatás – Angolul és spanyolul beszélget
• Beszélgetési elemzés – Jelentések a felhasználói igényekről, érzésekről és aggályokról
• Természetes beszélgetések - Kontextust tart fenn az emberszerű természetes nyelvi feldolgozással (NLP)
• Átlátszó idézetek – Elvezeti a felhasználókat a forrásinformációkhoz

Az Accenture generatív mesterséges intelligencia megoldása a következő előnyöket nyújtja a meglévő vagy hagyományos chatbot keretrendszerekkel szemben:

• Gyorsan pontos, releváns és természetes válaszokat generál a felhasználói kérdésekre
• Emlékszik a szövegkörnyezetre, és válaszol a további kérdésekre
• Lekérdezéseket kezel és válaszokat generál több nyelven (például angol és spanyol)
• A felhasználói visszajelzések alapján folyamatosan tanulja és fejleszti a válaszokat
• Könnyen integrálható meglévő webes platformjával
• A vállalati tudásbázis hatalmas tárházát tölti be
• Emberszerűen válaszol
• A tudás evolúciója minimális erőfeszítés nélkül folyamatosan elérhető
• Felhasználás szerinti fizetési modellt használ előzetes költségek nélkül

A megoldás magas szintű munkafolyamata a következő lépésekből áll:

1. A felhasználók egyszerű integrációt hoznak létre a meglévő webes platformokkal
2. Az adatok tömeges feltöltésként kerülnek a platformba a 0. napon, majd növekményes feltöltésként az 1. napon.)
3. A felhasználói lekérdezések feldolgozása valós időben történik, a rendszer a felhasználói igények kielégítéséhez szükséges méretezéssel.
4. A beszélgetéseket alkalmazás adatbázisokba menti (Amazon Dynamo DB) többfordulós beszélgetések támogatására
5. Az Anthropic Claude Foundation modellt az Amazon Bedrock segítségével hívják meg, amely a legrelevánsabb tartalom alapján lekérdezési válaszokat generál.
6. Az Anthropic Claude Foundation modell a lekérdezések, valamint a válaszok angolról más kívánt nyelvekre történő fordítására szolgál, hogy támogassa a többnyelvű beszélgetéseket.
7. Az Amazon Titan alapozó modellt az Amazon Bedrock segítségével hívják elő a vektoros beágyazások létrehozásához.
8. A tartalom relevanciáját a nyers tartalom beágyazások és a Pinecone vektoradatbázis-beágyazások felhasználói lekérdezéseinek hasonlósága határozza meg.​
9. A kontextus a felhasználó kérdésével együtt hozzá van fűzve egy prompt létrehozásához, amely az Antropikus Claude modell bemeneteként szolgál. A generált válasz a webes platformon keresztül visszakerül a felhasználóhoz.

A következő ábra a megoldás architektúráját mutatja be.

Az architektúra folyamat két részből áll:

A következő részekben a megoldás különböző aspektusait és fejlesztését részletesebben tárgyaljuk.

Modell kiválasztása

A modellválasztási folyamat magában foglalta az Amazon Bedrockban elérhető különféle modellek regressziós tesztelését, amelyek között szerepelt az AI21 Labs, a Cohere, az Anthropic és az Amazon alapozó modellek. Ellenőriztük a támogatott használati eseteket, a modellattribútumokat, a maximális tokeneket, a költségeket, a pontosságot, a teljesítményt és a nyelveket. Ennek alapján a Claude-2-t választottuk ki, mint a legmegfelelőbbet erre a felhasználási esetre.

Adatforrás

Létrehoztunk egy Amazon Kendra indexet, és hozzáadtunk egy adatforrást webrobot-összekötők segítségével, amelyek gyökérweb URL-címe és kétszintű könyvtármélysége. Számos weboldal bekerült az Amazon Kendra indexbe, és adatforrásként használták őket.

GenAI chatbot kérés és válasz folyamata

Ennek a folyamatnak a lépései egy végponttól végpontig történő interakcióból állnak a kéréssel Amazon Lex és egy nagy nyelvi modell (LLM) válasza:

1. A felhasználó elküldi a kérelmet a tárhelyen tárolt párbeszédes front-end alkalmazásnak Amazon egyszerű tárolási szolgáltatás (Amazon S3) vödör át Amazon út 53 és a Amazon CloudFront.
2. Az Amazon Lex megérti a szándékot, és a kérést a hangszerelőhöz irányítja AWS Lambda funkciót.
3. Az Orchestrator Lambda funkció a következő lépéseket hajtja végre:
   1. A függvény kölcsönhatásba lép az alkalmazás-adatbázissal, amely egy DynamoDB által felügyelt adatbázisban található. Az adatbázis tárolja a munkamenet-azonosítót és a felhasználói azonosítót a beszélgetési előzményekhez.
   2. Egy másik kérés érkezik az Amazon Kendra indexhez, hogy megkapja az öt legfontosabb releváns keresési eredményt a releváns kontextus kialakításához. Ennek a kontextusnak a felhasználásával az LLM modellhez szükséges módosított prompt összeállításra kerül.
   3. A kapcsolat létrejön az Amazon Bedrock és a hangszerelő között. Kérést küldünk az Amazon Bedrock Claude-2 modellhez, hogy megkapja a választ a kiválasztott LLM modelltől.
4. Az LLM-válaszból származó adatok utófeldolgozásra kerülnek, és válasz kerül elküldésre a felhasználónak.

Online jelentések

Az online jelentéstételi folyamat a következő lépésekből áll:

1. A végfelhasználók egy CloudFront CDN front-end rétegen keresztül lépnek kapcsolatba a chatbottal.
2. Minden kérés/válasz interakciót megkönnyít az AWS SDK, és hálózati forgalmat küld az Amazon Lexnek (a bot NLP komponense).
3. A kérés/válasz párosítással kapcsolatos metaadatok naplózásra kerülnek amazonfelhőóra.
4. A CloudWatch naplócsoport egy előfizetési szűrővel van konfigurálva, amely elküldi a bejelentkezéseket Amazon OpenSearch szolgáltatás.
5. Amint elérhetők az OpenSearch szolgáltatásban, a naplók felhasználhatók jelentések és irányítópultok létrehozására a Kibana használatával.

Következtetés

Ebben a bejegyzésben bemutattuk, hogy az Accenture hogyan használja az AWS generatív AI-szolgáltatásokat a digitális átalakulás végpontok közötti megközelítésének megvalósítására. Azonosítottuk a hagyományos kérdésmegválaszoló platformok hiányosságait, és keretein belül kibővítettük a generatív intelligenciát a gyorsabb válaszidő és a rendszer folyamatos fejlesztése érdekében, miközben kapcsolatba lépünk a felhasználókkal szerte a világon. Forduljon az Accenture Center of Excellence csapatához, hogy mélyebbre merüljön a megoldásban és a megoldás bevezetésében ügyfelei számára.

Ez a Knowledge Assist platform különböző iparágakban alkalmazható, beleértve, de nem kizárólagosan az egészségtudományokat, a pénzügyi szolgáltatásokat, a gyártást és még sok mást. Ez a platform természetes, emberszerű válaszokat ad a kérdésekre a biztonságos tudás segítségével. Ez a platform hatékonyságot, termelékenységet és pontosabb műveleteket tesz lehetővé a felhasználók számára.

A közös erőfeszítés a vállalatok közötti 15 éves stratégiai kapcsolatra épül, és ugyanazokat a bevált mechanizmusokat és gyorsítókat használja, mint a Accenture AWS Business Group (AABG).

Lépjen kapcsolatba az AABG csapattal a címen accentureaws@amazon.com hogy az AWS-en egy intelligens adatvállalattá alakítsa át az üzleti eredményeket.

További információkért az AWS-en futó generatív AI-ról az Amazon Bedrock vagy Amazon SageMaker, a következő forrásokat ajánljuk:

Ön is iratkozzon fel az AWS generatív AI hírlevélre, amely oktatási forrásokat, blogokat és szolgáltatásfrissítéseket tartalmaz.

---

A szerzőkről

Ilan Geller az Accenture ügyvezető igazgatója, aki a mesterséges intelligenciára összpontosít, segíti ügyfeleit a mesterséges intelligencia alkalmazások skálázásában, valamint az AWS globális GenAI COE partnervezetője.

Shuyu Yang a Generatív AI és a Large Language Model Delivery Lead, valamint vezeti a CoE (Center of Excellence) Accenture AI (AWS DevOps professzionális) csapatait.

Shikhar Kwatra az Amazon Web Services mesterséges intelligencia/ML-megoldások szakértője, egy vezető globális rendszerintegrátorral dolgozik együtt. Több mint 500 szabadalommal érdemelte ki az egyik legfiatalabb indiai mesterfeltaláló címet az AI/ML és az IoT területén. A Shikhar segítséget nyújt a szervezet költséghatékony, méretezhető felhőkörnyezeteinek tervezésében, felépítésében és karbantartásában, valamint támogatja a GSI-partnert az AWS-en alapuló stratégiai ipari megoldások kidolgozásában.

Jay Pillai az Amazon Web Services fő megoldástervezője. Ebben a szerepkörben a globális generatív mesterségesintelligencia vezető építésze, valamint az AABG ellátási lánc megoldások vezető építészeként dolgozik. Információs technológiai vezetőként Jay a mesterséges intelligencia, az adatintegráció, az üzleti intelligencia és a felhasználói felület tartományaira specializálódott. 23 éves, széleskörű tapasztalattal rendelkezik számos ügyféllel az ellátási lánc, a jogi technológiák, az ingatlanügyek, a pénzügyi szolgáltatások, a biztosítás, a fizetések és a piackutatás területén.

Karthik Sonti a Solutions Architects globális csapatát vezeti, amely a horizontális, funkcionális és vertikális megoldások koncepcionális kidolgozására, megépítésére és bevezetésére összpontosít az Accenture segítségével, hogy segítse közös ügyfeleinket abban, hogy az AWS-en differenciált módon alakítsák át üzletüket.

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
• PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
• PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
• PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
• Forrás: https://aws.amazon.com/blogs/machine-learning/accenture-creates-a-knowledge-assist-solution-using-generative-ai-services-on-aws/