Accenture loob Knowledge Assisti lahenduse, kasutades AWS |i generatiivseid tehisintellekti teenuseid Amazoni veebiteenused

See postitus on kirjutatud koos Ilan Gelleri ja Shuyu Yangiga ettevõttest Accenture.

Tänapäeval seisavad ettevõtted silmitsi suurte väljakutsetega, kui on vaja kasutada oma teabe- ja teadmistebaasi nii ettevõttesiseseks kui ka väliseks äritegevuseks. Pidevalt arenevate toimingute, protsesside, poliitikate ja vastavusnõuete tõttu võib töötajatel ja klientidel olla äärmiselt raske kursis olla. Samal ajal muudab suure osa selle sisu struktureerimata olemus traditsioonilise otsingu abil vastuste leidmise aeganõudvaks.

Töötajad võivad sageli kulutada lugematuid tunde oma tööks vajaliku teabe otsimisele, mis põhjustab frustratsiooni ja tootlikkuse vähenemist. Ja kui nad ei leia vastuseid, peavad nad probleeme eskaleerima või tegema otsuseid ilma täieliku kontekstita, mis võib tekitada riski.

Väliselt võivad kliendid otsitava teabe leidmine olla pettumust valmistav. Kuigi ettevõtete teadmistebaasid on aja jooksul kliendikogemust parandanud, võivad need siiski olla tülikad ja raskesti kasutatavad. Ükskõik, kas otsite vastuseid tootega seotud küsimusele või vajate teavet tööaegade ja asukohtade kohta, võib halb kogemus põhjustada frustratsiooni või veelgi hullem - kliendi kõrvalejätmist.

Mõlemal juhul, kuna teadmiste haldamine muutub keerukamaks, pakub generatiivne tehisintellekt ettevõtetele mängu muutmise võimaluse ühendada inimesed teabega, mida nad vajavad tööks ja uuendusteks. Õige strateegia abil võivad need intelligentsed lahendused muuta seda, kuidas kogu organisatsioonis teadmisi kogutakse, organiseeritakse ja kasutatakse.

Selle väljakutsega toimetulemiseks tegi Accenture koostööd AWS-iga, et luua uuenduslik generatiivne AI-lahendus nimega Knowledge Assist. Kasutades AWS-i generatiivseid tehisintellekti teenuseid, on meeskond välja töötanud süsteemi, mis suudab vastu võtta ja mõista tohutul hulgal struktureerimata ettevõtte sisu.

Traditsiooniliste märksõnaotsingu asemel saavad kasutajad nüüd küsimusi esitada ja täpseid vastuseid saada lihtsas vestlusliideses. Generatiivne AI mõistab konteksti ja suhteid teadmistebaasi sees, et pakkuda isikupärastatud ja täpseid vastuseid. Kuna süsteem esitab rohkem päringuid, täiustab süsteem pidevalt oma keeletöötlust masinõppe (ML) algoritmide abil.

Alates selle tehisintellekti abiraamistiku käivitamisest on ettevõtted märgatavalt paranenud töötajate teadmiste säilitamise ja tootlikkuse osas. Pakkudes kiiret ja täpset juurdepääsu teabele ning võimaldades töötajatel iseteeninduseks, vähendab see lahendus uute töötajate koolitusaega üle 50% ja eskalatsioone kuni 40%.

Generatiivse AI abil saavad ettevõtted muuta seda, kuidas teadmisi kogutakse, organiseeritakse ja organisatsioonis jagatakse. Oma olemasolevate teadmistebaaside avamisega saavad ettevõtted tõsta töötajate tootlikkust ja klientide rahulolu. Nagu näitab Accenture'i koostöö AWS-iga, seisneb ettevõtte teadmiste haldamise tulevik tehisintellekti juhitavates süsteemides, mis arenevad inimeste ja masinate vahelise suhtluse kaudu.

Accenture teeb koostööd AWS-iga, et aidata klientidel juurutada Amazonase aluspõhi, kasutage kõige arenenumaid alusmudeleid, nagu Amazoni titaanja juurutada valdkonna juhtivaid tehnoloogiaid, nagu Amazon SageMaker JumpStart ja Amazon Inferentia koos teiste AWS ML teenustega.

See postitus annab ülevaate täielikust generatiivsest AI-lahendusest, mille Accenture on välja töötanud Amazon Bedrocki ja muid AWS-i teenuseid kasutava tootmisjuhtumi jaoks.

Lahenduse ülevaade

Suur avaliku tervishoiusektori klient teenindab iga päev miljoneid kodanikke ja nad nõuavad hõlpsat juurdepääsu ajakohasele teabele pidevalt muutuval tervisemaastikul. Accenture on integreerinud selle generatiivse AI-funktsiooni olemasolevasse KKK-botti, võimaldades vestlusrotil pakkuda vastuseid laiemale hulgale kasutajaküsimustele. Suurendades kodanike juurdepääsu asjakohastele andmetele iseteeninduslikul viisil, säästetakse osakonna aega ja raha ning väheneb vajadus kõnekeskuse agentidega suhtlemise järele. Lahenduse põhiomadused hõlmavad järgmist:

• Hübriidne kavatsuslik lähenemine – Kasutab generatiivseid ja eelnevalt treenitud kavatsusi
• Mitmekeelne tugi - Vestleb inglise ja hispaania keeles
• Vestlusanalüüs – Aruanded kasutajate vajaduste, sentimenti ja murede kohta
• Loomulikud vestlused - Säilitab konteksti inimliku loomuliku keele töötlemisega (NLP)
• Läbipaistvad tsitaadid – Juhendab kasutajaid lähteteabe juurde

Accenture'i generatiivne AI lahendus pakub olemasolevate või traditsiooniliste vestlusrobotite raamistike ees järgmised eelised:

• Loob kasutaja päringutele kiiresti täpsed, asjakohased ja loomulikud vastused
• Jätab konteksti meelde ja vastab järelküsimustele
• Käsitleb päringuid ja genereerib vastuseid mitmes keeles (nt inglise ja hispaania keeles)
• Õpib pidevalt ja täiustab vastuseid kasutajate tagasiside põhjal
• On hõlpsasti integreeritav teie olemasoleva veebiplatvormiga
• Hõlmab tohutul hulgal ettevõtte teadmistebaasi
• Vastab inimesele sarnaselt
• Teadmiste areng on pidevalt kättesaadav minimaalse või ilma pingutuseta
• Kasutab kasutusel maksmise mudelit ilma ettemaksuta

Selle lahenduse kõrgetasemeline töövoog hõlmab järgmisi samme.

1. Kasutajad loovad lihtsa integratsiooni olemasolevate veebiplatvormidega.​
2. Andmed sisestatakse platvormi hulgiüleslaadimisena päeval 0 ja seejärel järkjärgulise üleslaadimisena päeval 1+.)
3. Kasutajate päringuid töödeldakse reaalajas ja süsteem skaleeritakse vastavalt kasutajate nõudmistele.
4. Vestlused salvestatakse rakenduste andmebaasidesse (Amazon Dynamo DB) mitmevooruliste vestluste toetamiseks
5. Anthropic Claude Foundationi mudelit käivitatakse Amazon Bedrocki kaudu, mida kasutatakse kõige asjakohasema sisu põhjal päringuvastuste genereerimiseks.
6. Anthropic Claude Foundationi mudelit kasutatakse päringute ja vastuste tõlkimiseks inglise keelest teistesse soovitud keeltesse, et toetada mitmekeelseid vestlusi.
7. Amazon Titani vundamendi mudelit kasutatakse Amazon Bedrocki kaudu vektormanustuste loomiseks.
8. Sisu asjakohasus määratakse töötlemata sisu manuste ja kasutaja päringu manustamise sarnasuse kaudu, kasutades Pinecone vektorandmebaasi manuseid.​
9. Kontekst koos kasutaja küsimusega lisatakse, et luua viip, mis on antropilise Claude'i mudeli sisendiks. Loodud vastus edastatakse kasutajale veebiplatvormi kaudu tagasi.

Järgnev diagramm illustreerib lahenduse arhitektuuri.

Arhitektuurivoogu saab mõista kahes osas:

Järgnevates osades käsitleme lahenduse erinevaid aspekte ja selle arendamist lähemalt.

Mudeli valik

Mudelivaliku protsess hõlmas Amazon Bedrockis saadaolevate erinevate mudelite regresstestimist, mis hõlmas AI21 Labsi, Cohere'i, Anthropic ja Amazon Foundationi mudeleid. Kontrollisime toetatud kasutusjuhtumeid, mudeli atribuute, maksimaalseid lubasid, maksumust, täpsust, jõudlust ja keeli. Selle põhjal valisime Claude-2 selle kasutusjuhtumi jaoks kõige sobivamaks.

Andmeallikas

Lõime Amazon Kendra indeksi ja lisasime andmeallika, kasutades veebiroomiku konnektoreid koos juurveebi URL-i ja kahetasemelise kataloogi sügavusega. Mitmed veebilehed lisati Amazon Kendra indeksisse ja neid kasutati andmeallikana.

GenAI vestlusroboti päringu- ja vastuseprotsess

Selle protsessi etapid koosnevad täielikust suhtlusest päringuga Amazon Lex ja vastus suurelt keelemudelilt (LLM):

1. Kasutaja saadab päringu an-is hostitud vestlusliidese rakendusele Amazoni lihtne salvestusteenus (Amazon S3) kopp läbi Amazoni tee 53 ja Amazon CloudFront.
2. Amazon Lex saab kavatsusest aru ja suunab päringu annis hostitud orkestraatorile AWS Lambda funktsiooni.
3. Orkestri lambda funktsioon täidab järgmisi samme:
   1. Funktsioon suhtleb rakenduste andmebaasiga, mis on hostitud DynamoDB hallatavas andmebaasis. Andmebaas salvestab vestluste ajaloo jaoks seansi ID ja kasutaja ID.
   2. Veel üks taotlus saadetakse Amazon Kendra indeksile, et saada asjakohase konteksti loomiseks viis parimat asjakohast otsingutulemust. Seda konteksti kasutades koostatakse LLM-mudeli jaoks nõutav muudetud viip.
   3. Ühendus luuakse Amazon Bedrocki ja orkestraatori vahel. Amazon Bedrock Claude-2 mudelile postitatakse taotlus vastuse saamiseks valitud LLM-mudelilt.
4. Andmed töödeldakse LLM-i vastusest järeltöötlusega ja kasutajale saadetakse vastus.

Veebipõhine aruandlus

Veebipõhise aruandluse protsess koosneb järgmistest sammudest.

1. Lõppkasutajad suhtlevad vestlusbotiga CloudFront CDN-i esiotsa kihi kaudu.
2. Iga päringu/vastuse interaktsiooni hõlbustab AWS SDK ja see saadab võrguliikluse Amazon Lexile (roti NLP-komponent).
3. Metaandmed päringu/vastuse sidumise kohta logitakse sisse Amazon CloudWatch.
4. CloudWatchi logirühm on konfigureeritud tellimisfiltriga, mis saadab sisselogimised Amazon OpenSearchi teenus.
5. Kui logid on OpenSearch Service'is saadaval, saab neid kasutada Kibana abil aruannete ja armatuurlaudade loomiseks.

Järeldus

Selles postituses näitasime, kuidas Accenture kasutab AWS-i generatiivseid tehisintellekti teenuseid, et rakendada täielikku lähenemisviisi digitaalse ümberkujundamise suunas. Tuvastasime lüngad traditsioonilistes küsimustele vastamise platvormides ja suurendasime selle raamistikus generatiivset luuret, et kiirendada reageerimisaega ja pidevalt täiustada süsteemi, suheldes samal ajal kasutajatega kogu maailmas. Võtke ühendust Accenture'i tippkeskuse meeskonnaga, et sukelduda lahendusse ja selle lahenduse juurutamiseks oma klientide jaoks sügavamale.

Seda Knowledge Assisti platvormi saab rakendada erinevates tööstusharudes, sealhulgas, kuid mitte ainult, terviseteadustes, finantsteenustes, tootmises ja mujal. See platvorm pakub loomulikke, inimlikke vastuseid küsimustele, kasutades turvatud teadmisi. See platvorm võimaldab kasutajatel tõhusust, tootlikkust ja täpsemaid toiminguid teha.

Ühine jõupingutus tugineb ettevõtete vahelisele 15-aastasele strateegilisele suhetele ning kasutab samu tõestatud mehhanisme ja kiirendeid, mille on loonud Accenture AWS ärigrupp (AABG).

Võtke ühendust AABG meeskonnaga aadressil accentureaws@amazon.com äritulemuste saavutamiseks, muutudes AWS-is intelligentseks andmeettevõtteks.

Lisateavet generatiivse AI kohta AWS-is, kasutades Amazon Bedrocki või Amazon SageMaker, soovitame kasutada järgmisi ressursse:

Te saate ka registreeruge AWS-i generatiivse AI uudiskirja saamiseks, mis sisaldab haridusressursse, ajaveebe ja teenusevärskendusi.

---

Autoritest

Ilan Geller on Accenture'i tegevdirektor, keskendudes tehisintellektile, aidates klientidel tehisintellekti rakendusi skaleerida ja globaalse GenAI COE partnerite juht AWS-i jaoks.

Shuyu Yang on Generative AI ja Large Language Model Delivery Lead ning juhib ka CoE (Center of Excellence) Accenture AI (AWS DevOps professionaalne) meeskondi.

Shikhar Kwatra on AI/ML-i spetsialiseerunud lahenduste arhitekt ettevõttes Amazon Web Services, kes teeb koostööd juhtiva globaalse süsteemiintegraatoriga. Ta on teeninud ühe noorima India meisterleiutaja tiitli enam kui 500 patendiga AI/ML ja IoT valdkondades. Shikhar abistab organisatsiooni kuluefektiivsete, skaleeritavate pilvekeskkondade kujundamisel, ehitamisel ja hooldamisel ning toetab GSI partnerit AWS-is strateegiliste tööstuslahenduste loomisel.

Jay Pillai on Amazon Web Servicesi peamine lahendusarhitekt. Selles rollis töötab ta globaalse generatiivse tehisintellekti peaarhitektina ja ka AABG tarneahela lahenduste peaarhitektina. Infotehnoloogia juhina on Jay spetsialiseerunud tehisintellekti, andmete integreerimise, äriintellekti ja kasutajaliidese domeenidele. Tal on 23-aastane ulatuslik töökogemus mitmete klientidega tarneahela, õigustehnoloogia, kinnisvara, finantsteenuste, kindlustuse, maksete ja turu-uuringute ärivaldkondades.

Karthik Sonti juhib ülemaailmset Solutions Architectsi meeskonda, mis keskendub Accenture'iga horisontaalsete, funktsionaalsete ja vertikaalsete lahenduste kontseptualiseerimisele, ehitamisele ja turuletoomisele, et aidata meie ühisklientidel oma äritegevust AWS-is diferentseeritult muuta.

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
• PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
• PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
• PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
• Allikas: https://aws.amazon.com/blogs/machine-learning/accenture-creates-a-knowledge-assist-solution-using-generative-ai-services-on-aws/