See on Kustomeri tarkvara ja masinõppe vaneminsener Ian Lantzy ning AWS-i meeskonna Umesh Kalaspurkari, Prasad Shetty ja Jonathan Greifenbergeri külalispostitus.
Kustomeri enda sõnadega, „Kustomer on omnikanaliline SaaS CRM-i platvorm, mis kujundab ettevõtte klienditeeninduse ümber, et pakkuda silmapaistvaid kogemusi. Intelligentse automatiseerimisega konstrueeritud mastaabime vastama iga kontaktikeskuse ja ettevõtte vajadustele, ühendades andmed mitmest allikast ja võimaldades ettevõtetel pakkuda lihtsat, järjepidevat ja isikupärastatud teenust ja tuge ühe ajaskaala vaate kaudu.
Kustomer soovis võimalust kiiresti analüüsida oma äriklientide – kliendikogemuse ja teenindusorganisatsioonide – suures mahus tugisuhtlust ning automatiseerida sellise teabe leidmist, nagu lõppkliendi kavatsused, klienditeeninduse probleem ja muud tarbijaga seotud asjakohased arusaamad. Nende omaduste mõistmine võib aidata CX-i organisatsioonidel hallata tuhandeid sissetulevaid tugimeile, klassifitseerides ja kategoriseerides sisu automaatselt. Kustomer võimendab Amazon SageMaker hallata sissetulevate tugikommunikatsioonide analüüsi nende tehisintellektipõhiselt Kustomeri IQ platvorm. Kustomer IQ vestluste klassifitseerimise teenus suudab vestlusi kontekstualiseerida ja automatiseerida muidu tüütuid ja korduvaid ülesandeid, vähendades agentide tähelepanu hajumist ja üldist kulu kontakti kohta. See ja Kustomeri teised IQ-teenused on suurendanud äriklientide tootlikkust ja automatiseerimist.
Selles postituses räägime sellest, kuidas Kustomer kasutab SageMakeri treenimiseks ja järelduste tegemiseks kohandatud Dockeri pilte, mis hõlbustab integreerimist ja lihtsustab protsessi. Selle lähenemisviisiga klassifitseerivad Kustomeri ärikliendid iga kuu automaatselt üle 50 70 tugimeili kuni XNUMX% täpsusega.
Taust ja väljakutsed
Kustomer kasutab oma vestluste klassifitseerimise teenuse jaoks kohandatud teksti klassifikatsiooni torustikku. See aitab neil hallata tuhandeid taotlusi päevas automaatse klassifitseerimise ja kategoriseerimise kaudu, kasutades SageMakeri koolitust ja järelduste orkestreerimist. Vestluste klassifikatsiooni koolitusmootor kasutab andmete töötlemiseks ja mudelite koolitamiseks ajaloolisi vestlusi kasutades kohandatud Dockeri pilte ning seejärel ennustab teemasid, kategooriaid või muid kohandatud silte, mida konkreetne agent vestluste klassifitseerimiseks vajab. Seejärel kasutab ennustusmootor vestluste kategoriseerimiseks koolitatud mudeleid koos teise kohandatud dokkimispildiga, mida organisatsioonid kasutavad aruandluse automatiseerimiseks või vestluste suunamiseks konkreetsele meeskonnale selle teema alusel.
SageMakeri kategoriseerimisprotsess algab koolitus- ja järelduskonveieri loomisega, mis võib pakkuda teksti klassifikatsiooni ja kontekstuaalseid soovitusi. Tüüpilist seadistust rakendataks serverita lähenemisviisidega nagu AWS Lambda andmete eel- ja järeltöötluse jaoks, kuna sellel on tõhusa tellitava hinnamudeliga minimaalne varustamise nõue. Kuid SageMakeri kasutamine koos selliste sõltuvustega nagu TensorFlow, NumPy ja Pandas võib mudelipaketi suurust kiiresti suurendada, muutes üldise juurutamisprotsessi tülikaks ja raskesti hallatavaks. Kustomer kasutas nende väljakutsete ületamiseks kohandatud Dockeri pilte.
Kohandatud Dockeri kujutised pakuvad olulisi eeliseid:
- Võimaldab suuremaid tihendatud pakette (üle 10 GB), mis võivad sisaldada populaarseid masinõppe (ML) raamistikke, nagu TensorFlow, MXNet, PyTorch või muud.
- Võimaldab tuua kohapeal välja töötatud kohandatud koodi või algoritme Amazon SageMaker Studio märkmikud kiireks iteratsiooniks ja mudelikoolituseks.
- Väldib Lambdas juurutuspakettide lahtipakkimisel tekkinud eeltöötlusviivitusi.
- Pakub paindlikkust sisemiste süsteemidega sujuvaks integreerimiseks.
- Tulevane ühilduvus ja mastaapsus muudavad teenuse teisendamise Dockeri abil lihtsamaks, selle asemel, et pakkida .zip-faile Lambda-funktsiooni.
- Vähendab CI/CD juurutamise konveieri tööaega.
- Tagab meeskonnasisese Dockeri tuttavuse ja kasutusmugavuse.
- Pakub juurdepääsu andmesalvedele API-de ja taustaprogrammi käitusaja kaudu.
- Pakub paremat tuge sekkumiseks eel- või järeltöötlusse, mille puhul Lambda nõuaks iga protsessi jaoks eraldi arvutusteenust (nt koolitus või juurutamine).
Lahenduse ülevaade
Tugimeilide kategoriseerimine ja sildistamine on klienditoe protsessi kriitiline samm. See võimaldab ettevõtetel suunata vestlused õigetele meeskondadele ja mõista kõrgel tasemel, mille pärast nende kliendid nendega ühendust võtavad. Kustomeri ärikliendid peavad iga päev tuhandeid vestlusi, nii et mastaabis klassifitseerimine on väljakutse. Selle protsessi automatiseerimine aitab agentidel olla tõhusam ja pakkuda ühtsemat tuge ning aitab klientidel neid kiiremini õigete inimestega ühendada.
Järgmine diagramm illustreerib lahenduse arhitektuuri:
Vestluste klassifitseerimise protsess algab sellega, et äriklient annab Kustomerile loa koolitus- ja järelduskonveieri seadistamiseks, mis aitab neil teksti liigitada ja kontekstuaalseid soovitusi anda. Kustomer tutvustab oma klientidele kasutajaliidest, et jälgida koolitus- ja järeldusprotsessi, mida rakendatakse SageMakeri koos TensorFlow mudelite ja kohandatud Dockeri piltidega. Klassifikaatori koostamise ja kasutamise protsess on jagatud viieks peamiseks töövooks, mida koordineerib töötaja teenus, mis töötab Amazon ECS. Konveieri sündmuste koordineerimiseks ning mudeli väljaõppe ja juurutamise käivitamiseks kasutab töötaja Amazon SQS järjekorda ja integreerub otse SageMakeriga, kasutades AWS-i pakutavat Node.js SDK-d. Töövood on järgmised:
- Andmete eksport
- Andmete eeltöötlemine
- koolitus
- Deployment
- Järeldus
Andmete eksport
Andmete eksportimise protsess toimub nõudmisel ja algab Kustomeri ärikliendi kinnitusprotsessist, et kinnitada meiliandmete kasutamine analüüsiks. Klassifitseerimisprotsessi jaoks olulised andmed kogutakse lõppkliendilt saadud esialgse meili teel. Näiteks sisaldab tugimeil tavaliselt probleemi täielikku ühtset mõtet koos probleemi üksikasjadega. Ekspordiprotsessi osana kogutakse meilid andmesalvest (MongoDB ja Amazon OpenSearch) ja salvestatud Amazoni lihtne salvestusteenus (Amazon S3).
Andmete eeltöötlemine
Andmete eeltöötlusetapp puhastab andmestiku koolituse ja järelduste töövoogude jaoks, eemaldades klientide meilidest kõik HTML-märgendid ja suunates need läbi mitme puhastus- ja desinfitseerimisetapi, et tuvastada vigane HTML. See protsess hõlmab kasutamist Kallistavad näomärgid ja trafod. Kui puhastusprotsess on lõppenud, lisatakse väljundandmekomplekti kõik koolituseks vajalikud täiendavad kohandatud märgid.
Eeltöötlusetapi ajal kutsub Lambda funktsioon välja kohandatud Dockeri kujutise. See pilt koosneb Python 3.8 õhukesest alusest AWS Lambda Python Runtime Interface Client, ja sõltuvusi nagu tuim ja Pandad. Kohandatud Dockeri pilt salvestatakse Amazoni elastsete konteinerite register (Amazon ECR) ja suunatakse seejärel kasutuselevõtuks läbi CI/CD torujuhtme. Juurutatud Lambda funktsioon valib andmetest kolm erinevat andmekogumit klassifikaatori kohta:
- koolitus – Kasutatakse tegeliku treeningprotsessi jaoks
- Kinnitamine – Kasutatakse valideerimiseks TensorFlow treeningprotsessi ajal
- test – Kasutatakse koolitusprotsessi lõpus mõõdikute mudelite võrdlemiseks
Loodud väljundandmed on Panda hapukurgifailid, mis salvestatakse Amazon S3-sse, et neid treeningfaasis kasutada.
koolitus
Kustomeri kohandatud treeningpilt kasutab TensorFlow 2.7 GPU-ga optimeeritud dokki pilt alusena. Kohandatud kood, sõltuvused ja baasmudelid lisatakse enne, kui kohandatud dokkimisharjutuse pilt ECR-i üles laaditakse. Treeningprotsessis kasutatakse P3 eksemplaritüüpe ja GPU optimeeritud baaspildi kasutamine aitab treeningprotsessi võimalikult tõhusaks muuta. Amazon SageMakerit kasutatakse selle kohandatud dokkimispildiga TensorFlow mudelite koolitamiseks, mis seejärel salvestatakse S3-sse. Samuti arvutatakse ja salvestatakse kohandatud mõõdikuid, et aidata kasutada täiendavaid võimalusi, nagu mudelite võrdlus ja automaatne ümberõpe. Kui koolitusetapp on lõppenud, teavitatakse tehisintellekti töötajat ja äriklient saab alustada juurutamise töövoogu.
Deployment
Juurutamise töövoo jaoks luuakse kohandatud dokkeri järelduskujutis, kasutades TensorFlow teenindavat baaskujutist (mis on loodud spetsiaalselt kiireks järelduseks). Kaasas on täiendav kood ja sõltuvused, nagu numPy, Pandas, kohandatud NL jne, et pakkuda täiendavaid funktsioone, nagu vormindamine ja sisendite puhastamine enne järelduste tegemist. FastAPI sisaldub ka kohandatud pildi osana ja seda kasutatakse REST API lõpp-punktide pakkumiseks järelduste ja tervisekontrolli jaoks. Seejärel on SageMaker konfigureeritud juurutama S3-sse salvestatud TensorFlow mudelid koos järelduspildiga arvutamiseks optimeeritud ml.c5 AWS-i eksemplaridesse, et luua suure jõudlusega järelduse lõpp-punkte. Iga lõpp-punkt on loodud kasutamiseks ühele kliendile oma mudelite ja andmete eraldamiseks.
Järeldus
Kui juurutamise töövoog on lõpule viidud, võtab üle järelduste töövoog. Kõik esimesed sissetulevad tugimeilid edastatakse sellele kliendile spetsiifiliste juurutatud klassifikaatorite jaoks järeldus API kaudu. Juurutatud klassifikaatorid klassifitseerivad seejärel iga meilisõnumi teksti, millest igaüks loob kliendile klassifikatsioonisildid.
Võimalikud täiustused ja kohandused
Kustomer kaalub lahenduse laiendamist järgmiste täiustustega:
- Kallistava näo DLC-d – Kustomer kasutab praegu andmete eeltöötlemise etapis TensorFlow baasi Dockeri kujutisi ja kavatseb üle minna Kallistava näoga süvaõppekonteinerid (DLC-d). See aitab teil treenimismudeleid kohe alustada, jättes vahele oma treeningkeskkondade loomise ja optimeerimise keerulise protsessi nullist. Lisateabe saamiseks vt Kallistav nägu rakenduses Amazon SageMaker.
- Tagasiside ring – Mudeli üldise efektiivsuse suurendamiseks saate rakendada tagasisideahelat, kasutades aktiivõppe või tugevdava õppe tehnikaid.
- Integratsioon teiste sisemiste süsteemidega - Kustomer soovib, et oleks võimalik integreerida teksti klassifikatsioon teiste süsteemidega, nagu Smart Suggestions, mis on veel üks Kustomer IQ teenus, mis vaatab läbi sadu otseteid ja soovitab otseteid, mis on kliendi päringu jaoks kõige asjakohasemad, parandades agentide reageerimisaega ja jõudlust.
Järeldus
Selles postituses arutasime, kuidas Kustomer kasutab SageMakeri treenimiseks ja järelduste tegemiseks kohandatud Dockeri pilte, mis hõlbustab integreerimist ja lihtsustab protsessi. Näitasime, kuidas Kustomer kasutab Lambdat ja SageMakerit kohandatud Dockeri piltidega, mis aitavad eel- ja järeltöötluse töövoogudega teksti klassifitseerimisprotsessi rakendada. See pakub paindlikkust suuremate piltide kasutamiseks mudelite loomiseks, treenimiseks ja järelduste tegemiseks. Lambda konteineri kujutise tugi võimaldab teil oma funktsiooni veelgi rohkem kohandada, avades serverita ML-i jaoks palju uusi kasutusjuhtumeid. Lahendus kasutab ära mitmeid AWS-teenuseid, sealhulgas SageMaker, Lambda, Docker images, Amazon ECR, Amazon ECS, Amazon SQS ja Amazon S3.
Kui soovite Kustomeri kohta rohkem teada saada, soovitame teil külastada Kustomeri veebisait ja uurige neid juhtumiuuringud.
Click siin et alustada oma reisi Amazon SageMakeriga. Praktilise kogemuse saamiseks võite viidata Amazon SageMakerile töökoda.
Autoritest
Umesh Kalaspurkar on New Yorgis asuv AWS-i lahenduste arhitekt. Tal on rohkem kui 20-aastane kogemus digitaalse innovatsiooni ja ümberkujundamise projektide kavandamisel ja elluviimisel ettevõtetes ja idufirmades. Teda motiveerib see, et aitab klientidel väljakutseid tuvastada ja ületada. Väljaspool tööd naudib Umesh isa olemist, suusatamist ja reisimist.
Ian Lantzy on Kustomeri tarkvara ja masinõppe vaneminsener ning on spetsialiseerunud masinõppe uurimisülesannete täitmisele ja nende tootmisteenusteks muutmisele.
Prasad Shetty on Bostonis asuv AWS-i lahenduste arhitekt. Ta on loonud tarkvaratooteid ning juhtinud üle 20 aasta ettevõtetes toodete ja teenuste moderniseerimist ja digitaalset innovatsiooni. Ta on kirglik pilvestrateegia ja selle kasutuselevõtu juhtimise vastu ning tehnoloogia võimendamise vastu suurepäraste kliendikogemuste loomiseks. Vabal ajal naudib Prasad rattasõitu ja reisimist.
Jonathan Greifenberger on New Yorgis asuv AWS-i vanemkontohaldur, kellel on 25-aastane IT-valdkonna kogemus. Jonathan juhib meeskonda, kes abistab kliente erinevatest tööstusharudest ja vertikaalidest nende pilve kasutuselevõtu ja moderniseerimise teekonnal.
- Münditark. Euroopa parim Bitcoini ja krüptobörs.
- Platoblockchain. Web3 metaversiooni intelligentsus. Täiustatud teadmised. TASUTA PÄÄS.
- CryptoHawk. Altcoini radar. Tasuta prooviversioon.
- Allikas: https://aws.amazon.com/blogs/machine-learning/how-kustomer-utilizes-custom-docker-images-amazon-sagemaker-to-build-a-text-classification-pipeline/
- "
- &
- 100
- 20 aastat
- 7
- MEIST
- juurdepääs
- konto
- üle
- aktiivne
- Täiendavad lisad
- Vastuvõtmine
- ADEelis
- eelised
- ained
- AI
- algoritme
- Materjal: BPA ja flataatide vaba plastik
- Amazon
- analüüs
- Teine
- API
- API-liidesed
- lähenemine
- arhitektuur
- Automaatika
- AWS
- on
- ehitama
- Ehitus
- äri
- võimeid
- juhtudel
- põhjustatud
- väljakutse
- väljakutseid
- Kontroll
- klassifikatsioon
- puhastamine
- Cloud
- kood
- Side
- Ettevõtted
- Arvutama
- tarbija
- Konteiner
- Konteinerid
- sisaldab
- sisu
- Vestlus
- vestlused
- Kliendi kogemus
- Kasutajatugi
- Klienditugi
- Kliendid
- andmed
- päev
- viivitusi
- tarne
- Nõudlus
- kasutuselevõtu
- Disain
- arenenud
- digitaalne
- avastus
- laevalaadija
- sõidu
- Tõhus
- efektiivsus
- võimaldades
- julgustama
- Lõpp-punkt
- insener
- ettevõte
- sündmused
- näide
- laiendades
- kogemus
- Kogemused
- nägu
- KIIRE
- Toidetud
- tagasiside
- esimene
- Paindlikkus
- Järel
- funktsioon
- funktsionaalsus
- tekitama
- andmine
- GPU
- suur
- külaline
- Külaline Postitus
- võttes
- Tervis
- aitama
- aitab
- Suur
- Kuidas
- HTTPS
- sajad
- identifitseerima
- pilt
- rakendada
- rakendatud
- lisatud
- Kaasa arvatud
- Suurendama
- kasvanud
- tööstusharudes
- tööstus
- info
- Innovatsioon
- teadmisi
- integreerima
- integratsioon
- Intelligentne
- tahtlus
- Interface
- probleem
- IT
- märgistamine
- Labels
- suur
- suurem
- Õppida
- õppimine
- Led
- Tase
- võimendab
- kohapeal
- masin
- masinõpe
- Tegemine
- juht
- Meetrika
- ML
- mudel
- mudelid
- MongoDB
- kõige
- New York
- Korraldus
- et
- organisatsioonid
- Muu
- muidu
- Inimesed
- jõudlus
- inimesele
- populaarne
- võimalik
- ennustus
- hinnapoliitika
- Probleem
- protsess
- Toode
- Produktsioon
- tootlikkus
- Toodet
- projektid
- anda
- annab
- kiiresti
- vähendamine
- nõudma
- nõutav
- teadustöö
- vastus
- REST
- Marsruut
- jooks
- jooksmine
- Skaalautuvus
- Skaala
- SDK
- Serverita
- teenus
- Teenused
- teenindavad
- komplekt
- lihtne
- SUURUS
- nutikas
- So
- tarkvara
- Lahendused
- spetsialiseerunud
- eriti
- jagada
- Stage
- algus
- Alustavatel
- ladustamine
- salvestada
- kauplustes
- Strateegia
- eemaldamine
- uuringud
- mahukas
- toetama
- süsteemid
- rääkima
- ülesanded
- meeskond
- tehnikat
- Tehnoloogia
- tuhandeid
- Läbi
- aeg
- märgid
- Teemasid
- koolitus
- Transformation
- mõistma
- vaade
- M
- jooksul
- sõnad
- Töö
- aastat