Ez Kustomer vezető szoftver- és gépi tanulási mérnöke, Ian Lantzy, valamint az AWS csapata, Umesh Kalaspurkar, Prasad Shetty és Jonathan Greifenberger vendégbejegyzése.
Kustomer saját szavaival élve „A Kustomer az omnichannel SaaS CRM platform, amely újragondolja a vállalati ügyfélszolgálatot, hogy kiemelkedő élményeket nyújtson. Intelligens automatizálással építve bármilyen kapcsolattartó központ és vállalkozás igényeihez skálázható, több forrásból származó adatok egyesítése révén, lehetővé téve a vállalatok számára, hogy könnyed, következetes és személyre szabott szolgáltatást és támogatást nyújtsanak egyetlen idővonal-nézeten keresztül.”
Kustomer azt akarta, hogy gyorsan elemezzék a nagy mennyiségű támogatási kommunikációt üzleti ügyfeleik – az ügyfélélmény és a szolgáltató szervezetek – számára, és automatizálják az olyan információk felderítését, mint a végfelhasználó szándéka, az ügyfélszolgálati probléma és más, a fogyasztóval kapcsolatos releváns meglátások. E jellemzők megértése segíthet a CX-szervezeteknek több ezer bejövő támogatási e-mail kezelésében a tartalom automatikus osztályozásával és kategorizálásával. Kustomer kihasználja Amazon SageMaker a bejövő támogatási kommunikáció elemzésének menedzselése az AI-n keresztül Kustomer IQ felület. A Kustomer IQ Conversation Classification szolgáltatása képes kontextusba helyezni a beszélgetéseket, és automatizálni az egyébként fárasztó és ismétlődő feladatokat, csökkentve az ügynökök figyelmét és a kapcsolatonkénti összköltséget. Ez és a Kustomer egyéb IQ-szolgáltatásai növelték üzleti ügyfelei termelékenységét és automatizálását.
Ebben a bejegyzésben arról beszélünk, hogy Kustomer hogyan használ egyéni Docker-képeket a SageMaker képzéséhez és következtetéseihez, ami megkönnyíti az integrációt és ésszerűsíti a folyamatot. Ezzel a megközelítéssel a Kustomer üzleti ügyfelei automatikusan több mint 50 70 támogatási e-mailt osztályoznak havonta, akár XNUMX%-os pontossággal.
Háttér és kihívások
A Kustomer egyéni szövegosztályozási folyamatot használ a beszélgetési osztályozási szolgáltatásához. Ez segít nekik napi több ezer kérés kezelésében az automatikus osztályozáson és kategorizáláson keresztül, a SageMaker képzését és következtetési hangszerelését felhasználva. A Conversation Classification oktatómotor egyéni Docker-képeket használ az adatok feldolgozására és a modellek betanítására történelmi beszélgetések segítségével, majd megjósolja azokat a témákat, kategóriákat vagy más egyéni címkéket, amelyekre egy adott ügynöknek szüksége van a beszélgetések osztályozásához. Ezután az előrejelző motor a betanított modelleket egy másik egyéni docker-képpel használja fel a beszélgetések kategorizálására, amelyet a szervezetek a jelentéskészítés automatizálására vagy a beszélgetések témája alapján egy adott csapathoz irányítására használnak.
A SageMaker kategorizálási folyamata egy képzési és következtetési folyamat létrehozásával kezdődik, amely szövegbesorolást és kontextuális ajánlásokat tud nyújtani. Egy tipikus beállítás kiszolgáló nélküli megközelítésekkel valósítható meg, mint pl AWS Lambda adat-elő- és utófeldolgozáshoz, mert minimális kiépítési igénye van hatékony igény szerinti árképzési modellel. A SageMaker olyan függőségekkel való használata azonban, mint a TensorFlow, a NumPy és a Pandas, gyorsan növelheti a modellcsomag méretét, így az általános telepítési folyamat nehézkes és nehezen kezelhető. Kustomer egyéni Docker-képeket használt ezeknek a kihívásoknak a leküzdésére.
Az egyéni Docker képek jelentős előnyöket kínálnak:
- Lehetővé teszi a nagyobb tömörített csomagméreteket (10 GB felett), amelyek olyan népszerű gépi tanulási (ML) keretrendszereket tartalmazhatnak, mint a TensorFlow, MXNet, PyTorch vagy mások.
- Lehetővé teszi, hogy egyéni kódot vagy helyileg kifejlesztett algoritmusokat vigyen be Amazon SageMaker Studio notebookok a gyors iterációhoz és a modellképzéshez.
- Elkerüli a Lambda által okozott előfeldolgozási késéseket a központi telepítési csomagok kicsomagolása során.
- Rugalmasságot kínál a belső rendszerekkel való zökkenőmentes integrációhoz.
- A jövőbeni kompatibilitás és méretezhetőség megkönnyíti a szolgáltatások Docker használatával történő konvertálását, ahelyett, hogy Lambda-függvénybe kellene csomagolnia a .zip fájlokat.
- Csökkenti a CI/CD telepítési folyamat átfutási idejét.
- A csapaton belüli Docker-ismeretséget és egyszerű használatot biztosít.
- Hozzáférést biztosít az adattárolókhoz API-kon és egy háttér-futási környezeten keresztül.
- Jobb támogatást nyújt minden olyan elő- vagy utófeldolgozáshoz, amelynél a Lambda külön számítási szolgáltatást igényelne minden egyes folyamathoz (például betanításhoz vagy telepítéshez).
Megoldás áttekintése
A támogatási e-mailek kategorizálása és címkézése kritikus lépés az ügyfélszolgálati folyamatban. Lehetővé teszi a vállalatok számára, hogy a megfelelő csapatokhoz irányítsák a beszélgetéseket, és magas szinten megértsék, hogy ügyfeleik milyen ügyben keresik meg őket. A Kustomer üzleti ügyfelei naponta több ezer beszélgetést bonyolítanak le, így a méretarányos osztályozás kihívást jelent. Ennek a folyamatnak az automatizálása segít az ügynököknek hatékonyabbá tenni és összetartóbb támogatást nyújtani, valamint segít ügyfeleiknek azáltal, hogy gyorsabban kapcsolatba lépnek a megfelelő emberekkel.
Az alábbi ábra szemlélteti a megoldás architektúráját:
A beszélgetési osztályozási folyamat azzal kezdődik, hogy az üzleti ügyfél engedélyt ad Kustomernek egy képzési és következtetési folyamat létrehozására, amely segítséget nyújthat a szövegbesorolásban és a kontextus szerinti ajánlásokban. A Kustomer felhasználói felületet tesz közzé ügyfelei számára a betanítási és következtetési folyamat nyomon követésére, amelyet a SageMaker, valamint TensorFlow modellek és egyedi Docker-képek segítségével valósítanak meg. Az osztályozó felépítésének és használatának folyamata öt fő munkafolyamatra van felosztva, amelyeket egy dolgozói szolgáltatás koordinál. Amazon ECS. A folyamat eseményeinek koordinálásához és a modell betanításának és telepítésének elindításához a dolgozó egy Amazon SQS sorba, és közvetlenül integrálható a SageMakerrel az AWS által biztosított Node.js SDK használatával. A munkafolyamatok a következők:
- Adatexportálás
- Adatok előfeldolgozása
- Képzések
- bevetés
- Következtetés
Adatexportálás
Az adatexportálási folyamat igény szerint fut, és a Kustomer üzleti ügyfele jóváhagyási folyamatával kezdődik, hogy megerősítse az e-mail adatok elemzéshez való felhasználását. Az osztályozási folyamat szempontjából releváns adatok rögzítése a végfelhasználótól kapott kezdeti e-mailben történik. Például egy támogatási e-mail általában tartalmazza a probléma teljes koherens gondolatát a probléma részleteivel. Az exportálási folyamat részeként az e-maileket az adattárból (MongoDB és Amazon OpenSearch) és mentve Amazon egyszerű tárolási szolgáltatás (Amazon S3).
Adatok előfeldolgozása
Az adat-előfeldolgozási szakasz megtisztítja az adatkészletet a betanítási és következtetési munkafolyamatokhoz azáltal, hogy eltávolítja a HTML-címkéket az ügyfelek e-mailjeiből, és több tisztítási és fertőtlenítési lépésen keresztül táplálja őket a hibás HTML-kód észlelése érdekében. Ez a folyamat magában foglalja a használatát Hugging Face tokenizerek és transzformátorok. Amikor a tisztítási folyamat befejeződött, a képzéshez szükséges további egyéni tokeneket hozzáadja a kimeneti adatkészlethez.
Az előfeldolgozási szakaszban egy Lambda-függvény meghív egy egyéni Docker-képet. Ez a kép egy Python 3.8 vékony alapból, a AWS Lambda Python Runtime Interface Client, és a függőségek, mint pl numpy és a pandák. Az egyéni Docker-kép tárolása a következő helyen történik: Amazon Elastic Container Registry (Amazon ECR), majd a CI/CD csővezetéken keresztül továbbítják a telepítéshez. A telepített Lambda függvény mintát vesz az adatokból, így osztályozónként három különböző adatkészletet hoz létre:
- Képzések – A tényleges edzési folyamathoz használják
- Érvényesítés – A TensorFlow képzési folyamat során történő érvényesítéshez használják
- Teszt – A képzési folyamat vége felé használják a metrikus modellek összehasonlításához
A generált kimeneti adatkészletek Pandas pácfájlok, amelyek az Amazon S3-ban vannak tárolva, hogy a képzési szakaszban felhasználhassák.
Képzések
Kustomer egyéni képzési képe TensorFlow 2.7 GPU-optimalizált dokkolót használ kép mint alap. Az egyéni kód, a függőségek és az alapmodellek szerepelnek az egyéni docker képzési kép ECR-be való feltöltése előtt. P3 példánytípusokat használnak a betanítási folyamathoz, és a GPU-ra optimalizált alapkép használata segít a képzési folyamat lehető leghatékonyabbá tételében. Az Amazon SageMaker ezzel az egyéni docker-képpel használható a TensorFlow modellek betanításához, amelyeket ezután az S3-ban tárolnak. Az egyéni mutatókat is kiszámolja és menti a rendszer, hogy segítsen olyan további funkciókban, mint a modellek összehasonlítása és az automatikus átképzés. A képzési szakasz befejezése után az AI-dolgozó értesítést kap, és az üzleti ügyfél megkezdheti a telepítési munkafolyamatot.
bevetés
Az üzembe helyezési munkafolyamathoz egy egyéni docker-következtetési kép jön létre egy TensorFlow kiszolgáló alapkép használatával (amely kifejezetten a gyors következtetéshez készült). További kódok és függőségek, mint a numPy, Pandas, egyéni NL stb., további funkciókat biztosítanak, például formázást és tisztítást a következtetés előtt. A FastAPI az egyéni lemezkép részeként is szerepel, és a REST API végpontok biztosítására szolgál következtetésekhez és állapotellenőrzésekhez. A SageMaker ezután úgy van konfigurálva, hogy az S3-ba mentett TensorFlow modelleket a következtetési képpel együtt telepítse a számításokra optimalizált ml.c5 AWS-példányokra, hogy nagy teljesítményű következtetési végpontokat generáljon. Minden végpontot egyetlen ügyfél számára hoznak létre modelljeik és adataik elkülönítésére.
Következtetés
A telepítési munkafolyamat befejezése után a következtetési munkafolyamat veszi át az irányítást. Az összes első bejövő támogatási e-mail átadásra kerül a következtetés API-n keresztül az adott ügyfélre jellemző telepített osztályozókhoz. A telepített osztályozók ezután szöveges besorolást hajtanak végre ezeken az e-maileken, és mindegyik osztályozási címkét generál az ügyfél számára.
Lehetséges fejlesztések és testreszabások
Kustomer fontolgatja a megoldás bővítését a következő fejlesztésekkel:
- Hugging Face DLC-k – Kustomer jelenleg a TensorFlow alap Docker-képeit használja az adat-előfeldolgozási szakaszhoz, és azt tervezi, hogy áttér Hugging Face Deep Learning Containers (DLC-k). Ez segít a képzési modellek azonnali elindításában, kihagyva az edzési környezetek létrehozásának és optimalizálásának bonyolult folyamatát a semmiből. További információkért lásd Átölelő arc az Amazon SageMakeren.
- Visszacsatolás – Visszacsatolási hurkot valósíthat meg aktív tanulási vagy megerősítő tanulási technikákkal a modell általános hatékonyságának növelése érdekében.
- Integráció más belső rendszerekkel – A Kustomer azt szeretné, ha a szövegbesorolás integrálható lenne más rendszerekkel, mint például a Smart Suggestions, amely egy másik Kustomer IQ szolgáltatás, amely több száz parancsikont néz át, és javasolja az ügyfélkérdések szempontjából legrelevánsabb parancsikonokat, javítva az ügynök válaszidejét és teljesítményét.
Következtetés
Ebben a bejegyzésben megvitattuk, hogy Kustomer hogyan használ egyéni Docker-képeket a SageMaker képzéséhez és következtetéseihez, ami megkönnyíti az integrációt és ésszerűsíti a folyamatot. Bemutattuk, hogy a Kustomer hogyan használja ki a Lambdát és a SageMaker-t egyéni Docker-képekkel, amelyek elősegítik a szövegosztályozási folyamat végrehajtását elő- és utófeldolgozási munkafolyamatokkal. Ez rugalmasságot biztosít a nagyobb képek modellalkotáshoz, betanításhoz és következtetésekhez való felhasználásához. A Lambda konténerkép-támogatása lehetővé teszi a funkció még jobban testreszabását, és számos új felhasználási lehetőséget nyit meg a szerver nélküli ML számára. A megoldás számos AWS szolgáltatást használ, köztük a SageMaker, a Lambda, a Docker images, az Amazon ECR, az Amazon ECS, az Amazon SQS és az Amazon S3 előnyeit.
Ha többet szeretne megtudni Kustomerről, javasoljuk, hogy látogassa meg a Kustomer weboldal és fedezze fel őket esettanulmányok.
Kattints itt hogy megkezdje utazását az Amazon SageMakerrel. A gyakorlati tapasztalatokért hivatkozhat az Amazon SageMakerre műhely.
A szerzőkről
Umesh Kalaspurkar az AWS New York-i Solutions Architect-je. Több mint 20 éves tapasztalattal rendelkezik a digitális innovációs és átalakítási projektek tervezésében és megvalósításában, vállalkozások és startupok körében. Motiválja, hogy segítsen ügyfeleinek felismerni és leküzdeni a kihívásokat. A munkán kívül Umesh szeret apa lenni, síelni és utazni.
Ian Lantzy a Kustomer szoftver- és gépi tanulási vezető mérnöke, és a gépi tanulással kapcsolatos kutatási feladatok elvégzésére és termelési szolgáltatásokká alakítására specializálódott.
Prasad Shetty az AWS bostoni székhelyű megoldástervezője. Szoftvertermékeket épített, és több mint 20 éve vezeti a termékek és szolgáltatások modernizálását és digitális innovációját a vállalatok körében. Szenvedélyesen törekszik a felhőstratégia és -alkalmazás előmozdításában, valamint a technológia kihasználásában, hogy nagyszerű ügyfélélményeket teremtsen. Szabadidejében Prasad szeret biciklizni és utazni.
Jonathan Greifenberger az AWS New York-i Senior Account Managere, 25 éves IT iparági tapasztalattal. Jonathan egy olyan csapatot vezet, amely különféle iparágakban és ágazatokban segíti az ügyfeleket a felhőbe történő bevezetésük és modernizációjuk során.
- Coinsmart. Európa legjobb Bitcoin- és kriptográfiai tőzsdéje.
- Platoblockchain. Web3 metaverzum intelligencia. Felerősített tudás. SZABAD HOZZÁFÉRÉS.
- CryptoHawk. Altcoin radar. Ingyenes próbaverzió.
- Forrás: https://aws.amazon.com/blogs/machine-learning/how-kustomer-utilizes-custom-docker-images-amazon-sagemaker-to-build-a-text-classification-pipeline/
- "
- &
- 100
- 20 év
- 7
- Rólunk
- hozzáférés
- Fiók
- át
- aktív
- További
- Örökbefogadás
- Előny
- előnyei
- szerek
- AI
- algoritmusok
- Minden termék
- amazon
- elemzés
- Másik
- api
- API-k
- megközelítés
- építészet
- Automatizálás
- AWS
- hogy
- épít
- Épület
- üzleti
- képességek
- esetek
- okozott
- kihívás
- kihívások
- Ellenőrzések
- besorolás
- Takarításra
- felhő
- kód
- távközlés
- Companies
- Kiszámít
- fogyasztó
- Konténer
- Konténerek
- tartalmaz
- tartalom
- Beszélgetés
- beszélgetések
- Vásárlói élmény
- Vevőszolgálat
- Vevőszolgálat
- Ügyfelek
- dátum
- nap
- késedelmek
- kézbesítés
- Kereslet
- bevetés
- Design
- fejlett
- digitális
- felfedezés
- Dokkmunkás
- vezetés
- Hatékony
- hatékonyság
- lehetővé téve
- ösztönzése
- Endpoint
- mérnök
- Vállalkozás
- események
- példa
- bővülő
- tapasztalat
- Tapasztalatok
- Arc
- GYORS
- Fed
- Visszacsatolás
- vezetéknév
- Rugalmasság
- következő
- funkció
- funkcionalitás
- generál
- Giving
- GPU
- nagy
- Vendég
- Vendég bejegyzés
- tekintettel
- Egészség
- segít
- segít
- Magas
- Hogyan
- HTTPS
- Több száz
- azonosítani
- kép
- végre
- végre
- beleértve
- Beleértve
- Növelje
- <p></p>
- iparágak
- ipar
- információ
- Innováció
- meglátások
- integrálni
- integráció
- Intelligens
- A szándék
- Felület
- kérdés
- IT
- címkézés
- Címkék
- nagy
- nagyobb
- TANUL
- tanulás
- Led
- szint
- kihasználja
- helyileg
- gép
- gépi tanulás
- Gyártás
- menedzser
- Metrics
- ML
- modell
- modellek
- MongoDB
- a legtöbb
- New York
- hangszerelés
- érdekében
- szervezetek
- Más
- másképp
- Emberek (People)
- teljesítmény
- emelvény
- Népszerű
- lehetséges
- előrejelzés
- árazás
- Probléma
- folyamat
- Termékek
- Termelés
- termelékenység
- Termékek
- projektek
- ad
- biztosít
- gyorsan
- csökkentő
- szükség
- kötelező
- kutatás
- válasz
- REST
- Útvonal
- futás
- futás
- skálázhatóság
- Skála
- sdk
- vagy szerver
- szolgáltatás
- Szolgáltatások
- szolgáló
- készlet
- Egyszerű
- Méret
- okos
- So
- szoftver
- Megoldások
- specializálódott
- kifejezetten
- osztott
- Színpad
- kezdet
- Startups
- tárolás
- tárolni
- árnyékolók
- Stratégia
- sztrippelés
- tanulmányok
- lényeges
- támogatás
- Systems
- Beszél
- feladatok
- csapat
- technikák
- Technológia
- ezer
- Keresztül
- idő
- tokenek
- Témakörök
- Képzések
- Átalakítás
- megért
- Megnézem
- Mit
- belül
- szavak
- Munka
- év