Bu, Kustomer'in Kıdemli Yazılım ve Makine Öğrenimi Mühendisi Ian Lantzy ve AWS ekibi Umesh Kalaspurkar, Prasad Shetty ve Jonathan Greifenberger'in konuk yazısıdır.
Kustomer'in kendi sözleriyle, Kustomer, göze çarpan deneyimler sunmak için kurumsal müşteri hizmetlerini yeniden tasarlayan çok kanallı SaaS CRM platformudur. Akıllı otomasyonla oluşturulmuş, birden çok kaynaktan gelen verileri birleştirerek ve şirketlerin tek bir zaman çizelgesi görünümü aracılığıyla zahmetsiz, tutarlı ve kişiselleştirilmiş hizmet ve destek sunmasına olanak tanıyarak herhangi bir iletişim merkezinin ve işletmenin ihtiyaçlarını karşılayacak şekilde ölçekleniyoruz."
Kustomer, ticari müşterileri (müşteri deneyimi ve hizmet kuruluşları) için büyük hacimli destek iletişimlerini hızla analiz etme ve son müşterinin amacı, müşteri hizmeti sorunu ve tüketiciyle ilgili diğer ilgili bilgiler gibi bilgilerin keşfini otomatikleştirme becerisini istiyordu. Bu özellikleri anlamak, CX kuruluşlarının içeriği otomatik olarak sınıflandırarak ve kategorilere ayırarak binlerce gelen destek e-postasını yönetmesine yardımcı olabilir. Müşteri kaldıraçları Amazon Adaçayı Yapıcı AI tabanlı olarak gelen destek iletişimlerinin analizini yönetmek için Müşteri IQ'su platform. Kustomer IQ'nun Konuşma Sınıflandırma hizmeti, konuşmaları bağlama oturtabilir ve aksi takdirde sıkıcı ve tekrarlayan görevleri otomatikleştirerek, temsilcinin dikkatinin dağılmasını ve kişi başına toplam maliyeti azaltır. Bu ve Kustomer'in diğer IQ hizmetleri, ticari müşterileri için üretkenliği ve otomasyonu artırdı.
Bu gönderide, Kustomer'in entegrasyonu kolaylaştıran ve süreci kolaylaştıran SageMaker eğitimi ve çıkarımı için özel Docker görüntülerini nasıl kullandığı hakkında konuşuyoruz. Bu yaklaşımla, Kustomer'in kurumsal müşterileri, her ay 50 binin üzerinde destek e-postasını %70'e varan doğrulukla otomatik olarak sınıflandırıyor.
Arka plan ve zorluklar
Kustomer, Konuşma Sınıflandırma hizmeti için özel bir metin sınıflandırma ardışık düzeni kullanır. Bu, SageMaker'ın eğitim ve çıkarım düzenlemesini kullanarak otomatik sınıflandırma ve kategorizasyon yoluyla günde binlerce isteği yönetmelerine yardımcı olur. Konuşma Sınıflandırma eğitim motoru, verileri işlemek ve modelleri geçmiş konuşmaları kullanarak eğitmek için özel Docker görüntüleri kullanır ve ardından konuşmaları sınıflandırmak için belirli bir aracının ihtiyaç duyduğu konuları, kategorileri veya diğer özel etiketleri tahmin eder. Ardından tahmin motoru, kuruluşların raporlamayı otomatikleştirmek veya konuşmaları konusuna göre belirli bir ekibe yönlendirmek için kullandığı konuşmaları kategorilere ayırmak için başka bir özel liman işçisi görüntüsüyle birlikte eğitilmiş modelleri kullanır.
SageMaker sınıflandırma süreci, metin sınıflandırması ve bağlamsal öneriler sağlayabilen bir eğitim ve çıkarım hattı oluşturarak başlar. Tipik bir kurulum, aşağıdaki gibi sunucusuz yaklaşımlarla uygulanacaktır: AWS Lambda Etkin bir isteğe bağlı fiyatlandırma modeliyle minimum tedarik gereksinimine sahip olduğundan, veri ön işleme ve son işleme için. Bununla birlikte, SageMaker'ı TensorFlow, NumPy ve Pandas gibi bağımlılıklarla kullanmak, model paketi boyutunu hızla artırarak genel dağıtım sürecini hantal ve yönetilmesi zor hale getirebilir. Kustomer, bu zorlukların üstesinden gelmek için özel Docker görüntüleri kullandı.
Özel Docker görüntüleri önemli avantajlar sağlar:
- TensorFlow, MXNet, PyTorch veya diğerleri gibi popüler makine öğrenimi (ML) çerçevelerini içerebilen daha büyük sıkıştırılmış paket boyutlarına (10 GB'ın üzerinde) izin verir.
- Yerel olarak geliştirilmiş özel kod veya algoritmaları Amazon SageMaker Stüdyosu hızlı yineleme ve model eğitimi için not defterleri.
- Dağıtım paketlerini açarken Lambda'nın neden olduğu ön işleme gecikmelerini önler.
- Dahili sistemlerle sorunsuz bir şekilde entegrasyon esnekliği sunar.
- Gelecekteki uyumluluk ve ölçeklenebilirlik, .zip dosyalarını bir Lambda işlevinde paketlemek yerine Docker kullanarak bir hizmeti dönüştürmeyi kolaylaştırır.
- Bir CI/CD dağıtım hattı için geri dönüş süresini azaltır.
- Ekip içinde Docker aşinalığı ve kullanım kolaylığı sağlar.
- API'ler ve bir arka uç çalışma zamanı aracılığıyla veri depolarına erişim sağlar.
- Lambda'nın her işlem için (eğitim veya dağıtım gibi) ayrı bir bilgi işlem hizmeti gerektireceği herhangi bir ön işleme veya son işleme müdahale için daha iyi destek sunar.
Çözüme genel bakış
Destek e-postalarının sınıflandırılması ve etiketlenmesi, müşteri destek sürecinde kritik bir adımdır. Şirketlerin konuşmaları doğru ekiplere yönlendirmesine ve müşterilerinin onlarla ne hakkında iletişim kurduğunu üst düzeyde anlamalarına olanak tanır. Kustomer'in kurumsal müşterileri her gün binlerce görüşmeyi yönetiyor, bu nedenle geniş ölçekte sınıflandırma yapmak zor. Bu süreci otomatikleştirmek, aracıların daha etkili olmasına ve daha uyumlu destek sağlamasına yardımcı olur ve müşterilerini doğru kişilerle daha hızlı bağlayarak onlara yardımcı olur.
Aşağıdaki şema, çözüm mimarisini göstermektedir:
Konuşma Sınıflandırması süreci, ticari müşterinin Kustomer'e metin sınıflandırması ve bağlamsal önerilerde kendilerine yardımcı olabilecek bir eğitim ve çıkarım hattı oluşturma izni vermesiyle başlar. Kustomer, TensorFlow modelleri ve özel Docker görüntüleri ile birlikte SageMaker kullanılarak uygulanan eğitim ve çıkarım sürecini izlemek için müşterilerine bir kullanıcı arabirimi sunar. Bir sınıflandırıcı oluşturma ve kullanma süreci, üzerinde çalışan bir çalışan hizmeti tarafından koordine edilen beş ana iş akışına bölünmüştür. Amazon ECS'si. İşlem hattı olaylarını koordine etmek ve modelin eğitimini ve dağıtımını tetiklemek için çalışan bir Amazon SQS'si sıraya alır ve AWS tarafından sağlanan Node.js SDK'sını kullanarak doğrudan SageMaker ile entegre olur. İş akışları:
- Veri dışa aktarma
- Veri ön işleme
- Eğitim
- açılma
- sonuç
Veri dışa aktarma
Veri dışa aktarma süreci talep üzerine yürütülür ve analiz için e-posta verilerinin kullanımını onaylamak için Kustomer'in ticari müşterisinden gelen bir onay süreci ile başlar. Sınıflandırma süreciyle ilgili veriler, son müşteriden alınan ilk e-posta yoluyla yakalanır. Örneğin, bir destek e-postası tipik olarak sorunla ilgili eksiksiz ve tutarlı düşünceyi, sorunla ilgili ayrıntılarla birlikte içerir. Dışa aktarma işleminin bir parçası olarak, e-postalar veri deposundan (MongoDB ve Amazon Açık Arama) ve kaydedildi Amazon Basit Depolama Hizmeti (Amazon S3).
Veri ön işleme
Veri ön işleme aşaması, müşteri e-postalarından HTML etiketlerini çıkararak ve hatalı biçimlendirilmiş HTML'yi algılamak için birden fazla temizleme ve temizleme adımıyla besleyerek, eğitim ve çıkarım iş akışları için veri kümesini temizler. Bu süreç şunları içerir: Hugging Face belirteçleri ve dönüştürücüler. Temizleme işlemi tamamlandığında, eğitim için gereken ek özel belirteçler çıktı veri kümesine eklenir.
Ön işleme aşamasında, bir Lambda işlevi özel bir Docker görüntüsünü çağırır. Bu görüntü bir Python 3.8 ince tabandan oluşur, AWS Lambda Python Çalışma Zamanı Arayüzü İstemcisi, ve gibi bağımlılıklar Dizi ve Pandalar. Özel Docker görüntüsü şurada depolanır: Amazon Elastik Konteyner Kayıt Defteri (Amazon ECR) ve ardından dağıtım için CI/CD ardışık düzeni aracılığıyla beslenir. Dağıtılan Lambda işlevi, sınıflandırıcı başına üç farklı veri kümesi oluşturmak için verileri örnekler:
- Eğitim – Gerçek eğitim süreci için kullanılır
- Onaylama – TensorFlow eğitim süreci sırasında doğrulama için kullanılır
- test – Metrik model karşılaştırmaları için eğitim sürecinin sonuna doğru kullanılır
Oluşturulan çıktı veri kümeleri, eğitim aşaması tarafından kullanılmak üzere Amazon S3'te depolanan Panda turşu dosyalarıdır.
Eğitim
Kustomer'in özel eğitim görüntüsü, TensorFlow 2.7 GPU için optimize edilmiş bir docker kullanır görüntü baz olarak. Özel docker eğitim görüntüsü ECR'ye yüklenmeden önce özel kod, bağımlılıklar ve temel modeller dahil edilir. Eğitim süreci için P3 bulut sunucusu türleri kullanılır ve GPU için optimize edilmiş bir temel görüntü kullanılması, eğitim sürecini mümkün olduğunca verimli hale getirmeye yardımcı olur. Amazon SageMaker, daha sonra S3'te depolanan TensorFlow modellerini eğitmek için bu özel liman işçisi görüntüsüyle birlikte kullanılır. Model karşılaştırmaları ve otomatik yeniden eğitim gibi ek yeteneklere yardımcı olmak için özel metrikler de hesaplanır ve kaydedilir. Eğitim aşaması tamamlandığında, yapay zeka çalışanına bilgi verilir ve işletme müşterisi dağıtım iş akışını başlatabilir.
açılma
Dağıtım iş akışı için, bir TensorFlow hizmet temel görüntüsü (özellikle hızlı çıkarım için oluşturulmuş) kullanılarak özel bir liman işçisi çıkarım görüntüsü oluşturulur. numPy, Pandas, özel NL, vb. gibi ek kod ve bağımlılıklar, biçimlendirme ve çıkarımdan önce girdileri temizleme gibi ek işlevler sağlamak için dahil edilmiştir. FastAPI ayrıca özel görüntünün bir parçası olarak dahil edilir ve çıkarım ve sistem durumu kontrolleri için REST API uç noktalarını sağlamak için kullanılır. Ardından SageMaker, yüksek performanslı çıkarım uç noktaları oluşturmak için çıkarım görüntüsüyle birlikte S3'te kaydedilen TensorFlow modellerini hesaplama için optimize edilmiş ml.c5 AWS bulut sunucularına dağıtacak şekilde yapılandırılır. Her uç nokta, modellerini ve verilerini izole etmek için tek bir müşteri tarafından kullanılmak üzere oluşturulur.
sonuç
Dağıtım iş akışı tamamlandığında, çıkarım iş akışı devreye girer. Tüm ilk gelen destek e-postaları, o müşteriye özel dağıtılan sınıflandırıcılar için çıkarım API'sinden geçirilir. Dağıtılan sınıflandırıcılar daha sonra bu e-postaların her biri üzerinde metin sınıflandırması gerçekleştirir ve her biri müşteri için sınıflandırma etiketleri oluşturur.
Olası geliştirmeler ve özelleştirmeler
Kustomer, çözümü aşağıdaki geliştirmelerle genişletmeyi düşünüyor:
- Hugging Face DLC'leri – Kustomer şu anda veri ön işleme aşaması için TensorFlow'un temel Docker görüntülerini kullanıyor ve Hugging Face Deep Learning Kapsayıcıları (DLC'ler). Bu, eğitim ortamlarınızı sıfırdan oluşturma ve optimize etme karmaşık sürecini atlayarak eğitim modellerini hemen başlatmanıza yardımcı olur. Daha fazla bilgi için, bkz Amazon SageMaker'da Kucaklayan Yüz.
- Geribildirim döngüsü – Modelin genel verimliliğini artırmak için aktif öğrenme veya pekiştirmeli öğrenme tekniklerini kullanarak bir geri bildirim döngüsü uygulayabilirsiniz.
- Diğer dahili sistemlerle entegrasyon – Kustomer, metin sınıflandırmasını, yüzlerce kısayola bakan ve bir müşteri sorgusu ile en alakalı kısayolları öneren, temsilci yanıt sürelerini ve performansını iyileştiren başka bir Kustomer IQ hizmeti olan Akıllı Öneriler gibi diğer sistemlerle entegre etme yeteneği istiyor.
Sonuç
Bu gönderide, Kustomer'in entegrasyonu kolaylaştıran ve süreci kolaylaştıran SageMaker eğitimi ve çıkarımı için özel Docker görüntülerini nasıl kullandığını tartıştık. Kustomer'in, ön işleme ve son işleme iş akışlarıyla metin sınıflandırma sürecinin uygulanmasına yardımcı olan özel Docker görüntüleri ile Lambda ve SageMaker'dan nasıl yararlandığını gösterdik. Bu, model oluşturma, eğitim ve çıkarım için daha büyük görüntüleri kullanma esnekliği sağlar. Lambda için kapsayıcı görüntüsü desteği, işlevinizi daha da özelleştirmenize olanak tanıyarak sunucusuz ML için birçok yeni kullanım senaryosu açar. Çözüm, SageMaker, Lambda, Docker görüntüleri, Amazon ECR, Amazon ECS, Amazon SQS ve Amazon S3 dahil olmak üzere çeşitli AWS hizmetlerinden yararlanır.
Kustomer hakkında daha fazla bilgi edinmek istiyorsanız, sizi ziyaret etmenizi öneririz. Müşteri web sitesi ve onların keşfetmek durum çalışmaları.
Tıkla okuyun Amazon SageMaker ile yolculuğunuza başlamak için Uygulamalı deneyim için Amazon SageMaker'a başvurabilirsiniz. atölye.
Yazarlar Hakkında
Umesh Kalaspurkar AWS için New York merkezli bir Çözüm Mimarıdır. İşletmeler ve girişimler arasında Dijital İnovasyon ve Dönüşüm projelerinin tasarımı ve sunumunda 20 yılı aşkın deneyime sahiptir. Müşterilerin zorlukları tanımlamasına ve üstesinden gelmesine yardımcı olarak motive olur. Umesh, iş dışında baba olmayı, kayak yapmayı ve seyahat etmeyi seviyor.
Ian Lantzy Kustomer için Kıdemli Yazılım ve Makine Öğrenimi mühendisidir ve makine öğrenimi araştırma görevlerini üstlenme ve bunları üretim hizmetlerine dönüştürme konusunda uzmanlaşmıştır.
Prasad Shetty AWS için Boston merkezli bir Çözüm Mimarıdır. Yazılım ürünleri geliştirmiş ve 20 yılı aşkın bir süredir işletmelerde ürün ve hizmetlerde modernizasyon ve dijital inovasyona öncülük etmiştir. Bulut stratejisini ve benimsenmesini sağlama ve harika müşteri deneyimleri oluşturmak için teknolojiden yararlanma konusunda tutkulu. Prasad boş zamanlarında bisiklete binmeyi ve seyahat etmeyi sever.
Jonathan Greifenberger 25 yıllık BT sektörü deneyimine sahip New York merkezli AWS Kıdemli Hesap Yöneticisidir. Jonathan, çeşitli sektörlerden ve sektörlerden müşterilere bulut benimseme ve modernizasyon yolculuklarında yardımcı olan bir ekibe liderlik ediyor.
- Akıllı para. Avrupa'nın En İyi Bitcoin ve Kripto Borsası.
- Plato blok zinciri. Web3 Metaverse Zekası. Bilgi Güçlendirildi. SERBEST ERİŞİM.
- KriptoHawk. Altcoin Radarı. Ücretsiz deneme.
- Kaynak: https://aws.amazon.com/blogs/machine-learning/how-kustomer-utilizes-custom-docker-images-amazon-sagemaker-to-build-a-text-classification-pipeline/
- "
- &
- 100
- 20 yıl
- 7
- Hakkımızda
- erişim
- Hesap
- karşısında
- aktif
- Ek
- Benimseme
- avantaj
- avantajları
- ajanları
- AI
- algoritmalar
- Türkiye
- Amazon
- analiz
- Başka
- api
- API'ler
- yaklaşım
- mimari
- Otomasyon
- AWS
- olmak
- inşa etmek
- bina
- iş
- yetenekleri
- durumlarda
- neden
- meydan okuma
- zorluklar
- Çekler
- sınıflandırma
- Temizlik
- bulut
- kod
- İletişim
- Şirketler
- hesaplamak
- tüketici
- Konteyner
- Konteynerler
- içeren
- içerik
- konuşma
- konuşmaları
- müşteri deneyimi
- Müşteri Hizmetleri
- Kullanıcı Desteği
- Müşteriler
- veri
- gün
- gecikmeleri
- teslim
- Talep
- açılma
- Dizayn
- gelişmiş
- dijital
- keşif
- liman işçisi
- sürme
- Etkili
- verim
- E-posta
- etkinleştirme
- teşvik etmek
- Son nokta
- mühendis
- kuruluş
- olaylar
- örnek
- genişleyen
- deneyim
- Deneyimler
- Yüz
- HIZLI
- Fed
- geribesleme
- Ad
- Esneklik
- takip etme
- işlev
- işlevsellik
- oluşturmak
- Verilmesi
- GPU
- harika
- Konuk
- Misafir Mesaj
- sahip olan
- Sağlık
- yardım et
- yardımcı olur
- Yüksek
- Ne kadar
- HTTPS
- Yüzlerce
- belirlemek
- görüntü
- uygulamak
- uygulanan
- dahil
- Dahil olmak üzere
- Artırmak
- artmış
- Endüstri
- sanayi
- bilgi
- Yenilikçilik
- anlayışlar
- entegre
- bütünleşme
- Akıllı
- niyet
- arayüzey
- konu
- IT
- etiketleme
- Etiketler
- büyük
- büyük
- ÖĞRENİN
- öğrenme
- Led
- seviye
- leverages
- lokal olarak
- makine
- makine öğrenme
- Yapımı
- müdür
- Metrikleri
- ML
- model
- modelleri
- MongoDB
- çoğu
- New York
- orkestrasyon
- sipariş
- organizasyonlar
- Diğer
- aksi takdirde
- İnsanlar
- performans
- platform
- Popüler
- mümkün
- tahmin
- fiyatlandırma
- Sorun
- süreç
- PLATFORM
- üretim
- verimlilik
- Ürünler
- Projeler
- sağlamak
- sağlar
- hızla
- azaltarak
- gerektirir
- gereklidir
- araştırma
- yanıt
- DİNLENME
- Rota
- koşmak
- koşu
- ölçeklenebilirlik
- ölçek
- sdk
- Serverless
- hizmet
- Hizmetler
- servis
- set
- Basit
- beden
- akıllı
- So
- Software
- Çözümler
- uzmanlaşmış
- özellikle
- bölmek
- Aşama
- başlama
- Startups
- hafızası
- mağaza
- mağaza
- Stratejileri
- soyunma
- çalışmalar
- önemli
- destek
- Sistemler
- Konuşmak
- görevleri
- takım
- teknikleri
- Teknoloji
- Binlerce
- İçinden
- zaman
- Jeton
- Konular
- Eğitim
- Dönüşüm
- anlamak
- Görüntüle
- Ne
- içinde
- sözler
- İş
- yıl