Amazon Bedrock için aracılarla temel model (FM) destekli bir müşteri hizmetleri botu oluşturun | Amazon Web Hizmetleri

Konuşma deneyimini geliştirmekten temsilci desteğine kadar, üretken yapay zekanın (AI) ve temel modellerin (FM'ler) daha hızlı ve daha iyi destek sağlamaya yardımcı olabileceği birçok yol vardır. FM'lerin artan kullanılabilirliği ve çeşitliliği nedeniyle, en son model sürümlerini denemek ve güncel tutmak zordur. Amazon Ana Kayası AI21 Labs, Anthropic, Cohere, Meta, Stability AI ve Amazon gibi önde gelen AI şirketlerinden yüksek performanslı FM seçenekleri sunan, tam olarak yönetilen bir hizmettir. Amazon Bedrock'un kapsamlı yetenekleri sayesinde, çeşitli üst düzey FM'leri kolayca deneyebilir, ince ayar ve Geri Alma Artırılmış Üretim (RAG) gibi teknikleri kullanarak bunları verilerinizle özel olarak özelleştirebilirsiniz.

Amazon Bedrock Temsilcileri

Temmuz ayında AWS, önizlemesini duyurdu Amazon Bedrock'un acentelerigeliştiricilerin birkaç tıklamayla tam olarak yönetilen aracılar oluşturmasına yönelik yeni bir yetenek. Temsilciler FM'leri, seyahat rezervasyonu ve sigorta taleplerinin işlenmesinden reklam kampanyaları oluşturmaya ve envanter yönetimine kadar karmaşık iş görevlerini herhangi bir kod yazmadan yürütmek üzere genişletir. Tam olarak yönetilen aracılarla altyapının sağlanması veya yönetilmesi konusunda endişelenmenize gerek yoktur.

Bu yazıda, bir müşteri hizmetleri botu oluşturmak için yapı taşlarını içeren adım adım bir kılavuz sunuyoruz. Bir metin oluşturma modeli kullanıyoruz (Antropik Claude V2) ve bu çözüm için Amazon Bedrock temsilcileri. Biz bir sağlıyoruz AWS CloudFormation Bu çözümü oluşturmak için gereken kaynakları sağlamaya yönelik şablon. Ardından Amazon Bedrock için bir temsilci oluşturma adımlarını size göstereceğiz.

ReAct İstemi

FM'ler, kullanıcı tarafından talep edilen görevlerin nasıl çözüleceğini, adı verilen bir teknikle belirler. Tepki. Akıl yürütmeyi ve eylemeyi FM'lerle birleştiren genel bir paradigmadır. ReAct, FM'leri bir görev için sözlü muhakeme izleri ve eylemler oluşturmaya yönlendirir. Bu, sistemin, akıl yürütmeye ek bilgiler dahil ederken, eylem planlarını oluşturmak, sürdürmek ve ayarlamak için dinamik akıl yürütme gerçekleştirmesine olanak tanır. Yapılandırılmış yönlendirmeler bir dizi soru-düşünce-eylem-gözlem örneklerini içerir.

• Soru, kullanıcının talep ettiği görev veya çözülmesi gereken problemdir.
• Bu düşünce, FM'e sorunun nasıl çözüleceğini ve gerçekleştirilecek eylemi nasıl belirleyeceğini göstermeye yardımcı olan bir akıl yürütme adımıdır.
• Eylem, modelin izin verilen bir API kümesinden çağırabileceği bir API'dir.
• Gözlem, eylemin gerçekleştirilmesinin sonucudur.

Amazon Bedrock aracılarındaki bileşenler

Amazon Bedrock'un temsilcileri, perde arkasında, kullanıcı tarafından talep edilen görevlerin hızlı bir şekilde tasarlanmasını ve düzenlenmesini otomatikleştiriyor. Kullanıcıya doğal dilde yanıtlar sağlamak için istemleri şirkete özel bilgilerle güvenli bir şekilde genişletebilirler. Aracı, kullanıcının talep ettiği görevi birden çok adıma böler ve alt görevleri FM'lerin yardımıyla düzenler. Eylem grupları, aracının özerk olarak gerçekleştirebileceği görevlerdir. Eylem grupları bir AWS Lambda API çağrılarını gerçekleştirmek için işlev ve ilgili API şeması. Aşağıdaki şemada aracının yapısı gösterilmektedir.

Çözüme genel bakış

Müşteri hizmetleri botunu oluşturmak için ayakkabı perakendecisi kullanım senaryosunu kullanıyoruz. Bot, insan benzeri bir sohbette seçenekler sunarak müşterilerin ayakkabı satın almasına yardımcı oluyor. Müşteriler, alt görevleri gerçekleştirmek için harici API'leri çağıran birden fazla adımla botla doğal dilde konuşur. Aşağıdaki diyagramda örnek işlem akışı gösterilmektedir.

Aşağıdaki diyagram bu çözümün üst düzey mimarisini göstermektedir.

1. Anthropic Claude V2 gibi Amazon Bedrock destekli FM'lerle bir temsilci oluşturabilirsiniz.
2. Bir yerde bulunan API şemasını ekleyin Amazon Basit Depolama Hizmeti (Amazon S3) kova ve aracıya iş mantığını içeren bir Lambda işlevi. (Not: Bu tek seferlik bir kurulum adımıdır.)
3. Aracı, ReAct çerçevesini kullanarak bir bilgi istemi oluşturmak için müşteri isteklerini kullanır. Daha sonra Lambda işlevinde ilgili kodu çağırmak için API şemasını kullanır.
4. Lambda işlevlerinde e-posta bildirimleri gönderme, veritabanlarına yazma ve uygulama API'lerini tetikleme gibi çeşitli görevleri gerçekleştirebilirsiniz.

Bu yazıda müşteri ayrıntılarını almak, müşterinin tercih ettiği aktiviteye uygun ayakkabıları listelemek ve son olarak sipariş vermek için Lambda işlevini kullanıyoruz. Kodumuz bellek içi bir SQLite veritabanı tarafından desteklenmektedir. Kalıcı bir veri deposuna yazmak için benzer yapıları kullanabilirsiniz.

Önkoşullar

Bu gönderide sağlanan çözümü uygulamak için bir AWS hesabı ve aracıların etkin olduğu Amazon Bedrock'a erişim (şu anda önizleme aşamasında). Çözüm için gereken kaynak yığınını oluşturmak için AWS CloudFormation şablonunu kullanın.

us-east-1

CloudFormation şablonu iki IAM rolü oluşturur. En az ayrıcalıklı izinleri uygulamak için bu rolleri güncelleştirin. En iyi güvenlik uygulamaları. tıklayın okuyun Amazon Bedrock aracılarıyla hangi IAM özelliklerinin kullanılabileceğini öğrenmek için.

1. LambdaBasicExecutionRole Amazon S3 tam erişimi ve günlük kaydı için CloudWatch erişimi ile.
2. AmazonBedrockExecutionRoleForAgents Amazon S3 tam erişim ve Lambda tam erişim ile.

Önemli: Amazon Bedrock temsilcilerinin rol adının ön eki olmalıdır AmazonBedrockExecutionRoleForAgents_*

Bedrock Agent kurulumu

Sonraki iki bölümde, bir aracı oluşturma ve test etme konusunda size yol göstereceğiz.

Amazon Bedrock için bir temsilci oluşturun

Bir aracı oluşturmak için Amazon Bedrock konsolu Ve seç Danışmanlar sol gezinme bölmesinde. Sonra seçin Temsilci Oluştur.

Bu, aracı oluşturma iş akışını başlatır.

1. Temsilci ayrıntılarını sağlayın: Temsilciye bir ad ve açıklama verin (isteğe bağlı). CloudFormation yığını tarafından oluşturulan hizmet rolünü seçin ve Sonraki.

2. Bir temel modeli seçin: içinde Model seç ekranında bir model seçersiniz. Temsilciye hangi görevlerin gerçekleştirileceği ve kullanıcılarla nasıl etkileşimde bulunulacağı konusunda açık ve kesin talimatlar verin.

3. Eylem grupları ekleyin: Eylem, aracının API çağrıları yaparak gerçekleştirebileceği bir görevdir. Bir dizi eylem bir eylem grubunu oluşturur. Eylem grubundaki tüm API'leri tanımlayan bir API şeması sağlarsınız. Bir API şeması sağlamanız gerekir. OpenAPI şeması JSON biçimi. Lambda işlevi, API çağrılarını gerçekleştirmek için gereken iş mantığını içerir. Her eylem grubuna bir Lambda işlevi ilişkilendirmeniz gerekir.

Eylem grubuna eylem için bir ad ve açıklama verin. Lambda işlevini seçin, bir API şema dosyası sağlayın ve Sonraki.

4. Son adımda aracı yapılandırmasını gözden geçirin ve Temsilci Oluştur.

Amazon Bedrock için aracıları test edin ve dağıtın

1. Temsilciyi test edin: Temsilci oluşturulduktan sonra, bir iletişim kutusu, çalışan bir taslakla birlikte aracıya genel bakışı gösterir. Amazon Bedrock konsolu, aracınızı test etmeniz için bir kullanıcı arayüzü sağlar.

2. Sürüş: Başarılı testlerden sonra aracınızı dağıtabilirsiniz. Uygulamanızda bir aracı dağıtmak için bir takma ad oluşturmanız gerekir. Amazon Bedrock daha sonra bu takma ad için otomatik olarak bir sürüm oluşturur.

Önceki aracı kurulumunda ve bu gönderiyle sağlanan Lambda kodunda aşağıdaki eylemler gerçekleşir:

1. Aracı, geliştirici tarafından sağlanan talimatlardan ("Müşterilerin ayakkabı satın almasına yardımcı olan bir aracısınız" gibi), görevleri tamamlamak için gereken API şemalarından ve veri kaynağı ayrıntılarından bir bilgi istemi oluşturur. Otomatik istem oluşturma, farklı FM'ler için istemlerle haftalarca süren denemelerden tasarruf sağlar.
2. Temsilci, "Ayakkabı arıyorum" gibi kullanıcı tarafından istenen görevi, müşteri ayrıntılarını alma, müşterinin tercih ettiği etkinliği ayakkabı etkinliğiyle eşleştirme ve ayakkabı siparişlerini verme gibi daha küçük alt görevlere bölerek düzenler. Aracı, doğru görev sırasını belirler ve süreç boyunca hata senaryolarını ele alır.

Aşağıdaki ekran görüntüsü temsilciden gelen bazı örnek yanıtları göstermektedir.

seçerek İzi göster Her yanıt için, bir iletişim kutusu temsilci tarafından kullanılan akıl yürütme tekniğini ve FM tarafından oluşturulan son yanıtı gösterir.

Temizlemek

Gelecekte masraf oluşmasını önlemek için kaynakları silin. Bunu, yığını CloudFormation konsolundan silerek yapabilirsiniz.

Bu yazıda kullanılan kodu GitHub'dan indirip test etmekten çekinmeyin. Amazon Bedrock deposu için aracılar. Amazon Bedrock aracılarını programlı olarak da çağırabilirsiniz; BİR örnek Jüpyter Not Defteri deposunda sağlanır.

Sonuç

Amazon Bedrock Agent'lar verimliliği artırmanıza, müşteri hizmetleri deneyiminizi geliştirmenize veya DevOps görevlerini otomatikleştirmenize yardımcı olabilir. Bu yazıda size Amazon Bedrock'ta müşteri hizmetleri botu oluşturmak için aracıların nasıl kurulacağını gösterdik.

İnceleyerek daha fazlasını öğrenmenizi öneririz Ek özellikler Amazon Bedrock'tan. Uygulamanızı oluşturmak için bu yazıda verilen örnek kodu kullanabilirsiniz. Bizim deneyin atölye Amazon Bedrock'ta uygulamalı deneyim kazanmak için.

---

Yazarlar Hakkında

Amit Arora Amazon Web Services'ta Yapay Zeka ve Makine Öğrenimi Uzmanı Mimardır ve kurumsal müşterilerin yeniliklerini hızla ölçeklendirmek için bulut tabanlı makine öğrenimi hizmetlerini kullanmalarına yardımcı olur. Ayrıca Washington DC'deki Georgetown Üniversitesi'nde MS veri bilimi ve analitik programında yardımcı öğretim görevlisidir.

Manju Prasad Amazon Web Services'te Stratejik Hesaplar bünyesinde Kıdemli Çözüm Mimarıdır. Önemli bir izleme ve değerlendirme müşterisine AI/ML dahil olmak üzere çeşitli alanlarda teknik rehberlik sağlamaya odaklanmaktadır. AWS'ye katılmadan önce Finansal Hizmetler sektöründeki şirketlerde ve aynı zamanda bir startup'ta çalıştı.

Archana Inapudi AWS'de Stratejik Müşterileri destekleyen Kıdemli Çözüm Mimarıdır. Müşterilerin veri analitiği ve veritabanı çözümleri tasarlamasına ve oluşturmasına yardımcı olma konusunda on yıldan fazla deneyime sahiptir. Müşterilere değer sağlamak ve iş sonuçlarına ulaşmak için teknolojiyi kullanma konusunda tutkulu.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://aws.amazon.com/blogs/machine-learning/build-a-foundation-model-fm-powered-customer-service-bot-with-agents-for-amazon-bedrock/