Alma Artırılmış Üretimi ve LangChain Aracılarını kullanarak dahili bilgilere erişimi basitleştirin | Amazon Web Hizmetleri

Bu gönderi, müşterilerin şirket içi belgeleri ararken karşılaştığı en yaygın zorlukları size anlatır ve şirket içi bilgileri daha kullanışlı hale getiren üretken bir yapay zeka konuşma botu oluşturmak için AWS hizmetlerinin nasıl kullanılabileceği konusunda size somut rehberlik sağlar.

Yapılandırılmamış veriler tüm verilerin %80'ini oluşturur Kuruluşlarda bulunan ve her gün büyüyen kılavuzlar, PDF'ler, SSS'ler, e-postalar ve diğer belgelerden oluşan depolardan oluşur. Günümüzde işletmeler sürekli büyüyen iç bilgi depolarına güveniyor ve yapılandırılmamış veri miktarı yönetilemez hale geldiğinde sorunlar ortaya çıkıyor. Çoğu zaman kullanıcılar ihtiyaç duydukları yanıtları bulmak için kendilerini birçok farklı dahili kaynağı okuyup kontrol ederken bulurlar.

Dahili soru ve cevap forumları, kullanıcıların son derece spesifik yanıtlar almasına yardımcı olabilir ancak aynı zamanda daha uzun bekleme süreleri gerektirir. Şirkete özel dahili SSS'lerde uzun bekleme süreleri çalışan verimliliğinin düşmesine neden olur. Soru ve cevap forumlarının manuel olarak yazılan cevaplara dayanması nedeniyle ölçeklendirilmesi zordur. Üretken yapay zekayla birlikte, kullanıcıların bilgiyi arama ve bulma biçiminde şu anda bir paradigma değişikliği yaşanıyor. Bir sonraki mantıksal adım, kullanıcının daha kolay tüketmesi için büyük belgeleri daha küçük boyutlu bilgilere yoğunlaştırmak için üretken yapay zekayı kullanmaktır. Kullanıcılar, metni okumak veya yanıtları beklemek için uzun süre harcamak yerine, mevcut birden fazla dahili bilgi deposuna dayalı olarak gerçek zamanlı özetler oluşturabilir.

Çözüme genel bakış

Çözüm, sıfır adım yönlendirme olarak bilinen bir teknikle, üzerinde eğitim almadığı verilerle ilgili sorulara yanıtlar oluşturmak için bir transformatör modeli kullanarak müşterilerin dahili belgeler hakkında sorulan sorulara özel yanıtlar almasına olanak tanıyor. Bu çözümü benimseyen müşteriler aşağıdaki avantajları elde edebilir:

• Mevcut dahili belge kaynaklarına dayanarak sorulara doğru yanıtlar bulun
• En güncel bilgilere sahip belgeleri kullanarak karmaşık sorgulara neredeyse anında yanıtlar sağlamak için Büyük Dil Modellerini (LLM'ler) kullanarak kullanıcıların yanıt aramak için harcadığı zamanı azaltın
• Merkezi bir kontrol paneli aracılığıyla önceden yanıtlanmış soruları arayın
• Yanıtları aramak için bilgileri manuel olarak okuyarak zaman harcamanın neden olduğu stresi azaltın

Erişim Artırılmış Nesil (RAG)

Alma Artırılmış Üretim (RAG), yanıtları bilgi tabanınızdan bularak ve belgeleri kısa yanıtlar halinde özetlemek için LLM'yi kullanarak LLM tabanlı sorguların bazı eksikliklerini azaltır. Lütfen bunu oku  Facebook post RAG yaklaşımının nasıl uygulanacağını öğrenmek Amazon Kendrası. Aşağıdaki riskler ve sınırlamalar, Amazon Kendra ile RAG yaklaşımının ele aldığı LLM tabanlı sorgularla ilişkilidir:

• Halüsinasyonlar ve izlenebilirlik – LLMS, büyük veri kümeleri üzerinde eğitilir ve olasılıklara ilişkin yanıtlar üretir. Bu, halüsinasyon olarak bilinen yanlış cevaplara yol açabilir.
• Çoklu veri siloları – Yanıtınızda birden fazla kaynaktan gelen verilere referans vermek için, verileri bir araya getirecek bir bağlayıcı ekosistemi kurmanız gerekir. Birden fazla depoya erişim manueldir ve zaman alıcıdır.
• Güvenlik – Güvenlik ve gizlilik, RAG ve LLM'ler tarafından desteklenen konuşma botlarını dağıtırken göz önünde bulundurulması gereken kritik öneme sahiptir. Kullanılmasına rağmen Amazon Kavramak Kullanıcı sorguları yoluyla sağlanabilecek kişisel verileri filtrelemek için, alınan verilere bağlı olarak kişisel veya hassas bilgilerin kasıtsız olarak ortaya çıkma olasılığı vardır. Bu, hassas bilgilere istenmeyen erişimi önlemek için sohbet robotuna erişimi kontrol etmenin çok önemli olduğu anlamına gelir.
• Veri ilgisi – LLMS, belirli bir tarihe kadar olan veriler üzerinde eğitilir; bu, bilgilerin genellikle güncel olmadığı anlamına gelir. Güncel verilere ilişkin eğitim modellerinin maliyeti yüksektir. Doğru ve güncel yanıtların sağlanması için kuruluşların indeksli dokümanların içeriğini düzenli olarak güncelleme ve zenginleştirme sorumluluğu bulunmaktadır.
• Maliyet – Bu çözümün dağıtımıyla ilgili maliyet, işletmeler için dikkate alınmalıdır. İşletmelerin bu çözümü uygularken bütçelerini ve performans gereksinimlerini dikkatle değerlendirmeleri gerekiyor. LLM'leri çalıştırmak, operasyonel maliyetleri artırabilecek önemli miktarda hesaplama kaynağı gerektirebilir. Bu maliyetler, büyük ölçekte çalışması gereken uygulamalar için bir sınırlama haline gelebilir. Ancak faydalarından biri AWS Bulut yalnızca kullandığınız kadar ödeme yapma esnekliğidir. AWS basit, tutarlı, kullandıkça öde fiyatlandırma modeli sunduğundan yalnızca tükettiğiniz kaynaklar için ücretlendirilirsiniz.

Amazon SageMaker JumpStart'ın Kullanımı

Dönüştürücü tabanlı dil modelleri için kuruluşlar aşağıdakileri kullanabilir: Amazon Adaçayı Yapıcı JumpStart, önceden oluşturulmuş makine öğrenimi modellerinden oluşan bir koleksiyon sunar. Amazon SageMaker JumpStart, kolayca dağıtılabilen ve kullanılabilen çok çeşitli metin oluşturma ve soru-cevap (Soru-Cevap) temel modelleri sunar. Bu çözüm, bir FLAN T5-XL Amazon SageMaker JumpStart modelini entegre eder ancak bu çözümde akılda tutulması gereken farklı hususlar vardır. bir temel modeli seçme.

Güvenliği iş akışımıza entegre etmek

Güvenlik Sütunu'nun en iyi uygulamalarının takip edilmesi İyi Tasarlanmış Çerçeve, Amazon Cognito'su Kimlik doğrulama için kullanılır. Amazon Cognito Kullanıcı Havuzları, Açık Yetkilendirme (OAuth), OpenID Connect (OIDC) veya Güvenlik Onayı İşaretleme Dili (SAML) dahil olmak üzere erişim kontrolü için kullanılan çeşitli çerçeveleri destekleyen üçüncü taraf kimlik sağlayıcılarıyla entegre edilebilir. Kullanıcıları ve eylemlerini tanımlamak, çözümün izlenebilirliği sürdürmesine olanak tanır. Çözüm ayrıca şunları kullanır: Amazon Comprehend kişisel olarak tanımlanabilir bilgilerin (PII) tespiti PII'yi otomatik olarak tanımlama ve düzenleme özelliği. Düzenlenmiş PII adresleri, sosyal güvenlik numaralarını, e-posta adreslerini ve diğer hassas bilgileri içerir. Bu tasarım, kullanıcı tarafından giriş sorgusu aracılığıyla sağlanan herhangi bir PII'nin çıkarılmasını sağlar. PII Amazon Kendra tarafından saklanmaz, kullanılmaz veya LLM'ye aktarılmaz.

Çözüm İzlenecek Yol

Aşağıdaki adımlar, belgeler akışı üzerinden Soru yanıtlamanın iş akışını açıklamaktadır:

1. Kullanıcılar bir web arayüzü aracılığıyla sorgu gönderirler.
2. Amazon Cognito'su Kimlik doğrulama için kullanılır ve web uygulamasına güvenli erişim sağlar.
3. Web uygulamasının ön ucu şu adreste barındırılmaktadır: AWS Yükseltme.
4. Amazon API Ağ Geçidi Amazon Cognito kullanılarak kimliği doğrulanan kullanıcı isteklerini işlemek için çeşitli uç noktalara sahip bir REST API barındırır.
5. PII redaksiyonu Amazon Kavramak:
   • Kullanıcı Sorgu İşleme: Bir kullanıcı bir sorgu veya giriş gönderdiğinde, bu sorgu veya giriş ilk olarak Amazon Comprehend üzerinden iletilir. Hizmet, metni analiz eder ve sorguda mevcut olan tüm PII varlıklarını tanımlar.
   • Kimlik Bilgisi Çıkarma: Amazon Comprehend, tespit edilen kimlik bilgileri varlıklarını kullanıcı sorgusundan çıkarır.
6. İlgili Bilgi Erişimi Amazon Kendrası:
   • Amazon Kendra, kullanıcının sorgularına yanıt oluşturmak için kullanılan bilgileri içeren bir belge dizinini yönetmek için kullanılır.
   • The LangChain QA alımı Modül, kullanıcının sorgularıyla ilgili bilgileri içeren bir konuşma zinciri oluşturmak için kullanılır.
7. Ile entegrasyon Amazon SageMaker Hızlı Başlangıç:
   • AWS Lambda işlevi, LangChain kitaplığını kullanır ve bağlamla doldurulmuş bir sorguyla Amazon SageMaker JumpStart uç noktasına bağlanır. Amazon SageMaker JumpStart uç noktası, çıkarım için kullanılan LLM'nin arayüzü olarak hizmet eder.
8. Yanıtların saklanması ve kullanıcıya geri gönderilmesi:
   • LLM'den gelen yanıt şu şekilde saklanır: Amazon DinamoDB kullanıcının sorgusu, zaman damgası, benzersiz bir tanımlayıcı ve soru kategorisi gibi öğeye ilişkin diğer isteğe bağlı tanımlayıcılarla birlikte. Soruyu ve yanıtı ayrı öğeler olarak saklamak, AWS Lambda işlevinin, soruların sorulduğu zamanı temel alarak kullanıcının konuşma geçmişini kolayca yeniden oluşturmasına olanak tanır.
   • Son olarak yanıt, Amazon API Gateway REST API entegrasyon yanıtı aracılığıyla bir HTTP isteği aracılığıyla kullanıcıya geri gönderilir.

Aşağıdaki adımlarda AWS Lambda işlevleri ve bunların süreç içindeki akışı açıklanmaktadır:

1. Herhangi bir Kişisel Bilgiyi/Hassas bilgiyi kontrol edin ve düzenleyin
2. LangChain QA Alma Zinciri
   • İlgili bilgileri arayın ve alın
3. Bağlam Doldurma ve İstem Mühendisliği
4. Yüksek Lisans ile Çıkarım
5. Yanıtı döndür ve kaydet

Kullanım durumları

Müşterilerin bu iş akışını kullanabileceği birçok iş kullanım durumu vardır. Aşağıdaki bölüm iş akışının farklı endüstrilerde ve sektörlerde nasıl kullanılabileceğini açıklamaktadır.

Çalışan Yardımı

İyi tasarlanmış kurumsal eğitim, çalışan memnuniyetini artırabilir ve yeni çalışanların işe alımı için gereken süreyi azaltabilir. Kuruluşlar büyüdükçe ve karmaşıklık arttıkça çalışanlar, şirket içi belgelerin birçok kaynağını anlamakta zorlanırlar. Bu bağlamdaki dahili belgeler arasında şirket yönergeleri, politikaları ve Standart İşletim Prosedürleri yer alır. Bu senaryoda, bir çalışanın dahili sorun bildirim bildiriminin nasıl ilerleyeceği ve düzenleneceğine ilişkin bir sorusu var. Çalışan, belirli bir destek talebi için sonraki adımları sormak ve yürütmek üzere üretken yapay zeka (AI) konuşma botuna erişebilir ve onu kullanabilir.

Özel kullanım durumu: Kurumsal yönergelere göre çalışanlar için sorun çözümünü otomatikleştirin.

Aşağıdaki adımlarda AWS Lambda işlevleri ve bunların süreç içindeki akışı açıklanmaktadır:

1. LangChain temsilcisi amacı belirlemek için
2. Çalışanın isteğine göre bildirim gönder
3. Bilet durumunu değiştir

Bu mimari diyagramında kurumsal eğitim videoları şu adresten alınabilir: Amazon Yazısı Bu video komut dosyalarının günlüğünü toplamak için. Ayrıca çeşitli kaynaklarda (örn. Confluence, Microsoft SharePoint, Google Drive, Jira, vb.) depolanan kurumsal eğitim içeriği, Amazon Kendra bağlayıcıları aracılığıyla dizinler oluşturmak için kullanılabilir. Yerel koleksiyon hakkında daha fazla bilgi edinmek için bu makaleyi okuyun konnektörleri Amazon Kendra'da kaynak noktası olarak kullanabilirsiniz. Amazon Kendra tarayıcısı daha sonra hem kurumsal eğitim video komut dosyalarını hem de bu diğer kaynaklarda saklanan belgeleri, sohbet robotunun şirketin kurumsal eğitim yönergelerine özgü soruları yanıtlamasına yardımcı olmak için kullanabilir. LangChain aracısı, Amazon Simple Notification Service'ı kullanarak izinleri doğrular, bilet durumunu değiştirir ve doğru kişileri bilgilendirir (Amazon SNS'si).

Müşteri Destek Ekipleri

Müşteri sorgularının hızlı bir şekilde çözülmesi, müşteri deneyimini iyileştirir ve marka bağlılığını teşvik eder. Sadık bir müşteri tabanı, satışları artırmaya yardımcı olur, bu da kârlılığa katkıda bulunur ve müşteri katılımını artırır. Müşteri destek ekipleri, ürün ve hizmetlerle ilgili müşteri sorularını yanıtlamak için birçok dahili belgeye ve müşteri ilişkileri yönetimi yazılımına atıfta bulunarak çok fazla enerji harcıyor. Bu bağlamdaki dahili belgeler, genel müşteri desteği çağrı komut dosyalarını, taktik kitaplarını, üst kademeye iletme yönergelerini ve iş bilgilerini içerebilir. Üretken AI konuşma botu, sorguları müşteri destek ekibi adına ele aldığından maliyet optimizasyonuna yardımcı olur.

Özel kullanım durumu: Servis geçmişine ve satın alınan müşteri servis planına göre yağ değişimi talebinin karşılanması.

Bu mimari diyagramında müşteri ya üretken yapay zeka konuşma botuna ya da Amazon Bağlantısı iletişim merkezi. Bu karar, ihtiyaç duyulan desteğin düzeyine veya müşteri destek temsilcilerinin mevcudiyetine bağlı olabilir. LangChain aracısı müşterinin amacını tanımlar ve kimliğini doğrular. LangChain temsilcisi ayrıca hizmet geçmişini ve satın alınan destek planını da kontrol eder.

Aşağıdaki adımlarda AWS Lambda işlevleri ve bunların süreç içindeki akışı açıklanmaktadır:

1. LangChain aracısı amacı tanımlar
2. Müşteri Bilgilerini Alın
3. Müşteri hizmetleri geçmişini ve garanti bilgilerini kontrol edin
4. Randevu alın, daha fazla bilgi sağlayın veya iletişim merkezine yönlendirin
5. E-posta onayı gönder

Amazon Connect, ses ve sohbet günlüklerini toplamak için kullanılır ve Amazon Comprehend, kişisel olarak tanımlanabilir bilgileri (PII) bu günlüklerden kaldırmak için kullanılır. Amazon Kendra tarayıcısı daha sonra dizini oluşturmak için düzenlenmiş ses ve sohbet günlüklerini, müşteri çağrı komut dosyalarını ve müşteri hizmetleri destek planı politikalarını kullanabilir. Bir karar verildikten sonra, üretken yapay zeka konuşma botu, randevu alıp almayacağınıza, daha fazla bilgi verip vermeyeceğinize veya daha fazla yardım için müşteriyi iletişim merkezine yönlendirip yönlendirmeyeceğine karar verir. Maliyet optimizasyonu için LangChain aracısı, daha düşük öncelikli müşteri sorguları için daha az jeton ve daha ucuz bir büyük dil modeli kullanarak yanıtlar da üretebilir.

Finansal hizmetler

Finansal hizmet şirketleri, rekabetçi kalabilmek ve finansal düzenlemelere uymak için bilgilerin zamanında kullanılmasına güvenmektedir. Finansal analistler ve danışmanlar, üretken bir yapay zeka konuşma robotu kullanarak, metinsel bilgilerle sohbete dayalı bir şekilde etkileşime girebilir ve daha bilinçli kararlar almak için gereken zamanı ve çabayı azaltabilir. Yatırım ve pazar araştırmasının dışında, üretken bir AI konuşma robotu, geleneksel olarak daha fazla insan çabası ve zaman gerektiren görevleri yerine getirerek insan yeteneklerini de artırabilir. Örneğin, bireysel krediler konusunda uzmanlaşmış bir finans kurumu, müşterilere daha iyi şeffaflık sağlarken kredilerin işlenme hızını artırabilir.

Özel kullanım durumu: Kredi kararına karar vermek ve açıklamak için müşterinin mali geçmişini ve önceki kredi başvurularını kullanın.

Aşağıdaki adımlarda AWS Lambda işlevleri ve bunların süreç içindeki akışı açıklanmaktadır:

1. LangChain temsilcisi amacı belirlemek için
2. Müşterinin finansal ve kredi puanı geçmişini kontrol edin
3. Dahili müşteri ilişkileri yönetim sistemini kontrol edin
4. Standart kredi politikalarını kontrol edin ve krediye hak kazanan çalışana karar önerin
5. Müşteriye bildirim gönder

Bu mimari, bir veritabanında saklanan müşteri finansal verilerini ve bir müşteri ilişkileri yönetimi (CRM) aracında saklanan verileri birleştirir. Bu veri noktaları, şirketin dahili kredi politikalarına dayalı olarak bir karara varmak için kullanılır. Müşteri, hangi kredilere hak kazandığını ve kabul edebileceği kredilerin koşullarını anlamak için açıklayıcı sorular sorabilir. Üretken AI konuşma botu bir kredi başvurusunu onaylayamazsa, kullanıcı yine de kredi puanlarının iyileştirilmesi veya alternatif finansman seçenekleri hakkında sorular sorabilir.

Hükümet

Üretken AI konuşma robotları, iletişimi, verimliliği ve karar alma süreçlerini hızlandırarak devlet kurumlarına büyük fayda sağlayabilir. Üretken yapay zeka diyalog botları aynı zamanda devlet çalışanlarının bilgileri, politikaları ve prosedürleri (yani uygunluk kriterleri, başvuru süreçleri ve vatandaşların hizmetleri ve desteği) hızlı bir şekilde almasına yardımcı olmak için dahili bilgi tabanlarına anında erişim sağlayabilir. Çözümlerden biri, vergi mükelleflerinin ve vergi profesyonellerinin vergiyle ilgili ayrıntıları ve avantajları kolayca bulmasına olanak tanıyan etkileşimli bir sistemdir. Kullanıcı sorularını anlamak, vergi belgelerini özetlemek ve etkileşimli görüşmeler yoluyla net yanıtlar sağlamak için kullanılabilir.

Kullanıcılar aşağıdaki gibi sorular sorabilir:

• Veraset vergisi nasıl işler ve vergi eşikleri nelerdir?
• Gelir vergisi kavramını açıklayabilir misiniz?
• İkinci bir mülk satarken vergi sonuçları nelerdir?

Ek olarak kullanıcılar, sağlanan bilgilerin doğruluğunun doğrulanmasına yardımcı olabilecek vergi formlarını bir sisteme gönderme rahatlığına sahip olabilirler.

Bu mimari, kullanıcıların doldurulmuş vergi formlarını çözüme nasıl yükleyebileceklerini ve etkileşimli doğrulama ve gerekli bilgilerin nasıl doğru bir şekilde doldurulacağı konusunda rehberlik için bunu nasıl kullanabileceklerini gösterir.

Sağlık hizmeti

Sağlık hizmetleri işletmeleri, büyük miktarlardaki dahili hasta bilgilerinin kullanımını otomatikleştirme fırsatına sahipken aynı zamanda tedavi seçenekleri, sigorta talepleri, klinik araştırmalar ve farmasötik araştırmalar gibi kullanım senaryolarına ilişkin sık sorulan soruları da ele alma fırsatına sahiptir. Üretken bir AI konuşma botunun kullanılması, sağlanan bilgi tabanından sağlık bilgileri hakkında hızlı ve doğru yanıtlar oluşturulmasına olanak tanır. Örneğin, bazı sağlık uzmanları sigorta tazminat taleplerini bildirmek için formları doldurmak için çok zaman harcıyorlar.

Benzer ortamlarda, klinik araştırma yöneticileri ve araştırmacıların tedavi seçenekleri hakkında bilgi bulması gerekir. Üretken bir AI konuşma botu, ilaç şirketleri ve üniversiteler tarafından yürütülen devam eden araştırmalar yoluyla yayınlanan milyonlarca belgeden en alakalı bilgileri almak için Amazon Kendra'daki önceden oluşturulmuş bağlayıcıları kullanabilir.

Özel kullanım durumu: Sigorta formlarını doldurup göndermek için gereken hataları ve zamanı azaltın.

Bu mimari şemasında bir sağlık uzmanı, sigorta için hangi formların doldurulması gerektiğini anlamak için üretken yapay zeka konuşma botunu kullanabiliyor. LangChain temsilcisi daha sonra doğru formları alabilir ve hasta için gerekli bilgileri ekleyebilir, ayrıca sigorta poliçelerine ve önceki formlara dayalı olarak formların açıklayıcı bölümlerine yanıtlar verebilir. Sağlık uzmanı, formu onaylayıp sigorta portalına teslim etmeden önce LLM tarafından verilen yanıtları düzenleyebilir.

Aşağıdaki adımlarda AWS Lambda işlevleri ve bunların süreç içindeki akışı açıklanmaktadır:

1. LangChain temsilcisi amacı belirlemek için
2. İhtiyaç duyulan hasta bilgilerini alın
3. Sigorta formunu hasta bilgilerine ve form kılavuzuna göre doldurun
4. Kullanıcı onayından sonra formu sigorta portalına gönderin

AWS HealthLake önceki sigorta formları ve hasta bilgileri de dahil olmak üzere sağlık verilerini güvenli bir şekilde saklamak için kullanılır ve Amazon Comprehend, önceki sigorta formlarından kişisel bilgileri (PII) kaldırmak için kullanılır. Amazon Kendra tarayıcısı daha sonra dizini oluşturmak için sigorta formları ve yönergeleri kullanabilir. Form(lar) üretken yapay zeka tarafından doldurulduktan sonra tıp uzmanı tarafından incelenen form(lar) sigorta portalına gönderilebilir.

Maliyet tahmini

Temel çözümü kavram kanıtı olarak dağıtmanın maliyeti aşağıdaki tabloda gösterilmektedir. Temel çözüm bir kavram kanıtı olarak kabul edildiğinden iş yükünün üretimde olmayacağından düşük maliyetli bir seçenek olarak Amazon Kendra Developer Edition kullanıldı. Amazon Kendra Developer Edition için varsayımımız ay için 730 aktif saatti.

Amazon SageMaker için müşterinin ml.g4dn.2xlarge örneğini gerçek zamanlı çıkarım için örnek başına tek bir çıkarım uç noktasıyla kullanacağı varsayımında bulunduk. Amazon SageMaker fiyatlandırması ve mevcut çıkarım bulut sunucusu türleri hakkında daha fazla bilgi bulabilirsiniz okuyun.

Hizmet	Tüketilen Kaynaklar	ABD Doları Cinsinden Aylık Maliyet Tahmini
AWS Yükseltme	150 yapım dakikası 1 GB Veri sunuldu 500,000 istek	15.71
Amazon API Ağ Geçidi	1 milyon REST API Çağrısı	3.5
AWS Lambda	1 Milyon istek İstek başına 5 saniyelik süre 2 GB bellek ayrılmış	160.23
Amazon DinamoDB	1 milyon okuma 1 milyon yazıyor 100 GB saklama	26.38
amazon bilgesi	Ml.g4dn.2xlarge ile gerçek zamanlı çıkarım	676.8
Amazon Kendrası	Ayda 730 saat ile Geliştirici Sürümü 10,000 Belge tarandı 5,000 sorgu/gün	821.25
.	.	Toplam Maliyet: 1703.87

* Amazon Cognito, Cognito Kullanıcı Havuzlarını kullanan 50,000 Aylık Etkin Kullanıcıdan veya SAML 50 kimlik sağlayıcılarını kullanan 2.0 Aylık Etkin Kullanıcıdan oluşan ücretsiz bir katmana sahiptir

Temizlemek

Maliyetlerden tasarruf etmek için eğitimin bir parçası olarak dağıttığınız tüm kaynakları silin. SageMaker konsolu aracılığıyla oluşturmuş olabileceğiniz tüm SageMaker uç noktalarını silebilirsiniz. Amazon Kendra dizinini silmenin orijinal belgeleri depolama alanınızdan kaldırmadığını unutmayın.

Sonuç

Bu yazıda, birden fazla veri deposundan gerçek zamanlı olarak özetleyerek dahili bilgilere erişimi nasıl basitleştirebileceğinizi gösterdik. Ticari olarak mevcut yüksek lisans eğitimlerindeki son gelişmelerden sonra, üretken yapay zekanın olanakları daha belirgin hale geldi. Bu yazıda, soruları yanıtlamak için üretken yapay zekayı kullanan sunucusuz bir sohbet robotu oluşturmak için AWS hizmetlerini kullanmanın yollarını gösterdik. Bu yaklaşım, kullanıcının sorgusunda sağlanan hassas bilgileri filtrelemek için bir kimlik doğrulama katmanını ve Amazon Comprehend'in PII tespitini içerir. İster sağlık hizmetlerinde sigorta taleplerini bildirme nüanslarını anlayan bireyler olsun, ister şirket çapındaki belirli düzenlemeleri anlayan İK olsun, bu yaklaşımdan yararlanabilecek çok sayıda sektör ve sektör vardır. Amazon SageMaker JumpStart temel modeli, sohbet robotunun arkasındaki motordur ve yanıtların dahili belgelere daha doğru bir şekilde referans vermesini sağlamak için RAG tekniğini kullanan bir bağlam doldurma yaklaşımı kullanılır.

AWS'de üretken yapay zekayla çalışma hakkında daha fazla bilgi edinmek için bkz. AWS'de Üretken Yapay Zeka ile Derlemeye Yönelik Yeni Araçlar Duyurusu. RAG tekniğinin AWS hizmetleriyle kullanılmasına ilişkin daha ayrıntılı rehberlik için bkz. Amazon Kendra, LangChain ve büyük dil modellerini kullanarak kurumsal veriler üzerinde yüksek doğruluk oranına sahip Üretken AI uygulamalarını hızla oluşturun. Bu blogdaki yaklaşım LLM'den bağımsız olduğundan, çıkarım için herhangi bir LLM kullanılabilir. Bir sonraki gönderimizde bu çözümü Amazon Bedrock ve Amazon Titan LLM kullanarak uygulamanın yollarını açıklayacağız.

---

Yazarlar Hakkında

Abhishek Maligehalli Shivalingaiah AWS'de Kıdemli Yapay Zeka Hizmetleri Çözüm Mimarıdır. Generative AI, Amazon Kendra ve NLP'yi kullanarak uygulamalar geliştirme konusunda tutkulu. Müşteriler ve kuruluşlar için değer yaratmak amacıyla Veri ve Yapay Zeka çözümleri oluşturma konusunda yaklaşık 10 yıllık deneyime sahiptir. Kariyeri ve profesyonel yolculuğuyla ilgili soruları yanıtlamak için eğlence amaçlı (kişisel) bir sohbet robotu bile geliştirdi. İş dışında aile ve arkadaşlarının portrelerini yapmaktan hoşlanıyor ve sanat eserleri yaratmayı seviyor.

Medha Aiyah Austin, Texas merkezli AWS'de Associate Solutions Architect'tir. Kısa süre önce Aralık 2022'de Dallas'taki Texas Üniversitesi'nden Bilgisayar Bilimleri alanında Yüksek Lisans derecesiyle ve AI/ML'ye odaklanan Akıllı Sistemler uzmanlığıyla mezun oldu. Müşterilerin yararlanabileceği çözümleri keşfetmek için AI/ML ve AWS hizmetlerinden yararlanma hakkında daha fazla bilgi edinmek istiyor.

Hugo Tse Merkezi Seattle, Washington'da bulunan AWS'de Yardımcı Çözüm Mimarıdır. Arizona Eyalet Üniversitesi'nden Bilgi Teknolojileri alanında yüksek lisans derecesine ve Chicago Üniversitesi'nden Ekonomi alanında lisans derecesine sahiptir. Bilgi Sistemleri Denetim ve Kontrol Derneği (ISACA) ve Uluslararası Bilgi Sistemi Güvenliği Sertifikasyon Konsorsiyumu (ISC)2 üyesidir. Müşterilerin teknolojiden faydalanmasına yardımcı olmaktan keyif alıyor.

Ayman İşimve Merkezi Seattle, Washington'da bulunan AWS'de Yardımcı Çözüm Mimarıdır. Oakland Üniversitesi'nden Yazılım Mühendisliği ve BT alanında yüksek lisans derecesine sahiptir. Yazılım geliştirme, özellikle de dağıtılmış web uygulamaları için mikro hizmetler oluşturma konusunda önceden deneyime sahiptir. Müşterilerin en iyi uygulamaları takip ederek AWS bulut hizmetlerinde sağlam ve ölçeklenebilir çözümler oluşturmasına yardımcı olma konusunda tutkuludur.

Şervin Sureş Austin, Texas merkezli AWS'de Associate Solutions Architect'tir. Bulut Bilişim ve Sanallaştırma üzerine yoğunlaşarak Yazılım Mühendisliği Yüksek Lisansı ve San Jose Eyalet Üniversitesi'nden Bilgisayar Mühendisliği alanında lisans derecesiyle mezun oldu. Her kökenden insanların hayatlarını iyileştirmeye yardımcı olmak için teknolojiden yararlanma konusunda tutkulu.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. Otomotiv / EV'ler, karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• ChartPrime. Ticaret Oyununuzu ChartPrime ile yükseltin. Buradan Erişin.
• Blok Ofsetleri. Çevre Dengeleme Sahipliğini Modernleştirme. Buradan Erişin.
• Kaynak: https://aws.amazon.com/blogs/machine-learning/simplify-access-to-internal-information-using-retrieval-augmented-generation-and-langchain-agents/