Amazon SageMaker Canvas ve Generative AI | Amazon Web Hizmetleri

İşletmeler, karmaşık sorunları çözmek ve sonuçları iyileştirmek için Makine Öğreniminin (ML) potansiyelinden yararlanmaya çalışıyor. Yakın zamana kadar, ML modellerini oluşturmak ve dağıtmak, ML modellerini ayarlamak ve operasyonel işlem hatlarını sürdürmek de dahil olmak üzere derin düzeyde teknik ve kodlama becerileri gerektiriyordu. 2021 yılında piyasaya sürülmesinden bu yana, Amazon SageMaker Tuval iş analistlerinin tek bir satır kod yazmadan tablo, bilgisayar görüşü ve doğal dil işleme dahil olmak üzere çeşitli makine öğrenimi modelleri oluşturmasına, dağıtmasına ve kullanmasına olanak sağladı. Bu, kuruluşların zaman serisi tahmini, müşteri kaybı tahmini, duygu analizi, endüstriyel kusur tespiti ve daha birçok örnek kullanım için ML'yi uygulama yeteneğini hızlandırdı.

Duyurulduğu gibi 5 Ekim 2023SageMaker Canvas, model desteğini temel modellere (FM'ler) (içerik oluşturmak ve özetlemek için kullanılan büyük dil modelleri) kadar genişletti. İle 12 Ekim 2023 sürümüSageMaker Canvas, kullanıcıların kurumsal verilerine dayanan sorular sormasına ve yanıtlar almasına olanak tanır. Bu, sonuçların bağlama özgü olmasını sağlar ve iş sorunlarını çözmek için kodsuz makine öğreniminin uygulanabileceği ek kullanım senaryolarının önünü açar. Örneğin, iş ekipleri artık bir kuruluşun spesifik kelime dağarcığı ve ilkeleriyle tutarlı yanıtlar formüle edebiliyor ve bu belgelerin içeriğine dayalı ve spesifik yanıtlar almak için uzun belgeleri daha hızlı sorgulayabiliyor. Tüm bu içerik özel ve güvenli bir şekilde gerçekleştirilir ve tüm hassas verilere uygun yönetim ve korumalarla erişilmesi sağlanır.

Başlamak için bir bulut yöneticisi yapılandırır ve doldurur Amazon Kendrası SageMaker Canvas için veri kaynağı olarak kurumsal verileri içeren indeksler. Canvas kullanıcıları, belgelerinin bulunduğu dizini seçer ve çıktının her zaman kendi doğruluk kaynakları tarafından destekleneceğini bilerek fikir üretebilir, araştırabilir ve keşfedebilir. SageMaker Canvas en son teknolojiye sahip FM'leri kullanır Amazon Ana Kayası ve Amazon SageMaker Hızlı Başlangıç. Konuşmalar birden fazla FM'in yan yana olmasıyla başlatılabilir, çıktılar karşılaştırılabilir ve üretken yapay zeka gerçekten herkes için erişilebilir hale getirilebilir.

Bu yazıda, yakın zamanda piyasaya sürülen özelliği inceleyeceğiz, mimariyi tartışacağız ve aşağıdaki ekran görüntüsünde gösterildiği gibi SageMaker Canvas'ın bilgi tabanınızdaki belgeleri sorgulamasını sağlamak için adım adım bir kılavuz sunacağız.

Çözüme genel bakış

Temel modeller halüsinasyonlara (genel, belirsiz, ilgisiz veya gerçekte yanlış yanıtlar) neden olabilir. Erişim Artırılmış Nesil (RAG) halüsinasyonları azaltmak için sıklıkla kullanılan bir yaklaşımdır. RAG mimarileri, FM'in dışından veri almak için kullanılır; bu veriler daha sonra kullanıcının sorgusunu yanıtlamak üzere bağlam içi öğrenmeyi gerçekleştirmek için kullanılır. Bu, FM'nin güvenilir bir bilgi tabanındaki verileri kullanabilmesini ve bu bilgiyi kullanıcıların sorularını yanıtlamak için kullanabilmesini sağlayarak halüsinasyon riskini azaltır.

RAG ile, FM dışındaki ve kullanıcı istemlerini artırmak için kullanılan veriler, belge depoları, veritabanları veya API'ler gibi birden çok farklı veri kaynağından gelebilir. İlk adım, alakalı anlamsal arama gerçekleştirmek için belgelerinizi ve kullanıcı sorgularını uyumlu bir formata dönüştürmektir. Formatları uyumlu hale getirmek için bir belge koleksiyonu veya bilgi kitaplığı ve kullanıcı tarafından gönderilen sorgular, yerleştirme modelleri kullanılarak sayısal gösterimlere dönüştürülür.

Bu sürümle birlikte RAG işlevselliği kodsuz ve sorunsuz bir şekilde sağlanmaktadır. Kuruluşlar, temel bilgi yönetimi sistemi olan Amazon Kendra ile Canvas'taki sohbet deneyimini zenginleştirebilir. Aşağıdaki diyagram çözüm mimarisini göstermektedir.

SageMaker Canvas'ı Amazon Kendra'ya bağlamak tek seferlik bir kurulum gerektirir. Belgeleri sorgulamak için Kanvası Ayarlama bölümünde kurulum sürecini ayrıntılı olarak açıklıyoruz. SageMaker Etki Alanınızı henüz kurmadıysanız, bkz. Amazon SageMaker Etki Alanında Yerleşik.

Etki alanı yapılandırmasının bir parçası olarak bir bulut yöneticisi, iş analistinin SageMaker Canvas aracılığıyla FM ile etkileşimde bulunurken sorgulayabileceği bir veya daha fazla Kendra endeksini seçebilir.

Kendra endeksleri oluşturulup yapılandırıldıktan sonra iş analistleri, yeni bir sohbet başlatıp "Belgeleri Sorgula" düğmesini seçerek bunları SageMaker Canvas ile kullanır. SageMaker Canvas daha sonra aşağıdaki işlemleri gerçekleştirmek için Amazon Kendra ile tercih edilen FM arasındaki temel iletişimi yönetecektir:

1. Kullanıcıdan gelen soru ile Kendra endekslerini sorgulayınız.
2. Kendra endekslerinden parçacıkları (ve kaynakları) alın.
3. Temel modelin alınan belgelerden bir yanıt oluşturabilmesi için istemi orijinal sorguyla birlikte parçacıklarla tasarlayın.
4. Oluşturulan yanıtı, yanıtı formüle etmek için kullanılan sayfalara/belgelere yapılan referanslarla birlikte kullanıcıya sağlayın.

Belgeleri sorgulamak için Canvas'ı ayarlama

Bu bölümde, Kendra dizinleri aracılığıyla sunulan belgeleri sorgulamak için Canvas'ı ayarlama adımlarında size yol göstereceğiz. Aşağıdaki önkoşullara sahip olmalısınız:

• SageMaker Etki Alanı kurulumu – Amazon SageMaker Etki Alanında Yerleşik
• Hat için bir Kendra endeksi (veya birden fazla)
• Kendra Amazon S3 bağlayıcısını kurun – aşağıdaki adımları izleyin Amazon S3 Konektörü – PDF dosyalarını ve diğer belgeleri Kendra dizini ile ilişkili Amazon S3 klasörüne yükleyin
• IAM'yi, Canvas'ın Amazon Bedrock ve/veya SageMaker uç noktalarını çağırmak için gerekli izinler de dahil olmak üzere uygun izinlere sahip olmasını sağlayacak şekilde ayarlayın; şu adımları izleyin: Kanvas Sohbeti Ayarlama belgeleme

Artık Etki Alanını istediğiniz dizinlere erişebilecek şekilde güncelleyebilirsiniz. SageMaker konsolunda, verilen Etki Alanı için Etki Alanı Ayarları sekmesi altında Düzenle'yi seçin. Kanvas Ayarları adımında bulunan "Amazon Kendra ile sorgu belgelerini etkinleştir" seçeneğini etkinleştirin. Etkinleştirildikten sonra Canvas ile kullanmak istediğiniz bir veya daha fazla Kendra endeksini seçin.

Canvas sorgu belgeleri özelliğini yapılandırmak için gereken tek şey budur. Kullanıcılar artık Canvas'ta bir sohbete geçebilir ve Kendra dizinleri aracılığıyla Etki Alanına eklenen bilgi tabanlarını kullanmaya başlayabilir. Bilgi tabanının koruyucuları gerçeğin kaynağını güncellemeye devam edebilir ve Kendra'daki senkronizasyon özelliği sayesinde sohbet kullanıcıları güncel bilgileri otomatik olarak sorunsuz bir şekilde kullanabilecektir.

Sohbet için Belgeleri Sorgula özelliğini kullanma

SageMaker Canvas kullanıcısı olarak Belgeleri Sorgula özelliğine sohbet içinden erişilebilir. Sohbet oturumunu başlatmak için SageMaker Canvas'taki Kullanıma hazır modeller sekmesinden "İçerik oluştur, çıkar ve özetle" düğmesini tıklayın veya arayın.

Oraya vardığınızda, ekranın üst kısmındaki düğmeyi kullanarak Belgeleri Sorgula'yı açıp kapatabilirsiniz. Özellik hakkında daha fazla bilgi edinmek için bilgi istemine göz atın.

Belgeleri Sorgula etkinleştirildiğinde, bulut yöneticisi tarafından etkinleştirilen Kendra endeksleri listesi arasından seçim yapabilirsiniz.

Yeni bir sohbet başlatırken bir dizin seçebilirsiniz. Daha sonra, seçilen dizinden otomatik olarak alınan bilgilerle UX'te bir soru sorabilirsiniz. Belirli bir dizine karşı konuşma başladıktan sonra başka bir dizine geçmenin mümkün olmadığını unutmayın.

Sorulan sorular için sohbet, FM tarafından oluşturulan yanıtı ve yanıtın oluşturulmasına katkıda bulunan kaynak belgeleri gösterecektir. Kaynak belgelerden herhangi birine tıkladığınızda Canvas belgenin bir önizlemesini açar ve FM tarafından kullanılan alıntıyı vurgular.

Sonuç

Konuşmaya dayalı yapay zeka, aşağıdaki gibi doğal ve sezgisel etkileşimlere sahip insan benzeri bir asistan sağlayarak müşteri ve çalışan deneyimini dönüştürme konusunda muazzam bir potansiyele sahiptir:

• Bir konu üzerinde araştırma yapmak veya kuruluşun bilgi tabanında arama yapmak ve bunlara göz atmak
• Hızla içgörü toplamak için hacimli içeriği özetleme
• Varlıkları, Görüşleri, PII'ları ve diğer yararlı verileri aramak ve yapılandırılmamış içeriğin iş değerini artırmak
• Belgeler ve ticari yazışmalar için taslaklar oluşturmak
• Farklı dahili kaynaklardan (olaylar, sohbet günlükleri, wiki'ler) bilgi makaleleri oluşturma

Sohbet arayüzlerinin, bilgi erişiminin ve FM'lerin yenilikçi entegrasyonu, kuruluşların alan bilgilerini ve gerçek kaynaklarını kullanarak kullanıcı sorularına doğru, ilgili yanıtlar vermesini sağlar.

Kuruluşlar, SageMaker Canvas'ı Amazon Kendra'daki bilgi tabanlarına bağlayarak özel verilerini kendi ortamlarında tutabilir ve aynı zamanda FM'lerin en son teknolojiye sahip doğal dil özelliklerinden yararlanmaya devam edebilir. SageMaker Canvas'ın Belgeleri Sorgula özelliğinin piyasaya sürülmesiyle, herhangi bir kuruluşun yüksek lisans eğitimlerini ve kurumsal bilgilerini, güvenli bir sohbet deneyimini güçlendirmek için gerçeğin kaynağı olarak kullanmasını kolaylaştırıyoruz. Tüm bu işlevsellik, kodsuz bir formatta mevcuttur; bu, işletmelerin tekrarlanan ve uzmanlık gerektirmeyen görevleri yerine getirmekten kaçınmasına olanak tanır.

SageMaker Canvas hakkında daha fazla bilgi edinmek ve herkesin Makine Öğrenimine başlamasını kolaylaştırmaya nasıl yardımcı olduğunu öğrenmek için şuraya göz atın: SageMaker Canvas duyurusu. SageMaker Canvas'ın veri bilimcileri ve iş analistleri arasındaki işbirliğini geliştirmeye nasıl yardımcı olduğu hakkında daha fazla bilgi edinmek için şu makaleyi okuyun: Gönderiyi Oluşturun, Paylaşın ve Dağıtın. Son olarak, kendi Alma Artırılmış Nesil iş akışınızı nasıl oluşturacağınızı öğrenmek için bkz. SageMaker HızlıBaşlangıç ​​RAG.

Referanslar

Lewis, P., Perez, E., Piktus, A., Petroni, F., Karpukhin, V., Goyal, N., Küttler, H., Lewis, M., Yih, W., Rocktäschel, T., Riedel, S., Kiela, D. (2020). Bilgi Yoğun NLP Görevleri için Erişimle Artırılmış Üretim. Sinirsel Bilgi İşleme Sistemlerindeki Gelişmeler, 33, 9459-9474.

---

Yazarlar Hakkında

Davide Gallitelli AI/ML alanında Kıdemli Uzman Çözüm Mimarıdır. Kendisi Brüksel'de bulunuyor ve dünyanın dört bir yanındaki Düşük Kodlu/Kodsuz Makine Öğrenimi teknolojilerini ve Üretken Yapay Zekayı benimsemek isteyen müşterilerle yakın işbirliği içinde çalışıyor. Çok küçük yaşlardan beri geliştirici olarak çalışıyor ve 7 yaşında kodlamaya başlıyor. Üniversitede AI/ML öğrenmeye başladı ve o zamandan beri ona aşık oldu.

Bilal Alem AWS'de Finansal Hizmetler sektörüne odaklanan Kurumsal Çözümler Mimarıdır. Bilal çoğu zaman müşterilere en kritik iş yüklerini dağıtmak için AWS ortamlarını oluşturma, iyileştirme ve güvenlik altına alma konusunda yardımcı oluyor. Telekomünikasyon, ağ oluşturma ve yazılım geliştirme konularında geniş deneyime sahiptir. Son zamanlarda iş sorunlarını çözmek için AI/ML'yi kullanmayı araştırıyor.

Peşmerge Mistry AWS'de Kıdemli Ürün Yöneticisidir. Pashmeen, iş dışında maceralı yürüyüşler yapmaktan, fotoğraf çekmekten ve ailesiyle vakit geçirmekten hoşlanıyor.

Dan Sinnreich AWS'de Kıdemli Ürün Yöneticisi olarak görev yapıyor ve az kodlu/kodsuz makine öğreniminin demokratikleştirilmesine yardımcı oluyor. AWS'den önce Dan, kurumsal yatırımcıların riski yönetmek ve optimum portföyler oluşturmak için kullandığı kurumsal SaaS platformlarını ve zaman serisi modellerini oluşturup ticarileştirdi. İş dışında hokey oynarken, tüplü dalış yaparken ve bilim kurgu okurken bulunabilir.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://aws.amazon.com/blogs/machine-learning/empower-your-business-users-to-extract-insights-from-company-documents-using-amazon-sagemaker-canvas-generative-ai/