Özel bir mercekle iyi tasarlanmış IDP çözümleri oluşturun – Bölüm 4: Performans verimliliği | Amazon Web Hizmetleri

Müşterinin üretime hazır bir ürünü olduğunda akıllı belge işleme (IDP) iş yükü nedeniyle sıklıkla Well-Architected incelemesi talepleri alıyoruz. Kurumsal bir çözüm oluşturmak için geliştirici kaynaklarının, maliyetin, zamanın ve kullanıcı deneyiminin istenen iş sonucunu elde edecek şekilde dengelenmesi gerekir. AWS İyi Mimari Çerçeve Kuruluşların bulutta güvenilir, emniyetli, verimli, uygun maliyetli ve sürdürülebilir iş yüklerini tasarlamak ve işletmek için operasyonel ve mimari en iyi uygulamaları öğrenmeleri için sistematik bir yol sağlar.

IDP Well-Architected Custom Lens, AWS Well-Architected Framework'ü takip ederek çözümü belirli bir yapay zeka veya makine öğrenimi (ML) kullanım senaryosunun ayrıntı düzeyiyle altı sütun halinde inceler ve sık karşılaşılan zorlukların üstesinden gelmek için rehberlik sağlar. IDP İyi Tasarlanmış Özel Lens İyi Tasarlanmış Araç sütunların her birine ilişkin sorular içerir. Bu soruları cevaplayarak potansiyel riskleri tespit edebilir ve iyileştirme planınızı takip ederek çözebilirsiniz.

Bu yazı şu konulara odaklanıyor: Performans Verimliliği sütunu IDP'nin iş yükü. Verimi, gecikmeyi ve genel performansı optimize etmek için çözümü tasarlama ve uygulamaya derinlemesine dalıyoruz. Well-Architected incelemesi yürütmeniz gerektiğine dair bazı ortak göstergeleri tartışarak başlıyoruz ve temel yaklaşımları tasarım ilkeleriyle tanıtıyoruz. Daha sonra her odak alanını teknik açıdan inceliyoruz.

Bu gönderiyi takip etmek için bu serideki önceki gönderilere aşina olmalısınız (Bölüm 1 ve Bölüm 2) ve içindeki yönergeler AWS'de Akıllı Belge İşleme Kılavuzu. Bu kaynaklar, IDP iş yükleri ve önerilen iş akışları için ortak AWS hizmetlerini tanıtır. Bu bilgiyle artık iş yükünüzü üretime dönüştürme hakkında daha fazla bilgi edinmeye hazırsınız.

Ortak göstergeler

Aşağıdakiler, Performans Verimliliği sütunu için İyi Tasarlanmış Çerçeve incelemesi yürütmeniz gerektiğine dair genel göstergelerdir:

• Yüksek gecikme – Optik karakter tanıma (OCR), varlık tanıma veya uçtan uca iş akışının gecikmesi önceki karşılaştırmanızdan daha uzun sürüyorsa bu, mimari tasarımın yük testini veya hata işlemeyi kapsamadığının bir göstergesi olabilir.
• Sık sık kısıtlama – Aşağıdaki gibi AWS hizmetleri nedeniyle kısıtlama yaşayabilirsiniz: Amazon Metin Yazısı Talep limitleri nedeniyle. Bu, mimari iş akışının, eşzamanlı ve eşzamansız uygulamanın, saniye başına işlem (TPS) hesaplamasının ve daha fazlasının incelenerek mimarinin ayarlanması gerektiği anlamına gelir.
• Hata ayıklama zorlukları – Bir belge süreci hatası oluştuğunda, hatanın iş akışında nerede bulunduğunu, hangi hizmetle ilgili olduğunu ve hatanın neden oluştuğunu belirlemenin etkili bir yolunu bulamayabilirsiniz. Bu, sistemin günlüklere ve arızalara ilişkin görünürlükten yoksun olduğu anlamına gelir. Telemetri verilerinin günlüğe kaydetme tasarımını yeniden gözden geçirmeyi ve çözüme belge işleme ardışık düzenleri gibi kod olarak altyapı (IaC) eklemeyi düşünün.

göstergeler	Açıklama	Mimari Boşluk
Yüksek Gecikme Süresi	OCR, varlık tanıma veya uçtan uca iş akışı gecikmesi önceki karşılaştırmayı aşıyor	Yük Testi Hata işleme
Sık Azaltma	İstek sınırları nedeniyle Amazon Textract gibi AWS hizmetleri tarafından kısıtlama	Senkronizasyon ve Async TPS hesaplaması
Hata ayıklamak zor	Belge işleme hatalarının konumu, nedeni ve nedeni konusunda görünürlük yok	Günlük Tasarımı Belge İşleme Hatları

Tasarım ilkeleri

Bu yazıda üç tasarım ilkesini tartışıyoruz: karmaşık yapay zeka görevlerini devretmek, IaC mimarileri ve sunucusuz mimariler. İki uygulama arasında bir tercihle karşılaştığınızda, tasarım ilkelerini kuruluşunuzun iş öncelikleriyle yeniden gözden geçirerek etkili kararlar alabilirsiniz.

• Karmaşık yapay zeka görevlerini devretme – ML modeli geliştirme yaşam döngüsünü yönetilen hizmetlere aktararak ve AWS tarafından sağlanan model geliştirme ve altyapıdan yararlanarak kuruluşunuzda yapay zekanın daha hızlı benimsenmesini sağlayabilirsiniz. Veri bilimi ve BT ekiplerinizin yapay zeka modelleri oluşturmasını ve bakımını yapmasını gerektirmek yerine, görevleri sizin için otomatikleştirebilecek önceden eğitilmiş yapay zeka hizmetlerini kullanabilirsiniz. Bu, ekiplerinizin işletmenizi farklılaştıran daha yüksek değerli çalışmalara odaklanmasına olanak tanırken bulut sağlayıcısı da yapay zeka modellerinin eğitimi, dağıtımı ve ölçeklendirilmesinin karmaşıklığını üstlenir.
• IaC mimarileri – Bir IDP çözümü çalıştırıldığında çözüm, uçtan uca iş akışını kronolojik olarak gerçekleştirmek için birden fazla yapay zeka hizmeti içerir. Çözümü iş akışı ardışık düzenleriyle tasarlayabilirsiniz. AWS Basamak İşlevleri hata toleransını, paralel işlemeyi, görünürlüğü ve ölçeklenebilirliği geliştirmek için. Bu avantajlar, temel yapay zeka hizmetlerinin kullanımını ve maliyetini optimize etmenize olanak sağlayabilir.
• Serverless mimarileri – IDP genellikle kullanıcı yüklemeleri veya planlanmış işlerle başlatılan olay odaklı bir çözümdür. Yapay zeka hizmetlerinin çağrı oranları artırılarak çözümün ölçeği yatay olarak genişletilebilir. AWS Lambdave ilgili diğer hizmetler. Sunucusuz bir yaklaşım, kaynakları aşırı tedarik etmeden ölçeklenebilirlik sağlayarak gereksiz harcamaları önler. Sunucusuz tasarımın ardındaki izleme, performans sorunlarının tespit edilmesine yardımcı olur.

Kuruluşlar, bu üç tasarım ilkesini göz önünde bulundurarak bulut platformlarında yapay zeka/makine öğreniminin benimsenmesi için etkili bir temel oluşturabilir. Kuruluşlar karmaşıklığı devrederek, dayanıklı altyapı uygulayarak ve ölçeğe göre tasarlayarak yapay zeka/ML çözümlerini optimize edebilir.

Aşağıdaki bölümlerde teknik odak alanlarıyla ilgili ortak zorlukların nasıl çözüleceğini tartışıyoruz.

Odak bölgeleri

Performans verimliliğini incelerken çözümü beş odak alanından inceliyoruz: mimari tasarım, veri yönetimi, hata işleme, sistem izleme ve model izleme. Bu odak alanlarıyla, bir AI/ML projesinin, verilerinin, modelinin veya iş hedefinin üç bileşeninin etkinliğini, gözlemlenebilirliğini ve ölçeklenebilirliğini geliştirmek için farklı yönlerden bir mimari incelemesi gerçekleştirebilirsiniz.

Mimari tasarım

Bu odak alanındaki soruları inceleyerek mevcut iş akışını inceleyerek en iyi uygulamaları takip edip etmediğini göreceksiniz. Önerilen iş akışı kuruluşların takip edebileceği ortak bir model sağlayarak deneme yanılma maliyetlerinin önüne geçer.

Göre önerilen mimariiş akışı, veri yakalama, sınıflandırma, çıkarma, zenginleştirme, inceleme ve doğrulama ve tüketimden oluşan altı aşamayı takip eder. Daha önce tartıştığımız ortak göstergelerde üçte ikisi mimari tasarım sorunlarından kaynaklanmaktadır. Çünkü doğaçlama bir yaklaşımla bir projeye başladığınızda, altyapınızı çözümünüze göre hizalamaya çalışırken proje kısıtlamalarıyla karşılaşabilirsiniz. Mimari tasarım incelemesi ile doğaçlama tasarım aşamalara ayrılabilir ve her biri yeniden değerlendirilip yeniden sıralanabilir.

Uygulayarak zamandan, paradan ve işçilikten tasarruf edebilirsiniz. sınıflandırmalar iş akışınızda belgeler, belge türüne göre aşağı akış uygulamalarına ve API'lere gider. Bu, belge sürecinin gözlemlenebilirliğini artırır ve yeni belge türleri eklenirken çözümün sürdürülmesini kolaylaştırır.

Veri yönetimi

Bir IDP çözümünün performansı gecikmeyi, verimi ve uçtan uca kullanıcı deneyimini içerir. Çözümde belgenin ve buradan çıkarılan bilgilerin nasıl yönetileceği veri tutarlılığı, güvenlik ve gizliliğin anahtarıdır. Ayrıca çözümün yüksek veri hacimlerini düşük gecikme süresi ve yüksek verimle işlemesi gerekir.

Bu odak alanının sorularını incelerken belge iş akışını gözden geçireceksiniz. Bu, veri alımını, veri ön işlemeyi, belgeleri Amazon Textract tarafından kabul edilen belge türlerine dönüştürmeyi, gelen belge akışlarını yönetmeyi, belgeleri türe göre yönlendirmeyi ve erişim kontrolü ve saklama ilkelerini uygulamayı içerir.

Örneğin, bir belgeyi farklı işlenen aşamalarda saklayarak, gerekirse işlemi bir önceki adıma tersine çevirebilirsiniz. Veri yaşam döngüsü, iş yüküne yönelik güvenilirliği ve uyumluluğu sağlar. kullanarak Amazon Textract Hizmeti Kota Hesaplayıcı (aşağıdaki ekran görüntüsüne bakın), Amazon Textract, Lambda, Step Functions'taki eşzamansız özellikler, Amazon Basit Kuyruk Hizmeti (Amazon SQS) ve Amazon Basit Bildirim Servisi (Amazon SNS) sayesinde kuruluşlar, belirli iş yükü ihtiyaçlarını karşılamak için belge işleme görevlerini otomatikleştirip ölçeklendirebilir.

Hata işleme

Güçlü hata yönetimi, belge işlem durumunu izlemek için kritik öneme sahiptir ve operasyon ekibine, beklenmeyen belge hacimleri, yeni belge türleri veya üçüncü taraf hizmetlerden kaynaklanan diğer planlanmamış sorunlar gibi anormal davranışlara tepki vermesi için zaman sağlar. Kuruluşun bakış açısından doğru hata yönetimi, sistemin çalışma süresini ve performansını artırabilir.

Hata işlemeyi iki temel unsura ayırabilirsiniz:

• AWS hizmet yapılandırması – Azaltma gibi geçici hataları işlemek için üstel geri alma ile yeniden deneme mantığını uygulayabilirsiniz. Eşzamansız bir Başlat* işlemini çağırarak işlemeye başladığınızda, örneğin Belge Metni Algılamayı Başlatisteğin tamamlanma durumunun bir SNS konusuna yayınlanacağını belirtebilirsiniz. Bildirim Kanalı konfigürasyon. Bu, Get* API'lerinin yoklanması nedeniyle API çağrılarında sınırlamaların azaltılmasını önlemenize yardımcı olur. Ayrıca alarmları da uygulayabilirsiniz. Amazon Bulut İzleme ve olağandışı hata artışları meydana geldiğinde uyarı verilmesini tetikler.
• Hata raporu geliştirmesi – Bu, hata türüne göre uygun düzeyde ayrıntı içeren ayrıntılı mesajları ve hata işleme yanıtlarının açıklamalarını içerir. Hata işleme kurulumunun doğru yapılmasıyla, aralıklı hataların otomatik olarak yeniden denenmesi, ardışık arızalarla başa çıkmak için devre kesicilerin kullanılması ve hatalar hakkında bilgi edinmek için hizmetlerin izlenmesi gibi ortak kalıpların uygulanmasıyla sistemler daha dayanıklı olabilir. Bu, çözümün yeniden deneme sınırları arasında denge kurmasına olanak tanır ve hiç bitmeyen devre döngülerini önler.

Model izleme

ML modellerinin performansı zaman içinde bozulma açısından izlenir. Veri ve sistem koşulları değiştikçe, gerektiğinde yeniden eğitimin gerçekleştirilmesini sağlamak için model performansı ve verimlilik ölçümleri takip edilir.

IDP iş akışındaki ML modeli bir OCR modeli, varlık tanıma modeli veya sınıflandırma modeli olabilir. Model, açık kaynaklı bir model olan AWS AI hizmetinden gelebilir. Amazon Adaçayı Yapıcı, Amazon Ana Kayasıveya diğer üçüncü taraf hizmetleri. Modeli insan geri bildirimleriyle iyileştirmenin ve zaman içinde hizmet performansını artırmanın yollarını belirlemek için her hizmetin sınırlamalarını ve kullanım örneklerini anlamalısınız.

Yaygın bir yaklaşım, farklı doğruluk düzeylerini anlamak için hizmet günlüklerini kullanmaktır. Bu günlükler, veri bilimi ekibinin modelin yeniden eğitimine yönelik her türlü ihtiyacı tanımlamasına ve anlamasına yardımcı olabilir. Kuruluşunuz yeniden eğitim mekanizmasını seçebilir; bu, üç aylık, aylık veya doğruluğun belirli bir eşiğin altına düşmesi gibi bilimsel ölçümlere dayalı olabilir.

İzlemenin amacı yalnızca sorunları tespit etmek değil, aynı zamanda modelleri sürekli olarak iyileştirmek ve dış ortam geliştikçe IDP çözümünün performansını sürdürmek için döngüyü kapatmaktır.

Sistem izleme

IDP çözümünü üretimde dağıttıktan sonra, iyileştirilecek alanları belirlemek için temel ölçümleri ve otomasyon performansını izlemek önemlidir. Metrikler iş metriklerini ve teknik metrikleri içermelidir. Bu, şirketin sistem performansını değerlendirmesine, sorunları tanımlamasına ve operasyonel etkiyi anlamak amacıyla otomasyon oranını artırmak için zaman içinde modellerde, kurallarda ve iş akışlarında iyileştirmeler yapmasına olanak tanır.

İş tarafında, önemli alanlar için çıkarma doğruluğu, insan müdahalesi olmadan işlenen belgelerin yüzdesini gösteren genel otomasyon oranı ve belge başına ortalama işlem süresi gibi ölçümler çok önemlidir. Bu iş ölçümleri, son kullanıcı deneyiminin ve operasyonel verimlilik kazanımlarının ölçülmesine yardımcı olur.

İş akışı boyunca meydana gelen hata ve istisna oranlarını içeren teknik ölçümlerin mühendislik perspektifinden takip edilmesi önemlidir. Teknik metrikler ayrıca her düzeyde uçtan uca izleme yapabilir ve karmaşık bir iş yükünün kapsamlı bir görünümünü sağlayabilir. Ölçümleri çözüm düzeyi, uçtan uca iş akışı düzeyi, belge türü düzeyi, belge düzeyi, varlık tanıma düzeyi ve OCR düzeyi gibi farklı düzeylere ayırabilirsiniz.

Artık bu sütundaki tüm soruları incelediğinize göre, diğer sütunları değerlendirebilir ve ÜİYOK iş yükünüz için bir iyileştirme planı geliştirebilirsiniz.

Sonuç

Bu gönderide, IDP iş yükünüz için Performans Verimliliği sütununa yönelik İyi Tasarlanmış Çerçeve incelemesi gerçekleştirmeniz gerekebilecek ortak göstergeleri tartıştık. Daha sonra üst düzey bir genel bakış sağlamak ve çözüm hedefini tartışmak için tasarım ilkelerini inceledik. IDP Well-Architected Custom Lens ile ilgili bu önerileri takip ederek ve soruları odak alanına göre inceleyerek artık bir proje geliştirme planınız olmalıdır.

---

Yazarlar Hakkında

Mia Chang Amazon Web Services'te ML Uzman Çözüm Mimarıdır. EMEA'daki müşterilerle çalışıyor ve uygulamalı matematik, bilgisayar bilimi ve AI/ML alanındaki geçmişiyle bulutta AI/ML iş yüklerini çalıştırmaya yönelik en iyi uygulamaları paylaşıyor. NLP'ye özgü iş yüklerine odaklanıyor ve konferans konuşmacısı ve kitap yazarı olarak deneyimini paylaşıyor. Boş zamanlarında yürüyüş yapmaktan, masa oyunlarından ve kahve yapmaktan hoşlanıyor.

Brijesh Pati AWS'de Kurumsal Çözüm Mimarıdır. Öncelikli odak noktası, kurumsal müşterilerin iş yükleri için bulut teknolojilerini benimsemelerine yardımcı olmaktır. Uygulama geliştirme ve kurumsal mimari alanında geçmişi vardır ve spor, finans, enerji ve profesyonel hizmetler gibi çeşitli sektörlerden müşterilerle çalışmıştır. İlgi alanları arasında sunucusuz mimariler ve AI/ML yer alıyor.

Rui Cardoso Amazon Web Services'te (AWS) iş ortağı çözüm mimarıdır. AI/ML ve IoT'ye odaklanıyor. AWS Çözüm Ortaklarıyla birlikte çalışıyor ve onları AWS'de çözümler geliştirme konusunda destekliyor. Çalışmadığı zamanlarda bisiklete binmeyi, yürüyüş yapmayı ve yeni şeyler öğrenmeyi seviyor.

Tim Condello Amazon Web Services'te (AWS) kıdemli yapay zeka (AI) ve makine öğrenimi (ML) uzman çözümleri mimarıdır. Odaklandığı konu doğal dil işleme ve bilgisayarlı görmedir. Tim müşteri fikirlerini alıp bunları ölçeklenebilir çözümlere dönüştürmekten hoşlanıyor.

Şeri Ding Amazon Web Services'te (AWS) kıdemli yapay zeka (AI) ve makine öğrenimi (ML) uzman çözümleri mimarıdır. Bilgisayar bilimleri alanında doktora derecesine sahip olup makine öğrenimi konusunda geniş deneyime sahiptir. Çoğunlukla kamu sektörü müşterileriyle AI/ML ile ilgili çeşitli iş zorlukları üzerinde çalışarak onların AWS Cloud'daki makine öğrenimi yolculuklarını hızlandırmalarına yardımcı oluyor. Müşterilere yardım etmediği zamanlarda açık hava aktivitelerinden hoşlanıyor.

Suyin Wang AWS'de AI/ML Uzman Çözüm Mimarıdır. Makine Öğrenimi, Finansal Bilgi Hizmeti ve Ekonomi alanlarında disiplinler arası bir eğitim geçmişinin yanı sıra, gerçek dünyadaki iş sorunlarını çözen Veri Bilimi ve Makine Öğrenimi uygulamaları oluşturma konusunda uzun yıllara dayanan deneyime sahiptir. Müşterilerin doğru iş sorularını belirlemelerine ve doğru AI/ML çözümlerini oluşturmalarına yardımcı olmaktan hoşlanıyor. Boş zamanlarında şarkı söylemeyi ve yemek yapmayı seviyor.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://aws.amazon.com/blogs/machine-learning/build-well-architected-idp-solutions-with-a-custom-lens-part-4-performance-efficiency/