Amazon SageMaker JumpStart'ta açıklayıcı not defterleri

Amazon SageMaker Hızlı Başlangıç makine öğrenimine başlamanıza yardımcı olmak için çok çeşitli sorun türleri için önceden eğitilmiş, herkese açık modeller sağlayan SageMaker'ın Makine Öğrenimi (ML) merkezidir.

JumpStart ayrıca kullanan örnek not defterleri de sunar. Amazon Adaçayı Yapıcı çok çeşitli model türleri ve kullanım senaryoları üzerinde örnek eğitim ve deneyler gibi özellikler. Bu örnek not defterleri, SageMaker ve JumpStart kullanarak makine öğrenimi çözümlerinin nasıl uygulanacağını gösteren kod içerir. Kendi ihtiyaçlarınıza uyacak şekilde uyarlanabilirler ve böylece uygulama geliştirmeyi hızlandırabilirler.

Son zamanlarda, içinde JumpStart'a 10 yeni not defteri ekledik. Amazon SageMaker Stüdyosu. Bu gönderi, bu yeni not defterlerine odaklanıyor. Bu yazının yazıldığı tarihte, JumpStart, en yeni doğal dil işleme (NLP) modellerini kullanmaktan modelleri eğitirken veri kümelerindeki önyargıyı düzeltmeye kadar değişen 56 not defteri sunmaktadır.

10 yeni not defteri size aşağıdaki şekillerde yardımcı olabilir:

• Studio'daki JumpStart kullanıcı arayüzünden olduğu gibi çalıştırmanız ve kodun nasıl çalıştığını görmeniz için örnek kod sunarlar.
• Çeşitli SageMaker ve JumpStart API'lerinin kullanımını gösterirler.
• Kendi ihtiyaçlarınıza göre daha da özelleştirebileceğiniz teknik bir çözüm sunarlar.

JumpStart aracılığıyla sunulan not defterlerinin sayısı, daha fazla not defteri eklendikçe düzenli olarak artar. Bu defterler ayrıca şu adreste de mevcuttur: github.

Not defterlerine genel bakış

10 yeni defter aşağıdaki gibidir:

• AlexaTM 20B ile bağlam içi öğrenme – AlexaTM 20B'nin bağlam içi öğrenme için sıfır adım ve birkaç adım öğrenme için beş örnek görev üzerinde nasıl kullanılacağını gösterir: metin özetleme, doğal dil oluşturma, makine çevirisi, çıkarımlı soru yanıtlama ve doğal dilde çıkarım ve sınıflandırma.
• SageMaker'da adalet doğrusal öğrenicisi – Son zamanlarda, mevcut insan önyargılarını taklit etmenin bir sonucu olarak makine öğrenimi algoritmalarında önyargıyla ilgili endişeler var. Bu not defteri, model tahminlerini uygun şekilde ayarlamak için adalet kavramlarını uygular.
• SageMaker Search'ü kullanarak makine öğrenimi denemelerini yönetin – Amazon SageMaker Search, potansiyel olarak yüzlerce ve binlerce SageMaker model eğitimi işinden en alakalı model eğitimi çalıştırmalarını hızlı bir şekilde bulmanızı ve değerlendirmenizi sağlar.
• SageMaker Nöral Konu Modeli – SageMaker Neural Topic Model (NTM), bir dizi gözlemi farklı kategorilerin bir karışımı olarak tanımlamaya çalışan denetimsiz bir öğrenme algoritmasıdır.
• Sürüş hızı ihlallerini tahmin edin – SageMaker DeepAR algoritması, bir modeli aynı anda birden çok sokak için eğitmek ve birden çok sokak kamerası için ihlalleri tahmin etmek için kullanılabilir.
• Meme kanseri tahmini – Bu dizüstü bilgisayar, bir göğüs kitlesi görüntüsünün iyi huylu veya kötü huylu bir tümöre işaret edip etmediğine dair tahmine dayalı bir model oluşturmak için UCI'nin göğüs kanseri teşhis veri setini kullanır.
• Birden fazla modelden toplu tahminler – Birden fazla kaynaktan ve modelden gelen tahminleri birleştirerek veya ortalamasını alarak, genellikle daha iyi bir tahmin elde ederiz. Bu defter bu kavramı göstermektedir.
• SageMaker eşzamansız çıkarım – Eşzamansız çıkarım, gerçek zamana yakın çıkarım ihtiyaçları için yeni bir çıkarım seçeneğidir. İsteklerin işlenmesi 15 dakika kadar sürebilir ve 1 GB'a kadar veri yükü boyutlarına sahip olabilir.
• TensorFlow kendi modelinizi getirin – Yerel olarak bir TensorFlow modelini nasıl eğiteceğinizi ve bu not defterini kullanarak SageMaker'da devreye almayı öğrenin.
• Scikit-learn kendi modelinizi getirin – Bu not defteri, önceden eğitilmiş bir Scikit-learn modelinin SageMaker Scikit-learn kapsayıcısı ile söz konusu model için hızla barındırılan bir uç nokta oluşturmak üzere nasıl kullanılacağını gösterir.

Önkoşullar

Bu not defterlerini kullanmak için, SageMaker işlevselliğini çalıştırmanıza izin veren bir yürütme rolüyle Studio'ya erişiminiz olduğundan emin olun. Aşağıdaki kısa video, JumpStart not defterlerinde gezinmenize yardımcı olacaktır.

Aşağıdaki bölümlerde, 10 yeni çözümün her birini inceliyor ve bazı ilginç ayrıntılarını tartışıyoruz.

AlexaTM 20B ile bağlam içi öğrenme

AlexaTM 20B, gürültü giderme ve Nedensel Dil Modelleme (CLM) görevlerini kullanan, 2 dilde Ortak Tarama (mC4) ve Wikipedia verilerinin karışımı üzerinde eğitilmiş, çok görevli, çok dilli, büyük ölçekli bir diziden diziye (seq12seq) modelidir. Tek seferlik özetleme ve tek seferlik makine çevirisi gibi yaygın bağlam içi dil görevlerinde son teknoloji ürünü performansa ulaşarak Open AI'nin GPT3 ve Google'ın PaLM'si gibi sekiz kattan daha büyük olan yalnızca kod çözücü modellerinden daha iyi performans gösterir.

Bağlam içi öğrenme olarak da bilinen telkin, ince ayar yapmak zorunda kalmadan yeni bir görevde bir NLP modeli kullandığınız bir yöntemi ifade eder. Modele yalnızca çıkarım girdisinin bir parçası olarak birkaç görev örneği sağlanır; birkaç adımlık bağlam içi öğrenme. Bazı durumlarda, model, yalnızca neyin tahmin edilmesi gerektiğine dair bir açıklama verildiğinde, herhangi bir eğitim verisi olmadan iyi performans gösterebilir. buna denir sıfır atış bağlam içi öğrenme.

Bu not defteri, AlexaTM 20B'nin JumpStart API aracılığıyla nasıl dağıtılacağını ve çıkarımın nasıl çalıştırılacağını gösterir. Ayrıca AlexaTM 20B'nin beş örnek görevle bağlam içi öğrenme için nasıl kullanılabileceğini gösterir: metin özetleme, doğal dil oluşturma, makine çevirisi, çıkarımsal soru yanıtlama ve doğal dil çıkarımı ve sınıflandırma.

Dizüstü bilgisayar aşağıdakileri gösterir:

• Bu görevlerin her biri için tek bir eğitim örneği kullanarak tek seferlik metin özetleme, doğal dil oluşturma ve makine çevirisi
• Herhangi bir eğitim örneği sağlamaya gerek kalmadan modeli olduğu gibi kullanarak sıfır atışlı soru yanıtlama ve doğal dil çıkarımı artı sınıflandırma.

Bu modele karşı kendi metninizi çalıştırmayı deneyin ve metni nasıl özetlediğini, Soru-Cevapları nasıl çıkardığını veya bir dilden diğerine nasıl çevirdiğini görün.

SageMaker'da adalet doğrusal öğrenicisi

Son zamanlarda, mevcut insan önyargılarını taklit etmenin bir sonucu olarak makine öğrenimi algoritmalarında önyargıyla ilgili endişeler var. Günümüzde, banka kredilerini, sigorta oranlarını veya reklamları tahmin etmek için kullanılan çeşitli makine öğrenimi yöntemlerinin güçlü sosyal etkileri vardır. Ne yazık ki, tarihsel verilerden öğrenen bir algoritma, doğal olarak geçmiş önyargıları miras alacaktır. Bu not defteri, doğrusal öğrenenler bağlamında SageMaker ve adil algoritmalar kullanılarak bu sorunun nasıl aşılacağını sunar.

Adaletin ardındaki bazı kavramları ve matematiği tanıtarak başlar, ardından verileri indirir, bir modeli eğitir ve son olarak model tahminlerini uygun şekilde ayarlamak için adalet kavramlarını uygular.

Dizüstü bilgisayar aşağıdakileri gösterir:

• UCI'nin Yetişkin veri setinde standart bir lineer model çalıştırma.
• Model tahminlerinde adaletsizliği gösterme
• Önyargıyı ortadan kaldırmak için verileri düzeltme
• Modeli yeniden eğitme

Bu örnek kodu kullanarak kendi verilerinizi çalıştırmayı deneyin ve önyargı olup olmadığını tespit edin. Bundan sonra, bu örnek not defterinde sağlanan işlevleri kullanarak veri kümenizdeki önyargıyı (varsa) kaldırmayı deneyin.

SageMaker Search'ü kullanarak makine öğrenimi denemelerini yönetin

SageMaker Arama, potansiyel olarak yüzlerce ve binlerce SageMaker model eğitimi işinden en alakalı model eğitimi çalıştırmalarını hızlı bir şekilde bulmanızı ve değerlendirmenizi sağlar. Bir makine öğrenimi modeli geliştirmek, sürekli deneyler yapmayı, yeni öğrenme algoritmaları denemeyi ve hiperparametreleri ayarlamayı gerektirirken bu tür değişikliklerin model performansı ve doğruluğu üzerindeki etkisini gözlemlemeyi gerektirir. Bu yinelemeli alıştırma, genellikle yüzlerce model eğitim deneyinin ve model versiyonunun patlamasına yol açarak kazanan bir modelin yakınsamasını ve keşfedilmesini yavaşlatır. Ek olarak, bilgi patlaması, bir model sürümünün - bu modeli en başta oluşturan veri kümelerinin, algoritmaların ve parametrelerin benzersiz kombinasyonunun - soyunun izini sürmeyi çok zorlaştırıyor.

Bu not defteri, model eğitimi işlerinizi SageMaker'da hızlı ve kolay bir şekilde organize etmek, izlemek ve değerlendirmek için SageMaker Search'ün nasıl kullanılacağını gösterir. Kullanılan öğrenme algoritmasından, hiperparametre ayarlarından, kullanılan eğitim veri kümelerinden ve hatta model eğitim işlerine eklediğiniz etiketlerden tüm tanımlayıcı öznitelikleri arayabilirsiniz. Ayrıca, eğitim çalıştırmalarınızı, eğitim kaybı ve doğrulama doğruluğu gibi performans ölçütlerine göre hızla karşılaştırabilir ve sıralayabilir, böylece üretim ortamlarına dağıtılabilecek kazanan modelleri belirlemek için skor tabloları oluşturabilirsiniz. SageMaker Search, canlı bir ortamda dağıtılan bir model sürümünün tam kökenini, modelin eğitiminde ve doğrulanmasında kullanılan veri kümelerine kadar hızla geriye doğru izleyebilir.

Dizüstü bilgisayar aşağıdakileri gösterir:

• Doğrusal bir modeli üç kez eğitme
• Bu deneyleri düzenlemek ve değerlendirmek için SageMaker Search'ü kullanma
• Sonuçları bir liderlik tablosunda görselleştirme
• Bir modeli uç noktaya dağıtma
• Uç noktadan başlayarak modelin soyunu izleme

Tahmine dayalı modelleri kendi geliştirmenizde, birkaç deney yapıyor olabilirsiniz. Bu tür deneylerde SageMaker Search'ü kullanmayı deneyin ve size çeşitli şekillerde nasıl yardımcı olabileceğini deneyimleyin.

SageMaker Nöral Konu Modeli

SageMaker Neural Topic Model (NTM), bir dizi gözlemi farklı kategorilerin bir karışımı olarak tanımlamaya çalışan denetimsiz bir öğrenme algoritmasıdır. NTM en yaygın olarak, bir metin derlemindeki belgeler tarafından paylaşılan, kullanıcı tarafından belirlenen sayıda konuyu keşfetmek için kullanılır. Burada her gözlem bir belgedir, özellikler her kelimenin varlığı (veya tekrar sayısı) ve kategoriler de konulardır. Yöntem denetimsiz olduğundan, konular önceden belirtilmez ve bir insanın belgeleri doğal olarak kategorilere ayırma biçimiyle uyumlu olacağı garanti edilmez. Konular, her belgede geçen kelimeler üzerinden bir olasılık dağılımı olarak öğrenilir. Her belge sırayla konuların bir karışımı olarak tanımlanır.

Bu not defteri, 20NewsGroups veri kümesi üzerinde bir model eğitmek için SageMaker NTM algoritmasını kullanır. Bu veri seti, bir konu modelleme kıyaslaması olarak yaygın bir şekilde kullanılmaktadır.

Dizüstü bilgisayar aşağıdakileri gösterir:

• Bir NTM modeli oluşturmak için bir veri kümesinde SageMaker eğitim işi oluşturma
• Bir SageMaker uç noktasıyla çıkarım gerçekleştirmek için modeli kullanma
• Eğitilen modeli keşfetme ve öğrenilen konuları görselleştirme

Bu not defterini metin belgelerinizde çalışacak şekilde kolayca değiştirebilir ve bunları çeşitli konulara ayırabilirsiniz.

Sürüş hızı ihlallerini tahmin edin

Bu not defteri, Chicago şehrinin Hız Kamerası İhlali veri kümesini analiz ederek SageMaker DeepAR algoritmasını kullanarak zaman serisi tahminini gösterir. Veri kümesi, Data.gov tarafından barındırılır ve ABD Genel Hizmetler İdaresi, Teknoloji Dönüşüm Hizmeti tarafından yönetilir.

Bu ihlaller kamera sistemleri tarafından yakalanır ve Chicago şehri veri portalı aracılığıyla halkın hayatını iyileştirmek için kullanılabilir. Hız Kamerası İhlali veri seti, verilerdeki kalıpları ayırt etmek ve anlamlı içgörüler elde etmek için kullanılabilir.

Veri kümesi, birden fazla kamera konumu ve günlük ihlal sayıları içerir. Bir kamera için her günlük ihlal sayısı ayrı bir zaman serisi olarak kabul edilebilir. Bir modeli aynı anda birden çok sokak için eğitmek ve birden çok sokak kamerası için ihlalleri tahmin etmek için SageMaker DeepAR algoritmasını kullanabilirsiniz.

Dizüstü bilgisayar aşağıdakileri gösterir:

• SageMaker DeepAR algoritmasını spot bulut sunucuları kullanarak zaman serisi veri kümesi üzerinde eğitme
• Trafik ihlali tahminleri yapmak için eğitilen model üzerinde çıkarımlar yapma

Bu not defteriyle, zaman serisi problemlerinin SageMaker'daki DeepAR algoritması kullanılarak nasıl çözülebileceğini öğrenebilir ve bunu kendi zaman serisi veri kümelerinize uygulamayı deneyebilirsiniz.

Meme kanseri tahmini

Bu not defteri, UCI'nin meme kanseri teşhis veri setini kullanarak meme kanseri tahmini için bir örnek alır. Bir göğüs kitlesi görüntüsünün iyi huylu veya kötü huylu bir tümöre işaret edip etmediğine dair tahmine dayalı bir model oluşturmak için bu veri kümesini kullanır.

Dizüstü bilgisayar aşağıdakileri gösterir:

• SageMaker'ı kullanmak için temel kurulum
• Veri setlerini SageMaker algoritmaları tarafından kullanılan Protobuf formatına dönüştürme ve şuraya yükleme: Amazon Basit Depolama Hizmeti (Amazon S3)
• Veri kümesi üzerinde bir SageMaker doğrusal öğrenen modelini eğitme
• Eğitimli modeli barındırma
• Eğitilmiş modeli kullanarak puanlama

SageMaker'ı kullanarak bir iş problemini nasıl çözeceğinizi öğrenmek ve bir modeli eğitmek ve barındırmak için gereken adımları anlamak için bu not defterini inceleyebilirsiniz.

Birden fazla modelden toplu tahminler

Öngörülü görevlerde ML'nin pratik uygulamalarında, genellikle tek bir model yeterli olmaz. Tahmin yarışmalarının çoğu, daha iyi bir tahmin elde etmek için genellikle birden çok kaynaktan gelen tahminlerin birleştirilmesini gerektirir. Birden çok kaynaktan veya modelden gelen tahminleri birleştirerek veya ortalamasını alarak, genellikle daha iyi bir tahmin elde ederiz. Bunun nedeni, model seçiminde önemli bir belirsizliğin olması ve pek çok pratik uygulamada tek bir doğru model olmamasıdır. Bu nedenle, farklı modellerden tahminleri birleştirmek faydalıdır. Bayes literatüründe bu fikir, Bayes modeli ortalama alma olarak adlandırılır ve yalnızca bir model seçmekten çok daha iyi çalıştığı gösterilmiştir.

Bu defter, bir kişinin eğitimi, iş deneyimi, cinsiyeti ve daha fazlası hakkındaki bilgilere dayanarak yılda 50,000 dolardan fazla kazanıp kazanmadığını tahmin etmek için açıklayıcı bir örnek sunuyor.

Dizüstü bilgisayar aşağıdakileri gösterir:

• SageMaker not defterinizi hazırlama
• SageMaker kullanarak Amazon S3'ten veri kümesi yükleme
• SageMaker algoritmalarına beslenebilmesi için verileri araştırma ve dönüştürme
• SageMaker XGBoost (Extreme Gradient Boosting) algoritmasını kullanarak bir modeli tahmin etme
• Devam eden tahminler yapmak için modeli SageMaker'da barındırma
• SageMaker doğrusal öğrenen yöntemini kullanarak ikinci bir modeli tahmin etme
• Her iki modelden tahminlerin birleştirilmesi ve birleştirilmiş tahminin değerlendirilmesi
• Test veri setinde son tahminler oluşturuluyor

Bu not defterini veri kümenizde çalıştırmayı ve birden çok algoritma kullanmayı deneyin. SageMaker ve JumpStart tarafından sunulan çeşitli model kombinasyonlarını denemeyi deneyin ve kendi verileriniz üzerinde hangi model birleştirme kombinasyonunun en iyi sonuçları verdiğini görün.

SageMaker eşzamansız çıkarım

SageMaker eşzamansız çıkarım, SageMaker'da gelen istekleri kuyruğa alan ve bunları eşzamansız olarak işleyen yeni bir yetenektir. SageMaker şu anda müşterilerin makine öğrenimi modellerini devreye almaları için iki çıkarım seçeneği sunuyor: düşük gecikmeli iş yükleri için gerçek zamanlı bir seçenek ve önceden mevcut olan veri yığınları üzerinde çıkarım isteklerini işlemek için çevrimdışı bir seçenek olan toplu dönüştürme. Gerçek zamanlı çıkarım, veri boyutu 6 MB'tan küçük olan iş yükleri için uygundur ve çıkarım isteklerinin 60 saniye içinde işlenmesini gerektirir. Toplu dönüşüm, veri yığınları üzerinde çevrimdışı çıkarım için uygundur.

Eşzamansız çıkarım, gerçek zamana yakın çıkarım ihtiyaçları için yeni bir çıkarım seçeneğidir. İsteklerin işlenmesi 15 dakika kadar sürebilir ve 1 GB'a kadar veri yükü boyutlarına sahip olabilir. Zaman uyumsuz çıkarım, saniyeden kısa gecikme gereksinimleri olmayan ve rahat gecikme gereksinimleri olan iş yükleri için uygundur. Örneğin, birkaç MB'lik büyük bir görüntü üzerinde 5 dakika içinde çıkarım yapmanız gerekebilir. Ek olarak, eşzamansız çıkarım uç noktaları, boştayken uç nokta bulut sunucusu sayısını sıfıra indirerek maliyetleri kontrol etmenizi sağlar, böylece yalnızca uç noktalarınız istekleri işlerken ödeme yaparsınız.

Dizüstü bilgisayar aşağıdakileri gösterir:

• SageMaker modeli oluşturma
• Bu modeli ve eşzamansız çıkarım yapılandırmasını kullanarak uç nokta oluşturma
• Bu eşzamansız bitiş noktasına karşı tahminler yapmak

Bu not defteri size bir SageMaker modeli için eşzamansız bir uç nokta oluşturmanın çalışan bir örneğini gösterir.

TensorFlow kendi modelinizi getirin

Bir TensorFlow modeli, bu not defterinin çalıştırıldığı bir sınıflandırma görevinde yerel olarak eğitilir. Daha sonra bir SageMaker uç noktasına dağıtılır.

Dizüstü bilgisayar aşağıdakileri gösterir:

• IRIS veri kümesinde yerel olarak bir TensorFlow modelini eğitme
• Bu modeli SageMaker'a aktarma
• Bir uç noktada barındırma

Kendi geliştirdiğiniz TensorFlow modelleriniz varsa bu örnek not defteri, modelinizi SageMaker tarafından yönetilen bir uç noktada barındırmanıza yardımcı olabilir.

Scikit-learn kendi modelinizi getirin

SageMaker, barındırılan bir dizüstü bilgisayar ortamını, dağıtılmış, sunucusuz eğitimi ve gerçek zamanlı barındırmayı destekleyen işlevsellik içerir. Bu hizmetlerin üçü birlikte kullanıldığında en iyi şekilde çalışır, ancak bağımsız olarak da kullanılabilirler. Bazı kullanım durumları yalnızca barındırma gerektirebilir. Belki de model, SageMaker var olmadan önce farklı bir hizmette eğitilmiştir.

Dizüstü bilgisayar aşağıdakileri gösterir:

• SageMaker Scikit-learn kapsayıcısı ile önceden eğitilmiş bir Scikit-learn modeli kullanarak söz konusu model için hızla barındırılan bir uç nokta oluşturun

Kendi geliştirdiğiniz Scikit-learn modelleriniz varsa bu örnek not defteri, modelinizi SageMaker tarafından yönetilen bir uç noktada barındırmanıza yardımcı olabilir.

Kaynakları temizleme

JumpStart'ta bir not defterini çalıştırmayı bitirdikten sonra, şunları yaptığınızdan emin olun: Tüm kaynakları sil böylece süreçte oluşturduğunuz tüm kaynaklar silinir ve faturalandırmanız durdurulur. Bu not defterlerindeki son hücre genellikle oluşturulan uç noktaları siler.

Özet

Bu gönderi, yakın zamanda JumpStart'a eklenen 10 yeni örnek not defterinde size yol gösterdi. Bu gönderi bu 10 yeni deftere odaklanmış olsa da, bu yazı itibariyle toplam 56 kullanılabilir defter var. Studio'da oturum açmanızı ve JumpStart not defterlerini kendiniz keşfetmenizi ve onlardan anında değer elde etmeye başlamanızı öneririz. Daha fazla bilgi için bkz. Amazon SageMaker Stüdyosu ve Adaçayı Yapıcı Hızlı Başlangıç.

---

Yazar Hakkında

Raju Penmatcha AWS'de Yapay Zeka Platformlarında Yapay Zeka/ML Uzman Çözüm Mimarıdır. Doktora derecesini Stanford Üniversitesi'nden almıştır. SageMaker'da, müşterilerin makine öğrenimi modellerini ve çözümlerini kolayca oluşturmasına ve devreye almasına yardımcı olan az kodlu/kodsuz paket hizmetleri üzerinde yakından çalışıyor.