LightOn Lyra-fr modeli artık Amazon SageMaker'da mevcut

Amazon SageMaker kullanan müşteriler için LightOn Lyra-fr temel modelinin kullanıma sunulduğunu duyurmaktan heyecan duyuyoruz. LightOn, Avrupa dillerinde uzmanlaşan temel modelleri oluşturmada liderdir. Lyra-fr, konuşma yapay zekası, metin yazarlığı araçları, metin sınıflandırıcılar, semantik arama ve daha fazlasını oluşturmak için kullanılabilen son teknoloji bir Fransızca dil modelidir. Bu modeli rahatlıkla deneyebilir ve kullanabilirsiniz. Amazon SageMaker Hızlı Başlangıç. JumpStart, SageMaker'ın makine öğrenimi (ML) merkezidir ve makine öğrenimine hızlı bir şekilde başlamanıza yardımcı olmak için yerleşik algoritmalara ve uçtan uca çözüm şablonlarına ek olarak temel modellere erişim sağlar.

Bu blogda, Lyra-fr modelinin SageMaker'da nasıl kullanılacağını göstereceğiz.

temel modelleri

Temel modeller tipik olarak milyarlarca parametre üzerinde eğitilir ve geniş bir kullanım durumu kategorisine uyarlanabilir. Günümüzde en iyi bilinen temel modeller, makaleleri özetlemek, dijital sanat yaratmak ve basit metin yönergelerinden kod oluşturmak için kullanılmaktadır. Bu modellerin eğitilmesi pahalıdır, bu nedenle müşteriler bu modelleri kendileri eğitmek yerine mevcut önceden eğitilmiş temel modelleri kullanmak ve gerektiğinde ince ayar yapmak isterler. SageMaker, SageMaker konsolunda seçebileceğiniz seçilmiş bir model listesi sağlar. Bu modelleri doğrudan web arayüzü üzerinden test edebilirsiniz. Ölçekli bir temel model kullanmak istediğinizde, model sağlayıcıların önceden oluşturulmuş not defterlerini kullanarak bunu SageMaker'dan ayrılmadan kolayca yapabilirsiniz. Modeller AWS'de barındırıldığından ve dağıtıldığından, modeli değerlendirmek veya modeli geniş ölçekte kullanmak için kullanılsın, verilerinizin asla üçüncü taraflarla paylaşılmadığından emin olabilirsiniz.

Lyra-fr, bugün piyasada bulunan en büyük Fransızca dil modelidir. LightOn tarafından eğitilmiş ve erişilebilir hale getirilmiş 10 milyar parametreli bir modeldir. Lyra-fr, Fransız küratörlüğünde büyük bir veri topluluğu üzerinde eğitildi ve insan benzeri metin yazma ve sınıflandırma, soru yanıtlama ve özetleme gibi karmaşık görevleri çözme yeteneğine sahip. Tüm bunlar, ortalama istek için 1-2 saniye aralığında makul çıkarım hızını korurken. Gerçekleştirmek istediğiniz görevi doğal dilde basitçe tanımlayabilirsiniz ve Lyra-fr, anadili Fransızca olan birinin düzeyinde yanıtlar üretecektir. Lyra-fr, yalnızca birkaç satır kodla, yönlendirilebilir oluşturma ve metin sınıflandırma gibi işe hazır zeka ilkelleri sunar. Daha zorlu görevler için, komut isteminde birkaç girdi-çıktı örneği sağlayarak, "birkaç atış" öğrenme modunda performans geliştirilebilir.

SageMaker'da Lyra-fr kullanma

Size Lyra-fr modelini 3 basit adımda nasıl kullanacağınıza dair bir yol göstereceğiz:

• Keşfet – AWS Management Console for SageMaker'da Lyra-fr modelini bulun.
• test – Web arayüzünü kullanarak modeli test edin.
• Sürüş – Modelin gelişmiş özelliklerini dağıtmak ve test etmek için bir not defteri kullanın.

Keşfet

Lyra-fr gibi temel modellerini keşfetmeyi kolaylaştırmak için tüm temel modellerini tek bir yerde topladık. Lyra-fr modelini bulmak için:

1. Adresinde oturum açın SageMaker için AWS Yönetim Konsolu.
2. Sol gezinme panelinde, adlı bir bölüm görmelisiniz. HızlıBaşlangıç ile temel modelleri onun altında. Henüz erişiminiz yoksa bu özelliğe erişim isteyin.
3. Hesabınız izin verilenler listesine eklendiğinde, sağda modellerin bir listesini göreceksiniz. Lyra-fr 10B modelini burada bulacaksınız.
   
4. Tıklayarak Modeli görüntüle ek seçeneklerle birlikte tam model kartını gösterecektir.
   

test

Genel bir kullanım durumu, modelin ihtiyaçlarınızı karşıladığından emin olmak için ad hoc testler yapmaktır. Lyra-fr modelini doğrudan SageMaker konsolundan test edebilirsiniz. Bu örnekte, modelden Fransızca "suluboya" veya "l'aquarelle" konusu için bir makale fikirleri listesi oluşturmasını isteyerek basit bir metin istemi kullanacağız.

1. Önceki bölümde gösterilen model kartından, Modeli dene. Bu, test arayüzü ile yeni bir sekme açacaktır.
2. Bu arayüzde, modele iletmek istediğiniz metin girişini sağlayın. Ayrıca sağdaki kaydırıcıları kullanarak istediğiniz parametreleri ayarlayabilirsiniz. Memnun kaldığınızda, seçin Metin oluştur.
   

Temel modellerin ve çıktılarının model sağlayıcıya ait olduğunu ve bunların içeriğinden veya doğruluğundan AWS'nin sorumlu olmadığını unutmayın.

Sürüş

Metin oluşturma modelleri, modelin sağlamasını istediğiniz bilgilerin örneklerini sağladığınızda en iyi sonucu verir. Buna birkaç adımda öğrenme denir. Lyra-fr örnek not defterini kullanarak bu yeteneğin tanıtımını yapacağız. Örnek not defteri, Lyra-fr modelinin SageMaker'da nasıl konuşlandırılacağını, metnin nasıl özetlenip oluşturulacağını ve birkaç adımda öğrenmeyi anlatır.

Ayrıca doğrudan JSON kullanarak veya Lyra Python SDK ile çıkarım isteklerinin yapılmasına ilişkin örnekler içerir. Lyra Python SDK, girdiyi biçimlendirme, uç noktayı çağırma ve çıktıyı açma işlemlerini halleder. Uç nokta başına bir sınıf vardır: Oluştur, Analiz Et, Seç, Yerleştir, Karşılaştır ve Simgeleştir. Bu örneğin bir ml.p4d.24xlarge örneği kullandığını unutmayın. AWS hesabınız için varsayılan sınırınız 0 ise bu GPU bulut sunucusu için bir sınır artışı talep etmeniz gerekir.

SageMaker, SageMaker Studio aracılığıyla yönetilen bir not defteri deneyimi sunar. SageMaker Studio'nun nasıl kurulacağına ilişkin ayrıntılar için bkz. Amazon SageMaker Geliştirici Kılavuzu. Bu demoda bu GitHub deposunu SageMaker Studio'ya klonlayacağız, ancak not defteri diğer ortamlarda da çalışacaktır.

Notebook'un nasıl çalıştırılacağına bir göz atalım:

1. Bu blog gönderisindeki Keşfet bölümünden model kartına gidin ve seçin Not defterini görüntüle. GitHub'da Lyra-fr not defteriyle açılan yeni bir sekme görmelisiniz.
2. GitHub'da seçin Lightonmuse-sagemaker-sdk; bu sizi depoya götürecektir. seçin Kod düğmesine basın ve HTTPS URL'sini kopyalayın.
   
3. SageMaker Studio'yu açın. Seçme Bir Depoyu Klonla ve ardından yukarıdan kopyalanan URL'yi yapıştırın.
   
4. Soldaki dosya tarayıcıyı kullanarak Lyra-fr not defterine gidin.
5. Bu not defteri, ek girdiye ihtiyaç duymadan uçtan uca çalışır ve ayrıca oluşturduğu kaynakları temizler. “Duyarlılık analizi için Create kullanımı” örneğine bir göz atabiliriz. Bu örnek, Lyra Python SDK'sını kullanır ve hangi metnin pozitif (pozitifler), negatif (negatifler) veya karışık (mitigés) olarak kategorize edilmesi gerektiğine dair birkaç örnekle modele öğreterek birkaç adımda öğrenmeyi gösterir.
6. Lyra Python SDK ile yapmanız gereken tek şeyin SageMaker uç noktasının adını ve girişi sağlamak olduğunu görebilirsiniz. SDK, tüm ayrıştırma, biçimlendirme ve kurulumu sizin yerinize gerçekleştirir.
   
7. Bu istemi çalıştırmak, son ifadenin olumlu olduğunu döndürür.
   

Temizlemek

Uç noktayı test ettikten sonra, ücret ödememek için SageMaker çıkarım uç noktasını ve modeli sildiğinizden emin olun.

Sonuç

Bu gönderide, Amazon SageMaker kullanarak Lyra-fr modelini nasıl keşfedeceğinizi, test edeceğinizi ve devreye alacağınızı gösterdik. erişim iste temel modeli deneyin bugün SageMaker'da ve geri bildiriminizi bize bildirin!

---

yazarlar hakkında

Iacopo Poli LightOn'un CTO'sudur ve çok büyük dil modelleri oluşturmak ve bunları halka sunmak için şirket için stratejik teknik seçimlerden sorumludur. Sezgisel arayüzler aracılığıyla Makine Öğreniminin demokratikleştirilmesi konusunda tutkulu. Boş zamanlarında Paris'in en iyi restoranlarını araştırmaktan keyif alıyor.

Alan Tan SageMaker'da Kıdemli Ürün Müdürüdür ve büyük model çıkarımına yönelik çabalara öncülük etmektedir. Analitik alanına makine öğrenimi uygulama konusunda tutkulu. İş dışında, açık havayı sever.