Bugün, bunu duyurmanın heyecanını yaşıyoruz. DBRX modelitarafından geliştirilen açık, genel amaçlı bir büyük dil modeli (LLM) veri tuğlalarıaracılığıyla müşterilerin kullanımına sunulmaktadır. Amazon SageMaker Hızlı Başlangıç çıkarımı çalıştırmak için tek tıklamayla dağıtmak. DBRX LLM, özenle seçilmiş 12 trilyon token veri ve maksimum 32,000 token bağlam uzunluğu üzerinde önceden eğitilmiş, ince taneli bir uzman karışımı (MoE) mimarisi kullanır.
Bu modeli, ML'ye hızla başlayabilmeniz için algoritmalara ve modellere erişim sağlayan bir makine öğrenimi (ML) merkezi olan SageMaker JumpStart ile deneyebilirsiniz. Bu yazıda DBRX modelinin nasıl keşfedilip dağıtılacağını açıklıyoruz.
DBRX modeli nedir
DBRX, transformatör mimarisi üzerine kurulu, yalnızca kod çözücüye yönelik gelişmiş bir LLM'dir. Toplam 132 milyar parametreyi içeren ayrıntılı bir MoE mimarisi kullanır ve bu parametrelerin 36 milyarı herhangi bir giriş için aktiftir.
Model, 12 trilyon token metin ve koddan oluşan bir veri seti kullanılarak ön eğitime tabi tutuldu. Mixtral ve Grok-1 gibi diğer açık MoE modellerinin aksine DBRX, optimize edilmiş performans için daha fazla sayıda küçük uzmanın kullanıldığı ayrıntılı bir yaklaşıma sahiptir. Diğer MEB modelleriyle karşılaştırıldığında DBRX'in 16 uzmanı var ve 4'ünü seçiyor.
Model, kısıtlama olmaksızın kullanılmak üzere Databricks Açık Model lisansı kapsamında kullanıma sunulmuştur.
SageMaker JumpStart nedir?
SageMaker JumpStart, içerik yazma, kod oluşturma, soru yanıtlama, metin yazarlığı, özetleme, sınıflandırma ve bilgi alma gibi çeşitli kullanım durumları için en son teknolojiye sahip temel modeller sunan, tam olarak yönetilen bir platformdur. Hızlı ve kolay bir şekilde dağıtabileceğiniz, önceden eğitilmiş modellerden oluşan bir koleksiyon sağlayarak makine öğrenimi uygulamalarının geliştirilmesini ve dağıtılmasını hızlandırır. SageMaker JumpStart'ın temel bileşenlerinden biri, çeşitli görevler için DBRX gibi önceden eğitilmiş modellerden oluşan geniş bir katalog sunan Model Hub'dır.
Artık DBRX modellerini birkaç tıklamayla keşfedebilir ve dağıtabilirsiniz. Amazon SageMaker Stüdyosu veya SageMaker Python SDK aracılığıyla programlı olarak model performansını ve MLOps kontrollerini elde etmenizi sağlar. Amazon Adaçayı Yapıcı gibi özellikler Amazon SageMaker Ardışık Düzenleri, Amazon SageMaker Hata Ayıklayıcısıveya konteyner günlükleri. Model, AWS güvenli ortamında ve VPC kontrolleriniz altında dağıtılarak veri güvenliğinin sağlanmasına yardımcı olur.
SageMaker JumpStart'taki modelleri keşfedin
DBRX modeline, SageMaker Studio kullanıcı arayüzündeki ve SageMaker Python SDK'sındaki SageMaker JumpStart aracılığıyla erişebilirsiniz. Bu bölümde SageMaker Studio'daki modelleri nasıl keşfedeceğimizi ele alıyoruz.
SageMaker Studio, verileri hazırlamaktan makine öğrenimi modellerinizi oluşturmaya, eğitmeye ve dağıtmaya kadar tüm makine öğrenimi geliştirme adımlarını gerçekleştirmek için amaca yönelik oluşturulmuş araçlara erişebileceğiniz tek bir web tabanlı görsel arabirim sağlayan entegre bir geliştirme ortamıdır (IDE). Nasıl başlayacağınız ve SageMaker Studio'yu nasıl kuracağınız hakkında daha fazla bilgi için bkz. Amazon SageMaker Stüdyosu.
SageMaker Studio'da SageMaker JumpStart'a şu seçeneği seçerek erişebilirsiniz: HızlıBaşlangıç Gezinti bölmesinde.
SageMaker JumpStart açılış sayfasında, arama kutusunda "DBRX" ifadesini arayabilirsiniz. Arama sonuçları listelenecek DBRX Talimatı ve DBRX Tabanı.
Lisans, eğitim için kullanılan veriler ve modelin nasıl kullanılacağı gibi modelle ilgili ayrıntıları görüntülemek için model kartını seçebilirsiniz. Ayrıca şunları bulacaksınız: Sürüş Modeli dağıtmak ve bir uç nokta oluşturmak için düğmeyi kullanın.
Modeli SageMaker JumpStart'ta dağıtın
Dağıtım, aşağıdaki seçeneği seçtiğinizde başlar Sürüş düğme. Dağıtım tamamlandıktan sonra bir uç noktanın oluşturulduğunu göreceksiniz. Örnek çıkarım isteği verisini ileterek veya SDK'yı kullanarak test seçeneğini belirleyerek uç noktayı test edebilirsiniz. SDK kullanma seçeneğini seçtiğinizde SageMaker Studio'da seçtiğiniz not defteri düzenleyicisinde kullanabileceğiniz örnek kodu göreceksiniz.
DBRX Tabanı
SDK'yı kullanarak dağıtım yapmak için, tarafından belirtilen DBRX Taban modelini seçerek başlıyoruz. model_id
değer veren face-llm-dbrx-base. Seçilen modellerden herhangi birini aşağıdaki kodla SageMaker üzerinde dağıtabilirsiniz. Benzer şekilde, DBRX Instruct'ı kendi model kimliğini kullanarak dağıtabilirsiniz.
Bu, modeli SageMaker'da, varsayılan örnek türü ve varsayılan VPC yapılandırmaları dahil olmak üzere varsayılan yapılandırmalarla dağıtır. Varsayılan olmayan değerleri belirterek bu yapılandırmaları değiştirebilirsiniz. HızlıBaşlangıçModeli. Son kullanıcı lisans sözleşmesinin (EULA) kabul edilebilmesi için Eula değerinin açıkça True olarak tanımlanması gerekir. Ayrıca ml.p4d.24xlarge veya ml.pde.24xlarge'ı uç nokta kullanımı için bir veya daha fazla bulut sunucusu olarak kullanmaya yönelik hesap düzeyinde hizmet sınırına sahip olduğunuzdan emin olun. Talimatları takip edebilirsiniz okuyun Hizmet kotası artışı talebinde bulunmak için.
Dağıtıldıktan sonra, SageMaker tahmincisi aracılığıyla dağıtılan uç noktaya yönelik çıkarımlar çalıştırabilirsiniz:
Örnek istemler
DBRX Base modeliyle herhangi bir standart metin oluşturma modeli gibi etkileşim kurabilirsiniz; burada model bir giriş dizisini işler ve dizideki tahmin edilen sonraki kelimeleri çıkarır. Bu bölümde bazı örnek istemler ve örnek çıktılar sağlıyoruz.
Kod oluşturma
Önceki örneği kullanarak kod oluşturma istemlerini şu şekilde kullanabiliriz:
Çıktı aşağıdaki gibidir:
Duygu analizi
DBRX ile aşağıdakine benzer bir komut istemi kullanarak duyarlılık analizi gerçekleştirebilirsiniz:
Çıktı aşağıdaki gibidir:
Soru cevaplama
DBRX ile aşağıdakine benzer bir soru yanıtlama istemi kullanabilirsiniz:
Çıktı aşağıdaki gibidir:
DBRX Talimatı
DBRX'in talimat ayarlı sürümü, konuşma rollerinin kullanıcıdan gelen bir istemle başlaması ve kullanıcı talimatları ile asistan (DBRX talimatı) arasında geçiş yapması gereken formatlanmış talimatları kabul eder. Talimat formatına kesinlikle uyulmalıdır, aksi takdirde model optimumun altında çıktılar üretecektir. Instruct modeli için bir bilgi istemi oluşturmaya yönelik şablon şu şekilde tanımlanır:
<|im_start|>
ve <|im_end|>
dizenin başlangıcı (BOS) ve dizenin sonu (EOS) için özel belirteçlerdir. Model, sistem, kullanıcı ve asistan arasında birden fazla konuşma sırası içerebilir ve modelin yanıtlarını geliştirmek için birkaç çekimlik örneklerin dahil edilmesine olanak tanır.
Aşağıdaki kod, istemi talimat biçiminde nasıl biçimlendirebileceğinizi gösterir:
Bilgiye erişim
Bilgi almak için aşağıdaki istemi kullanabilirsiniz:
Çıktı aşağıdaki gibidir:
Kod oluşturma
DBRX modelleri, kodlama görevleri için kıyaslanmış güçlü yönleri gösterir. Örneğin aşağıdaki koda bakın:
Çıktı aşağıdaki gibidir:
Matematik ve akıl yürütme
DBRX modelleri aynı zamanda matematiksel doğruluk açısından da güçlü yönleri rapor etmektedir. Örneğin aşağıdaki koda bakın:
DBRX matematik mantığı ile aşağıdaki çıktıda gösterildiği gibi kavrama sağlayabilir:
Temizlemek
Not defterini çalıştırmayı tamamladıktan sonra, faturalandırmanın durdurulması için süreçte oluşturduğunuz tüm kaynakları sildiğinizden emin olun. Aşağıdaki kodu kullanın:
Sonuç
Bu yazıda size SageMaker Studio'da DBRX'i nasıl kullanmaya başlayacağınızı ve modeli çıkarım için nasıl dağıtacağınızı gösterdik. Temel modeller önceden eğitildiğinden, eğitim ve altyapı maliyetlerinin azaltılmasına yardımcı olabilir ve kullanım durumunuza göre özelleştirmeye olanak sağlayabilir. Başlamak için şimdi SageMaker Studio'da SageMaker JumpStart'ı ziyaret edin.
Kaynaklar
Yazarlar Hakkında
Şihar Kwatra Amazon Web Services'te AI/ML Uzman Çözüm Mimarıdır ve önde gelen bir Küresel Sistem Entegratörüyle birlikte çalışmaktadır. AI/ML ve IoT alanlarında 400'den fazla patenti ile En Genç Hintli Usta Mucitlerden biri unvanını kazandı. Startuplardan büyük ölçekli işletmelere, IoT Araştırma Mühendisinden Veri Bilimcisine, Veri ve Yapay Zeka Mimarına kadar 8 yılı aşkın sektör tecrübesine sahiptir. Shikhar, kuruluşlar için uygun maliyetli, ölçeklenebilir bulut ortamlarının tasarlanmasına, oluşturulmasına ve sürdürülmesine yardımcı olur ve stratejik endüstri oluşturma konusunda GSI ortaklarını destekler
Niithiyn Vijeaswaran AWS'de Çözüm Mimarıdır. Odaklandığı alan üretken yapay zeka ve AWS Yapay Zeka Hızlandırıcılarıdır. Bilgisayar Bilimleri ve Biyoenformatik alanında lisans derecesine sahiptir. Niithiyn, AWS müşterilerine birden fazla alanda olanak sağlamak ve üretken yapay zekayı benimsemelerini hızlandırmak için Generative AI GTM ekibiyle yakın işbirliği içinde çalışıyor. Dallas Mavericks'in sıkı bir hayranı ve spor ayakkabı koleksiyonu yapmaktan hoşlanıyor.
Sebastian Bustillo AWS'de Çözüm Mimarıdır. Üretken yapay zeka ve bilgi işlem hızlandırıcılara yönelik derin bir tutkuyla AI/ML teknolojilerine odaklanıyor. AWS'de müşterilerin üretken yapay zeka yoluyla iş değerinin ortaya çıkmasına yardımcı oluyor. İşte olmadığı zamanlarda mükemmel bir fincan özel kahve hazırlamaktan ve eşiyle birlikte dünyayı keşfetmekten hoşlanıyor.
Armando diaz AWS'de Çözüm Mimarıdır. Üretken AI, AI/ML ve veri analitiğine odaklanıyor. Armando, AWS'de müşterilerin son teknoloji üretken yapay zeka yeteneklerini sistemlerine entegre etmelerine yardımcı olarak yenilikçiliği ve rekabet avantajını teşvik ediyor. İşte olmadığı zamanlarda eşi ve ailesiyle vakit geçirmekten, yürüyüş yapmaktan ve dünyayı gezmekten hoşlanıyor.
- SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
- PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
- PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
- PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
- PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
- Kaynak: https://aws.amazon.com/blogs/machine-learning/databricks-dbrx-is-now-available-in-amazon-sagemaker-jumpstart/
- :vardır
- :dır-dir
- :olumsuzluk
- :Neresi
- $UP
- 000
- 1
- 10
- 100
- 11
- 12
- %15
- 16
- 19
- 1M
- 20
- 22
- 225
- 25
- 250
- 27
- 30
- 32
- 36
- 400
- 50
- 7
- 700
- 8
- a
- Yapabilmek
- Hakkımızda
- yukarıdaki
- kesinlikle
- hızlandırmak
- hızlanan
- hızlandırıcılar
- Kabul et
- Kabul eder
- erişim
- Göre
- göre
- Hesap
- doğruluk
- elde
- aktif
- faaliyetler
- eklemek
- ayarlamak
- Benimseme
- avantaj
- tavsiye
- Sonra
- karşı
- Bireysel Üyelik Sözleşmesi
- AI
- AI / ML
- Yardım
- AİDS
- algoritmalar
- Türkiye
- izin
- Izin
- Ayrıca
- am
- Amazon
- Amazon Adaçayı Yapıcı
- Amazon SageMaker Hızlı Başlangıç
- Amazon Web Servisleri
- an
- analiz
- analytics
- ve
- ve altyapı
- duyurmak
- Başka
- cevap
- yanıtlama
- herhangi
- Apple
- uygulamaları
- yaklaşım
- mimari
- ARE
- ALAN
- etrafında
- AS
- Asistan
- At
- mevcut
- AWS
- Banana
- baz
- merkezli
- temel
- BE
- Çünkü
- Sığır eti
- önce
- Başlangıç
- olmak
- Benchmarking
- arasında
- fatura
- Milyar
- pim
- her ikisi de
- kutu
- mola
- kahverengi
- inşa etmek
- bina
- yapılı
- iş
- by
- hesaplamak
- hesaplama
- CAN
- yetenekleri
- araba
- kart
- dikkatlice
- dava
- durumlarda
- katalog
- değişiklik
- yükler
- seçim
- choices
- Klinik
- seçer
- seçme
- sınıflandırma
- tıklayın
- Kapanış
- yakından
- kapanış
- bulut
- kod
- kodlama
- Kahve
- Toplama
- Toplamak
- Sütun
- Sütunlar
- şirket
- karşılaştırıldığında
- rekabet
- bileşenler
- hesaplamak
- bilgisayar
- Bilgisayar Bilimleri
- kavramlar
- oluşan
- danışmak
- içermek
- Konteyner
- içerik
- İçerik yazma
- bağlam
- kontrast
- kontroller
- konuşma
- metin yazarlığı
- doğru
- Ücret
- maliyetler
- olabilir
- yaratmak
- çevrimiçi kurslar düzenliyorlar.
- Oluşturma
- çok önemli
- kültürel
- kültürler
- Fincan
- küratörlüğünü
- akım
- Müşteriler
- özelleştirme
- keskin kenar
- günlük
- Dallas
- Dallas Mavericks
- veri
- Veri Analizi
- veri bilimcisi
- veri güvenliği
- Tarih
- gün
- Günler
- Varsayılan
- tanımlı
- derece
- göstermek
- dağıtmak
- konuşlandırılmış
- dağıtma
- açılma
- dağıtır
- türetmek
- ayrıntılar
- gelişmiş
- gelişme
- DICT
- DID
- Diyet
- farklı
- keşfetmek
- ekran
- evraklar
- yok
- etki
- yapılmış
- aşağı
- tahrik
- sürme
- Kazanılan
- kolaylaştırmak
- kolayca
- editör
- Efekt
- verimli biçimde
- Yumurta
- ya
- başka
- istihdam
- etkinleştirmek
- etkinleştirme
- son
- Son nokta
- enerji
- mühendis
- artırmak
- yeterli
- işletmelerin
- çevre
- ortamları
- EOS
- hİÇ
- herkes
- örnek
- örnekler
- takas
- uyarılmış
- Egzersiz
- deneyim
- uzman
- uzmanlara göre
- Açıklamalar
- açıkça
- Keşfetmek
- kolaylaştırılmış
- aile
- fan
- Özellikler
- az
- fileto
- dosyalar
- son
- Nihayet
- bulmak
- Ad
- uygunluk
- sabit
- odak
- odaklanır
- takip et
- takip etme
- şu
- Gıda
- gıdalar
- İçin
- biçim
- teşvik
- vakıf
- itibaren
- tamamen
- işlev
- genel amaçlı
- oluşturmak
- nesil
- üretken
- üretken yapay zeka
- almak
- verilmiş
- Verilmesi
- Küresel
- küresel ticaret
- Go
- gol
- Goller
- Tercih Etmenizin
- mal
- harika
- büyük
- Yunan
- Büyüme
- vardı
- mutlu
- Var
- he
- Sağlık
- sağlık
- yardım et
- yardım
- yardımcı olur
- okuyun
- Yüksek
- daha yüksek
- onun
- tarih
- tutar
- Ne kadar
- Nasıl Yapılır
- HTML
- HTTPS
- merkez
- i
- ID
- Fikir
- fikirler
- if
- darbe
- etkiledi
- Etkiler
- ithalat
- önemli
- in
- içerir
- Dahil olmak üzere
- birleşmeyle
- Artırmak
- artan
- Hintli
- sanayi
- bilgi
- Altyapı
- Yenilikçilik
- giriş
- girişler
- anlayışlar
- örnek
- talimatlar
- entegre
- Bütünleştirme
- etkileşim
- interaktif
- arayüzey
- içine
- Mucitler
- içerir
- IOT
- IT
- ONUN
- jpg
- sadece
- anahtar
- Nezaket.
- bilgi
- iniş
- dil
- Diller
- büyük
- büyük ölçekli
- önemli
- yalın
- öğrenme
- Led
- uzunluk
- izin
- Kütüphane
- Lisans
- yaşam tarzı
- sevmek
- LİMİT
- Liste
- ll
- Yüksek Lisans
- yük
- yükler
- mantık
- mantıksal
- Bakın
- gibi görünmek
- Aşk
- alt
- makine
- makine öğrenme
- yapılmış
- Bakımı
- yapmak
- yönetilen
- hile
- Kitle
- usta
- matematik
- matematiksel
- matematik
- matplotlib
- maksimum
- Mayıs..
- me
- mil
- karışık
- ML
- MLO'lar
- model
- modelleri
- Daha
- çoğu
- hareket
- film
- çoklu
- kas
- şart
- my
- adlı
- isimleri
- Navigasyon
- gerek
- ihtiyaçlar
- negatif
- Nötr
- yeni
- sonraki
- Hayır
- notlar
- defter
- şimdi
- numara
- besin
- of
- Teklifler
- on
- ONE
- açık
- optimize
- seçenek
- or
- sipariş
- organizasyonlar
- Diğer
- aksi takdirde
- dışarı
- taslak
- çıktı
- çıkışlar
- tekrar
- tüm
- kendi
- Kanal
- pandalar
- bölmesi
- parametreler
- özellikle
- ortaklar
- parçalar
- Geçen
- tutku
- Patentler
- yol
- İnsanlar
- başına
- MÜKEMMEL OLAN YERİ BULUN
- Yapmak
- performans
- Kişiselleştirilmiş
- plan
- ağladım
- platform
- Platon
- Plato Veri Zekası
- PlatoVeri
- Bol bol
- arsa
- artı
- Popüler
- kısım
- pozitif
- mümkün
- Çivi
- güçlü
- uygulamalar
- önceki
- tahmin
- Predictor
- tercihleri
- hazırlanması
- sundu
- fiyat
- Fiyatlar
- Sorun
- problem çözme
- süreç
- Süreçler
- profesyonel
- derin
- Programı
- Programlama
- Programlama dilleri
- istemleri
- Protein
- sağlamak
- sağlanan
- sağlar
- Python
- miktar
- soru
- hızla
- yükseltmek
- oran
- Okumak
- tavsiye etmek
- kurtarma
- başvurmak
- kayıtlı
- düzenli
- ilgili
- hatırlamak
- değiştirmek
- rapor
- temsil etmek
- talep
- Yer Alan Kurallar
- araştırma
- Kaynaklar
- itibarlı
- Yanıtlamak
- yanıt
- yanıtları
- restoran
- kısıtlamaları
- Sonuçlar
- geri alma
- dönüş
- Pirinç
- Rol
- rolleri
- koşmak
- koşu
- s
- sagemaker
- örnek
- testere
- ölçeklenebilir
- Bilim
- bilim adamı
- kepçe
- senaryo
- sdk
- Ara
- Bölüm
- güvenli
- güvenlik
- görmek
- seçmek
- seçilmiş
- seçme
- duygu
- Dizi
- hizmet
- Hizmetler
- set
- meli
- şov
- gösterdi
- gösterilen
- Gösteriler
- önemli
- benzer şekilde
- Basit
- tek
- beden
- boyutları
- uyku
- daha küçük
- Lastik ayakkabı
- So
- Yazılım
- yazılım geliştirme
- Çözümler
- biraz
- sofistike
- kaynaklar
- özel
- uzman
- Uzmanlık
- özel
- Belirtilen
- belirten
- Harcama
- Spor
- standart
- başlama
- başladı
- XNUMX dakika içinde!
- başlar
- Startups
- state-of-the-art
- statik
- kalmak
- Basamaklar
- Stok
- durdu
- Stratejik
- kuvvet
- güçlü
- dizi
- yapılar
- stüdyo
- standart altı
- böyle
- yeterli
- destek
- Destekler
- elbette
- sistem
- Sistemler
- alma
- görevleri
- takım
- teknikleri
- Teknolojileri
- şablon
- korkunç
- test
- Test yapmak
- metin
- göre
- o
- The
- Dünya
- ve bazı Asya
- sonra
- Bunlar
- onlar
- Re-Tweet
- İçinden
- boyunca
- zaman
- Başlık
- için
- bugün
- Jeton
- araç
- araçlar
- Toplam
- Ticaret
- trafik
- Tren
- Eğitim
- transformatör
- taşımacılık
- seyahat
- Seyahat
- Trilyon
- gerçek
- denemek
- çalışıyor
- DÖNÜŞ
- döner
- Retweet
- tip
- ui
- altında
- hastaya
- kilidini açmak
- kullanım
- kullanım
- kullanım durumu
- Kullanılmış
- kullanıcı
- kullanım
- kullanma
- değer
- Değerler
- değişken
- çeşitlilik
- çeşitli
- Geniş
- Ve
- Sebze
- versiyon
- Görüntüle
- Türkiye Dental Sosyal Medya Hesaplarından bizi takip edebilirsiniz.
- görsel
- yürümek
- istemek
- oldu
- Su
- Yol..
- yolları
- we
- hava
- ağ
- web hizmetleri
- Web tabanlı
- vardı
- Ne
- ne zaman
- hangi
- bütün
- neden
- eş
- irade
- ile
- olmadan
- sözler
- İş
- çalışma
- çalışır
- Dünya
- olur
- yazmak
- yazı yazıyor
- yıl
- Sen
- genç
- zefirnet