امروز، ما با هیجان اعلام می کنیم که مدل DBRX، یک مدل زبان بزرگ همه منظوره باز (LLM) که توسط پایگاه داده، از طریق در اختیار مشتریان قرار می گیرد Amazon SageMaker JumpStart برای استقرار با یک کلیک برای اجرای استنتاج. DBRX LLM از معماری ریزدانه ترکیبی از متخصصان (MoE) استفاده می کند که از قبل بر روی 12 تریلیون توکن داده با دقت تنظیم شده و حداکثر طول زمینه 32,000 توکن آموزش دیده است.
میتوانید این مدل را با SageMaker JumpStart امتحان کنید، یک مرکز یادگیری ماشین (ML) که دسترسی به الگوریتمها و مدلها را فراهم میکند تا بتوانید به سرعت با ML شروع کنید. در این پست به نحوه کشف و استقرار مدل DBRX می پردازیم.
مدل DBRX چیست؟
DBRX یک LLM پیچیده فقط رمزگشا است که بر اساس معماری ترانسفورماتور ساخته شده است. از یک معماری ریزدانه MOE استفاده می کند که شامل 132 میلیارد پارامتر کل است که 36 میلیارد از این پارامترها برای هر ورودی فعال هستند.
این مدل با استفاده از مجموعه داده ای متشکل از 12 تریلیون نشانه متن و کد تحت آموزش های اولیه قرار گرفت. برخلاف سایر مدلهای MOE باز مانند Mixtral و Grok-1، DBRX دارای یک رویکرد ریزدانه است که از تعداد بیشتری از کارشناسان کوچکتر برای عملکرد بهینه استفاده میکند. در مقایسه با سایر مدلهای MoE، DBRX دارای 16 متخصص است و 4 نفر را انتخاب میکند.
این مدل تحت مجوز Databricks Open Model برای استفاده بدون محدودیت در دسترس است.
SageMaker JumpStart چیست؟
SageMaker JumpStart یک پلتفرم کاملاً مدیریت شده است که مدلهای بنیادی پیشرفته را برای موارد استفاده مختلف مانند نوشتن محتوا، تولید کد، پاسخگویی به سؤال، کپینویسی، خلاصهسازی، طبقهبندی و بازیابی اطلاعات ارائه میدهد. مجموعه ای از مدل های از پیش آموزش دیده را ارائه می دهد که می توانید آنها را به سرعت و به راحتی اجرا کنید و توسعه و استقرار برنامه های کاربردی ML را سرعت می بخشد. یکی از اجزای کلیدی SageMaker JumpStart مدل Hub است که کاتالوگ گسترده ای از مدل های از پیش آموزش دیده مانند DBRX را برای کارهای مختلف ارائه می دهد.
اکنون میتوانید مدلهای DBRX را با چند کلیک کشف و اجرا کنید Amazon SageMaker Studio یا به صورت برنامه نویسی از طریق SageMaker Python SDK، به شما امکان می دهد عملکرد مدل و کنترل های MLOps را با آمازون SageMaker ویژگی هایی مانند خطوط لوله آمازون SageMaker, دیباگر Amazon SageMaker، یا سیاهههای مربوط به کانتینر. این مدل در یک محیط امن AWS و تحت کنترل های VPC شما مستقر شده است و به تامین امنیت داده ها کمک می کند.
مدل ها را در SageMaker JumpStart کشف کنید
می توانید از طریق SageMaker JumpStart در SageMaker Studio UI و SageMaker Python SDK به مدل DBRX دسترسی پیدا کنید. در این بخش به نحوه کشف مدل ها در SageMaker Studio می پردازیم.
SageMaker Studio یک محیط توسعه یکپارچه (IDE) است که یک رابط بصری مبتنی بر وب را فراهم می کند که در آن می توانید به ابزارهای ساخته شده برای انجام تمام مراحل توسعه ML، از آماده سازی داده ها تا ساخت، آموزش، و استقرار مدل های ML خود دسترسی داشته باشید. برای جزئیات بیشتر در مورد نحوه شروع و راه اندازی SageMaker Studio، مراجعه کنید Amazon SageMaker Studio.
در SageMaker Studio، می توانید با انتخاب SageMaker JumpStart دسترسی داشته باشید شروع به کار در صفحه ناوبری
از صفحه فرود SageMaker JumpStart، می توانید "DBRX" را در کادر جستجو جستجو کنید. نتایج جستجو لیست خواهد شد دستور DBRX و پایه DBRX.
میتوانید کارت مدل را برای مشاهده جزئیات مدل مانند مجوز، دادههای مورد استفاده برای آموزش و نحوه استفاده از مدل انتخاب کنید. شما همچنین خواهید یافت گسترش دکمه برای استقرار مدل و ایجاد نقطه پایانی.
مدل را در SageMaker JumpStart مستقر کنید
استقرار با انتخاب شما شروع می شود گسترش دکمه. پس از اتمام استقرار، خواهید دید که یک نقطه پایانی ایجاد می شود. میتوانید نقطه پایانی را با ارسال یک بار درخواست استنتاج نمونه یا با انتخاب گزینه آزمایش با استفاده از SDK آزمایش کنید. هنگامی که گزینه استفاده از SDK را انتخاب می کنید، کد نمونه ای را مشاهده می کنید که می توانید در ویرایشگر نوت بوک انتخابی خود در SageMaker Studio استفاده کنید.
پایه DBRX
برای استقرار با استفاده از SDK، با انتخاب مدل پایه DBRX، مشخص شده توسط model_id
با ارزش huggingface-llm-dbrx-base. با کد زیر می توانید هر یک از مدل های انتخاب شده را در SageMaker مستقر کنید. به طور مشابه، میتوانید DBRX Instruct را با استفاده از شناسه مدل خود مستقر کنید.
این مدل را در SageMaker با تنظیمات پیشفرض، از جمله نوع نمونه پیشفرض و تنظیمات پیشفرض VPC، مستقر میکند. شما می توانید این تنظیمات را با تعیین مقادیر غیر پیش فرض در آن تغییر دهید JumpStartModel. مقدار Eula باید به صراحت به عنوان True تعریف شود تا موافقتنامه مجوز کاربر نهایی (EULA) را بپذیرید. همچنین مطمئن شوید که محدودیت خدمات در سطح حساب را برای استفاده از ml.p4d.24xlarge یا ml.pde.24xlarge برای استفاده از نقطه پایانی به عنوان یک یا چند مورد دارید. می توانید دستورالعمل ها را دنبال کنید اینجا کلیک نمایید به منظور درخواست افزایش سهمیه خدمات.
پس از استقرار، می توانید استنتاج را در برابر نقطه پایانی مستقر شده از طریق پیش بینی SageMaker اجرا کنید:
مثال می دهد
شما می توانید با مدل پایه DBRX مانند هر مدل استاندارد تولید متن تعامل کنید، که در آن مدل یک توالی ورودی را پردازش می کند و کلمات بعدی پیش بینی شده در دنباله را خروجی می دهد. در این بخش، چند نمونه دستور و نمونه خروجی را ارائه می دهیم.
تولید کد
با استفاده از مثال قبل، می توانیم از دستورات تولید کد به صورت زیر استفاده کنیم:
خروجی زیر است:
تجزیه و تحلیل احساسات
شما می توانید تجزیه و تحلیل احساسات را با استفاده از یک اعلان مانند زیر با DBRX انجام دهید:
خروجی زیر است:
جواب سوال
با DBRX میتوانید از یک اعلان پاسخ به سؤال مانند زیر استفاده کنید:
خروجی زیر است:
دستور DBRX
نسخه تنظیمشده با دستورالعمل DBRX دستورالعملهای قالببندیشده را میپذیرد که در آن نقشهای مکالمه باید با درخواست کاربر شروع شود و بین دستورالعملهای کاربر و دستیار (DBRX-instruct) جایگزین شود. فرمت دستورالعمل باید کاملاً رعایت شود، در غیر این صورت مدل خروجی های کمتر از حد مطلوب تولید می کند. الگوی ساخت اعلان برای مدل Instruct به صورت زیر تعریف می شود:
<|im_start|>
و <|im_end|>
نشانه های ویژه ای برای شروع رشته (BOS) و انتهای رشته (EOS) هستند. این مدل میتواند شامل چندین نوبت مکالمه بین سیستم، کاربر و دستیار باشد که امکان ترکیب چند نمونه عکس را برای بهبود پاسخهای مدل فراهم میکند.
کد زیر نشان می دهد که چگونه می توانید درخواست را در قالب دستورالعمل فرمت کنید:
بازیابی دانش
برای بازیابی دانش می توانید از دستور زیر استفاده کنید:
خروجی زیر است:
تولید کد
مدلهای DBRX نقاط قوت محکشده را برای وظایف کدنویسی نشان میدهند. برای مثال کد زیر را ببینید:
خروجی زیر است:
ریاضیات و استدلال
مدلهای DBRX نیز نقاط قوت را در دقت ریاضی گزارش میکنند. برای مثال کد زیر را ببینید:
DBRX می تواند همانطور که در خروجی زیر با منطق ریاضی نشان داده شده است، درک مطلب را ارائه دهد:
پاک کردن
پس از اتمام اجرای نوت بوک، مطمئن شوید که تمام منابعی را که در این فرآیند ایجاد کرده اید حذف کرده اید تا صورتحساب شما متوقف شود. از کد زیر استفاده کنید:
نتیجه
در این پست، ما به شما نشان دادیم که چگونه با DBRX در SageMaker Studio شروع کنید و مدل را برای استنتاج به کار ببرید. از آنجایی که مدل های فونداسیون از قبل آموزش دیده اند، می توانند به کاهش هزینه های آموزش و زیرساخت کمک کنند و سفارشی سازی را برای موارد استفاده شما امکان پذیر کنند. اکنون برای شروع به SageMaker JumpStart در SageMaker Studio مراجعه کنید.
منابع
درباره نویسنده
شیخار کواترا یک معمار راه حل های تخصصی AI/ML در خدمات وب آمازون است که با یک ادغام کننده سیستم جهانی پیشرو کار می کند. او عنوان یکی از جوانترین مخترعان استاد هندی را با بیش از 400 حق ثبت اختراع در حوزه های AI/ML و IoT به دست آورده است. او بیش از 8 سال تجربه در صنعت از استارتاپ ها تا شرکت های بزرگ، از مهندس تحقیقات اینترنت اشیا، دانشمند داده، تا معمار داده و هوش مصنوعی دارد. Shikhar در معماری، ساخت و نگهداری محیط های ابری مقرون به صرفه و مقیاس پذیر برای سازمان ها کمک می کند و از شرکای GSI در ساخت صنعت استراتژیک پشتیبانی می کند.
نییتیین ویجاسواران یک معمار راه حل در AWS است. حوزه تمرکز او بر روی شتاب دهنده های هوش مصنوعی مولد و AWS AI است. او دارای مدرک لیسانس در رشته علوم کامپیوتر و بیوانفورماتیک است. Niithiyn از نزدیک با تیم Generative AI GTM همکاری می کند تا مشتریان AWS را در چندین جبهه فعال کند و پذیرش هوش مصنوعی مولد را تسریع بخشد. او از طرفداران پرشور دالاس ماوریکس است و از جمع آوری کفش های کتانی لذت می برد.
سباستین بوستیلو یک معمار راه حل در AWS است. او با اشتیاق عمیق به هوش مصنوعی مولد و شتابدهندههای محاسباتی روی فناوریهای AI/ML تمرکز دارد. او در AWS به مشتریان کمک می کند تا ارزش کسب و کار را از طریق هوش مصنوعی مولد باز کنند. وقتی سر کار نیست، از دم کردن یک فنجان قهوه مخصوص و کاوش در دنیا با همسرش لذت می برد.
آرماندو دیاز یک معمار راه حل در AWS است. او بر روی هوش مصنوعی، AI/ML و تجزیه و تحلیل داده های مولد تمرکز دارد. در AWS، آرماندو به مشتریان کمک میکند تا قابلیتهای پیشرفته هوش مصنوعی را در سیستمهای خود ادغام کنند و نوآوری و مزیت رقابتی را تقویت کنند. وقتی سر کار نیست، از گذراندن وقت با همسر و خانواده، پیاده روی و سفر به دور دنیا لذت می برد.
- محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
- PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
- PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
- PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
- PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
- منبع: https://aws.amazon.com/blogs/machine-learning/databricks-dbrx-is-now-available-in-amazon-sagemaker-jumpstart/
- : دارد
- :است
- :نه
- :جایی که
- $UP
- 000
- 1
- 10
- 100
- 11
- 12
- ٪۱۰۰
- 16
- 19
- 1M
- 20
- 22
- 225
- 25
- 250
- 27
- 30
- 32
- 36
- 400
- 50
- 7
- 700
- 8
- a
- قادر
- درباره ما
- بالاتر
- کاملا
- شتاب دادن
- تسریع
- شتاب دهنده ها
- پذیرفتن
- قبول می کند
- دسترسی
- مطابق
- بر این اساس
- حساب
- دقت
- دستیابی به
- فعال
- فعالیت ها
- اضافه کردن
- تنظیم کردن
- اتخاذ
- مزیت - فایده - سود - منفعت
- نصیحت
- پس از
- در برابر
- توافق
- AI
- AI / ML
- کمک
- ایدز
- الگوریتم
- معرفی
- مجاز
- اجازه دادن
- همچنین
- am
- آمازون
- آمازون SageMaker
- Amazon SageMaker JumpStart
- آمازون خدمات وب
- an
- تحلیل
- علم تجزیه و تحلیل
- و
- و زیرساخت
- اعلام
- دیگر
- پاسخ
- پاسخ دادن
- هر
- اپل
- برنامه های کاربردی
- روش
- معماری
- هستند
- محدوده
- دور و بر
- AS
- دستیار
- At
- در دسترس
- AWS
- موز
- پایه
- مستقر
- اساسی
- BE
- زیرا
- گوشت گاو
- قبل از
- شروع
- بودن
- معیار
- میان
- صدور صورت حساب
- بیلیون
- جسور
- هر دو
- جعبه
- شکستن
- قهوهای
- ساختن
- بنا
- ساخته
- کسب و کار
- by
- محاسبه
- محاسبه
- CAN
- قابلیت های
- ماشین
- کارت
- Осторожно
- مورد
- موارد
- کاتالوگ
- تغییر دادن
- بار
- انتخاب
- انتخاب
- را انتخاب کنید
- انتخاب می کند
- انتخاب
- طبقه بندی
- کلیک
- نزدیک
- نزدیک
- بسته
- ابر
- رمز
- برنامه نویسی
- کشت
- جمع آوری
- مجموعه
- ستون
- ستون ها
- شرکت
- مقایسه
- رقابتی
- اجزاء
- محاسبه
- کامپیوتر
- علم کامپیوتر
- مفاهیم
- شامل
- مشاوره
- شامل
- ظرف
- محتوا
- نوشتن مطالب
- زمینه
- کنتراست
- گروه شاهد
- گفتگو
- copywriting است
- به درستی
- هزینه
- هزینه
- میتوانست
- ایجاد
- ایجاد شده
- ایجاد
- بسیار سخت
- فرهنگی
- فرهنگ
- فنجان
- سرپرستی
- جاری
- مشتریان
- سفارشی سازی
- لبه برش
- روزانه
- دالاس
- دالاس ماوریکس
- داده ها
- تجزیه و تحلیل داده ها
- دانشمند داده
- امنیت داده ها
- تاریخ
- روز
- روز
- به طور پیش فرض
- مشخص
- درجه
- نشان دادن
- گسترش
- مستقر
- استقرار
- گسترش
- مستقر می کند
- استخراج
- جزئیات
- توسعه
- پروژه
- DICT
- DID
- رژیم غذایی
- مختلف
- كشف كردن
- نمایش دادن
- اسناد و مدارک
- میکند
- حوزه
- انجام شده
- پایین
- رانده
- رانندگی
- به دست آورده
- سهولت
- به آسانی
- سردبیر
- اثر
- موثر
- تخم مرغ
- هر دو
- دیگر
- کار می کند
- قادر ساختن
- را قادر می سازد
- پایان
- نقطه پایانی
- انرژی
- مهندس
- بالا بردن
- کافی
- شرکت
- محیط
- محیط
- EOS
- تا کنون
- هر کس
- مثال
- مثال ها
- تبادل
- برانگیخته
- ورزش
- تجربه
- کارشناس
- کارشناسان
- توضیحات
- به صراحت
- بررسی
- تسهیل
- خانواده
- پنکه
- امکانات
- کمی از
- پرونده
- فایل ها
- نهایی
- سرانجام
- پیدا کردن
- نام خانوادگی
- سازگاری
- ثابت
- تمرکز
- تمرکز
- به دنبال
- پیروی
- به دنبال آن است
- غذا
- مواد غذایی
- برای
- قالب
- پرورش دادن
- پایه
- از جانب
- کاملا
- تابع
- همه منظوره
- تولید می کنند
- نسل
- مولد
- هوش مصنوعی مولد
- دریافت کنید
- داده
- دادن
- جهانی
- تجارت جهانی
- Go
- هدف
- اهداف
- خوب
- مغازه
- بزرگ
- بیشتر
- یونانی
- رشد
- بود
- خوشحال
- آیا
- he
- سلامتی
- بهداشت و درمان
- کمک
- کمک
- کمک می کند
- اینجا کلیک نمایید
- زیاد
- بالاتر
- خود را
- تاریخ
- دارای
- چگونه
- چگونه
- HTML
- HTTPS
- قطب
- i
- ID
- اندیشه
- ایده ها
- if
- تأثیر
- نهفته
- اثرات
- واردات
- مهم
- in
- شامل
- از جمله
- گنجاندن
- افزایش
- افزایش
- هندی
- صنعت
- اطلاعات
- شالوده
- ابداع
- ورودی
- ورودی
- بینش
- نمونه
- دستورالعمل
- یکپارچه
- ادغام
- تعامل
- تعاملی
- رابط
- به
- مخترعان
- شامل
- اینترنت اشیا
- IT
- ITS
- JPG
- تنها
- کلید
- نوع
- دانش
- فرود
- زبان
- زبان ها
- بزرگ
- در مقیاس بزرگ
- برجسته
- تکیه می کنم
- یادگیری
- رهبری
- طول
- اجازه
- کتابخانه
- مجوز
- سبک زندگی
- پسندیدن
- محدود
- فهرست
- ll
- LLM
- بار
- بارهای
- منطق
- منطقی
- نگاه کنيد
- شبیه
- عشق
- کاهش
- دستگاه
- فراگیری ماشین
- ساخته
- حفظ
- ساخت
- اداره می شود
- دست کاری
- توده
- استاد
- ریاضی
- ریاضی
- ریاضیات
- ماتپلوتلب
- بیشترین
- ممکن است..
- me
- مایل
- مخلوط
- ML
- MLO ها
- مدل
- مدل
- بیش
- اکثر
- حرکت
- سینما
- چندگانه
- عضله
- باید
- my
- تحت عنوان
- نام
- جهت یابی
- نیاز
- نیازهای
- منفی
- خنثی
- جدید
- بعد
- هیچ
- توجه داشته باشید
- دفتر یادداشت
- اکنون
- عدد
- تغذیه
- of
- پیشنهادات
- on
- ONE
- باز کن
- بهینه
- گزینه
- or
- سفارش
- سازمان های
- دیگر
- در غیر این صورت
- خارج
- طرح کلی
- تولید
- خروجی
- روی
- به طور کلی
- خود
- با ما
- پانداها
- قطعه
- پارامترهای
- ویژه
- شرکای
- بخش
- عبور
- شور
- اختراعات
- مسیر
- مردم
- برای
- کامل
- انجام
- کارایی
- شخصی
- برنامه
- برنامه
- سکو
- افلاطون
- هوش داده افلاطون
- PlatoData
- بسیاری
- طرح
- به علاوه
- محبوب
- بخشی
- مثبت
- ممکن
- پست
- قوی
- شیوه های
- ماقبل
- پیش بینی
- پیشگو
- تنظیمات
- آماده
- ارائه شده
- قیمت
- قیمت
- مشکل
- حل مسئله
- روند
- فرآیندهای
- حرفه ای
- عمیق
- برنامه
- برنامه نويسي
- زبانهای برنامه نویسی
- پرسیدن
- پروتئين
- ارائه
- ارائه
- فراهم می کند
- پــایتــون
- مقدار
- سوال
- به سرعت
- بالا بردن
- نرخ
- خواندن
- توصیه
- بهبود
- مراجعه
- ثبت نام
- منظم
- مربوط
- به یاد داشته باشید
- جایگزین کردن
- گزارش
- نشان دادن
- درخواست
- مورد نیاز
- تحقیق
- منابع
- احترام
- پاسخ
- پاسخ
- پاسخ
- رستوران
- محدودیت های
- نتایج
- بازیابی
- برگشت
- برنج
- نقش
- نقش
- دویدن
- در حال اجرا
- s
- حکیم ساز
- نمونه
- دید
- مقیاس پذیر
- علم
- دانشمند
- حرکت شبیه چمچه زنی
- خط
- sdk
- جستجو
- بخش
- امن
- تیم امنیت لاتاری
- دیدن
- را انتخاب کنید
- انتخاب شد
- انتخاب
- احساس
- دنباله
- سرویس
- خدمات
- تنظیم
- باید
- نشان
- نشان داد
- نشان داده شده
- نشان می دهد
- قابل توجه
- به طور مشابه
- ساده
- تنها
- اندازه
- اندازه
- خواب
- کوچکتر
- کفش ورزشی
- So
- نرم افزار
- توسعه نرم افزار
- مزایا
- برخی از
- مصنوعی
- منابع
- ویژه
- متخصص
- تخصص
- خاص
- مشخص شده
- مشخص کردن
- هزینه
- ورزش ها
- استاندارد
- شروع
- آغاز شده
- راه افتادن
- شروع می شود
- نوپا
- وضعیت هنر
- ایستا
- ماندن
- مراحل
- موجودی
- متوقف شد
- استراتژیک
- استحکام
- نقاط قوت
- رشته
- ساختار
- استودیو
- زیرمجموعه
- چنین
- کافی
- پشتیبانی
- پشتیبانی از
- مطمئن
- سیستم
- سیستم های
- مصرف
- وظایف
- تیم
- تکنیک
- فن آوری
- قالب
- وحشتناک
- آزمون
- تست
- متن
- نسبت به
- که
- La
- جهان
- شان
- سپس
- اینها
- آنها
- این
- از طریق
- سراسر
- زمان
- عنوان
- به
- امروز
- نشانه
- ابزار
- ابزار
- جمع
- تجارت
- ترافیک
- قطار
- آموزش
- ترانسفورماتور
- حمل و نقل
- سفر
- سفر
- تریلیون
- درست
- امتحان
- تلاش
- دور زدن
- تبدیل
- صدای جیر جیر
- نوع
- ui
- زیر
- متحمل چیزی شدن
- باز
- استفاده
- استفاده کنید
- مورد استفاده
- استفاده
- کاربر
- استفاده
- با استفاده از
- ارزش
- ارزشها
- متغیر
- تنوع
- مختلف
- وسیع
- Ve
- سبزیجات
- نسخه
- چشم انداز
- بازدید
- بصری
- راه رفتن
- می خواهم
- بود
- آب
- مسیر..
- راه
- we
- هوا
- وب
- خدمات وب
- مبتنی بر وب
- بود
- چی
- چه زمانی
- که
- تمام
- چرا
- زن
- اراده
- با
- بدون
- کلمات
- مهاجرت کاری
- کارگر
- با این نسخهها کار
- جهان
- خواهد بود
- نوشتن
- نوشته
- سال
- شما
- جوانترین
- شما
- زفیرنت