Gambit بعدی متا AI؟ Llama 3 برای اوایل سال 2024 شایعه شده است - رمزگشایی

کنجکاوی در مورد حرکت بزرگ بعدی متا رسیدن به اوج تب در رقابت برای تسلط بر چشم انداز هوش مصنوعی است. با مدل متن تولیدی Llama 2 - که در ماه جولای منتشر شد - به خوبی در بازار جا افتاده است، ناظران هوش مصنوعی مشتاقانه به دنبال نشانه هایی از Llama 3 هستند.

اگر زمزمه های صنعت را باور کنیم، عاقبت این غول فناوری برای موفقیت منبع باز آن می تواند در اوایل سال 2024 از راه برسد.

متا به طور رسمی این شایعات را تأیید نکرده است، اما مارک زاکربرگ اخیراً با تأیید اینکه Llama 3 در دست ساخت است، آینده LLM های متا (مدل های زبان بزرگ) را روشن کرد. اما، به گفته او، مدل پایه جدید هوش مصنوعی همچنان در پشت مشعل قرار دارد، در حالی که اولویت همچنان تنظیم دقیق Llama 2 برای مصرف‌کننده‌تر کردن آن است.

او در یک مصاحبه پادکستی که بر روی آن متمرکز بود گفت: «منظورم این است که همیشه مدل دیگری وجود دارد که ما در حال آموزش آن هستیم. تقاطع بین هوش مصنوعی و متاورژن"ما Llama 2 را آموزش دادیم و آن را به عنوان یک مدل منبع باز منتشر کردیم و در حال حاضر اولویت ایجاد آن در دسته ای از محصولات مصرفی است...

او ادامه داد: "اما بله، ما همچنین در حال کار بر روی مدل های بنیاد آینده هستیم و من هیچ چیز جدید یا خبری در این مورد ندارم." دقیقاً نمی‌دانم چه زمانی آماده می‌شود.»

در حالی که متا به طور رسمی این شایعات را تایید نکرده است، الگوهای چرخه توسعه و سرمایه گذاری های سنگین سخت افزاری حکایت از راه اندازی قریب الوقوع دارد. Llama 1 و Llama 2 با فواصل شش ماهه در تمرین مواجه شدند، و اگر این آهنگ ادامه داشته باشد، Llama 3 جدید - که حدس می‌رود همتراز با GPT-4 OpenAI باشد - می‌تواند در نیمه اول سال 2024 راه اندازی شود.

افزودن عمق به حدس و گمان، کاربر Reddit لاما شیل تحلیل جامعی از چرخه های توسعه مدل تاریخی متا ارائه کرده است.

آموزش Llama 1 از ژوئیه 2022 تا ژانویه 2023 طول کشید، با Llama 2 تا جولای 2023، کاربر پیشنهاد داد و یک مرحله قابل قبول برای آموزش Llama 3 از ژوئیه 2023 تا ژانویه 2024 ایجاد کرد. این بینش ها با روایت یک متا همراه است. بی وقفه به دنبال تعالی هوش مصنوعی، مشتاق به نمایش گذاشتن پیشرفت بعدی خود است که می تواند شانه به شانه قابلیت های GPT-4 باشد.

در همین حال، انجمن های فناوری و رسانه های اجتماعی سر و صدا هستند بحث و گفتگو در مورد اینکه چگونه این تکرار جدید می تواند مزیت رقابتی متا را دوباره ایجاد کند. جامعه فناوری همچنین جدول زمانی احتمالی را از خرده اطلاعات موجود جمع آوری کرده است.

به آن مقداری از توییتر را اضافه کنید: مکالمه ای که گفته می شود در یک شبکه اجتماعی "Meta GenAI" شنیده شده است، که بعدا توسط محقق OpenAI جیسون وی توییت شد. به گزارش وی، یک منبع ناشناس گفت: «ما محاسبات لازم برای آموزش لاما 3 و 4 را داریم.

در همین حال، مشارکت این شرکت با Dell - ارائه Llama 2 در محل برای کاربران سازمانی - بر تعهد آن به کنترل و امنیت بر داده‌های شخصی تأکید می‌کند، حرکتی که هم استراتژیک و هم نشان‌دهنده زمان است. از آنجایی که متا در حال آماده شدن برای مقابله با غول هایی مانند OpenAI و Google است، این تعهد بسیار مهم است.

متا همچنین در حال تزریق هوش مصنوعی به بسیاری از محصولات خود است، بنابراین منطقی است که این شرکت سهام خود را افزایش دهد تا از آن عقب نماند. لاما 2 به هوش مصنوعی متا و سایر سرویس‌ها مانند ربات‌های گفتگوی متا، سرویس‌های مولد متا و عینک‌های هوش مصنوعی متا قدرت می‌دهد.

در میان این گردباد گمانه‌زنی‌ها، تفکرات مارک زاکربرگ در مورد منبع باز Llama 3 فقط باعث ایجاد فتنه و رمز و راز شده است. زاکربرگ در طی پادکست اخیر با دانشمند کامپیوتر لکس فریدمن به اشتراک گذاشت: «ما به فرآیندی نیاز داریم تا این تیم را قرمز کنیم و آن را ایمن کنیم.

Llama 2 دارای معماری چند لایه با نسخه‌های ۷ میلیارد، ۱۳ میلیارد و ۷۰ میلیارد پارامتر قوی است که هر کدام برای سطوح مختلف پیچیدگی و قدرت محاسباتی مناسب هستند. پارامترها در LLM به عنوان بلوک‌های ساختمان عصبی که توانایی مدل را برای درک و تولید زبان تعریف می‌کنند، با تعداد پارامترهایی که اغلب با پیچیدگی و کیفیت خروجی بالقوه مدل مرتبط هستند، عمل می‌کنند.

نیروگاه هوش مصنوعی بر روی مجموعه گسترده ای از آموزش دیده است 2 تریلیون توکن، زیربنای توانایی آن برای پیمایش و تولید متن انسان مانند در طیف گسترده ای از موضوعات و زمینه ها است.

در پس زمینه، زمینه سخت افزاری نیز در حال انجام است. مانند گزارش by رمزگشایی کنیدمتا یک مرکز داده با Nvidia H100s، یکی از قوی‌ترین قطعات سخت‌افزاری برای آموزش هوش مصنوعی در اختیار دارد - نشانه‌ای واضح از حرکت چرخ‌ها.

با این حال، با وجود تمام هیجانات و گمانه زنی ها، حقیقت در رازداری شرکتی پنهان می ماند.

مقاصد متا برای رقابت در فضای هوش مصنوعی عمدتاً با زمان‌های آموزشی مورد نیاز، سرمایه‌گذاری‌های سخت‌افزاری و سؤال منبع باز شکل می‌گیرد. در این میان، انتظارات به همان اندازه محتمل است که انتشار Llama 2024 در سال 3 محتمل است.

ویرایش شده توسط رایان اوزاوا.

• محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
• PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
• PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
• PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
• PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
• منبع: https://decrypt.co/205436/llama-3-release-date-rumored-meta-ai-challenger