Lama 3 מגיע במאי - האם OpenAI צריך להיות מודאג? – פענוח

באירוע AI בעל פרופיל גבוה בלונדון, מנהלי Meta סיפקו ביום שלישי את האישור הרשמי הראשון ופרטים על השחרור הקרוב של Llama 3, האיטרציה הבאה המצופה מאוד של מודל השפה הגדול של החברה בקוד פתוח.

"בתוך החודש הבא, למעשה פחות, בתקווה בפרק זמן קצר מאוד, אנו מקווים להתחיל להפיץ את החבילה החדשה שלנו של דגמי היסוד של הדור הבא, Llama 3", הכריז ניק קלג, נשיא העניינים העולמיים של Meta, ב-Meta AI Day London, דיווח TechCrunch.

קלג אמר ש-Llama 3 מורכב מ"מספר דגמים שונים עם יכולות שונות, ורסטיליות שונות" שיתחילו לצאת במהלך השנה.

ברגע שהוא יושק, Llama 3 כן צפוי להיות מודל הקוד הפתוח המתקדם ביותר שקיים, כאשר Meta משקיעה רבות בפיתוח שלו. המודל הוכשר עם 140 מיליארד פרמטרים, אומר Meta, פי שניים מהקיבולת של Llama 2. למנכ"ל Meta, מארק צוקרבורג, מקניט חלק מהפרטים הטכניים בינואר.

"אנחנו בונים תשתית מחשוב ענקית כדי לתמוך במפת הדרכים העתידית שלנו, כולל 350 H100s עד סוף השנה הנוכחית - ובסך הכל כמעט 600 H100s מקבילות של מחשוב אם אתה כולל GPUs אחרים," אמר צוקרברג אז. כמות זו של כוח מחשוב גדולה משמעותית מזו ששימשה את OpenAI לאימון GPT-4, שהיה מוערך לדרוש כ-25,000 GPUs תוך 90 עד 100 ימים.

גם צוקרברג גילה ש-Meta AI, עוזרת ה-AI שלה, אמורה להיות מופעלת על ידי Llama 3.

כריס קוקס, מנהל מוצר ראשי, אמר ש-Llama 3 ישולב ברחבי Meta.

"התוכנית שלנו תהיה ש-Llama 3 יפעיל מספר מוצרים וחוויות שונות במשפחת האפליקציות שלנו", אמר.

אסטרטגיית הקוד הפתוח

ההשפעה של שחרורו של Llama 3 חורגת הרבה מעבר ל-Meta, לאור המחויבות הפילוסופית של החברה לפתח אותו כמודל קוד פתוח, בניגוד ברור לגישה הסגורה והקניינית שנקטו יריבים כמו OpenAI עם ChatGPT.

על ידי מקורות פתוחים למודלים השפה שלהם, Meta שואפת לטפח מערכת אקולוגית של פיתוח AI פתוח ולמצב את משפחת Llama כבסיס למגוון מגוון של כלים ויישומים שנוצרו על ידי מפתחים וחוקרים של צד שלישי.

"חשוב מאוד להבין שחידושים תמיד מבוססים על תרומות קודמות מאחרים, לפעמים דומות מאוד", צייץ בחודש שעבר יאן לקון, ראש מחקר AI של Meta. "זו הסיבה שהמחקר הפתוח חשוב כל כך: הוא גורם לתחום להתקדם מהר יותר עבור כולם."

זֶה אתוס פתוח כבר הוליד התכנסות קהילה תוססת סביב הלאמה. כמה מהמודלים המתקדמים ביותר של שפת קוד פתוח כיום, כגון Mistral, בז, ו-Beluga, נבנו על ידי כוונון עדין של דגם הבסיס הקודם של Llama 2. כמה מדגמי הקהילה הללו התאימו ל-GPT-3.5 או עלו על ביצועיהם במדדים מסוימים.

שחרורו של Llama-3 כמודל יסוד נוסף של קוד פתוח סוללת את הדרך לדור חדש של LLMs שיציב את הרף גבוה עוד יותר מבחינת איכות ויעילות ב-AI.

מאתגר את הדומיננטיות של OpenAI

הנחת הקוד הפתוח של Llama 3 מציבה אתגר אדיר ורב-שכבתי לדומיננטיות הנוכחית של OpenAI בשוק, ובהמשך לדגמים קנייניים אחרים כמו קלוד וג'מיני.

קהילת הקוד הפתוח תוכל בקרוב להתבסס על Llama 3 ולחזור במהירות על הווריאציות שלהן לאפשרות להתאים או לחרוג מהיכולות של GPT-4- בדיוק כפי שעשו נגד GPT-3.5. עם עלויות הכשרה נמוכות יותר המשותפות בין התורמים, המערכת האקולוגית הפתוחה יכולה לזנק בפיתוח המודל הקנייני של OpenAI, הדורש משאבי מחשוב ועלויות אדירות.

אם הצעות קוד פתוח ישיגו באופן קבוע שוויון עם הצעות מסחריות, ארגונים עשויים להימשך לכיוון המערכות האקולוגיות הנגישות והחסכוניות יותר כמו לאמה במקום להסתמך על OpenAI ולשלם עבורן. נכון לעכשיו, GPT-4 הוא הדגם היקר ביותר בשוק מבחינת עלות לאסימון.

יתר על כן, קהילת הקוד הפתוח מתחזקת ככל שיותר אנשים מתערבים בה. Meta מרוויחה מבניית קהילה ענקית על גבי המודל, כוונון עדין, פיתוח טכנולוגיות חדשות ושיפורו בחינם. זה מקל על Meta לפתח גרסאות טובות יותר של המודל שלה תוך יצירת רווחים באמצעות תוכניות חלופיות כמו מתן רישיון לשימוש מסחרי על ידי תעשיות גדולות.

במילים אחרות, המשך האינרציה והשפעות הרשת עלולות להקשות על המודלים הקנייניים של OpenAI למשוך משתמשים ולקוחות בעתיד.

מה שבטוח, OpenAI מחזיקה כיום בהובלה חזקה מבחינת רווחיות. Anthropic יכולה להתפאר ב-LLM בעל הביצועים הטובים ביותר בתחום הבינה המלאכותית. אבל Llama 3 ייצג עוד תקיפה אסטרטגית של Meta כדי לשפר את נוף ה-AI הגנרטיבי.

כמובן, הרבה תלוי בביצועים והאימוץ של Llama 3 בעולם האמיתי במהלך השנה הקרובה. אבל קהילת ה-AI בקוד פתוח די פעילה - וכבר אוהבת את Llama-2. הדברים יהיו מאוד מעניינים בחודשים הקרובים, במיוחד עם GPT-5 של OpenAI ממש מעבר לפינה.

נערך על ידי ריאן אוזאווה.

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
• מקור: https://decrypt.co/225814/llama-3-is-coming-in-may-should-openai-be-worried