AI בקוד פתוח הופך את המחשבים האישיים המודרניים לרלוונטיים, והמנויים נראים עלובים

AI בקוד פתוח הופך את המחשבים האישיים המודרניים לרלוונטיים, והמנויים נראים עלובים

Open source AI makes modern PCs relevant, and subscriptions seem shabby PlatoBlockchain Data Intelligence. Vertical Search. Ai.

טור הפעם בשנה שעברה הפכה בלתי אפשרית להתעלם מהמגמה האחרונה בתחום המחשוב: לוחות סיליקון ענקיים עם מאות מיליארדי טרנזיסטורים - התוצאה הבלתי נמנעת של עוד מערך דרכים לעקיפת הבעיה שהרחיק את חוק מור מנשייה.

אבל ירידה במכירות המחשבים מצביעות על כך שאיננו זקוקים למחשבי המפלצת האלה - ולא רק בגלל צל מכירות שהטיל COVID.

במחצית הראשונה של 2022, המחשוב הארגוני נראה כמעט אותו הדבר כפי שנראה בעשור האחרון: אפליקציות משרדיות בסיסיות, אפליקציות לתקשורת צוותים, ועבור הכיתה היצירתית, כמה כלי מדיה עשירים. בטח, גיימרים תמיד ימצאו דרך להפעיל את הטרנזיסטורים האלה, אבל הרוב המכריע של החומרה כבר היה מוגזם ולא עבד. למה לבזבז טרנזיסטורים על בעיות שנפתרו?

ואז העולם השתנה. לפני שנה השיקה OpenAI את DALL-E, הראשון מכלי הבינה המלאכותית הגנרטיבית הזמינים ביותר - "מפזר" הממיר רעש, בקשת טקסט ומסד נתונים עצום של שקלולות לתמונות. זה נראה כמעט כמו קסם. זמן לא רב לאחר מכן, מידג'ורני הציע הרבה את אותו הדבר - אם כי מכוון לאסתטיקה מובהקת של אלבום פרוג רוק משנות ה-70. נראה היה שהביקוש למחשוב ענן ירקיע שחקים כשהכלים הללו מצאו את דרכם למוצרים של מיקרוסופט, Canva, Adobe ואחרות.

ואז העולם השתנה שוב. באוגוסט, Stability AI הציגה מסד נתונים בקוד פתוח של שקלול מפזרים. בתחילת דרכה, Stable Diffusion דרשה GPU מתקדם, אך קהילת הקוד הפתוח גילתה במהרה שהיא יכולה לייעל את המפזר כך שיפעל עליו, ובכן, כמעט על כל דבר. זה לא בהכרח יהיה מהיר, אבל זה יעבוד - וזה יגדל עם החומרה שלך.

במקום לדרוש משאבי ענן מסיביים, כלי ה-AI החדשים יותר פועלים באופן מקומי. ואם רכשת מחשב מפלצתי, הם היו פועלים במהירות לפחות כמו כל דבר שמוצע מ-OpenAI או Midjourney - ללא מנוי.

קהילת הקוד הפתוח המרגשת מתמיד שמניעה את Stable Diffusion יצרה סדרה מרשימה של שקלול מפזרים חדשים, שכל אחד מהם מכוון לאסתטיקה ספציפית. דיפוזיה יציבה היא לא רק מהירה כמו כל דבר שמציעה חברת בינה מלאכותית מסחרית - היא גם שימושית יותר וגם ניתנת להרחבה.

ואז - כן, ניחשתם נכון - העולם השתנה שוב. בתחילת דצמבר, של OpenAI ChatGPT שיכתב לחלוטין את הציפיות שלנו לבינה מלאכותית, והפך לאפליקציית האינטרנט המהירה ביותר להגיע ל-100 מיליון משתמשים. מודל שפה גדול (LLM) המופעל על ידי "שנאי מיומן מראש" - כמה מאיתנו שכחו שזה מה ש-GPT מייצג? - שהכשיר את משקלו על שלל הטקסט העצום הזמין באינטרנט.

על פי ההערכות, מאמץ ההדרכה הזה עלה מיליונים (אולי עשרות מיליונים) במשאבי מחשוב ענן של Azure. עלות הכניסה הזו הייתה צפויה להספיק כדי להרחיק את המתחרים - פרט אולי לגוגל ומטה.

עד, שוב, העולם השתנה. במרץ, מטה הוציא את LLaMA – מודל שפה קומפקטי ויעיל הרבה יותר, עם מסד נתונים זעיר יחסית של שקלולים, אך עם איכות תגובה המתקרבת ל-GPT-4 של OpenAI.

עם דגם של שלושים מיליארד פרמטרים בלבד, LLaMA יכול לשבת בנוחות במחשב עם 32GB של זיכרון RAM. משהו שדומה מאוד ל-ChatGPT - שפועל על ענן Azure בגלל מסד הנתונים המאסיבי של שקלולים - ניתן להפעיל כמעט בכל מקום.

החוקרים של Meta הציעו את שקלוליהם לעמיתיהם האקדמיים, להורדה בחינם. מכיוון ש-LLaMA יכלה לרוץ במחשבי המעבדה שלהם, חוקרים בסטנפורד שיפרו מיד את LLaMA באמצעות טכניקת האימון החדשה שלהם שנקראת אלפקה-לורה, אשר הורידו את עלות הכשרת מערך שקלולות קיים ממאות אלפי דולרים לכמה מאות דולרים. הם גם שיתפו את הקוד שלהם.

בדיוק כפי ש-DALL-E הפסיד ל-Stable Diffusion עבור שימושיות והרחבה, נראה ש-ChatGPT מפסיד מרוץ נוסף, שכן חוקרים מייצרים מגוון דגמים - כגון Alpaca, ויקונה, קוֹאָלָה, ומאגר של אחרים - שמתאמנים ומתאמנים מחדש במהירות ובזול.

הם משתפרים הרבה יותר מהר ממה שמישהו ציפה. חלקית זה נובע מכך שהם מתאמנים על "שיחות" רבות של ChatGPT שחולקו בין אתרים כמו Reddit, והן יכולות לפעול היטב ברוב המחשבים האישיים. אם יש לך מחשב מפלצתי הם פועלים טוב מאוד.

המכונות שעבורן לא יכולנו לחשוב על שימוש רק לפני שנה מצאו את ייעודן: הן הופכות לסוסי העבודה של כל משימות הבינה המלאכותית שלנו. הם עוזרים לנו לקודד, לתכנן, לכתוב, לצייר, לדגמן ועוד הרבה.

ואנחנו לא נהיה מחויבים למנויים כדי לגרום לכלים החדשים האלה לעבוד. Tt נראה כאילו הקוד הפתוח כבר עבר את הפיתוח המסחרי של מפזרים ושנאים כאחד.

בינה מלאכותית בקוד פתוח הזכירה לנו גם מדוע המחשב הלך והתרבה: בכך שאפשר להביא הביתה כלים שפעם היו זמינים רק במשרד.

זה לא יסגור את הדלת למסחר. אם כבר, זה אומר שיש יותר מרחב ליזמים ליצור מוצרים חדשים, מבלי לדאוג אם הם מפרים את המודלים העסקיים שבבסיס גוגל, מיקרוסופט, מטה או כל אחד אחר. אנו לקראת תקופה של שיבוש נרחב בטכנולוגיה - ונראה שהגודל אינו מעניק יתרונות רבים.

המפלצות משוחררות. אני חושב שזה דבר טוב. ®

בול זמן:

עוד מ הקופה