פרוטוקול Gensyn מאמן ללא אמון רשתות עצביות בקנה מידה יתר בסדר גודל נמוך יותר...

פרוטוקול Gensyn מאמן ללא אמון רשתות עצביות בקנה מידה יתר עם סדר גודל נמוך יותר של עלות

קישורים: אתר גנסין, על החברה, תיק CoinFund, מאמר TechCrunch קישור

סיכום עבודת גמר השקעות

• מינוף חילוני למורכבות וערך גוברת של ML: המורכבות החישובית של מערכות בינה מלאכותיות מתקדמות מוכפלת כל 3 חודשים, בעוד ערכם של מודלים אלה ממשיך לעלות במהירות, בעוד שטבע הקופסה השחורה לשעבר של האלגוריתמים הללו מסוגלים כעת להתאים יותר ויותר מאירים מובנים לאדם.
• עיצוב מערכת תיאום ואימות חדשניים: Gensyn בונה מערכת אימות (testnet v1 ייפרס בהמשך השנה) אשר פותרת ביעילות את בעיית התלות במצב באימון רשתות עצביות בכל קנה מידה. המערכת משלבת נקודות בדיקה לאימון מודלים עם בדיקות הסתברותיות המסתיימות על השרשרת. הוא עושה את כל זה ללא אמון והתקורה מתרחבת באופן ליניארי עם גודל הדגם (שמירה על עלויות אימות קבועות).
• התמקדות נושאית בביזור AI: רוב הדוגמאות הידועות ליישומי למידת מכונה (מכוניות בנהיגה עצמית של טסלה, Google DeepMind) מיוצרות על ידי אותה קבוצה של חברות, זאת משום שתעשיית הלמידה העמוקה נראית כיום כמו משחק מונופול בין חברות ביג טק, כמו כמו גם מדינות כמו סין וארצות הברית. כוחות אלו מביאים לכוחות ריכוז עצומים הפועלים בניגוד ל-web3 ואפילו למקורות ההיסטוריים של web1.

CoinFund גאה לתמוך בגיוס הכספים האחרון של פרוטוקול Gensyn והחזון של הצוות לאפשר אימון ללא אמון של רשתות עצביות בקנה מידה גדול ובעלות נמוכה באמצעות מערכת האימות החדשנית שלהם. ניצול צ'קים הסתברותיים המסתיימים על השרשרת תוך כדי הקשה על מקורות מחשוב שאינם מנוצלים ולא מנוצלים, החל ממעבדי GPU לא מנוצלים כיום ועד לבריכות כרייה מתוחכמות של ETH1 שעומדות להתנתק מרשת Ethereum כאשר הרשת עוברת להוכחת הימור, פרוטוקול Gensyn אינו דורש מפקח אדמיניסטרטיבי או אכיפה משפטית, אלא מקל על חלוקת משימות ותשלומים באופן תוכנתי באמצעות חוזים חכמים. יתרה מכך, האופי המבוזר של הפרוטוקול אומר שהוא יהיה בסופו של דבר תחת שלטון הקהילה, ולא ניתן 'לכבות' ללא הסכמת הקהילה; זה הופך אותו לעמיד לצנזורה, בניגוד לעמיתיו ל-web2. בסופו של דבר, אנו מאמינים ש-Gensyn משחקת כדי להפוך לשכבת היסוד עבור מחשוב ML מקורי של web3, כאשר משתתפי צד שלישי בונים בסופו של דבר חוויות משתמש עשירות ופונקציונליות ספציפית בנישות רבות.

חלק 1: מבוא לצמיחה חילונית רבת עשורים של למידה עמוקה

כל פרצוף שאתה רואה בשיחת וידאו וכל האודיו שאתה שומע עובר מניפולציה. לשיפור איכות השיחה, רשתות עצביות באופן סלקטיבי התאם את הרזולוציה בזום ו לדכא רעשי רקע ב-Microsoft Teams. התקדמות עדכנית יותר אפילו רואה וידאו ברזולוציה נמוכה יותר 'חלמתי' לרזולוציה גבוהה יותר. רשתות עצביות הן המודלים המשמשים בענף הלמידה העמוקה של בינה מלאכותית. הם מבוססים באופן רופף על המבנה של מוח אנושי ויש להם אינספור יישומים, אולי בסופו של דבר יוצרים בינה מלאכותית ברמה האנושית. דגמים גדולים יותר מניבים בדרך כלל תוצאות טובות יותר, והחומרה הנדרשת לפיתוח מתקדם מכפילה את עצמה כל שלושה חודשים. פיצוץ זה בפיתוח הפך את הלמידה העמוקה לחלק בסיסי מהחוויה האנושית המודרנית. בשנת 2020, רשת נוירונים הפעיל את המכ"ם על מטוס ריגול אמריקאי, כותבים כעת דוגמניות שפה אימיילים הונאה טובים יותר מאשר בני אדם, ואלגוריתמים של מכוניות בנהיגה עצמית ביצועים טובים יותר בני אדם בסביבות רבות.

GPT-3 175B, דגם ה-GPT-3 הגדול ביותר שהוצע על ידי OpenAI ב Brown et al. (2020) השתמש באשכול של 1,000 NVIDIA Tesla V100 GPUs לאימון - שווה ערך ל-355 שנות הדרכה במכשיר בודד. DALL-E מ ראמש ואח'. (2021), דגם רובוטריק נוסף מבית OpenAI, יש 12 מיליארד פרמטרים והוא הוכשר על למעלה מ-400 מיליון תמונות בכתוביות. OpenAI נשאה את עלות ההכשרה של DALL-E, אך סירבה באופן שנוי במחלוקת לפרסם את המודל בקוד פתוח, כלומר אולי אחד המודלים החשובים ביותר של למידה עמוקה מולטי-מודאלית, נותר בלתי נגיש לכולם מלבד למעטים נבחרים. דרישות המשאבים העצומות לבניית אלה דגמי יסוד ליצור מחסומים משמעותיים לגישה, וללא שיטה לאיסוף משאבים תוך כדי לכידת ערך, סביר להניח שיגרום לקיפאון בהתקדמות בינה מלאכותית. רבים מאמינים שהמודלים המוכללים הללו הם המפתח לפתיחת הבינה הכללית המלאכותית (AGI), מה שגורם לשיטת האימון הנוכחית בממגורות מבודדות ומלאכותיות להיראות אבסורדיות.

הפתרונות הנוכחיים המספקים גישה לאספקת מחשוב הם אוליגופוליסטיים ויקרים או פשוטים לא ישים בהתחשב במורכבות המחשוב הנדרשת עבור AI בקנה מידה גדול. עמידה בדרישת הבלון דורשת מערכת הממנפת בצורה יעילה את כל מחשוב זמין (בניגוד לניצול מעבד עולמי של ~40% כיום). מה שגורם לבעיה הזו כרגע היא העובדה שאספקת המחשוב עצמה נפגעת על ידי אסימפטוטי התקדמות בביצועי המיקרו-מעבד - לצד שרשרת אספקה ו הגיאופוליטי מחסור בשבבים.

חלק 2: מדוע יש צורך בתיאום של גנסין?

האתגר הבסיסי בבניית רשת זו הוא האימות של עבודת ML שהושלמה. זוהי בעיה מורכבת ביותר שיושבת בצומת של תורת המורכבות, תורת המשחקים, קריפטוגרפיה ואופטימיזציה. מלבד הידע האנושי בעיצוב מודלים, ישנן שלוש בעיות יסוד המאטות את ההתקדמות של ML יישומי, 1) גישה לכוח מחשוב; 2) גישה לנתונים; ו-3) גישה לידע (תיוג אמת-קרקע). גנסין פותרת את הבעיה הראשונה על ידי מתן גישה לפי דרישה למחשוב גלובלי שניתן להרחבה במחיר השוק ההוגן שלו, בעוד שקרן גנסין תבקש לעודד פתרונות לשניים ושלוש באמצעות מחקר, מימון ושיתופי פעולה עם פרוטוקולים אחרים.

באופן ספציפי, גישה למעבדים מעולים מאפשרת להכשיר דגמים גדולים/מורכבים יותר ויותר. בעשור האחרון, עליות בצפיפות הטרנזיסטורים והתקדמות במהירות הגישה לזיכרון/מקבילות הפחיתו באופן דרמטי את זמני האימון עבור דגמים גדולים. גישה וירטואלית לחומרה זו, דרך ענקיות ענן כמו AWS ועליבאבא, הרחיבה במקביל את האימוץ. בהתאם, קיים אינטרס ממלכתי חזק ברכישת האמצעים לייצור מעבדים חדישים. לסין עדיין אין את היכולת מקצה לקצה לייצר מוליכים למחצה מתקדמים (כלומר, פרוסות סיליקון), מרכיב חיוני במעבדים. הם צריכים לייבא אותם, במיוחד מ-TSMC (Taiwan Semiconductor Manufacturing Company). ספקי שבבים גם מנסים לחסום לקוחות אחרים מלגשת ליצרני שבבים על ידי רכישת היצע. ברמת המדינה, ארה"ב הייתה חסימה אגרסיבית כל מהלך של חברות סיניות לרכישת טכנולוגיה זו. בהמשך הערימה הטכנולוגית, כמה חברות הרחיק לכת ויצרו חומרה ספציפית ללמידה עמוקה משלהן, כמו אשכולות TPU של גוגל. אלה עולים על ביצועי GPU סטנדרטיים בלמידה עמוקה ואינם זמינים למכירה, רק להשכרה.

הגדלה משמעותית של קנה המידה של המחשוב הנגיש, תוך הפחתת עלות היחידה שלו, פותחת את הדלת לפרדיגמה חדשה לחלוטין ללמידה עמוקה עבור קהילות מחקר ותעשייתיות כאחד. שיפורים בקנה מידה ובעלות מאפשרים לפרוטוקול לבנות סט של דגמי בסיס שכבר מוכחים, מאומנים מראש - הידועים גם בשם דגמי יסוד-באופן דומה ל- דגמי גני חיות של מסגרות פופולריות. זה מאפשר לחוקרים ומהנדסים לחקור באופן גלוי ולהכשיר מודלים מעולים על פני מערכי נתונים פתוחים ענקיים, באופן דומה ל- אלות'ר פּרוֹיֶקט. מודלים אלו יפתרו כמה מהבעיות הבסיסיות של האנושות ללא בעלות ריכוזית או צנזורה. קריפטוגרפיה, במיוחד הצפנה פונקציונלית, תאפשר למנף את הפרוטוקול על פני נתונים פרטיים לפי דרישה. לאחר מכן ניתן לכוונן מודלים ענקיים של בסיס על ידי כל מי שמשתמש במערך נתונים קנייני, תוך שמירה על הערך/הפרטיות בנתונים אלה, אך עדיין חולק ידע קולקטיבי בתכנון ומחקר מודלים.

חלק 3: Gensyn מניע Web3-Native Data Centralization

האינטרנט אולי נולד מממשלת ארה"ב בשנות ה-1960, אבל בשנות ה-1990 הוא היה רשת אנרכית של יצירתיות, אינדיבידואליזם והזדמנויות. הרבה לפני שגוגל אגרה רכיבי TPU, פרויקטים כמו SETI@home ניסו לגלות חיים חייזרים על ידי מיקור המונים של כוח מחשוב מבוזר. עד שנת 2000, ל-SETI@home היה קצב עיבוד של 17 טרפלופים, שהוא יותר מפי שניים מהביצועים של מחשב העל הטוב ביותר באותה תקופה, IBM ASCI White. פרק זמן זה נקרא בדרך כלל 'web1', רגע לפני ההגמוניה של פלטפורמות גדולות כמו גוגל או אמזון (web2), אבל המחשוב המבוזר דשדש בקנה מידה כדי לענות על הצרכים הראשוניים של האינטרנט, בגלל כמה בעיות באותה תקופה.

עם זאת, הריכוזיות הנוכחית של תשתית האינטרנט לפלטפורמות web2 ענקיות יוצרת בעיות משלה, כגון עלות (הרווח הגולמי של AWS הוא הערכה 61%, המייצג דחיסת שוליים עבור רוב החוקרים תת-סקאלה ועסקים מונעי נתונים. במקביל, מופעי מחשוב מרוכזים גם מקריבים שליטה - AWS כיבה את התשתית של פלטפורמת המדיה החברתית הימנית הפופולרית Parler עם התראה של יום אחד בעקבות מהומות הקפיטול ב-6 בינואר 2021. רבים הסכימו עם ההחלטה הזו, אבל התקדים מסוכן כאשר AWS מארחים 42% מבין 10,000 האתרים המובילים באינטרנט. עם זאת, קשה להכשיר מודלים של למידה עמוקה על פני חומרה מבוזרת בגלל בעיית האימות, שאותה פרוטוקול Gensyn עוזר לפתור.

בניית השוק כפרוטוקול Web3 מסירה את הוצאות התקורה הריכוזיות על קנה מידה, ומפחיתה את חסמי הכניסה עבור משתתפי אספקה ​​חדשים, מה שמאפשר לרשת להקיף פוטנציאל כל מכשיר מחשוב בעולם. חיבור כל המכשירים דרך רשת מבוזרת יחידה מספק רמת מדרגיות שכרגע בלתי אפשרית להשיג באמצעות כל ספק קיים, ומעניקה גישה חסרת תקדים לפי דרישה לכל אספקת המחשוב בעולם. עבור משתמשי קצה, זה מפרק לחלוטין את דילמת העלות מול קנה המידה ומספק מחשוב אימון ML שקוף ובעלות נמוכה עבור מדרגיות פוטנציאלית אינסופית (עד למגבלות חומרה פיזיות ברחבי העולם) ולמחירי יחידות שייקבעו על פי דינמיקת השוק. זה עוקף את החפירים הרגילים שמהם נהנים ספקים גדולים, מוריד משמעותית את המחירים ומאפשר תחרות עולמית באמת ברמת המשאבים, ואף שוקל מקרה שבו ספקי שירותי ענן קיימים רואים גם בפרוטוקול Gensyn שדר הפצה המשלים יותר צד ראשון מרכזי יותר. הצעות צרורות.

סיכום:

עם בינה מלאכותית פופולרית כמעט כמו מטבעות קריפטוגרפיים ובלוקצ'יין, התזה שלנו להשקעה ב-Gensyn כפי שהוצגה כאן חייבת לעבור את המבחנים של קלה להבנה ומגובת ראיות, תוך שאפתנות לא פחות בדילול ההזדמנות שנקבעה ליכולת של הפרוטוקול ערך מוסף רשת משאבים ממוקדת בתחילה אך ניתנת להכללה שמקורה ב-web3. עם פרוטוקול Gensyn, אנו מאמינים שאנו רואים את תחילתה של רשת תיאום ניתנת להרחבה, חסכונית, אשר סוללת את הדרך לתובנות יקרות ערך אף יותר אשר מניחות את הבסיס לאינספור יישומים בעתיד.

על CoinFund

CoinFund היא חברת השקעות מגוונת ומובילה ממוקדת בלוקצ'יין שנוסדה בשנת 2015, מבוססת בארה"ב ביחד, יש לנו רקורד וניסיון נרחב במטבעות קריפטוגרפיים, הון מסורתי, אשראי, הון פרטי והשקעות סיכון. אסטרטגיות ה-CoinFund משתרעות על שווקים נזילים ושוק סיכון, והן נהנות מהגישה הרב-תחומית שלנו המסנכרנת כישרון קריפטוני טכני עם ניסיון פיננסי מסורתי. בגישה של "המייסדים תחילה", CoinFund משתפת פעולה באופן הדוק עם חברות הפורטפוליו שלה כדי להניע חדשנות בכל מרחב הנכסים הדיגיטליים.

כתב ויתור

התוכן המופיע באתר זה הוא למטרות מידע ודיון בלבד ואין להסתמך עליו בקשר להחלטת השקעה מסוימת או להתפרש כהצעה, המלצה או שידול לגבי השקעה כלשהי. המחבר אינו תומך באף חברה, פרויקט או אסימון שנדון במאמר זה. כל המידע מוצג כאן "כמות שהוא", ללא אחריות מכל סוג, בין אם מפורשת או משתמעת, וכל הצהרות צופות פני עתיד עשויות להתברר כשגויות. ל-CoinFund Management LLC ולשותפיה עשויות להיות פוזיציות ארוכות או קצרות באסימונים או בפרויקטים הנדונים במאמר זה.

---

פרוטוקול Gensyn מאמן ללא אמון רשתות עצביות בקנה מידה יתר בסדר גודל נמוך יותר... פורסם במקור ב הבלוג של CoinFund ב- Medium, שבו אנשים ממשיכים את השיחה על ידי הדגשה והגיבה לסיפור זה.

• Coinsmart. בורסת הביטקוין והקריפטו הטובה באירופה.
• Platoblockchain. Web3 Metaverse Intelligence. ידע מוגבר. גישה חופשית.
• CryptoHawk. רדאר אלטקוין. ניסיון חינם.
• Source: https://blog.coinfund.io/the-gensyn-protocol-trustlessly-trains-neural-networks-at-hyperscale-with-lower-order-of-magnitude-227fe968fabf?source=rss—-f5f136d48fc3—4