זהו פוסט אורח מאת קרטר האפמן, CTO ומייסד שותף ב- Modulate.
לְוַסֵת הוא סטארט-אפ מבוסס בוסטון במשימה לבנות חוויות משחק מקוונות עשירות יותר, בטוחות ומכילות יותר לכולם. אנחנו צוות של מומחי אודיו ברמה עולמית, גיימרים, בעלי ברית ועתידנים, אשר להוטים לבנות עולם מקוון טוב יותר ולהפוך את הצ'אט הקולי לבטוח יותר עבור כל השחקנים. אנחנו עושים בדיוק את זה עם ToxMod, פלטפורמת הניהול הפרואקטיבית והקולית שלנו. מפרסמי ומפתחי משחקים משתמשים ב-ToxMod כדי לנהל באופן יזום צ'אט קולי במשחקים שלהם בהתאם למדיניות התוכן שלהם, לקודי ההתנהגות ולהנחיות הקהילה שלהם.
בחרנו ב-AWS בגלל המדרגיות והגמישות שהאפליקציה שלנו הייתה זקוקה לה, כמו גם שירות הלקוחות הנהדר שהיא מציעה. באמצעות ענן מחשוב אלסטי של אמזון (אמזון EC2) מופעי G5g שילוב של NVIDIA T4G Tensor Core GPUs כתשתית עבור ToxMod עזר לנו להוזיל את העלויות שלנו בפקטור של 5 (בהשוואה למופעי G4dn) תוך השגת היעדים שלנו על תפוקה והשהייה. כסטארט-אפ זריז, אנו יכולים להשקיע מחדש את החיסכון בעלויות הללו בחדשנות נוספת כדי לעזור לשרת את המשימה שלנו. בפוסט זה, אנו מכסים את מקרה השימוש שלנו, האתגרים והנתיבים החלופיים, וסקירה קצרה של הפתרון שלנו באמצעות AWS.
המטא-ורס המשתנה והצורך ב-ToxMod
משחקים מקוונים מודרניים ופלטפורמות metaverse הפכו להרבה יותר חברתיות מקודמיהם. היסטורית, משחקים התמקדו במתן חוויה אוצרת ספציפית לשחקנים. כיום, הם התפתחו להיות יותר מרחב קהילתי, שבו שחקנים וחבריהם יכולים להתכנס ולבחור מגוון חוויות להשתתף בהן. עם האבולוציה הזו, רעילות והתעללות מילולית עלולים לעתים קרובות להרוס חוויות מקוונות נהדרות.
למעשה, על פי א מחקר שנערך לאחרונה מ ליגה נגד השמצה, הרעילות במשחקים גרועה מתמיד: החשיפה לאידיאולוגיות עליונות לבנה במשחקים הוכפלה יותר מהכפילה בשנת 2022. למעלה משלושה רבעים מהשחקנים המבוגרים דיווחו שחוו הטרדה חמורה במשחקים מקוונים. יותר מ-17 מיליון גיימרים צעירים נחשפו לפגיעה והטרדה בשנה האחרונה. הבעיה רק מחמירה, ועם התקנות הקרובות שיחייב את האולפנים לקחת תפקיד פעיל יותר בניהול ודיווח על רעילות, הצורך במנח קול יזום דחוף יותר מאי פעם.
ToxMod עוזר לבעלי אתרים ופלטפורמות משחקים לנהל באופן יזום את הצ'אט הקולי שלהם בהתאם למדיניות ולהנחיות שלהם, ולשמור על הקהילות שלהם בטוחות וחיוביות. ToxMod מפעיל סדרה של מודלים של למידת מכונה (ML) המנתחים את ההיבטים הרגשיים, הטקסטואליים והשיחיים של שיחות קוליות כדי לקבוע אם יש הפרות כלשהן של מדיניות התוכן של בעל האתר או הפלטפורמה. הפרות מסומנות למנהלים אנושיים שיכולים לנקוט פעולה נגד שחקנים גרועים. מודלי ה-ML שלנו כוללים זיהוי רגשות, תמלול וניתוח שיחה מבוסס NLP שמסווג הפרות ומספק ציון דירוג כדי לקבוע עד כמה בטוח שההפרה התרחשה. זיהויים אלה מתרחשים בזמן אמת ומאפשרים לבעלי אתרים במשחקים למתן באופן יזום את הקהילות שלהם כאשר מתרחשת רעילות, ולמנוע נזק לשחקנים ושיחות מסוכנות מהסלמה.
שיקולים כלכליים וטכניים
יש לנו שני סוגים של אילוצים: כלכליים וטכניים. בפן הכלכלי, הבעיה שלנו היא ביקוש משתנה והיקף לא ברור של תשתית המחשוב הנדרשת. בתעשיית המשחקים, מפתחים ומפרסמים משיקים משחקים עם שוליים מינימליים ורק מתגברים ככל שהמשחק הופך למצליח יותר. המשמעות של הצלחה זו יכולה להיות שהלקוחות הגדולים ביותר שלנו מעבדים מיליוני שעות של צ'אט קולי בחודש. העלויות של ToxMod מתארכות עם מספר שעות העיבוד של אודיו, שהוא מאוד דינמי בהתבסס על התנהגות השחקנים וגורמים חיצוניים המשפיעים על הפופולריות של המשחק. הפעלת השרתים שלנו כדי להפעיל את ToxMod היא יקרה מאוד מבחינת העלות והן מבחינת רוחב הפס של הצוות. שרתים מקומיים חסרים יכולת מדרגיות זו ולעתים קרובות הם לא מנוצלים, כלומר הבחירה הנכונה עבור ToxMod היא הענן. עם AWS, אנו יכולים להתאים באופן דינמי לדרישת הלקוחות שלנו תוך שמירה על עלויות למינימום.
בפן הטכני, כמו בבניית כל אפליקציית תהליך קולי, עלינו למצוא איזון בין זמן חביון לתפוקה. חלק מהמשתמשים שלנו רוצים את היכולת לטפל במצבים שעלולים להתעורר בקהילות שלהם תוך דקה או שתיים מהן. כדי לעמוד בתקציבי האחזור שלנו, אנחנו הולכים לרמה נמוכה ככל האפשר. במקרה יש לנו ניסיון רב עם מכשירי ARM מכיוון שחלק גדול מבסיס הקוד של ToxMod פועל על מכשירים בצד הלקוח שלעתים קרובות פועלים על מעבד ARM. מופעי EC2 G5g מופעלים על ידי NVIDIA T4G Tensor Core GPUs וכוללים AWS Graviton2 מעבדים היו התאמה טבעית לחלק מקוד ההסקת הרשת העצבית המותאמת אישית שפותחה לשימוש בצד הלקוח.
מופעי EC2 G5g ליעילות עלות ואמינות AWS
עם שיקולים אלה, החלטנו להשתמש במופעי G5g כתשתית עבור ToxMod מכיוון שהם חסכוניים ומספקים סביבות מוכרות לבדיקה ופריסה של המודלים שלנו. בחירה זו בסופו של דבר עזרה לנו להוזיל את העלויות שלנו בפקטור של 5 (בהשוואה למקרים של G4dn). כדי להיות מסוגל לחזור על הפעולה במהירות, היינו צריכים סביבת מחשוב שהייתה מוכרת למדעני הנתונים ומהנדסי ה-ML שלנו. הצלחנו לקבל את תמונת המחשב שלנו עם כל מנהלי ההתקן, הספריות ומשתני הסביבה הרלוונטיים הפועלים במופעי G5g תוך יום. התחלנו עם מופעי G4dn, והבדיקות הראשוניות שלנו ב-G5g אפשרו לנו להוזיל את העלויות שלנו ב-40%. רבים מהדגמים היקרים ביותר שלנו להפעלה קשורים ל-GPU, כך שהצלחנו לייעל עוד יותר את העלויות שלנו על ידי גודל נכון לגודל מופע שאיפשר לנו למקסם את ניצול ה-CPU תוך כדי גישה ל-GPU יחיד.
מעבר למופעים של G5g שעובדים טוב במיוחד עבור התצורה שלנו, ידענו שנוכל לסמוך על התמיכה הטכנית וניהול החשבונות של AWS שיעזרו לנו לפתור בעיות במהירות ולשמור על זמן פעולה גבוה במיוחד תוך כדי חוויה של עומס משתנה מאוד. כשהתחלנו, הוצאנו פחות מדו-ספרות בחודש, ובכל זאת אדם אמיתי פנה כדי ללמוד על מקרה השימוש שלנו וצוות של אנשים עבד איתנו כדי שהאפליקציה שלנו לא רק תעבוד, אלא תעבוד בעלות הגבוהה ביותר- באופן יעיל.
סקירה כללית של הפתרון שלנו
הפתרון של ToxMod מתחיל בהטמעת אודיו, אשר מתבצעת באמצעות שילוב של ה-SDK שלנו בתשתית הצ'אט הקולי של המשחק או הפלטפורמה. השימוש ב-SDK (על פני API או ממשק אחר) הוא קריטי מכיוון שכאשר אתה מעבד אודיו, אתה צריך להיות חסכוני ביותר במשאבים. עבור כל זרם אודיו בודד, עלינו לעבד אותו ולהחזיר אותו לשאר המערכת במהירות או שלקוחות יתקלו בתקלות באודיו, וזה משהו שאנו רוצים להימנע ממנו בכל מחיר. הרבה דברים יכולים לגרום לתקלות - כולל הקצאת זיכרון, איסוף אשפה ושיחות מערכת - אז פיתחנו את ה-ToxMod SDK כדי להבטיח את עיבוד האודיו החלק האפשרי.
מה-SDK, צ'אטים קוליים מקודדים במאגרים קצרים ונשלחים דרך האינטרנט. בצד הבליעה, אנו מאגרים כמה שניות של שמע, ואנחנו מנסים למצוא נקודות שבירה טבעיות בשיחות קוליות לפני שליחת החבילה לענן AWS, שם אנו שומרים את הנתונים הנכנסים באמצעות AWS למבדה פונקציות. משם, ניתוח שיחת האודיו נעשה באמצעות עיבוד במופעי G5g המריצים את מגוון דגמי האודיו של ML שלנו. אנו ממזערים את התקורה על ידי אצווה של כל החבילות שאנו מקבלים ושליחת אלה אל ה-GPUs במופעי G5g. מופעי ה-G5g מוזנים דרך תורים של קטעי אודיו לעיבוד, אותם חיברנו לקבוצות קנה מידה אוטומטי שמתגברות או מקטינות ביעילות ככל שהתנועה משתנה לאורך היום.
להסתכל קדימה
ToxMod נבנה עבור אולפנים בכל הגדלים, מצוותי פיתוח אינדי קטנים ועד AAA, מפתחים מרובי צוותים ומפרסמים. כיום, אנו ממוקמים טוב יותר מאי פעם לספק את רמת התמיכה, פיתוח המוצר והתכונות החזקות שצוותים ארגוניים באולפנים הגדולים מצפים משותפי התוכנה שלהם. עם תמיכה רב-לשונית ב-18 שפות, תמיכה 24/7 ברמה ארגונית, רישיונות זמינים של דייר יחיד עבור אולפנים עם מספר משחקים, ותמיכה בתשתית ה-ML הניתנת להרחבה ש-AWS מספקת, אנחנו כאן כדי לעזור לאולפני AAA להפוך את הצ'אט הקולי לבטוח עבור השחקנים שלהם.
אם תרצה ללמוד עוד על האופן שבו מופעי EC2 G5g יכולים לעזור לך לפרוס בצורה חסכונית את עומסי העבודה שלך ב-ML, עיין ב- מופעי אמזון EC2 G5g.
על הכותבים
קרטר האפמן הוא ה-CTO ומייסד שותף של Modulate, סטארט-אפ של טכנולוגיית קול שמטרתה להילחם ברעילות מקוונת ולשפר את התקשורת הקולית במשחקים. יש לו רקע בפיזיקה, למידת מכונה וניתוח נתונים, ועבד בעבר במעבדת ההנעה הסילון של נאס"א. הוא נלהב להבין ולתפעל דיבור אנושי באמצעות רשתות עצביות עמוקות. הוא סיים את לימודיו ב-MIT עם תואר ראשון במדעים בפיזיקה.
שרוטי קופרקאר הוא מנהל שיווק מוצר בכיר ב-AWS. היא עוזרת ללקוחות לחקור, להעריך ולאמץ תשתית מחשוב מואצת של EC2 לצרכי למידת המכונה שלהם.
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- Platoblockchain. Web3 Metaverse Intelligence. ידע מוגבר. גישה כאן.
- מקור: https://aws.amazon.com/blogs/machine-learning/modulate-makes-voice-chat-safer-while-reducing-infrastructure-costs-by-a-factor-of-5-with-amazon-ec2-g5g-instances/
- :הוא
- $ למעלה
- 100
- 17 מיליון
- 2022
- 7
- a
- AAA
- יכולת
- יכול
- אודות
- התעללות
- מוּאָץ
- גישה
- מושלם
- פי
- חֶשְׁבּוֹן
- ניהול חשבון
- השגתי
- פעולה
- פעיל
- שחקנים
- כתובת
- לְאַמֵץ
- מְבוּגָר
- משפיע
- נגד
- מטרות
- תעשיות
- הַקצָאָה
- חלופה
- אמזון בעברית
- אמזון
- אנליזה
- לנתח
- ו
- API
- בקשה
- ARE
- זרוע
- AS
- היבטים
- At
- אודיו
- המכונית
- זמין
- AWS
- בחזרה
- רקע
- רע
- איזון
- רוחב פס
- בסיס
- מבוסס
- BE
- כי
- להיות
- הופך להיות
- לפני
- מוטב
- בֵּין
- לשבור
- תקציבים
- חיץ
- לִבנוֹת
- בִּניָן
- נבנה
- by
- CAN
- מקרה
- לגרום
- האתגרים
- משתנה
- בחירה
- בחרו
- בחר
- קליפים
- ענן
- מייסד שותף
- קוד
- בסיס קוד
- אוסף
- תקשורת
- הקהילות
- קהילה
- לעומת
- לחשב
- מחשוב
- לנהל
- בטוח
- תְצוּרָה
- שיקולים
- אילוצים
- תוכן
- שיחה
- שיחה
- שיחות
- ליבה
- עלות
- חיסכון עלויות
- עלות תועלת
- עלויות
- יכול
- זוג
- לכסות
- קריטי
- ראש אגף טכנולוגיה
- אוצר
- מנהג
- לקוח
- שירות לקוחות
- לקוחות
- מסוכן
- נתונים
- ניתוח נתונים
- יְוֹם
- החליט
- עמוק
- דרישה
- לפרוס
- איתור
- לקבוע
- dev
- מפותח
- מפתחים
- צעצועי התפתחות
- התקנים
- ספרות
- עושה
- לְהַכפִּיל
- ספרות כפולות
- הוכפל
- מטה
- נהגים
- דינמי
- באופן דינמי
- כַּלְכָּלִי
- יעילות
- לאפשר
- מופעל
- מהנדסים
- לְהַבטִיחַ
- מִפְעָל
- כיתה ארגונית
- סביבה
- סביבות
- להעריך
- אי פעם
- כולם
- אבולוציה
- התפתח
- לצפות
- יקר
- ניסיון
- חוויות
- התנסות
- מומחים
- לחקור
- חשוף
- חשיפה
- חיצוני
- מאוד
- גורמים
- מוכר
- תכונות
- משתתפים
- הפד
- להלחם
- מתאים
- מסומן
- מרוכז
- בעד
- חברים
- החל מ-
- פונקציות
- נוסף
- מִשְׂחָק
- גיימרים
- משחקים
- תעשיית המשחקים
- המשחקים
- לקבל
- מקבל
- Go
- שערים
- GPU
- GPUs
- גדול
- קבוצה
- אוֹרֵחַ
- פוסט אורח
- הנחיות
- יד
- לקרות
- מתרחש
- יש
- יש
- לעזור
- עזר
- עוזר
- כאן
- גָבוֹהַ
- מאוד
- הסטורי
- שעות
- איך
- http
- HTTPS
- בן אנוש
- אידיאולוגיות
- תמונה
- in
- לכלול
- כולל
- נכנס
- תעשייה
- תשתית
- בתחילה
- חדשנות
- למשל
- השתלבות
- מִמְשָׁק
- אינטרנט
- בעיות
- IT
- jpg
- שמירה
- מעבדה
- חוסר
- שפות
- הגדול ביותר
- חֶבִיוֹן
- לשגר
- לִלמוֹד
- למידה
- רמה
- ספריות
- רישיונות
- כמו
- לִטעוֹן
- מגרש
- נמוך
- מכונה
- למידת מכונה
- לתחזק
- לעשות
- עושה
- ניהול
- מנהל
- ניהול
- מניפולציה
- דרך
- רב
- שולי
- שיווק
- להתאים
- לְהַגדִיל
- מאי..
- משמעות
- לִפְגוֹשׁ
- זכרון
- Metaverse
- פלטפורמות metaverse
- מִילִיוֹן
- מיליונים
- מינימלי
- מינימום
- דקה
- משימה
- MIT
- ML
- מודלים
- מתינות
- חוֹדֶשׁ
- יותר
- רוב
- מספר
- מספר משחקים
- טבעי
- צורך
- צרכי
- רשת
- רשתות
- רשת עצבית
- רשתות עצביות
- מספר
- Nvidia
- התרחשה
- of
- המיוחדות שלנו
- on
- באינטרנט
- משחקים מקוונים
- פועל
- מטב
- אחר
- אַחֶרֶת
- סקירה
- שֶׁלוֹ
- חבילה
- מנות
- במיוחד
- שותפים
- לוהט
- עבר
- אֲנָשִׁים
- אדם
- פיסיקה
- פלטפורמה
- פלטפורמות
- אפלטון
- מודיעין אפלטון
- אפלטון נתונים
- שחקנים
- נקודות
- מדיניות
- פופולריות
- מיקום
- חיובי
- אפשרי
- הודעה
- כּוֹחַ
- מופעל
- מניעה
- קוֹדֶם
- פרואקטיבי
- בעיה
- תהליך
- מעובד
- תהליך
- מעבד
- מעבדים
- המוצר
- פיתוח מוצר
- הֲנָעָה
- לספק
- מספק
- מתן
- המו"לים
- מהירות
- הגיע
- ממשי
- זמן אמת
- לקבל
- הפחתה
- להשקיע
- רלוונטי
- דווח
- דווח
- לדרוש
- נדרש
- REST
- חָסוֹן
- תפקיד
- להרוס
- הפעלה
- ריצה
- בטוח
- בטוח יותר
- שמור
- חיסכון
- בקרת מערכות ותקשורת
- להרחבה
- סולם
- דרוג
- מדע
- מדענים
- ציון
- Sdk
- שניות
- שליחה
- לחצני מצוקה לפנסיונרים
- סדרה
- לשרת
- שרתים
- שרות
- קשה
- קצר
- צד
- יחיד
- מצבים
- מידה
- גדל
- קטן
- So
- חֶברָתִי
- תוכנה
- פִּתָרוֹן
- כמה
- משהו
- מֶרחָב
- ספציפי
- נאום
- הוצאה
- החל
- סטארט - אפ
- עוד
- זרם
- להכות
- האולפנים
- הצלחה
- מוצלח
- תמיכה
- מערכת
- לקחת
- נבחרת
- צוותי
- טכני
- טכנולוגיה
- מונחים
- מבחן
- בדיקות
- זֶה
- השמיים
- שֶׁלָהֶם
- אותם
- אלה
- דברים
- דרך
- בכל
- תפוקה
- זמן
- ל
- היום
- תְנוּעָה
- סוגים
- בסופו של דבר
- לֹא בָּטוּחַ
- הבנה
- זמן פעולה תקין
- דחוף
- us
- נוֹהָג
- להשתמש
- במקרה להשתמש
- משתמשים
- מגוון
- באמצעות
- הֲפָרָה
- הפרות
- קול
- טוֹב
- אשר
- בזמן
- לבן
- מי
- יצטרך
- עם
- בתוך
- תיק עבודות
- עבד
- עובד
- עוֹלָם
- רמה עולמית
- היה
- שנה
- אתה
- צעיר
- זפירנט