To je gostujoča objava Carterja Huffmana, tehničnega direktorja in soustanovitelja pri Modulate.
Modulirajte je zagonsko podjetje s sedežem v Bostonu, katerega naloga je zgraditi bogatejše, varnejše in bolj vključujoče izkušnje spletnih iger za vse. Smo ekipa vrhunskih avdio strokovnjakov, igralcev iger, zaveznikov in futuristov, ki si želijo zgraditi boljši spletni svet in narediti glasovni klepet varnejši za vse igralce. Prav to počnemo s ToxMod, našo proaktivno platformo za glasovno moderiranje. Založniki in razvijalci iger uporabljajo ToxMod za proaktivno moderiranje glasovnega klepeta v svojih igrah v skladu z lastnimi vsebinskimi pravilniki, kodeksi ravnanja in smernicami skupnosti.
AWS smo izbrali zaradi razširljivosti in elastičnosti, ki ju je potrebovala naša aplikacija, ter odlične storitve za stranke, ki jo ponuja. Uporaba Amazonski elastični računalniški oblak (Amazon EC2) G5g primerki z grafičnimi procesorji NVIDIA T4G Tensor Core kot infrastrukturo za ToxMod nam je pomagal znižati naše stroške za faktor 5 (v primerjavi z instancami G4dn), hkrati pa doseči naše cilje glede prepustnosti in zakasnitve. Kot okretno zagonsko podjetje lahko te prihranke pri stroških ponovno vložimo v nadaljnje inovacije, da bi služili našemu poslanstvu. V tej objavi pokrivamo naš primer uporabe, izzive in alternativne poti ter kratek pregled naše rešitve z uporabo AWS.
Spreminjanje metaverzuma in potreba po ToxMod
Sodobne spletne igre in platforme metaverse so postale veliko bolj družabne od svojih predhodnikov. Zgodovinsko gledano so se igre osredotočale na zagotavljanje posebne kurirane izkušnje igralcem. Danes so se razvili v bolj skupni prostor, kjer se lahko igralci in njihovi prijatelji zbirajo in izbirajo različne izkušnje, v katerih se lahko udeležijo. S tem razvojem lahko strupenost in verbalne zlorabe pogosto uničijo sicer odlične spletne izkušnje.
Pravzaprav po navedbi a Nedavna študija Iz Anti-Klevetanje liga, je toksičnost v igrah hujša kot kdaj koli prej: izpostavljenost belim supremacističnim ideologijam v igrah se je leta 2022 več kot podvojila. Več kot tri četrtine odraslih igralcev iger je poročalo o hudem nadlegovanju v spletnih igrah. Več kot 17 milijonov mladih igralcev iger je bilo v zadnjem letu izpostavljenih škodi in nadlegovanju. Težava se le še poslabšuje, in s prihajajoči predpisi ki bo od studiev zahteval, da prevzamejo dejavnejšo vlogo pri upravljanju in poročanju o strupenosti, je potreba po proaktivnem glasovnem moderiranju bolj nujna kot kdaj koli prej.
ToxMod pomaga izdajateljem iger in platformam proaktivno moderirati njihov glasovni klepet v skladu z lastnimi politikami in smernicami, s čimer ohranja svoje skupnosti varne in pozitivne. ToxMod izvaja serijo modelov strojnega učenja (ML), ki analizirajo čustvene, besedilne in pogovorne vidike glasovnih pogovorov, da bi ugotovili, ali obstajajo kakršne koli kršitve vsebinskih pravilnikov založnika ali platforme. Kršitve so označene moderatorjem, ki lahko ukrepajo proti slabim akterjem. Naši modeli ML vključujejo zaznavanje čustev, transkripcijo in pogovorno analizo, ki jo poganja NLP, ki kategorizira kršitve in zagotavlja oceno za določitev, kako prepričani smo, da je do kršitve prišlo. Ta zaznavanja potekajo v realnem času in založnikom iger omogočajo, da proaktivno moderirajo svoje skupnosti, ko se pojavi strupenost, s čimer preprečijo škodo igralcem in stopnjevanje nevarnih pogovorov.
Ekonomski in tehnični vidiki
Imamo dve vrsti omejitev: ekonomske in tehnične. Z ekonomske strani je naš problem spremenljivo povpraševanje in negotov obseg zahtevane računalniške infrastrukture. V industriji iger razvijalci in založniki lansirajo igre z minimalnimi maržami in se povečujejo šele, ko igra postane uspešnejša. Ta uspeh lahko pomeni, da naše največje stranke obdelajo milijone ur glasovnega klepeta na mesec. Stroški ToxMod se merijo glede na število ur obdelanega zvoka, kar je zelo dinamično glede na vedenje igralcev in zunanje dejavnike, ki vplivajo na priljubljenost igre. Upravljanje lastnih strežnikov za napajanje ToxMod je pregrešno drago tako glede stroškov kot pasovne širine ekipe. Lokalni strežniki nimajo te razširljivosti in bi bili pogosto premalo izkoriščeni, kar pomeni, da je prava izbira za ToxMod oblak. Z AWS se lahko dinamično prilagajamo povpraševanju naših strank, hkrati pa ohranjamo minimalne stroške.
S tehnične strani moramo, tako kot pri gradnji katere koli aplikacije za glasovni proces, najti ravnotežje med zakasnitvijo in prepustnostjo. Nekateri naši uporabniki želijo možnost obravnavanja situacij, ki se lahko pojavijo v njihovih skupnostih, v minuti ali dveh. Da bi izpolnili naše proračune za zakasnitve, gremo na čim nižjo raven. Slučajno imamo veliko izkušenj z napravami ARM, ker se veliko baze kode ToxMod izvaja na napravah na strani odjemalca, ki pogosto delujejo na procesorju ARM. Primerki EC2 G5g, ki jih poganjajo grafični procesorji NVIDIA T4G Tensor Core in vključujejo AWS Graviton2 procesorji so bili naravno primerni za nekatere kode sklepanja nevronske mreže po meri, ki so bile razvite za uporabo na strani odjemalca.
Primerki EC2 G5g za stroškovno učinkovitost in zanesljivost AWS
Glede na te premisleke smo se odločili, da uporabimo primerke G5g kot infrastrukturo za ToxMod, ker so stroškovno učinkoviti in zagotavljajo poznana okolja za testiranje in uvajanje naših modelov. Ta izbira nam je na koncu pomagala znižati naše stroške za faktor 5 (v primerjavi s primerki G4dn). Da bi lahko hitro ponavljali, smo potrebovali računalniško okolje, ki je bilo poznano našim podatkovnim znanstvenikom in inženirjem ML. V enem dnevu smo lahko pridobili sliko našega stroja z vsemi ustreznimi gonilniki, knjižnicami in spremenljivkami okolja, ki se izvajajo na primerkih G5g. Začeli smo na primerkih G4dn, naši začetni testi na G5g pa so nam omogočili znižanje stroškov za 40 %. Številni naši najdražji modeli za izvajanje so vezani na GPE, zato smo lahko dodatno optimizirali naše stroške s pravilnim prilagajanjem velikosti instanci, ki nam je omogočila maksimiranje izkoriščenosti CPE, medtem ko smo še vedno imeli dostop do ene same GPE.
Poleg primerkov G5g, ki delujejo še posebej dobro za našo konfiguracijo, smo vedeli, da se lahko zanesemo na tehnično podporo in upravljanje računa AWS, ki nam bosta pomagala pri hitrem reševanju težav in ohranjanju izjemno dolgega časa delovanja ob zelo spremenljivi obremenitvi. Ko smo začeli, smo porabili manj kot dvomestne zneske na mesec, vendar je resnična oseba dosegla, da bi izvedela o našem primeru uporabe, in ekipa ljudi je sodelovala z nami, da bi naša aplikacija ne le delovala, ampak delovala z najcenejšimi stroški. učinkovit način.
Pregled naše rešitve
Rešitev ToxMod se začne z zaužitjem zvoka, ki se doseže z integracijo našega SDK-ja v infrastrukturo glasovnega klepeta igre ali platforme. Uporaba SDK-ja (prek API-ja ali drugega vmesnika) je ključnega pomena, ker morate biti pri obdelavi zvoka izjemno učinkoviti z viri. Vsak posamezen zvočni tok ga moramo obdelati in hitro predati nazaj preostalemu sistemu, sicer bodo stranke naletele na napake v zvoku, čemur se želimo izogniti za vsako ceno. Veliko stvari lahko povzroči napake – vključno z dodeljevanjem pomnilnika, zbiranjem smeti in sistemskimi klici – zato smo razvili ToxMod SDK, da zagotovimo najbolj gladko možno obdelavo zvoka.
Iz SDK so glasovni klepeti kodirani v kratke medpomnilnike in poslani po internetu. Na strani zaužitja shranimo nekaj sekund zvoka v medpomnilnik in poskušamo najti naravne prekinitvene točke v glasovnih pogovorih, preden pošljemo paket v oblak AWS, kjer shranimo dohodne podatke prek AWS Lambda funkcije. Od tam se analiza zvočnega pogovora izvede prek obdelave na primerkih G5g, ki izvajajo naše različne zvočne modele ML. Minimiziramo režijske stroške tako, da združimo vse pakete, ki jih prejmemo, in jih pošljemo GPU-jem v primerkih G5g. Primerki G5g se napajajo prek čakalnih vrst zvočnih posnetkov za obdelavo, ki smo jih povezali s skupinami za samodejno spreminjanje velikosti, ki se učinkovito povečajo ali zmanjšajo, ko se promet čez dan spreminja.
Pogled naprej
ToxMod je ustvarjen za studie vseh velikosti, od majhnih indie dev ekip do AAA, razvijalcev in založnikov z več ekipami. Danes smo v boljšem položaju kot kdaj koli prej, da zagotovimo raven podpore, razvoja izdelkov in robustnih funkcij, ki jih poslovne ekipe v največjih studiih pričakujejo od svojih programskih partnerjev. Z večjezično podporo za 18 jezikov, 24/7 podporo za podjetja, razpoložljivimi licencami za enega najemnika za studie z več igrami in podporo razširljive infrastrukture ML, ki jo zagotavlja AWS, smo tukaj, da studiem AAA pomagamo narediti glasovni klepet varen za svoje igralce.
Če želite izvedeti več o tem, kako vam lahko primerki EC2 G5g pomagajo pri stroškovno učinkoviti uvedbi delovnih obremenitev ML, glejte Primerki Amazon EC2 G5g.
O avtorjih
Carter Huffman je tehnični direktor in soustanovitelj Modulate, zagonskega podjetja za glasovno tehnologijo, katerega cilj je boj proti spletni toksičnosti in izboljšanje glasovne komunikacije v igrah. Ima izkušnje s fiziko, strojnim učenjem in analizo podatkov, pred tem pa je delal v Nasinem Laboratoriju za reaktivni pogon. Navdušen je nad razumevanjem in manipuliranjem človeškega govora z uporabo globokih nevronskih mrež. Na MIT je diplomiral iz fizike.
Šruti Koparkar je višji vodja trženja izdelkov pri AWS. Strankam pomaga raziskati, oceniti in sprejeti pospešeno računalniško infrastrukturo EC2 za njihove potrebe strojnega učenja.
- Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
- Platoblockchain. Web3 Metaverse Intelligence. Razširjeno znanje. Dostopite tukaj.
- vir: https://aws.amazon.com/blogs/machine-learning/modulate-makes-voice-chat-safer-while-reducing-infrastructure-costs-by-a-factor-of-5-with-amazon-ec2-g5g-instances/
- : je
- $GOR
- 100
- 17 milijonov
- 2022
- 7
- a
- AAA
- sposobnost
- Sposobna
- O meni
- zloraba
- pospešeno
- dostop
- doseženo
- Po
- Račun
- vodenje računa
- doseganju
- Ukrep
- aktivna
- akterji
- Naslov
- sprejme
- Izobraževanje odraslih
- vplivajo
- proti
- Cilje
- vsi
- dodelitev
- alternativa
- Amazon
- Amazon EC2
- Analiza
- analizirati
- in
- API
- uporaba
- SE
- ARM
- AS
- vidiki
- At
- audio
- avto
- Na voljo
- AWS
- nazaj
- ozadje
- Slab
- Ravnovesje
- pasovna širina
- baza
- temeljijo
- BE
- ker
- postanejo
- postane
- pred
- Boljše
- med
- Break
- Proračuni
- varovalni
- izgradnjo
- Building
- zgrajena
- by
- CAN
- primeru
- Vzrok
- izzivi
- spreminjanje
- izbira
- Izberite
- izbral
- posnetki
- Cloud
- So-ustanovitelj
- Koda
- baza kod
- zbirka
- Komunikacija
- skupnosti
- skupnost
- v primerjavi z letom
- Izračunajte
- računalništvo
- Ravnanje
- Prepričani
- konfiguracija
- premislekov
- omejitve
- vsebina
- Pogovor
- pogovorni
- pogovorov
- Core
- strošek
- prihranki pri stroških
- stroškovno učinkovito
- stroški
- bi
- par
- pokrov
- kritično
- CTO
- kurirano
- po meri
- stranka
- Za stranke
- Stranke, ki so
- Nevarno
- datum
- Analiza podatkov
- dan
- odločil
- globoko
- Povpraševanje
- razporedi
- Odkrivanje
- Ugotovite,
- dev
- razvili
- Razvijalci
- Razvoj
- naprave
- števk
- tem
- podvojila
- dvocifre
- podvojilo
- navzdol
- vozniki
- dinamično
- dinamično
- Gospodarska
- učinkovito
- omogočajo
- omogočena
- Inženirji
- zagotovitev
- Podjetje
- podjetniškega razreda
- okolje
- okolja
- oceniti
- VEDNO
- vsi
- evolucija
- razvil
- pričakovati
- drago
- izkušnje
- Doživetja
- doživlja
- Strokovnjaki
- raziskuje
- izpostavljena
- Izpostavljenost
- zunanja
- izredno
- dejavniki
- seznanjeni
- Lastnosti
- Featuring
- Fed
- boj
- Najdi
- fit
- označeno
- osredotočena
- za
- prijatelji
- iz
- funkcije
- nadalje
- igra
- Gamers
- Games
- industriji iger
- igre na srečo
- dobili
- pridobivanje
- Go
- Cilji
- GPU
- Grafične kartice
- veliko
- Skupine
- Gost
- Gost Prispevek
- Smernice
- strani
- se zgodi
- Zgodi se
- Imajo
- ob
- pomoč
- pomagal
- Pomaga
- tukaj
- visoka
- zelo
- Zgodovinsko
- URE
- Kako
- http
- HTTPS
- človeškega
- ideologije
- slika
- in
- vključujejo
- Vključno
- Dohodni
- Industrija
- Infrastruktura
- začetna
- Inovacije
- primer
- integracija
- vmesnik
- Internet
- Vprašanja
- IT
- jpg
- vzdrževanje
- Laboratorij
- Pomanjkanje
- jeziki
- Največji
- Latenca
- kosilo
- UČITE
- učenje
- Stopnja
- knjižnice
- Licence
- kot
- obremenitev
- Sklop
- nizka
- stroj
- strojno učenje
- vzdrževati
- Znamka
- IZDELA
- upravljanje
- upravitelj
- upravljanje
- manipuliranje
- Način
- več
- marže
- Trženje
- Stave
- Povečajte
- Maj ..
- kar pomeni,
- Srečati
- Spomin
- Metaverse
- platforme metaverse
- milijonov
- milijoni
- minimalna
- minimalna
- min
- Mission
- MIT
- ML
- modeli
- zmernost
- mesec
- več
- Najbolj
- več
- več iger
- naravna
- Nimate
- potrebe
- mreža
- omrežij
- nevronska mreža
- nevronske mreže
- Številka
- Nvidia
- zgodilo
- of
- Ponudbe
- on
- na spletu
- spletno igranje
- deluje
- Optimizirajte
- Ostalo
- drugače
- pregled
- lastne
- paket
- paketi
- zlasti
- partnerji
- strastno
- preteklosti
- ljudje
- oseba
- Fizika
- platforma
- Platforme
- platon
- Platonova podatkovna inteligenca
- PlatoData
- igralci
- točke
- politike
- Priljubljenost
- pozicioniran
- pozitiven
- mogoče
- Prispevek
- moč
- poganja
- preprečevanje
- prej
- Proaktivna
- problem
- Postopek
- Predelano
- obravnavati
- Procesor
- procesorji
- Izdelek
- Razvoj izdelkov
- pogon
- zagotavljajo
- zagotavlja
- zagotavljanje
- založnikov
- hitro
- dosegel
- pravo
- v realnem času
- prejeti
- zmanjšanje
- reinvestirati
- pomembno
- Prijavljeno
- Poročanje
- zahteva
- obvezna
- REST
- robusten
- vloga
- uniči
- Run
- tek
- varna
- varnejši
- Shrani
- Prihranki
- Prilagodljivost
- razširljive
- Lestvica
- skaliranje
- Znanost
- Znanstveniki
- rezultat
- SDK
- sekund
- pošiljanja
- višji
- Serija
- služijo
- Strežniki
- Storitev
- huda
- Kratke Hlače
- strani
- sam
- situacije
- Velikosti
- velikosti
- majhna
- So
- socialna
- Software
- Rešitev
- nekaj
- Nekaj
- Vesolje
- specifična
- govor
- Poraba
- začel
- zagon
- Še vedno
- tok
- stavke
- studii
- uspeh
- uspešno
- podpora
- sistem
- Bodite
- skupina
- Skupine
- tehnični
- Tehnologija
- Pogoji
- Test
- testi
- da
- O
- njihove
- Njih
- te
- stvari
- skozi
- vsej
- pretočnost
- čas
- do
- danes
- Prometa
- Vrste
- Konec koncev
- Negotov
- razumevanje
- uptime
- nujno
- us
- Uporaba
- uporaba
- primeru uporabe
- Uporabniki
- raznolikost
- preko
- POVREDA
- Kršitve
- Voice
- Dobro
- ki
- medtem
- bele
- WHO
- bo
- z
- v
- delo
- delal
- deluje
- svet
- svetovni razred
- bi
- leto
- Vi
- mladi
- Vaša rutina za
- zefirnet