Ez Carter Huffman, a Modulate technológiai igazgatója és társalapítója vendégbejegyzése.
módosít egy bostoni székhelyű startup, amelynek küldetése, hogy gazdagabb, biztonságosabb és befogadóbb online játékélményt építsen mindenki számára. Világszínvonalú hangszakértőkből, játékosokból, szövetségesekből és futuristákból álló csapat vagyunk, akik arra vágynak, hogy jobb online világot építsenek, és minden játékos számára biztonságosabbá tegyék az audiocsevegést. Pontosan ezt tesszük a ToxModdal, a proaktív, hangalapú moderációs platformunkkal. A játékkiadók és -fejlesztők a ToxMod segítségével proaktívan moderálják a hangcsevegést játékaikban, saját tartalmi irányelveiknek, magatartási kódexeiknek és közösségi irányelveiknek megfelelően.
Az AWS-t az alkalmazásunk által igényelt méretezhetőség és rugalmasság, valamint az általa kínált nagyszerű ügyfélszolgálat miatt választottuk. Használata Amazon rugalmas számítási felhő (Amazon EC2) G5g példányok Az NVIDIA T4G Tensor Core GPU-k a ToxMod infrastruktúrájaként segítettek nekünk ötszörösére csökkenteni a költségeinket (a G5dn-példányokhoz képest), miközben elértük az átviteli sebességre és a késleltetésre vonatkozó céljainkat. Fürge startupként ezeket a költségmegtakarításokat további innovációkba fektethetjük be küldetésünk teljesítése érdekében. Ebben a bejegyzésben bemutatjuk használati eseteinket, kihívásainkat és alternatív útvonalainkat, valamint rövid áttekintést adunk az AWS-t használó megoldásunkról.
A változó metaverzum és a ToxMod iránti igény
A modern online játékok és a metaverzum platformok sokkal szociálisabbak lettek, mint elődeik. Történelmileg a játékok arra összpontosítottak, hogy speciális élményt nyújtsanak a játékosoknak. Mára inkább közösségi térré fejlődtek, ahol a játékosok és barátaik összegyűlhetnek, és különféle élmények közül választhatnak. Ezzel a fejlődéssel a mérgezés és a verbális visszaélés gyakran tönkreteheti az egyébként nagyszerű online élményeket.
Tény, hogy a nemrégiben készült tanulmány tól Anti-Defamation League, a játékok toxicitása rosszabb, mint valaha: 2022-ben több mint kétszeresére nőtt a fehér felsőbbrendűségi ideológiáknak való kitettség a játékokban. A felnőtt játékosok több mint háromnegyede számolt be arról, hogy súlyos zaklatást tapasztalt az online játékok során. Több mint 17 millió fiatal játékos volt kitéve bántalmazásnak és zaklatásnak az elmúlt évben. A probléma csak fokozódik, és ezzel együtt készülő szabályozás ami megköveteli, hogy a stúdiók aktívabb szerepet vállaljanak a toxicitás kezelésében és jelentésében, a proaktív hangmoderálás szükségessége sürgetőbb, mint valaha.
A ToxMod segít a játékkiadóknak és platformoknak proaktív módon moderálni hangcsevegésüket saját szabályzataik és irányelveik szerint, így közösségeiket biztonságban és pozitívan tartják. A ToxMod gépi tanulási (ML) modellek sorozatát futtatja, amelyek elemzik a hangos beszélgetések érzelmi, szöveges és társalgási aspektusait, hogy megállapítsák, megsértik-e a kiadó vagy a platform tartalmi irányelveit. A szabálysértéseket az emberi moderátorok jelzik, akik felléphetnek a rossz szereplők ellen. ML modelljeink tartalmazzák az érzelemészlelést, az átírást és az NLP-alapú társalgási elemzést, amely kategorizálja a jogsértéseket, és rangpontszámot ad annak meghatározására, hogy mennyire biztos a jogsértés megtörténte. Ezek az észlelések valós időben történnek, és lehetővé teszik a játékkiadók számára, hogy proaktívan moderálják közösségeiket, amint mérgező hatások jelentkeznek, megakadályozva ezzel a játékosok sérülését és a veszélyes beszélgetések eszkalációját.
Gazdasági és műszaki megfontolások
Kétféle korlátunk van: gazdasági és műszaki. Gazdasági oldalon a problémánk a változó kereslet és a szükséges számítási infrastruktúra bizonytalan mértéke. A játékiparban a fejlesztők és a kiadók minimális árréssel dobnak piacra játékokat, és csak a játék sikeresebbé válásával növekszik. Ez a siker azt jelentheti, hogy legnagyobb ügyfeleink több millió órányi hangcsevegést dolgoznak fel havonta. A ToxMod költségei a feldolgozott hangórák számával skálázódnak, ami nagyon dinamikus a játékosok viselkedése és a játék népszerűségét befolyásoló külső tényezők alapján. Saját szervereink működtetése a ToxMod működtetésére megfizethetetlenül drága mind a költségek, mind a csapat sávszélessége szempontjából. A helyszíni kiszolgálókból hiányzik ez a méretezhetőség, és gyakran kihasználatlanok lesznek, ami azt jelenti, hogy a ToxMod számára a felhő a megfelelő választás. Az AWS segítségével dinamikusan skálázhatunk ügyfeleink igényeihez igazodva, miközben a költségeket minimális szinten tartjuk.
Technikai oldalon, mint minden hangfeldolgozó alkalmazás elkészítésekor, egyensúlyt kell találnunk a késleltetés és az átviteli sebesség között. Egyes felhasználóink arra vágynak, hogy a közösségükben felmerülő helyzeteket egy-két percen belül kezeljék. A késleltetési költségkeret teljesítése érdekében a lehető legalacsonyabb szintre megyünk. Véletlenül sok tapasztalatunk van az ARM-eszközökkel kapcsolatban, mivel a ToxMod kódbázis nagy része olyan kliensoldali eszközökön fut, amelyek gyakran ARM processzoron futnak. Az EC2 G5g példányokat NVIDIA T4G Tensor Core GPU-k hajtják, és AWS Graviton2 A processzorok természetes módon illeszkedtek néhány egyedi neurális hálózati következtetési kódhoz, amelyet az ügyféloldali használatra fejlesztettek ki.
EC2 G5g példányok a költséghatékonyság és az AWS megbízhatóság érdekében
E megfontolások alapján úgy döntöttünk, hogy a G5g-példányokat használjuk a ToxMod infrastruktúrájaként, mivel ezek költséghatékonyak, és ismerős környezeteket biztosítanak modelljeink teszteléséhez és üzembe helyezéséhez. Ezzel a választással végül ötszörösére csökkentettük költségeinket (a G5dn-példányokhoz képest). A gyors iteráció érdekében olyan számítási környezetre volt szükségünk, amelyet adattudósaink és ML mérnökeink ismernek. Egy napon belül megkaptuk a G4g-példányokon futó összes releváns illesztőprogramot, könyvtárat és környezeti változót tartalmazó gépképünket. G5dn-példányokkal kezdtük, és a G4g-n végzett kezdeti tesztjeink lehetővé tették, hogy 5%-kal csökkentsük költségeinket. Sok legdrágább futtatható modellünk GPU-hoz kötött, így tovább tudtuk optimalizálni költségeinket azáltal, hogy megfelelő méretre méreteztük a példányt, amely lehetővé tette a CPU kihasználtságának maximalizálását, miközben egyetlen GPU-hoz fértünk hozzá.
Azon túl, hogy a G5g-példányok különösen jól működnek a mi konfigurációnkban, tudtuk, hogy számíthatunk az AWS technikai támogatására és fiókkezelésére, amely segít a problémák gyors megoldásában és rendkívül magas rendelkezésre állási idő fenntartásában, miközben rendkívül változó terhelés mellett is. Amikor elkezdtük, kevesebb, mint kétszámjegyű összeget költöttünk havonta, és mégis egy valós személy kereste meg a használati esetünket, és egy csapat ember dolgozott velünk, hogy alkalmazásunk ne csak működjön, hanem a legköltségesebben is. hatékony módon.
Megoldásunk áttekintése
A ToxMod megoldása a hangfelvétellel kezdődik, amely az SDK-nknak a játék vagy platform hangcsevegési infrastruktúrájába való integrálásával valósul meg. Az SDK használata (API-n vagy más felületen keresztül) kritikus fontosságú, mert a hang feldolgozásakor rendkívül erőforrás-hatékonynak kell lennie. Bármelyik audio adatfolyamot fel kell dolgoznunk, és gyorsan vissza kell adnunk a rendszer többi részének, különben az ügyfelek hibákkal találkoznak a hangban, amit mindenáron el szeretnénk kerülni. Sok minden okozhat hibákat – beleértve a memóriafoglalást, a szemétgyűjtést és a rendszerhívásokat –, ezért kifejlesztettük a ToxMod SDK-t a lehető legsimább hangfeldolgozás érdekében.
Az SDK-ból a hangcsevegéseket rövid pufferekbe kódolják, és az interneten keresztül küldik el. A feldolgozási oldalon néhány másodpercnyi hangot pufferelünk, és megpróbálunk természetes töréspontokat találni a hangbeszélgetésekben, mielőtt a csomagot elküldjük az AWS felhőbe, ahol a bejövő adatokat mentjük. AWS Lambda funkciókat. Innentől kezdve az audio beszélgetés elemzése a G5g-példányok feldolgozásával történik, amelyek különféle ML hangmodelleket futtatnak. Minimálisra csökkentjük a többletköltséget azáltal, hogy kötegbe szedjük az összes kapott csomagot, és elküldjük azokat a G5g-példányokban lévő GPU-kra. A G5g-példányokat a feldolgozandó hangklipek sorain keresztül tápláljuk, amelyeket automatikus skálázási csoportokhoz kötöttünk, amelyek hatékonyan skálázódnak fel vagy le, mivel a forgalom a nap folyamán változik.
Előretekintés
A ToxMod minden méretű stúdió számára készült, a kis független fejlesztőcsapatoktól az AAA-ig, több csapatos fejlesztőkig és kiadókig. Ma minden eddiginél jobb helyzetben vagyunk ahhoz, hogy olyan szintű támogatást, termékfejlesztést és robusztus funkciókat biztosítsunk, amelyeket a legnagyobb stúdiók vállalati csapatai szoftverpartnereiktől elvárnak. A 18 nyelv többnyelvű támogatásával, a hét minden napján 24 órában elérhető vállalati szintű támogatással, a több játékot kínáló stúdiókhoz rendelkezésre álló egybérlős licencekkel és az AWS által biztosított méretezhető ML infrastruktúra támogatásával itt vagyunk, hogy segítsünk az AAA stúdióknak biztonságossá tenni a hangos csevegést. játékosaik számára.
Ha többet szeretne megtudni arról, hogy az EC2 G5g-példányok hogyan segíthetik az ML-munkaterhelések költséghatékony üzembe helyezését, tekintse meg a következőt: Amazon EC2 G5g példányok.
A szerzőkről
Carter Huffman a Modulate, egy hangtechnológiai startup technológiai igazgatója és társalapítója, amelynek célja az online toxicitás elleni küzdelem és a hangkommunikáció javítása a játékokban. Fizikai, gépi tanulási és adatelemzési háttérrel rendelkezik, korábban a NASA Jet Propulsion Laboratory-ban dolgozott. Szenvedélye az emberi beszéd megértése és manipulálása mély neurális hálózatok segítségével. Az MIT-n szerzett diplomát fizikából.
Shruti Koparkar az AWS vezető termékmarketing-menedzsere. Segít az ügyfeleknek az EC2 gyorsított számítási infrastruktúra felfedezésében, értékelésében és gépi tanulási igényeik kielégítésében.
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- Platoblockchain. Web3 metaverzum intelligencia. Felerősített tudás. Hozzáférés itt.
- Forrás: https://aws.amazon.com/blogs/machine-learning/modulate-makes-voice-chat-safer-while-reducing-infrastructure-costs-by-a-factor-of-5-with-amazon-ec2-g5g-instances/
- :is
- $ UP
- 100
- 17 millió
- 2022
- 7
- a
- AAA
- képesség
- Képes
- Rólunk
- visszaélés
- felgyorsult
- hozzáférés
- megvalósítható
- Szerint
- Fiók
- számlavezetés
- elérése
- Akció
- aktív
- szereplők
- cím
- elfogadja
- Felnőtt
- érintő
- ellen
- célok
- Minden termék
- kiosztás
- alternatív
- amazon
- Amazon EC2
- elemzés
- elemez
- és a
- api
- Alkalmazás
- VANNAK
- ARM
- AS
- szempontok
- At
- hang-
- auto
- elérhető
- AWS
- vissza
- háttér
- Rossz
- Egyenleg
- Sávszélesség
- bázis
- alapján
- BE
- mert
- válik
- válik
- előtt
- Jobb
- között
- szünet
- Költségvetési
- ütköző
- épít
- Épület
- épült
- by
- TUD
- eset
- Okoz
- kihívások
- változó
- választás
- A pop-art design, négy időzóna kijelzése egyszerre és méretének arányai azok az érvek, amelyek a NeXtime Time Zones-t kiváló választássá teszik. Válassza a
- választotta
- klipek
- felhő
- Társalapító
- kód
- kódbázis
- gyűjtemény
- közlés
- Közösségek
- közösség
- képest
- Kiszámít
- számítástechnika
- Magatartás
- magabiztos
- Configuration
- megfontolások
- korlátok
- tartalom
- Beszélgetés
- társalgó
- beszélgetések
- Mag
- Költség
- költségmegtakarítás
- költséghatékony
- kiadások
- tudott
- Pár
- terjed
- kritikai
- CTO
- a válogatott
- szokás
- vevő
- Vevőszolgálat
- Ügyfelek
- Veszélyes
- dátum
- adatelemzés
- nap
- határozott
- mély
- Kereslet
- telepíteni
- Érzékelés
- Határozzuk meg
- Dev
- fejlett
- fejlesztők
- Fejlesztés
- Eszközök
- számjegy
- Ennek
- kétszeresére
- dupla számjegy
- megduplázódott
- le-
- illesztőprogramok
- dinamikus
- dinamikusan
- Gazdasági
- eredményesen
- lehetővé
- engedélyezve
- Mérnökök
- biztosítására
- Vállalkozás
- vállalati szintű
- Környezet
- környezetek
- értékelni
- EVER
- mindenki
- evolúció
- alakult ki
- vár
- drága
- tapasztalat
- Tapasztalatok
- tapasztal
- szakértők
- feltárása
- kitett
- Exponálás
- külső
- rendkívüli módon
- tényezők
- ismerős
- Jellemzők
- Featuring
- Fed
- harc
- Találjon
- megfelelő
- megjelölve
- összpontosított
- A
- barátok
- ból ből
- funkciók
- további
- játék
- Játékosok
- Games
- játékipar
- szerencsejáték
- kap
- szerzés
- Go
- Célok
- GPU
- GPU
- nagy
- Csoportok
- Vendég
- Vendég bejegyzés
- irányelvek
- kéz
- történik
- Esemény
- Legyen
- tekintettel
- segít
- segített
- segít
- itt
- Magas
- nagyon
- történelmileg
- NYITVATARTÁS
- Hogyan
- http
- HTTPS
- emberi
- ideológiák
- kép
- in
- tartalmaz
- befogadó
- Bejövő
- ipar
- Infrastruktúra
- kezdetben
- Innováció
- példa
- integráció
- Felület
- Internet
- kérdések
- IT
- jpg
- tartás
- laboratórium
- hiány
- Nyelvek
- legnagyobb
- Késleltetés
- indít
- TANUL
- tanulás
- szint
- könyvtárak
- engedélyek
- mint
- kiszámításának
- Sok
- Elő/Utó
- gép
- gépi tanulás
- fenntartása
- csinál
- KÉSZÍT
- vezetés
- menedzser
- kezelése
- manipuláló
- mód
- sok
- margók
- Marketing
- Mérkőzés
- Maximize
- Lehet..
- jelenti
- Találkozik
- Memory design
- metaverse
- metaverzum platformok
- millió
- Több millió
- minimális
- minimum
- perc
- Küldetés
- MIT
- ML
- modellek
- mérséklet
- Hónap
- több
- a legtöbb
- többszörös
- több játék
- Természetes
- Szükség
- igények
- hálózat
- hálózatok
- neurális hálózat
- neurális hálózatok
- szám
- Nvidia
- történt
- of
- Ajánlatok
- on
- online
- online szerencsejáték
- üzemeltetési
- Optimalizálja
- Más
- másképp
- áttekintés
- saját
- csomag
- csomagok
- különösen
- partnerek
- szenvedélyes
- múlt
- Emberek (People)
- person
- Fizika
- emelvény
- Platformok
- Plató
- Platón adatintelligencia
- PlatoData
- játékos
- pont
- Politikák
- népszerűség
- pozicionált
- pozitív
- lehetséges
- állás
- hatalom
- powered
- megakadályozása
- korábban
- proaktív
- Probléma
- folyamat
- Feldolgozott
- feldolgozás
- Processzor
- processzorok
- Termékek
- termékfejlesztés
- meghajtás
- ad
- biztosít
- amely
- kiadók
- gyorsan
- elérte
- igazi
- real-time
- kap
- csökkentő
- újrabefektetés
- Számolt
- Jelentő
- szükség
- kötelező
- REST
- erős
- Szerep
- rom
- futás
- futás
- biztonságos
- biztonságosabb
- Megtakarítás
- Megtakarítás
- skálázhatóság
- skálázható
- Skála
- skálázás
- Tudomány
- tudósok
- pontszám
- sdk
- másodperc
- elküldés
- idősebb
- Series of
- szolgál
- Szerverek
- szolgáltatás
- szigorú
- rövid
- oldal
- egyetlen
- helyzetek
- Méret
- méretek
- kicsi
- So
- Közösség
- szoftver
- megoldások
- néhány
- valami
- Hely
- különleges
- beszéd
- Költési
- kezdődött
- indítás
- Még mindig
- folyam
- sztrájk
- stúdiók
- siker
- sikeres
- támogatás
- rendszer
- Vesz
- csapat
- csapat
- Műszaki
- Technológia
- feltételek
- teszt
- tesztek
- hogy
- A
- azok
- Őket
- Ezek
- dolgok
- Keresztül
- egész
- áteresztőképesség
- idő
- nak nek
- Ma
- forgalom
- típusok
- Végül
- Bizonytalan
- megértés
- üzemidő
- sürgős
- us
- Használat
- használ
- használati eset
- Felhasználók
- fajta
- keresztül
- Sértés
- jogsértések
- Hang
- JÓL
- ami
- míg
- fehér
- WHO
- lesz
- val vel
- belül
- Munka
- dolgozott
- dolgozó
- világ
- világszínvonalú
- lenne
- év
- te
- fiatal
- A te
- zephyrnet