Tämä on vieraspostaus Carter Huffmanilta, teknologiajohtajalta ja Modulaten perustajilta.
Moduloida on Bostonissa toimiva startup, jonka tehtävänä on rakentaa rikkaampia, turvallisempia ja osallistavampia online-pelikokemuksia kaikille. Olemme joukko maailmanluokan ääniasiantuntijoita, pelaajia, liittolaisia ja futuristeja, jotka haluavat rakentaa parempaa verkkomaailmaa ja tehdä äänichatista turvallisempaa kaikille pelaajille. Teemme juuri sen ToxModilla, joka on ennakoiva, äänipohjainen moderointialustamme. Pelien julkaisijat ja kehittäjät käyttävät ToxModia valvoakseen ennakoivasti äänikeskusteluja peleissään omien sisältökäytäntöjensä, käytännesääntöjensä ja yhteisön ohjeidensa mukaisesti.
Valitsimme AWS:n sovelluksemme tarvitseman skaalautuvuuden ja joustavuuden sekä sen tarjoaman erinomaisen asiakaspalvelun vuoksi. Käyttämällä Amazonin elastinen laskentapilvi (Amazon EC2) G5g-esiintymiä NVIDIA T4G Tensor Core -grafiikkasuorittimet ToxModin infrastruktuurina on auttanut meitä alentamaan kustannuksiamme kertoimella 5 (verrattuna G4dn-esiintymiin) samalla kun saavutimme suorituskyvyn ja latenssin tavoitteemme. Ketterä startup-yrityksenä voimme investoida nämä kustannussäästöt uusiin innovaatioihin palvellaksemme tehtäväämme. Tässä viestissä käsittelemme käyttötapauksiamme, haasteitamme ja vaihtoehtoisia polkujamme sekä lyhyen yleiskatsauksen AWS:ää käyttävästä ratkaisustamme.
Muuttuva metaverse ja ToxModin tarve
Nykyaikaisista verkkopeleistä ja metaverse-alustoista on tullut paljon sosiaalisempia kuin edeltäjänsä. Pelit ovat historiallisesti keskittyneet tarjoamaan pelaajille tietyn kuratoidun kokemuksen. Nykyään niistä on kehittynyt enemmän yhteisöllinen tila, jossa pelaajat ja heidän ystävänsä voivat kokoontua ja valita erilaisia kokemuksia osallistuakseen. Tämän kehityksen myötä myrkyllisyys ja sanallinen pahoinpitely voivat usein pilata muuten hienot verkkokokemukset.
Itse asiassa a Tuoreen tutkimuksen mistä Anti-Defamation League, pelien myrkyllisyys on pahempaa kuin koskaan: altistuminen valkoisten ylivaltaa ajaville ideologioille peleissä yli kaksinkertaistui vuonna 2022. Yli kolme neljäsosaa aikuisista pelaajista ilmoitti kokeneensa vakavaa häirintää verkkopeleissä. Yli 17 miljoonaa nuorta pelaajaa joutui vahingolle ja häirinnälle kuluneen vuoden aikana. Ongelma vain pahenee, ja sen mukana tulevista määräyksistä mikä edellyttää studioiden ottavan aktiivisempaa roolia myrkyllisyyden hallinnassa ja raportoinnissa, tarve ennakoivalle äänen moderaatiolle on kiireellisempi kuin koskaan.
ToxMod auttaa pelien julkaisijoita ja alustoja hallitsemaan proaktiivisesti äänikeskustelujaan omien käytäntöjensä ja ohjeidensa mukaisesti pitäen yhteisönsä turvassa ja positiivisina. ToxMod käyttää sarjaa koneoppimismalleja (ML), jotka analysoivat äänikeskustelujen tunne-, teksti- ja keskustelunäkökohtia määrittääkseen, onko julkaisijan tai alustan sisältökäytäntöjä rikottu. Rikkomuksista ilmoitetaan ihmismoderaattoreille, jotka voivat ryhtyä toimiin huonoja toimijoita vastaan. ML-malleihimme kuuluvat tunteiden havaitseminen, transkriptio ja NLP-pohjainen keskusteluanalyysi, joka luokittelee rikkomukset ja antaa arvopisteen sen määrittämiseksi, kuinka varma rikkomuksen tapahtumisesta on. Nämä havainnot tapahtuvat reaaliajassa, ja niiden avulla pelin julkaisijat voivat ennakoivasti valvoa yhteisöjään myrkyllisyyden ilmaantuessa, mikä estää pelaajille aiheutuvien vahinkojen ja vaarallisten keskustelujen eskaloitumisen.
Taloudelliset ja tekniset näkökohdat
Meillä on kahdenlaisia rajoituksia: taloudellisia ja teknisiä. Taloudellisella puolella ongelmamme on vaihteleva kysyntä ja tarvittavan laskentainfrastruktuurin epävarmuus. Pelialalla kehittäjät ja julkaisijat lanseeraavat pelejä minimaalisilla marginaaleilla ja skaalautuvat vain pelin menestyessä. Menestys voi tarkoittaa, että suurimmat asiakkaamme käsittelevät miljoonia tunteja äänichatteja kuukaudessa. ToxModin kustannukset skaalautuvat käsitellyn äänen tuntimäärään, joka on erittäin dynaaminen pelaajien käyttäytymisen ja pelin suosioon vaikuttavien ulkoisten tekijöiden perusteella. Omien palvelimien käyttäminen ToxModin tehostamiseksi on kohtuuttoman kallista sekä kustannusten että tiimin kaistanleveyden kannalta. Paikallisilta palvelimilta puuttuu tämä skaalautuvuus, ja ne jäävät usein vajaakäyttöisiksi, mikä tarkoittaa, että oikea valinta ToxModille on pilvi. AWS:n avulla voimme skaalata dynaamisesti vastaamaan asiakkaidemme kysyntään pitäen kustannukset mahdollisimman pieninä.
Teknisellä puolella, kuten mitä tahansa puheprosessisovellusta luotaessa, meidän on löydettävä tasapaino latenssin ja suorituskyvyn välillä. Jotkut käyttäjistämme haluavat pystyä käsittelemään tilanteita, joita saattaa syntyä heidän yhteisöissään minuutin tai kahden sisällä niiden tapahtumisesta. Täyttääksemme viivebudjettimme menemme mahdollisimman alhaiselle tasolle. Meillä on paljon kokemusta ARM-laitteista, koska suuri osa ToxMod-koodikannasta toimii asiakaspuolen laitteissa, jotka usein toimivat ARM-prosessorilla. EC2 G5g -esiintymät, jotka toimivat NVIDIA T4G Tensor Core -grafiikkasuorittimilla ja sisältävät AWS Graviton 2 prosessorit sopivat luonnollisesti joihinkin asiakaspuolen käyttöön kehitetyistä mukautetuista hermoverkkojen päättelykoodista.
EC2 G5g -esiintymät kustannustehokkuutta ja AWS-luotettavuutta varten
Näiden seikkojen perusteella päätimme käyttää G5g-esiintymiä ToxModin infrastruktuurina, koska ne ovat kustannustehokkaita ja tarjoavat tutut ympäristöt malliemme testaamiseen ja käyttöönottoon. Tämä valinta auttoi meitä lopulta alentamaan kustannuksiamme kertoimella 5 (verrattuna G4dn-esiintymiin). Jotta voisimme iteroida nopeasti, tarvitsimme laskentaympäristön, joka oli tuttu datatieteilijöillemme ja ML-insinööreillemme. Saimme konekuvamme, jossa kaikki asiaankuuluvat ohjaimet, kirjastot ja ympäristömuuttujat ovat käynnissä G5g-esiintymissä, päivässä. Aloitimme G4dn-esiintymillä, ja ensimmäisten G5g-testien ansiosta pystyimme alentamaan kustannuksia 40 %. Monet kalleimmista malleistamme ovat GPU-sidottuja, joten pystyimme edelleen optimoimaan kustannuksiamme tekemällä oikean koon ilmentymän kokoon, jonka avulla pystyimme maksimoimaan suorittimen käyttöasteen samalla, kun meillä oli pääsy yhteen GPU:hun.
Sen lisäksi, että G5g-esiintymät toimivat erityisen hyvin kokoonpanossamme, tiesimme, että voimme luottaa AWS:n tekniseen tukeen ja tilinhallintaan, joka auttaa meitä ratkaisemaan ongelmat nopeasti ja ylläpitämään erittäin korkeaa käytettävyyttä samalla kun koemme erittäin vaihtelevan kuormituksen. Kun aloitimme, kulutimme alle kaksinumeroisen summan kuukaudessa, mutta silti todellinen henkilö otti yhteyttä saadakseen tietoa käyttötapauksestamme, ja joukko ihmisiä työskenteli kanssamme saadakseen sovelluksemme toimimaan myös edullisimmin. tehokas tapa.
Yleiskatsaus ratkaisustamme
ToxModin ratkaisu alkaa äänen sisäänotolla, joka saavutetaan integroimalla SDK pelin tai alustan äänikeskusteluinfrastruktuuriin. SDK:n käyttö (sovellusliittymän tai muun käyttöliittymän kautta) on kriittistä, koska ääntä käsitellessäsi on oltava erittäin resurssitehokas. Jokaista yksittäistä äänivirtaa varten meidän on käsiteltävä se ja annettava se takaisin muulle järjestelmälle nopeasti tai asiakkaat kohtaavat äänihäiriöitä, joita haluamme välttää hinnalla millä hyvänsä. Monet asiat voivat aiheuttaa häiriöitä – mukaan lukien muistin varaaminen, roskien kerääminen ja järjestelmäkutsut – joten olemme kehittäneet ToxMod SDK:n takaamaan sujuvan mahdollisen äänenkäsittelyn.
SDK:sta äänichatit koodataan lyhyisiin puskureihin ja lähetetään Internetin kautta. Käsittelypuolella puskuroimme muutaman sekunnin ääntä ja yritämme löytää luonnollisia katkoskohtia äänikeskusteluissa ennen paketin lähettämistä AWS-pilveen, jossa tallennamme saapuvat tiedot AWS Lambda toimintoja. Sieltä äänikeskustelun analysointi tapahtuu G5g-instanssien käsittelyn avulla, joka käyttää erilaisia ML-äänimallejamme. Minimoimme ylimääräiset kustannukset ryhmittelemällä kaikki vastaanottamamme paketit ja lähettämällä ne G5g-instanssien GPU:ille. G5g-esiintymät syötetään prosessoitavien äänileikkeiden jonojen kautta, jotka olemme kytkeneet automaattisiin skaalausryhmiin, jotka skaalautuvat tehokkaasti ylös tai alas, kun liikenne vaihtelee päivän aikana.
Katse eteenpäin
ToxMod on suunniteltu kaikenkokoisille studioille pienistä indie-kehittäjätiimeistä AAA:han, usean tiimin kehittäjiin ja julkaisijoihin. Nykyään meillä on paremmat mahdollisuudet tarjota tukea, tuotekehitystä ja vankkoja ominaisuuksia, joita suurimpien studioiden yritystiimit ohjelmistokumppaneiltaan odottavat. Monikielisen tuen 18 kielelle, 24/7 yritystason tuen, saatavilla olevat yhden vuokraajan lisenssit studioille, joissa on useita pelejä ja AWS:n tarjoaman skaalautuvan ML-infrastruktuurin tuen, olemme täällä auttamassa AAA-studioita tekemään äänikeskustelusta turvalliseksi. pelaajilleen.
Jos haluat lisätietoja siitä, kuinka EC2 G5g -esiintymät voivat auttaa sinua ottamaan käyttöön ML-työkuormitukset kustannustehokkaasti, katso Amazon EC2 G5g -esiintymät.
Tietoja Tekijät
Carter Huffman on teknologiajohtaja ja yksi perustajista Modulate-ääniteknologiastartupissa, jonka tavoitteena on taistella verkkomyrkyllisyyttä vastaan ja parantaa puheviestintää peleissä. Hänellä on tausta fysiikasta, koneoppimisesta ja data-analyysistä, ja hän työskenteli aiemmin NASAn Jet Propulsion Laboratoryssa. Hän on intohimoinen ihmisen puheen ymmärtämiseen ja manipulointiin syvien hermoverkkojen avulla. Hän valmistui MIT:stä fysiikan kandidaatilla.
Shruti Koparkar on AWS:n tuotemarkkinointipäällikkö. Hän auttaa asiakkaita tutkimaan, arvioimaan ja ottamaan käyttöön EC2-kiihdytettyä laskentainfrastruktuuria koneoppimistarpeisiinsa.
- SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
- Platoblockchain. Web3 Metaverse Intelligence. Tietoa laajennettu. Pääsy tästä.
- Lähde: https://aws.amazon.com/blogs/machine-learning/modulate-makes-voice-chat-safer-while-reducing-infrastructure-costs-by-a-factor-of-5-with-amazon-ec2-g5g-instances/
- :On
- $ YLÖS
- 100
- 17 euroa
- 2022
- 7
- a
- AAA
- kyky
- pystyy
- Meistä
- hyväksikäyttö
- kiihtyi
- pääsy
- Suoritetut
- Mukaan
- Tili
- tilin hallinta
- saavuttamisessa
- Toiminta
- aktiivinen
- toimijoiden
- osoite
- hyväksyä
- Aikuinen
- vaikuttavat
- vastaan
- tavoitteet
- Kaikki
- jako
- vaihtoehto
- Amazon
- Amazon EC2
- analyysi
- analysoida
- ja
- api
- Hakemus
- OVAT
- ARM
- AS
- näkökohdat
- At
- audio-
- auto
- saatavissa
- AWS
- takaisin
- tausta
- Huono
- Balance
- kaistanleveys
- pohja
- perustua
- BE
- koska
- tulevat
- tulee
- ennen
- Paremmin
- välillä
- Tauko
- Talousarviot
- puskuri
- rakentaa
- Rakentaminen
- rakennettu
- by
- CAN
- tapaus
- Aiheuttaa
- haasteet
- muuttuviin
- valinta
- Valita
- valitsi
- leikkeet
- pilvi
- Perustaja
- koodi
- koodikanta
- kokoelma
- Viestintä
- yhteisöjen
- yhteisö
- verrattuna
- Laskea
- tietojenkäsittely
- Suorittaa
- luottavainen
- Konfigurointi
- näkökohdat
- rajoitteet
- pitoisuus
- Keskustelu
- puhekielen
- keskustelut
- Ydin
- Hinta
- kustannussäästöjä
- kustannustehokas
- kustannukset
- voisi
- Pari
- kattaa
- kriittinen
- CTO
- kuratoitu
- asiakassuhde
- asiakas
- Asiakaspalvelu
- Asiakkaat
- Vaarallinen
- tiedot
- tietojen analysointi
- päivä
- päätti
- syvä
- Kysyntä
- sijoittaa
- Detection
- Määrittää
- dev
- kehitetty
- kehittäjille
- Kehitys
- Laitteet
- numeroa
- tekee
- kaksinkertainen
- kaksinumeroisia
- kaksinkertaistunut
- alas
- kuljettajat
- dynaaminen
- dynaamisesti
- Taloudellinen
- tehokkaasti
- mahdollistaa
- käytössä
- Engineers
- varmistaa
- yritys
- yritystason
- ympäristö
- ympäristöissä
- arvioida
- EVER
- jokainen
- evoluutio
- kehittynyt
- odottaa
- kallis
- experience
- Elämykset
- kokevat
- asiantuntijat
- tutkia
- avoin
- Valotus
- ulkoinen
- erittäin
- tekijät
- tuttu
- Ominaisuudet
- Featuring
- Fed
- taistella
- Löytää
- sovittaa
- Merkityt
- keskityttiin
- varten
- ystäviä
- alkaen
- tehtävät
- edelleen
- peli
- Gamers
- Pelit
- peliteollisuus
- pelaamista
- saada
- saada
- Go
- Tavoitteet
- GPU
- GPU
- suuri
- Ryhmän
- vieras
- vieras Lähetä
- suuntaviivat
- käsi
- tapahtua
- Happening
- Olla
- ottaa
- auttaa
- auttanut
- auttaa
- tätä
- Korkea
- erittäin
- historiallisesti
- TUNTIA
- Miten
- http
- HTTPS
- ihmisen
- ideologiat
- kuva
- in
- sisältää
- täydellinen
- Saapuva
- teollisuus
- Infrastruktuuri
- ensimmäinen
- Innovaatio
- esimerkki
- integraatio
- liitäntä
- Internet
- kysymykset
- IT
- jpg
- pito
- laboratorio
- Lack
- kielet
- suurin
- Viive
- käynnistää
- OPPIA
- oppiminen
- Taso
- kirjastot
- lisenssejä
- pitää
- kuormitus
- Erä
- Matala
- kone
- koneoppiminen
- ylläpitää
- tehdä
- TEE
- johto
- johtaja
- toimitusjohtaja
- käsittelylaite
- tapa
- monet
- marginaalit
- Marketing
- ottelu
- Maksimoida
- Saattaa..
- merkitys
- Tavata
- Muisti
- metaverse
- metaverse-alustoille
- miljoona
- miljoonia
- minimi
- minimi
- minuutti
- Tehtävä
- MIT
- ML
- mallit
- maltillisuus
- Kuukausi
- lisää
- eniten
- moninkertainen
- useita pelejä
- Luonnollinen
- Tarve
- tarpeet
- verkko
- verkot
- neuroverkkomallien
- hermoverkkoihin
- numero
- Nvidia
- tapahtui
- of
- Tarjoukset
- on
- verkossa
- online-pelaamista
- toiminta
- Optimoida
- Muut
- muuten
- yleiskatsaus
- oma
- paketti
- paketit
- erityisesti
- kumppani
- intohimoinen
- Ohi
- Ihmiset
- henkilö
- Fysiikka
- foorumi
- Platforms
- Platon
- Platonin tietotieto
- PlatonData
- pelaajat
- pistettä
- politiikkaa
- suosio
- asemoitu
- positiivinen
- mahdollinen
- Kirje
- teho
- powered
- estää
- aiemmin
- Ennakoiva
- Ongelma
- prosessi
- Käsitelty
- käsittely
- Suoritin
- prosessorit
- Tuotteet
- tuotekehitys
- työntövoima
- toimittaa
- tarjoaa
- tarjoamalla
- julkaisijat
- nopeasti
- saavutettu
- todellinen
- reaaliaikainen
- vastaanottaa
- vähentämällä
- sijoittavat uudelleen
- merkityksellinen
- raportoitu
- Raportointi
- edellyttää
- tarvitaan
- REST
- luja
- Rooli
- pilata
- ajaa
- juoksu
- turvallista
- turvallisempaa
- Säästä
- Säästöt
- skaalautuvuus
- skaalautuva
- Asteikko
- skaalaus
- tiede
- tutkijat
- pisteet
- sdk
- sekuntia
- lähettäminen
- vanhempi
- Sarjat
- palvella
- servers
- palvelu
- vaikea
- Lyhyt
- puoli
- single
- tilanteita
- Koko
- koot
- pieni
- So
- sosiaalinen
- Tuotteemme
- ratkaisu
- jonkin verran
- jotain
- Tila
- erityinen
- puhe
- menot
- alkoi
- käynnistyksen
- Yhä
- virta
- lakko
- studiot
- menestys
- onnistunut
- tuki
- järjestelmä
- ottaa
- joukkue-
- tiimit
- Tekninen
- Elektroniikka
- ehdot
- testi
- testit
- että
- -
- heidän
- Niitä
- Nämä
- asiat
- Kautta
- kauttaaltaan
- suoritusteho
- aika
- että
- tänään
- liikenne
- tyypit
- Lopulta
- Epävarma
- ymmärtäminen
- Päällä
- kiireellinen
- us
- Käyttö
- käyttää
- käyttölaukku
- Käyttäjät
- lajike
- kautta
- RIKKOMINEN
- rikkomukset
- Ääni
- HYVIN
- joka
- vaikka
- valkoinen
- KUKA
- tulee
- with
- sisällä
- Referenssit
- työskenteli
- työskentely
- maailman-
- maailmanluokkaa
- olisi
- vuosi
- Voit
- nuori
- Sinun
- zephyrnet