Ini adalah posting tamu oleh Carter Huffman, CTO dan Co-founder di Modulate.
Modulasikan adalah perusahaan rintisan yang berbasis di Boston dengan misi membangun pengalaman game online yang lebih kaya, lebih aman, dan lebih inklusif untuk semua orang. Kami adalah tim ahli audio kelas dunia, gamer, sekutu, dan futuris yang ingin membangun dunia online yang lebih baik dan membuat obrolan suara lebih aman untuk semua pemain. Kami melakukannya dengan ToxMod, platform moderasi suara asli kami yang proaktif. Penerbit dan pengembang game menggunakan ToxMod untuk secara proaktif memoderasi obrolan suara di game mereka sesuai dengan kebijakan konten, kode etik, dan pedoman komunitas mereka sendiri.
Kami memilih AWS karena skalabilitas dan elastisitas yang dibutuhkan aplikasi kami serta layanan pelanggan hebat yang ditawarkannya. Menggunakan Cloud komputasi elastis Amazon (Amazon EC2) Instans G5g menampilkan NVIDIA T4G Tensor Core GPU sebagai infrastruktur untuk ToxMod telah membantu kami menurunkan biaya dengan faktor 5 (dibandingkan dengan instans G4dn) sambil mencapai tujuan kami pada throughput dan latensi. Sebagai startup yang gesit, kami dapat menginvestasikan kembali penghematan biaya ini ke dalam inovasi lebih lanjut untuk membantu mewujudkan misi kami. Dalam postingan ini, kami membahas kasus penggunaan, tantangan, dan jalur alternatif, serta ikhtisar singkat tentang solusi kami menggunakan AWS.
Metaverse yang berubah dan kebutuhan akan ToxMod
Game online modern dan platform metaverse telah menjadi jauh lebih sosial daripada pendahulunya. Secara historis, game berfokus pada penyediaan pengalaman kurasi khusus untuk pemain. Saat ini, mereka telah berevolusi menjadi lebih dari ruang komunal, di mana pemain dan teman mereka dapat berkumpul dan memilih berbagai pengalaman untuk diikuti. Dengan evolusi ini, toksisitas dan pelecehan verbal seringkali dapat merusak pengalaman online yang luar biasa.
Bahkan, menurut a Studi terbaru dari Anti-Defamation League, toksisitas dalam game lebih buruk dari sebelumnya: paparan ideologi supremasi kulit putih dalam game meningkat lebih dari dua kali lipat pada tahun 2022. Lebih dari tiga perempat gamer dewasa dilaporkan mengalami pelecehan parah dalam game online. Lebih dari 17 juta pemain muda terpapar bahaya dan pelecehan dalam satu tahun terakhir. Masalahnya hanya semakin buruk, dan dengan peraturan yang akan datang yang akan membutuhkan studio untuk mengambil peran lebih aktif dalam mengelola dan melaporkan toksisitas, kebutuhan moderasi suara proaktif lebih mendesak dari sebelumnya.
ToxMod membantu penerbit game dan platform secara proaktif memoderasi obrolan suara mereka sesuai dengan kebijakan dan pedoman mereka sendiri, menjaga komunitas mereka tetap aman dan positif. ToxMod menjalankan serangkaian model pembelajaran mesin (ML) yang menganalisis aspek emosional, tekstual, dan percakapan dari percakapan suara untuk menentukan apakah ada pelanggaran terhadap kebijakan konten penerbit atau platform. Pelanggaran ditandai oleh moderator manusia yang dapat mengambil tindakan terhadap pelaku jahat. Model ML kami menyertakan deteksi emosi, transkripsi, dan analisis percakapan yang didukung NLP yang mengkategorikan pelanggaran dan memberikan skor peringkat untuk menentukan seberapa yakin pelanggaran telah terjadi. Deteksi ini terjadi secara real time dan memungkinkan penerbit game untuk secara proaktif memoderasi komunitas mereka saat toksisitas terjadi, mencegah bahaya bagi pemain dan meningkatnya percakapan berbahaya.
Pertimbangan ekonomis dan teknis
Kami memiliki dua jenis kendala: ekonomi dan teknis. Di sisi ekonomi, masalah kami adalah permintaan variabel dan skala infrastruktur komputasi yang tidak pasti. Dalam industri game, pengembang dan penerbit meluncurkan game dengan margin minimal dan hanya meningkat seiring dengan semakin suksesnya game tersebut. Kesuksesan tersebut dapat berarti bahwa pelanggan terbesar kami memproses jutaan jam obrolan suara per bulan. Skala biaya ToxMod dengan jumlah jam pemrosesan audio, yang sangat dinamis berdasarkan perilaku pemain dan faktor eksternal yang memengaruhi popularitas game. Mengoperasikan server kami sendiri untuk mendukung ToxMod sangat mahal baik dari segi biaya maupun bandwidth tim. Server di tempat tidak memiliki skalabilitas ini dan sering kali kurang dimanfaatkan, artinya pilihan yang tepat untuk ToxMod adalah cloud. Dengan AWS, kami dapat menskalakan secara dinamis untuk menyesuaikan dengan permintaan pelanggan sekaligus menjaga biaya seminimal mungkin.
Di sisi teknis, seperti membangun aplikasi proses suara apa pun, kita perlu mencapai keseimbangan antara latensi dan throughput. Beberapa pengguna kami menginginkan kemampuan untuk mengatasi situasi yang mungkin muncul di komunitas mereka dalam satu atau dua menit saat situasi tersebut terjadi. Untuk memenuhi anggaran latensi kami, kami membuat level serendah mungkin. Kami memiliki banyak pengalaman dengan perangkat ARM karena banyak basis kode ToxMod berjalan pada perangkat sisi klien yang sering berjalan pada prosesor ARM. Instans EC2 G5g ditenagai oleh GPU dan fitur NVIDIA T4G Tensor Core AWS Graviton2 prosesor secara alami cocok untuk beberapa kode inferensi jaringan saraf kustom yang telah dikembangkan untuk penggunaan sisi klien.
Instans EC2 G5g untuk efisiensi biaya dan keandalan AWS
Dengan pertimbangan ini, kami memutuskan untuk menggunakan instans G5g sebagai infrastruktur untuk ToxMod karena hemat biaya dan menyediakan lingkungan yang familier untuk menguji dan menerapkan model kami. Pilihan ini pada akhirnya membantu kami menurunkan biaya dengan faktor 5 (dibandingkan dengan instans G4dn). Agar dapat melakukan iterasi dengan cepat, kami memerlukan lingkungan komputasi yang familiar bagi data scientist dan engineer ML kami. Kami dapat memperoleh citra mesin kami dengan semua driver, pustaka, dan variabel lingkungan yang relevan yang berjalan pada instans G5g dalam sehari. Kami memulai instans G4dn, dan pengujian awal kami pada G5g memungkinkan kami menurunkan biaya sebesar 40%. Banyak dari model kami yang paling mahal untuk dijalankan terikat dengan GPU, sehingga kami dapat lebih mengoptimalkan biaya kami dengan menyesuaikan ukuran ke ukuran instans yang memungkinkan kami memaksimalkan penggunaan CPU sambil tetap memiliki akses ke satu GPU.
Di luar instans G5g yang bekerja sangat baik untuk konfigurasi kami, kami tahu bahwa kami dapat mengandalkan dukungan teknis dan manajemen akun AWS untuk membantu kami menyelesaikan masalah dengan cepat dan mempertahankan waktu aktif yang sangat tinggi sambil mengalami beban yang sangat bervariasi. Ketika kami mulai, kami menghabiskan kurang dari dua digit per bulan, namun orang yang nyata menjangkau untuk mempelajari tentang kasus penggunaan kami dan tim orang bekerja dengan kami untuk membuat aplikasi kami tidak hanya berfungsi, tetapi bekerja dengan biaya paling banyak- cara yang efisien.
Ikhtisar solusi kami
Solusi ToxMod dimulai dengan penyerapan audio, yang dilakukan melalui integrasi SDK kami ke dalam infrastruktur obrolan suara game atau platform. Penggunaan SDK (melalui API atau antarmuka lain) sangat penting karena saat Anda memproses audio, Anda harus sangat hemat sumber daya. Untuk streaming audio tunggal apa pun, kami perlu memprosesnya dan mengembalikannya ke seluruh sistem dengan cepat atau pelanggan akan menemukan gangguan pada audio, yang merupakan sesuatu yang ingin kami hindari dengan cara apa pun. Banyak hal yang dapat menyebabkan gangguanโtermasuk alokasi memori, pengumpulan sampah, dan panggilan sistemโjadi kami telah mengembangkan ToxMod SDK untuk memastikan pemrosesan audio sehalus mungkin.
Dari SDK, obrolan suara dikodekan dalam buffer pendek dan dikirim melalui internet. Di sisi penyerapan, kami menyangga beberapa detik audio, dan kami mencoba menemukan titik jeda alami dalam percakapan suara sebelum mengirimkan paket ke AWS Cloud, tempat kami menyimpan data yang masuk melalui AWS Lambda fungsi. Dari sana, analisis percakapan audio dilakukan melalui pemrosesan pada instans G5g yang menjalankan berbagai model audio ML kami. Kami meminimalkan overhead dengan mengelompokkan semua paket yang kami terima dan mengirimkannya ke GPU dalam instans G5g. Instans G5g dimasukkan melalui antrean klip audio untuk diproses, yang telah kami sambungkan ke grup penskalaan otomatis yang meningkatkan atau menurunkan skala secara efisien saat lalu lintas bervariasi sepanjang hari.
Melihat ke depan
ToxMod dibangun untuk studio dari semua ukuran, dari tim pengembang indie kecil hingga AAA, pengembang dan penerbit multi-tim. Saat ini, kami berada di posisi yang lebih baik dari sebelumnya untuk memberikan tingkat dukungan, pengembangan produk, dan fitur canggih yang diharapkan oleh tim perusahaan di studio terbesar dari mitra perangkat lunak mereka. Dengan dukungan multibahasa untuk 18 bahasa, dukungan kelas perusahaan 24/7, tersedia lisensi penyewa tunggal untuk studio dengan beberapa game, dan dukungan infrastruktur ML yang dapat diskalakan yang disediakan AWS, kami siap membantu studio AAA membuat obrolan suara aman untuk pemain mereka.
Jika Anda ingin mempelajari lebih lanjut tentang bagaimana instans EC2 G5g dapat membantu Anda menerapkan beban kerja ML dengan hemat biaya, lihat Instans Amazon EC2 G5g.
Tentang Penulis
Carter Huffman adalah CTO dan salah satu pendiri Modulate, sebuah startup teknologi suara yang bertujuan melawan toksisitas online dan meningkatkan komunikasi suara dalam game. Dia memiliki latar belakang fisika, pembelajaran mesin, dan analisis data, dan sebelumnya bekerja di NASA Jet Propulsion Laboratory. Dia bersemangat untuk memahami dan memanipulasi ucapan manusia menggunakan jaringan saraf yang dalam. Dia lulus dari MIT dengan gelar Bachelor of Science di bidang Fisika.
Shruti Koparkar adalah Manajer Pemasaran Produk Senior di AWS. Dia membantu pelanggan mengeksplorasi, mengevaluasi, dan mengadopsi infrastruktur komputasi yang dipercepat EC2 untuk kebutuhan pembelajaran mesin mereka.
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- Platoblockchain. Intelijen Metaverse Web3. Pengetahuan Diperkuat. Akses Di Sini.
- Sumber: https://aws.amazon.com/blogs/machine-learning/modulate-makes-voice-chat-safer-while-reducing-infrastructure-costs-by-a-factor-of-5-with-amazon-ec2-g5g-instances/
- :adalah
- $NAIK
- 100
- 17 juta
- 2022
- 7
- a
- AAA
- kemampuan
- Sanggup
- Tentang Kami
- penyalahgunaan
- dipercepat
- mengakses
- dicapai
- Menurut
- Akun
- manajemen akun
- mencapai
- Tindakan
- aktif
- aktor
- alamat
- mengambil
- Dewasa
- mempengaruhi
- terhadap
- bertujuan
- Semua
- alokasi
- alternatif
- Amazon
- Amazon EC2
- analisis
- menganalisa
- dan
- api
- Aplikasi
- ADALAH
- ARM
- AS
- aspek
- At
- audio
- mobil
- tersedia
- AWS
- kembali
- latar belakang
- Buruk
- Saldo
- Bandwidth
- mendasarkan
- berdasarkan
- BE
- karena
- menjadi
- menjadi
- sebelum
- Lebih baik
- antara
- Istirahat
- Anggaran
- penyangga
- membangun
- Bangunan
- dibangun di
- by
- CAN
- kasus
- Menyebabkan
- tantangan
- mengubah
- pilihan
- Pilih
- memilih
- klip
- awan
- Co-founder
- kode
- basis kode
- koleksi
- Komunikasi
- Masyarakat
- masyarakat
- dibandingkan
- menghitung
- komputasi
- Mengadakan
- yakin
- konfigurasi
- pertimbangan
- kendala
- Konten
- Percakapan
- percakapan
- percakapan
- Core
- Biaya
- penghematan biaya
- hemat biaya
- Biaya
- bisa
- sepasang
- menutupi
- kritis
- CTO
- dikuratori
- adat
- pelanggan
- Layanan Pelanggan
- pelanggan
- Berbahaya
- data
- analisis data
- hari
- memutuskan
- mendalam
- Permintaan
- menyebarkan
- Deteksi
- Menentukan
- dev
- dikembangkan
- pengembang
- Pengembangan
- Devices
- digit
- melakukan
- dua kali lipat
- dua digit
- dua kali lipat
- turun
- driver
- dinamis
- dinamis
- Ekonomis
- efisien
- aktif
- diaktifkan
- Insinyur
- memastikan
- Enterprise
- kelas perusahaan
- Lingkungan Hidup
- lingkungan
- mengevaluasi
- pERNAH
- semua orang
- evolusi
- berkembang
- mengharapkan
- mahal
- pengalaman
- Pengalaman
- mengalami
- ahli
- menyelidiki
- terkena
- Pencahayaan
- luar
- sangat
- faktor
- akrab
- Fitur
- Menampilkan
- Fed
- pertarungan
- Menemukan
- cocok
- ditandai
- terfokus
- Untuk
- teman
- dari
- fungsi
- lebih lanjut
- permainan
- Gamers
- Games
- industri game
- game
- mendapatkan
- mendapatkan
- Go
- Anda
- GPU
- GPU
- besar
- Grup
- Tamu
- tamu Post
- pedoman
- tangan
- terjadi
- Kejadian
- Memiliki
- memiliki
- membantu
- membantu
- membantu
- di sini
- High
- sangat
- secara historis
- JAM
- Seterpercayaapakah Olymp Trade? Kesimpulan
- http
- HTTPS
- manusia
- ideologi
- gambar
- in
- memasukkan
- Inklusif
- masuk
- industri
- Infrastruktur
- mulanya
- Innovation
- contoh
- integrasi
- Antarmuka
- Internet
- masalah
- IT
- jpg
- pemeliharaan
- laboratorium
- Kekurangan
- Bahasa
- terbesar
- Latensi
- jalankan
- BELAJAR
- pengetahuan
- Tingkat
- perpustakaan
- lisensi
- 'like'
- memuat
- Lot
- Rendah
- mesin
- Mesin belajar
- memelihara
- membuat
- MEMBUAT
- pengelolaan
- manajer
- pelaksana
- memanipulasi
- cara
- banyak
- margin
- Marketing
- Cocok
- Maksimalkan
- Mungkin..
- makna
- Pelajari
- Memori
- Metaverse
- platform metaverse
- juta
- jutaan
- minimal
- minimum
- menit
- Misi
- MIT
- ML
- model
- moderasi
- Bulan
- lebih
- paling
- beberapa
- beberapa game
- Alam
- Perlu
- kebutuhan
- jaringan
- jaringan
- saraf jaringan
- jaringan saraf
- jumlah
- Nvidia
- terjadi
- of
- Penawaran
- on
- secara online
- game online
- operasi
- Optimize
- Lainnya
- jika tidak
- ikhtisar
- sendiri
- paket
- paket
- khususnya
- rekan
- bergairah
- lalu
- Konsultan Ahli
- orang
- Fisika
- Platform
- Platform
- plato
- Kecerdasan Data Plato
- Data Plato
- pemain
- poin
- Kebijakan
- kepopuleran
- diposisikan
- positif
- mungkin
- Pos
- kekuasaan
- didukung
- mencegah
- sebelumnya
- Proaktif
- Masalah
- proses
- Diproses
- pengolahan
- Prosesor
- prosesor
- Produk
- pengembangan produk
- tenaga penggerak
- memberikan
- menyediakan
- menyediakan
- penerbit
- segera
- tercapai
- nyata
- real-time
- menerima
- mengurangi
- menginvestasikan kembali
- relevan
- Dilaporkan
- Pelaporan
- membutuhkan
- wajib
- ISTIRAHAT
- kuat
- Peran
- merusak
- Run
- berjalan
- aman
- lebih aman
- Save
- Tabungan
- Skalabilitas
- terukur
- Skala
- skala
- Ilmu
- ilmuwan
- skor
- SDK
- detik
- mengirim
- senior
- Seri
- melayani
- Server
- layanan
- parah
- Pendek
- sisi
- tunggal
- situasi
- Ukuran
- ukuran
- kecil
- So
- Sosial
- Perangkat lunak
- larutan
- beberapa
- sesuatu
- Space
- tertentu
- pidato
- Pengeluaran
- mulai
- startup
- Masih
- aliran
- menyerang
- studio
- sukses
- sukses
- mendukung
- sistem
- Mengambil
- tim
- tim
- Teknis
- Teknologi
- istilah
- uji
- tes
- bahwa
- Grafik
- mereka
- Mereka
- Ini
- hal
- Melalui
- di seluruh
- keluaran
- waktu
- untuk
- hari ini
- lalu lintas
- jenis
- Akhirnya
- Tak menentu
- pemahaman
- uptime
- mendesak
- us
- penggunaan
- menggunakan
- gunakan case
- Pengguna
- variasi
- melalui
- PELANGGARAN
- Pelanggaran
- Suara
- BAIK
- yang
- sementara
- putih
- SIAPA
- akan
- dengan
- dalam
- Kerja
- bekerja
- kerja
- dunia
- kelas dunia
- akan
- tahun
- Kamu
- muda
- Anda
- zephyrnet.dll