Esta é uma postagem de convidado de Carter Huffman, CTO e cofundador da Modulate.
Modular é uma startup sediada em Boston com a missão de criar experiências de jogos online mais ricas, seguras e inclusivas para todos. Somos uma equipe de especialistas em áudio de classe mundial, jogadores, aliados e futuristas que estão ansiosos para construir um mundo online melhor e tornar o bate-papo por voz mais seguro para todos os jogadores. Estamos fazendo exatamente isso com o ToxMod, nossa plataforma proativa de moderação nativa de voz. Os editores e desenvolvedores de jogos usam o ToxMod para moderar proativamente o bate-papo por voz em seus jogos, de acordo com suas próprias políticas de conteúdo, códigos de conduta e diretrizes da comunidade.
Escolhemos a AWS pela escalabilidade e elasticidade de que nosso aplicativo precisava, bem como pelo excelente atendimento ao cliente que oferece. Usando Amazon Elastic Compute Nuvem (Amazon EC2) instâncias G5g apresentar GPUs NVIDIA T4G Tensor Core como infraestrutura para ToxMod nos ajudou a reduzir nossos custos em um fator de 5 (em comparação com instâncias G4dn) enquanto atingíamos nossas metas de taxa de transferência e latência. Como uma startup ágil, podemos reinvestir essas economias de custo em mais inovações para ajudar a cumprir nossa missão. Nesta postagem, abordamos nosso caso de uso, desafios e caminhos alternativos, além de uma breve visão geral de nossa solução usando a AWS.
O metaverso em mudança e a necessidade de ToxMod
Jogos online modernos e plataformas de metaverso tornaram-se muito mais sociais do que seus predecessores. Historicamente, os jogos se concentram em fornecer uma experiência de curadoria específica para os jogadores. Hoje, eles evoluíram para ser mais um espaço comunitário, onde os jogadores e seus amigos podem se reunir e escolher uma variedade de experiências para participar. Com essa evolução, a toxicidade e o abuso verbal muitas vezes podem arruinar ótimas experiências online.
De fato, de acordo com um estudo recente do Liga Anti-Difamação, a toxicidade nos jogos está pior do que nunca: a exposição às ideologias da supremacia branca nos jogos mais que dobrou em 2022. Mais de três quartos dos jogadores adultos relataram ter sofrido assédio severo em jogos online. Mais de 17 milhões de jovens jogadores foram expostos a danos e assédio no ano passado. O problema só piora, e com próximos regulamentos que exigirá que os estúdios assumam um papel mais ativo no gerenciamento e relatórios sobre toxicidade, a necessidade de moderação de voz proativa é mais urgente do que nunca.
O ToxMod ajuda os editores e plataformas de jogos a moderar proativamente seu bate-papo por voz de acordo com suas próprias políticas e diretrizes, mantendo suas comunidades seguras e positivas. O ToxMod executa uma série de modelos de aprendizado de máquina (ML) que analisam os aspectos emocionais, textuais e conversacionais das conversas de voz para determinar se há alguma violação das políticas de conteúdo do editor ou da plataforma. As violações são sinalizadas para moderadores humanos que podem tomar medidas contra os maus atores. Nossos modelos de ML incluem detecção de emoção, transcrição e análise de conversação com tecnologia NLP que categoriza as violações e fornece uma pontuação de classificação para determinar o grau de confiança de que ocorreu uma violação. Essas detecções ocorrem em tempo real e permitem que os editores de jogos moderem proativamente suas comunidades à medida que a toxicidade está ocorrendo, evitando que danos aos jogadores e conversas perigosas aumentem.
Considerações econômicas e técnicas
Temos dois tipos de constrangimentos: os económicos e os técnicos. Do lado econômico, nosso problema é a demanda variável e a escala incerta da infraestrutura de computação necessária. Na indústria de jogos, desenvolvedores e editores lançam jogos com margens mínimas e só aumentam conforme o jogo se torna mais bem-sucedido. Esse sucesso pode significar que nossos maiores clientes estão processando milhões de horas de bate-papo por voz por mês. Os custos do ToxMod escalam com o número de horas de áudio processado, que é muito dinâmico com base no comportamento dos jogadores e fatores externos que afetam a popularidade de um jogo. Operar nossos próprios servidores para alimentar o ToxMod é proibitivamente caro em termos de custo e largura de banda da equipe. Os servidores locais carecem dessa escalabilidade e geralmente são subutilizados, o que significa que a escolha certa para o ToxMod é a nuvem. Com a AWS, podemos dimensionar dinamicamente para atender à demanda de nossos clientes, mantendo os custos no mínimo.
No lado técnico, como na construção de qualquer aplicativo de processo de voz, precisamos encontrar um equilíbrio entre latência e taxa de transferência. Alguns de nossos usuários desejam a capacidade de lidar com situações que possam surgir em suas comunidades dentro de um ou dois minutos após elas acontecerem. Para atender aos nossos orçamentos de latência, vamos o mais baixo possível. Acontece que temos muita experiência com dispositivos ARM porque grande parte da base de código ToxMod é executada em dispositivos do lado do cliente que geralmente são executados em um processador ARM. As instâncias EC2 G5g equipadas com GPUs NVIDIA T4G Tensor Core e apresentando AWS Graviton2 os processadores eram um ajuste natural para alguns dos códigos de inferência de rede neural personalizados desenvolvidos para uso do lado do cliente.
Instâncias EC2 G5g para economia e confiabilidade da AWS
Com essas considerações, decidimos usar instâncias G5g como infraestrutura para o ToxMod porque são econômicas e fornecem ambientes familiares para testar e implantar nossos modelos. Essa escolha acabou nos ajudando a reduzir nossos custos em um fator de 5 (em comparação com as instâncias G4dn). Para poder iterar rapidamente, precisávamos de um ambiente de computação que fosse familiar para nossos cientistas de dados e engenheiros de ML. Conseguimos obter nossa imagem de máquina com todos os drivers, bibliotecas e variáveis de ambiente relevantes em execução nas instâncias G5g em um dia. Começamos com instâncias G4dn e nossos testes iniciais em G5g nos permitiram reduzir nossos custos em 40%. Muitos de nossos modelos mais caros para executar são vinculados à GPU, portanto, conseguimos otimizar ainda mais nossos custos dimensionando corretamente para um tamanho de instância que nos permitiu maximizar a utilização da CPU enquanto ainda tínhamos acesso a uma única GPU.
Além das instâncias G5g funcionarem particularmente bem para nossa configuração, sabíamos que poderíamos contar com o suporte técnico e o gerenciamento de contas da AWS para nos ajudar a resolver problemas rapidamente e manter um tempo de atividade extremamente alto enquanto experimentamos uma carga altamente variável. Quando começamos, gastávamos menos de dois dígitos por mês, mas uma pessoa real entrou em contato para saber mais sobre nosso caso de uso e uma equipe de pessoas trabalhou conosco para fazer nosso aplicativo não apenas funcionar, mas funcionar da maneira mais econômica possível. maneira eficiente.
Visão geral da nossa solução
A solução da ToxMod começa com a ingestão de áudio, que é realizada por meio da integração de nosso SDK na infraestrutura de bate-papo por voz de um jogo ou plataforma. O uso de um SDK (por meio de uma API ou outra interface) é fundamental porque, ao processar o áudio, você precisa ser extremamente eficiente em termos de recursos. Para qualquer fluxo de áudio único, precisamos processá-lo e devolvê-lo ao restante do sistema rapidamente ou os clientes encontrarão falhas no áudio, algo que queremos evitar a todo custo. Muitas coisas podem causar falhas - incluindo alocação de memória, coleta de lixo e chamadas do sistema - por isso desenvolvemos o ToxMod SDK para garantir o processamento de áudio mais suave possível.
A partir do SDK, os chats de voz são codificados em buffers curtos e enviados pela Internet. No lado da ingestão, armazenamos alguns segundos de áudio em buffer e tentamos encontrar pontos de interrupção naturais nas conversas de voz antes de enviar o pacote para a Nuvem AWS, onde salvamos os dados recebidos via AWS Lambda funções. A partir daí, a análise da conversa de áudio é feita por meio do processamento em instâncias G5g executando nossa variedade de modelos de áudio ML. Minimizamos a sobrecarga agrupando todos os pacotes que recebemos e enviando-os para as GPUs nas instâncias G5g. As instâncias G5g são alimentadas por meio de filas de clipes de áudio para processar, que conectamos a grupos de dimensionamento automático que aumentam ou diminuem com eficiência conforme o tráfego varia ao longo do dia.
Olhando para o futuro
O ToxMod foi desenvolvido para estúdios de todos os tamanhos, desde pequenas equipes de desenvolvimento independentes até AAA, desenvolvedores e editores de várias equipes. Hoje, estamos melhor posicionados do que nunca para fornecer o nível de suporte, desenvolvimento de produtos e recursos robustos que as equipes empresariais nos maiores estúdios esperam de seus parceiros de software. Com suporte multilíngue para 18 idiomas, suporte de nível empresarial 24 horas por dia, 7 dias por semana, licenças de locatário único disponíveis para estúdios com vários jogos e suporte da infraestrutura de ML escalável fornecida pela AWS, estamos aqui para ajudar os estúdios AAA a tornar o bate-papo por voz seguro para seus jogadores.
Se você quiser saber mais sobre como as instâncias EC2 G5g podem ajudá-lo a implantar suas cargas de trabalho de ML de maneira econômica, consulte Instâncias Amazon EC2 G5g.
Sobre os autores
Carter Huffman é o CTO e co-fundador da Modulate, uma startup de tecnologia de voz que visa combater a toxicidade online e melhorar a comunicação de voz em jogos. Ele tem experiência em física, aprendizado de máquina e análise de dados e trabalhou anteriormente no Laboratório de Propulsão a Jato da NASA. Ele é apaixonado por entender e manipular a fala humana usando redes neurais profundas. Ele se formou no MIT com um Bacharel em Ciências em Física.
Shruti Koparkar é gerente sênior de marketing de produtos da AWS. Ela ajuda os clientes a explorar, avaliar e adotar a infraestrutura de computação acelerada do EC2 para suas necessidades de aprendizado de máquina.
- Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
- Platoblockchain. Inteligência Metaverso Web3. Conhecimento Ampliado. Acesse aqui.
- Fonte: https://aws.amazon.com/blogs/machine-learning/modulate-makes-voice-chat-safer-while-reducing-infrastructure-costs-by-a-factor-of-5-with-amazon-ec2-g5g-instances/
- :é
- $UP
- 100
- 17 milhões
- 2022
- 7
- a
- AAA
- habilidade
- Capaz
- Sobre
- abuso
- acelerado
- Acesso
- realizado
- Segundo
- Conta
- gerenciamento de contas
- alcançar
- Açao Social
- ativo
- atores
- endereço
- adotar
- Adulto
- afetando
- contra
- visa
- Todos os Produtos
- alocação
- alternativa
- Amazon
- Amazon EC2
- análise
- analisar
- e
- api
- Aplicação
- SOMOS
- ARM
- AS
- aspectos
- At
- auditivo
- auto
- disponível
- AWS
- em caminho duplo
- fundo
- Mau
- Equilíbrio
- Largura de Banda
- base
- baseado
- BE
- Porque
- tornam-se
- torna-se
- antes
- Melhor
- entre
- Break
- Orçamentos
- amortecer
- construir
- Prédio
- construído
- by
- CAN
- casas
- Causar
- desafios
- mudança
- escolha
- Escolha
- escolheu
- clipes
- Na nuvem
- Co-fundador
- código
- base de código
- coleção
- Comunicação
- Comunidades
- comunidade
- comparado
- Computar
- computação
- Conduzir
- confiante
- Configuração
- Considerações
- restrições
- conteúdo
- Conversa
- conversação
- conversas
- núcleo
- Custo
- economia de custos
- relação custo-benefício
- custos
- poderia
- Casal
- cobrir
- crítico
- CTO
- comissariada
- personalizadas
- cliente
- Atendimento ao Cliente
- Clientes
- Perigoso
- dados,
- análise de dados
- dia
- decidido
- profundo
- Demanda
- implantar
- Detecção
- Determinar
- Dev
- desenvolvido
- desenvolvedores
- Desenvolvimento
- Dispositivos/Instrumentos
- dígitos
- fazer
- duplo
- Dois digitos
- duplicou
- down
- Drivers
- dinâmico
- dinamicamente
- Econômico
- eficientemente
- permitir
- habilitado
- Engenheiros
- garantir
- Empreendimento
- de nível empresarial
- Meio Ambiente
- ambientes
- avaliar
- SEMPRE
- todos
- evolução
- evoluiu
- esperar
- caro
- vasta experiência
- Experiências
- experimentando
- especialistas
- explorar
- exposto
- Exposição
- externo
- extremamente
- fatores
- familiar
- Funcionalidades
- Apresentando
- Alimentado
- lutar
- Encontre
- caber
- marcado
- focado
- Escolha
- amigos
- da
- funções
- mais distante
- jogo
- Os jogadores
- Games
- indústria de jogos
- jogos
- ter
- obtendo
- Go
- Objetivos
- GPU
- GPUs
- ótimo
- Do grupo
- Locatário
- Visitante Mensagem
- orientações
- mão
- acontecer
- Acontecimento
- Ter
- ter
- ajudar
- ajudou
- ajuda
- SUA PARTICIPAÇÃO FAZ A DIFERENÇA
- Alta
- altamente
- historicamente
- HORÁRIO
- Como funciona o dobrador de carta de canal
- http
- HTTPS
- humano
- ideologias
- imagem
- in
- incluir
- Inclusivo
- Entrada
- indústria
- Infraestrutura
- do estado inicial,
- Inovação
- instância
- integração
- Interface
- Internet
- questões
- IT
- jpg
- manutenção
- laboratório
- Falta
- Idiomas
- maior
- Latência
- lançamento
- APRENDER
- aprendizagem
- Nível
- bibliotecas
- licenças
- como
- carregar
- lote
- Baixo
- máquina
- aprendizado de máquina
- a manter
- fazer
- FAZ
- de grupos
- Gerente
- gestão
- manipulando
- maneira
- muitos
- margens
- Marketing
- Match
- Maximizar
- Posso..
- significado
- Conheça
- Memória
- metaverso
- plataformas metaverso
- milhão
- milhões
- mínimo
- mínimo
- minuto
- Missão
- MIT
- ML
- modelos
- moderação
- Mês
- mais
- a maioria
- múltiplo
- vários jogos
- natural
- você merece...
- Cria
- rede
- redes
- rede neural
- redes neurais
- número
- Nvidia
- ocorreu
- of
- Oferece
- on
- online
- jogo on line
- operando
- Otimize
- Outros
- de outra forma
- Visão geral
- próprio
- pacote
- pacotes
- particularmente
- Parceiros
- apaixonado
- passado
- Pessoas
- pessoa
- Física
- plataforma
- Plataformas
- platão
- Inteligência de Dados Platão
- PlatãoData
- players
- pontos
- políticas
- popularidade
- posicionado
- positivo
- possível
- Publique
- poder
- alimentado
- impedindo
- anteriormente
- Proactive
- Problema
- processo
- Processado
- em processamento
- Subcontratante
- processadores
- Produto
- desenvolvimento de produtos
- propulsão
- fornecer
- fornece
- fornecendo
- editores
- rapidamente
- alcançado
- reais
- em tempo real
- receber
- redução
- reinvestir
- relevante
- Informou
- Relatórios
- requerer
- requeridos
- DESCANSO
- uma conta de despesas robusta
- Tipo
- arruinar
- Execute
- corrida
- seguro
- mais segura
- Salvar
- Poupança
- AMPLIAR
- escalável
- Escala
- dimensionamento
- Ciência
- cientistas
- Ponto
- Sdk
- segundo
- envio
- senior
- Série
- servir
- Servidores
- serviço
- grave
- Baixo
- lado
- solteiro
- situações
- Tamanho
- tamanhos
- pequeno
- So
- Redes Sociais
- Software
- solução
- alguns
- algo
- Espaço
- específico
- discurso
- Passar
- começado
- inicialização
- Ainda
- transmitir canais
- greve
- estúdios
- sucesso
- bem sucedido
- ajuda
- .
- Tire
- Profissionais
- equipes
- Dados Técnicos:
- Tecnologia
- condições
- teste
- testes
- que
- A
- deles
- Eles
- Este
- coisas
- Através da
- todo
- Taxa de transferência
- tempo
- para
- hoje
- tráfego
- tipos
- Em última análise
- Incerto
- compreensão
- uptime
- urgente
- us
- Uso
- usar
- caso de uso
- usuários
- variedade
- via
- VIOLAÇÃO
- Violações
- voz
- BEM
- qual
- enquanto
- branco
- QUEM
- precisarão
- de
- dentro
- Atividades:
- trabalhou
- trabalhar
- mundo
- classe mundial
- seria
- ano
- Vocês
- jovem
- investimentos
- zefirnet