Este mod 'Skyrim VR' mostra como a IA pode levar a imersão em VR para o próximo nível

Este mod 'Skyrim VR' mostra como a IA pode levar a imersão em VR para o próximo nível

Este mod ‘Skyrim VR’ mostra como a IA pode levar a imersão em VR ao próximo nível de inteligência de dados PlatoBlockchain. Pesquisa vertical. Ai.

O ChatGPT não é perfeito, mas o acesso do popular chatbot AI a modelos de linguagem grandes (LLM) significa que ele pode fazer muitas coisas que você não espera, como dar a todos os habitantes NPC de Tamriel a capacidade de manter conversas naturais e responder a perguntas sobre o mundo de fantasia icônico. Estranho, sim. Mas é uma visão presciente de como os jogos podem um dia usar a IA para alcançar novos patamares de imersão.

YouTuber 'Arte da Máquina' lançou um vídeo mostrando como eles modificaram a tão amada versão VR de The Elder Scrolls V: Skyrim.

O mod, que ainda não está disponível, aparentemente permite que você mantenha conversas com NPCs via ChatGPT e xVASynth, uma ferramenta de IA para gerar falas de dublagem usando vozes de videogames.

Confira os resultados na atualização mais recente abaixo:

[Conteúdo incorporado]

A versão mais recente do projeto apresenta Skyrim scripting pela primeira vez, o que o desenvolvedor diz que permite sincronização labial de vozes e reconhecimento de NPC de eventos no jogo. Embora ainda um pouco rígido, parece um grande passo para sair do vale misterioso.

Veja como 'Art from the Machine' descreve o projeto em um post recente do Reddit apresentando seus trabalhos:

Algumas semanas atrás, postei um vídeo demonstrando um script Python no qual estou trabalhando, que permite conversar com NPCs no Skyrim via ChatGPT e xVASynth. Desde então, tenho trabalhado para integrar este script Python com as próprias ferramentas de modificação do Skyrim e atingi alguns marcos empolgantes:

NPCs agora estão cientes de sua localização atual e hora do dia. Isso abre muitas possibilidades para o ChatGPT reagir ao mundo do jogo dinamicamente, em vez de esperar que o jogador forneça o contexto. Por exemplo, não tenho mais problemas com lojistas tentando negociar comigo no Bannered Mare depois do horário de trabalho. Os NPCs também estão cientes dos itens coletados pelo jogador durante a conversa. Isso significa que se você saquear um baú, colher uma pele de animal ou colher uma flor, os NPCs poderão comentar sobre essas ações.

Os NPCs agora são sincronizados com o xVASynth. Obviamente, isso é muito mais natural do que as vozes flutuantes de prova de conceito que eu tinha antes. Também fiz algumas melhorias na qualidade de vida, como reduzir os tempos de resposta para ~ 15 segundos e adicionar um feitiço para iniciar conversas.

Quando tudo está no lugar, é uma experiência incrivelmente surreal poder sentar e conversar com esses personagens em VR. Nada me tira mais da experiência do que ouvir as mesmas falas repetidas, e com isso não há duas respostas iguais. Ainda há muito trabalho pela frente, mas mesmo no estado atual não poderia voltar a jogar sem isso.

Você pode notar que a voz real solicitando aos NPCs também é bastante robótica, embora 'Art from the Machine' diga que eles estão usando fala para texto para falar com o sistema orientado ao ChatGPT 3.5. A voz ouvida no vídeo é gerada a partir xVASynth, e então conectado durante a edição de vídeo para substituir o que eles chamam de “voz hostil ao rádio”.

E quando você pode baixar e jogar sozinho? Bem, o desenvolvedor diz que publicar seu projeto ainda é um problema complicado.

“Eu realmente não pensei em como publicar isso, então acho que terei que pesquisar outros projetos do ChatGPT para ver como outros resolveram o problema da chave de API. Espero que seja possível conectar-se alternativamente a um modelo LLM executado localmente para qualquer pessoa que não esteja interessada em pagar as taxas da API.”

Oferecer respostas NPC mais naturais também é uma área que precisa ser abordada, diz o desenvolvedor.

Por enquanto, configurei para que os NPCs digam "deixe-me pensar" para indicar que fui ouvido e a resposta está sendo gerada, mas você está certo, isso pode ser expandido para escolher entre alguns preenchimentos diferentes linhas em vez de repetir sempre a mesma.

E embora o vídeo seja visivelmente acelerado após os prompts, isso se resume principalmente ao software de geração de voz xVASynth, o que reconhecidamente retarda o pipeline de resposta, pois está sendo executado localmente. O próprio ChatGPT não afeta o desempenho, diz o desenvolvedor.

Este não é o primeiro projeto que vimos usando chatbots para enriquecer as interações do usuário. Lee Vermeulen, um pioneiro de VR de longa data e desenvolvedor por trás Modboxlançou um vídeo em 2021 mostrando um de seus primeiros testes usando OpenAI GPT 3 e software de dublagem Réplica. No vídeo de Vermeulen, ele fala sobre como definiu os parâmetros para cada NPC, dando a eles o corpo de conhecimento que eles deveriam ter, o que orienta o tipo de respostas que darão.

Confira abaixo o vídeo de Vermeulen, o mesmo que inspirou 'Art from the Machine' a começar a trabalhar no Skyrim VR moda:

[Conteúdo incorporado]

Como você pode imaginar, esta é realmente apenas a ponta do iceberg para interações NPC orientadas por IA. Ser capaz de falar naturalmente com NPCs, mesmo que um pouco gaguejante e não exatamente no nível humano, pode ser preferível a ter que percorrer uma tonelada de menus de texto 2D ou passar por tutoriais lentos e desajeitados. Também oferece a chance de se relacionar mais com seu fiel companheiro de IA, como Skyrim's Lídia ou Fallout 4's Nick Valentine, que em vez de oferecer um diálogo enlatado pode, na verdade, ajudá-lo de vez em quando.

E isso é realmente apenas o nível superficial que um mod como 'Art from the Machine' pode oferecer a jogos existentes que não são construído com NPCs controlados por IA. Imaginar um jogo baseado na sua capacidade de fazer as perguntas certas e fazer seu próprio trabalho de detetive - bem, esse é um RPG que nunca experimentamos antes, seja em VR ou de outra forma.

Carimbo de hora:

Mais de Estrada para VR