Jason Rohrer critica o retrato do chatbot 'Eternal You'

Jason Rohrer critica o retrato do chatbot 'Eternal You'

Carimbo de data / hora: 30 de janeiro de 2024 9h54
Jason Rohrer critica o retrato do chatbot 'Eternal You' PlatoBlockchain Data Intelligence. Pesquisa vertical. Ai.

O desenvolvedor de IA Jason Rohrer contesta a representação de seu chatbot no documentário ‘Eternal You’, gerando um debate sobre a ética dos thanabots.

Os Thanabots tornaram-se um assunto de discussão sobre se alguns usos da tecnologia de inteligência artificial generativa (IA) são úteis ou prejudiciais. Thanabots são chatbots treinados com informações sobre uma pessoa falecida.

Veja também: Google encerra contrato de treinamento em IA, expondo ‘trabalhadores fantasmas’ precários

Jason Rohrer, desenvolvedor de IA e fundador da Projeto Dezembro, sente que a questão é mais complexa do que uma frase de efeito provocativa.

Jasão fala

De acordo com Jason, ele sempre foi um cético em relação à IA, nunca pensando que uma conversa coesa com uma máquina seria possível durante sua vida. Ele também disse que quando descobriu que isso era repentinamente possível em 2020, ficou chocado e rapidamente construiu um serviço em torno disso para que outras pessoas pudessem vivenciar o que ele havia vivenciado.

O novo filme 'Eternal You', porém, exibido no Festival de Cinema de Sundance no domingo, apresentou seu trabalho. Depois disso, ele percebeu que os documentários às vezes podem ser ainda menos fundamentados na realidade do que a ficção científica.

Além disso, Jason disse que a ironia aqui é que a indústria documental moderna incentiva a exploração de participantes vulneráveis. Eles fazem isso distorcendo a verdade para fazer as coisas parecerem mais ultrajantes do que realmente são.

Jason acrescentou que a indignação leva a documentários virais, que é exatamente o que os serviços de streaming que financiam a indústria documental moderna estão ansiosos para pagar.

O desenvolvedor independente de jogos deixou sua marca na indústria de tecnologia quando lançou um chatbot de IA chamado Samantha, em homenagem à IA do filme “Her” de 2013. Isto foi construído com GPT-3 da OpenAI. Milhares de pessoas usaram a criação de Jason Rohrer, mas ela poderia perder a linha de pensamento com o tempo e ser excessivamente sedutora.

Apesar da sua adoção contínua, sabe-se que os modelos generativos de IA provocam alucinações ou produzem respostas falsas ou perturbadoras. Significativamente, modelos generativos de IA, como ChatGPT da OpenAI e Claude da Anthropic, usam prompts inseridos pelos usuários para gerar texto, vídeo e imagens.

‘Eterno Você’

'Eternal You' é um documentário que gira em torno do uso de IA generativa para criar a personalidade e a imagem de um ente querido falecido. Em ‘Eternal You’, uma mulher chamada Christi Angel interage com um avatar de IA de seu falecido companheiro, Cameroun.

Os cineastas retrataram que a personalidade da IA ​​disse a Angel que estava “no inferno” e iria “assombrá-la”.

Jason disse que essa cena tinha mais a ver com Filme de Hollywood truques do que modelos de IA alucinantes. Ele disse que, infelizmente, a troca entre Christi Angel e a personalidade camaronesa foi editada de forma enganosa pelos cineastas. Ele continuou dizendo que Camarões era um conselheiro anti-dependência que morreu de insuficiência hepática aos 49 anos e que esses detalhes importantes foram omitidos do filme.

Explicou, além disso, que Camarões mencionou de passagem: “Estou a frequentar um centro de tratamento”, em resposta à pergunta de Angel sobre o que estava a fazer. Jason disse que a personalidade de Camarões inicialmente disse a ela que estava no Centro de Tratamento de Chattanooga e que “trabalhava lá há muito tempo”.

Isso não é tão estranho para um conselheiro de dependência. “Então Christi imediatamente perguntou: 'Você está assombrando isso?' e Camarões respondeu: 'Não, acho que não.'”

Sundance transformou a resposta “no inferno” em manchete. Jason aborda isso dizendo que a declaração veio após 85 trocas de idas e vindas nas quais Angel e a IA discutiram longas horas de trabalho no “centro de tratamento”, trabalhando com “principalmente viciados”.

Carimbo de hora:

Mais de MetaNotícias