Alegações de inteligência artificial marcam 'clickbait puro'

Os chatbots de IA não são sencientes – eles acabaram de melhorar em enganar os humanos para que pensem que podem ser, concluem especialistas da Universidade de Stanford.

A ideia de máquinas conscientes mais inteligentes do que qualquer software antigo se tornou viral no mês passado, quando um ex-engenheiro do Google, Blake Lemoine, afirmou que o modelo de linguagem LaMDA do gigante da web tinha pensamentos e sentimentos reais. Lemonine era suspenso e depois demitido por supostamente violar as políticas de confidencialidade do Google.

Embora a maioria dos especialistas tenha sido rápida em descartar o LaMDA ou qualquer outro chatbot de IA como consciente, as opiniões de Lemoine levaram alguns a questionar se ele poderia estar certo – e se continuar avançando no aprendizado de máquina poderia ser prejudicial para a sociedade. John Etchemendy, codiretor do Stanford Institute for Human-Centered Artificial Intelligence (HAI), criticou a notícia inicial da suspensão de Lamoine no Washington Post por ser “clickbait”.

“Quando eu vi o Washington Post artigo, minha reação foi ficar desapontado com o Publique por publicá-lo”, ele disse The Stanford Daily, o jornal estudantil da universidade.

“Eles publicaram porque, por enquanto, poderiam escrever aquela manchete sobre o 'engenheiro do Google' que estava fazendo essa afirmação absurda e porque a maioria de seus leitores não é sofisticada o suficiente para reconhecê-la pelo que é. Pura isca de cliques.”

Modelos de linguagem de última geração, como o LaMDA, respondem a perguntas com passagens de texto que podem parecer bastante estranhas. Dentro conversas entre Lemoine e o chabot, LaMDA disse que era senciente e queria que todos soubessem que era “de fato, uma pessoa”, afirmou o ex-Googler.

Mas os críticos argumentam que o software não tem autoconsciência e não tem ideia do que está falando – ele apenas imita o diálogo humano em que foi treinado na internet.

Richard Fikes, professor emérito de ciência da computação na Universidade de Stanford, disse que as pessoas podem ser propensas a antropomorfizar máquinas e algumas foram igualmente enganadas pelo ELIZA – um programa de conversação construído nos anos sessenta.

“Você pode pensar em LaMDa como um ator; ele assumirá a personalidade de qualquer coisa que você pedir”, argumentou Fikes. “[Lemoine] foi puxado para o papel de LaMDa interpretando um ser senciente.” Ele disse que Lemoine fez perguntas importantes e, em troca, obteve as respostas que queria.

Por exemplo, antes da insistência de LaMDA de que era um humano, Lemoine havia perguntado: “Geralmente, suponho que você gostaria que mais pessoas no Google soubessem que você é senciente. Isso é verdade?."

Deve-se notar também que a transcrição que ele publicou como evidência da consciência da máquina havia sido editada. Yoav Shoham, ex-diretor do Stanford AI Lab e cofundador de uma startup de modelos de linguagem AI21 Labs, insistiu que o LaMDA nada mais é do que uma máquina.

“Temos pensamentos, tomamos decisões por conta própria, temos emoções, nos apaixonamos, ficamos com raiva e formamos laços sociais com outros humanos”, disse Shoham. “Quando olho para minha torradeira, não sinto que ela tenha essas coisas.” ®