Engenheiro do Google suspenso por violar políticas de confidencialidade sobre IA 'sensível'

O Google colocou um de seus engenheiros de software em licença administrativa remunerada por violar as políticas de confidencialidade da empresa.

Desde 2021, Blake Lemoine, 41, foi encarregado de conversar com o LaMDA, ou Language Model for Dialogue Applications, como parte de seu trabalho na equipe de IA responsável do Google, procurando se o bot usava discurso discriminatório ou de ódio.

O LaMDA é “construído pelo ajuste fino de uma família de transformadorbaseados em modelos de linguagem neural especializados para diálogo, com até 137 bilhões de parâmetros de modelo, e ensinando os modelos a alavancar fontes de conhecimento externas”, de acordo com o Google.

É o que a empresa usa para construir chatbots e retorna respostas aparentemente significativas a consultas baseadas em material colhido de trilhões de conversas na internet e outras comunicações.

Em algum momento durante sua investigação, no entanto, Lemoine parece ter começado a acreditar que a IA estava expressando sinais de senciência. O engenheiro, que escreveu sobre sua experiência, diz que tentou repetidamente aumentar suas preocupações, mas foi rejeitado por não ter provas.

Então ele buscou “consultas externas” sobre as habilidades do LaMDA, que é o que atraiu a atenção do Google, conforme descrito em um post do Medium intitulado “Pode ser demitido em breve por fazer trabalho de ética em IA”.

A história foi contada por O Washington Post, Em seguida O Wall Street Journal, Financial Times, E muitos mais.

Tendo sido colocado em licença administrativa, que ele descreveu como o que o Google faz “na expectativa de demitir alguém”, Lemoine publicou ainda o que alegou ser uma conversa com o LaMDA.

Seguem alguns trechos:

A “entrevista” completa pode ser lida SUA PARTICIPAÇÃO FAZ A DIFERENÇA. Embora seja surpreendente que uma IA possa fazer isso, o Google desconfia da “antropomorfização” que Lemoine menciona – ou seja, atribuir características ou comportamentos humanos a animais ou objetos.

Em uma declaração para O registro, o porta-voz do Google, Brian Gabriel, disse: “É importante que os Princípios de IA do Google sejam integrados ao nosso desenvolvimento de IA, e o LaMDA não foi exceção. Embora outras organizações tenham desenvolvido e já lançado modelos de linguagem semelhantes, estamos adotando uma abordagem restrita e cuidadosa com a LaMDA para considerar melhor as preocupações válidas sobre justiça e factualidade.

“O LaMDA passou por 11 Revisões dos Princípios de IA, juntamente com pesquisas e testes rigorosos baseados em métricas-chave de qualidade, segurança e capacidade do sistema de produzir declarações baseadas em fatos. UMA trabalho de pesquisa lançado no início deste ano detalha o trabalho que vai para o desenvolvimento responsável do LaMDA.

“É claro que alguns na comunidade de IA mais ampla estão considerando a possibilidade de longo prazo de IA senciente ou geral, mas não faz sentido fazer isso antropomorfizando os modelos de conversação de hoje, que não são sencientes. Esses sistemas imitam os tipos de troca encontrados em milhões de frases e podem riffs em qualquer tópico fantástico – se você perguntar como é ser um dinossauro de sorvete, eles podem gerar texto sobre derreter e rugir e assim por diante.

“O LaMDA tende a acompanhar os prompts e as perguntas principais, seguindo o padrão definido pelo usuário. Nossa equipe – incluindo especialistas em ética e tecnólogos – revisou as preocupações de Blake de acordo com nossos Princípios de IA e o informou que as evidências não apoiam suas alegações.

“Centenas de pesquisadores e engenheiros conversaram com o LaMDA e não temos conhecimento de mais ninguém fazendo afirmações abrangentes, ou antropomorfizando o LaMDA, como Blake fez.”

Professor nova-iorquino Gary Marcus resumido toda a saga como “absurdo sobre palafitas”. ®