Tio Sam vai desmascarar escritores anônimos usando IA

A comunidade de inteligência dos EUA lançou um programa para desenvolver inteligência artificial que pode determinar a autoria de escrita anônima, ao mesmo tempo em que disfarça a identidade de um autor alterando sutilmente suas palavras.

O programa Human Interpretable Attribution of Text Using Underlying Structure (HIATUS) da Intelligence Advanced Research Projects Activity (IARPA) visa construir um software que possa realizar “impressão digital linguística”, o Escritório do Diretor de Inteligência Nacional (ODNI) dito.

“Humanos e máquinas produzem grandes quantidades de conteúdo de texto todos os dias. O texto contém características linguísticas que podem revelar a identidade do autor”, IARPA dito [PDF]

Com o modelo certo, a IARPA acredita que pode identificar consistências no estilo de um escritor em diferentes amostras, modificar esses padrões linguísticos para anonimizar a escrita e fazer tudo de uma maneira explicável para usuários iniciantes, disse ODNI. HIATUS AIs também teriam que ser agnósticos de linguagem. 

“Temos uma forte chance de atingir nossos objetivos, fornecendo recursos muito necessários para a Comunidade de Inteligência e expandindo substancialmente nossa compreensão da variação na linguagem humana usando os mais recentes avanços em linguística computacional e aprendizado profundo”, disse o gerente do programa HIATUS, Dr Timothy McKinnon .

Para desenvolver modelos fortes, o HIATUS planeja abordar seus objetivos como uma questão de IA adversária: atribuição de autoria e anonimização de texto são dois lados do mesmo problema, e assim os grupos de experimentos do HIATUS serão colocados uns contra os outros. 

“Os sistemas de atribuição são avaliados pela capacidade de combinar itens do mesmo autor em grandes coleções, enquanto os sistemas de privacidade são avaliados pela capacidade de impedir os sistemas de atribuição”, disse a IARPA.

A agência disse que também planeja desenvolver padrões de explicabilidade para as IAs do HIATUS. 

McKinnon dito que parte do que o HIATUS está fazendo é tentar desmistificar algumas das incógnitas em torno dos modelos de linguagem neural (o foco dos esforços do HIATUS), que, segundo ele, funcionam bem, mas são essencialmente caixas pretas essa função sem que seus desenvolvedores saibam por que tomaram uma decisão específica.

Idealmente, disse McKinnon, “quando realizamos atribuição ou realizamos privacidade de autoria, somos capazes de realmente entender por que o sistema está se comportando da maneira que está e poder verificar se ele não está captando coisas espúrias e que está fazendo a coisa certa."

Se for bem-sucedido, o HIATUS poderá ter impactos de longo alcance, desde combater atividades de influência estrangeira até identificar riscos de contrainteligência e proteger autores cujo trabalho possa colocá-los em perigo, disse o ODNI. McKinnon acrescenta que as IAs do HIATUS também podem identificar se o texto é gerado por máquina em vez de autoria humana. 

Cerca de 70% da pesquisa concluída da IARPA chega a outros parceiros governamentais para implementação, na qual a IARPA não estará envolvida – tudo o que ela faz é desenvolver a tecnologia, não transformá-la em algo utilizável. Dito isto, as probabilidades estão a favor da HIATUS, de acordo com a agência de inteligência.

Não espere que essa tecnologia apareça em uma forma completa em breve: agora que o HIATUS começou, serão 42 meses (três anos e meio) até que o experimento termine, e é apenas então que outras agências governamentais provavelmente vão dar uma volta no HIATUS, se McKinnon e sua equipe forem bem-sucedidos. ®