Onkel Sam for å avsløre anonyme forfattere som bruker AI

Det amerikanske etterretningssamfunnet har lansert et program for å utvikle kunstig intelligens som kan bestemme forfatterskap til anonym skriving, samtidig som den skjuler en forfatters identitet ved å subtilt endre ordene deres.

Human Interpretable Attribution of Text Using Underlying Structure (HIATUS)-programmet fra Intelligence Advanced Research Projects Activity (IARPA) har som mål å bygge programvare som kan utføre "språklig fingeravtrykk", kontoret til direktøren for nasjonal etterretning (ODNI) sa.

«Mennesker og maskiner produserer enorme mengder tekstinnhold hver dag. Tekst inneholder språklige trekk som kan avsløre forfatterens identitet», IARPA sa [PDF].

Med den riktige modellen mener IARPA at den kan identifisere konsistenser i en forfatters stil på tvers av forskjellige eksempler, modifisere de språklige mønstrene for å anonymisere skriving og gjøre alt på en måte som kan forklares for nybegynnere, sa ODNI. HIATUS AI-er må også være språkagnostiske. 

"Vi har en sterk sjanse til å nå våre mål, levere sårt tiltrengte evner til etterretningsfellesskapet, og betydelig utvide vår forståelse av variasjon i menneskelig språk ved å bruke de siste fremskrittene innen datalingvistikk og dyp læring," sa HIATUS-programleder Dr. Timothy McKinnon .

For å utvikle sterke modeller, planlegger HIATUS å nærme seg sine mål som et spørsmål om kontradiktorisk AI: Attribusjon av forfatterskap og anonymisering av tekst er to sider av det samme problemet, og derfor vil HIATUS-eksperimentgrupper bli satt opp mot hverandre. 

"Attribusjonssystemer blir evaluert på evnen til å matche gjenstander av samme forfatter i store samlinger, mens personvernsystemer blir evaluert på evnen til å hindre attribusjonssystemer," sa IARPA.

Byrået sa at det også planlegger å utvikle forklaringsstandarder for HIATUS AI-er. 

McKinnon sa at en del av det HIATUS gjør er å prøve å avmystifisere noen av de ukjente rundt nevrale språkmodeller (fokus for HIATUS' innsats), som han sa fungerer bra, men er i hovedsak svarte bokser som fungerer uten at utviklerne deres vet hvorfor de tar en bestemt avgjørelse.

Ideelt sett sa McKinnon, "når vi utfører attribusjon eller vi utfører personvern for forfatterskap, er vi i stand til å virkelig forstå hvorfor systemet oppfører seg som det er, og være i stand til å bekrefte at det ikke fanger opp falske ting og at det gjør det. det rette."

Hvis det lykkes, kan HIATUS ha vidtrekkende konsekvenser, fra å motvirke utenlandsk påvirkningsaktiviteter, til å identifisere kontraintelligensrisikoer og beskytte forfattere hvis arbeid kan sette dem i fare, sa ODNI. McKinnon legger til at HIATUS AI-er også kan identifisere om tekst er maskingenerert i stedet for menneskelig forfatter. 

Omtrent 70 prosent av IARPAs fullførte forskning går til andre regjeringspartnere for implementering, noe IARPA ikke vil være involvert i – alt det gjør er å utvikle teknologien, ikke gjøre den til noe brukbart. Når det er sagt, er oddsen i HIATUS' favør, ifølge etterretningsbyrået.

Ikke forvent at denne teknologien skal vises i fullstendig form med det første: Nå som HIATUS har startet, vil det gå 42 måneder (tre og et halvt år) til eksperimentet avsluttes, og det er bare så at andre offentlige etater sannsynligvis vil få ta HIATUS for en tur, hvis McKinnon og teamet hans lykkes. ®