Onkel Sam for at afsløre anonyme forfattere ved hjælp af AI

Det amerikanske efterretningssamfund har lanceret et program til at udvikle kunstig intelligens, der kan bestemme forfatterskabet til anonymt forfatterskab og samtidig skjule en forfatters identitet ved subtilt at ændre deres ord.

Programmet Human Interpretable Attribution of Text Using Underlying Structure (HIATUS) fra Intelligence Advanced Research Projects Activity (IARPA) har til formål at bygge software, der kan udføre "sproglig fingeraftryk", kontoret for direktøren for National Intelligence (ODNI) sagde.

"Mennesker og maskiner producerer store mængder tekstindhold hver dag. Tekst indeholder sproglige træk, der kan afsløre forfatterens identitet,” IARPA sagde [PDF].

Med den rigtige model mener IARPA, at den kan identificere konsistenser i en forfatters stil på tværs af forskellige prøver, ændre disse sproglige mønstre for at anonymisere skrivning og gøre det hele på en måde, der kan forklares for nybegyndere, sagde ODNI. HIATUS AI'er skal også være sprogagnostiske. 

"Vi har en stor chance for at nå vores mål, levere tiltrængte kapaciteter til efterretningsfællesskabet og i væsentlig grad udvide vores forståelse af variation i menneskeligt sprog ved at bruge de seneste fremskridt inden for datalingvistik og dyb læring," sagde HIATUS-programleder Dr. Timothy McKinnon .

For at udvikle stærke modeller planlægger HIATUS at nærme sig sine mål som et spørgsmål om kontradiktorisk AI: Tilskrivning af forfatterskab og anonymisering af tekst er to sider af det samme problem, og derfor vil HIATUS-eksperimentgrupper blive stillet op mod hinanden. 

"Tilskrivningssystemer evalueres på evnen til at matche genstande af den samme forfatter i store samlinger, mens privatlivssystemer evalueres på evnen til at modarbejde tilskrivningssystemer," sagde IARPA.

Agenturet sagde, at det også planlægger at udvikle forklaringsstandarder for HIATUS AI'er. 

McKinnon sagde at en del af det, HIATUS gør, er at forsøge at afmystificere nogle af de ukendte omkring neurale sprogmodeller (fokus for HIATUS' indsats), som han sagde fungerer godt, men som i det væsentlige er sorte kasser den fungerer, uden at deres udviklere ved, hvorfor de træffer en bestemt beslutning.

Ideelt set sagde McKinnon, "når vi udfører tilskrivning eller vi udfører forfatterskabsbeskyttelse, er vi i stand til virkelig at forstå, hvorfor systemet opfører sig, som det er, og være i stand til at verificere, at det ikke opfanger falske ting, og at det gør det rigtige."

Hvis det lykkes, kan HIATUS have vidtrækkende konsekvenser, fra at modvirke udenlandsk indflydelse, til at identificere kontraintelligence-risici og beskytte forfattere, hvis arbejde kan bringe dem i fare, sagde ODNI. McKinnon tilføjer, at HIATUS AI'er muligvis også er i stand til at identificere, om tekst er maskingenereret snarere end menneskelig forfatter. 

Omkring 70 procent af IARPA's afsluttede forskning går til andre regeringspartnere for implementering, hvilket IARPA ikke vil være involveret i – det eneste, det gør, er at udvikle teknologien, ikke gøre den til noget brugbart. Når det er sagt, er oddsene i HIATUS' favør, ifølge efterretningstjenesten.

Forvent dog ikke, at denne teknologi vil dukke op i en komplet form snart: Nu hvor HIATUS er startet, vil der gå 42 måneder (tre og et halvt år), før eksperimentet afsluttes, og det er kun så vil andre offentlige myndigheder sandsynligvis komme til at tage HIATUS en tur, hvis McKinnon og hans team får succes. ®