Onu Sam paljastab AI abil anonüümsed kirjanikud

USA luurekogukond on käivitanud programmi tehisintellekti arendamiseks, mis suudab määrata anonüümsete kirjutiste autorsuse, varjades samal ajal autori identiteeti, muutes nende sõnu delikaatselt.

Intelligence Advanced Research Projects Activity (IARPA) programmi inimtõlgendatud teksti omistamine, kasutades alusstruktuuri (HIATUS) eesmärk on luua tarkvara, mis suudab võtta "keelelisi sõrmejälgi", riikliku luure direktori büroo (ODNI) ütles.

„Inimesed ja masinad toodavad iga päev tohutul hulgal tekstisisu. Tekst sisaldab keelelisi tunnuseid, mis võivad paljastada autori identiteedi," IARPA ütles [PDF].

Õige mudeliga usub IARPA, et suudab tuvastada kirjaniku stiili järjepidevuse erinevates proovides, muuta neid keelelisi mustreid, et muuta kirjutamine anonüümseks, ja teha seda kõike algajatele kasutajatele arusaadaval viisil, ütles ODNI. HIATUS AI-d peaksid olema ka keeleagnostikud. 

"Meil on suur võimalus saavutada oma eesmärgid, pakkuda luurekogukonnale väga vajalikke võimeid ja laiendada oluliselt oma arusaamist inimkeele variatsioonidest, kasutades arvutuslingvistika ja süvaõppe uusimaid edusamme," ütles HIATUSe programmijuht dr Timothy McKinnon. .

Tugevate mudelite väljatöötamiseks kavatseb HIATUS läheneda oma eesmärkidele võistleva tehisintellekti küsimusena: Autori omistamine ja anonüümseks muutev tekst on sama probleemi kaks poolt ja seega pannakse HIATUSe katserühmad vastamisi. 

"Omistamissüsteeme hinnatakse selle järgi, kas suudavad sobitada sama autori üksusi suurtes kogudes, samas kui privaatsussüsteeme hinnatakse võime järgi omistussüsteeme nurjata," ütles IARPA.

Agentuur teatas, et kavatseb välja töötada ka HIATUS AI-de seletatavuse standardid. 

McKinnon ütles et osa sellest, mida HIATUS teeb, üritab demüstifitseerida mõningaid tundmatuid närvikeele mudelite ümber (HIATUSE jõupingutuste fookus), mis tema sõnul töötavad hästi, kuid on sisuliselt mustad kastid see toimib, ilma et nende arendajad teaksid, miks nad konkreetse otsuse teevad.

Ideaaljuhul ütles McKinnon: "Kui me teostame omistamist või autoriõiguse privaatsust, saame tõesti aru, miks süsteem käitub nii, nagu see on, ja suudame kontrollida, et see ei tabaks võltsitud asju ja et see toimib. õige asi."

Edu korral võivad HIATUSel olla kaugeleulatuvad mõjud, alates välismaiste mõjude vastu võitlemisest kuni vastuluureriskide tuvastamiseni ja autorite kaitsmiseni, kelle töö võib neid ohustada, teatas ODNI. McKinnon lisab, et HIATUS AI-d võivad samuti tuvastada, kas tekst on masina loodud, mitte inimese loodud. 

Umbes 70 protsenti IARPA lõpetatud uuringutest jõuab teiste valitsuspartnerite juurde juurutamiseks, millega IARPA ei osale – kõik, mida ta teeb, on tehnoloogia arendamine, mitte selle millekski kasutatavaks muutmine. Sellegipoolest on luureagentuuri sõnul tõenäosus HIATUSE kasuks.

Kuid ärge oodake, et see tehnoloogia niipea täielikul kujul ilmuks: nüüd, kui HIATUS on alanud, kulub katse lõpuni 42 kuud (kolm ja pool aastat) ja see on alles kui McKinnon ja tema meeskond on edukad, saavad teised valitsusasutused tõenäoliselt HIATUS'e ringi teha. ®