Uncle Sam paljastaa nimettömät kirjoittajat tekoälyn avulla

Yhdysvaltain tiedusteluyhteisö on käynnistänyt ohjelman tekoälyn kehittämiseksi, joka pystyy määrittämään anonyymien kirjoitusten kirjoittajan samalla kun peittää kirjailijan identiteetin muuttamalla hänen sanojaan hienovaraisesti.

Intelligence Advanced Research Projects Activity (IARPA) -ohjelman Human Interpretable Attribution of Text Using Underlying Structure (HIATUS) -ohjelman tavoitteena on rakentaa ohjelmistoja, jotka voivat ottaa "kielisen sormenjäljen", National Intelligencen johtajan (ODNI) toimiston. sanoi.

”Ihmiset ja koneet tuottavat valtavia määriä tekstisisältöä päivittäin. Teksti sisältää kielellisiä piirteitä, jotka voivat paljastaa tekijän identiteetin, IARPA sanoi [PDF].

Oikealla mallilla IARPA uskoo voivansa tunnistaa kirjoittajan tyylin johdonmukaisuudet eri näytteissä, muokata näitä kielellisiä malleja anonymisoidakseen kirjoittamisen ja tehdä kaiken tavalla, joka on selitettävissä aloitteleville käyttäjille, ODNI sanoi. HIATUS AI:iden tulee myös olla kieliagnostikkoja. 

"Meillä on hyvät mahdollisuudet saavuttaa tavoitteemme, tarjota kipeästi kaivattuja ominaisuuksia tiedusteluyhteisölle ja laajentaa merkittävästi ymmärrystämme ihmisten kielen vaihteluista käyttämällä laskennallisen lingvistiikan ja syväoppimisen viimeisimpiä edistysaskeleita", sanoi HIATUS-ohjelman johtaja tohtori Timothy McKinnon. .

Vahvojen mallien kehittämiseksi HIATUS aikoo lähestyä tavoitteitaan kontradiktorisen tekoälyn kysymyksenä: Tekijän määrittäminen ja anonymisoiva teksti ovat saman ongelman kaksi puolta, joten HIATUS-koeryhmät kohtaavat toisiaan vastaan. 

"Attribuutiojärjestelmiä arvioidaan sen perusteella, pystyvätkö saman tekijän kohteet vastaamaan suurissa kokoelmissa olevia kohteita, kun taas tietosuojajärjestelmiä arvioidaan sen perusteella, miten ne pystyvät estämään attribuutiojärjestelmät", IARPA sanoi.

Virasto sanoi, että se aikoo myös kehittää selitettävyysstandardeja HIATUS-AI:ille. 

McKinnon sanoi että osa siitä, mitä HIATUS tekee, yrittää selvittää joitain tuntemattomia hermokielimallien ympärillä (HIATUSin ponnistelujen painopiste), jotka hänen mukaansa toimivat hyvin, mutta ovat pohjimmiltaan mustat laatikot jotka toimivat ilman, että niiden kehittäjät eivät tiedä, miksi he tekevät tietyn päätöksen.

Ihannetapauksessa McKinnon sanoi: "Kun suoritamme tekijän tai tekijän yksityisyyden, pystymme todella ymmärtämään, miksi järjestelmä käyttäytyy niin kuin se on, ja pystymme varmistamaan, että se ei ota vastaan ​​vääriä asioita ja että se toimii oikea asia."

Jos HIATUS onnistuu, sillä voi olla kauaskantoisia vaikutuksia ulkomaisten vaikutusten torjumisesta vastatiedusteluriskien tunnistamiseen ja tekijöiden suojelemiseen, joiden työ saattaa vaarantaa heidät, ODNI sanoi. McKinnon lisää, että HIATUS AI:t voivat myös tunnistaa, onko teksti koneella luotu eikä ihmisen luoma. 

Noin 70 prosenttia IARPA:n valmistuneesta tutkimuksesta kulkee muiden hallituksen kumppaneiden käyttöön toteuttamista varten, johon IARPA ei osallistu – se vain kehittää tekniikkaa, ei muuta sitä käyttökelpoiseksi. Todennäköisyys on kuitenkin tiedustelupalvelun mukaan HIATUSin puolella.

Älä kuitenkaan odota tämän tekniikan ilmestyvän täydellisessä muodossa lähiaikoina: nyt, kun HIATUS on käynnistynyt, on 42 kuukautta (kolme ja puoli vuotta) ennen kuin kokeilu päättyy, ja se on vasta sitten, että muut valtion virastot saavat todennäköisesti ottaa HIATUS-kierroksen, jos McKinnon ja hänen tiiminsä menestyvät. ®