Uncle Sam, hogy leleplezze a névtelen írókat AI segítségével

Az amerikai hírszerző közösség olyan mesterséges intelligencia fejlesztésére indított programot, amely képes meghatározni az anonim írások szerzőit, miközben elfedi a szerző személyazonosságát azzal, hogy finoman megváltoztatja a szavakat.

Az Intelligence Advanced Research Projects Activity (IARPA) programjának Human Interpretable Attribution of Text Using Underlying Structure (HIATUS) programja olyan szoftvert kíván készíteni, amely képes „nyelvi ujjlenyomat-vételre”, a Nemzeti Hírszerzési Igazgatói Hivatal (ODNI) mondott.

„Az emberek és a gépek naponta hatalmas mennyiségű szöveges tartalmat állítanak elő. A szöveg olyan nyelvi jellemzőket tartalmaz, amelyek felfedhetik a szerző identitását” – mondta az IARPA mondott [PDF].

A megfelelő modellel az IARPA úgy véli, hogy képes azonosítani az írói stílus konzisztenciáit a különböző mintákon, módosítani a nyelvi mintákat az írás anonimizálása érdekében, és mindezt a kezdő felhasználók számára megmagyarázható módon. A HIATUS AI-knak nyelvagnosztikusnak is kell lenniük. 

"Nagy esélyünk van arra, hogy elérjük céljainkat, biztosítva az igen szükséges képességeket az Intelligence Community számára, és jelentősen bővítjük az emberi nyelv variációinak megértését a számítógépes nyelvészet és a mélytanulás legújabb vívmányainak felhasználásával" - mondta Dr. Timothy McKinnon, a HIATUS program vezetője. .

Az erős modellek kidolgozása érdekében a HIATUS azt tervezi, hogy a céljait az ellenséges mesterséges intelligencia kérdéseként közelíti meg: A szerzői hozzárendelés és az anonimizáló szöveg ugyanannak a problémának a két oldala, így a HIATUS kísérleti csoportok szembekerülnek egymással. 

"A hozzárendelési rendszereket aszerint értékelik, hogy képesek-e megfeleltetni ugyanazon szerző elemeit nagy gyűjteményekben, míg az adatvédelmi rendszereket a hozzárendelési rendszerek meghiúsításának képessége alapján" - mondta az IARPA.

Az ügynökség azt is közölte, hogy magyarázhatósági szabványokat is tervez a HIATUS AI-kra. 

McKinnon mondott A HIATUS tevékenységének egy része az, hogy megpróbálja megfejteni a neurális nyelvi modellek körüli ismeretleneket (a HIATUS erőfeszítéseinek középpontjában), amelyek szerinte jól működnek, de alapvetően fekete dobozok anélkül, hogy a fejlesztők tudnák, miért hoznak egy adott döntést.

Ideális esetben – mondta McKinnon – „amikor a forrásmegjelölést vagy a szerzői adatvédelmet végezzük, valóban megérthetjük, hogy a rendszer miért viselkedik úgy, ahogyan működik, és ellenőrizni tudjuk, hogy nem veszi-e fel a hamis dolgokat, és hogy működik-e. a helyes dolog."

Siker esetén a HIATUS messzemenő hatásokkal járhat, kezdve a külföldi befolyás elleni küzdelemtől a titkosszolgálati kockázatok azonosításáig és azon szerzők védelméig, akiknek munkája veszélyeztetheti őket – közölte az ODNI. McKinnon hozzáteszi, hogy a HIATUS AI-k azt is képesek lehetnek azonosítani, hogy a szöveget gépi generálás, nem pedig emberi alkotás. 

Az IARPA befejezett kutatásainak mintegy 70 százaléka eljut más kormányzati partnerekhez végrehajtás céljából, amiben az IARPA nem vesz részt – csak fejleszti a technológiát, nem pedig használhatóvá alakítja. Ennek ellenére a hírszerző ügynökség szerint az esély a HIATUS javára.

Ne számíts arra, hogy ez a technológia egyhamar teljes formában megjelenik: most, hogy a HIATUS elindult, 42 hónap (három és fél év) lesz hátra a kísérlet befejezéséig, és már csak akkor, ha McKinnon és csapata sikerrel jár, valószínűleg más kormányzati ügynökségek is átvehetik a HIATUS-t. ®