Zio Sam per smascherare scrittori anonimi usando l'IA

La comunità dell'intelligence statunitense ha lanciato un programma per sviluppare l'intelligenza artificiale in grado di determinare la paternità di scritti anonimi e allo stesso tempo di mascherare l'identità di un autore alterandone sottilmente le parole.

Il programma Human Interpretable Attribution of Text Using Underlying Structure (HIATUS) dell'Intelligence Advanced Research Projects Activity (IARPA) mira a costruire un software in grado di eseguire "impronte digitali linguistiche", l'Ufficio del Direttore dell'intelligence nazionale (ODNI) disse.

“Umani e macchine producono ogni giorno grandi quantità di contenuti testuali. Il testo contiene caratteristiche linguistiche che possono rivelare l'identità dell'autore", IARPA disse [PDF].

Con il modello giusto, IARPA crede di poter identificare le consistenze nello stile di uno scrittore attraverso diversi campioni, modificare quei modelli linguistici per rendere anonima la scrittura e fare tutto in un modo che sia spiegabile agli utenti inesperti, ha affermato ODNI. Gli IA HIATUS dovrebbero anche essere indipendenti dal linguaggio. 

"Abbiamo una forte possibilità di raggiungere i nostri obiettivi, fornire le capacità tanto necessarie alla comunità dell'intelligence e ampliare sostanzialmente la nostra comprensione delle variazioni nel linguaggio umano utilizzando gli ultimi progressi nella linguistica computazionale e nell'apprendimento profondo", ha affermato il responsabile del programma HIATUS, il dottor Timothy McKinnon .

Al fine di sviluppare modelli solidi, HIATUS intende affrontare i suoi obiettivi come una questione di IA contraddittoria: l'attribuzione della paternità e l'anonimizzazione del testo sono due facce dello stesso problema, e quindi i gruppi di esperimenti HIATUS saranno messi l'uno contro l'altro. 

"I sistemi di attribuzione vengono valutati in base alla capacità di abbinare elementi dello stesso autore in grandi raccolte, mentre i sistemi di privacy vengono valutati in base alla capacità di contrastare i sistemi di attribuzione", ha affermato IARPA.

L'agenzia ha affermato che prevede anche di sviluppare standard di spiegabilità per le IA HIATUS. 

McKinnon disse quella parte di ciò che HIATUS sta facendo è cercare di demistificare alcune delle incognite sui modelli di linguaggio neurale (il fulcro degli sforzi di HIATUS), che secondo lui funzionano bene ma sono essenzialmente scatole nere quella funzione senza che i loro sviluppatori sappiano perché prendono una decisione particolare.

Idealmente, ha affermato McKinnon, "quando eseguiamo l'attribuzione o eseguiamo la privacy della paternità, siamo in grado di capire davvero perché il sistema si sta comportando così com'è ed essere in grado di verificare che non stia rilevando cose spurie e che stia facendo la cosa giusta."

In caso di successo, HIATUS potrebbe avere impatti di vasta portata, dal contrasto alle attività di influenza straniera, all'identificazione dei rischi del controspionaggio e alla protezione degli autori il cui lavoro potrebbe metterli in pericolo, ha affermato l'ODNI. McKinnon aggiunge che le IA HIATUS potrebbero anche essere in grado di identificare se il testo è generato dalla macchina piuttosto che creato da esseri umani. 

Circa il 70 percento della ricerca completata di IARPA arriva ad altri partner governativi per l'implementazione, in cui IARPA non sarà coinvolta: tutto ciò che fa è sviluppare la tecnologia, non trasformarla in qualcosa di utilizzabile. Detto questo, le probabilità sono a favore di HIATUS, secondo l'agenzia di intelligence.

Tuttavia, non aspettarti che questa tecnologia appaia in una forma completa presto: ora che HIATUS è iniziato, ci vorranno 42 mesi (tre anni e mezzo) prima che l'esperimento si concluda, ed è solo allora che altre agenzie governative probabilmente prenderanno HIATUS per un giro, se McKinnon e il suo team avranno successo. ®