L'Oncle Sam va démasquer les écrivains anonymes grâce à l'IA

La communauté du renseignement américain a lancé un programme visant à développer une intelligence artificielle capable de déterminer la paternité d'un écrit anonyme tout en dissimulant l'identité d'un auteur en modifiant subtilement ses mots.

Le programme HIATUS (Human Interpretable Attribution of Text Using Underlying Structure) de l'Intelligence Advanced Research Projects Activity (IARPA) vise à créer un logiciel capable d'effectuer des « empreintes linguistiques », selon le Bureau du directeur du renseignement national (ODNI). a affirmé Valérie Plante..

« Les humains et les machines produisent chaque jour de grandes quantités de contenu textuel. Le texte contient des caractéristiques linguistiques qui peuvent révéler l'identité de l'auteur », IARPA a affirmé Valérie Plante. [PDF]

Avec le bon modèle, l'IARPA pense pouvoir identifier les cohérences dans le style d'un écrivain à travers différents échantillons, modifier ces modèles linguistiques pour anonymiser l'écriture et faire tout cela d'une manière explicable pour les utilisateurs novices, a déclaré l'ODNI. Les IA HIATUS devraient également être indépendantes du langage. 

"Nous avons de fortes chances d'atteindre nos objectifs, de fournir des capacités indispensables à la communauté du renseignement et d'élargir considérablement notre compréhension des variations du langage humain en utilisant les dernières avancées en matière de linguistique informatique et d'apprentissage profond", a déclaré le Dr Timothy McKinnon, responsable du programme HIATUS. .

Afin de développer des modèles solides, HIATUS prévoit d'aborder ses objectifs comme une question d'IA contradictoire : l'attribution de la paternité et l'anonymisation du texte sont les deux faces d'un même problème, et les groupes expérimentaux HIATUS seront donc opposés les uns aux autres. 

"Les systèmes d'attribution sont évalués sur leur capacité à faire correspondre les éléments du même auteur dans de grandes collections, tandis que les systèmes de confidentialité sont évalués sur leur capacité à contrecarrer les systèmes d'attribution", a déclaré l'IARPA.

L'agence a déclaré qu'elle prévoyait également de développer des normes d'explicabilité pour les IA HIATUS. 

McKinnon a affirmé Valérie Plante. qu'une partie de ce que fait HIATUS consiste à essayer de démystifier certaines des inconnues autour des modèles de langage neuronal (au centre des efforts de HIATUS), qui, selon lui, fonctionnent bien mais sont essentiellement boîtes noires qui fonctionnent sans que leurs développeurs sachent pourquoi ils prennent une décision particulière.

Idéalement, a déclaré McKinnon, « lorsque nous procédons à l'attribution ou à la confidentialité de la paternité, nous sommes en mesure de vraiment comprendre pourquoi le système se comporte ainsi, et d'être en mesure de vérifier qu'il ne détecte pas de données fallacieuses et qu'il le fait. la bonne chose."

En cas de succès, HIATUS pourrait avoir des impacts considérables, allant de la lutte contre les activités d'influence étrangère à l'identification des risques de contre-espionnage et à la protection des auteurs dont le travail pourrait les mettre en danger, a déclaré l'ODNI. McKinnon ajoute que les IA HIATUS pourraient également être capables d'identifier si le texte est généré par une machine plutôt que par un humain. 

Environ 70 pour cent des recherches réalisées par l'IARPA sont acheminées vers d'autres partenaires gouvernementaux pour une mise en œuvre, dans laquelle l'IARPA ne sera pas impliquée – tout ce qu'elle fait est de développer la technologie, pas de la transformer en quelque chose d'utilisable. Cela dit, les chances sont en faveur de HIATUS, selon l'agence de renseignement.

Ne vous attendez cependant pas à ce que cette technologie apparaisse sous une forme complète de si tôt : maintenant que HIATUS a démarré, il faudra 42 mois (trois ans et demi) jusqu'à ce que l'expérience se termine, et ce n'est que alors que d'autres agences gouvernementales pourront probablement essayer HIATUS, si McKinnon et son équipe réussissent. ®