Дядя Сэм разоблачит анонимных писателей с помощью ИИ

Разведывательное сообщество США запустило программу по разработке искусственного интеллекта, который может определять авторство анонимных писем, а также маскировать личность автора, слегка изменяя его слова.

Программа Human Interpretable Attribution of Text Using Underlying Structure (HIATUS) от Intelligence Advanced Research Projects Activity (IARPA) направлена ​​​​на создание программного обеспечения, которое может выполнять «лингвистическое снятие отпечатков пальцев», Управление директора национальной разведки (ODNI) — сказал.

«Люди и машины ежедневно производят огромное количество текстового контента. Текст содержит лингвистические особенности, которые могут раскрыть личность автора», — IARPA. — сказал [PDF].

IARPA полагает, что с правильной моделью она может определить согласованность стиля писателя в разных образцах, изменить эти языковые шаблоны, чтобы сделать письмо анонимным, и сделать все это так, чтобы это было понятно начинающим пользователям, сказал ODNI. ИИ HIATUS также должен быть независимым от языка. 

«У нас есть все шансы достичь наших целей, предоставить разведывательному сообществу столь необходимые возможности и существенно расширить наше понимание вариаций человеческого языка, используя последние достижения в области компьютерной лингвистики и глубокого обучения», — сказал руководитель программы HIATUS доктор Тимоти Маккиннон. .

Чтобы разработать надежные модели, HIATUS планирует подойти к своим целям с точки зрения состязательного ИИ: атрибуция авторства и анонимизация текста — две стороны одной и той же проблемы, поэтому экспериментальные группы HIATUS будут противопоставлены друг другу. 

«Системы атрибуции оцениваются по способности сопоставлять элементы одного и того же автора в больших коллекциях, в то время как системы конфиденциальности оцениваются по способности противодействовать системам атрибуции», — говорится в сообщении IARPA.

Агентство заявило, что также планирует разработать стандарты объяснимости для ИИ HIATUS. 

Маккиннон — сказал что часть того, что делает HIATUS, пытается демистифицировать некоторые неизвестные модели нейронного языка (в центре внимания усилий HIATUS), которые, по его словам, работают хорошо, но по существу черные ящики которые функционируют так, что их разработчики не знают, почему они принимают то или иное решение.

В идеале, сказал Маккиннон, «когда мы выполняем атрибуцию или соблюдаем конфиденциальность авторства, мы можем действительно понять, почему система ведет себя так, как она есть, и иметь возможность убедиться, что она не улавливает ложные вещи и что она делает. правильная вещь."

По словам ODNI, в случае успеха HIATUS может иметь далеко идущие последствия, от противодействия иностранному влиянию до выявления контрразведывательных рисков и защиты авторов, чья работа может поставить их под угрозу. Маккиннон добавляет, что искусственный интеллект HIATUS также может определять, является ли текст сгенерированным машиной, а не человеком. 

Около 70 процентов завершенных исследований IARPA передаются другим государственным партнерам для реализации, в которых IARPA не будет участвовать — все, что оно делает, — это разрабатывает технологию, а не превращает ее во что-то полезное. Тем не менее, по данным спецслужбы, шансы в пользу HIATUS.

Однако не ожидайте, что эта технология появится в готовом виде в ближайшее время: теперь, когда начался HIATUS, пройдет 42 месяца (три с половиной года) до завершения эксперимента, и это всего лишь тогда другие правительственные учреждения, скорее всего, получат возможность использовать HIATUS, если Маккиннон и его команда добьются успеха. ®