Chú Sam vạch mặt các nhà văn ẩn danh sử dụng AI

Cộng đồng tình báo Hoa Kỳ đã triển khai một chương trình phát triển trí tuệ nhân tạo có thể xác định quyền tác giả của bài viết ẩn danh đồng thời ngụy trang danh tính của tác giả bằng cách thay đổi lời nói của họ một cách tinh vi.

Chương trình Ghi công có thể giải thích được của con người đối với văn bản sử dụng cấu trúc cơ bản (HIATUS) từ Hoạt động dự án nghiên cứu nâng cao trí thông minh (IARPA) nhằm mục đích xây dựng phần mềm có thể thực hiện “dấu vân tay ngôn ngữ”, Văn phòng Giám đốc Tình báo Quốc gia (ODNI) nói.

“Con người và máy móc tạo ra lượng lớn nội dung văn bản mỗi ngày. Văn bản chứa các đặc điểm ngôn ngữ có thể tiết lộ danh tính tác giả,” IARPA nói [PDF].

ODNI cho biết, với mô hình phù hợp, IARPA tin rằng họ có thể xác định sự nhất quán trong phong cách của người viết trên các mẫu khác nhau, sửa đổi các mẫu ngôn ngữ đó để ẩn danh văn bản và thực hiện tất cả theo cách mà người dùng mới làm quen có thể giải thích được. HIATUS AI cũng sẽ phải bất khả tri về ngôn ngữ. 

Tiến sĩ Timothy McKinnon, giám đốc chương trình HIATUS cho biết: “Chúng tôi có cơ hội lớn để đạt được mục tiêu của mình, cung cấp những khả năng rất cần thiết cho Cộng đồng Tình báo và mở rộng đáng kể sự hiểu biết của chúng tôi về sự đa dạng trong ngôn ngữ con người bằng cách sử dụng những tiến bộ mới nhất trong ngôn ngữ học tính toán và học sâu”. .

Để phát triển các mô hình mạnh mẽ, HIATUS có kế hoạch tiếp cận mục tiêu của mình như một câu hỏi về AI đối nghịch: Phân bổ quyền tác giả và văn bản ẩn danh là hai mặt của cùng một vấn đề và do đó, các nhóm thử nghiệm HIATUS sẽ đọ sức với nhau. 

IARPA cho biết: “Hệ thống phân bổ được đánh giá dựa trên khả năng khớp các mục của cùng một tác giả trong các bộ sưu tập lớn, trong khi hệ thống bảo mật được đánh giá dựa trên khả năng ngăn chặn hệ thống phân bổ”.

Cơ quan này cho biết họ cũng có kế hoạch phát triển các tiêu chuẩn khả năng giải thích cho các AI HIATUS. 

McKinnon nói một phần những gì HIATUS đang làm là cố gắng làm sáng tỏ một số điều chưa biết xung quanh các mô hình ngôn ngữ thần kinh (trọng tâm nỗ lực của HIATUS), mà theo ông là hoạt động tốt nhưng về cơ bản là hộp đen chức năng đó mà các nhà phát triển của họ không biết tại sao họ lại đưa ra một quyết định cụ thể.

Lý tưởng nhất là, McKinnon nói, “khi chúng tôi thực hiện ghi công hoặc thực hiện quyền riêng tư về quyền tác giả, chúng tôi có thể thực sự hiểu lý do tại sao hệ thống lại hoạt động như vậy và có thể xác minh rằng nó không xử lý nội dung giả mạo và nó đang hoạt động. Điều đúng đắn."

Nếu thành công, HIATUS có thể có những tác động sâu rộng, từ việc chống lại các hoạt động gây ảnh hưởng từ nước ngoài, đến xác định các rủi ro phản gián và bảo vệ các tác giả có tác phẩm có thể gây nguy hiểm cho họ, ODNI cho biết. McKinnon cho biết thêm HIATUS AI cũng có thể xác định xem văn bản có phải do máy tạo ra chứ không phải do con người tạo ra. 

Khoảng 70% nghiên cứu đã hoàn thành của IARPA được chuyển đến các đối tác chính phủ khác để triển khai. IARPA sẽ không tham gia vào – tất cả những gì IARPA làm là phát triển công nghệ chứ không biến nó thành thứ gì đó có thể sử dụng được. Điều đó nói lên rằng, theo cơ quan tình báo, lợi thế đang nghiêng về HIATUS.

Tuy nhiên, đừng hy vọng công nghệ này sẽ sớm xuất hiện ở dạng hoàn chỉnh: HIATUS đã bắt đầu hoạt động, còn 42 tháng (ba năm rưỡi) cho đến khi thử nghiệm kết thúc và chỉ thì các cơ quan chính phủ khác có thể sẽ tiếp tục sử dụng HIATUS nếu McKinnon và nhóm của ông thành công. ®