Paman Sam untuk membuka kedok penulis anonim menggunakan AI

Komunitas intelijen AS telah meluncurkan program untuk mengembangkan kecerdasan buatan yang dapat menentukan kepengarangan tulisan anonim sambil juga menyamarkan identitas penulis dengan mengubah kata-kata mereka secara halus.

Program Human Interpretable Attribution of Text Using Underlying Structure (HIATUS) dari Intelligence Advanced Research Projects Activity (IARPA) bertujuan untuk membangun perangkat lunak yang dapat melakukan “sidik jari linguistik,” Kantor Direktur Intelijen Nasional (ODNI) tersebut.

“Manusia dan mesin menghasilkan sejumlah besar konten teks setiap hari. Teks mengandung unsur kebahasaan yang dapat mengungkapkan identitas pengarang,” IARPA tersebut [PDF].

Dengan model yang tepat, IARPA yakin dapat mengidentifikasi konsistensi dalam gaya penulis di berbagai sampel yang berbeda, memodifikasi pola linguistik tersebut untuk menganonimkan tulisan dan melakukan semuanya dengan cara yang dapat dijelaskan kepada pengguna pemula, kata ODNI. AI HIATUS juga harus agnostik bahasa. 

“Kami memiliki peluang kuat untuk memenuhi tujuan kami, memberikan kemampuan yang sangat dibutuhkan untuk Komunitas Intelijen, dan secara substansial memperluas pemahaman kami tentang variasi dalam bahasa manusia menggunakan kemajuan terbaru dalam linguistik komputasi dan pembelajaran mendalam,” kata manajer program HIATUS Dr Timothy McKinnon .

Untuk mengembangkan model yang kuat, HIATUS berencana untuk mendekati tujuannya sebagai pertanyaan AI permusuhan: Atribusi kepengarangan dan teks anonim adalah dua sisi dari masalah yang sama, sehingga kelompok eksperimen HIATUS akan diadu satu sama lain. 

“Sistem atribusi dievaluasi berdasarkan kemampuan untuk mencocokkan item oleh penulis yang sama dalam koleksi besar, sementara sistem privasi dievaluasi berdasarkan kemampuan untuk menggagalkan sistem atribusi,” kata IARPA.

Badan tersebut mengatakan pihaknya juga berencana untuk mengembangkan standar penjelasan untuk HIATUS AI. 

McKinnon tersebut bagian dari apa yang HIATUS lakukan adalah mencoba mengungkap beberapa hal yang tidak diketahui seputar model bahasa saraf (fokus upaya HIATUS), yang katanya bekerja dengan baik tetapi pada dasarnya kotak hitam yang berfungsi tanpa pengembang mereka mengetahui mengapa mereka membuat keputusan tertentu.

Idealnya, McKinnon berkata, “ketika kami melakukan atribusi atau kami melakukan privasi kepengarangan, kami dapat benar-benar memahami mengapa sistem berperilaku seperti itu, dan dapat memverifikasi bahwa itu tidak menangkap hal-hal palsu dan itu melakukan hal yang benar."

Jika berhasil, HIATUS dapat memiliki dampak luas, mulai dari melawan aktivitas pengaruh asing, hingga mengidentifikasi risiko kontra intelijen dan melindungi penulis yang karyanya dapat membahayakan mereka, kata ODNI. McKinnon menambahkan HIATUS AI mungkin juga dapat mengidentifikasi apakah teks dibuat oleh mesin daripada dibuat oleh manusia. 

Sekitar 70 persen dari penelitian IARPA yang telah selesai dilakukan kepada mitra pemerintah lainnya untuk diimplementasikan, yang tidak akan melibatkan IARPA – yang dilakukannya hanyalah mengembangkan teknologi, bukan mengubahnya menjadi sesuatu yang dapat digunakan. Yang mengatakan, kemungkinannya menguntungkan HIATUS, menurut badan intelijen.

Namun, jangan berharap teknologi ini muncul dalam bentuk lengkap dalam waktu dekat: Sekarang HIATUS telah dimulai, itu akan menjadi 42 bulan (tiga setengah tahun) sampai eksperimen selesai, dan itu hanya maka lembaga pemerintah lainnya kemungkinan akan mengambil HIATUS untuk putaran, jika McKinnon dan timnya berhasil. ®