Sam Amca, AI kullanarak anonim yazarların maskesini kaldıracak

ABD istihbarat topluluğu, isimsiz yazıların yazarlığını belirleyebilen ve aynı zamanda bir yazarın sözlerini ustaca değiştirerek kimliğini gizleyebilen yapay zeka geliştirmek için bir program başlattı.

İstihbarat Gelişmiş Araştırma Projeleri Etkinliği'nden (IARPA) Temel Yapıyı Kullanan Metnin İnsan Tarafından Yorumlanabilir Niteliği (HIATUS) programı, Ulusal İstihbarat Direktörü Ofisi (ODNI) “dilsel parmak izi” gerçekleştirebilen yazılımlar oluşturmayı amaçlamaktadır. şuraya.

“İnsanlar ve makineler her gün çok miktarda metin içeriği üretiyor. Metin, yazar kimliğini ortaya çıkarabilecek dilsel özellikler içerir”, IARPA şuraya [PDF].

ODNI, doğru modelle, IARPA, bir yazarın tarzındaki tutarlılıkları farklı örnekler arasında tanımlayabileceğine, bu dilsel kalıpları yazmayı anonim hale getirmek için değiştirebileceğine ve hepsini acemi kullanıcılara açıklanabilir bir şekilde yapabileceğine inanıyor. HIATUS AI'larının ayrıca dilden bağımsız olması gerekir. 

HIATUS program yöneticisi Dr Timothy McKinnon, “Hedeflerimize ulaşma, İstihbarat Topluluğuna çok ihtiyaç duyulan yetenekleri sunma ve hesaplamalı dilbilim ve derin öğrenmedeki en son gelişmeleri kullanarak insan dilindeki çeşitlilik anlayışımızı önemli ölçüde genişletme şansımız var” dedi. .

Güçlü modeller geliştirmek için HIATUS, hedeflerine bir düşman yapay zeka sorunu olarak yaklaşmayı planlıyor: Yazarlık atfı ve metni anonimleştirme aynı sorunun iki yüzüdür ve bu nedenle HIATUS deney grupları birbiriyle karşı karşıya gelecek. 

IARPA, "Atıf sistemleri, aynı yazarın büyük koleksiyonlardaki öğeleri eşleştirme yeteneği ile değerlendirilirken, gizlilik sistemleri, atıf sistemlerini engelleme yeteneği ile değerlendirilir." Dedi.

Ajans ayrıca HIATUS AI'ları için açıklanabilirlik standartları geliştirmeyi planladığını söyledi. 

McKinnon şuraya HIATUS'un yaptığı şeyin bu kısmı, nöral dil modelleri (HIATUS'un çabalarının odak noktası) etrafındaki bazı bilinmeyenlerin gizemini çözmeye çalışmaktır, ki bunun iyi çalıştığını ancak esasen olduğunu söyledi. kara kutular bu, geliştiricileri neden belirli bir karar verdiklerini bilmeden çalışır.

İdeal olarak, McKinnon, "İlişkilendirme yaptığımızda veya yazarlık gizliliği uyguladığımızda, sistemin neden böyle davrandığını gerçekten anlayabiliriz ve sahte şeyleri almadığını ve çalıştığını doğrulayabiliriz. doğru şey."

ODNI, başarılı olursa, HIATUS'un yabancı etki faaliyetlerine karşı koymaktan, karşı istihbarat risklerini belirlemeye ve çalışmaları onları tehlikeye atabilecek yazarları korumaya kadar geniş kapsamlı etkileri olabileceğini söyledi. McKinnon, HIATUS AI'larının, metnin insan tarafından yazılmış değil de makine tarafından oluşturulup oluşturulmadığını belirleyebilebileceğini ekliyor. 

IARPA'nın tamamlanan araştırmasının yaklaşık yüzde 70'i, uygulama için diğer hükümet ortaklarına gidiyor ve IARPA dahil olmayacak - tek yaptığı teknolojiyi geliştirmek, onu kullanılabilir bir şeye dönüştürmek değil. Bununla birlikte, istihbarat teşkilatına göre ihtimaller HIATUS'un lehine.

Yine de bu teknolojinin yakın zamanda eksiksiz bir biçimde ortaya çıkmasını beklemeyin: Şimdi HIATUS başladığına göre, deney tamamlanana kadar 42 ay (üç buçuk yıl) olacak ve bu sadece o zaman, McKinnon ve ekibi başarılı olursa, diğer devlet kurumlarının HIATUS'u bir dönüş için alması muhtemeldir. ®