ลุงแซมเปิดโปงนักเขียนนิรนามโดยใช้ AI

ชุมชนข่าวกรองของสหรัฐฯ ได้เปิดตัวโปรแกรมเพื่อพัฒนาปัญญาประดิษฐ์ที่สามารถกำหนดผู้ประพันธ์ของการเขียนที่ไม่ระบุชื่อในขณะเดียวกันก็ปิดบังตัวตนของผู้เขียนด้วยการเปลี่ยนคำพูดอย่างละเอียด

การระบุแหล่งที่มาของข้อความโดยใช้โครงสร้างอ้างอิง (HIATUS) ที่ตีความได้โดยมนุษย์จากกิจกรรมโครงการวิจัยขั้นสูงอัจฉริยะ (IARPA) มีเป้าหมายเพื่อสร้างซอฟต์แวร์ที่สามารถทำ "ลายนิ้วมือภาษาศาสตร์" ได้ สำนักงานผู้อำนวยการหน่วยข่าวกรองแห่งชาติ (ODNI) กล่าวว่า.

“มนุษย์และเครื่องจักรผลิตเนื้อหาข้อความจำนวนมากทุกวัน ข้อความมีคุณสมบัติทางภาษาที่สามารถเปิดเผยตัวตนของผู้เขียนได้” IARPA กล่าวว่า [ไฟล์ PDF].

ด้วยรูปแบบที่ถูกต้อง IARPA เชื่อว่าสามารถระบุความสอดคล้องในสไตล์ของนักเขียนจากกลุ่มตัวอย่างต่างๆ ปรับเปลี่ยนรูปแบบทางภาษาศาสตร์เหล่านั้นเพื่อทำให้การเขียนไม่เปิดเผยชื่อ และทำทุกอย่างในลักษณะที่ผู้ใช้มือใหม่สามารถอธิบายได้ ODNI กล่าว HIATUS AIs จะต้องเป็นผู้ไม่เชื่อเรื่องภาษาด้วย 

ดร.ทิโมธี แมคคินนอน ผู้จัดการโครงการ HIATUS กล่าวว่า "เรามีโอกาสสูงที่จะบรรลุเป้าหมายของเรา ส่งมอบความสามารถที่จำเป็นมากให้กับชุมชนข่าวกรอง และขยายความเข้าใจของเราอย่างมากเกี่ยวกับรูปแบบต่างๆ ในภาษามนุษย์โดยใช้ความก้าวหน้าล่าสุดในด้านภาษาศาสตร์เชิงคำนวณและการเรียนรู้เชิงลึก .

เพื่อพัฒนาโมเดลที่แข็งแกร่ง HIATUS วางแผนที่จะบรรลุเป้าหมายด้วยคำถามเกี่ยวกับ AI ที่เป็นปฏิปักษ์: การระบุแหล่งที่มาของผลงานและข้อความที่ไม่ระบุชื่อเป็นปัญหาสองด้านที่เหมือนกัน ดังนั้นกลุ่มทดลองของ HIATUS จะถูกจับคู่กันเอง 

"ระบบการระบุแหล่งที่มาจะได้รับการประเมินความสามารถในการจับคู่รายการโดยผู้เขียนคนเดียวกันในคอลเล็กชันขนาดใหญ่ ในขณะที่ระบบความเป็นส่วนตัวจะได้รับการประเมินความสามารถในการขัดขวางระบบการระบุแหล่งที่มา" IARPA กล่าว

หน่วยงานกล่าวว่ายังมีแผนที่จะพัฒนามาตรฐานความสามารถในการอธิบายสำหรับ HIATUS AIs 

McKinnon กล่าวว่า ส่วนหนึ่งของสิ่งที่ HIATUS กำลังทำอยู่นั้นพยายามที่จะทำให้กระจ่างเกี่ยวกับสิ่งที่ไม่รู้เกี่ยวกับแบบจำลองภาษาประสาท (จุดเน้นของความพยายามของ HIATUS) ซึ่งเขากล่าวว่าทำงานได้ดี แต่โดยพื้นฐานแล้ว กล่องดำ ที่ทำงานโดยที่นักพัฒนาไม่รู้ว่าเหตุใดพวกเขาจึงตัดสินใจอย่างเฉพาะเจาะจง

ตามหลักการแล้ว McKinnon กล่าวว่า "เมื่อเราแสดงที่มาหรือดำเนินการเรื่องความเป็นส่วนตัวของผู้ประพันธ์ เราสามารถเข้าใจได้อย่างแท้จริงว่าทำไมระบบถึงมีพฤติกรรมตามที่เป็นอยู่ และสามารถยืนยันได้ว่าระบบไม่ได้หยิบจับสิ่งปลอมแปลงและกำลังทำอยู่ สิ่งที่ถูกต้อง."

หากประสบความสำเร็จ HIATUS อาจส่งผลกระทบในวงกว้าง ตั้งแต่การตอบโต้กิจกรรมที่มีอิทธิพลจากต่างประเทศ ไปจนถึงการระบุความเสี่ยงในการต่อต้านข่าวกรอง และการปกป้องผู้เขียนงานที่อาจเป็นอันตรายต่อพวกเขา ODNI กล่าว McKinnon เพิ่ม HIATUS AIs อาจสามารถระบุได้ว่าข้อความนั้นสร้างขึ้นโดยเครื่องมากกว่าที่มนุษย์สร้างขึ้น 

การวิจัยที่เสร็จสิ้นแล้วประมาณ 70 เปอร์เซ็นต์ของ IARPA นำไปสู่พันธมิตรภาครัฐรายอื่นๆ เพื่อนำไปปฏิบัติ ซึ่ง IARPA จะไม่เกี่ยวข้อง ทั้งหมดที่ทำคือพัฒนาเทคโนโลยี ไม่ใช่เปลี่ยนให้เป็นสิ่งที่ใช้งานได้ ที่กล่าวว่าอัตราต่อรองอยู่ในความโปรดปรานของ HIATUS ตามหน่วยข่าวกรอง

อย่าคาดหวังว่าเทคโนโลยีนี้จะปรากฏในรูปแบบที่สมบูรณ์ในเร็ว ๆ นี้ แม้ว่า: ขณะนี้ HIATUS เริ่มต้นขึ้นแล้ว จะผ่านไป 42 เดือน (สามปีครึ่ง) จนกว่าการทดลองจะสิ้นสุดลง และก็เพียงเท่านั้น จากนั้นหน่วยงานของรัฐอื่น ๆ มีแนวโน้มที่จะนำ HIATUS ไปใช้หาก McKinnon และทีมของเขาประสบความสำเร็จ ®