العم سام للكشف عن الكتاب المجهولين باستخدام الذكاء الاصطناعي

أطلق مجتمع المخابرات الأمريكية برنامجًا لتطوير الذكاء الاصطناعي الذي يمكنه تحديد تأليف الكتابة المجهولة مع إخفاء هوية المؤلف عن طريق تغيير كلماتهم بمهارة.

يهدف برنامج إسناد النص القابل للتفسير البشري باستخدام البنية الأساسية (HIATUS) من نشاط مشاريع البحث المتقدم بالذكاء (IARPA) إلى بناء برنامج يمكنه إجراء "البصمات اللغوية" ، في مكتب مدير الاستخبارات الوطنية (ODNI) محمد.

"ينتج البشر والآلات كميات هائلة من محتوى النص كل يوم. يحتوي النص على ميزات لغوية يمكن أن تكشف هوية المؤلف "IARPA محمد [PDF].

مع النموذج الصحيح ، تعتقد IARPA أنه يمكن تحديد التناسق في أسلوب الكاتب عبر عينات مختلفة ، وتعديل تلك الأنماط اللغوية لإخفاء هوية الكتابة والقيام بكل ذلك بطريقة يمكن شرحها للمستخدمين المبتدئين ، كما قال ODNI. يجب أن تكون HIATUS AIs حيادية اللغة. 

قال مدير برنامج HIATUS الدكتور تيموثي ماكينون: "لدينا فرصة قوية لتحقيق أهدافنا ، وتقديم القدرات التي تشتد الحاجة إليها لمجتمع الاستخبارات ، وتوسيع فهمنا بشكل كبير للتنوع في اللغة البشرية باستخدام أحدث التطورات في اللغويات الحاسوبية والتعلم العميق". .

من أجل تطوير نماذج قوية ، تخطط HIATUS للتعامل مع أهدافها باعتبارها مسألة ذكاء اصطناعي معادٍ: إسناد التأليف والنص المجهول وجهان لنفس المشكلة ، وبالتالي فإن مجموعات تجربة HIATUS ستواجه بعضها البعض. 

قالت IARPA: "يتم تقييم أنظمة الإحالة على أساس القدرة على مطابقة العناصر من قبل المؤلف نفسه في مجموعات كبيرة ، بينما يتم تقييم أنظمة الخصوصية على أساس القدرة على إحباط أنظمة الإسناد".

وقالت الوكالة إنها تخطط أيضًا لتطوير معايير القابلية للتفسير لأنظمة HIATUS AIs. 

ماكينون محمد هذا الجزء مما يفعله HIATUS هو محاولة إزالة الغموض عن بعض المجهول حول نماذج اللغة العصبية (محور جهود HIATUS) ، والتي قال إنها تعمل بشكل جيد ولكنها في الأساس مربعات سوداء هذه الوظيفة دون أن يعرف مطوروها سبب اتخاذهم قرارًا معينًا.

من الناحية المثالية ، قال ماكينون ، "عندما نقوم بالإسناد أو نقوم بخصوصية التأليف ، يمكننا أن نفهم حقًا سبب تصرف النظام بالطريقة التي هو عليها ، ويمكننا التحقق من أنه لا يلتقط أشياء زائفة وأنه يفعل الشيء الصحيح."

وفي حال نجاحها ، يمكن أن يكون لـ HIATUS تأثيرات بعيدة المدى ، من مواجهة أنشطة التأثير الأجنبي ، إلى تحديد مخاطر التجسس المضاد وحماية المؤلفين الذين قد يعرض عملهم للخطر ، حسبما قال مكتب مدير الاستخبارات الوطنية. يضيف McKinnon أن HIATUS AIs قد تكون قادرة أيضًا على تحديد ما إذا كان النص تم إنشاؤه آليًا وليس تأليفه بشريًا. 

حوالي 70 بالمائة من الأبحاث المكتملة لـ IARPA تشق طريقها إلى شركاء حكوميين آخرين للتنفيذ ، وهو ما لن تشارك فيه IARPA - كل ما تفعله هو تطوير التكنولوجيا ، وليس تحويلها إلى شيء قابل للاستخدام. ومع ذلك ، فإن الاحتمالات لصالح HIATUS ، وفقًا لوكالة المخابرات.

لا تتوقع أن تظهر هذه التقنية بشكل كامل في أي وقت قريب ، على الرغم من ذلك: الآن بعد أن بدأ HIATUS ، سيستغرق الأمر 42 شهرًا (ثلاث سنوات ونصف) حتى تنتهي التجربة ، وهي فقط ثم من المحتمل أن تحصل الوكالات الحكومية الأخرى على HIATUS من أجل جولة ، إذا نجح McKinnon وفريقه. ®