عمو سام برای افشای نقاب نویسندگان ناشناس با استفاده از هوش مصنوعی

جامعه اطلاعاتی ایالات متحده برنامه ای را برای توسعه هوش مصنوعی راه اندازی کرده است که می تواند نویسندگی نوشته های ناشناس را تعیین کند و در عین حال هویت نویسنده را با تغییر نامحسوس کلمات آنها پنهان کند.

دفتر مدیر اطلاعات ملی (ODNI)، برنامه اسناد قابل تفسیر متن با استفاده از ساختار زیربنایی (HIATUS) از فعالیت پروژه‌های تحقیقاتی پیشرفته اطلاعاتی (IARPA) با هدف ایجاد نرم‌افزاری است که می‌تواند «انگشت‌نگاری زبانی» را انجام دهد. گفت:.

«انسان ها و ماشین ها هر روز مقادیر زیادی محتوای متنی تولید می کنند. متن حاوی ویژگی‌های زبانی است که می‌تواند هویت نویسنده را آشکار کند.» IARPA گفت: [PDF]

ODNI گفت، با مدل مناسب، IARPA معتقد است که می‌تواند سازگاری‌های سبک نویسنده را در نمونه‌های مختلف شناسایی کند، آن الگوهای زبانی را برای بی‌نام کردن نوشتار اصلاح کند و همه این کارها را به‌گونه‌ای انجام دهد که برای کاربران تازه کار قابل توضیح باشد. HIATUS AI همچنین باید زبانی آگنوستیک باشد. 

دکتر تیموتی مک کینون، مدیر برنامه HIATUS، گفت: "ما شانس زیادی برای رسیدن به اهداف خود، ارائه قابلیت های بسیار مورد نیاز به جامعه اطلاعاتی، و گسترش قابل ملاحظه درک خود از تنوع در زبان انسانی با استفاده از آخرین پیشرفت ها در زبان شناسی محاسباتی و یادگیری عمیق داریم." .

به منظور توسعه مدل‌های قوی، HIATUS قصد دارد به اهداف خود به عنوان یک سؤال در مورد هوش مصنوعی متخاصم نزدیک شود: اسناد نویسندگی و ناشناس کردن متن دو طرف یک مشکل هستند و بنابراین گروه‌های آزمایشی HIATUS در مقابل یکدیگر قرار خواهند گرفت. 

IARPA گفت: «سیستم‌های انتساب براساس توانایی تطبیق موارد توسط همان نویسنده در مجموعه‌های بزرگ ارزیابی می‌شوند، در حالی که سیستم‌های حریم خصوصی بر اساس توانایی خنثی کردن سیستم‌های انتساب ارزیابی می‌شوند.»

این آژانس همچنین گفت که قصد دارد استانداردهای توضیح پذیری برای هوش مصنوعی HIATUS را نیز توسعه دهد. 

مک کینون گفت: بخشی از کاری که HIATUS انجام می دهد تلاش برای ابهام زدایی از برخی ناشناخته ها در مورد مدل های زبان عصبی است (مرکز تلاش های HIATUS) که به گفته او خوب کار می کنند اما اساسا جعبه های سیاه بدون اینکه توسعه دهندگان بدانند چرا تصمیم خاصی می گیرند، کار می کنند.

مک‌کینون در حالت ایده‌آل می‌گوید: «وقتی اسناد را انجام می‌دهیم یا حریم خصوصی نویسندگی را انجام می‌دهیم، می‌توانیم واقعاً درک کنیم که چرا سیستم به این شکل عمل می‌کند و می‌توانیم تأیید کنیم که چیزهای جعلی را انتخاب نمی‌کند و این کار را انجام می‌دهد. چیز درست.»

ODNI گفت، در صورت موفقیت، HIATUS می تواند تأثیرات گسترده ای داشته باشد، از مقابله با فعالیت های نفوذ خارجی گرفته تا شناسایی خطرات ضد جاسوسی و محافظت از نویسندگانی که کار آنها ممکن است آنها را به خطر بیندازد. مک‌کینون اضافه می‌کند که هوش مصنوعی HIATUS همچنین می‌تواند تشخیص دهد که آیا متن به‌جای تألیف انسان، توسط ماشین تولید شده است یا خیر. 

حدود 70 درصد از تحقیقات تکمیل شده IARPA برای اجرا به سایر شرکای دولتی راه پیدا می کند، که IARPA در آن دخالتی نخواهد داشت – تنها کاری که انجام می دهد توسعه فناوری است، نه تبدیل آن به چیزی قابل استفاده. به گفته آژانس اطلاعاتی، این احتمال به نفع HIATUS است.

انتظار نداشته باشید که این فناوری به این زودی ها به شکل کامل ظاهر شود، اما: اکنون که HIATUS شروع به کار کرده است، 42 ماه (سه سال و نیم) تا پایان آزمایش باقی خواهد ماند، و این فقط در این صورت، اگر مک‌کینون و تیمش موفق باشند، دیگر سازمان‌های دولتی احتمالاً HIATUS را برای چرخش انتخاب خواهند کرد. ®