דוד סם לחשוף סופרים אנונימיים המשתמשים בבינה מלאכותית

קהילת המודיעין האמריקאית השיקה תוכנית לפיתוח בינה מלאכותית שיכולה לקבוע מחברים של כתיבה אנונימית ובמקביל גם להסוות את זהותו של מחבר על ידי שינוי עדין של דבריו.

התוכנית הניתנת לפירוש אנושי של טקסט באמצעות מבנה בסיסי (HIATUS) מ-Intelligence Advanced Research Projects Activity (IARPA) שואפת לבנות תוכנה שיכולה לבצע "טביעת אצבע לשונית", משרד מנהל המודיעין הלאומי (ODNI) אמר.

"בני אדם ומכונות מייצרים כמויות עצומות של תוכן טקסט בכל יום. טקסט מכיל מאפיינים לשוניים שיכולים לחשוף את זהות המחבר", IARPA אמר [PDF].

עם המודל הנכון, IARPA מאמינה שהיא יכולה לזהות עקביות בסגנון של כותב על פני דוגמאות שונות, לשנות את הדפוסים הלשוניים האלה כדי להפוך את הכתיבה לאנונימית ולעשות את הכל באופן שניתן להסביר למשתמשים מתחילים, אמר ODNI. HIATUS AIs יצטרכו גם להיות אגנוסטיים לשפה. 

"יש לנו סיכוי גדול לעמוד ביעדים שלנו, לספק יכולות נחוצות לקהילת המודיעין, ולהרחיב באופן משמעותי את ההבנה שלנו לגבי השונות בשפה האנושית תוך שימוש בהתקדמות האחרונה בבלשנות חישובית ולמידה עמוקה", אמר מנהל תוכנית HIATUS, ד"ר טימותי מקינון. .

על מנת לפתח מודלים חזקים, HIATUS מתכננת להתייחס למטרותיה כשאלה של בינה מלאכותית: ייחוס מחבר וטקסט אנונימי הם שני צדדים של אותה בעיה, ולכן קבוצות הניסוי של HIATUS יעמדו זו מול זו. 

"מערכות ייחוס מוערכות לפי היכולת להתאים פריטים של אותו מחבר באוספים גדולים, בעוד שמערכות פרטיות מוערכות לפי היכולת לסכל מערכות ייחוס", אמר IARPA.

הסוכנות אמרה שהיא גם מתכננת לפתח תקני הסבר עבור HIATUS AIs. 

מקינון אמר החלק הזה במה ש-HIATUS עושה הוא לנסות לבטל את המיסטיציה של חלק מהלא ידועים סביב מודלים של שפות עצביות (המוקד של מאמצי HIATUS), שלדבריו עובדים היטב אבל הם בעצם קופסאות שחורות זה מתפקד מבלי שהמפתחים שלהם יודעים למה הם מקבלים החלטה מסוימת.

באופן אידיאלי, אמר מקינון, "כאשר אנו מבצעים ייחוס או אנו מבצעים פרטיות מחבר, אנו מסוגלים להבין באמת מדוע המערכת מתנהגת כפי שהיא, ולהיות מסוגלים לוודא שהיא לא קולטת דברים מזויפים ושהיא עושה הדבר הנכון."

אם יצליח, ל-HIATUS עשויות להיות השפעות מרחיקות לכת, החל ממאבק בפעילויות של השפעה זרה, לזיהוי סיכוני מודיעין נגדי והגנה על מחברים שעבודתם עלולה לסכן אותם, אמר ה-ODNI. מקינון מוסיפה ש-HIATUS AIs עשויים גם להיות מסוגלים לזהות אם הטקסט נוצר על ידי מכונה ולא נכתב על ידי אדם. 

כ-70 אחוז מהמחקר שהושלם של IARPA עושה את דרכם לשותפים ממשלתיים אחרים לצורך יישום, ש-IARPA לא יהיה מעורב בו - כל מה שהיא עושה זה לפתח את הטכנולוגיה, לא להפוך אותה למשהו שמיש. עם זאת, הסיכויים הם לטובת HIATUS, לפי סוכנות הביון.

עם זאת, אל תצפה שהטכנולוגיה הזו תופיע בצורה מלאה בזמן הקרוב: כעת, לאחר שה-HIATUS יצא לדרך, יעברו 42 חודשים (שלוש וחצי שנים) עד שהניסוי יסתיים, וזה רק אז כנראה שסוכנויות ממשלתיות אחרות יזכו לקחת את HIATUS לסיבוב, אם מקינון והצוות שלו יצליחו. ®