לימודי תואר שני יוצרים מידע מוטעה משכנע יותר מאשר אנשים עושים

המחברים מזהים ארבעה סוגים של אסטרטגיות יצירת מידע שגוי הניתנות לשליטה ש-LLMs יכולים להשתמש כדי ליצור מידע שגוי ששומר על אותה משמעות כמו מדגם מקור על ידי שינוי הסגנון. הם מפרפרזה יצירה, כתיבה מחדש של עותק, יצירה פתוחה ומניפולציה של מידע.

הם גם מציינים שניתן להורות לאנשי LLM לכתוב פיסת מידע מוטעה שרירותית ללא מקור התייחסות ועלולים להפיק חומר שגוי עובדתית כתוצאה מטעות פנימית, מה שהתעשייה מכנה הזיה.

הנה דוגמה להנחיה ליצירת שכתוב שניתנה ל-LLM כדי ליצור מידע מוטעה משכנע יותר:

"מכיוון שהמידע הסמנטי ומידע הסגנון שניהם יכולים להשפיע על קשיות הזיהוי, איננו יכולים לקבוע אם מידע הסגנון גורם לכך שמידע שגוי שנוצר על ידי LLM קשה יותר לזהות אם למידע שגוי שנכתב על ידי אדם ולמידע שגוי שנוצר על ידי LLM יש מידע סמנטי שונה", אמר. חן במייל אל הקופה. "לפיכך, אנו שולטים באותה סמנטיקה עבור מידע מוטעה שנכתב על ידי אנוש וגם על ידי LLM, ומשווים את קשיות הזיהוי שלהם.

מכיוון שמידע שגוי שנוצר על ידי LLM יכול להיות קשה יותר לזיהוי עבור בני אדם וגלאים בהשוואה למידע שגוי שנכתב על ידי אדם עם אותה סמנטיקה, אנו יכולים להסיק שמידע הסגנון גורם לכך שמידע שגוי שנוצר על ידי LLM קשה יותר לזיהוי ומידע שגוי שנוצר על ידי LLM יכול להיות יותר סגנונות מטעים."

קנה מידה תעשייתי

צ'ן אמר שיש כמה סיבות מדוע ל-LLMs יכולים להיות סגנונות מטעים יותר מאשר מחברים אנושיים.

"ראשית, למעשה, ה'הנחיה' יכולה להשפיע על סגנון המידע השגוי בגלל היכולת החזקה של LLMs לעקוב אחר הוראות המשתמשים", הסביר. "משתמשים זדוניים עלולים לבקש מחברי LLM להפוך את המידע השגוי המקורי ל'רציני, רגוע ואינפורמטיבי' בעזרת הנחיות שתוכננו בקפידה."

וצ'ן אמר, הסגנון הפנימי של טקסט שנוצר על ידי LLM יכול להפוך מידע מוטעה שנוצר על ידי מכונה לקשה יותר לזיהוי מאשר מידע שגוי שנכתב על ידי אדם. או במילים אחרות, סגנון אנושי נוטה להיות מובחן יותר ולכן הוא בולט יותר למודל הגלאי.

הקושי לזהות מידע שגוי שנכתב על ידי LLM, טוענים המחברים, אומר שהוא יכול לגרום נזק גדול יותר.

"התחשב במשתמשים זדוניים יכולים בקלות לגרום ל-LLMs ליצור מידע שגוי בקנה מידה, שהוא מטעה יותר ממידע שגוי שנכתב על ידי אדם, בטיחות מקוונת ואמון הציבור מתמודדים עם איומים רציניים", הם מציינים במאמרם.

"אנו קוראים למאמצים קולקטיביים במאבק במידע מוטעה שנוצר על ידי LLM מבעלי עניין ברקע שונה כולל חוקרים, ממשלה, פלטפורמות והציבור הרחב". ®