בואו נשחק משחק: מגיש חדשות Deepfake או אדם אמיתי?

סרטוני Deepfake מקוונים הכוללים מגישי חדשות שנוצרו על ידי בינה מלאכותית המוציאים תעמולה פרו-סינית הם ככל הנראה יצירותיו של צוות דיסאינפורמציה פורה המכונה Spamouflage.

סרטונים אלה מייצגים את "הפעם הראשונה ש-Graphika צפה בשחקני IO [השפעה תפעול] מיושרים באמצעות קטעי וידאו של אנשים פיקטיביים שנוצרו בינה מלאכותית בפעילותם", דיווחו החוקרים של חברת הניתוח של המדיה החברתית, תוך פירוט הזיופים העמוקים של Spamouflage בדו"ח.PDF] השבוע.

בסרטונים נראים שדרן ושדרן, שניהם מתיימרים לדווח עבור חברת מדיה בשם וולף ניוז. באחד, מגיש החדשות מגנה את אמריקה על כישלונותיה להפסיק את אלימות הנשק. השני מדגיש את הצורך בשיתוף פעולה בין סין לארה"ב במאמצי ההתאוששות הכלכלית העולמית.

"במבט ראשון, מגישי החדשות של וולף מוצגים כאנשים אמיתיים", אמר גרפיקה. "ההשערה הראשונית שלנו הייתה שהם היו שחקנים בתשלום שגויסו להופיע בסרטונים".

זה יתיישר עם דרכי הפעולה הרגילות של Spamoflage, לפי Graphika ו חוקרים אחרים כולל גוגל שעוקבת אחר הפורעים בתור Dragonbridge ותיעדו את השימוש שלהם באנשים אמיתיים במצלמה בקמפיינים קודמים של דיסאינפורמציה.

חלק מפעולות ההשפעה האחרות של הצוות כללו ניסיונות לעשות זאת לְהִתְעַרֵב בבחירות אמצע הקדנציה האמריקאיות 2022 ו חכות חברות כרייה של אדמה נדירה על ידי שימוש באלפי חשבונות מזויפים במדיה חברתית, מה שגרם לנשיפת אצבע חמורה של הפנטגון.

"אבל חקירה נוספת גילתה שמגישי Wolf News נוצרו כמעט בוודאות באמצעות טכנולוגיה שסופקה על ידי חברת וידאו בריטית בינה מלאכותית בשם Synthesia", טענו חוקרי גרפיקה. 

חיפושי תמונה הפוכים חשפו המון סרטונים לא קשורים המציגים את אותם גבר ואישה "מגישי חדשות" שמופיעים בשידור Spamoflage Wolf News. האנשים שנוצרו בינה מלאכותית מדברים במספר שפות בסרטוני וידאו אלה, כולל ערבית, רומנית, ספרדית ואנגלית, כמו זה קידום שירותי מתווך הובלה.

בו, העוגן הגברי אומר, "שלום, שמי מר קרוז. ואני אווטאר."

קרוז הוא אחד מהם אווטרים "100+" של סינתזיה, ומסתבר שקוראים לו ג'ייסון. העוגנת הנשית מהסרטונים של חדשות וולף היא אנה.

של סינתזיה דף אתיקה אומר שהיא "לא תציע את התוכנה [שלה] לשימוש ציבורי. כל התוכן יעבור תהליך סינון פנימי מפורש לפני שהוא ישוחרר ללקוחותינו המהימנים".

בנוסף, שלה עמוד שאלות נפוצות של דמות אומר שיש גבולות למה שהאווטרים יכולים להגיד ומה לא: "תוכן פוליטי, מיני, אישי, פלילי ומפלה אינו נסבל או מאושר."

כתבות החדשות המזויפות של Spamoflage יפרו את שתי המדיניות. לא ניתן היה להשיג את תגובתו של סינתזיה. ויקטור ריפרבלי, מייסד משותף ומנכ"ל סינתזיה, אמר לי הניו יורק טיימס מוקדם יותר השבוע Spamoflage שבר את תנאי השירות של סינתזיה על ידי שימוש בטכנולוגיה כדי ליצור את הסרטונים שלה.

כלומר, Spamoflage איכשהו תפס והשתמש בטכנולוגיה של Synthesia כדי לייצר את התוכן שלה, בניגוד לכללי Synthesia. אין שום הצעה לעוולה של סינתזיה.

בעוד משרדי ממשלה ו חוקרי ביטחון כאחד השמיעו אזעקה לגבי שימוש בזיופים עמוקים בפעולות השפעה פוליטית בעתיד הלא רחוק, עד עתה המדיה שנוצרה בבינה מלאכותית הייתה מוגבלת במידה רבה לפרצופים מזויפים - לא אנשים מזויפים לחלוטין, לפי גרפיקה. 

עם זאת, למרות השימוש באווטרים, שאר סרטוני הספאמופלאג' נראים כמו "ספאם פוליטי באיכות נמוכה", כתבו החוקרים, מהדהדים ההערכה של גוגל מסרטוני היוטיוב של הצוות, ל-83% מהם היו פחות מ-100 צפיות.

בנוסף, האלמנט הזיוף העמוק של מהדורות החדשות "נוצר כמעט בוודאות באמצעות שירות מסחרי" בניגוד ליכולת הביתית, סיכם הדו"ח. זה מצביע על כך של Spamouflage ואחרים אין את המומחיות הטכנית לשלוף זיופים עמוקים מאוד מתוחכמים והם ימשיכו להשתמש בכלים מסחריים זמינים.

עם זאת, כפי שמציינת גרפיקה, "זה גם מעלה שאלות לגבי איך למתן ביעילות את השימוש במוצרים ובשירותים אלה." ®

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• Platoblockchain. Web3 Metaverse Intelligence. ידע מוגבר. גישה כאן.
• מקור: https://go.theregister.com/feed/www.theregister.com/2023/02/11/deepfake_news_anchors/