ניתן להביס זיופים עמוקים בזמן אמת במבט צדדי

נראה כי לסרטונים מזויפים עמוקים בזמן אמת, שהוכרזו כמביאי עידן חדש של אי ודאות באינטרנט, יש פגם מהותי: הם לא יכולים להתמודד עם פרופילים צדדיים.

זו המסקנה המובאת בא לדווח [PDF] מבית Metaphysic.ai, המתמחה באווטרים בתלת מימד, טכנולוגיית Deepfake ועיבוד תמונות תלת מימד מתצלומים דו מימדיים. בבדיקות שהיא ערכה באמצעות אפליקציית deepfake הפופולרית בזמן אמת DeepFaceLive, פנייה קשה הצידה הבהירה בבירור שהאדם על המסך לא היה מי שהוא נראה. 

בבדיקה נעשה שימוש בדגמים מרובים - כמה מקהילות ומודלים של DeepFaceLive שנכללו ב-DeepFaceLive - אך מראה של 90 מעלות של הפנים גרמה להבהוב ועיוות כאשר רשת יישור הפנים השתמשה להערכת תנוחות התקשתה להבין מה היא רואה. 

"רוב האלגוריתמים של יישור פנים מבוססי דו-ממד מקצים רק 2-50 אחוז ממספר ציוני הדרך מתצוגת פנים חזיתית לתצוגת פרופיל", אמר תורם Metaphysic.ai, מרטין אנדרסון, שכתב את המחקר של המחקר בלוג.

מבלי לראות מספיק נקודות התייחסות, התוכנה פשוט לא יודעת להקרין את הפרצוף המזויף שלה.

הוצאת זיופים עמוקים מהפסים

בתוך שנים ספורות, הזיופים העמוקים התקדמו מהיכולת להצמיד פרצופים על תמונות, לביצוע אותו הדבר בסרטון שהוקלט מראש. ההתקדמות האחרונה מאפשרת החלפת פנים בזמן אמת, מה שהביא לשימוש יותר בזיופים עמוקים בהונאה מקוונת ופשעי סייבר.

A ללמוד מ-VMware מצא ששני שלישים מהנשאלים נתקלו בזיופים עמוקים זדוניים כחלק מהתקפה, עלייה של 13 אחוזים מהשנה הקודמת. שים לב שהמחקר של VMware לא ציין אם התקפות ה-deepfake שנתקלו בהן היו מתועדות מראש או בזמן אמת, והיה רק ​​גודל מדגם של 125 אנשים.

ה-FBI הזהיר ביוני מפני רמאים המשתמשים בטכנולוגיית Deepfake במהלך ראיונות עבודה מרחוק. אלה המשתמשים בטכניקה נצפו מתראיינים לעבודות רגישות שיעניקו להם גישה לנתוני לקוחות ולמידע קנייני של עסקים, אמר ה-FBI. 

נעשה שימוש בסרטוני Deepfake גם כדי להערים על תוכנת זיהוי פנים חיה, פי לסטארט-אפ למאבק בהונאה אונליין Sensity AI. הבדיקות של Sensity גילו שתשע מתוך עשרה אפליקציות של ספקים נפתחו בהצלחה באמצעות סרטון עם שינוי זיוף עמוק שהוזרם מטלפון נייד.

הפחדים מהטכנולוגיה הפכו רציניים מספיק כדי שהאיחוד האירופי יעשה זאת להעביר חוקים הטלת קנסות על חברות שלא מצליחות להילחם מספיק בזיופים עמוקים ובמקורות אחרים של דיסאינפורמציה. גם סין עשתה דראפט חוקים מזויפים עמוקים המאיימים בענישה משפטית על שימוש לרעה בטכנולוגיה, כמו גם דורשים מתן אישור לכל שימוש לגיטימי בזיופים עמוקים, מה שסין מכנה "סינתזה עמוקה". 

פיתרון לכמה זמן?

לפי הדיווח של Metaphysic, אפילו טכנולוגיה כמו זו של Nvidia שדה זוהר עצבי (NeRF), שיכולה ליצור סצנה תלת-ממדית מכמה תמונות סטילס בלבד, סובלת ממגבלות שמקשות על פיתוח תצוגת פרופיל צדדית טובה. 

NeRFs "יכולים, בתיאוריה, להוציא כל מספר של זוויות פנים מקומץ תמונות בלבד. [עם זאת] בעיות סביב רזולוציה, ניידות פנים ויציבות זמנית מפריעות ל-Nerf לייצר את הנתונים העשירים הדרושים לאימון מודל מקודד אוטומטי שיכול להתמודד היטב עם תמונות פרופיל", כתב אנדרסון. פנינו ל-Nvidia כדי ללמוד עוד, אבל עדיין לא שמענו בחזרה. 

הקוראים ישימו לב שההדגמות של Metaphysic כללו רק פרצופים של מפורסמים, שהרבה צפיות בפרופיל נתפסו בסרט ובתמונות. לעומת זאת, לא-מפורסמים שבינינו, לא סביר שיהיו הרבה צילומי פרופיל בצד.

"אלא אם כן נעצרת בשלב מסוים, סביר להניח שאין לך אפילו תמונה אחת כזו, לא במדיה החברתית או באוסף לא מקוון", כתב אנדרסון.

Gaurav Oberoi, מהנדס תוכנה ומייסד סטארט-אפ הבינה המלאכותית Lexion, מצא את אותו הדבר כשחקר זיופים עמוקים ב-2018. פוסט בבלוג שלו, אוברוי פירט כיצד זיופים עמוקים של הקומיקאי ג'ון אוליבר שהונחו מעל מארח הלילה ג'ימי פאלון עבדו היטב, אבל לא בפרופיל.

"באופן כללי, תמונות אימון של היעד שלך צריכות להעריך את האוריינטציה, הבעות הפנים והתאורה בסרטונים שאתה רוצה להדביק אותם", אמר אוברוי. "אז אם אתה בונה כלי להחלפת פנים לאדם ממוצע, בהתחשב בכך שרוב התמונות שלהם יהיו חזיתיות, הגבל את החלפת הפנים לסרטוני וידאו הפוכים בעיקר קדימה."

מה שזה אומר, למעשה, הוא שלרמאים המשתמשים בזיופים עמוקים בזמן אמת, לא סביר שיהיו להם הנתונים הדרושים ליצירת תצוגת פרופיל צדדית שאינה מזוהה באופן מיידי כמזויף (בתנאי שהם לא משתמשים בפנים של ידוענים שצולמו היטב) . 

עד שנדע שה-deepfakers מצאו דרך לעקוף את החיסרון הזה, מומלץ לאמץ את המדיניות של לבקש מהאדם בצד השני של זום להראות לך מבט מהצד של הפנים שלו - מפורסם או לא. ®