By קנה יוז-קסטלברי פורסם ב-02 בדצמבר 2022
הודות להתקדמות הטכנולוגיה, נעשה קשה יותר לדעת מה אמיתי ומה לא. בעיה זו מחמירה עם השימוש בטכנולוגיית Deepfake -אודיו וסרטונים שמשתמשים בבינה מלאכותית כדי להחליף אנשים או את קולם. בעוד שזיופים עמוקים רבים שימשו בהצלחה לבידור (כגון אם ניקולס קייג ' היה ב שודדי התיבה האבודה) או משחקים (כגון ב ספורטאי פיפ"א), אחוז גדול מהם נוצר עבור יותר סיבות מרושעות. ככל שיהיה קל יותר ליצור את הסרטונים המדוקרים הללו, מומחים רבים מקווים שמחשוב קוונטי יכול לעזור להתגבר על האיומים הפוטנציאליים של הטכנולוגיה העולה הזו.
איך עובדת טכנולוגיית Deepfake?
כדי ליצור סרטון Deepfake מוצלח, אתה צריך למידת מכונה אלגוריתמים. "אלגוריתמי למידה עמוקה מלמדים את עצמם כיצד לפתור בעיות ממערכי נתונים גדולים, ולאחר מכן משמשים להחלפת פנים בין וידאו ותוכן דיגיטלי אחר", הסביר פוסט-קוונטית מנכ"ל אנדרסן צ'נג. Post-Quantum היא חברת אבטחת סייבר מובילה שהתמקדות בה עמיד קוונטית אבטחה, כולל נגד זיופים עמוקים. "ישנן מספר שיטות ליצירת זיופים עמוקים אלה," הצהיר צ'נג, "אבל הפופולרית ביותר היא שימוש ברשתות עצביות עמוקות הכוללות מקודדים אוטומטיים. א קידוד אוטומטי היא תוכנית AI למידה עמוקה החוקרת קטעי וידיאו כדי להבין איך אדם נראה מכמה זוויות ומהסביבה הסובבת, ואז היא ממפה את האדם הזה על הפרט על ידי מציאת תכונות משותפות."
הגדרת טכנולוגיית Deepfake (PC Wikimedia Commons)
כדי להבטיח שהמקודד האוטומטי עובד בהצלחה, יש לנתח קטעי וידאו מרובים של פניו של הנבדק כדי לספק מאגר גדול יותר של נתונים. לאחר מכן, המקודד האוטומטי יכול לעזור ליצור סרטון מרוכב על ידי החלפת הפרט המקורי עם הנושא החדש. סוג שני של למידת מכונה הנקראת General Adversarial Network (GANs) יאתר וישפר פגמים בסרטון המרוכב החדש. לפי א מאמר 2022: "אנשי GAN מאמנים 'מחולל' ליצור תמונות חדשות מהייצוג הסמוי של תמונת המקור ו'מפלה' להעריך את הריאליזם של החומרים שנוצרו." תהליך זה מתרחש מספר פעמים עד שהמאבחן לא יכול לדעת אם הסרטון מטופל והזיוף העמוק הושלם.
האיום של טכנולוגיית Deepfake
נכון לעכשיו, יש הרבה תוכנות בקוד פתוח או אפליקציות חינמיות שבהן אנשים יכולים להשתמש כדי ליצור זיופים עמוקים. למרות שזה עשוי להיראות מועיל עבור רבים, במיוחד אלה בתעשיית הבידור, זה הוביל לכמה בעיות חמורות, אפילו פליליות. לפי א דו"ח Deeptrace, 96% מהסרטונים המזויפים באינטרנט בשנת 2019 היו, באופן לא מפתיע, פורנוגרפיה. בעוד שרבים מהסרטונים האסורים הללו נוצרו כדי לנקום באקס, אחרים שימשו ליצירת שערוריות עבור ידועניות ואפילו פוליטיקאיות. בשנת 2018 שוחרר סרטון Deepfake מאת מפלגה פוליטית בלגית מראה את הנשיא דאז טראמפ דן בהסכמי האקלים של פריז. מכיוון שחדשות מזויפות כבר הופכות לנושא עבור הציבור הרחב, סרטוני דיפפייק יכולים להיות הקש ששובר את גב הגמל. אֲפִילוּ שמע מזויף עמוק זורע הרס, כמו קובץ אודיו מאובחן מה- מנכ"ל של חברת טכנולוגיה סייעה לבצע מעשה הונאה. עבור צ'נג, סוגי מדיה אלה יכולים לשחוק את אמון הציבור די מהר. "יש לנו את הנושא הרחב יותר של אמון חברתי - איך הציבור יוכל להבחין בין מה אמיתי למה שהוא זיוף עמוק", הוסיף צ'נג. "כפי שראינו, יש אפילו ראיות לכך שזיופים עמוקים משמשים כדי לעקוף אמצעי הגנה כמו אימות ביומטרי." עם החששות הגוברים הללו, צ'נג והצוות שלו בפוסט-קוואנטום מאמינים שיש להם פתרון בצורת נומידיו, תוכנת אולטרה אבטחה מיוחדת.
מתכוננים לאיומי טכנולוגיה של DeepFake
בהסתכלות על האיומים המרובים שמציבים מחשוב קוונטי וזיופים עמוקים, צ'נג והצוות הזה יצרו את Nomidio כדי לוודא שזהויות כניסה ואפילו אימות ביומטרי נשארים מאובטחים. "Nomidio הוא שירות ביומטרי ביומטרי, ללא סיסמה, ביומטרי רב-גורמי (MFB) המאפשר אימות מאובטח עם חווית משתמש פשוטה ואינטואיטיבית", אמר צ'נג. "זה מחליף כניסה מבוססת שם משתמש/סיסמה וכניסה יחידה, כאשר המשתמשים מאומתים מול הפרופיל הביומטרי שלהם עם אימות רב-גורמי (MFA) מאחורי הקלעים." מכיוון שצ'נג היה מומחה לאבטחת סייבר במשך שנים רבות, הוא דאג לכך ש-Nomidio תהיה בטוחה גם מפני זיופים עמוקים. "פילוסופיית הליבה שלנו בעת יצירתו הייתה להשתמש בכמה שיותר קלט נוסף ובאימות רב-גורמי אמיתי (כלומר עם יותר משני גורמים), כך שהוא למעשה הפתרון האידיאלי להתמודדות עם כל פיתוח עתידי בטכנולוגיית Deepfake. זה נובע בסופו של דבר מהעובדה שה-MFA המסורתי אינו מספיק, אבל MFB יכול להפוך התקפות בזמן אמת לבלתי אפשריות כמעט. כלומר, שילוב של, למשל, קול, פנים וקוד PIN מאובטח מאוד על ידי העובדה שכל גורם בודד עשוי להיות אפשרי לזייף, אבל לזייף את שלושתם באותו מקרה הוא כמעט בלתי אפשרי. עם Nomidio, ניתן לשלב שילוב של ביומטריה של קול ופנים, זיהוי דיבור, נתונים תלויי הקשר, ואפילו ניתוח התנהגותי, למערכת אימות אחת. ”
בעוד ש-Nomidio עצמה אינה ממנפת מחשוב קוונטי כדי להתגבר על איומים מזויפים עמוקים, מחשבים קוונטיים עשויים לפעול נגד קבצי מדיה מזויפים אלה. כפי ש מחשבים קוונטיים לעתים קרובות לרתום אלגוריתמי למידת מכונה לעבודה מהירה ויעילה יותר, הם עשויים להיות מסוגלים לזהות סרטונים מזויפים או קבצי שמע בקצב מהיר יותר. בעוד שהטכנולוגיה עדיין מפותחת, ומעטים מסתכלים על זיופים עמוקים כעל מקרה שימוש פוטנציאלי עבור מחשבים קוונטיים, ניתן להשתמש במכונות הרמה הבאות הללו בעתיד כדי להפוך את המדיה שלנו לאמיתית ומדויקת יותר.
כשהאיומים של טכנולוגיית Deep Fake הופכים ברורים יותר ויותר, ממשלות וחברות רבות כבר מנסות למצוא דרכים לעזור להילחם בה. בשנת 2021 השיקה פייסבוק את אתגר איתור עמוק, עם פרס של $500,000 למי שיוצר טכנולוגיה חדשה לזיהוי זיופים עמוקים. בארה"ב, למדינות כמו קליפורניה, טקסס ווירג'יניה יש חוקים האוסרים שימוש בזיוף עמוק הן לפורנוגרפיה והן לפוליטיקה. ה פרלמנט אירופי כמו כן, קבעו תקנות נוספות סביב זיופים עמוקים, תוך שינוי חוק השירותים הדיגיטליים כדי להטיל שימוש בתוויות על סרטונים מזויפים עמוקים. למרות שהחקיקה הזו לא תהיה יעילה עד 2024, היא מראה את חומרת האיום הטכנולוגי העמוק.
קנה יוז-קסטלברי היא כותבת צוות ב-Inside Quantum Technology ו-Science Communicator ב-JILA (שותפות בין אוניברסיטת קולורדו בולדר ו-NIST). פעימות הכתיבה שלה כוללות Deep Tech, Metaverse וטכנולוגיה קוונטית.
