Deepfakes - הידוע גם בשם מדיה סינתטית - יכול לשמש ליותר מאשר להתחזות לסלבריטאים ולהפוך את דיסאינפורמציה לאמין יותר. הם יכולים לשמש גם להונאה כספית.
רמאים יכולים להשתמש בטכנולוגיית Deepfake כדי להערים על עובדים במוסדות פיננסיים לשנות מספרי חשבונות ו ייזום בקשות להעברת כספים עבור סכומים ניכרים, אומר סאטיש לאלצ'נד, מנהל ב-Deloitte Transaction and Business Analytics. הוא מציין שלעיתים קרובות קשה, אם לא בלתי אפשרי, לבטל את העסקאות הללו.
פושעי סייבר מאמצים כל העת טכניקות חדשות כדי להתחמק מתהליכי אימות מכירת-הלקוח שלך ובקרות זיהוי הונאה. בתגובה, עסקים רבים בוחנים דרכים שבהן למידת מכונה (ML) יכולה לזהות עסקאות הונאה הכוללות מדיה סינתטית, הונאת זהות סינתטית או התנהגויות חשודות אחרות. עם זאת, צוותי אבטחה צריכים להיות מודעים למגבלות השימוש ב-ML כדי לזהות הונאה בקנה מידה.
מציאת הונאה בקנה מידה
הונאה במגזר השירותים הפיננסיים בשנתיים האחרונות נבעה מהעובדה שעסקאות רבות נדחקו לערוצים דיגיטליים כתוצאה ממגיפת ה-COVID-19, אומר לאלצ'נד. הוא מזכיר שלושה גורמי סיכון המניעים את האימוץ של טכנולוגיות ML לאימות לקוחות ועסקים: לקוחות, עובדים ורמאים.
למרות שעובדים בחברות שירותים פיננסיים בדרך כלל מנוטרים באמצעות מצלמות וצ'אטים דיגיטליים במשרד, עובדים מרוחקים לא מפוקחים כל כך הרבה, אומר לאלצ'נד. עם יותר לקוחות שנרשמים לשירותים פיננסיים באופן וירטואלי, חברות שירותים פיננסיים משלבות יותר ויותר ML בתהליכי אימות ואימות הלקוחות שלהן כדי לסגור את החלון הזה הן עבור העובדים והן עבור הלקוחות. ML יכול לשמש גם כדי לזהות בקשות הונאה לסיוע ממשלתי או הונאת זהות, אומר לאלצ'נד.
בנוסף לזהות הונאה הלוואות לתוכנית הגנת משכורת, ניתן לאמן מודלים של ML לזהות דפוסי עסקאות שעלולים לסמן סחר בבני אדם או הונאות התעללות בקשישים, אומר גארי שיפמן, מייסד שותף של Consilient, חברת IT המתמחה במניעת פשיעה פיננסית.
מוסדות פיננסיים רואים כעת הונאה מתעוררת במספר מוצרים, אך הם נוטים לחפש עסקאות הונאה בממגורות. בינה מלאכותית וטכנולוגיית ML יכולים לעזור לרכז אותות הונאה מתחומים רבים, אומר שיפמן.
"המוסדות ממשיכים לעשות את החפרפרת, וממשיכים לנסות ולזהות היכן גדלה ההונאה, אבל זה פשוט קרה מכל עבר", אומר לאלצ'נד. "המיזוג של מידע... נקרא CyFi, ומפגיש את הנתונים הפיננסיים והסייבר."
כלי ML יכולים לסייע בזיהוי חיובי של לקוחות, בזיהוי הונאת זהות ובזיהוי הסבירות לסיכון, אומר Jose Caldera, מנהל מוצר ראשי של מוצרים גלובליים עבור Acuant ב-GBG. ML יכול לבחון את התנהגות העבר ואת אותות הסיכון וליישם את הלקחים האלה בעתיד, הוא אומר.
הגבולות של למידת מכונה
למרות שמודלים של ML יכולים לנתח נקודות נתונים כדי לזהות הונאה בקנה מידה, תמיד יהיו חיוביות שגויות ושליליות שגויות, והמודלים ידרדרו עם הזמן, אומר קלדרה. לכן, צוותי אבטחת סייבר המאמנים את האלגוריתם לאיתור הונאה חייבים לעדכן את המודלים שלהם ולנטר את ממצאיו באופן קבוע, לא רק כל שישה חודשים או כל שנה, הוא אומר.
"אתה צריך לוודא שאתה מבין שהתהליך אינו חד פעמי. ו... אתה צריך את הצוות המתאים שיאפשר לך לשמור על התהליך הזה לאורך זמן", אומר קלדרה. "אתה תמיד הולך לקבל מידע נוסף, ו... אתה צריך להיות מסוגל להשתמש בו כל הזמן על שיפור המודלים שלך ושיפור המערכות שלך."
עבור צוותי IT ואבטחת סייבר שמעריכים את היעילות של אלגוריתמי ML, שיפמן אומר שהם יצטרכו לבסס אמת יסוד - התשובה הנכונה או "האמיתית" לשאילתה או בעיה. לשם כך, צוותים המשתמשים בטכנולוגיות ML מנסים מודל תוך שימוש במערך נתוני בדיקה, תוך שימוש במפתח תשובה כדי לספור את השליליות השגויות, החיוביות השגויות, החיוביות האמיתיות והשליליות האמיתיות שלו, הוא אומר. לאחר שהשגיאות והתשובות הנכונות נלקחו בחשבון, חברות יכולות לכייל מחדש את מודל ה-ML שלהן כדי לזהות פעילות הונאה בעתיד, הוא מסביר.
מלבד עדכון האלגוריתמים שלהם לאיתור הונאה, צוותי IT ואבטחת סייבר המשתמשים בטכנולוגיית ML חייבים להיות מודעים גם להגבלות משפטיות על שיתוף נתונים עם ישויות אחרות, אפילו כדי לזהות הונאה, אומר שיפמן. אם אתה מטפל בנתונים ממדינה אחרת, ייתכן שלא תוכל מבחינה חוקית להעביר אותם לארה"ב, הוא אומר.
עבור צוותים המעוניינים להשתמש בטכנולוגיית ML לזיהוי הונאה, Caldera מזהירה שכלים כאלה הם רק מרכיב אחד באסטרטגיית מניעת הונאות ושאין פתרון אחד לפתרון בעיה זו. לאחר הצטרפות לקוחות חדשים, מומחי אבטחת סייבר ו-IT חייבים להישאר מעודכנים כיצד הם משנים התנהגויות לאורך זמן.
"השימוש או לא בטכנולוגיה או למידת מכונה הוא רק מרכיב אחד בערכת הכלים שלך", אומר קלדרה. "אתה כעסק, אתה צריך להבין: מה המחיר שאתה משקיע בזה, מהי סיבולת הסיכון שיש לך, ואז מהי עמדת הלקוח שאתה רוצה?"
