AI Deepfakes הם איום גם על עסקים - הנה הסיבה - פענוח

AI Deepfakes הם איום גם על עסקים - הנה הסיבה - פענוח

חותמת זמן: 25 באוגוסט 2023 3:50
AI Deepfakes הם איום גם על עסקים - הנה הסיבה - פענוח PlatoBlockchain Data Intelligence. חיפוש אנכי. איי.

בעוד ענקיות הטכנולוגיה מתחרות על הבאת בינה מלאכותית להמונים ובעלות על השוק המתפתח, מרוץ החימוש בינה מלאכותית גורם לעלייה בסרטונים ואודיו "מזוייפים עמוקים" - תוכן שלעתים קרובות נראה או נשמע לגיטימי באופן משכנע, אך הוא למעשה מצג שווא הונאה. והם משפיעים גם על עסקים, על פי דוח חדש.

Deepfakes הם יצירות שנוצרו על ידי בינה מלאכותית כמו תמונות, סרטונים ואודיו שעברו מניפולציות כדי להונות אנשים. רמאים משתמשים בזיופים עמוקים להונאה, סחיטה, או לפגוע במוניטין. התפשטות של AI ייצור הכלים הפכו את הרמאים לקל מתמיד ליצור תוכן מזויף.

ידוענים ואישי ציבור אחרים מוכנסים לצילומים מלאכותיים ולעיתים מפורשים ללא הסכמתם בדרכים שלפעמים הופכות לוויראליות או עלולות לגרום לפאניקה ברשתות החברתיות. בדוח שסופק ל פענוח, חברת רואי חשבון גלובלית KPMG כתב שגם המגזר העסקי אינו חסין מפני האיום העמוק.

ניתן להשתמש בתוכן Deepfake בהתקפות הנדסה חברתית וסוגים אחרים של התקפות סייבר המכוונות לחברות, כתבה KPMG, בעוד שתוכן כזה יכול להשפיע גם על המוניטין של עסקים ומנהיגיהם. מצגי שווא של נציגי החברה יכולים לשמש גם בתוכניות להונאת לקוחות, או לשכנע עובדים לספק מידע או להעביר כסף לשחקנים אסורים.

KPMG ציטט דוגמה של 2020 של מנהל סניף של החברה בהונג קונג שהוליך שולל להעביר כספי חברה בשווי 35 מיליון דולר לרמאים לאחר שהאמין שהבוס שלו בטלפון, והורה לו לעשות זאת. במקום זאת, זה היה שחזור משובט בינה מלאכותית של קולו של המפקח - הכל חלק מתוכנית משוכללת להונאה כסף מהחברה.

"ההשלכות של התקפות סייבר המשתמשות בתוכן סינתטי - תוכן דיגיטלי שנוצר או טופלו למטרות מרושעות - יכולות להיות עצומות, יקרות, ובעלות מגוון השפעות סוציו-אקונומיות, כולל פיננסיות, מוניטין, שירות וגיאופוליטיות, בין היתר." נכתב בדוח.

קטעים מזויפים של דונלד טראמפ נֶעצָר מוקדם יותר השנה, פרנציסקוס לובש ביגוד יוקרה של Balenciaga, ו אלון מאסק קידום הונאות קריפטו הפך לוויראלי בשנה האחרונה מכיוון שטכנולוגיית Deepfake השתפרה הודות לכלי AI מתפתחים.

"בין אם מדובר בזיופים זולים ובין אם מדובר בזיופים עמוקים, המודל הכלכלי השתנה באופן משמעותי בגלל מודלים של בינה מלאכותית", כתבה KPMG.

מעבר לאישים הציבוריים שהוזכרו לעיל, ידוענים בולטים שדמויותיהם נגנבו והושמו על קטעים מזויפים כוללים את השחקנית אמה ווטסון והמוזיקאית טיילור סוויפט. אבל זו ההשפעה הפוטנציאלית על עסקים ועל המנהיגים הבולטים שלהם לפעמים ש-KPMG מעוררת אזעקה.

"כגורם סיכון, תוכן מזויף עמוק אינו רק דאגה עבור מדיה חברתית, אתרי היכרויות ותעשיית הבידור - זה כעת בעיה בחדר הישיבות", אמר KPMG. "לדוגמה, כמעט כל המשיבים (92%) בסקר שנערך לאחרונה על ידי KPMG בינה מלאכותית של 300 מנהלים במגוון תעשיות וגיאוגרפיות טוענים כי החששות שלהם לגבי הסיכונים ביישום בינה מלאכותית גנרטיבית משמעותית במידה בינונית עד מאוד."

לא רק עסקים וסלבריטאים מתמודדים עם העלייה באיכות וגם במספר הסרטונים המזויפים באינטרנט. ממשלות ורגולטורים מתחשבים גם בהשפעה הפוטנציאלית על החברה והבחירות, בעוד היוצרים של כלי AI כאלה שוקלים את ההשפעה השלילית הפוטנציאלית שלהם.

בשבוע שעבר, ועדת הבחירות הפדרלית בארה"ב, שצפה את השימוש בזיופים עמוקים בבחירות 2024, התקדמה עם לעתור לאסור שימוש בבינה מלאכותית במודעות מסע פרסום.

אם תאושר, הסוכנות תתקן את התקנות הנוכחיות לגבי מצג שווא של "סמכות הקמפיין", ותבהיר שהאיסור חל על פרסומות מטעות של קמפיין בינה מלאכותית.

"הרגולטורים צריכים להמשיך להבין ולשקול את ההשפעה של איומים מתפתחים על התקנות הקיימות", אמר מתיו מילר, מנהל שירותי אבטחת סייבר ב-KPMG. פענוח. "לדרישות המוצעות לתיוג ולסימון תוכן שנוצר על ידי AI עשויות להיות השפעה חיובית."

ביולי, חוקרים ב-MIT מוּצָע הוספת שינויי קוד לדגמי דיפוזיה גדולים כדי להפחית את הסיכון לזיופים עמוקים, על ידי הוספת שינויים זעירים שקשה לראות אך בסופו של דבר משנים את אופן פעולת המודלים, וגורמים להם ליצור תמונות שלא נראות אמיתיות. מטה, בינתיים, לאחרונה עיכב כלי בינה מלאכותית בשל פוטנציאל הזיוף העמוק שלו.

ההתרגשות סביב הפוטנציאל היצירתי של כלי בינה מלאכותית גנרטיבית התמתן על ידי ההבנה שהם יכולים ליצור באופן דומה הזדמנויות לתוכן זדוני. בסופו של דבר, על רקע שיפורים מהירים בכלים כאלה, מילר קרא לכולם להיות ערניים לגבי הפוטנציאל לתוכן מזויף.

"הציבור צריך לשמור על ערנות מתמדת בעת אינטראקציה בערוצים דיגיטליים", אמר לפענח. "מודעות למצב ושכל ישר עושים דרך ארוכה כדי למנוע אירוע להתרחש. אם משהו לא 'מרגיש נכון', יש לו סבירות גבוהה להיות פעילות זדונית".

הישאר מעודכן בחדשות הקריפטו, קבל עדכונים יומיים בתיבת הדואר הנכנס שלך.

בול זמן:

עוד מ פענוח