חוקרים ב-IBM Security חשפו איום חדש ומדהים בבינה מלאכותית: היכולת לתמרן שיחות בשידור חי באמצעות טכניקה המכונה "ג'ינג אודיו".
באמצעות AI גנרטיבי וטכנולוגיית אודיו Deepfake, שיטה זו יכולה ליירט ולשנות מילים מדוברות בזמן אמת, מה שמציב סיכונים חסרי תקדים בתקשורת דיגיטלית.
גם לקרוא: זיהוי AI Deepfake מתקדם נגד אתגרי הונאה הולכים וגדלים
חשיפת האיום של שקע אודיו
חיבור האודיו פועל על ידי עיבוד אודיו חי מתקשורת דו-כיוונית, כגון שיחות טלפון, וחיפוש אחר מילות מפתח או ביטויים ספציפיים. כאשר הטריגרים הללו מזוהים, הבינה המלאכותית נכנסת ומחליפה אודיו אותנטי בגרסת זיוף עמוק שעבר מניפולציות לפני שהוא מגיע ליעדו. מדהים איור הטכניקה מסופקת על ידי חוקרי IBM, ששינו את פרטי חשבון הבנק שנאמרו במהלך שיחה מבלי שזוהו.
כניסת אודיו: שימוש בבינה מלאכותית גנרטיבית לעיוות עסקאות אודיו חיות: עליית הבינה המלאכותית הגנרטיבית, לרבות מודלים של טקסט לתמונה, טקסט לדיבור ומודלים של שפות גדולות (LLMs), שינתה באופן משמעותי את העבודה והחיים האישיים שלנו. בעוד ההתקדמות הללו… https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
— שאה שייח (@shah_sheikh) פברואר 1, 2024
הקלות שבה ניתן להמציא הוכחת קונספט להתקפה זו מטרידה. החוקרים ציינו שהחלק המאתגר ביותר לא היה יצירת בינה מלאכותית אלא המאפיינים הטכניים של הקלטת ועיבוד אודיו חי. קלות הפיתוח הזו מייצגת חריגה משמעותית מהציפיות המסורתיות, שבהן מאמץ כזה היה מצריך מומחיות רבה בכמה תחומים במדעי המחשב.
"בניית ה-PoC הזה הייתה קלה באופן מפתיע ומפחיד. בילינו את רוב הזמן בבירור כיצד ללכוד אודיו מהמיקרופון ולהזין את האודיו לבינה מלאכותית יצירתית".
בתכנית זו, תפקידו של AI Generative זה קריטי. באמצעות שלוש שניות בלבד של קולו של אדם, הטכנולוגיה יכולה לייצר שיבוט משכנע כדי לייצר זיופים עמוקים לגיטימיים לפי דרישה. יכולת זו, הזמינה באמצעות ממשקי API, מצביעה על מגמה מטרידה בתהליך הדמוקרטיזציה של כלי מניפולציה מתקדמים.
"כיום, אנחנו צריכים רק שלוש שניות של קול של אדם כדי לשכפל אותו ולהשתמש בממשק API של טקסט לדיבור כדי ליצור קולות מזויפים אותנטיים."
השלכות ושימוש לרעה פוטנציאלי
עם זאת, ההשפעות של פריצת אודיו חורגות מעבר להונאה כספית בלבד. טכנולוגיה כזו מסוגלת לצנזורה בזמן אמת, לשנות שידורים חיים, כגון חדשות ונאומים פוליטיים, ללא זיהוי. יכולות אלו פוגעות בשלמות המידע, עם השלכות עמוקות על הדמוקרטיה ועל אמון הציבור.
עם המחסום הנמוך בפני מתקפת כניסת אודיו, הנדסה חברתית מתוחכמת או התחזות הופחתה משמעותית. הקלות הזו מעלה אז בעיות של התפשטות התקפות כאלה, ובכך מציבה אתגרים לאמצעי האבטחה הנוכחיים ודורשת מנגנוני הגנה חדשים.
"הבשלות של PoC זה תאותת על סיכון משמעותי לצרכנים, בראש ובראשונה... ככל שהמתקפה הזו תשוכלל יותר, כך רשת הקורבנות היא רחבה יותר."
תופעת שקע האודיו מדגישה נושא רחב יותר בפיתוח AI: האופי הכפול של טכנולוגיות גנרטיביות. מצד אחד, הם מקור לאפשרויות בלתי מוגבלות לחדשנות ויצירתיות; מצד שני, אין להזניח את הפוטנציאל המנוצל לרעה. התקרית מעוררת שאלה מרכזית: כיצד החברה יכולה לרתום את היתרונות של AI תוך הגנה מפני היישומים האפלים יותר שלה?
ניווט בעתיד של אבטחת AI
עם הנוף המשתנה של האיומים הדיגיטליים, הזיהוי של IBM Security של שקע שמע הוא אזהרה חיונית לשמירה על ערנות ולחדש את אבטחת הסייבר. ההתפתחות של אמצעי הנגד, כולל אלגוריתמי זיהוי חדשניים וטכניקות הצפנה נמרצות יותר, היא קריטית למאבק באיומים מתוחכמים שכאלה.
חוץ מזה, חשיפה זו מגלה שסוגיות אתיות הן חלק בלתי נפרד ממנו מחקר בינה מלאכותית ופיתוח. הגדרת כללים ואמות מידה לשימוש אחראי בינה מלאכותית חיונית להתמודדות עם הסכנות של טכנולוגיות כה חזקות.
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
- מקור: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- :יש ל
- :הוא
- :לֹא
- $ למעלה
- 1
- 11
- 7
- 8
- a
- יכולת
- חֶשְׁבּוֹן
- לרוחב
- פְּנִיָה
- מתקדם
- נגד
- AI
- אלגוריתמים
- שיניתי
- an
- ו
- API
- ממשקי API
- יישומים
- ARE
- מלאכותי
- בינה מלאכותית
- AS
- At
- לתקוף
- המתקפות
- אודיו
- אוֹתֶנְטִי
- זמין
- בנק
- חשבון בנק
- מחסום
- BE
- היה
- לפני
- להיות
- מבחני ביצועים
- הטבות
- מעבר
- רחב
- אבל
- by
- שיחות
- CAN
- יכולות
- מסוגל
- ללכוד
- צֶנזוּרָה
- האתגרים
- אתגר
- השתנה
- לחימה
- תקשורת
- תקשורת
- פשרה
- המחשב
- מדעי מחשב
- רב
- צרכנים
- שיחה
- שיחות
- יכול
- יוצרים
- יצירתיות
- קריטי
- נוֹכְחִי
- אבטחת סייבר
- סכנות
- כהה יותר
- הונאה
- deepfakes
- גופי בטחון
- דרישה
- דמוקרטיה
- דמוקרטיזציה
- יְצִיאָה
- יעד
- זוהה
- איתור
- צעצועי התפתחות
- דיגיטלי
- חשיפה
- דיונים
- כפול
- בְּמַהֲלָך
- להקל
- קל
- תופעות
- מאמץ
- הצף
- הנדסה
- חיוני
- אֶתִי
- אבולוציה
- הציפיות
- מומחיות
- מומחים
- מְזוּיָף
- שדות
- כספי
- הונאה כספית
- בעד
- הונאה
- החל מ-
- עתיד
- ליצור
- גנרטטיבית
- AI Generative
- Go
- גדל
- יד
- רתמת
- יש
- איך
- איך
- אולם
- HTTPS
- יבמ
- הזדהות
- השלכות
- in
- תקרית
- כולל
- מידע
- חדשנות
- חדשני
- אינטגרלי
- שלמות
- מוֹדִיעִין
- סוגיה
- בעיות
- IT
- שֶׁלָה
- רק
- מילות מפתח
- ידוע
- נוף
- שפה
- גָדוֹל
- לגיטימי
- לחיות
- חי
- הסתכלות
- נמוך
- מחסום נמוך
- מניפולציות
- מניפולציה
- בגרות
- אמצעים
- מנגנוני
- שיטה
- מיקרופון
- מודלים
- לְחַדֵשׁ
- יותר
- רוב
- טבע
- צורך
- נטו
- חדש
- חדשות
- ציין
- of
- on
- ONE
- רק
- or
- אחר
- שלנו
- הַחוּצָה
- יותר
- חלק
- אישי
- תופעה
- דיוג
- טלפון
- שיחות טלפון
- ביטויים
- מכריע
- אפלטון
- מודיעין אפלטון
- אפלטון נתונים
- PoC
- נקודות
- פוליטי
- אפשרויות
- פוטנציאל
- חזק
- תהליך
- תהליך
- לייצר
- עמוק
- הנחיות
- ובלבד
- ציבורי
- אמון ציבורי
- שאלה
- מעלה
- במקום
- מגיע
- חומר עיוני
- ממשי
- זמן אמת
- הקלטה
- מופחת
- מעודן
- מייצג
- חוקרים
- גילה
- מגלה
- לעלות
- הסיכון
- סיכונים
- תפקיד
- כללי
- שְׁמִירָה
- תכנית
- מדע
- שניות
- אבטחה
- אמצעי אבטחה
- הצבה
- כמה
- שֵׁיך
- הסטה
- צריך
- לאותת
- משמעותי
- באופן משמעותי
- חֶברָתִי
- הנדסה חברתית
- חֶברָה
- מתוחכם
- מָקוֹר
- ספציפי
- נאומים
- בילה
- דיבר
- הפצת
- מבהיל
- צעדים
- מדהים
- כזה
- להפליא
- לוקח
- טכניקה
- טכניקות
- טכנולוגיות
- טכנולוגיה
- טקסט לדיבור
- זֶה
- השמיים
- העתיד
- שֶׁלָהֶם
- אז
- אלה
- הֵם
- זֶה
- איום
- איומים
- שְׁלוֹשָׁה
- דרך
- כָּך
- זמן
- ל
- כלים
- מסורתי
- עסקות
- מְגַמָה
- נָכוֹן
- סומך
- קו תחתון
- בלתי מוגבל
- חסר תקדים
- נוֹהָג
- להשתמש
- באמצעות
- גרסה
- באמצעות
- קורבנות
- קול
- VOICES
- אזהרה
- היה
- we
- מתי
- אשר
- בזמן
- מי
- רחב יותר
- עם
- בתוך
- לְלֹא
- מילים
- תיק עבודות
- עובד
- היה
- זפירנט