ועדת הסחר הפדרלית (FTC) מבטיחה פרס של 25,000 דולר עבור הפתרון הטוב ביותר להילחם באיום הגובר של שיבוט קולי בינה מלאכותית.
המכונה לפעמים זיוף אודיו עמוק, מספר השירותים המקוונים המציעים מתקני שיבוט קול קלים לשימוש גדל מאז שה-AI הגנרטיבי הפך למיינסטרים, מה שמעלה חששות לגבי הפוטנציאל שלו להתעללות במתקפות סייבר.
לדוגמה, איום נרחב יכול לכלול זיוף קולות של מנכ"לים כדי להתחזות להם ולהורות למחלקת הכספים להעביר כסף לחשבון של תוקף. אפשר גם להערים על חברים ומשפחות לשלוח כסף לאהובים, ו אמנים מבצעים עלולה לסכן את פרנסתם אם הטכנולוגיה תמשיך להבשיל.
לגורמים המעוניינים יש עד ה-12 בינואר להגיש את הרעיונות שלהם כדי לסייע בטיפול בהונאה של שיבוט קול מבוסס בינה מלאכותית, תוך התמקדות בעיקר במניעה, ניטור והערכה של הטכנולוגיה.
"המאמץ הזה עשוי לעזור לדחוף קדימה רעיונות להפחתת סיכונים במעלה הזרם - להגן על צרכנים, אנשי מקצוע יצירתיים ועסקים קטנים מפני הנזקים של שיבוט קול לפני שהפגיעה מגיעה לצרכן", ה-FTC אמר.
"זה גם עשוי לעזור לקדם רעיונות להפחתת סיכונים ברמת הצרכן. ואם לא יצוצו רעיונות ברי קיימא, זה ישלח אזהרה קריטית ומוקדמת לקובעי המדיניות שעליהם לשקול הגבלות מחמירות יותר על השימוש בטכנולוגיה זו, לאור האתגר במניעת פיתוח מזיק של יישומים בשוק".
הגשות יוערכו בהתבסס על מידת הביצוע והניהול שלה, עד כמה היא עמידה לשינויים טכנולוגיים, ועד כמה הם שוקלים בחשבון כיצד יוטלו אחריות ואחריות על חברות, בין שאר האמצעים.
הפרס העליון המוצע הוא 25,000 דולר, מה שלא נשמע כמו מכרה זהב בהתחשב ביישומים הרחבים הפוטנציאליים שיש לפתרון גאוני.
סגן אלוף אחד יקבל גם 4,000 דולר, שלושה ציונים מכובדים ישולמו 2,000 דולר כל אחד על צרותיו, וארגונים של 10 אנשים או יותר יקבלו פרס הכרה ללא מזומן.
שימוש לרעה בקול בינה מלאכותית בפעולה
היעילות של שיבוט קול בינה מלאכותית הוכחה במקרים חוזרים במהלך השנה האחרונה. מומחים בחנות האבטחה הסלובקית ESET הראה כיצד ניתן לשלוף את הדוגמה האמורה של מנכ"לים מזויפים.
למעשה, זה היה בעיה כבר שנים לפני שה-AI הגנרטיבי הגיע לידיו של האדם הממוצע. חברת אנרגיה בריטית הייתה ירד מ-$243,000 בשנת 2019 לאחר שהמנכ"ל שלה קיבל הוראה לשלוח סכום גדול לספק הונגרי.
ניו יורק טיימס לדווח, שוב מ-12 החודשים הקודמים, פירט מגוון של מקרים שהצליחו להתמקד במגזר הפיננסי, והוליכו בנקים שולל להעביר כסף ממי שהם האמינו שהם לקוחות אמיתיים. אל רג דיווח גם על דומה התקפות המתרחשות באיחוד האמירויות כמו חזרה 2021.
גם הונאות רומנטיות נפוצות, כשבריטי אחד נופל על א זייף את קווין קוסטנר, וגם פושעים הראו שהם לא מעל לביצוע הונאות "חירום משפחתי". - כאלה שמכוונים להורים עם הקולות המשובטים של ילדיהם המבקשים כסף כדי להפקיד ערבות, למשל.
עוד דוגמאות מרושעות ראו אמהות מקבלות שיחות כביכול מבנותיהן המוחזקות כבנות ערובה על ידי "חוטפים" שדורשים כופר עתק.
שיבוט קול מתאפשר על ידי הזנת מודל AI בכמות מספקת של נתוני אימון כדי להבין את הצליל, הטון, הקצב, ההטיה וניואנסים אחרים של קולו של אדם. ידועים כי ידוענים ואישי ציבור אחרים נמצאים בסיכון חריף להתקפות אלו בהתחשב במספר ההקלטות של קולם הקיימות ברשת.
עם עלייתה של תרבות המדיה החברתית ויצירת תוכן וידאו, לרבים שאינם מפורסמים ואפילו לילדים יש מספיק חומר באינטרנט כדי להכשיר דוגמנית בצורה יעילה.
חוקרי קספרסקי בחנו את העלייה בשיבוט קולי בינה מלאכותית בשנה שעברה וגילו מגוון רחב של כלי קוד פתוח זמינים באופן חופשי שיכולים ליצור קולות משובטים באמצעות טכנולוגיית AI. עם זאת, הם טענו שכדי להפעיל שיבוט משכנע, זה דרש קצת ידע ב-Python וקצת התעסקות מצד המשובט.
עם זאת, ההצעות בתשלום נוטות להיות הרבה יותר אפקטיביות. החוקרים הצביעו על דגם VALL-E של מיקרוסופט שיכול כביכול ליצור שיבוט הגון עם שלוש שניות בלבד של אודיו קולי המשמש כנתוני אימון.
ישנם גם פתרונות אחרים בתשלום שעובדים טוב יותר מאלה החינמיים, אך אלה עדיין נמצאים רק בשלב הפיתוח המוקדם, כך שאנו יכולים לצפות שהדיוק והיעילות של המודלים הללו ישתפרו עם הזמן. ®
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
- מקור: https://go.theregister.com/feed/www.theregister.com/2024/01/05/ftc_voice_cloning_solution/
- :יש ל
- :הוא
- :לֹא
- $ למעלה
- 000
- 10
- 12
- 12 חודשים
- 2019
- 2021
- 7
- a
- מֵעַל
- התעללות
- חֶשְׁבּוֹן
- דיוק
- כתובת
- לְנַהֵל
- לקדם
- לאחר
- שוב
- נגד
- AI
- גם
- בין
- an
- ו
- יישומים
- ARE
- AS
- לשאול
- מוֹעֳרָך
- At
- המתקפות
- אודיו
- זמין
- מְמוּצָע
- פרס
- בחזרה
- עֲרֵבוּת
- בנקים
- מבוסס
- BE
- היה
- לפני
- האמין
- הטוב ביותר
- מוטב
- קצת
- רחב
- עסקים
- אבל
- by
- שיחות
- הגיע
- CAN
- נושאת
- מקרים
- מזומנים
- ללא מזומנים
- ידוענים
- מנכ"ל
- מנכ"לים
- לאתגר
- שינויים
- ילדים
- לקוחות
- CNN
- CO
- להילחם
- עמלה
- חברות
- חברה
- דאגות
- לשקול
- בהתחשב
- צרכן
- צרכנים
- תוכן
- יצירת תוכן
- להמשיך
- יכול
- יצירה
- יְצִירָתִי
- פושעים
- קריטי
- תַרְבּוּת
- התקפות רשת
- נתונים
- deepfakes
- דרישה
- מַחלָקָה
- מְפוֹרָט
- צעצועי התפתחות
- גילה
- do
- לא איכפת
- כל אחד
- מוקדם
- קל לשימוש
- אפקטיבי
- יעילות
- יְעִילוּת
- מאמץ
- לצאת
- חירום
- אנרגיה
- מספיק
- הערכה
- אֲפִילוּ
- דוגמה
- לבצע
- להתקיים
- לצפות
- מומחים
- מתקנים
- עובדה
- נפילה
- משפחות
- משפחה
- רחוק
- אפשרי
- פדרלי
- ועדת סחר הפדרלית
- האכלה
- דמויות
- לממן
- התמקדות
- בעד
- קדימה
- הונאה
- חופשי
- בחופשיות
- חברים
- החל מ-
- ה-FTC
- ליצור
- גנרטטיבית
- AI Generative
- אמיתי
- לקבל
- נתן
- גדל
- ידיים
- לפגוע
- מזיק
- ניזקים
- יש
- הוחזק
- לעזור
- איך
- אולם
- HTML
- HTTPS
- עצום
- הונגרי
- רעיונות
- if
- לשפר
- in
- עצמאי
- בנפרד
- נטיה
- אל תוך
- לערב
- סוגיה
- IT
- שֶׁלָה
- יָנוּאָר
- jpg
- רק
- גָדוֹל
- אחרון
- שנה שעברה
- רמה
- אחריות
- כמו
- גבולות
- נראה
- אהבתי
- עשוי
- בעיקר
- זרם מרכזי
- רב
- שוק
- חוֹמֶר
- בוגר
- מאי..
- אמצעים
- מדיה
- אזכורים
- להקל
- מודל
- מודלים
- כסף
- ניטור
- חודשים
- יותר
- נע
- הרבה
- חדש
- ניו יורק
- ניו יורק טיימס
- ניואנסים
- מספר
- of
- כבוי
- הַצָעָה
- הצעה
- הצעות
- המיוחדות שלנו
- on
- ONE
- יחידות
- באינטרנט
- רק
- לפתוח
- קוד פתוח
- or
- ארגונים
- אחר
- הַחוּצָה
- יותר
- נפרע
- הורים
- חלק
- צדדים
- עבר
- אֲנָשִׁים
- אדם
- מקום
- אפלטון
- מודיעין אפלטון
- אפלטון נתונים
- קובעי מדיניות
- אפשרי
- הודעה
- פוטנציאל
- מניעה
- מניעה
- קודם
- הפרס
- אנשי מקצוע
- מבטיח
- מוכח
- ציבורי
- דחוף
- פיתון
- העלאה
- רכס
- מגיע
- לקבל
- הכרה
- מכונה
- לחזור על
- דווח
- נדרש
- חוקרים
- מִתאוֹשֵׁשׁ מַהֵר
- אחריות
- לגמול
- לעלות
- הסיכון
- סיכונים
- ריצה
- s
- הונאות
- שניות
- מגזר
- אבטחה
- לראות
- לשלוח
- שליחה
- שירותים
- חנות
- צריך
- הראה
- דומה
- since
- קטן
- עסקים קטנים
- So
- חֶברָתִי
- מדיה חברתית
- פִּתָרוֹן
- פתרונות
- כמה
- קול
- מָקוֹר
- התמחות
- עוד
- מחמיר
- להגיש
- בהצלחה
- להתחנן
- לקחת
- נטילת
- יעד
- מיקוד
- טק
- טכנולוגי
- טכנולוגיה
- נוטה
- מֵאֲשֶׁר
- זֶה
- השמיים
- שֶׁלָהֶם
- אותם
- שם.
- אלה
- הֵם
- זֶה
- מחשבה
- איום
- שְׁלוֹשָׁה
- זמן
- פִּי
- ל
- צליל
- גַם
- כלים
- חלק עליון
- סחר
- רכבת
- הדרכה
- Uk
- להבין
- עד
- להשתמש
- מְשׁוּמָשׁ
- באמצעות
- מגוון
- בַּר חַיִים
- וִידֵאוֹ
- קול
- VOICES
- אזהרה
- היה
- we
- הלכתי
- אשר
- מי
- רָחָב
- נָפוֹץ
- יצטרך
- חוט
- עם
- תיק עבודות
- היה
- WSJ
- שנה
- שנים
- york
- זפירנט