FCC מצביע לאסור על שיחות הונאה מבוססות בינה מלאכותית

FCC מצביע לאסור על שיחות הונאה מבוססות בינה מלאכותית

טיילר קרוס טיילר קרוס
פורסם ב: פברואר 9, 2024

ועדת התקשורת הפדרלית (FTC) הצביעה פה אחד לאסור באופן מיידי על שיחות הונאה הכוללות שימוש בקולות שנוצרו על ידי בינה מלאכותית.

טכנולוגיית Deepfake עלולה לגרום נזק חמור לצרכנים. מתקשרי הונאה יכולים להשתמש בזיופים עמוקים כדי להעניק אמינות להונאות בדרכים שהיו בלתי אפשריות בעבר. פושעים כבר מתחילים להשתמש בכלים אלה כדי להגביר משמעותית את שיעור ההונאה וההונאות דיוג.

גם סוכנויות ממשלתיות נמצאות בסיכון, מכיוון שניתן להשתמש בבינה מלאכותית להפצה מהירה של מידע מוטעה שעלול להטות את תוצאות הבחירות הן מקומיות והן ארצית. לאחרונה, שיחה מזויפת שהתחזה לנשיא ג'ו ביידן דחקה באלפי מצביעים בניו המפשייר להימנע מהצבעה. זהו רק חלק קטן מהנזק הפוטנציאלי שהטכנולוגיה יכולה לגרום.

"בניו המפשייר טעמו כיצד ניתן להשתמש בבינה מלאכותית באופן בלתי הולם בתהליך הבחירות", אמר מזכיר המדינה של ניו המפשייר דיוויד סקנלן.

"שחקנים רעים משתמשים בקולות שנוצרו על ידי בינה מלאכותית בשיחות רובו בלתי רצויות כדי לסחוט בני משפחה פגיעים, לחקות סלבריטאים וליידע את הבוחרים בצורה שגויה", אמרה יו"ר ה-FCC, ג'סיקה רוזנוורצל. "אנחנו מפנים את הרמאים שמאחורי שיחות הרובוקות האלה."

מספרי טלפון שמשתמשים לעתים קרובות בשיחות רובו כבר נותקו מרשת הטלפון בארה"ב - אם כי מדובר בתיקון פלסטי. זה שולח הודעה לרמאים שהם עוקבים אחר הפעילות שלהם.

"לתובעים הכלליים של המדינה יהיו כעת כלים חדשים לפצח את ההונאות הללו ולהבטיח שהציבור מוגן מפני הונאה ומידע מוטעה", אמר רוזנוורצל.

ההצבעה כללה תרגום חדש של חוק הגנת צרכן הטלפון משנת 1991, שאיפשר למחוקקים לפעול מבלי לדרוש זמן כדי לנסח מערכת כללים חדשה לחלוטין.

עם זאת, זה לא תיקון מושלם.

"אף אחד לא צריך לחשוב שזה ימנע משחקנים רעים לעשות דברים רעים", אמר אנדרו שוורצמן, שהוא היועץ הבכיר במכון בנטון לפס רחב וחברה. "אבל זה נותן ל-FCC כלים לפעול במהירות ולהרתיע את החברות שמאפשרות את השיטות הללו".

בול זמן:

עוד מ בלשי בטיחות