התפשטות בינה מלאכותית: שירותי עירום Deepfake מרקיעים שחקים בפופולריות - פענוח

הנגע של יצירת זיוף עמוק זדוני התפשט הרבה מעבר לתחום של סלבריטאים ואישי ציבור, ודו"ח חדש על דימויים אינטימיים ללא הסכמה (NCII) מוצא שהנוהג רק הולך וגדל ככל שמחוללי תמונות מתפתחים ומתרבים.

"התפשטות AI" במגמת עלייה, א לדווח על ידי חברת הניתוח של מדיה חברתית Graphika אמרה ביום שישי, שתיארה את התרגול כשימוש AI ייצור כלים מכוונים להסרת בגדים מתמונות שהועלו על ידי משתמשים.

קהילת הגיימינג והסטרימינג של Twitch התמודדה עם הנושא מוקדם יותר השנה כאשר השדר הבולט ברנדון 'אטיוק' יואינג חשף בטעות שהוא צפה בפורנו מזויף עמוק שנוצר בינה מלאכותית של סטרימרים נשיים שהוא כינה חבריו, לפי לדווח by Kotaku.

יואינג חזר לפלטפורמה במרץ, מתחרט ודיווח על שבועות של עבודה שלקח על עצמו כדי לצמצם את הנזק שגרם. אבל התקרית פתחה את שערי ההצפה עבור קהילה מקוונת שלמה.

הדוח של גרפיקה מראה שהתקרית הייתה רק טיפה בדלי.

"באמצעות נתונים שסיפקנו Meltwater, מדדנו את מספר התגובות והפוסטים ב-Reddit ו-X המכילים קישורי הפניה ל-34 אתרים ו-52 ערוצי טלגרם המספקים שירותי NCII סינתטיים", כתב אנליסט המודיעין של Graphika, סנטיאגו לקאטוס. "אלה הסתכמו ב-1,280 בשנת 2022 בהשוואה ליותר מ-32,100 עד כה השנה, המייצגים עלייה של 2,408% בנפח משנה לשנה."

גרפיקה מניו יורק אומרת שהפיצוץ ב-NCII מראה שהכלים עברו מלוחות דיונים נישה לתעשיית קוטג'ים.

"דגמים אלה מאפשרים למספר גדול יותר של ספקים ליצור בקלות ובזול NCII פוטוריאליסטי בקנה מידה", אמר גרפיקה. "ללא ספקים כאלה, הלקוחות שלהם יצטרכו לארח, לתחזק ולהריץ דגמי פיזור תמונה מותאמים אישית משלהם - תהליך שלוקח זמן ולפעמים יקר."

גרפיקה מזהירה שהעלייה בפופולריות של כלי התפשטות בינה מלאכותית עלולה להוביל לא רק לזיוף פּוֹרנוֹגרָפִי חומר אבל גם הטרדה ממוקדת, סבל ויצירת חומרי התעללות מינית בילדים (CSAM).

לפי הגרפיקה לדווח, מפתחים של כלים לשחרור בינה מלאכותית מפרסמים במדיה חברתית כדי להוביל משתמשים פוטנציאליים לאתרי האינטרנט שלהם, לצ'אט הפרטי בטלגרם או לשרתי דיסקורד שבהם ניתן למצוא את הכלים.

"חלק מהספקים גלויים בפעילותם, מצהירים שהם מספקים שירותי 'התפשטות' ומפרסמים תמונות של אנשים שלטענתם 'התפשטו' כהוכחה", כתב גרפיקה. "אחרים פחות מפורשים ומציגים את עצמם כשירותי אמנות בינה מלאכותית או גלריות תמונות Web3 תוך שהם כוללים מונחי מפתח הקשורים ל-NCII סינתטי בפרופילים ובפוסטים שלהם."

בעוד שבינה מלאכותית מתפשטת מתמקדת בדרך כלל בתמונות, בינה מלאכותית שימשה גם ליצירה וידאו זיופים עמוקים תוך שימוש בדמותם של ידוענים, כולל אישיות YouTube מר חיה ושחקן הוליוודי איקוני טום הנקס.

יש שחקנים שאוהבים סקרלט ג'והנסון ושחקן הודי אניל קאפור לוקחים למערכת המשפטית כדי להילחם באיום המתמשך של זיופים עמוקים של AI. ובכל זאת, בעוד שבדרנים מיינסטרים יכולים לקבל יותר תשומת לב תקשורתית, בדרנים למבוגרים אומרים שקולם כמעט ולא נשמע.

"זה ממש קשה", טניה טייט, השחקנית האגדית למבוגרים וראש יח"צ Star Factory. אמר לי פענוח מוקדם יותר. "אם מישהו נמצא במיינסטרים, אני בטוח שזה הרבה יותר קל."

אפילו ללא עליית טכנולוגיית הבינה המלאכותית והדיפפייק, טייט הסבירה שהמדיה החברתית כבר מלאה בחשבונות מזויפים תוך שימוש בסבירות ובתוכן שלה. לא עוזרת לעניינים היא הסטיגמה המתמשכת שעומדת בפני עובדי מין, שמאלצת אותם ואת המעריצים שלהם להישאר בצל.

באוקטובר, חברת כלב השמירה באינטרנט, שבסיסה בבריטניה, Internet Watch Foundation (IWF), בדו"ח נפרד, ציינה כי למעלה מ-20,254 תמונות של התעללות בילדים נמצאו בפורום darkweb יחיד בחודש אחד בלבד. ה-IWF הזהיר שפורנוגרפיית ילדים שנוצרת בינה מלאכותית יכולה "להציף" האינטרנט.

הודות להתקדמות בהדמיית AI גנרטיבית, IWF מזהיר זאת עמוק הפורנוגרפיה התקדמה עד לנקודה שבה זיהוי ההבדל בין תמונות שנוצרו בינה מלאכותית לתמונות אותנטיות הפך יותר ויותר מורכב, והותיר את רשויות אכיפת החוק רודפות אחר פנטומים מקוונים במקום קורבנות התעללות בפועל.

"אז יש את הדבר המתמשך שאתה לא יכול לסמוך עליו אם הדברים אמיתיים או לא", אמר סמנכ"ל ה-Internet Watch Foundation, דן סקסטון. פענוחט. "הדברים שיגידו לנו אם הדברים אמיתיים או לא הם לא 100%, ולכן, אתה גם לא יכול לסמוך עליהם."

באשר לאוינג, קוטאקו דיווח שהסטרימר חזר ואמר שהוא עובד עם כתבים, טכנולוגים, חוקרים ונשים שנפגעו מהאירוע מאז הפרה שלו יָנוּאָר. יואינג אמר גם שהוא שלח כספים למשרד עורכי הדין של ריאן מוריסון בלוס אנג'לס, מוריסון קופר, לספק שירותים משפטיים לכל אישה ב-Twitch שהייתה זקוקה לעזרתה כדי להוציא הודעות הסרה לאתרים המפרסמים תמונות שלהן.

יואינג הוסיף כי קיבל מחקר על עומק סוגיית הזיוף העמוק מחוקרת הזיוף העמוק המסתורי ג'נבייב אה.

"ניסיתי למצוא את 'נקודות האור' במאבק נגד סוג זה של תוכן", אמר יואינג.

נערך על ידי ריאן אוזאווה.

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
• מקור: https://decrypt.co/209181/ai-undressing-deepfake-nude-services-skyrocket-in-popularity