ניסיונות להימנע ממעקות בטיחות בינה מלאכותית המואשמים בזיופים עמוקים של סוויפט

לפי הדיווחים, התמונות המזויפות והזויות הוויראליות של כוכבת הפופ טיילור סוויפט נבעו מתחרות מקוונת ב-4chan, המאתגרת את המתמודדים לשבור מסנני תוכן תוכנת AI. 

אנשים ב-Graphika, חברת ניתוח מדיה חברתית בניו יורק, עקבו אחר התמונות ישירות ל-4chan. אנשים התבקשו להמציא טריקים לעקוף את מעקות הבטיחות ביישומים כמו Designer של מיקרוסופט או DALL-E של OpenAI כדי ליצור תמונות NSFW של ידועניות נשים. התמונות של טיילור סוויפט נוצרו באמצעות Microsoft Designer, והן שותפו מאוחר יותר בצ'אט קבוצתי בטלגרם, לפני שפורסמו ב-X, לפי גרפיקה.

"אנחנו ממשיכים לחקור את התמונות הללו וחיזקנו את מערכות הבטיחות הקיימות שלנו כדי למנוע עוד יותר ניצול לרעה של השירותים שלנו כדי לעזור ליצור תמונות כמוהן", אמר דובר מיקרוסופט הקופה בהצהרה. 

תמונות דיפפייק של סוויפט צבר מיליוני צפיות ב-X לפני שפלטפורמת המדיה החברתית הסירה אותן וחסמה זמנית כמה מונחי חיפוש הקשורים לכותב השירים. עם זאת, גרפיקה אמרה כי התחרות מכוונת לדמויות נשיות ידועות אחרות, והזהירה כי ניתן לנצל את הטכנולוגיה לרעה כדי למקד כל אחד. 

"בעוד שתמונות פורנוגרפיות ויראליות של טיילור סוויפט הביאו את תשומת הלב המרכזית לנושא של תמונות אינטימיות שנוצרו על ידי בינה מלאכותית ללא הסכמה, היא רחוקה מלהיות הקורבן היחיד", כריסטינה לופז ג'י, אנליסטית בכירה בגרפיקה. אמר לי בלומברג. "בקהילת 4chan שבה התמונות הללו מקורן, היא אפילו לא הדמות הציבורית הממוקדת ביותר. זה מראה שאפשר לכוון כל אחד בדרך זו, מסלבריטאים עולמיים ועד תלמידי בית ספר".

עם זאת, נראה כי האופי הוויראלי של התמונות המזויפות המתארות את סוויפט בתנוחות רמיזות מיניות העלה את המחוקקים להילוך. מזכירת העיתונות של הבית הלבן, קארין ז'אן-פייר, קראה לקונגרס "לנקוט צעדים חקיקתיים" בתגובה לתמונות ה"מדאיגות". 

בשבוע שעבר הציגו סנאטורים אמריקאים את חוק Disrupt Explicit Forged Images and Non-Consensual Edits (DEFIANCE) Act משנת 2024, הצעת חוק דו-מפלגתית זה יאפשר לקורבנות לתבוע אנשים שיוצרים ומשתפים זיופים עמוקים שנוצרו על ידי בינה מלאכותית. החקיקה, בראשות הסנאטורים דיק דורבין (D-IL), לינדזי גרהאם (R-SC), איימי Klobuchar (D-MN) וג'וש האולי (R-MO), הצביעה על מחקר שטען ל-96% מהסרטונים המזויפים. היו פורנוגרפיות ונוצרו ללא רשות או הסכמה מהנשים שהיא תיארה. 

חוק DEFIANCE הושק בזמן שהמנכ"לים הבכירים של פלטפורמות המדיה החברתית נחקרו בכנס בקונגרס שמיעה על ניצול מיני של ילדים באינטרנט, וחוסר הגנה.

הקופה ביקש מגרפיקה תגובה נוספת. ®

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
• מקור: https://go.theregister.com/feed/www.theregister.com/2024/02/05/deepfakes_taylor_swift_4chan_competition/