סין תציג חוקים לטיפול בזיופים עמוקים בינואר PlatoBlockchain Data Intelligence. חיפוש אנכי. איי.

סין תציג חוקים לטיפול בזיופים עמוקים בינואר

חותמת זמן: 24 בדצמבר, 2022 5:45

אם הייתם ברשתות החברתיות השבוע, סביר להניח שנתקלתם בתמונות של תמונות שנוצרו על ידי בינה מלאכותית של חבריכם כיצורי פיות, דמויות אנימה, אווטרים ויצורים קסמים.

זה נובע בחלקו מ-Lensa, AI שמסנתז דיוקנאות דיגיטליים על סמך תמונות שמשתמשים מעלים. דיוקנאות האפליקציה כמעט השתלטו על האינטרנט, כאשר Lensa הפכה לאפליקציה שהורדה ביותר בחנות האפליקציות של אפל.

לנסה, כמו כל יישומי בינה מלאכותית המציגים תמונות דיגיטלית, חיזרה להערצה ולמחלוקת בשל הסקסואליזציה הבוטה לכאורה של תמונות נשיות. משתמשים אחרים ציינו שהאפליקציה הפכה את עורם לחיוור או את גופם דק יותר.

גם לקרוא: טכנולוגיית AI שיוצרת תמונות מזויפות עמוקות הורסות חיים

איך להשיג 'אווטאר קסם' משלך

התמונות שעושות את הסיבוב הן יצירה גאה של פונקציית האווטרים הקסומים של לנסה. כדי להרגיש את זה, יש להוריד את אפליקציית Lensa בטלפון. מנוי שנתי הוא בסביבות $35.99 אבל השירותים שלו זמינים גם אם עם מגבלות בחינם בניסיון של שבוע אם רוצים לבדוק את זה קודם.

עם זאת, יצירת אווטאר הקסם הפופולרי דורשת תשלום נוסף בגלל מה שהאפליקציה אומרת שהוא "כוח חישוב אדיר" להשגה.

בגרסת ניסיון בחינם, אפשר להשיג 50 אווטארים ב-$3.99, ו-200 אווטארים ב-$7.99. על מנת לקבל את התוצאות הטובות ביותר, האפליקציה מעודדת משתמשים להעלות לפחות 20 תמונות מקרוב.

באופן אידיאלי, תמונות אלו צריכות להיות תקריב של הפנים של האדם עם מגוון של רקעים, הבעות פנים וזוויות שונות. האפליקציה מתעקשת שמשתמשים צריכים להיות בני 13 ומעלה. Lensa היא לא אפליקציה חדשה לגמרי.

מוצר של Prisma, האפליקציה הפכה פופולרית לראשונה בשנת 2016 הודות לפונקציה שאפשרה למשתמשים לשנות את הסלפי שלהם לתמונות בסגנון של אמנים מפורסמים.

איך לנסה עובדת?

לדברי החברה, היא עושה שימוש במה שהיא מכנה "טכנולוגיית TrueDepth API" שבה משתמש מספק תמונות, או "נתוני פנים", ואז AI עובר הכשרה על האלגוריתמים שלה כדי לבצע ביצועים טובים יותר ולהראות לך תוצאות טובות יותר. אימון הוא כאשר ה-AI מעבד נתונים, מאמת ובודק את המודלים.

על מנת להשתמש באפליקציה ניתן לאצור 20 תמונות סלפי עם מגוון ביטויים וזוויות ובחרו באפשרות 100 אווטארים.

זה לוקח בערך 20 דקות לעשות את העבודה. לאחר ביצוע, הבינה המלאכותית מחזירה אווטרים הנכללים ב-10 קטגוריות כמו פנטזיה, נסיכת פיות, פוקוס, פופ, מסוגנן, אנימה, אור, קוואיי, ססגוני וקוסמי.

"באופן כללי, הרגשתי שהאפליקציה עשתה עבודה טובה בהפקת תמונות אמנותיות על סמך הסלפי שלי. לא ממש הצלחתי לזהות את עצמי ברוב הפורטרטים, אבל יכולתי לראות מאיפה הם באים". זואי סוטיל של CNN כתב.

"נראה שהוא זיהה וחוזר על תכונות מסוימות, כמו העור החיוור שלי או האף העגול שלי, יותר מאחרות. חלקם היו בסגנון ריאליסטי יותר, והיו קרובים מספיק, אולי הייתי חושב שהם בעצם תמונות שלי אם אראה אותם מרחוק. אחרים היו הרבה יותר מסוגננים ואמנותיים, אז הם הרגישו פחות ספציפיים עבורי".

סוטיל הבחין שה-AI גם הפך אותה לקלה יותר.

באשר לי, גם הרגשתי שזה אוטומטית הופך אותי לבהיר יותר והתמונה שניסיתי בגלריה שלי שלי ושל חבר בעל עור כהה קל החזירה לנו גרסה הרבה יותר בהירה שלנו, ברור שהגזמה וחשפה נטייה להבהיר גווני עור שחורים.

ביצוע מיניות של נשים

לאחרים שהשתמשו בו היו חששות דומים פחות או יותר.

נשים אומרות שה-AI ממהר לעשות מיניות של התמונות שלהן. אבל במאמר קודם, אנחנו מוסבר זה התאפשר הודות למספר העצום של תמונות מיניות שנמצאו במערכי נתונים המשמשים באימון בינה מלאכותית.

במילים אחרות, זה אומר שה-AI מכיר יותר מדי איך ליצור את התמונות האלה ולעבור בקלות לפורנוגרפיה. עם קצת תחבולה, זה יכול להתבקש להפיק בלי משים גם פורנו מהתמונות האלה אם משתמש רוצה.

בסיפורים אחרים, כיסינו כיצד ניתן להטעות AI:s לספק מידע כיצד ליצור א פְּצָצָה לדוגמה. באופן מוזר, סוגיית הסקסואליזציה לא הופיעה בתמונות של גברים שהועלו לתכונת Magic Avatar. עבור MIT Technology Review, Melissa Heikkilä כתב,

"האווטרים שלי היו פורנו בצורה מצוירת, בעוד שעמיתיי הגברים הפכו להיות אסטרונאוטים, חוקרים וממציאים."

סוטיל, לעומת זאת, שמה לב שה-AI "באחת התמונות הכי מבאסות" גרם לה להיראות "כאילו גרסה של הפנים שלי על גוף עירום".

"בכמה תמונות, זה נראה כאילו אני עירומה אבל עם שמיכה ממוקמת אסטרטגית, או שהתמונה פשוט נחתכה כדי להסתיר משהו מפורש", אמרה.

"ורבות מהתמונות, אפילו היכן שהייתי לבוש מלא, הציגו הבעת פנים חונקת, מחשוף משמעותי ולבוש דל שלא תאמו את התמונות ששלחתי", מוסיפה זואי סוטיל.

אחרים הביעו חשש שהם יהפכו לכוכבי פורנו על ידי טכנולוגיית AI כמו Lensa.

ביישוף גוף

עבור נשים בעלות גוף מלא, החוויה הייתה שונה במקצת ואף גרועה יותר במקרים מסוימים. ה-AI הפך אותם לרזים וסקסיים.

"עבור Lmfao, אם יש לך Body Dysmorphia, אל תשתמש באפליקציית Lensa עבור התמונות שנוצרו בינה מלאכותית. זו האזהרה שלך", משתמש כתב.

אחר אמר שהאפליקציה גרמה לה להיראות אסייתית.

משתמש אחר פנה לטוויטר כדי להתלונן ששילם 8 דולר כדי לחוות דיסמורפיה בגוף כשהשתמש ב-AI.

דיסמורפיה בגוף היא מצב בריאותי נפשי שבו אדם מבלה זמן רב בדאגה לפגמים במראה שלו. פגמים אלו לרוב אינם מורגשים לאחרים.

אחרת התלוננה שה-AI משילה אוטומטית משקל משמעותי על תמונותיה המלאות.

"אחת התלונות שיש לי על Lensa AI היא שהיא תעשה אותך רזה בתמונות מסוימות. בתור אדם שמן התמונות האלה ממש הפריעו לי. אז היזהרי לא להילחץ אם אתה בחור שמן ללא עניין להיות רזה", כתבה מריה מוצלחת (@Shlatz) ב-5 בדצמבר 2022.

פצצת זמן פסיכולוגית

ופסיכולוגים מסכימים עם הצהרותיה שה-AI יכול להפעיל נשים מלאות.

פסיכולוג קליני, דר. טוני פיקוס, מטפל אוסטרלי בבריאות הנפש, העוסק במחקר ומתמחה בטיפול בהפרעה דיסמורפית בגוף, האמין שהיישום יכול להזיק יותר מתועלת והוא אינו אלא "כלי סינון תמונות" לשינוי התפיסה העצמית של האדם.

"כאשר יש פער גדול יותר בין המראה האידיאלי למראה הנתפס, זה יכול לעורר אי שביעות רצון בגוף, מצוקה ורצון לתקן או לשנות את המראה שלו באמצעים שעלולים להיות לא בריאים או לא בטוחים" כמו אכילה מופרעת או פרוצדורות קוסמטיות מיותרות, אומר פיקווס.

היא הביעה דאגה שהתמונות מחקו "פרטים מורכבים" כמו "נמשים וקווים", דבר שעלול להגביר את הדאגות לגבי העור. זה יכול גם לעורר אדם פגיע מבחינה פסיכולוגית, היא אומרת.

"לראות תמונה חיצונית משקפת את חוסר הביטחון שלהם בחזרה רק מחזקת את הרעיון 'תראה, זה לא בסדר איתי! ואני לא היחיד שיכול לראות את זה!'", אומר פיקוס.

בשל העובדה שה-AI מציג תכונות משלה שאינן מתארות את המראה האמיתי של המשתמש, האפליקציה עלולה ליצור חרדות חדשות, הוא אומר.

היא אומרת שה"אווטרים הקסומים" של ה-AI היו "מעניינים במיוחד כי זה נראה אובייקטיבי יותר - כאילו איזו ישות חיצונית, יודעת כל, יצרה את התמונה הזו של איך אתה נראה".

זה, היא מרגישה, עשוי להיות למעשה "שימושי" עבור אנשים עם הפרעה דיסמורפית בגוף ולעזור לשפוך אור על "חוסר התאמה" בין "השקפה השלילית של הפרט על עצמו לבין האופן שבו אחרים רואים אותו".

עם זאת, היא ציינה שה-AI לא היה אובייקטיבי בגלל הניסיון שלו לתאר גרסה חסרת פגמים ו"משופרת ומשוכללת" יותר של הפנים של האדם.

לדוגמה, מישהו שחווה הפרעה דיסמורפית בגוף, או BDD, "עשוי לחוות חיזוק ביטחון קצר כשהוא רואה את הדימוי שלו, ורוצה לחלוק את הגרסה הזו של עצמו עם העולם", היא אומרת, אבל ייפגע קשה מהמציאות כאשר הוא לא מסך, לא מסונן, במראה או תמונה שהם מצלמים בעצמם".

מגן על שלו

אנדריי אוסולטסב, מנכ"ל Prisma Labs, אומר שהחברה שלו "מוצפת" כעת בפניות על Lensa והציעה קישור לעמוד שאלות נפוצות שמתייחס לשאילתות של דימויים מיניים, אם כי לא מסוג תגובות המשתמש שמתאר Pikoos.

"לראות את זה משתקף באפליקציה יהיה מאוד מתעמת ויספק סוג של 'אישור' לאופן שבו הם רואים את עצמם", מה שיוביל אותם "להתבצר יותר בהפרעה".

דיפוזיה יציבה

Lensa משתמשת גם ב-Stable Diffusion, שמשתמשת בסינתזה של למידה עמוקה שיכולה ליצור תמונות חדשות מתיאורי טקסט ויכולה לפעול על מחשב Windows או Linux PC, על Mac או בענן על חומרת מחשב שכורה.

הרשת העצבית של Stable Diffusion הצליחה בעזרת למידה אינטנסיבית לשייך מילים ואת הקשר הסטטיסטי הכללי בין מיקומי הפיקסלים בתמונות.

כיסינו באחר כַּתָבָה כיצד לטכנולוגיה יכולה להיות השלכות הורסות חיים על ידי עיבוד ותיאור של תמונות של אנשים שנראים כפושעים או מעורבים בפרקטיקות פחות מחמיאות כמו גניבה.

לדוגמה, אפשר לתת ל-Stable Diffusion במקור פתוח הנחיה, כגון "טום הנקס בכיתה", וזה ייתן לו/ה תמונה חדשה של טום הנקס בכיתה. במקרה של טום האנק, מדובר בטיול בפארק מכיוון שמאות מהתמונות שלו כבר נמצאות במערך הנתונים המשמש לאימון ה-Stable Diffusion.

גם אמנים מקבלים עסקה גולמית

בחזית האמנות, חלק מהאמנים אינם מרוצים.

הם חוששים שה-AI עלול לאיים על פרנסתם. הסיבה לכך היא שאמנים, כולל דיגיטליים, גם לא יכולים לייצר במהירות כמו AI עבור דיוקן דיגיטלי.

חברת האם של Lensa, Prisma ניסתה לעסות את החששות לגבי הטכנולוגיה שלה ביטול עבודה עבור אמנים דיגיטליים.

"למרות שגם בני אדם וגם בינה מלאכותית לומדים על סגנונות אמנותיים בדרכים דומות למחצה, ישנם כמה הבדלים מהותיים: בינה מלאכותית מסוגלת לנתח וללמוד במהירות מקבוצות גדולות של נתונים, אבל אין לה את אותה רמת תשומת לב והערכה לאמנות כבן אדם," כתב החברה בטוויטר ב-6 בדצמבר.

הוא אומר "לא ניתן לתאר את הפלטים כהעתקים מדויקים של יצירת אמנות מסוימת."

שינוי דימוי עצמי

קרי באומן, ביו-אתיקאי מאוניברסיטת טורונטו, אומר של-AI יש פוטנציאל להשפיע לרעה על הדימוי העצמי של האדם, בין יתר סוגיות אתיות.

"במובנים מסוימים, זה יכול להיות מאוד כיף, אבל התמונות האידיאליות האלה מונעות על ידי ציפיות חברתיות שיכולות להיות מאוד אכזריות ומאוד צרות", אמר באומן ביום שני.

באומן אמר שתוכניות הבינה המלאכותית הללו עושות שימוש במקורות נתונים כגון האינטרנט בחיפוש אחר סגנונות אמנות שונים כדי ליצור דיוקנאות אלה. החיסרון הוא שכאשר בינה מלאכותית עושה זאת, אמנים רק לעתים נדירות מקבלים שכר כספי על השימוש בעבודתם או זוכים לזיכוי.

"מה שקורה עם AI מתפתח הוא שהחוקים לא הצליחו באמת לעמוד בקצב הזה מבחינת חוק זכויות היוצרים. זה מאוד קשה ומאוד עכור והאתיקה נמצאת אפילו יותר מאחורי החוקים כי אני טוען שזה לא הוגן ביסודו", אמר באומן.

חששות נתונים אישיים

באומן גם העלה חששות כיצד מאוחסנים הנתונים האישיים של אנשים.

"אתה באמת רוצה את הפנים שלך במסד נתונים גדול? אנשים צריכים להחליט בעצמם לגבי זה אבל זה לא שפיר, אין בזה כלום, זה לא רק כיף", אמר.

לנסה אומרים שהתמונות נשמרות בשרתים ובאפליקציות לא יותר מ-24 שעות. בעזרת אלגוריתמים של למידה עמוקה ולמידת מכונה, ה-AI אוסף ומספק תוצאות טובות יותר בעתיד, גם על סמך הנתונים שנמחקו. זה, אומר באומן, יגרום לחששות בטיחותיים לגבי השימוש הפוטנציאלי בזיהוי פנים, שכן סוג זה של נתונים עלול לשמש את המשטרה באופן לא חוקי.

בול זמן:

עוד מ מטא ניוז