יהיה קשה יותר לזהות Deepfakes: מנכ"ל Secta Labs - Decrypt

ככל שמחוללי תמונות בינה מלאכותית נעשים מתקדמים יותר, איתור זיופים עמוקים הופך למאתגר מתמיד. רשויות אכיפת החוק והמנהיגים העולמיים ממשיכים להשמיע אזעקה לגבי הסכנות של AI שנוצר deepfakes ברשתות חברתיות ובאזורי עימות.

"אנחנו נכנסים לעידן שבו אנחנו כבר לא יכולים להאמין למה שאנחנו רואים", אמר מרקו ג'אק, מייסד שותף ומנכ"ל Secta Labs. פענוח בראיון. "כרגע, זה קל יותר כי הזיופים העמוקים עדיין לא כל כך טובים, ולפעמים אתה יכול לראות שזה ברור."

לדברי ג'ק, אנחנו לא כל כך רחוקים - אולי תוך שנה - מהנקודה שבה היכולת להבחין בתמונה מזויפת ממבט ראשון כבר לא אפשרית. והוא צריך לדעת: ג'ק הוא מנכ"ל חברת AI-image generator.

ג'ק היה שותף להקמתו Secta Labs בשנת 2022; הסטארט-אפ הגנרטיבי בינה מלאכותית מבוסס אוסטין מתמקד ביצירת תמונות שנוצרות בינה מלאכותית באיכות גבוהה. משתמשים יכולים להעלות תמונות שלהם ולהפוך אותן לתמונות ראש ואווטרים שנוצרו על ידי בינה מלאכותית.

כפי שג'אק מסביר, Secta Labs רואה במשתמשים את הבעלים של דגמי הבינה המלאכותית שנוצרו מהנתונים שלהם, בעוד שהחברה היא רק אפוטרופוס המסייע ביצירת תמונות מהמודלים הללו. 

השימוש לרעה הפוטנציאלי במודלים מתקדמים יותר של AI הוביל את מנהיגי העולם לקרוא מיידית פעולה על רגולציה של AI וגרם לחברות להחליט לא לשחרר את הכלים המתקדמים שלהן לציבור.

שבוע שעבר לאחר ההכרזה על החדש שלו תיבת קול פלטפורמת קול שנוצרה בינה מלאכותית, מטה אמרה שהיא לא תשחרר את ה-AI לציבור.

"אמנם אנו מאמינים שחשוב להיות פתוחים עם קהילת הבינה המלאכותית ולשתף את המחקר שלנו כדי לקדם את רמת האמנות בתחום הבינה המלאכותית", אמר דובר Meta פענוח במייל. "זה הכרחי גם למצוא את האיזון הנכון בין פתיחות לאחריות."

מוקדם יותר החודש, משרד החקירות הפדרלי של ארה"ב מוזהר של הונאות סחיטה עמוקה מזויפת בינה מלאכותית ופושעים המשתמשים בתמונות וסרטונים שנלקחו ממדיה חברתית כדי ליצור תוכן מזויף.

התשובה במלחמה בזיופים עמוקים, אמר ג'ק, אולי אינה ביכולת לזהות זיוף עמוק אלא ביכולת לחשוף זיוף עמוק.

"AI היא הדרך הראשונה שבה אתה יכול לזהות [זיוף עמוק]", אמר ג'ק. "יש אנשים שבונים בינה מלאכותית שאפשר להכניס תמונה לתוך כמו סרטון וה-AI יכול להגיד לך אם היא נוצרה על ידי AI."

AI גנרטיבי והשימוש הפוטנציאלי בתמונות שנוצרו על ידי AI בקולנוע ובטלוויזיה הוא נושא לוהט בתעשיית הבידור. SAG-AFTRA חברים הצביעו לפני שנכנסו למשא ומתן על חוזה כדי לאשר שביתה, חשש משמעותי, בינה מלאכותית.

ג'ק הוסיף כי האתגר הוא מירוץ החימוש של AI המתגלגל ככל שהטכנולוגיה מתקדמת יותר ושחקנים גרועים יוצרים זיופים עמוקים יותר מתקדמים כדי להתמודד עם טכנולוגיה שנועדה לזהות אותם.

מתוך הכרה בכך שנעשה שימוש מוגזם בבלוקצ'יין - יש שיגידו בהייפות יתר - כפתרון לבעיות בעולם האמיתי, ג'ק אמר שהטכנולוגיה והקריפטוגרפיה עשויות לפתור את בעיית הזיוף העמוק.

אבל בעוד שטכנולוגיה יכולה לפתור בעיות רבות עם זיופים עמוקים, ג'ק אמר שפתרון נמוך יותר, חוכמת ההמון, עשוי להיות המפתח.

"אחד הדברים שראיתי שטוויטר עשה, שלדעתי היה רעיון טוב הוא הערות הקהילה, שם אנשים יכולים להוסיף כמה הערות כדי לתת הקשר לציוץ של מישהו", אמר ג'ק. "ציוץ יכול להיות מידע מוטעה בדיוק כמו שזיוף עמוק יכול להיות", אמר. ג'ק הוסיף כי יועיל לתאגידי מדיה חברתית לחשוב על דרכים למנף את הקהילות שלהם כדי לאמת אם התוכן המופץ הוא אותנטי.

"Blockchain יכול לטפל בבעיות ספציפיות, אבל קריפטוגרפיה יכולה לעזור לאמת את מקור התמונה", אמר. "זה יכול להיות פתרון מעשי, שכן הוא עוסק באימות המקור ולא בתוכן תמונה, ללא קשר למידת הזיוף העמוק מתוחכם."

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. רכב / רכבים חשמליים, פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• BlockOffsets. מודרניזציה של בעלות על קיזוז סביבתי. גישה כאן.
• מקור: https://decrypt.co/146066/it-will-get-harder-to-detect-deepfakes-secta-labs-ceo