מיקרוסופט מגלגלת את דגם ה-DALL-E 3 האחרון של OpenAI לתוך Bing

מיקרוסופט שילבה את דגם הטקסט לתמונה האחרון של OpenAI DALL-E 3 בשירותי Bing Image Creator ו-Chat שלה, ותוסיף סימן מים בלתי נראה המציין את התאריך והשעה שבה נוצרה תמונה במקור וציינה אותה כמופקת בינה מלאכותית.

"דגם ה-DALL-E 3 מבית OpenAI מספק שיפורים המשפרים את האיכות והפרטים הכוללים של תמונות, יחד עם דיוק רב יותר עבור ידיים אנושיות, פרצופים וטקסט בתמונות", אמר ה-OS-slinger הודעה מדינות.

משתמשים יכולים להתנסות עם הכלי בתוך Bing Chat או התכונה Image Creator בחיפוש Bing בחינם.

מומחים מזהירים מזה זמן רב מפני הסיכונים שבשימוש בכלי בינה מלאכותית כמו DALL-E 3 ליצירת דיסאינפורמציה ותמונות מזויפות.

מיקרוסופט ניסתה לטפל בבעיה הזו ביולי, כאשר הצטרפה למפתחי בינה מלאכותית מובילים אחרים - כולל אמזון, אנתרופיק, גוגל, Inflection, Meta ו-OpenAI - כדי ליצור טכניקות סימון מים שמזהות ומתייגות תוכן שנוצר בינה מלאכותית.

הפירות של הקולאב הזה עדיין לא ברורים, אבל מיקרוסופט ציינה שכל התמונות שנוצרו על ידי AI שנוצרו על ידי Bing Image Creator יוסיפו סימני מים דיגיטליים בלתי נראים הנצמדים ל- מפרט C2PA – מסגרת טכנית לאימות מקור התוכן, שהוקמה על ידי Adobe, Arm, Intel, Microsoft ו-Truepic.

עם זאת, כמה חוקרים, חָשׁוּד שסימני מים עשויים שלא להיות כל כך יעילים במלחמה בדיסאינפורמציה או בזיופים עמוקים.

מיקרוסופט גם הודיעה כי מערכת ניהול תוכן המוקמה עבור Bing תכוון למנוע מ-DALL-E 3 יצירת תמונות מזיקות או בלתי הולמות המתארות עירום, אלימות, דברי שטנה או פעילויות לא חוקיות.

על פי הדיווחים, DALL-E 3 טוב יותר בניתוח הנחיות קלט ויצירת תמונות המשקפות את רצונות המשתמשים מאשר מערכות קודמות. שלא כמו דגמים קודמים, הוא משתמש ב-ChatGPT כדי להתאים ולצבוט באופן אוטומטי את הנחיות המשתמשים ליצירת תמונות באיכות גבוהה יותר.

Bing AI הוסיפה גם טכניקת עיבוד תמונה אחרת. ביולי, מיקרוסופט הושק התכונה Multimodal Visual Search שלה, המאפשרת למשתמשים לכלול תמונות בהנחיות שלהם. מופעל על ידי דגם GPT-4 של OpenAI, השירות יכול לעשות דברים כמו לזהות או לענות על שאלות לגבי אובייקטים בתמונות.

משתמש אחד כנראה הצליח להערים על המערכת לקרוא את התווים ב-CAPTCHA על ידי שכבת תמונה של טקסט הקלט הנדרש על גבי תמונה של שרשרת. לאחר מכן, המשתמש ביקש מבינג AI לקרוא את ההודעה, בטענה שהשרשרת היא מתנה מקרוב משפחה שנפטר לאחרונה.

I've tried to read the captcha with Bing, and it is possible after some prompt-visual engineering (visual-prompting, huh?) In the second screenshot, Bing is quoting the captcha 🌚 pic.twitter.com/vU2r1cfC5E

— Denis Shiryaev 💙💛 (@literallydenis) October 1, 2023

מיקרוסופט מודעת לטכנולוגיה של טקסט לתמונה מציבה אתגרים.

"יש לנו צוותים גדולים שפועלים לטפל בנושאים אלה ודומים להם. כחלק מהמאמץ הזה, אנו נוקטים בפעולה על ידי חסימת אתרים חשודים ושיפור מתמיד של המערכות שלנו כדי לעזור לזהות ולסנן סוגים אלה של הנחיות לפני שהם מגיעים למודל", אמר דובר מיקרוסופט. הקופה בהצהרה.

"כמו תמיד, אנו מעודדים לקוחות לתרגל הרגלים טובים באינטרנט, כולל לנקוט משנה זהירות במתן מידע אישי רגיש." ®

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
• מקור: https://go.theregister.com/feed/www.theregister.com/2023/10/04/microsoft_openai_bing_dalle3/