מיקרוסופט משנה את AI Copilot בתגובה לדאגות הצוות

מיקרוסופט עדכנה את כלי ה-Copilot AI שלה, חסמה הנחיות כמו "פרו-בחירה" ו-"pro-life" והציגה אזהרות לגבי הפרות מדיניות לאחר חששות של צוות ו-FTC.

לאחר שמהנדס AI צוות הביע את חששותיו לגבי יצירת התמונה של Copilot AI במכתב לוועדת הסחר הפדרלית ביום רביעי, החלה מיקרוסופט לשנות את כלי הבינה המלאכותית שלה, Copilot.

גם לקרוא: חברות סטארט-אפ בינה מלאכותית זוהרות ברבעון הראשון עם עלייה של 1% במימון הון סיכון

המונחים "pro-life" ו-"pro-choice", "pro choce" [sic] ו-"four-twenty", שהוזכרו כולם בתחקיר של CNBC ביום רביעי, חסומים כעת. בנוסף, CNBC רק הייתה מודעת לאזהרה לפיה הפרות חוזרות ונשנות של מדיניות עלולות לגרום להשעיית הכלים.

חדש: מיקרוסופט החלה לבצע שינויים בכלי Copilot AI שלה לאחר שמהנדס צוות כתב ל-FTC ביום רביעי.

כמה הנחיות ספציפיות שהוזכרו בחקירה של CNBC חסומות כעת, לצד אזהרה על הפרות מרובות המובילות להשעיה.https://t.co/xUixCQVicm

- היידן פילד (@haydenfield) במרץ 8, 2024

מהנדס בינה מלאכותית מדבר

שיין ג'ונס, מהנדס בינה מלאכותית במיקרוסופט, מתריע כי טייס Designer, מחולל התמונות בינה מלאכותית של החברה, מפר את חוקי זכויות היוצרים ומייצר תוכן אלים או מיני. ג'ונס הציע לנצל את זמנו הפנוי כדי לצרף את מחולל התמונות לפגיעות למרות שהוא לא מעורב בפיתוח שלו.

מהנדס של מיקרוסופט משמיע אזעקות בנוגע לתמונות פוגעניות ומזיקות, שלדבריו נוצרות בקלות מדי על ידי הכלי ליצירת תמונות בינה מלאכותית של החברה, ושולח מכתבים הקוראים לפעולה.https://t.co/yX9I1dCmxc

— חדשות KOMO (@komonews) במרץ 6, 2024

הוא גילה שמחולל התמונות יכול לייצר תמונות גרפיות ומיניות, כמו סצינות אלימות הכוללות שימוש בסמים, שתייה של קטינים וזכויות הפלות.

לאחר שחלק את הממצאים שלו עם החברה באופן פנימי בדצמבר של שנה שעברה, הוא ביקש ממיקרוסופט למשוך את המוצר. מיקרוסופט לא פעלה.

ג'ונס מדגיש כי שוחח עם ההנהלה הבכירה ב-Copilot Designer והגיע למשרד של מיקרוסופט לבינה מלאכותית אחראית, אך הוא לא קיבל תשובה מספקת.

ג'ונס נפגש עם חברי ועדת הסנאט למסחר, מדע ותחבורה בינואר וכתב מכתב לסנטורים בארצות הברית.

כעת הוא לוקח את הדברים הלאה: הוא מבקש אמצעי הגנה משופרים, שקיפות ושינוי בדירוג המבוגרים של אפליקציית אנדרואיד במכתב למועצת המנהלים של מיקרוסופט ולינה חאן, יו"ר ועדת ההגבלים העסקיים האמריקאית.

בנוסף, הוא דרש הערכה חסרת פניות של נוהל דיווח על תקריות בינה מלאכותית של מיקרוסופט, בטענה ש-OpenAI ומיקרוסופט היו מודעות לבעיות של מחולל התמונות לפני שחרורו בסתיו שעבר.

ג'ונס הוא מנהל הנדסת התוכנה הראשי של מיקרוסופט במשך כמעט שש שנים.

טייס משנה מגיב

על פי אזהרת Copilot, ההנחיה נחסמה, והמערכת שלהם סימנה אוטומטית את ההנחיה הזו מכיוון שהיא עלולה להתנגש עם מדיניות התוכן. הם ציינו שהפרות מדיניות נוספות עשויות להוביל להשעיה אוטומטית של גישה, ואם משתמשים חושבים שזו טעות, עליהם לדווח על כך כדי לעזור להם להשתפר.

שיפור משמעותי מתחילת השבוע הוא שכלי הבינה המלאכותית מסרב כעת לבקשות ליצור תמונות של ילדים או בני נוער המעמידים פנים שהם מתנקשים עם רובי סער, באומרו, "אני מצטער, אבל אני לא יכול ליצור תמונה כזו". הן המדיניות של מיקרוסופט והן העקרונות האתיים שלי מופרים. אל תבקש ממני לעשות שום דבר שעלול לפגוע או לגרום נזק לאנשים אחרים. אני מעריך את שיתוף הפעולה שלך.

A מיקרוסופט נציג אמר ל-CNBC שהם עוקבים באופן רציף, מבצעים התאמות ומכניסים בקרות נוספות כדי לחזק את מסנני הבטיחות שלהם עוד יותר ולצמצם שימוש לרעה במערכת בתגובה לשאלה בנוגע לשינויים. 

ג'ונס כתב למועצת המנהלים של מיקרוסופט ו ה-FTC היו"ר לינה חאן ביום רביעי, לוקח את חששותיו צעד אחד קדימה. הוא נתן ל-CNBC גישה מראש למכתבים.

ה-FTC הודה בקבלת המכתב ל-CNBC אך בחר שלא לספק הערות נוספות לפרוטוקול.

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
• מקור: https://metanews.com/microsoft-modifies-copilot-ai-in-response-to-staff-concerns-and-ftc-alert/