דצמבר 6th, 2023 / in CCC / על ידי היילי גריפין
אתמול, 5 בדצמבר, הגישה CCC תגובה למשרד הניהול והתקציב (OMB). בקשה להערות (RFC) על קידום ממשל, חדשנות וניהול סיכונים לשימוש סוכנות בבינה מלאכותית טיוטת תזכיר. חברי מועצת CCC וצוות CCC הבאים כתבו את התגובה: דיוויד דנקס (אוניברסיטת קליפורניה, סן דייגו), היילי גריפין (קונסורציום קהילת המחשוב), דיוויד ג'נסן (אוניברסיטת מסצ'וסטס אמהרסט), צ'נדרה קרינץ (אוניברסיטת קליפורניה סנטה ברברה), דניאל לופרסטי (אוניברסיטת ליהי), רג'מוהן ראג'ראמאן (אוניברסיטת צפון-מזרח), מתיו טורק (המכון הטכנולוגי של טויוטה בשיקגו), והולי ינקו (אוניברסיטת מסצ'וסטס לואל).
OMB חיפש תשובות לשאלות ספציפיות רבות ושונות בנוגע אליהם תזכיר מוצע שיטמיע "דרישות חדשות של סוכנות בתחומים של ממשל בינה מלאכותית, חדשנות וניהול סיכונים, ותנחה סוכנויות לאמץ שיטות ניהול סיכונים מינימליות ספציפיות לשימושים בינה מלאכותית המשפיעות על זכויות ובטיחות הציבור".
בתגובה לשאלה אחת של ה-RFC, "איך OMB יכול לקדם בצורה הטובה ביותר חדשנות בינה מלאכותית אחראית?", CCC הגיבה:
- הביאו מומחיות שאינה של סוכנויות או ספקים, אולי באמצעות אנשים חיצוניים במועצות מייעצות לסוכנויות, הן מומחים טכניים והן אזרחים ממוצעים. עבודתם של מועצות כאלה צריכה להיות נצפית ושקופה במידת האפשר (כדי שהציבור יוכל לתת משוב לפי הצורך).
- תעדוף שהתוצאות משימוש ב-AI יהיו אמינות, הוגנות ואמינות. בעוד ששימוש בנתונים טובים ונקיים חשובים בפיתוח מערכות בינה מלאכותית, התוצאות וההשפעות על אנשים וקהילות צריכות להיות בראש מעייניהם, במיוחד מכיוון שאפילו נתונים טובים יכולים להיות מנוצלים לרעה.
- הטמעת מנגנוני ניטור שמזהים שגם אם מספר רב של אנשים השתמשו במערכת בינה מלאכותית לאורך תקופה וטרם דיווחו על בעיות כלשהן, אין זה אומר שמערכת הבינה המלאכותית בטוחה או אמינה. מקרי קצה נדירים אך בעלי השפעה נפוצים בכל תחומי המחשוב.
- ערך מחדש מערכת AI/ML בכל פעם שעדכון תוכנה מיושם או שינוי מערך נתונים. אנו מכירים בשאלות קשות לגבי מתי עדכון תוכנה או מערך נתונים משמעותיים מספיק כדי לדרוש הערכה מחדש. אנחנו לא מציעים כלל קשיח, אבל אנחנו טוענים שכל קריטריון כזה צריך לטעות בצד של יותר מדי הערכה מחדש ולא פחות מדי.
- עודד הערכה ובדיקה עצמאית של כל מערכות ה-AI/ML כדי לא להיות תלויים בספקים שעלולים להשתמש בקריטריונים שונים.
- תכנן והיערך באופן פעיל להשפעות מזיקות בלתי צפויות מכיוון שההתנהגות של מערכות AI רבות נותרה מורכבת באופן בלתי צפוי.
- שחרור מדדים וסיבות לקביעות שבינה מלאכותית אינה "משפיעה על הבטיחות" או "משפיעה על זכויות". לציבור צריכה להיות גישה לאמצעים אלה, לאור התמריצים המשמעותיים לחברות לטעון שהמערכות שלהן אינן משפיעות על בטיחות או זכויות על מנת למזער את הבדיקה.
- השתמש באפיון זורם יותר של מערכת AI, שכן ההשפעה של טכנולוגיה כזו יכולה להשתנות במהירות ויש לשקול מחדש לעתים קרובות.
- עודד ותמוך בבדיקה ציבורית של מלאי מקרי שימוש בבינה מלאכותית שסוכנויות מפרסמות. תמיד קיימת אפשרות שהם בוחרים להציג את העבודה שהם יודעים שתשמח את הציבור במקום מדגם אקראי/ממוצע.
- לדרוש שמקרי שימוש בבינה מלאכותית יפורסמו בפירוט מספק, ובמידת הצורך, נתונים מייצגים כך שמומחים חיצוניים יכולים להעריך סיכונים פוטנציאליים ולספק משוב בונה לשיפור מתמשך של פריסות בינה מלאכותית.
במהלך התגובה, המחברים גם מדגישים שלפעמים פתרונות בינה מלאכותית לא-גנרטיבית יעילים יותר מאלה של בינה מלאכותית, צריך להיות מבנה שקוף וחזק על האופן שבו גופי ממשל שונים של בינה מלאכותית בסוכנויות שונות ישתפו פעולה, וצריך להיות תיקון ברור מנגנון אם מישהו מרגיש כאילו הוא הושפע לרעה מהשימוש בבינה מלאכותית. קרא את התגובה המלאה של CCC כאן.
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
- מקור: https://feeds.feedblitz.com/~/845441873/0/cccblog~CCC-Responds-to-OMB-RFC-on-Advancing-Governance-Innovation-and-Risk-Management-for-Agency-Use-of-AI-Draft-Policy/
- :הוא
- :לֹא
- :איפה
- 1
- 6th
- a
- אודות
- גישה
- לרוחב
- לְאַמֵץ
- לקדם
- מתקדם
- ייעוץ
- סוכנויות
- סוכנות
- AI
- ממשל AI
- מערכות AI
- מקרי שימוש
- AI / ML
- תעשיות
- גם
- תמיד
- an
- ו
- כל
- מתאים
- ARE
- אזורים
- מלאכותי
- בינה מלאכותית
- AS
- At
- מחבר
- מחברים
- מְמוּצָע
- BE
- כי
- להיות
- היה
- התנהגות
- הטוב ביותר
- בלוג
- גופים
- שניהם
- תקציב
- אבל
- by
- קליפורניה
- CAN
- מקרה
- מקרים
- קטגוריה
- ccc
- בלוג CCC
- מועצת CCC
- חברי מועצת CCC
- שינוי
- השתנה
- שיקגו
- בחירה
- אזרחים
- לטעון
- לְנַקוֹת
- ברור
- לשתף פעולה
- הערות
- Common
- הקהילות
- קהילה
- חברות
- מורכב
- מחשוב
- קונסורציום
- קונסטרוקטיבי
- המועצה
- חברי מועצה
- הקריטריונים
- Daniel
- נתונים
- דוד
- דֵצֶמבֶּר
- תלוי
- פריסות
- פרט
- מתפתח
- דייגו
- אחר
- נבדלים זה מזה
- קשה
- ישיר
- לְהַצִיג
- do
- עושה
- טיוטה
- כל אחד
- אדג '
- אפקטיבי
- להדגיש
- מספיק
- כניסה
- במיוחד
- להעריך
- הערכה
- אֲפִילוּ
- מומחיות
- מומחים
- הוגן
- מָשׁוֹב
- מרגיש
- שדות
- נוזל
- הבא
- בעד
- החל מ-
- מלא
- גנרטטיבית
- AI Generative
- לתת
- נתן
- טוב
- ממשל
- גריפין
- יש
- איך
- http
- HTTPS
- if
- פְּגִיעָה
- מושפעים
- בר - השפעה
- השפעה
- השפעות
- ליישם
- יושם
- חשוב
- השבחה
- in
- תמריצים
- עצמאי
- אנשים
- חדשנות
- במקום
- מכון
- מוֹדִיעִין
- בעיות
- לדעת
- גָדוֹל
- קְצָת
- ניהול
- רב
- מסצ'וסטס
- מתיו
- מאי..
- אומר
- אמצעים
- מנגנון
- מנגנוני
- להרשם/להתחבר
- תזכיר
- meta
- מדדים
- אכפת לי
- מינימום
- ניטור
- יותר
- הרבה
- צורך
- נחוץ
- צרכי
- באופן שלילי
- לא זה ולא זה
- האוניברסיטה נורת'איסטרן
- מספר
- of
- Office
- לעתים קרובות
- on
- ONE
- יחידות
- מתמשך
- or
- להזמין
- תוצאות
- בחוץ
- יותר
- אוּלַי
- תקופה
- תכנית
- אפלטון
- מודיעין אפלטון
- אפלטון נתונים
- אנא
- מדיניות
- אפשרות
- אפשרי
- פוטנציאל
- פרקטיקות
- להכין
- להציע
- לספק
- ציבורי
- לאור
- שאלה
- שאלות
- מהר
- נדיר
- במקום
- חומר עיוני
- סיבות
- להכיר
- בדבר
- שחרור
- אָמִין
- שְׂרִידִים
- דווח
- נציג
- לדרוש
- דרישות
- תגובה
- תגובות
- אחראי
- תוצאות
- זכויות
- הסיכון
- ניהול סיכונים
- סיכונים
- חָסוֹן
- כלל
- בטוח
- בְּטִיחוּת
- סן
- סן דייגו
- סנטה
- בדיקה
- צריך
- צד
- משמעותי
- since
- So
- תוכנה
- פתרונות
- מישהו
- לפעמים
- ביקש
- ספציפי
- סגל
- מִבְנֶה
- הוגש
- כזה
- מספיק
- תמיכה
- מערכת
- מערכות
- תָג
- טכני
- טכנולוגי
- טכנולוגיה
- בדיקות
- מֵאֲשֶׁר
- זֶה
- השמיים
- שֶׁלָהֶם
- שם.
- אלה
- הֵם
- אם כי?
- דרך
- זמן
- ל
- גַם
- חלק עליון
- טויוטה
- שָׁקוּף
- אמין
- בלתי צפוי
- אוניברסיטה
- אוניברסיטת קליפורניה
- עדכון
- להשתמש
- במקרה להשתמש
- מְשׁוּמָשׁ
- שימושים
- באמצעות
- ספקים
- we
- מתי
- בזמן
- מי
- יצטרך
- עם
- תיק עבודות
- היה
- עוד
- זפירנט