US NIST יוזם קונסורציום בטיחות בינה מלאכותית לקידום פיתוח AI אמין

המכון הלאומי לתקנים וטכנולוגיה של ארצות הברית (NIST), תחת משרד המסחר משימות צעד משמעותי לקראת טיפוח סביבה בטוחה ומהימנה עבור בינה מלאכותית (AI) באמצעות הקמת קונסורציום מכון הבטיחות לבינה מלאכותית ("קונסורציום"). הקמת הקונסורציום הוכרזה בהודעה שפורסמה ב-2 בנובמבר 2023 על ידי NIST, לציון מאמץ שיתופי להקמת מדע מדידה חדש לזיהוי טכניקות ומדדים ניתנים להרחבה ומוכחות. מדדים אלה מכוונים לקידום הפיתוח והניצול האחראי של AI, במיוחד לגבי מערכות AI מתקדמות כמו מודלים הבסיסיים המסוגלים ביותר.

מטרה ושיתוף פעולה של הקונסורציום

מטרת הליבה של הקונסורציום היא לנווט את הסיכונים הנרחבים הנשקפים מטכנולוגיות AI ולהגן על הציבור תוך עידוד התקדמות טכנולוגית חדשנית של AI. NIST שואפת למנף את האינטרסים והיכולות של הקהילה הרחבה יותר, במטרה לזהות מדידות ומתודולוגיות מוכחות, ניתנות להרחבה וניתנות להפעלה הדדית לשימוש אחראי ופיתוח של AI מהימן.

מעורבות במחקר ופיתוח שיתופי (מו"פ), פרויקטים משותפים והערכת מערכות בדיקה ואבות טיפוס הן בין הפעילויות המרכזיות שהותוו עבור הקונסורציום. המאמץ הקולקטיבי הוא בתגובה להוראה המבצעת שכותרתה "פיתוח ושימוש בטוח, מאובטח ואמין בבינה מלאכותית", מתאריך 30 באוקטובר 2023, שהדגיש סדרה רחבה של עדיפויות הרלוונטיות לבטיחות ואמון בינה מלאכותית.

קריאה להשתתפות ושיתוף פעולה

כדי להשיג יעדים אלה, NIST פתחה את הדלתות לארגונים המעוניינים לשתף את המומחיות הטכנית, המוצרים, הנתונים ו/או המודלים שלהם באמצעות מסגרת ניהול הסיכונים של AI (AI RMF). ההזמנה למכתבי עניין היא חלק מיוזמה של NIST לשתף פעולה עם ארגונים ללא מטרות רווח, אוניברסיטאות, סוכנויות ממשלתיות וחברות טכנולוגיה. הפעילות המשותפת במסגרת הקונסורציום צפויה להתחיל לא לפני ה-4 בדצמבר 2023, לאחר שיתקבלו מספר מספיק של מכתבי עניין שהושלמו וחתומים. ההשתתפות פתוחה לכל הארגונים היכולים לתרום לפעילות הקונסורציום, כאשר משתתפים נבחרים נדרשים להתקשר בהסכם מחקר ופיתוח שיתופי של קונסורציום (CRADA) עם NIST.

התמודדות עם אתגרי בטיחות בינה מלאכותית

הקמת הקונסורציום נתפסת כצעד חיובי לקראת השגת מדינות מפותחות אחרות בקביעת תקנות המסדירות פיתוח בינה מלאכותית, במיוחד בתחומים של פרטיות המשתמש והאזרח, אבטחה והשלכות לא מכוונות. המהלך משקף אבן דרך בניהולו של הנשיא ג'ו ביידן לקראת אימוץ מדיניות ספציפית לניהול AI בארצות הברית.

הקונסורציום יסייע בפיתוח הנחיות, כלים, שיטות ושיטות עבודה מומלצות חדשים כדי להקל על התפתחות הסטנדרטים בתעשייה לפיתוח או פריסה של AI בצורה בטוחה, מאובטחת ומהימנה. היא עומדת למלא תפקיד קריטי בזמן מכריע, לא רק עבור טכנולוגים בינה מלאכותית אלא עבור החברה, בהבטחת שבינה מלאכותית תואמת את הנורמות והערכים החברתיים תוך קידום חדשנות.

מקור תמונה: Shutterstock

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
• מקור: https://Blockchain.News/news/us-nist-initiates-ai-safety-consortium-to-promote-trustworthy-ai-development