ההשלכות היקרות של לוחשת בינה מלאכותית לא אתית (פדמה צ'וקה)

                         

כן.. אני מדבר על יישומי הבינה המלאכותית - שלל יישומי הבינה המלאכותית שלנו ואלו הקרובים שמתלחשים לבני אדם מה לעשות... איך עושים את זה...אבל לא על הלוחשים שמקיימים אינטראקציה עם צ'אטבוטי הבינה המלאכותית.

לפי IDC תחזיות, שוק הבינה המלאכותית העולמית עשוי להגיע ליותר מ-500 מיליארד דולר עד 2024 - עלייה של יותר מ-50% משנת 2021. זה מצביע על כך שעברנו מניסויים עסקיים לקבלה שזה חלק בלתי נפרד מהאסטרטגיה הארגונית לכל הגדלים. זהו כלי הכרחי להפוך נתונים לתובנות כדי לעורר פעולה המבוססת על החלטות טובות יותר. אף אחד לא מתווכח על היתרונות של AI כדי להפחית את הסיכון העסקי ולהגביר את החזר ה-ROI עם חדשנות. אבל, כמו תמיד, יש ... אבל... קל יותר לומר מאשר לעשות את הבינה המלאכותית הבלתי משוחדת.

קריטי לעסק, מודלים אלה של AI צריכים לפעול בצורה מהימנה עם נראות ואחריות. אחרת, לכישלון, במקרה זה, יש השלכות קשות המשפיעות על תזרים המזומנים של כל חברה ואף עלולות לגרום לעניינים משפטיים. הדרך היחידה להימנע מכך היא אוטומציה ושקיפות כדי לענות על שאלה אחת "האם אתה יכול להוכיח שהיישום/עומס העבודה של AI זה בנוי בצורה אתית." כלומר... איך אתה מושל? והאם אתה יכול להוכיח שהוא נשלט ברציפות?

זה המקום שבו חברות אוהבות יבמ השקיעו בממשל בינה מלאכותית כדי לתזמר את התהליך הכולל של ניהול, ניהול ומעקב אחר פעילות ה-AI של הארגון. התפקיד העיקרי הוא להבטיח שכל היחידות העסקיות יישארו פרואקטיביות ולהחדיר את מסגרת הממשל ליוזמות לחיזוק היכולת לעמוד בעקרונות ובתקנות אתיים. במיוחד, תעשיות מוסדרות כמו בנקאות ושירותים פיננסיים נדרשים על פי חוק לספק את הראיות כדי לספק את הרגולטורים.

השפעת הבינה המלאכותית גדלה באופן אקספוננציאלי במגזר השירותים הפיננסיים עקב הלחץ האדיר של הטרנספורמציה הדיגיטלית. כאמור, קל יותר לומר מאשר לעשות כי:

1. הפעל בביטחון את אפליקציות הבינה המלאכותית:

במקרים מסוימים, דגמים נבנים ללא בהירות וקיטלוג; מיותר לציין שהניטור חומק באמצע הכל כדי לעקוב אחר מחזור החיים מקצה לקצה. בעוד בנקים נאבקים עם יישומים מדור קודם, אוטומציה של התהליכים ליצירת שקיפות והסבר הפכה לקשה יותר, ובתמורה, לקופסה שחורה. אף אחד לא יודע למה/איך התקבלו החלטות. האפליקציות החדשות המסובכות עם אפליקציות מדור קודם לעולם אינן רואות את אור היום, אם כי החזר ROI עצום קשור אליה בשל איכות וסיכונים בלתי נתפסים.

זה מביא אותנו לנקודה השנייה שלנו - ניהול סיכון המוניטין

2. נהל סיכון מוניטין יחד עם הסיכון הכולל

שאלתי #chatGPT ו #מְשׁוֹרֵר – מי היא פדמה צ'וקה. #ChatGPT סירב לענות גם אם שיניתי את השאלה במספר דרכים. ובכל זאת, בארד נתן לי תשובה מפורטת, כולל פרופיל הלינקדאין שלי... אבל הנתונים הם מאתרים שונים שבהם הפרופיל הישן שלי עדיין קיים כחלק מהביוס של הדובר. מנקודה זו ואילך, אני עדיין לא פותח את הפייטן. כל כך מהר, כובתי, כלומר - סיכון מוניטין. נניח שאני יכול לכבות צ'אט בוט פשוט כשאני מבין שהנתונים עשויים להיות לא עקביים. איך יכולתי לא לוודא לפני שהחלטתי לקנות אפליקציה מוטבעת בינה מלאכותית כדי לנהל עסקים קריטיים? סיכון מוניטין הוא גורם חיוני שלפעמים חברות שוכחות. אם מכמתים את סיכון המוניטין, אפשר לראות את ההשפעה האדירה על העסק אם לא יזום.

כדי להוסיף למורכבות, השלישי הוא...

3. כיצד יכולה חברה להגיב לשינויים בתקנות AI?

כדי להימנע מסיכון המוניטין, צוות AI מצליח ואחראי צריך להיות מודע לכל רגולציה מקומית וגלובלית, לצנוח כמו סרטון מתקתק בהתראה של רגע. ואי ציות עשוי בסופו של דבר לעלות לארגון מיליוני דולרים בקנסות סביב העבודה כמו חוק ה-AI המוצע של האיחוד האירופי. זה עשוי להיות עד 30 מיליון יורו או 6% מההכנסות העולמיות של החברה - OUCH.

ובכן, לא הכל חייב להיות ורוד בהתחלה... כל עוד אנחנו יודעים לעשות מהפך ממצב מפחיד למצב ורוד.

בלי שום הפתעה... זה תמיד אנשים, תהליך וטכנולוגיה. אז ראשית, צור גוף שלטוני חוצה תפקודיים כדי לחנך, לכוון ולפקח על היוזמות המבוססות על היעדים. לאחר מכן סמן את הטכנולוגיה והתהליכים הנוכחיים של AI, הבן את הפערים, ולאחר מכן תקן להוכחה עתידית. לאחר מכן, חזור על קבוצה של זרימות עבודה של ממשל אוטומטי בהתאם לדרישות התאימות. לבסוף, הגדר מערכת ניטור כדי להתריע לבעלים אם הסף המקובל מתקרב. מהצד הטכנולוגי, AI מתוכנן היטב, מבוצע היטב ומקושר היטב דורש מספר אבני בניין. וודא שיש לו חלק מהיכולות או את כולן:

· שלמות נתונים על פני פריסות מגוונות

· השתמש בכלים קיימים פתוחים וגמישים התואמים ל-AI Governance

· הקפד להציע גישה בשירות עצמי עם בקרות פרטיות - דרך למעקב

· עיצוב תוך מחשבה על אוטומציה וממשל בינה מלאכותית

· יכול להתחבר ולהיות להתאמה אישית עבור מחזיקי עניין מרובים באמצעות זרימת עבודה הניתנת להתאמה אישית

ברגע שנעשה מהפך של האפליקציה ממפחיד לורדרד... אז השאלה הבאה היא איך אתה מוכיח...

ראשית, חזור על עקרונות הבינה המלאכותית של החברה - בנה איתם, ובכל זאת אתה עדיין צריך "להראות" שאתה תואם, במיוחד בסביבות מוסדרות כמו שירותים פיננסיים. מכיוון ששירותים פיננסיים חייבים להתלונן עם NIST 800-53, הם יכולים להסתכל על NIST AI Risk Management Framework (AI RMF). NIST הציע את הבקרות בארבע משפחות - ניהול, מפה, מדידה וניהול. שימוש בזה כגורם מנחה ומבחן מאמץ ביישומים כדי לזהות את הפערים לתיקון ולניטור.

IBM יכולה לאמת את הדגמים שלך לפני שאתה מכניס אותם לייצור, וניתן לנטר אותם על הוגנות, איכות וסחיפה. הוא יכול גם לספק תיעוד המסביר את התנהגות המודל ואת התחזיות כדי לעמוד בדרישות הרגולטורים והמבקרים. הסברים אלו יכולים לספק נראות ולהקל על כאבי הביקורת, ולהגביר את השקיפות ואת היכולת לקבוע סיכונים אפשריים.

 הקשב ללחישות בינה מלאכותית בביטחון!

#שירותים פיננסיים #אחראיאי #אתיקה #NISTAIRMF

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• Platoblockchain. Web3 Metaverse Intelligence. ידע מוגבר. גישה כאן.
• הטבעת העתיד עם אדריאן אשלי. גישה כאן.
• מקור: https://www.finextra.com/blogposting/24053/the-costly-consequences-of-unethical-ai-whisperer?utm_medium=rssfinextra&utm_source=finextrablogs