כלב השמירה על הפרטיות קורא לחברות להוריד תוכנת AI לניתוח רגשי

חברות צריכות לחשוב פעמיים לפני פריסת מערכות ניתוח רגשי המופעלות על ידי בינה מלאכותית המועדות להטיות מערכתיות ולבעיות אחרות, כך הזהיר השבוע משרד נציב המידע של בריטניה (ICO).

ארגונים עומדים בפני חקירה אם הם ממשיכים ומשתמשים בטכנולוגיה המשנה הזו שמעמידה אנשים בסיכון, הוסיף כלב השמירה.

אלגוריתמים של לימוד מכונה המתיימרים לחזות את מצבי הרוח והתגובות של אדם משתמשים בראייה ממוחשבת כדי לעקוב אחר מבטים, תנועות פנים ועיבוד אודיו כדי לאמוד את ההטיה ואת הסנטימנט הכללי. כפי שניתן לדמיין, זה לא בהכרח מדויק או הוגן, וייתכנו בעיות פרטיות בטיפול בנתונים לצורך הדרכה והסקת מסקנות.

ואכן, סגן נציב ICO, סטיבן בונר, אמר שהטכנולוגיה אינה חסינת תקלות, מה שמוביל להטיה מערכתית, אי דיוק או אפליה נגד קבוצות חברתיות ספציפיות. "ההתפתחויות בשוק הבינה המלאכותית של ביומטריה ורגשות אינן בשלות. אולי הם עדיין לא יעבדו, או באמת אי פעם", הוא אמר בהצהרה. 

"אמנם קיימות הזדמנויות, אך כיום הסיכונים גדולים יותר. ב-ICO, אנו מודאגים שניתוח שגוי של נתונים עלול לגרום להנחות ולשיפוטים לגבי אדם שאינם מדויקים ומובילים לאפליה", נמשכה הצהרתו.

בונר ציין שתוכנת ניתוח רגשי משודכת לרוב למערכות ביומטריות, אוספת ומאחסנת מגוון רחב יותר של מידע אישי מעבר לתמונות פנים. ספקי תוכנה לרוב אינם שקופים לגבי אופן העיבוד או השמירה של הנתונים האישיים הללו. 

"הפריסות הביומטריות הקיימות היחידות יהיו אלה שמתפקדות במלואן, אחראיות ומגובות על ידי המדע", אמר. "כפי שזה נראה, עדיין לא ראינו טכנולוגיית AI רגשית מתפתחת בצורה שתעמוד בדרישות הגנת מידע, ויש לנו שאלות כלליות יותר לגבי מידתיות, הוגנות ושקיפות בתחום זה."

מה שנראה כדרך מנומסת לומר: אתה צריך להשתמש רק במודלים של AI לקריאת רגשות שעובדים כפי שה-ICO מצפה, והמודלים האלה לא קיימים, אז אתה צריך פשוט להפסיק עם מה שאתה עושה.

כלב השמירה על פרטיות הנתונים של בריטניה צפוי לפרסם דו"ח המפרט כיצד נתונים ביומטריים, כולל זיהוי פנים, זיהוי טביעות אצבע וזיהוי קול צריכים להיות מטופלים על ידי חברות בשנה הבאה באביב.

"ה-ICO ימשיך לבחון את השוק, לזהות בעלי עניין המבקשים ליצור או לפרוס את הטכנולוגיות הללו, ולהסביר את החשיבות של פרטיות ותאימות משופרת של נתונים, תוך עידוד אמון וביטחון באופן שבו המערכות הללו פועלות", הוסיף בונר.

מומחים השמיעו אזעקה על ניתוח סנטימנטים ורגשות במשך שנים. תחושות הן סובייקטיביות וקשה לפרש אותן במדויק. לעתים קרובות בני אדם אינם יכולים לעשות זאת ביעילות עבור עצמם או עבור אחרים, שלא לדבר על מכונות. ®