"הון בריאותי: כיצד אלגוריתמים ונתונים יכולים להפחית, לא להחמיר, נזקים?" סיכום פאנל AAAS

בריאותו של אדם היא נושא אישי להפליא, והליכה לרופא יכולה להיות חוויה מאיימת ומלחיצה. זה נכון במיוחד עבור אנשים שהם חלק מקבוצות שהמערכת הרפואית נכשלה באופן היסטורי. סוגיות מבניות אלו במערכת הבריאות חלחלו לאלגוריתמים המשמשים יותר ויותר באבחון וטיפול בחולים. CCC ארגנה פאנל, "הון בריאותי: כיצד אלגוריתמים ונתונים יכולים להפחית, לא להחמיר, נזקים?" שהתייחס לסוגיות אלו. משתתפי הפאנל היו ד"ר אמאקה אניניה (טיפול רפואי פרזניוס), ד"ר מונה סינג (אוניברסיטת פרינסטון), ד"ר מלאני מוזס (אוניברסיטת ניו מקסיקו), וד"ר קייטי סייק (אוניברסיטת אינדיאנה).

ד"ר Eneanya החל את הפאנל בדיון כיצד משוואה מזלזלת באופן שיטתי במחלת כליותse ב-Black Americans במשך עשרות שנים. היא הסבירה כי בארה"ב, כל החולים הסובלים ממחלת כליות נרשמים לרישום. שכיחות המחלה עלתה בסך הכל בעשורים האחרונים, ועבור אנשים שחורים היא נוטה להיות נפוצה וחמורה אף יותר. 

ד"ר Eneanya תיאר את הפערים הגזעיים/אתניים הללו בגורמי סיכון ותוצאות של מחלת כליות כרונית (Eneanya ND et al. Nature Rev Nepח. 2021, מערכת נתונים כלייתי של ארצות הברית.):

• השכיחות של סוכרת היא הגבוהה ביותר בקרב אנשים שחורים בהשוואה לקבוצות גזעיות אחרות 
  • אנשים שחורים והיספנים מאובחנים בגילאים צעירים יותר בהשוואה לאנשים לבנים 
• לאנשים שחורים יש שיעורים גבוהים משמעותית של יתר לחץ דם בהשוואה לאנשים לבנים 
  • בקרת יתר לחץ דם נמוכה יותר בקרב אנשים שחורים והיספנים בהשוואה לאנשים לבנים
• אנשים שחורים נוטים פחות לקבל טיפול נפרולוגי לפני התחלת דיאליזה בהשוואה לקבוצות גזעיות אחרות 
• סיכון לפתח אי ספיקת כליות הדורשת דיאליזה או השתלת כליה 
  • פי 4 גבוה יותר אצל אנשים שחורים לעומת לבנים 
  • פי 1.3 גבוה יותר אצל אנשים היספנים לעומת לבנים 
• אנשים שחורים נוטים פחות לקבל השתלת כליה בהשוואה לקבוצות גזעיות אחרות

גזענות מבנית מוסיפה לתוצאות בריאות לקויות ממחלות הקשורות בכליות, פירט ד"ר Eneanya (Eneanya ND et al. Nature Rev Nepח. 2021.):

אילו הרגלי אורח חיים אתה יכול להרשות לעצמך - כמו מה שאתה אוכל, והשפעות ביולוגיות כמו מתח של גזענות ואפליה, כולם מובילים לשינויים מטבוליים בגוף, שעלולים להוביל לירידה בתפקוד הכליות.

ד"ר Eneanya הפנה לדוגמא כיצד לאלגוריתם שנמצא כיום בשימוש על ידי רופאים יש השלכות בעולם האמיתי. משוואת eGFR היא אלגוריתם המשמש כדי לקבוע עד כמה חזק תפקוד הכליות של המטופל. eGFR גבוה יותר מייצג תפקוד כליות טוב יותר. רמת ה-eGFR של מטופל קובעת אם הוא כשיר לטיפולים מסוימים, ואולי החשוב ביותר, להשתלת כליה. עם זאת, האלגוריתם מראה שלאדם שחור ולא שחור, באותו גיל, מגדר, ובעלי אותה מדד קריאטינין (בדיקת דם המודדת את תפקוד הכליות), יש רמות eGFR שונות. האלגוריתם מחשב שלאדם שחור יש eGFR גבוה יותר, כביכול תפקוד כליות מעולה, מאשר לאדם שאינו שחור. זה מגביל את הטיפול שהם זכאים לו, ופירושו שהם צריכים להיות חולים יותר כדי לקבל את העזרה שהם צריכים להיות זכאים לה.

ד"ר Eneanya הסביר את ההיסטוריה של האלגוריתם שחושף מדוע הוא מחושב בצורה שגויה זו: מחקר משנת 1999 ייחס לאנשים שחורים קריאטינין גבוה יותר בסרום בגלל ההנחה השגויה שיש להם מסת שריר גבוהה יותר. המחקר פיתח את משוואת ה-eGFR הראשונה בשימוש בארצות הברית ושילב גורם כפל "גזע שחור" הגורם ל-eGFR גבוה יותר בקרב אנשים שחורים. השימוש ב-eGFR הוא בעייתי מכיוון שלרופאים נותר לשפוט את הגזע של מישהו על סמך המראה או הרשומות הרפואיות (שייתכן שגזע רשום כהנחה שנותרה מרופא קודם). אין גם הבחנה לבני גזע מעורב, או שיטה לסווג אותם.

ד"ר Eneanya היה מחבר על מאמר ששינה את אופן חישוב ה-eGFR בבריאות על ידי תמיכה במשוואה שאינה לוקחת את הגזע להערכה (Inker LA, Eneanya ND, et al. NEJM 2021, Delgado C, et al. JASN 2021). ד"ר Eneanya ועמיתיה חזרו למחקר המקורי משנת 1999 והוציאו את הגזע מהמשוואה והרכיבו אותו מחדש עם תשומות אחרות. כיום, ⅓ מבתי חולים ומרפאות בארה"ב משתמשים במשוואה החדשה, והרשת המאוחדת לשיתוף איברים (UNOS) הגבילה במיוחד את כל מרכזי ההשתלות להשתמש במשוואה מבוססת הגזע ביוני 2022. הם לקחו את זה צעד אחד קדימה בינואר 2023 והכריז כי כל מרכזי ההשתלות בארה"ב נדרשים לבדוק את כל החולים השחורים ברשימת ההמתנה להשתלת כליה ולשנות את זמן רשימת ההמתנה שלהם אם הוא הושפע ממשוואת ה-eGFR מבוססת הגזע. ד"ר Eneanya ציין כי בעוד UNOS היא חלק מהממשלה הפדרלית, הממשלה לא הייתה מעורבת ישירות בהחלטה לאסור את השימוש במשוואה מבוססת הגזע.

מלבד האימוץ האוניברסלי של משוואת ה-eGFR החדשה, לד"ר Eneanya היו עוד כמה גישות עתידיות שהיא רואה כמפתח לגישה הוגנת לטיפול במחלת כליות:

• לפתח מדיניות ותהליכים לשיפור הגישה לטיפול מונע מחלות כליה כרוניות 
• לפתח מדיניות להגברת הגישה להשתלת כליה 
• חקור השפעות סביבתיות (למשל, מתח, אפליה) על תפקוד הכליות והתקדמות המחלה
• שקיפות בדיון על קביעת תפקוד כליות עם מטופלים (כולל מגבלות של משוואות eGFR)

ד"ר Eneanya הרחיב שהקנטת סטריאוטיפים לגבי הגזע השחור מסתכם בביטול כשלים וחדשות מזויפות שאין להן בסיס מדעי. למשל, תוכניות הלימודים של בתי הספר לרפואה משתנות כדי להראות שאין בסיס אנתרופולוגי שיש יותר מסת שריר במרוץ אחד על פני אחר. התקשורת עשתה עבודה טובה בשיתוף המיתוס השבור הזה גם כן, וד"ר Eneanya אפילו התייעץ על פרק של Grey's Anatomy שהדגיש את ההשפעות ההרסניות של משוואת ה-eGFR על חולים שחורים הזקוקים להשתלת כליה.

ד"ר סינג המשיך את השיחה על פערי בריאות והסביר שבארה"ב, לאנשים שחורים יש שיעורי תמותה מסרטן גבוהים יותר בהשוואה לאנשים לבנים. עובדה זו ממחישה שיש הרבה אתגרים שאנשי מקצוע רפואיים וחוקרי מחשוב צריכים להתמודד, יש גם הזדמנויות רבות לפתח שיטות שאינן מרחיבות פערים קיימים. 

ד"ר סינג הסביר לראשונה את הביולוגיה של הסרטן: "סרטן היא מחלה שבה התאים שלנו רוכשים מוטציות שמאפשרות להם לצמוח ללא שליטה. אז אם אנחנו רוצים להבין את היסודות המולקולריים של סרטן אצל כל פרט אחד, אנחנו יכולים להסתכל על הגנום של התאים הסרטניים שלו ושל התאים הלא סרטניים שלו, ולעשות רצף. לאחר שרצפנו תאים נורמליים וסרטניים, נוכל להשוות את הגנום, ולגלות אילו מוטציות רכשנו בתאים סרטניים, וזה עשוי לתת לנו רמז לגבי השינויים שעשויים להיות אלו שרלוונטיים לסרטן של אותו אדם. זה בדיוק מה שנעשה ב-15 השנים האחרונות בערך, שם רצפו הגידולים של עשרות אלפי פרטים, וזוהו מוטציות בתוכם".

כמעט כולם מכירים מישהו שאובחן כחולה סרטן, ואין תרופה אוניברסלית. עם זאת, ד"ר סינג דנה לאחר מכן בהבטחה לאונקולוגיה מדויקת, שבה מדען מרצף גידול של מטופל, מזהה את מוטציות ה-DNA שלו ומבצע ניתוח חישובי כדי לקבוע אילו שינויים ניתן לכוון. אימונותרפיה היא גישה לרתום את המערכת החיסונית של מישהו כדי למקד את הגידולים שלו. טיפול אימונותרפי מבטיח ובואו הוא עיצוב חיסונים המותאמים אישית לכל פרט וחיסונים אלו מעוררים תגובה חיסונית לגידולים שלהם.

ד"ר סינג מסביר שהדרך שבה זה עובד היא שלכל אחת ממערכות החיסון שלנו יש 6 עותקים שונים של הגנים הקלאסיים של תסביך ההיסטו-תאימות (MHC) מסוג I. יש יותר מ-13,000 גרסאות שונות של MHC של גנים אלה, כך שלכל אדם יש קבוצה שונה של גנים MHC. מוטציות מסוימות בתוך תאים סרטניים גורמות לחלבונים "זרים" וחלקם יכולים להיות קשורים ל-MHC של אדם. קומפלקסים אלה של MHC הקשורים לשבר של חלבון שמקורו בסרטן מזוהים על ידי תאי מערכת החיסון ויכולים להפעיל תגובה חיסונית. זה מותאם אישית מאוד מכיוון שלגידול של כל פרט יכולים להיות מוטציות שונות ולכל פרט יש MHCs שונים. מדענים משתמשים בלמידת מכונה כדי לחזות אילו וריאנטים של MHC קושרים אילו פפטידים, אשר בתקווה יקדמו את היעילות של אימונותרפיה ובסופו של דבר יובילו לעיצוב חיסוני ניאו-אנטיגן מותאמים אישית.

מגוון הגנים של MHC משתנה מאוד על פני הגלובוס, מפרט ד"ר סינג. לרוב האללים של MHC אין נתונים מחייבים הקשורים אליהם, ואלו שיש להם נתונים לגבי הקישור שלהם מוטים לטובת קבוצות גזעיות מסוימות. חשוב בעת בדיקת מערך נתונים לא רק להתמקד בביצועים הכוללים, אלא גם לשקול תת-אוכלוסיות של נתונים כך שלכולם תהיה גישה שווה ליתרונות הפוטנציאליים של מחקר זה.

יש לנתח את מערך ההכשרה עבור הטיה לפני היישום. יתרה מזאת, שיטות להערכת ביצועים על נתונים בלתי נראים יכולות לחשוף הטיה בנתונים עליהם הוכשרה. איסוף נתונים בצורה בלתי משוחדת חיוני כדי להגביל את ההזדמנות להטיה מאוחר יותר בשימוש באלגוריתם. תחומים לעבודה עתידית בנושא זה מתמקדים בהליכי הכשרה חלופיים, ואסטרטגיות אלגוריתמיות לאיסוף נתונים ממוקד. בסך הכל, חיוני לתת עדיפות לפיתוח גישות רפואה דיוק הוגן, כך שהטיפולים והמחקר במורד הזרם יהיו שוויוניים.

ד"ר מוזס דיברה לאחר מכן והיא תיארה את האופן שבו האלגוריתמים המקושרים eGFR ו-MHC-פפטיד משתלבים במערכת אקולוגית גדולה יותר של האופן שבו אלגוריתמים רפואיים משפיעים על תוצאות חברתיות. היא מסבירה שמדענים משתמשים באלגוריתמים וב-AI כדי לחזות את התוצאות שאכפת לנו מהן מ-proxies שניתן למדוד בקלות, ו-proxies אלו יכולים להיות לא מדויקים. כדי להפוך את האלגוריתמים הרפואיים למורכבים עוד יותר, הם כל הזמן מקיימים אינטראקציה זה עם זה בדרכים בלתי צפויות, כך שההיקף המלא של האלגוריתמים באבחון של מטופל אינו ברור בדרך כלל. לכן, חשוב להשתמש באלגוריתמים בזהירות, במיוחד משום שכאשר האלגוריתמים נכשלים הם עלולים להזיק ביותר לפגיעים ביותר.

להבין על מי האלגוריתם משפיע ולמה הוא חלק חשוב מההון הרפואי. ד"ר מוזס לוקח צעד אחורה ומגדיר הון עצמי. הגרפיקה הנפוצה המשמש להבדיל בין שוויון לשוויון, כאשר אנשים עם 3 גבהים שונים נאבקים לראות משחק בייסבול ודרכים שונות לתמוך בהם, פגומה אפילו בתמונה השלישית שמסירה את המחסום כי היא מרמזת שיש משהו טבוע באדם לגבי מדוע הם זקוקים לתמיכה ולא לסיבות חברתיות שאולי גרמו לחוסר השוויון מלכתחילה.

ד"ר מוזס הראה גרפיקה חלופית כדי להגדיר איך נראה שוויון בחברה עם עוולות מערכתיות (זכויות יוצרים 2020 מאת Nicolás E. Barceló ו-Sonia Shadravan (אמנית: Aria Ghalili)):

הגרפיקה הזו מגלה שלא כולם יכולים להפיק תועלת רק מהמחסום שהוסר, אבל יש בעיות שורשיות עמוקות שצריך לטפל בהן כדי להשיג שוויון.

מדעני מחשוב צריכים תמיד לזכור את ההקשר החשוב הזה, טוען ד"ר מוזס. לעתים קרובות קשה לזהות את ההנחות שהיו נוכחות ביצירת אלגוריתמים, אפילו עם האלגוריתמים הפשוטים ביותר. קל גם להשתמש במתאם סטטיסטי כדי לחזות תוצאה ולהניח שמתאם שווה סיבתיות, אבל זה כשל.

ד"ר מוזס ממשיך במתן דוגמאות קונקרטיות של אלגוריתמים בלתי שוויוניים הנמצאים בשימוש בחברה כיום בתחומים אחרים. למשל, אלגוריתמים במערכת המשפט הפלילי המחליפים ערבות כספית למעצר לפני משפט. הכוונה היא שהתהליך יהיה שיטה מונעת נתונים, חסרת פניות, כדי לעצור את מי שנמצאים בסכנה או בסיכון גבוה לא להופיע למשפט. עם זאת, לאלגוריתמים יש חסרונות רבים הן ביכולתו של האלגוריתם לבצע תחזיות הוגנות ומדויקות והן בהטיות של המערכת שהאלגוריתם הוא חלק ממנה, כולל תשומות מוטות ופרשנויות מוטות של פלטים. דוגמה נוספת לאופן שבו הטיה גזעית מונצחת במערכת המשפט הפלילי על ידי אלגוריתמים היא תוכנת זיהוי פנים. בעוד שזיהוי פנים הוכח כפחות מדויק בזיהוי פנים של נשים בעלות עור כהה יותר, אלו פרצופים של גברים שחורים שזוהו לרוב בטעות על ידי אלגוריתמים אלו שהובילו למעצרי שווא. זה מדגים כיצד להטיה המשפיעה ביותר על קבוצה אחת (נשים שחורות) מבחינת סיווג מדויק, יכולה להיות ההשפעה הגדולה ביותר על קבוצה אחרת (גברים שחורים) בגלל הטיות במערכת המשפט הפלילי

אלגוריתמים יכולים להחמיר את ההטיה האנושית, וניתן גם לבטל אותם אם הם לא מחזקים את השיפוט שהיית עושה בלי להתייעץ עם האלגוריתם. זה נכון גם באלגוריתמים מוטים ברפואה. לדוגמה, מדדי דופק פחות מדויקים בזיהוי רמות חמצן בעור כהה יותר, מה שעלול לגרום לאבחון חסר של מחלות בדרכי הנשימה כמו COVID חמור. שימוש בכמות הכסף שהוצאה על שירותי בריאות בתור פרוקסי למידת הבריא של מישהו הוא עוד מדד לא שוויוני. הדוגמאות שתיארו ד"ר Eneanya וד"ר סינג, ליקוי הכליות מוזל eGFR אצל אפרו-אמריקאים, ומערכי נתונים גנומיים המייצגים יתר על המידה את מוצא האירופי, הם דוגמאות בולטות נוספות לאלגוריתמים מוטים ברפואה שיש להם השלכות מסוכנות במורד הזרם עבור האנשים שנפגעו. משוואת ה-eGFR שימשה לזיהוי אסירים חולים מספיק כדי להשתחרר מהכלא במהלך COVID, מה שגרם לאדם אפרו-אמריקאי שסור בשחרור מכיוון שתפקוד הכליות שלו הוערך יתר על המידה.

משוב יכול לשפר את האלגוריתמים, או להחמיר את הנזקים שלהם. אלגוריתמים אינם חד-סטרי, שכן הם שואפים לחזות התנהגות מתוך נתונים ותחזית של שנה אחת משפיעה על הנתונים של השנה הבאה. אלגוריתמים צריכים לשאוף להפחית הטיות לאורך זמן; למשל, דיוני ערבות צריכים לעזור לנאשמים להתייצב למשפט במקום לחזות כשלים; המשטרה צריכה לשאוף לצמצם גם פשיעה וגם מעצרי שווא. אלגוריתמים המשמשים בדומיינים אינם אמורים להיות חקוקים באבן כי יהיה משוב בין אנשים, אלגוריתמים והקשר חברתי.

ד"ר מוזס הציע גם נתיבים נוספים קדימה: הסרת הטיה ממערכי נתונים, שאלת הנחות יסוד, הפוך (לא לחזק) הטיה מערכתית, הערכת עם מגוון פרספקטיבות, דרישה אלגוריתמים שקופים וניתנים להסבר, והשתמש בפריסות הדרגתיות אדפטיביות. התפיסה הרווחת היא שאלגוריתמים מסירים איכשהו הטיה, אבל במציאות הם לרוב מקודדים את ההטיה ועלינו להיזהר מאלגוריתמים ומהתוצאות שלהם.

החלק האחרון של הפאנל היה שאלות ותשובות. המנחה ד"ר Siek פתח את הפגישה בשאלה, "איך אלגוריתמים ונתונים יכולים לא להחמיר את הנזק?"

• ד"ר Eneanya: אם חוקר מפסיק עם גזע כשהוא מחפש מבדלים באלגוריתם, זה עצלן ולא חוקי מבחינה מדעית. מבחינה גנטית, בני אדם נראים דומים יותר בין גזעים מאשר בתוכם. חשוב יותר לחשוב על מאפיינים ביולוגיים שמשפיעים למעשה על מערכת אנושית כמו כליות. לדוגמה, בעת בדיקת דופק אוקסימטר, החוקרים היו צריכים להתייעץ עם רופא עור כדי לבדוק ולאמת מדדי דופק על סמך גווני עור שונים - במקום להשתמש במכשיר אחד עבור אנשים עם גווני עור שונים.
• ד"ר מוזס: עלינו להשתמש באותה גישה לאימות אלגוריתמים לאחר שהם הוכנסו לשימוש. הכרה בגזע כמבנה חברתי מאפשרת לשים לב למחקרים עיוורי גזע יש השפעה. חשוב לחפש הבחנה בין קבוצות כדי לזהות פערים פוטנציאליים שהאלגוריתם מחזק. צריך להעריך אם האלגוריתם ממזער בעיות, או משפר אותו?
• ד"ר סינג: אסור להשתמש במירוץ כקלט, אבל אפשר להשתמש בו כדי להעריך תפוקות עבור הטיה. אם לא היינו חושבים על גזע לא היינו יכולים אפילו לומר שיש פערים בריאותיים. איסוף נתונים גנומיים וסיווג לפי מוצא הם גם מתודולוגיה פגומה. עלינו להקפיד להעריך אם השיטות פועלות היטב על פני אוכלוסיות.
• ד"ר ענניה: כשאנחנו מגוונים אוכלוסיית מחקר, אנחנו צריכים להתרחק מלהביא רק קבוצות של אנשים לבנים או שחורים. אנחנו צריכים להסתכל על יותר הבדלים בתוך הקבוצות האלה כמו גורמים כמו מעמד חברתי, מגדר, מיניות וכו'. אנחנו צריכים להסתכל על התמונה השלמה ולא רק על מערכי גיוון המבוססים על גזע.
• ד"ר מוזס: אלגוריתמים הם בדיוק סוגי הכלים שאמורים לעזור לנו לעשות את זה, יש הרבה אסטרטגיות מחשוב פוטנציאליות שיכולות לעזור.
• ד"ר סינג: אני מסכים שאלגוריתמים ממלאים כאן תפקיד עצום, אז איך אנחנו נותנים עדיפות לאיסוף נתונים? אנחנו צריכים לחשוב איך אנחנו עושים את זה בזהירות רבה.

חבר קהל שאל אז, "בהתחשב במהומה הגדולה לפתח אלגוריתמים המבוססים על מערכי נתונים נוכחיים עם הטיות, האם יש דרכים לנטרל הטיות באלגוריתם מעבר להיפטר מהטיות במערך הנתונים?" 

• ד"ר סינג: קשה להתגבר על הטיה במערך נתונים; זהו תחום מחקר פעיל. קל להעלים או מתחת לנתונים לדוגמה. ישנן דרכים שונות להכשיר מודלים של ML כאשר המטרה הכללית (בדרך כלל פונקציה שאתה מנסה למזער, בדרך כלל תוך שימוש בכל מערך הנתונים) היא איך האופטימיזציה צריכה להיראות.
• ד"ר Eneanya: הרבה אלגוריתמים רפואיים נתפסים ככאלה שצריכים לכלול גזע ליתר דיוק. עם זאת, אנשים צריכים לבחון באופן ביקורתי מדוע הגזע מוצג מלכתחילה? הסרת גזע כמשתנה עשויה שלא לשנות את ביצועי האלגוריתם כפי שאתה עשוי לחשוב. האם זה אומר משהו (מבחינה קלינית) כאשר התוצאות משתנות רק במעט לאחר הסרת משתנה כגון גזע?
• ד"ר סינג: זה במיוחד לא אומר כלום כשסט האימונים שלך והסט שאתה משתמש בו הם שונים מאוד.

ד"ר שיק הניע את חברי הפאנל שאלה נוספת, "אם היינו יכולים לעשות את זה שוב, מה היינו עושים אחרת?"

• ד"ר Eneanya: להפסיק עם הגזע בעת הערכת סיבות להבדלים בתוצאות הבריאות לא היה צריך לקרות. למשל עם רמות קריאטינין, עלינו לחשוב מה עוד יכול להשפיע על קריאטינין? אנחנו צריכים מערכי נתונים טובים יותר, מה שדורש בניית אמון בקהילות. זה יכול להיראות כמו שיפור המגוון של אוכלוסיות ניסויים, הערכת איך נראה צוות המחקר שלך וכו'. מענקי המכון הלאומי לבריאות דורשים יותר ויותר שותפים מבוססי קהילה ומומחי שוויון בריאות כחלק מצוות המחקר. אנחנו צריכים לשנות את הסטים הישנים, אבל גם צריכים לבנות סטים טובים יותר בעתיד. אנחנו יכולים לעשות כל כך הרבה רק בניסיון להגדיר מחדש את מה שיש בחוץ.
• ד"ר מוזס: מעבר למה שנוכל לעשות אם נתחיל מחדש, אני אוהב לחשוב על אלגוריתמים כעל מראה של החברה. הם מאומנים על ידי כולם באינטרנט. באמצעות זה כקלט לרמה הבאה של האלגוריתם, נוכל לקבוע היכן ההטיות, מדוע הן קיימות ומהי ההשפעה העתידית. עלינו לשאול כיצד להשתמש בכלים הכמותיים הללו כדי להבין כיצד לתקן את המצבים הללו במקום להחמיר אותם.
• ד"ר סינג: הרבה גנומים שנאספו לא מייצגים את האוכלוסייה בכללותה. אנחנו צריכים להתחיל עם מעורבות של קבוצות מגוונות של אנשים.

שאלת הקהל האחרונה הייתה: "עד שנגיע לנקודה שבה תהיה לנו תמונה גנומית מלאה של כל בני האדם, תהיה התלהבות להשתמש ב-ML ובאלגוריתמים. מה הם דברים אמיתיים ברמת ביקורת עמיתים שאנחנו יכולים לעשות עכשיו כדי שלא נצטרך לתקן אותם בעוד 30 שנה?"

• ד"ר Eneanya: מושלם הוא האויב של הטוב. אנחנו צריכים לעשות את הכי טוב שאנחנו יכולים. אנחנו יכולים לזהות הטיות, ואז לעשות כמיטב יכולתנו להתקדם. קיימים מחסומים שאין להם שום קשר לאלגוריתמים קליניים. רק תיקון אלגוריתם eGFR על ידי היפטרות מגזע לא יפתור פערים במחלות כליות. צריך לעשות הרבה עבודה על היבטים רב-משתנים של דיכוי.
• ד"ר מוזס: העבודה שאתה [ד"ר. Eneanya] עשו כדי להנדס מחדש את האלגוריתם לכל הוא בדיוק איך להתקדם. אנחנו צריכים לתקן את המערכת. גם תוך שימוש בעובדה שהיה צריך לתקן; קל היה לראות את ההטיה שנכתבה במשוואה. משוואת הכליות משמשת מראה לחברה שאפשרה להצפין את הגזע בצורה שקיפחה את האפרו-אמריקאים במשך עשרות שנים. ההטיה במשוואה זו הייתה מפורשת ומכוונת. יהיה הרבה יותר קשה לזהות הטיה באלגוריתמים מורכבים יותר בעתיד.

הישאר מעודכן לסיכום פאנל נוסף בחסות AAAS 2023 CCC!

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• Platoblockchain. Web3 Metaverse Intelligence. ידע מוגבר. גישה כאן.
• מקור: https://feeds.feedblitz.com/~/733934357/0/cccblog~Health-Equity-How-Can-Algorithms-and-Data-Mitigate-Not-Exacerbate-Harms-AAAS-Panel-Recap/