«برابری سلامت: چگونه الگوریتم‌ها و داده‌ها می‌توانند مضرات را کاهش دهند، نه تشدید کنند؟» خلاصه پنل AAAS

سلامتی یک فرد یک موضوع فوق‌العاده شخصی است و رفتن به پزشک می‌تواند تجربه‌ای ترسناک و استرس‌زا باشد. این امر به ویژه در مورد افرادی که بخشی از گروه هایی هستند که نظام پزشکی از لحاظ تاریخی شکست خورده است صادق است. این مسائل ساختاری در سیستم مراقبت های بهداشتی در الگوریتم هایی نفوذ کرده است که به طور فزاینده ای در تشخیص و درمان بیماران استفاده می شود. CCC پانلی را با عنوان «برابری سلامت: چگونه الگوریتم‌ها و داده‌ها می‌توانند آسیب‌رسانی کنند، نه تشدید کنند؟» ترتیب داد؟ که به این مسائل پرداخت. اعضای میزگرد دکتر آماکا انیانیا (مراقبت های پزشکی فرسنیوس)، دکتر مونا سینگ (دانشگاه پرینستون)، دکتر ملانی موزس (دانشگاه نیومکزیکو)، و دکتر کتی سیک (دانشگاه ایندیانا) بودند.

دکتر Eneanya پانل را با بحث در مورد اینکه چگونه یک معادله به طور سیستماتیک بیماری کلیوی را دست کم گرفت آغاز کرد.در سیاهپوستان آمریکایی برای چندین دهه است. او توضیح داد که در ایالات متحده، تمام بیمارانی که بیماری کلیوی دارند در یک رجیستری ثبت می شوند. شیوع این بیماری به طور کلی در دهه‌های اخیر افزایش یافته است و برای افراد سیاه‌پوست این بیماری حتی شایع‌تر و شدیدتر است. 

دکتر Eneanya این تفاوت‌های نژادی/قومی را در عوامل خطر و پیامدهای بیماری مزمن کلیه (CKD) تشریح کرد (Eneanya ND و همکاران. Nature Rev Nepساعت 2021، سیستم داده کلیه ایالات متحده.):

• شیوع دیابت در میان افراد سیاه پوست در مقایسه با سایر گروه های نژادی بالاترین میزان است 
  • افراد سیاه پوست و اسپانیایی در سنین پایین تر از افراد سفید پوست تشخیص داده می شوند 
• افراد سیاهپوست در مقایسه با افراد سفیدپوست به میزان قابل توجهی دارای میزان فشار خون بالا هستند 
  • کنترل فشار خون در میان افراد سیاه پوست و اسپانیایی در مقایسه با افراد سفیدپوست کمتر است
• افراد سیاهپوست در مقایسه با سایر گروه‌های نژادی احتمال کمتری برای دریافت مراقبت‌های نفرولوژیک قبل از شروع دیالیز دارند 
• خطر ابتلا به نارسایی کلیه که نیاز به دیالیز یا پیوند کلیه دارد 
  • 4 برابر افراد سیاه پوست در مقابل سفیدپوستان 
  • 1.3 برابر در افراد اسپانیایی تبار در مقابل سفیدپوستان بیشتر است 
• افراد سیاه پوست در مقایسه با سایر گروه های نژادی کمتر احتمال دارد پیوند کلیه دریافت کنند

دکتر Eneanya توضیح داد که نژادپرستی ساختاری به نتایج ضعیف سلامتی ناشی از بیماری های مرتبط با کلیه می افزاید (Eneanya ND و همکاران. Nature Rev Nepساعت 2021.):

عادات سبک زندگی که می توانید از عهده آن برآیید - مانند آنچه می خورید، و تأثیرات بیولوژیکی مانند استرس ناشی از نژادپرستی و تبعیض، همگی منجر به تغییرات متابولیک در بدن می شوند که می تواند منجر به کاهش عملکرد کلیه شود.

دکتر Eneanya به مثالی اشاره کرد که نشان می‌دهد چگونه الگوریتمی که در حال حاضر توسط پزشکان استفاده می‌شود، پیامدهای واقعی دارد. معادله eGFR الگوریتمی است که برای تعیین میزان قوی بودن عملکرد کلیه بیمار استفاده می شود. eGFR بالاتر نشان دهنده عملکرد بهتر کلیه است. سطح eGFR بیمار تعیین می کند که آیا آنها واجد شرایط درمان های خاص هستند یا خیر، و شاید مهم ترین آنها پیوند کلیه باشد. با این حال، این الگوریتم نشان می‌دهد که افراد سیاه‌پوست و غیرسیاه‌پوست با سن، جنسیت و اندازه‌گیری کراتینین یکسان (آزمایش خونی که عملکرد کلیه را اندازه‌گیری می‌کند)، سطوح مختلف eGFR دارند. این الگوریتم محاسبه می‌کند که یک فرد سیاه‌پوست دارای eGFR بالاتری است که ظاهراً عملکرد کلیه بالاتری نسبت به افراد غیر سیاه‌پوست دارد. این امر درمان واجد شرایط بودن آنها را محدود می کند و به این معنی است که آنها برای دریافت کمکی که باید حق دریافت آن را داشته باشند باید بیمارتر باشند.

دکتر Eneanya تاریخچه الگوریتمی را توضیح داد که نشان می دهد چرا این الگوریتم به این روش اشتباه محاسبه می شود: یک مطالعه در سال 1999 کراتینین سرم بالاتری را به افراد سیاه پوست نسبت داد، زیرا این فرض نادرست است که توده عضلانی بالاتری دارند. این مطالعه اولین معادله eGFR مورد استفاده در ایالات متحده را توسعه داد و یک ضریب ضرب "نژاد سیاه" را که باعث eGFR بالاتر در بین افراد سیاهپوست می شود، وارد کرد. استفاده از eGFR مشکل‌ساز است، زیرا پزشکان باید بر اساس ظاهر یا سوابق پزشکی در مورد نژاد کسی قضاوت کنند (که ممکن است نژاد به عنوان یک فرض باقی‌مانده از یک پزشک قبلی ذکر شده باشد). همچنین تمایزی برای افراد مخلوط نژاد یا روشی برای طبقه بندی آنها وجود ندارد.

دکتر Eneanya نویسنده مقاله‌ای بود که نحوه محاسبه eGFR در مراقبت‌های بهداشتی را با حمایت از معادله‌ای که در تخمین‌ها رقابت نمی‌کند تغییر داد (Inker LA، Eneanya ND، و همکاران. NEJM 2021، دلگادو سی، و همکاران. JASN 2021). دکتر Eneanya و همکارانش به مطالعه اولیه 1999 بازگشتند و نژاد را از معادله حذف کردند و آن را با ورودی های دیگر تطبیق دادند. امروزه، ⅓ از بیمارستان‌ها و کلینیک‌ها در ایالات متحده از معادله جدید استفاده می‌کنند و شبکه متحد برای به اشتراک گذاری اعضا (UNOS) به طور مشخص تمام مراکز پیوند را از استفاده از معادله مبتنی بر نژاد در ژوئن 2022 محدود کرد. آنها در ژانویه این کار را یک قدم جلوتر بردند. 2023 و اعلام کرد که تمام مراکز پیوند ایالات متحده ملزم به بررسی همه بیماران سیاه پوست در لیست انتظار پیوند کلیه هستند و در صورتی که تحت تأثیر معادله eGFR مبتنی بر نژاد باشد، زمان لیست انتظار آنها را اصلاح کنند. دکتر Eneanya تصریح کرد که در حالی که UNOS بخشی از دولت فدرال است، دولت مستقیماً در تصمیم گیری برای ممنوعیت استفاده از معادله مبتنی بر نژاد دخالت نداشت.

به غیر از پذیرش جهانی معادله جدید eGFR، دکتر Eneanya چند رویکرد آینده دیگر داشت که به نظر او کلید دسترسی عادلانه به درمان بیماری کلیوی است:

• توسعه سیاست ها و فرآیندهایی برای بهبود دسترسی به مراقبت های پیشگیرانه بیماری مزمن کلیوی 
• تدوین سیاست هایی برای افزایش دسترسی به پیوند کلیه 
• بررسی اثرات محیطی (مانند استرس، تبعیض) بر عملکرد کلیه و پیشرفت بیماری
• شفافیت در بحث تعیین عملکرد کلیه با بیماران (از جمله محدودیت معادلات eGFR)

دکتر Eneanya توضیح داد که دست انداختن کلیشه‌های مربوط به نژاد سیاه‌پوستان به حذف مغالطه‌ها و اخبار جعلی که مبنای علمی ندارند خلاصه می‌شود. به عنوان مثال، برنامه های درسی دانشکده پزشکی در حال تغییر هستند تا نشان دهند که هیچ مبنای انسان شناختی وجود ندارد که توده عضلانی در یک مسابقه نسبت به مسابقه دیگر وجود داشته باشد. رسانه ها کار خوبی برای به اشتراک گذاشتن این افسانه منهدم شده نیز انجام داده اند، و دکتر Eneanya حتی در مورد قسمت Grey's Anatomy که تاثیرات مخرب معادله eGFR را برای بیماران سیاه پوست نیازمند پیوند کلیه برجسته می کرد، مشورت کرد.

دکتر سینگ در ادامه گفتگو در مورد نابرابری های بهداشتی توضیح داد که در ایالات متحده، افراد سیاهپوست در مقایسه با افراد سفیدپوست میزان مرگ و میر سرطان بالاتری دارند. این واقعیت نشان می‌دهد که چالش‌های زیادی وجود دارد که متخصصان پزشکی و محققان محاسباتی باید با آن‌ها مواجه شوند، همچنین فرصت‌های زیادی برای توسعه روش‌هایی وجود دارد که اختلافات موجود را افزایش نمی‌دهد. 

دکتر سینگ ابتدا زیست‌شناسی سرطان را توضیح داد: «سرطان بیماری است که در آن سلول‌های خودمان جهش‌هایی به دست می‌آورند که به آنها اجازه می‌دهد به طور غیرقابل کنترلی رشد کنند. بنابراین، اگر بخواهیم زیربنای مولکولی سرطان را در هر فرد ONE درک کنیم، می‌توانیم به ژنوم سلول‌های سرطانی و سلول‌های غیرسرطانی او نگاهی بیندازیم و توالی آن را ترتیب دهیم. هنگامی که سلول‌های طبیعی و سرطانی را توالی‌یابی کردیم، می‌توانیم ژنوم‌ها را مقایسه کنیم و کشف کنیم که کدام جهش‌ها در سلول‌های سرطانی به دست آورده‌ایم، و این ممکن است به ما اشاره کند که چه تغییراتی ممکن است مربوط به سرطان آن فرد باشد. این دقیقاً همان کاری است که در 15 یا چند سال گذشته انجام شده است، جایی که تومورهای ده ها هزار نفر توالی یابی شده اند و جهش های درون آنها شناسایی شده است.

تقریباً همه کسی را می شناسند که به سرطان مبتلا شده است و هیچ درمان جهانی وجود ندارد. با این حال، دکتر سینگ بعداً وعده انکولوژی دقیق را مورد بحث قرار داد، که در آن یک دانشمند توالی تومور بیمار را تعیین می‌کند، جهش‌های DNA آنها را شناسایی می‌کند و تجزیه و تحلیل محاسباتی انجام می‌دهد تا مشخص کند کدام تغییرات را می‌توان هدف قرار داد. ایمونوتراپی روشی برای مهار سیستم ایمنی بدن فرد برای هدف قرار دادن تومورهای آنهاست. یک ایمونوتراپی امیدوارکننده و آینده، طراحی واکسن‌هایی است که برای هر فرد شخصی‌سازی شده باشد و این واکسن‌ها پاسخ ایمنی به تومورهای آن‌ها را برانگیزند.

دکتر سینگ روش کار را اینگونه توضیح می دهد که هر یک از سیستم های ایمنی بدن ما دارای 6 نسخه مختلف از ژن های کلاسیک مجتمع اصلی سازگاری بافتی (MHC) کلاسیک است. بیش از 13,000 نوع مختلف MHC از این ژن ها وجود دارد، بنابراین هر فرد دارای مجموعه متفاوتی از ژن های MHC است. برخی از جهش‌ها در سلول‌های سرطانی منجر به پروتئین‌های "خارجی" می‌شوند و برخی از آنها می‌توانند توسط MHCهای فرد محدود شوند. این کمپلکس‌های MHC که با قطعه‌ای از پروتئین مشتق شده از سرطان پیوند دارند، توسط سلول‌های ایمنی شناسایی می‌شوند و می‌توانند پاسخ ایمنی را فعال کنند. این بسیار شخصی سازی شده است زیرا تومور هر فرد می تواند جهش های متفاوتی داشته باشد و هر فرد دارای MHC های متفاوتی است. دانشمندان از یادگیری ماشینی برای پیش‌بینی اینکه چه گونه‌های MHC به کدام پپتیدها متصل می‌شوند، استفاده می‌کنند، که امیدواریم کارایی ایمونوتراپی را افزایش داده و در نهایت منجر به طراحی واکسن‌های نئوآنتی‌ژن شخصی‌سازی شود.

دکتر سینگ توضیح می دهد که تنوع ژن های MHC در سراسر جهان بسیار متفاوت است. اکثر آلل های MHC هیچ داده پیوندی مرتبط با آنها ندارند و آنهایی که اطلاعاتی در مورد اتصال آنها دارند به نفع برخی از گروه های نژادی سوگیری دارند. هنگام آزمایش یک مجموعه داده مهم است که فقط بر عملکرد کلی تمرکز نکنید، بلکه زیرجمعیت های داده را نیز در نظر بگیرید تا همه به مزایای بالقوه این تحقیق دسترسی برابر داشته باشند.

مجموعه آموزشی باید قبل از استفاده از جهت سوگیری تجزیه و تحلیل شود. علاوه بر این، روش‌های تخمین عملکرد بر روی داده‌های دیده نشده می‌تواند سوگیری را در داده‌هایی که روی آن آموزش داده شده است آشکار کند. جمع آوری داده ها به شیوه ای بی طرفانه برای محدود کردن فرصت سوگیری در استفاده از الگوریتم ضروری است. زمینه هایی برای کار آینده روی این موضوع، تمرکز بر رویه های آموزشی جایگزین، و استراتژی های الگوریتمی برای جمع آوری داده های هدفمند است. به طور کلی، اولویت بندی توسعه رویکردهای پزشکی دقیق منصفانه بسیار مهم است تا درمان ها و تحقیقات پایین دستی عادلانه باشند.

دکتر موزس بعداً صحبت کرد و او چگونگی تناسب الگوریتم‌های اتصال eGFR و MHC-پپتید را در یک اکوسیستم بزرگتر از نحوه تأثیر الگوریتم‌های پزشکی بر نتایج اجتماعی توضیح داد. او توضیح می‌دهد که دانشمندان از الگوریتم‌ها و هوش مصنوعی برای پیش‌بینی نتایجی که ما به آن‌ها اهمیت می‌دهیم، از پراکسی‌هایی که به راحتی قابل اندازه‌گیری هستند، استفاده می‌کنند، و این پروکسی‌ها ممکن است نادرست باشند. برای پیچیده‌تر کردن الگوریتم‌های پزشکی، آنها دائماً به روش‌های غیرقابل پیش‌بینی با یکدیگر در تعامل هستند، بنابراین میزان کامل الگوریتم‌ها در تشخیص بیمار معمولاً نامشخص است. بنابراین، استفاده از الگوریتم‌ها با احتیاط بسیار مهم است، به‌ویژه زیرا زمانی که الگوریتم‌ها شکست می‌خورند، می‌توانند برای آسیب‌پذیرترین افراد مضر باشند.

فهمیدن اینکه یک الگوریتم بر چه کسی تأثیر می گذارد و چرا بخش مهمی از عدالت پزشکی است. دکتر موسی یک گام به عقب برمی دارد و عدالت را تعریف می کند. گرافیک رایج برای تمایز برابری از برابری، با افراد با 3 قد مختلف که برای دیدن یک بازی بیسبال و راه‌های مختلف حمایت از آن‌ها تلاش می‌کنند، حتی در تصویر سومی که مانع را برطرف می‌کند، ناقص است، زیرا نشان می‌دهد که چیزی ذاتی برای شخص وجود دارد. چرا آنها به جای دلایل اجتماعی که ممکن است در وهله اول باعث نابرابری شده باشد به حمایت نیاز دارند.

دکتر موزس یک نمودار جایگزین برای تعریف عدالت در جامعه‌ای با بی‌عدالتی‌های سیستمی نشان داد (کپی رایت ۲۰۲۰ توسط نیکلاس ای. بارسلو و سونیا شادروان (هنرمند: آریا قالیلی)):

این گرافیک نشان می‌دهد که همه نمی‌توانند فقط از حذف این مانع سود ببرند، اما مشکلات ریشه‌ای عمیقی وجود دارد که برای دستیابی به برابری باید با آنها برخورد کرد.

دکتر موزس استدلال می کند که دانشمندان محاسبات همیشه باید این زمینه مهم را در ذهن داشته باشند. اغلب اوقات شناسایی مفروضاتی که در ایجاد الگوریتم‌ها وجود داشت، حتی با ساده‌ترین الگوریتم‌ها، دشوار است. همچنین استفاده از یک همبستگی آماری برای پیش‌بینی یک نتیجه و فرض اینکه همبستگی برابر است با علیت آسان است، اما این یک اشتباه است.

دکتر موزس با بیان مثال های عینی از الگوریتم های نابرابر که امروزه در جامعه در حوزه های دیگر مورد استفاده قرار می گیرند، ادامه می دهد. به عنوان مثال، الگوریتم هایی در سیستم عدالت کیفری که جایگزین وثیقه پولی برای بازداشت پیش از محاکمه می شوند. هدف این است که این فرآیند یک روش داده محور و بی طرفانه برای بازداشت کسانی باشد که خطر یا پرخطر هستند تا برای محاکمه حاضر نشوند. با این حال، الگوریتم‌ها هم در توانایی الگوریتم برای پیش‌بینی‌های منصفانه و دقیق و هم در سوگیری‌های سیستمی که الگوریتم بخشی از آن است، کاستی‌های زیادی دارند، از جمله ورودی‌های مغرضانه و تفسیرهای مغرضانه خروجی‌ها. نمونه دیگری از نحوه تداوم تعصب نژادی در سیستم عدالت کیفری توسط الگوریتم ها، نرم افزار تشخیص چهره است. در حالی که نشان داده شده است که تشخیص چهره در شناسایی چهره‌های زن با پوست تیره‌تر کمترین دقت را دارد، اما این چهره‌های مرد سیاه‌پوست هستند که اغلب توسط این الگوریتم‌ها به اشتباه شناسایی شده‌اند که منجر به دستگیری کاذب می‌شود. این نشان می دهد که چگونه سوگیری که بیشتر بر یک گروه (زنان سیاه پوست) از نظر طبقه بندی دقیق تأثیر می گذارد، می تواند بیشترین تأثیر را بر گروه دیگر (مردان سیاه پوست) به دلیل سوگیری در سیستم عدالت کیفری داشته باشد.

الگوریتم‌ها می‌توانند سوگیری انسان را تشدید کنند، و همچنین اگر قضاوتی را که بدون مشورت با الگوریتم انجام می‌دادید، تقویت نکنند، می‌توانند نادیده گرفته شوند. این در الگوریتم‌های بایاس در پزشکی نیز صادق است. برای مثال، پالس اکسی‌مترها در تشخیص سطوح اکسیژن در پوست‌های تیره‌تر دقت کمتری دارند، که می‌تواند منجر به تشخیص نادرست بیماری‌های تنفسی مانند کووید شدید شود. استفاده از مقدار پولی که برای مراقبت های بهداشتی خرج می شود به عنوان نماینده ای برای سلامت فردی یکی دیگر از اقدامات ناعادلانه است. نمونه‌هایی که دکتر Eneanya و دکتر Singh توصیف کردند، اختلال کلیه با تخفیف کلیه eGFR در آمریکایی‌های آفریقایی تبار، و مجموعه داده‌های ژنومی که بیش از حد اجداد اروپایی را نشان می‌دهند، نمونه‌های برجسته دیگری از الگوریتم‌های مغرضانه در پزشکی هستند که عواقب پایین دستی خطرناکی برای افراد آسیب‌دیده دارند. معادله eGFR برای شناسایی زندانیانی استفاده شد که به اندازه کافی بیمار بودند تا در طول کووید از زندان آزاد شوند، که منجر به آزادی یک مرد آفریقایی آمریکایی به دلیل بیش از حد تخمین زده شدن عملکرد کلیه او شد.

بازخورد می تواند الگوریتم ها را بهبود بخشد یا آسیب های آنها را تشدید کند. الگوریتم ها یک خیابان یک طرفه نیستند، زیرا هدف آنها پیش بینی رفتار از روی داده ها است و پیش بینی یک سال بر داده های سال بعد تأثیر می گذارد. هدف الگوریتم ها کاهش سوگیری ها در طول زمان است. به عنوان مثال، جلسات وثیقه باید به متهمان کمک کند تا برای محاکمه حاضر شوند نه اینکه شکست ها را پیش بینی کنند. هدف پلیس باید کاهش جرم و دستگیری دروغین باشد. الگوریتم‌های مورد استفاده در دامنه‌ها هرگز نباید به صورت دقیق تنظیم شوند زیرا بازخوردی بین افراد، الگوریتم‌ها و زمینه اجتماعی وجود خواهد داشت.

دکتر موزس مسیرهای دیگری را نیز پیشنهاد کرد: حذف سوگیری از مجموعه داده‌ها، فرضیات سؤال، تعصب سیستمیک معکوس (نه تقویت)، ارزیابی با دیدگاه‌های گوناگون، درخواست الگوریتم‌های شفاف و قابل توضیح، و استفاده از استقرار تدریجی و تطبیقی. تصور رایج این است که الگوریتم‌ها به‌نوعی سوگیری را حذف می‌کنند، اما در واقعیت اغلب سوگیری را کدگذاری می‌کنند و ما باید مراقب الگوریتم‌ها و نتایج آن‌ها باشیم.

بخش پایانی پانل پرسش و پاسخ بود. مجری، دکتر سیک، جلسه را با این سوال آغاز کرد که "چگونه الگوریتم ها و داده ها نمی توانند آسیب ها را تشدید کنند؟"

• دکتر Eneanya: اگر محققی هنگام جستجوی متمایزکننده‌ها در یک الگوریتم، از مسابقه متوقف شود، تنبلی و از نظر علمی نامعتبر است. از نظر ژنتیکی، انسان ها بین نژادها بیشتر شبیه به هم هستند تا درونشان. مهم تر است که در مورد ویژگی های بیولوژیکی که در واقع بر سیستم انسانی مانند کلیه ها تأثیر می گذارد فکر کنید. به عنوان مثال، هنگام آزمایش پالس اکسی‌متر، محققان باید با یک متخصص پوست مشورت می‌کردند تا پالس اکسی‌مترها را بر اساس رنگ‌های پوست مختلف آزمایش و تأیید کنند - به جای استفاده از یک نوع دستگاه برای افراد با رنگ پوست متفاوت.
• دکتر موسی: ما باید از همین رویکرد برای اعتبارسنجی الگوریتم‌ها پس از استفاده استفاده کنیم. به رسمیت شناختن نژاد به عنوان یک سازه اجتماعی اجازه می دهد تا متوجه شوید که مطالعات کور نژادی تأثیر دارد. مهم است که به دنبال تمایز بین گروه ها باشید تا تفاوت های بالقوه ای را که الگوریتم تقویت می کند، شناسایی کنید. آیا باید ارزیابی کرد که آیا الگوریتم مشکلات را به حداقل می رساند یا آن را بهتر می کند؟
• دکتر سینگ: نژاد هرگز نباید به عنوان ورودی استفاده شود، اما می توان از آن برای ارزیابی خروجی ها از نظر سوگیری استفاده کرد. اگر به نژاد فکر نمی‌کردیم، حتی نمی‌توانستیم بگوییم که تفاوت‌های بهداشتی وجود دارد. جمع‌آوری داده‌های ژنومی و دسته‌بندی بر اساس اصل و نسب نیز روشی ناقص است. ما باید مطمئن شویم که آیا روش ها در بین جمعیت ها به خوبی کار می کنند یا خیر.
• دکتر Eneanya: هنگامی که ما در حال تنوع بخشیدن به یک جمعیت مورد مطالعه هستیم، باید از آوردن گروه هایی از افراد سفیدپوست یا سیاه پوست دور شویم. ما باید به تفاوت‌های بیشتری در این گروه‌ها نگاه کنیم، مانند عواملی مانند موقعیت اجتماعی، جنسیت، جنسیت، و غیره.
• دکتر موزس: الگوریتم‌ها دقیقاً انواع ابزارهایی هستند که باید به ما در انجام این کار کمک کنند، استراتژی‌های محاسباتی بالقوه زیادی وجود دارند که می‌توانند کمک کنند.
• دکتر سینگ: موافقم که الگوریتم‌ها در اینجا نقش بزرگی دارند، پس چگونه جمع‌آوری داده‌ها را اولویت‌بندی کنیم؟ ما باید در مورد چگونگی انجام این کار با دقت فکر کنیم.

سپس یکی از مخاطبان پرسید: «با توجه به عجله‌های عمده برای توسعه الگوریتم‌های مبتنی بر مجموعه داده‌های فعلی با سوگیری، آیا راه‌هایی برای مقابله با سوگیری در الگوریتم فراتر از خلاص شدن از تعصب در مجموعه داده وجود دارد؟» 

• دکتر سینگ: غلبه بر تعصب در یک مجموعه داده دشوار است. این یک حوزه فعال تحقیقاتی است. به راحتی می توان داده های نمونه را بیش از حد یا کمتر کرد. روش‌های مختلفی برای آموزش مدل‌های ML وجود دارد که هدف کلی (معمولاً تابعی است که سعی می‌کنید آن را به حداقل برسانید، معمولاً از کل مجموعه داده‌ها استفاده می‌کند) بهینه‌سازی چگونه باید باشد.
• دکتر Eneanya: بسیاری از الگوریتم‌های پزشکی برای دقیق‌تر شدن نیاز به گنجاندن نژاد دارند. با این حال، مردم باید به طور انتقادی بررسی کنند که چرا نژاد در وهله اول معرفی شده است؟ حذف race به عنوان یک متغیر ممکن است آنقدر که فکر می کنید عملکرد الگوریتم را تغییر ندهد. آیا زمانی که نتایج پس از حذف متغیری مانند race فقط اندکی تغییر می کند، معنایی (از نظر بالینی) دارد؟
• دکتر سینگ: به خصوص وقتی مجموعه تمرینی شما و مجموعه ای که از آن استفاده می کنید بسیار متفاوت است، معنایی ندارد.

دکتر سیک از اعضای میزگرد با سوال دیگری برانگیخت: "اگر می توانستیم این کار را دوباره تکرار کنیم، چه کاری متفاوت انجام می دادیم؟"

• دکتر Eneanya: توقف در مسابقه هنگام ارزیابی دلایل تفاوت در نتایج سلامتی نباید اتفاق می افتاد. به عنوان مثال در مورد سطح کراتینین، باید به این فکر کنیم که چه چیز دیگری می تواند بر کراتینین تأثیر بگذارد؟ ما به مجموعه داده های بهتری نیاز داریم که مستلزم ایجاد اعتماد در جوامع است. این می تواند مانند بهبود تنوع جمعیت های آزمایشی، ارزیابی ظاهر کارکنان مطالعه شما باشد، و غیره. کمک هزینه های موسسه ملی بهداشت به طور فزاینده ای به شرکای جامعه محور و متخصصان عدالت سلامت به عنوان بخشی از تیم تحقیقاتی نیاز دارد. ما باید مجموعه های قدیمی را تغییر دهیم، اما همچنین باید مجموعه های بهتری در آینده بسازیم. ما فقط با تلاش برای پیکربندی مجدد آنچه در خارج وجود دارد می توانیم کارهای زیادی انجام دهیم.
• دکتر موزس: فراتر از اینکه اگر دوباره راه اندازی کنیم چه کاری می توانیم انجام دهیم، من دوست دارم الگوریتم ها را آینه جامعه در نظر بگیرم. آنها توسط همه در اینترنت آموزش داده می شوند. با استفاده از آن به‌عنوان ورودی برای سطح بعدی الگوریتم، می‌توانیم تعیین کنیم که سوگیری‌ها کجا هستند، چرا وجود دارند و تأثیرات آینده چیست. ما باید بپرسیم که چگونه می توان از این ابزارهای کمی استفاده کرد تا چگونگی رفع این موقعیت ها را به جای تشدید آنها دریابیم.
• دکتر سینگ: بسیاری از ژنوم‌هایی که جمع‌آوری شده‌اند، جمعیت را در کل نشان نمی‌دهند. ما باید با مشارکت گروه های مختلف مردم شروع کنیم.

سوال نهایی مخاطبان این بود: «تا زمانی که به نقطه‌ای برسیم که تصویر ژنومی کاملی از همه انسان‌ها داشته باشیم، اشتیاق به استفاده از ML و الگوریتم‌ها وجود خواهد داشت. چه چیزهای واقعی در سطح بررسی همتایان وجود دارد که اکنون می توانیم انجام دهیم تا مجبور نباشیم آنها را در 30 سال اصلاح کنیم؟

• دکتر Eneanya: کامل دشمن خوبی است. ما باید بهترین کار را انجام دهیم. ما می‌توانیم سوگیری‌ها را شناسایی کنیم، سپس بهترین کار را انجام دهیم. موانعی وجود دارد که هیچ ارتباطی با الگوریتم های بالینی ندارند. فقط اصلاح الگوریتم eGFR با رهایی از نژاد، نابرابری های بیماری کلیوی را حل نمی کند. کارهای زیادی باید روی جنبه های چند متغیره سرکوب انجام شود.
• دکتر موسی: کار شما [دکتر. Eneanya] انجام داده اند برای مهندسی مجدد الگوریتم برای همه دقیقا چگونه به حرکت رو به جلو. باید سیستم را درست کنیم همچنین با استفاده از این واقعیت که باید ثابت می شد. دیدن سوگیری نوشته شده در معادله آسان بود. معادله کلیه به عنوان آینه ای برای جامعه ای عمل می کند که اجازه می دهد نژاد به گونه ای رمزگذاری شود که برای دهه ها آمریکایی های آفریقایی تبار را در معرض ضرر قرار داده است. سوگیری در آن معادله صریح و عمدی بود. شناسایی سوگیری در الگوریتم های پیچیده تر در آینده بسیار دشوارتر خواهد بود.

منتظر یک خلاصه پانل دیگر با حمایت AAAS 2023 CCC باشید!

• محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
• پلاتوبلاک چین. Web3 Metaverse Intelligence. دانش تقویت شده دسترسی به اینجا.
• منبع: https://feeds.feedblitz.com/~/733934357/0/cccblog~Health-Equity-How-Can-Algorithms-and-Data-Mitigate-Not-Exacerbate-Harms-AAAS-Panel-Recap/