“ความเสมอภาคด้านสุขภาพ: อัลกอริทึมและข้อมูลจะบรรเทาได้อย่างไร ไม่ให้รุนแรงขึ้น และเป็นอันตราย” สรุปแผง AAAS

สุขภาพของแต่ละคนเป็นเรื่องส่วนบุคคลอย่างไม่น่าเชื่อ และการไปพบแพทย์อาจเป็นประสบการณ์ที่น่ากลัวและกดดัน โดยเฉพาะอย่างยิ่งสำหรับผู้ที่เป็นส่วนหนึ่งของกลุ่มที่ระบบการแพทย์ล้มเหลวในอดีต ปัญหาเชิงโครงสร้างเหล่านี้ในระบบการรักษาพยาบาลได้แทรกซึมเข้าไปในอัลกอริทึมที่ถูกนำมาใช้มากขึ้นในการวินิจฉัยและการรักษาผู้ป่วย CCC จัดเสวนาเรื่อง “ความเสมอภาคด้านสุขภาพ: อัลกอริทึมและข้อมูลสามารถบรรเทาได้อย่างไร ไม่เลวร้ายลง เป็นอันตราย” ที่แก้ไขปัญหาเหล่านี้ ผู้ร่วมอภิปรายคือ Dr. Amaka Eneanya (Fresenius Medical Care), Dr. Mona Singh (Princeton University), Dr. Melanie Moses (University of New Mexico) และ Dr. Katie Siek (Indiana University)

ดร. Eneanya เริ่มการอภิปรายโดยอภิปรายว่าสมการประเมินโรคไตต่ำเกินไปอย่างเป็นระบบได้อย่างไรอยู่ในคนอเมริกันผิวดำมานานหลายทศวรรษ เธออธิบายว่าในสหรัฐอเมริกา ผู้ป่วยทุกรายที่เป็นโรคไตจะต้องลงทะเบียน ความชุกของโรคโดยรวมเพิ่มขึ้นในช่วงไม่กี่ทศวรรษที่ผ่านมา และสำหรับคนผิวดำก็มีแนวโน้มที่จะแพร่หลายและรุนแรงยิ่งขึ้น 

ดร. Eneanya สรุปความไม่เสมอภาคทางเชื้อชาติ/ชาติพันธุ์ในปัจจัยเสี่ยงและผลลัพธ์ของโรคไตเรื้อรัง (CKD) (Eneanya ND et al. ธรรมชาติ Rev Nepชม. พ.ศ. 2021 ระบบข้อมูลไตของสหรัฐอเมริกา):

• ความชุกของโรคเบาหวานสูงที่สุดในหมู่คนผิวดำเมื่อเทียบกับกลุ่มเชื้อชาติอื่นๆ 
  • คนผิวดำและคนเชื้อสายสเปนได้รับการวินิจฉัยตั้งแต่อายุยังน้อยเมื่อเทียบกับคนผิวขาว 
• คนผิวดำมีอัตราความดันโลหิตสูงสูงกว่าคนผิวขาวอย่างมีนัยสำคัญ 
  • การควบคุมความดันโลหิตสูงมีน้อยกว่าในคนผิวดำและคนสเปนเมื่อเทียบกับคนผิวขาว
• คนผิวดำมีโอกาสน้อยที่จะได้รับการดูแลด้านไตก่อนเริ่มการล้างไตเมื่อเทียบกับกลุ่มเชื้อชาติอื่น 
• เสี่ยงต่อการเกิดไตวายที่ต้องฟอกไตหรือปลูกถ่ายไต 
  • สูงกว่าคนผิวดำถึงคนผิวขาวถึง 4 เท่า 
  • สูงขึ้น 1.3 เท่าในคนเชื้อสายสเปนและคนผิวขาว 
• คนผิวดำมีโอกาสน้อยที่จะได้รับการปลูกถ่ายไตเมื่อเทียบกับกลุ่มเชื้อชาติอื่นๆ

การเหยียดเชื้อชาติทางโครงสร้างทำให้สุขภาพแย่ลงจากโรคที่เกี่ยวข้องกับไต ดร. Eneanya อธิบายเพิ่มเติม (Eneanya ND et al. ธรรมชาติ Rev Nepชม. 2021.):

พฤติกรรมการใช้ชีวิตแบบใดที่คุณสามารถจ่ายได้ เช่น สิ่งที่คุณกิน และผลกระทบทางชีวภาพ เช่น ความเครียดจากการเหยียดเชื้อชาติและการเลือกปฏิบัติ ล้วนนำไปสู่การเปลี่ยนแปลงทางเมตาบอลิซึมในร่างกาย ซึ่งอาจส่งผลให้การทำงานของไตลดลง

ดร. Eneanya ยกตัวอย่างว่าอัลกอริทึมที่แพทย์ใช้อยู่ในปัจจุบันมีผลที่ตามมาในโลกแห่งความเป็นจริงอย่างไร สมการ eGFR เป็นอัลกอริทึมที่ใช้ในการพิจารณาว่าการทำงานของไตของผู้ป่วยแข็งแรงเพียงใด eGFR ที่สูงขึ้นแสดงถึงการทำงานของไตที่ดีขึ้น ระดับ eGFR ของผู้ป่วยจะเป็นตัวกำหนดว่าพวกเขามีสิทธิ์รับการรักษาบางอย่างหรือไม่ และที่สำคัญที่สุดคือการปลูกถ่ายไต อย่างไรก็ตาม อัลกอริทึมแสดงให้เห็นว่าคนผิวดำและไม่ใช่คนผิวดำที่มีอายุ เพศเดียวกัน และมีการวัดค่าครีเอตินิน (การตรวจเลือดที่วัดการทำงานของไต) เท่ากัน มีระดับ eGFR ต่างกัน อัลกอริทึมจะคำนวณว่าคนผิวดำมี eGFR สูงกว่า ซึ่งคาดว่าจะมีการทำงานของไตที่เหนือกว่าคนที่ไม่ใช่คนผิวดำ สิ่งนี้จำกัดการรักษาที่พวกเขามีสิทธิ์ได้รับ และหมายความว่าพวกเขาจำเป็นต้องป่วยมากขึ้นเพื่อรับความช่วยเหลือที่พวกเขาควรจะได้รับ

ดร. Eneanya อธิบายประวัติของอัลกอริทึมที่เผยให้เห็นว่าเหตุใดจึงคำนวณในลักษณะที่ผิด: การศึกษาในปี 1999 ระบุว่าค่า creatinine ในซีรั่มสูงกว่าคนผิวดำเนื่องจากข้อสันนิษฐานที่ไม่ถูกต้องว่าพวกเขามีมวลกล้ามเนื้อสูงกว่า การศึกษาได้พัฒนาสมการ eGFR แรกที่ใช้ในสหรัฐอเมริกาและรวมปัจจัยการคูณของ "คนผิวดำ" ที่ทำให้ eGFR สูงขึ้นในหมู่คนผิวดำ การใช้ eGFR เป็นปัญหาเนื่องจากแพทย์ถูกปล่อยให้ตัดสินเชื้อชาติของใครบางคนตามลักษณะที่ปรากฏหรือบันทึกทางการแพทย์ (ซึ่งอาจมีการระบุเชื้อชาติเป็นข้อสันนิษฐานที่เหลือจากแพทย์คนก่อน) นอกจากนี้ยังไม่มีความแตกต่างสำหรับบุคคลต่างเชื้อชาติหรือวิธีการจำแนกพวกเขา

ดร. Eneanya เป็นผู้เขียนบทความที่เปลี่ยนวิธีคำนวณ eGFR ในการดูแลสุขภาพโดยสนับสนุนสมการที่ไม่ใช้การแข่งขันในการประมาณค่า (Inker LA, Eneanya ND, et al. NEJM พ.ศ. 2021 เดลกาโด ซี และคณะ แจส 2021). ดร. Eneanya และเพื่อนร่วมงานของเธอกลับไปที่การศึกษาดั้งเดิมในปี 1999 และลบเชื้อชาติออกจากสมการ และติดตั้งใหม่ด้วยข้อมูลอื่นๆ ปัจจุบัน ⅓ ของโรงพยาบาลและคลินิกในสหรัฐอเมริกากำลังใช้สมการใหม่นี้ และ United Network for Organ Sharing (UNOS) ได้จำกัดศูนย์ปลูกถ่ายทั้งหมดไม่ให้ใช้สมการตามเชื้อชาติในเดือนมิถุนายน 2022 พวกเขาก้าวไปอีกขั้นในเดือนมกราคม 2023 และประกาศว่าศูนย์ปลูกถ่ายไตทุกแห่งในสหรัฐฯ จะต้องตรวจสอบผู้ป่วยผิวดำทุกรายที่อยู่ในรายชื่อรอการปลูกถ่ายไต และแก้ไขเวลาในรายชื่อรอ หากได้รับผลกระทบจากสมการ eGFR ตามเชื้อชาติ ดร. Eneanya ระบุว่า แม้ว่า UNOS จะเป็นส่วนหนึ่งของรัฐบาลกลาง แต่รัฐบาลไม่ได้เกี่ยวข้องโดยตรงกับการตัดสินใจห้ามการใช้สมการจากเชื้อชาติ

นอกเหนือจากการนำสมการ eGFR ใหม่ไปใช้ในระดับสากลแล้ว ดร. Eneanya ยังมีแนวทางในอนาคตอีกสองสามแนวทางที่เธอเห็นว่าเป็นกุญแจสำคัญในการเข้าถึงการรักษาโรคไตอย่างเท่าเทียมกัน:

• พัฒนานโยบายและกระบวนการเพื่อปรับปรุงการเข้าถึงการดูแลป้องกันโรคไตเรื้อรัง 
• พัฒนานโยบายเพื่อเพิ่มการเข้าถึงการปลูกถ่ายไต 
• ตรวจสอบผลกระทบด้านสิ่งแวดล้อม (เช่น ความเครียด การเลือกปฏิบัติ) ต่อการทำงานของไตและการดำเนินของโรค
• ความโปร่งใสในการหารือเกี่ยวกับการตรวจหาค่าการทำงานของไตกับผู้ป่วย (รวมถึงข้อจำกัดของสมการ eGFR)

ดร. Eneanya อธิบายเพิ่มเติมว่าการล้อเล่นเหมารวมเกี่ยวกับเผ่าพันธุ์คนผิวดำนั้นช่วยลดการเข้าใจผิดและข่าวปลอมที่ไม่มีพื้นฐานทางวิทยาศาสตร์ ตัวอย่างเช่น หลักสูตรของโรงเรียนแพทย์มีการเปลี่ยนแปลงเพื่อแสดงว่าไม่มีพื้นฐานทางมานุษยวิทยาที่ว่ามวลกล้ามเนื้อในเผ่าพันธุ์หนึ่งมากกว่าอีกเผ่าพันธุ์หนึ่ง สื่อต่างๆ ได้ทำหน้าที่ที่ดีในการแบ่งปันตำนานที่แตกสลายนี้เช่นกัน และดร. Eneanya ยังได้ปรึกษากับ Grey's Anatomy ซึ่งเน้นย้ำถึงผลกระทบร้ายแรงของสมการ eGFR สำหรับผู้ป่วยผิวดำที่ต้องการการปลูกถ่ายไต

ดร. ซิงห์ยังคงสนทนาเกี่ยวกับความไม่เสมอภาคทางสุขภาพโดยอธิบายว่าในสหรัฐอเมริกา คนผิวดำมีอัตราการเสียชีวิตด้วยโรคมะเร็งสูงกว่าเมื่อเทียบกับคนผิวขาว ข้อเท็จจริงนี้แสดงให้เห็นว่ามีความท้าทายมากมายที่ผู้เชี่ยวชาญทางการแพทย์และนักวิจัยด้านคอมพิวเตอร์ต้องเผชิญ ทั้งยังมีโอกาสมากมายในการพัฒนาวิธีการที่ไม่ขยายความเหลื่อมล้ำที่มีอยู่ 

ดร. ซิงห์อธิบายชีววิทยาของมะเร็งเป็นอันดับแรก: "มะเร็งเป็นโรคที่เซลล์ของเราเกิดการกลายพันธุ์ที่ทำให้เซลล์เติบโตอย่างควบคุมไม่ได้ ดังนั้น หากเราต้องการเข้าใจรากฐานของโมเลกุลของมะเร็งในบุคคลใดบุคคลหนึ่ง เราสามารถดูจีโนมของเซลล์มะเร็งของเขาหรือเธอและเซลล์ที่ไม่ใช่มะเร็งของเขาหรือเธอ และลำดับได้ เมื่อเราจัดลำดับเซลล์ปกติและเซลล์มะเร็งแล้ว เราก็สามารถเปรียบเทียบจีโนมและค้นพบว่าการกลายพันธุ์แบบใดที่เราได้รับในเซลล์มะเร็ง และสิ่งนี้อาจให้คำใบ้ว่าการเปลี่ยนแปลงใดที่อาจเกี่ยวข้องกับมะเร็งของแต่ละคน นี่คือสิ่งที่ทำมาตลอดในช่วง 15 ปีที่ผ่านมา ซึ่งเนื้องอกของบุคคลนับหมื่นได้รับการจัดลำดับและระบุการกลายพันธุ์ภายในเนื้องอก”

เกือบทุกคนรู้จักคนที่ได้รับการวินิจฉัยว่าเป็นมะเร็งและไม่มีวิธีรักษาแบบสากล อย่างไรก็ตาม ถัดมา ดร.ซิงห์กล่าวถึงคำมั่นสัญญาของเนื้องอกวิทยาที่มีความแม่นยำ โดยนักวิทยาศาสตร์จะจัดลำดับเนื้องอกของผู้ป่วย ระบุการกลายพันธุ์ของดีเอ็นเอ และทำการวิเคราะห์ด้วยคอมพิวเตอร์เพื่อกำหนดว่าการเปลี่ยนแปลงใดที่สามารถกำหนดเป้าหมายได้ การบำบัดด้วยภูมิคุ้มกันเป็นวิธีการควบคุมระบบภูมิคุ้มกันของใครบางคนเพื่อกำหนดเป้าหมายไปที่เนื้องอกของพวกเขา การบำบัดด้วยภูมิคุ้มกันที่มีแนวโน้มว่าจะเกิดขึ้นและกำลังจะมาถึงคือการออกแบบวัคซีนที่ปรับให้เหมาะกับแต่ละบุคคล และวัคซีนเหล่านี้ทำให้เกิดการตอบสนองทางภูมิคุ้มกันต่อเนื้องอกของพวกมัน

ดร. ซิงห์อธิบายวิธีการทำงานนี้ว่า ระบบภูมิคุ้มกันของเราแต่ละระบบมียีนคลาส I คลาส I ที่แตกต่างกัน 6 ชุดที่แตกต่างกัน มียีน MHC ที่แตกต่างกันมากกว่า 13,000 สายพันธุ์ ดังนั้นแต่ละคนจึงมียีน MHC ที่แตกต่างกัน การกลายพันธุ์บางอย่างภายในเซลล์มะเร็งส่งผลให้เกิดโปรตีน "แปลกปลอม" และบางส่วนสามารถถูกผูกมัดโดย MHC ของแต่ละคน คอมเพล็กซ์ของ MHC เหล่านี้จับกับชิ้นส่วนของโปรตีนที่ได้จากมะเร็งซึ่งเซลล์ภูมิคุ้มกันรับรู้และสามารถกระตุ้นการตอบสนองของภูมิคุ้มกันได้ สิ่งนี้มีความเป็นส่วนตัวสูงเนื่องจากเนื้องอกของแต่ละคนอาจมีการกลายพันธุ์ที่แตกต่างกัน และแต่ละคนก็มี MHC ที่แตกต่างกัน นักวิทยาศาสตร์กำลังใช้แมชชีนเลิร์นนิงเพื่อทำนายว่าตัวแปร MHC ใดจับกับเปปไทด์ตัวใด ซึ่งหวังว่าจะช่วยเพิ่มประสิทธิภาพของการบำบัดด้วยภูมิคุ้มกันและนำไปสู่การออกแบบวัคซีนนีโอแอนติเจนเฉพาะบุคคลในที่สุด

ดร. ซิงห์อธิบายว่ายีน MHC มีความหลากหลายแตกต่างกันไปทั่วโลก อัลลีล MHC ส่วนใหญ่ไม่มีข้อมูลที่มีผลผูกพันที่เกี่ยวข้องกับอัลลีลเหล่านี้ และอัลลีลที่มีข้อมูลเกี่ยวกับการผูกมัดของอัลลีลเหล่านี้จะมีอคติเข้าข้างกลุ่มเชื้อชาติบางกลุ่ม สิ่งสำคัญในการทดสอบชุดข้อมูลต้องไม่เพียงแค่มุ่งเน้นไปที่ประสิทธิภาพโดยรวมเท่านั้น แต่ยังต้องพิจารณาประชากรย่อยของข้อมูลด้วย เพื่อให้ทุกคนสามารถเข้าถึงผลประโยชน์ที่เป็นไปได้ของการวิจัยนี้อย่างเท่าเทียมกัน

ชุดฝึกอบรมต้องวิเคราะห์อคติก่อนนำไปใช้ นอกจากนี้ วิธีการประเมินประสิทธิภาพของข้อมูลที่มองไม่เห็นสามารถเปิดเผยอคติในข้อมูลที่ได้รับการฝึกอบรมมา การรวบรวมข้อมูลในลักษณะที่เป็นกลางเป็นสิ่งสำคัญในการจำกัดโอกาสในการมีอคติในภายหลังในการใช้อัลกอริทึม พื้นที่สำหรับการทำงานในอนาคตในหัวข้อนี้มุ่งเน้นไปที่ขั้นตอนการฝึกอบรมทางเลือก และกลยุทธ์อัลกอริทึมสำหรับการรวบรวมข้อมูลเป้าหมาย โดยรวมแล้ว สิ่งสำคัญคือต้องจัดลำดับความสำคัญของการพัฒนาแนวทางการแพทย์ที่มีความแม่นยำอย่างยุติธรรม เพื่อให้การรักษาและการวิจัยปลายน้ำมีความเท่าเทียมกัน

ดร. โมเสสพูดต่อไป และเธอได้อธิบายถึงบริบทว่าอัลกอริธึมการจับเปปไทด์ eGFR และ MHC เข้ากับระบบนิเวศที่ใหญ่ขึ้นว่าอัลกอริทึมทางการแพทย์ส่งผลต่อผลลัพธ์ทางสังคมอย่างไร เธออธิบายว่านักวิทยาศาสตร์ใช้อัลกอริทึมและ AI เพื่อทำนายผลลัพธ์ที่เราสนใจจากพรอกซีที่สามารถวัดได้ง่าย และพร็อกซีเหล่านั้นอาจไม่ถูกต้อง เพื่อทำให้อัลกอริธึมทางการแพทย์ซับซ้อนยิ่งขึ้น พวกมันมีปฏิสัมพันธ์ซึ่งกันและกันอย่างต่อเนื่องในรูปแบบที่คาดเดาไม่ได้ ดังนั้นขอบเขตทั้งหมดของอัลกอริทึมในการวินิจฉัยผู้ป่วยจึงมักไม่ชัดเจน ดังนั้น การใช้อัลกอริทึมด้วยความระมัดระวังจึงเป็นสิ่งสำคัญ โดยเฉพาะอย่างยิ่งเมื่ออัลกอริทึมทำงานล้มเหลว อาจเป็นอันตรายต่อผู้ที่อ่อนแอที่สุดได้

การค้นหาว่าอัลกอริทึมส่งผลกระทบต่อใครและเหตุใดจึงเป็นส่วนสำคัญของความเสมอภาคทางการแพทย์ ดร. โมเสสก้าวถอยหลังและกำหนดความยุติธรรม กราฟิกทั่วไป ใช้เพื่อแยกแยะความเสมอภาคออกจากความเท่าเทียมกัน โดยบุคคลที่มีความสูงต่างกัน 3 ระดับดิ้นรนเพื่อดูเกมเบสบอลและวิธีต่างๆ ในการสนับสนุน พวกเขายังมีข้อบกพร่องแม้ในภาพที่ 3 ที่ขจัดสิ่งกีดขวางออก เพราะมันแสดงให้เห็นว่ามีบางอย่างโดยธรรมชาติสำหรับบุคคลนั้น ทำไมพวกเขาต้องการการสนับสนุนมากกว่าเหตุผลทางสังคมซึ่งอาจก่อให้เกิดความไม่เท่าเทียมกันตั้งแต่แรก

ดร. โมเสสแสดงกราฟิกทางเลือกเพื่อกำหนดความเสมอภาคในสังคมที่มีความอยุติธรรมอย่างเป็นระบบ (ลิขสิทธิ์ปี 2020 โดย Nicolás E. Barceló และ Sonya Shadravan (ศิลปิน: Aria Ghalili)):

ภาพกราฟิกนี้แสดงให้เห็นว่าไม่ใช่ทุกคนที่จะได้รับประโยชน์เพียงแค่การขจัดสิ่งกีดขวาง แต่ยังมีปัญหาที่หยั่งรากลึกซึ่งจำเป็นต้องได้รับการจัดการเพื่อให้ได้มาซึ่งความยุติธรรม

นักวิทยาศาสตร์ด้านคอมพิวเตอร์ควรคำนึงถึงบริบทที่สำคัญนี้เสมอ ดร. โมเสสให้เหตุผล บ่อยครั้งเป็นการยากที่จะระบุสมมติฐานที่มีอยู่ในการสร้างอัลกอริทึม แม้ว่าจะเป็นอัลกอริทึมที่ตรงไปตรงมาที่สุดก็ตาม นอกจากนี้ยังง่ายต่อการใช้ความสัมพันธ์ทางสถิติเพื่อทำนายผลลัพธ์และสันนิษฐานว่าความสัมพันธ์นั้นเท่ากับสาเหตุ แต่นั่นเป็นความเข้าใจผิด

ดร. โมเสสยังคงยกตัวอย่างที่เป็นรูปธรรมของอัลกอริทึมที่ไม่เท่าเทียมกันซึ่งใช้ในสังคมปัจจุบันในโดเมนอื่นๆ ตัวอย่างเช่น อัลกอริทึมในกระบวนการยุติธรรมทางอาญาที่ใช้แทนเงินประกันตัวสำหรับการฝากขังก่อนการพิจารณาคดี เจตนาคือให้กระบวนการเป็นข้อมูลที่ขับเคลื่อนด้วยวิธีการที่เป็นกลางเพื่อกักขังผู้ที่เป็นอันตรายหรือมีความเสี่ยงสูงที่จะไม่ปรากฏตัวเพื่อการพิจารณาคดี อย่างไรก็ตาม อัลกอริทึมมีข้อบกพร่องมากมายทั้งในด้านความสามารถของอัลกอริทึมในการคาดการณ์ที่ยุติธรรมและแม่นยำ และอคติของระบบที่อัลกอริทึมเป็นส่วนหนึ่ง รวมถึงอินพุตที่มีอคติและการตีความเอาต์พุตที่มีอคติ อีกตัวอย่างหนึ่งของการที่อัลกอริทึมมีอคติทางเชื้อชาติในระบบยุติธรรมทางอาญาคือซอฟต์แวร์จดจำใบหน้า แม้ว่าการจดจำใบหน้าจะแม่นยำน้อยที่สุดในการระบุใบหน้าของผู้หญิงผิวคล้ำ แต่ใบหน้าของผู้ชายผิวดำมักถูกระบุผิดโดยอัลกอริทึมเหล่านี้ซึ่งนำไปสู่การจับกุมที่ผิดพลาด สิ่งนี้แสดงให้เห็นว่าอคติที่ส่งผลกระทบมากที่สุดต่อกลุ่มหนึ่ง (ผู้หญิงผิวดำ) ในแง่ของการจำแนกประเภทที่ถูกต้องสามารถมีผลกระทบมากที่สุดต่ออีกกลุ่มหนึ่ง (ชายผิวดำ) เนื่องจากอคติในกระบวนการยุติธรรมทางอาญา

อัลกอริทึมอาจทำให้อคติของมนุษย์รุนแรงขึ้น และยังสามารถถูกยกเลิกได้หากไม่เสริมการตัดสินที่คุณจะทำโดยไม่ปรึกษาอัลกอริทึม นี่เป็นเรื่องจริงในอัลกอริทึมที่มีอคติในทางการแพทย์เช่นกัน ตัวอย่างเช่น เครื่องวัดค่าออกซิเจนในเลือดของชีพจรมีความแม่นยำน้อยกว่าในการตรวจจับระดับออกซิเจนในผิวที่มีสีเข้ม ซึ่งอาจส่งผลให้เกิดการวินิจฉัยโรคทางเดินหายใจ เช่น โควิดขั้นรุนแรง การใช้จำนวนเงินที่ใช้ไปกับการรักษาพยาบาลเป็นพร็อกซีสำหรับสุขภาพที่ดีของใครบางคนเป็นอีกหนึ่งมาตรการที่ไม่เท่าเทียมกัน ตัวอย่างที่ Dr. Eneanya และ Dr. Singh อธิบายไว้ ไต eGFR ช่วยลดความเสื่อมของไตในชาวแอฟริกันอเมริกัน และชุดข้อมูลจีโนมที่แสดงถึงบรรพบุรุษของชาวยุโรปมากเกินไป เป็นตัวอย่างที่โดดเด่นอื่นๆ ของอัลกอริธึมที่มีอคติในการแพทย์ซึ่งมีผลกระทบต่อเนื่องที่เป็นอันตรายต่อผู้คนที่ได้รับผลกระทบ สมการ eGFR ใช้เพื่อระบุผู้ต้องขังที่ป่วยจนได้รับการปล่อยตัวจากเรือนจำในช่วงโควิด ซึ่งส่งผลให้ชายชาวแอฟริกันอเมริกันถูกปฏิเสธการปล่อยตัวเนื่องจากการทำงานของไตของเขาถูกประเมินค่าสูงเกินไป

คำติชมสามารถปรับปรุงอัลกอริทึมหรือทำให้อันตรายรุนแรงขึ้น อัลกอริทึมไม่ได้เป็นแบบทางเดียว เนื่องจากมีเป้าหมายเพื่อทำนายพฤติกรรมจากข้อมูล และการคาดคะเนหนึ่งปีจะส่งผลต่อข้อมูลของปีถัดไป อัลกอริทึมควรมีเป้าหมายเพื่อลดอคติเมื่อเวลาผ่านไป ตัวอย่างเช่น การพิจารณาให้ประกันตัวควรช่วยให้จำเลยปรากฏตัวขึ้นเพื่อพิจารณาคดีแทนที่จะทำนายความล้มเหลว เจ้าหน้าที่ตำรวจควรมีเป้าหมายเพื่อลดทั้งอาชญากรรมและการจับกุมที่ผิดพลาด อัลกอริทึมที่ใช้ข้ามโดเมนไม่ควรถูกกำหนดให้ตายตัว เพราะจะมีการป้อนกลับระหว่างผู้คน อัลกอริทึม และบริบททางสังคม

ดร. โมเสสเสนอเส้นทางเพิ่มเติมไปข้างหน้าเช่นกัน: ลบอคติออกจากชุดข้อมูล ตั้งสมมติฐาน ย้อนกลับ (ไม่เสริม) อคติเชิงระบบ ประเมินด้วยมุมมองที่หลากหลาย ต้องการอัลกอริทึมที่โปร่งใสและอธิบายได้ และใช้การปรับใช้แบบค่อยเป็นค่อยไป ความเข้าใจโดยทั่วไปคืออัลกอริทึมจะลบอคติออกไป แต่ในความเป็นจริงแล้วมักจะประมวลอคติและเราจำเป็นต้องระวังอัลกอริทึมและผลลัพธ์ของมัน

ช่วงสุดท้ายของการอภิปรายเป็นการถามตอบ ผู้ดำเนินรายการ Dr. Siek เริ่มเซสชั่นด้วยการถามว่า “อัลกอริทึมและข้อมูลจะไม่ทำให้อันตรายรุนแรงขึ้นได้อย่างไร”

• ดร. Eneanya: ถ้านักวิจัยหยุดอยู่กับเชื้อชาติเมื่อมองหาตัวสร้างความแตกต่างในอัลกอริทึม นั่นถือว่าขี้เกียจและไม่ถูกต้องทางวิทยาศาสตร์ พันธุกรรม มนุษย์มีความคล้ายคลึงกันระหว่างเผ่าพันธุ์มากกว่าภายใน สิ่งสำคัญคือต้องคิดถึงลักษณะทางชีววิทยาที่ส่งผลต่อระบบต่างๆ ของมนุษย์ เช่น ไต ตัวอย่างเช่น เมื่อทดสอบเครื่องวัดความอิ่มตัวของออกซิเจนในเลือด นักวิจัยควรปรึกษากับแพทย์ผิวหนังเพื่อทดสอบและตรวจสอบความถูกต้องของเครื่องวัดความอิ่มตัวของออกซิเจนในเลือดโดยพิจารณาจากโทนสีผิวที่แตกต่างกัน แทนที่จะใช้อุปกรณ์ประเภทเดียวสำหรับผู้ที่มีโทนสีผิวต่างกัน
• ดร. โมเสส: เราควรใช้วิธีเดียวกันนี้ในการตรวจสอบความถูกต้องของอัลกอริทึมหลังจากใช้งานไปแล้ว การตระหนักว่าเชื้อชาติเป็นโครงสร้างทางสังคมทำให้สามารถสังเกตเห็นว่าการศึกษาคนตาบอดเชื้อชาติมีผลกระทบ สิ่งสำคัญคือต้องมองหาความแตกต่างระหว่างกลุ่มต่างๆ เพื่อระบุความไม่เสมอภาคที่อาจเกิดขึ้นซึ่งอัลกอริทึมกำลังเสริม ต้องประเมินว่าอัลกอริทึมกำลังลดปัญหาหรือทำให้ดีขึ้นหรือไม่?
• ดร. ซิงห์: ไม่ควรใช้เชื้อชาติเป็นข้อมูลเข้า แต่สามารถใช้ประเมินผลลัพธ์สำหรับอคติได้ หากเราไม่คิดถึงเรื่องเชื้อชาติ เราจะไม่สามารถพูดได้ว่ามีความแตกต่างทางสุขภาพ การรวบรวมข้อมูลจีโนมและจัดหมวดหมู่ตามบรรพบุรุษก็เป็นวิธีการที่มีข้อบกพร่องเช่นกัน เราต้องแน่ใจว่าได้ประเมินว่าวิธีการทำงานได้ดีกับประชากรหรือไม่
• ดร. เอเนียยา: เมื่อเรากระจายกลุ่มประชากรที่ศึกษา เราต้องออกห่างจากการนำกลุ่มคนผิวขาวหรือคนผิวดำเข้ามา เราจำเป็นต้องดูความแตกต่างภายในกลุ่มเหล่านี้มากขึ้น เช่น ปัจจัยต่างๆ เช่น สถานะทางสังคม เพศ เพศ ฯลฯ เราต้องดูภาพรวมทั้งหมด ไม่ใช่เฉพาะชุดข้อมูลความหลากหลายตามเชื้อชาติ
• ดร. โมเสส: อัลกอริทึมเป็นเครื่องมือประเภทหนึ่งที่จะช่วยเราทำเช่นนั้นได้ มีกลยุทธ์การคำนวณที่เป็นไปได้มากมายที่สามารถช่วยได้
• ดร. ซิงห์: ฉันยอมรับว่าอัลกอริทึมมีบทบาทอย่างมากที่นี่ แล้วเราจะจัดลำดับความสำคัญของการรวบรวมข้อมูลอย่างไร เราต้องคิดเกี่ยวกับวิธีการทำอย่างระมัดระวัง

จากนั้นสมาชิกผู้ฟังถามว่า "ด้วยความเร่งรีบในการพัฒนาอัลกอริทึมตามชุดข้อมูลปัจจุบันที่มีอคติ มีวิธีที่จะต่อต้านอคติในอัลกอริทึมนอกเหนือจากการกำจัดอคติในชุดข้อมูลหรือไม่" 

• ดร. ซิงห์: เป็นการยากที่จะเอาชนะอคติในชุดข้อมูล เป็นพื้นที่ของการวิจัย มันง่ายที่จะสูงหรือต่ำกว่าข้อมูลตัวอย่าง มีวิธีต่างๆ ในการฝึกโมเดล ML โดยเป้าหมายโดยรวม (โดยทั่วไปคือฟังก์ชันที่คุณพยายามย่อให้เล็กที่สุด มักใช้ชุดข้อมูลทั้งหมด) คือการเพิ่มประสิทธิภาพควรมีลักษณะอย่างไร
• ดร. Eneanya: อัลกอริธึมทางการแพทย์จำนวนมากถูกมองว่าจำเป็นต้องรวมเชื้อชาติเพื่อให้แม่นยำยิ่งขึ้น.. อย่างไรก็ตาม ผู้คนจำเป็นต้องตรวจสอบอย่างยิ่งว่าเหตุใดจึงมีการนำเชื้อชาติมาใช้ตั้งแต่แรก? การลบการแข่งขันเป็นตัวแปรอาจไม่เปลี่ยนประสิทธิภาพของอัลกอริทึมเท่าที่คุณคิด มันมีความหมายอะไร (ทางคลินิก) เมื่อผลลัพธ์เปลี่ยนไปเพียงเล็กน้อยหลังจากลบตัวแปรเช่นเชื้อชาติ?
• ดร. ซิงห์: มันไม่ได้มีความหมายอะไรเป็นพิเศษเมื่อชุดการฝึกของคุณกับชุดที่คุณใช้มันแตกต่างกันมาก

ดร. Siek ถามคำถามอื่นกับผู้ร่วมอภิปรายว่า “ถ้าเราทำสิ่งนี้ซ้ำได้ เราจะทำอะไรที่แตกต่างออกไป”

• ดร. Eneanya: การหยุดการแข่งขันเมื่อประเมินเหตุผลของความแตกต่างในผลลัพธ์ด้านสุขภาพไม่ควรเกิดขึ้น เช่น ระดับครีเอตินีน เราควรพิจารณาว่ามีอะไรอีกบ้างที่ส่งผลต่อครีเอตินิน เราต้องการชุดข้อมูลที่ดีกว่า ซึ่งต้องสร้างความไว้วางใจในชุมชน สิ่งนี้อาจดูเหมือนการปรับปรุงความหลากหลายของกลุ่มทดลอง การประเมินว่าเจ้าหน้าที่ที่ทำการศึกษาของคุณเป็นอย่างไร ฯลฯ ทุนสนับสนุนของสถาบันสุขภาพแห่งชาติกำลังต้องการพันธมิตรในชุมชนและผู้เชี่ยวชาญด้านความเสมอภาคด้านสุขภาพเป็นส่วนหนึ่งของทีมวิจัยมากขึ้นเรื่อยๆ เราจำเป็นต้องเปลี่ยนชุดเก่า แต่ก็ต้องสร้างชุดที่ดีกว่าในอนาคตด้วย เราทำได้มากเพียงพยายามกำหนดค่าใหม่ที่มีอยู่
• ดร. โมเสส: นอกเหนือจากสิ่งที่เราทำได้หากเริ่มต้นใหม่ ฉันชอบคิดว่าอัลกอริทึมเป็นเหมือนกระจกเงาของสังคม พวกเขาได้รับการฝึกฝนจากทุกคนบนอินเทอร์เน็ต การใช้สิ่งนั้นเป็นข้อมูลเข้าสู่อัลกอริทึมระดับถัดไป เราสามารถระบุได้ว่าอคติอยู่ที่ไหน เหตุใดจึงอยู่ที่นั่น และผลกระทบในอนาคตคืออะไร เราจำเป็นต้องถามวิธีใช้เครื่องมือเชิงปริมาณเหล่านี้เพื่อหาวิธีแก้ไขสถานการณ์เหล่านี้แทนที่จะทำให้รุนแรงขึ้น
• ดร. ซิงห์: จีโนมจำนวนมากที่รวบรวมได้ไม่ได้เป็นตัวแทนของประชากรโดยรวม เราต้องเริ่มจากการมีส่วนร่วมจากผู้คนหลากหลายกลุ่ม

คำถามสุดท้ายของผู้ชมคือ: "จนกว่าเราจะถึงจุดที่เรามีภาพจีโนมที่สมบูรณ์ของมนุษย์ทุกคน จะมีความกระตือรือร้นที่จะใช้ ML และอัลกอริทึม อะไรที่เป็นของจริงในระดับ peer review ที่เราทำได้ตอนนี้จะได้ไม่ต้องแก้ไขอีกใน 30 ปี”

• ดร. Eneanya: ความสมบูรณ์แบบเป็นศัตรูของความดี เราต้องทำให้ดีที่สุดเท่าที่จะทำได้ เราสามารถระบุอคติได้ จากนั้นทำให้ดีที่สุดเท่าที่จะทำได้เพื่อก้าวไปข้างหน้า มีอุปสรรคที่ไม่เกี่ยวข้องกับอัลกอริธึมทางคลินิก การแก้ไขอัลกอริทึม eGFR โดยการกำจัดเชื้อชาติไม่สามารถแก้ปัญหาความไม่เสมอภาคของโรคไตได้ จำเป็นต้องทำงานจำนวนมากในด้านของการปราบปรามหลายตัวแปร
• ดร. โมเสส: งานที่คุณ [ดร. Eneanya] ได้ทำการปรับโครงสร้างอัลกอริทึมสำหรับทุกคนว่าจะก้าวไปข้างหน้าอย่างไร เราต้องแก้ไขระบบ ยังใช้ความจริงที่ว่าต้องแก้ไข มันง่ายที่จะเห็นอคติที่เขียนลงในสมการ สมการของไตทำหน้าที่เป็นกระจกเงาของสังคมที่อนุญาตให้มีการเข้ารหัสการแข่งขันในลักษณะที่ทำให้ชาวแอฟริกันอเมริกันเสียเปรียบมานานหลายทศวรรษ อคติในสมการนั้นชัดเจนและจงใจ การระบุอคติในอัลกอริทึมที่ซับซ้อนมากขึ้นในอนาคตจะยากขึ้นมาก

คอยติดตามบทสรุปการอภิปรายที่สนับสนุน AAAS 2023 CCC อีกครั้ง!

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• เพลโตบล็อคเชน Web3 Metaverse ข่าวกรอง ขยายความรู้. เข้าถึงได้ที่นี่.
• ที่มา: https://feeds.feedblitz.com/~/733934357/0/cccblog~Health-Equity-How-Can-Algorithms-and-Data-Mitigate-Not-Exacerbate-Harms-AAAS-Panel-Recap/