“Công bằng sức khỏe: Làm thế nào các thuật toán và dữ liệu có thể giảm thiểu, không làm trầm trọng thêm các tác hại?” Bảng tóm tắt AAAS

Sức khỏe của một cá nhân là một chủ đề vô cùng riêng tư và việc đi khám bác sĩ có thể là một trải nghiệm đáng sợ và căng thẳng. Điều này đặc biệt đúng đối với những người thuộc các nhóm mà hệ thống y tế đã thất bại trong lịch sử. Những vấn đề về cấu trúc này trong hệ thống chăm sóc sức khỏe đã thấm vào các thuật toán ngày càng được sử dụng nhiều hơn trong chẩn đoán và điều trị bệnh nhân. CCC đã tổ chức một hội thảo, “Công bằng sức khỏe: Làm thế nào để các thuật toán và dữ liệu có thể giảm thiểu, không làm trầm trọng thêm các tác hại?” đã giải quyết những vấn đề này. Các thành viên tham gia hội thảo là Tiến sĩ Amaka Eneanya (Fresenius Medical Care), Tiến sĩ Mona Singh (Đại học Princeton), Tiến sĩ Melanie Moses (Đại học New Mexico) và Tiến sĩ Katie Siek (Đại học Indiana).

Tiến sĩ Eneanya bắt đầu hội thảo bằng cách thảo luận về cách một phương trình đánh giá thấp bệnh thận một cách có hệ thốngse ở người Mỹ da đen trong nhiều thập kỷ. Cô ấy giải thích rằng ở Mỹ, tất cả bệnh nhân mắc bệnh thận đều được đưa vào sổ đăng ký. Tỷ lệ mắc bệnh nói chung đã tăng lên trong những thập kỷ gần đây và đối với những người Da đen, nó có xu hướng thậm chí còn phổ biến và nghiêm trọng hơn. 

Tiến sĩ Eneanya đã vạch ra những khác biệt về chủng tộc/sắc tộc trong các yếu tố nguy cơ và kết quả của bệnh thận mãn tính (CKD) (Eneanya ND et al. Thiên Nhiên Rev Nếph. 2021, Hệ thống dữ liệu về thận của Hoa Kỳ.):

• Tỷ lệ mắc bệnh tiểu đường cao nhất ở người da đen so với các nhóm chủng tộc khác 
  • Người da đen và gốc Tây Ban Nha được chẩn đoán ở độ tuổi trẻ hơn so với người da trắng 
• Người da đen có tỷ lệ tăng huyết áp cao hơn đáng kể so với người da trắng 
  • Kiểm soát tăng huyết áp ít hơn ở những người Da đen và Tây Ban Nha so với những người Da trắng
• Người da đen ít có khả năng được chăm sóc thận trước khi bắt đầu lọc máu so với các nhóm chủng tộc khác 
• Nguy cơ phát triển bệnh suy thận cần lọc máu hoặc ghép thận 
  • cao gấp 4 lần ở người da đen so với người da trắng 
  • Cao hơn 1.3 lần ở người gốc Tây Ban Nha so với người da trắng 
• Người da đen ít có khả năng được ghép thận hơn so với các nhóm chủng tộc khác

Tiến sĩ Eneanya giải thích thêm (Eneanya ND et al. Thiên Nhiên Rev Nếph. 2021.):

Những thói quen sinh hoạt nào mà bạn có thể chấp nhận được – chẳng hạn như những gì bạn ăn, và các tác động sinh học như căng thẳng do phân biệt chủng tộc và phân biệt đối xử, tất cả đều dẫn đến những thay đổi về trao đổi chất trong cơ thể, có thể dẫn đến suy giảm chức năng thận.

Tiến sĩ Eneanya xoay quanh một ví dụ về cách một thuật toán hiện đang được các bác sĩ lâm sàng sử dụng có những hậu quả trong thế giới thực. Phương trình eGFR là một thuật toán được sử dụng để xác định mức độ chức năng thận của bệnh nhân. eGFR cao hơn thể hiện chức năng thận tốt hơn. Mức eGFR của bệnh nhân xác định xem họ có đủ điều kiện cho một số phương pháp điều trị nhất định hay không và có lẽ quan trọng nhất là ghép thận. Tuy nhiên, thuật toán cho thấy rằng một người Da đen và không phải Da đen có cùng độ tuổi, giới tính và có cùng số đo creatinine (xét nghiệm máu đo chức năng thận), có các mức eGFR khác nhau. Thuật toán tính toán rằng một người Da đen có eGFR cao hơn, được cho là chức năng thận vượt trội, so với người Không phải Da đen. Điều này hạn chế việc điều trị mà họ đủ điều kiện và có nghĩa là họ cần phải ốm nặng hơn để nhận được sự giúp đỡ mà lẽ ra họ được hưởng.

Tiến sĩ Eneanya đã giải thích lịch sử của thuật toán tiết lộ lý do tại sao nó tính toán theo cách sai hướng này: một nghiên cứu năm 1999 cho rằng creatinine huyết thanh cao hơn là do những người Da đen vì giả định không chính xác rằng họ có khối lượng cơ cao hơn. Nghiên cứu đã phát triển phương trình eGFR đầu tiên được sử dụng ở Hoa Kỳ và kết hợp hệ số nhân “chủng tộc Da đen” gây ra eGFR cao hơn ở những người Da đen. Việc sử dụng eGFR có vấn đề vì các bác sĩ lâm sàng được phép đánh giá chủng tộc của ai đó dựa trên ngoại hình hoặc hồ sơ y tế (có thể chủng tộc được liệt kê là giả định còn sót lại từ bác sĩ lâm sàng trước đó). Cũng không có sự phân biệt đối với các cá nhân thuộc chủng tộc hỗn hợp hoặc một phương pháp để phân loại họ.

Tiến sĩ Eneanya là tác giả của một bài báo đã thay đổi cách tính toán eGFR trong chăm sóc sức khỏe bằng cách ủng hộ một phương trình không đưa vấn đề chủng tộc vào ước tính (Inker LA, Eneanya ND, et al. NEJM 2021, Delgado C, và cộng sự. THÁNG 2021). Tiến sĩ Eneanya và các đồng nghiệp của cô đã quay lại nghiên cứu ban đầu năm 1999 và loại bỏ chủng tộc khỏi phương trình và trang bị lại nó bằng các đầu vào khác. Ngày nay, ⅓ bệnh viện và phòng khám ở Hoa Kỳ đang sử dụng phương trình mới và Mạng lưới chia sẻ nội tạng thống nhất (UNOS) đã hạn chế đáng kể tất cả các trung tâm cấy ghép sử dụng phương trình dựa trên chủng tộc vào tháng 2022 năm 2023. Họ đã tiến thêm một bước vào tháng XNUMX XNUMX và tuyên bố rằng tất cả các trung tâm cấy ghép của Hoa Kỳ phải xem xét tất cả bệnh nhân Da đen trong danh sách chờ ghép thận và sửa đổi thời gian trong danh sách chờ của họ nếu thời gian đó bị ảnh hưởng bởi phương trình eGFR dựa trên chủng tộc. Tiến sĩ Eneanya chỉ rõ rằng mặc dù UNOS là một phần của chính phủ liên bang, nhưng chính phủ không liên quan trực tiếp đến quyết định cấm sử dụng phương trình dựa trên chủng tộc.

Ngoài việc áp dụng phổ biến phương trình eGFR mới, Tiến sĩ Eneanya còn có một vài cách tiếp cận trong tương lai mà bà coi là chìa khóa để tiếp cận công bằng việc điều trị bệnh thận:

• Xây dựng các chính sách và quy trình để cải thiện khả năng tiếp cận dịch vụ chăm sóc phòng ngừa bệnh thận mãn tính 
• Xây dựng chính sách tăng khả năng tiếp cận ghép thận 
• Điều tra các tác động của môi trường (ví dụ: căng thẳng, phân biệt đối xử) đối với chức năng thận và tiến triển của bệnh
• Minh bạch trong việc thảo luận về xác định chức năng thận với bệnh nhân (bao gồm cả những hạn chế của phương trình eGFR)

Tiến sĩ Eneanya giải thích thêm rằng việc loại bỏ những định kiến ​​​​về chủng tộc Da đen nhằm mục đích loại bỏ những ngụy biện và tin tức giả mạo không có cơ sở khoa học. Ví dụ, chương trình giảng dạy của các trường y khoa đang thay đổi để chứng minh rằng không có cơ sở nhân học nào chứng minh rằng chủng tộc này có khối lượng cơ bắp nhiều hơn chủng tộc khác. Các phương tiện truyền thông cũng đã làm rất tốt việc chia sẻ huyền thoại bị phá vỡ này, và Tiến sĩ Eneanya thậm chí còn tư vấn về một tập Grey's Anatomy nhấn mạnh tác động tàn phá của phương trình eGFR đối với bệnh nhân Da đen cần ghép thận.

Tiến sĩ Singh tiếp tục cuộc trò chuyện về sự chênh lệch về sức khỏe bằng cách giải thích rằng ở Mỹ, người da đen có tỷ lệ tử vong do ung thư cao hơn so với người da trắng. Thực tế này cho thấy có rất nhiều thách thức mà các chuyên gia y tế và nhà nghiên cứu máy tính cần phải đối mặt, cũng có nhiều cơ hội để phát triển các phương pháp không làm gia tăng sự chênh lệch hiện có. 

Tiến sĩ Singh lần đầu tiên giải thích về sinh học của bệnh ung thư: “Ung thư là một căn bệnh mà các tế bào của chính chúng ta có những đột biến cho phép chúng phát triển không kiểm soát được. Vì vậy, nếu chúng ta muốn hiểu nền tảng phân tử của bệnh ung thư ở MỘT cá nhân bất kỳ, chúng ta có thể xem xét bộ gen của các tế bào ung thư và tế bào không ung thư của người đó và trình tự. Một khi chúng tôi đã giải trình tự tế bào bình thường và tế bào ung thư, chúng tôi có thể so sánh bộ gen và phát hiện ra những đột biến nào chúng tôi có được trong tế bào ung thư và điều này có thể cho chúng tôi gợi ý về những thay đổi nào có thể là những thay đổi liên quan đến bệnh ung thư của cá nhân đó. Đây chính xác là những gì đã được thực hiện trong 15 năm qua, nơi các khối u của hàng chục nghìn cá nhân đã được sắp xếp theo trình tự và các đột biến bên trong chúng đã được xác định.”

Khá nhiều người biết ai đó đã được chẩn đoán mắc bệnh ung thư và không có cách chữa trị vạn năng. Tuy nhiên, Tiến sĩ Singh tiếp theo đã thảo luận về triển vọng của ung thư học chính xác, trong đó một nhà khoa học giải trình tự khối u của bệnh nhân, xác định các đột biến DNA của họ và thực hiện phân tích máy tính để xác định những thay đổi nào có thể được nhắm mục tiêu. Liệu pháp miễn dịch là một cách tiếp cận để khai thác hệ thống miễn dịch của chính ai đó để nhắm mục tiêu khối u của họ. Một liệu pháp miễn dịch đang phát triển đầy hứa hẹn là thiết kế các loại vắc-xin được cá nhân hóa cho từng cá nhân và những vắc-xin này tạo ra phản ứng miễn dịch đối với các khối u của họ.

Tiến sĩ Singh giải thích cách thức hoạt động của điều này là mỗi hệ thống miễn dịch của chúng ta có 6 bản sao khác nhau của các gen loại I phức hợp tương hợp mô chính (MHC) cổ điển. Có hơn 13,000 biến thể MHC khác nhau của các gen này, vì vậy mỗi người có một bộ gen MHC khác nhau. Một số đột biến trong các tế bào ung thư dẫn đến các protein “lạ” và một số trong số này có thể bị ràng buộc bởi các MHC của một cá nhân. Những phức hợp MHC này liên kết với một đoạn protein có nguồn gốc từ ung thư được các tế bào miễn dịch nhận ra và có thể kích hoạt phản ứng miễn dịch. Điều này mang tính cá nhân hóa cao vì khối u của mỗi cá nhân có thể có các đột biến khác nhau và mỗi cá nhân có các MHC khác nhau. Các nhà khoa học đang sử dụng máy học để dự đoán biến thể MHC nào liên kết với peptide nào, hy vọng sẽ nâng cao hiệu quả của liệu pháp miễn dịch và cuối cùng dẫn đến việc thiết kế vắc-xin kháng nguyên cá nhân hóa.

Tiến sĩ Singh giải thích thêm rằng sự đa dạng của các gen MHC rất khác nhau trên toàn cầu. Hầu hết các alen MHC không có dữ liệu liên kết được liên kết với chúng và những alen có dữ liệu về liên kết của chúng bị sai lệch có lợi cho một số nhóm chủng tộc. Điều quan trọng khi thử nghiệm một tập dữ liệu là không chỉ tập trung vào hiệu suất tổng thể mà còn xem xét các quần thể dữ liệu nhỏ để mọi người đều có quyền truy cập bình đẳng vào các lợi ích tiềm năng của nghiên cứu này.

Tập huấn luyện phải được phân tích độ lệch trước khi được áp dụng. Hơn nữa, các phương pháp ước tính hiệu suất trên dữ liệu không nhìn thấy có thể cho thấy sự sai lệch trong dữ liệu mà nó được đào tạo. Việc thu thập dữ liệu theo cách không thiên vị là điều cần thiết để hạn chế khả năng thiên vị sau này trong việc sử dụng thuật toán. Các lĩnh vực cho công việc trong tương lai về chủ đề này đang tập trung vào các quy trình đào tạo thay thế và các chiến lược thuật toán để thu thập dữ liệu được nhắm mục tiêu. Nhìn chung, điều quan trọng là phải ưu tiên phát triển các phương pháp tiếp cận y học chính xác công bằng để các liệu pháp và nghiên cứu tiếp theo được công bằng.

Tiến sĩ Moses phát biểu tiếp theo và cô ấy đã bối cảnh hóa cách các thuật toán liên kết eGFR và MHC-peptide phù hợp với một hệ sinh thái lớn hơn về cách các thuật toán y tế ảnh hưởng đến kết quả xã hội. Cô ấy giải thích rằng các nhà khoa học sử dụng thuật toán và trí tuệ nhân tạo để dự đoán kết quả mà chúng ta quan tâm từ các đại diện có thể dễ dàng đo lường và những đại diện đó có thể không chính xác. Để làm cho các thuật toán y tế trở nên phức tạp hơn, chúng liên tục tương tác với nhau theo những cách không thể đoán trước, vì vậy toàn bộ phạm vi của các thuật toán trong chẩn đoán bệnh nhân thường không rõ ràng. Do đó, điều quan trọng là phải thận trọng khi sử dụng các thuật toán, đặc biệt là vì khi các thuật toán bị lỗi, chúng có thể gây hại nhất cho những người dễ bị tổn thương nhất.

Tìm hiểu thuật toán tác động đến ai và tại sao là một phần quan trọng của công bằng y tế. Tiến sĩ Moses lùi lại một bước và định nghĩa sự công bằng. đồ họa chung được sử dụng để phân biệt công bằng với bình đẳng, với những cá nhân có 3 chiều cao khác nhau đang cố gắng xem một trận bóng chày và những cách khác nhau để hỗ trợ họ, là thiếu sót ngay cả trong hình ảnh thứ 3 loại bỏ rào cản vì nó gợi ý rằng có một thứ gì đó cố hữu đối với người đó tại sao họ cần sự hỗ trợ hơn là những lý do xã hội có thể đã gây ra sự bất bình đẳng ngay từ đầu.

Tiến sĩ Moses đã đưa ra một hình ảnh thay thế để xác định thế nào là công bằng trong một xã hội có những bất công mang tính hệ thống (Bản quyền 2020 của Nicolás E. Barceló và Sonya Shadravan (Nghệ sĩ: Aria Ghalili)):

Đồ họa này cho thấy rằng không phải ai cũng có thể hưởng lợi chỉ từ việc dỡ bỏ rào cản, nhưng có những vấn đề sâu xa cần được xử lý để đạt được sự công bằng.

Tiến sĩ Moses lập luận rằng các nhà khoa học máy tính nên luôn ghi nhớ bối cảnh quan trọng này. Đôi khi rất khó để xác định các giả định đã có trong việc tạo ra các thuật toán, ngay cả với các thuật toán đơn giản nhất. Cũng có thể dễ dàng sử dụng một mối tương quan thống kê để dự đoán một kết quả và cho rằng mối tương quan đó ngang bằng với quan hệ nhân quả, nhưng đó là một sai lầm.

Tiến sĩ Moses tiếp tục bằng cách đưa ra các ví dụ cụ thể về các thuật toán không công bằng đang được sử dụng trong xã hội ngày nay trong các lĩnh vực khác. Chẳng hạn, các thuật toán trong hệ thống tư pháp hình sự thay thế tiền bảo lãnh cho việc tạm giam trước khi xét xử. Mục đích là để quá trình này trở thành một phương pháp dựa trên dữ liệu, không thiên vị để giam giữ những người có nguy cơ hoặc rủi ro cao không ra hầu tòa. Tuy nhiên, các thuật toán có nhiều thiếu sót về cả khả năng đưa ra các dự đoán công bằng và chính xác của thuật toán cũng như các sai lệch của hệ thống mà thuật toán tham gia, bao gồm đầu vào sai lệch và diễn giải sai lệch về kết quả đầu ra. Một ví dụ khác về sự phân biệt chủng tộc tồn tại trong hệ thống tư pháp hình sự bằng thuật toán là phần mềm nhận dạng khuôn mặt. Mặc dù tính năng nhận dạng khuôn mặt được chứng minh là kém chính xác nhất trong việc xác định khuôn mặt phụ nữ da sẫm màu, nhưng khuôn mặt nam giới Da đen thường bị các thuật toán này xác định sai nhất dẫn đến bắt giữ nhầm. Điều này cho thấy sự thiên vị ảnh hưởng nhiều nhất đến một nhóm (Phụ nữ da đen) về mặt phân loại chính xác, có thể có tác động lớn nhất đến một nhóm khác (đàn ông da đen) vì những thành kiến ​​trong hệ thống tư pháp hình sự

Các thuật toán có thể làm trầm trọng thêm sự thiên vị của con người và cũng có thể bị loại bỏ nếu chúng không củng cố phán đoán mà bạn đã đưa ra mà không tham khảo thuật toán. Điều này cũng đúng trong các thuật toán sai lệch trong y học. Ví dụ: máy đo oxy xung kém chính xác hơn trong việc phát hiện nồng độ oxy ở da sẫm màu, điều này có thể dẫn đến chẩn đoán sai các bệnh về đường hô hấp như COVID nặng. Sử dụng số tiền chi cho chăm sóc sức khỏe như một đại diện cho mức độ khỏe mạnh của một người nào đó là một biện pháp không công bằng khác. Các ví dụ mà Tiến sĩ Eneanya và Tiến sĩ Singh đã mô tả, thận eGFR giảm suy thận ở người Mỹ gốc Phi và bộ dữ liệu bộ gen đại diện cho tổ tiên người châu Âu, là những ví dụ nổi bật khác về các thuật toán sai lệch trong y học gây hậu quả nguy hiểm cho những người bị ảnh hưởng. Phương trình eGFR được sử dụng để xác định các tù nhân đủ bệnh để được ra tù trong thời kỳ COVID, dẫn đến việc một người đàn ông Mỹ gốc Phi bị từ chối trả tự do vì chức năng thận của anh ta được đánh giá quá cao.

Phản hồi có thể cải thiện các thuật toán hoặc làm trầm trọng thêm tác hại của chúng. Các thuật toán không phải là con đường một chiều vì chúng nhằm mục đích dự đoán hành vi từ dữ liệu và dự đoán của một năm sẽ ảnh hưởng đến dữ liệu của năm tiếp theo. Các thuật toán nên nhằm mục đích giảm sai lệch theo thời gian; ví dụ, các phiên điều trần tại ngoại nên giúp các bị cáo có mặt để xét xử hơn là dự đoán các thất bại; chính sách nên nhằm mục đích giảm cả tội phạm và bắt giữ sai. Các thuật toán được sử dụng trên các miền không bao giờ nên cố định vì sẽ có phản hồi giữa mọi người, thuật toán và bối cảnh xã hội.

Tiến sĩ Moses cũng đề xuất các con đường bổ sung phía trước: loại bỏ thành kiến ​​khỏi bộ dữ liệu, đặt câu hỏi giả định, đảo ngược (không củng cố) thành kiến ​​hệ thống, đánh giá với nhiều quan điểm khác nhau, yêu cầu các thuật toán minh bạch và có thể giải thích được cũng như sử dụng các triển khai dần dần, thích ứng. Nhận thức phổ biến là các thuật toán bằng cách nào đó loại bỏ sự thiên vị, nhưng trên thực tế, chúng thường hệ thống hóa sự thiên vị và chúng ta cần cảnh giác với các thuật toán cũng như kết quả của chúng.

Phần cuối cùng của bảng điều khiển là một câu hỏi và trả lời. Người điều hành Tiến sĩ Siek đã bắt đầu phiên họp bằng câu hỏi, "làm thế nào để các thuật toán và dữ liệu không làm trầm trọng thêm tác hại?"

• Tiến sĩ Eneanya: Nếu một nhà nghiên cứu đang dừng cuộc đua khi tìm kiếm sự khác biệt trong một thuật toán, thì điều đó là lười biếng và không có giá trị về mặt khoa học. Về mặt di truyền, con người trông giống nhau giữa các chủng tộc hơn là bên trong. Điều quan trọng hơn là nghĩ về các đặc điểm sinh học thực sự tác động đến một hệ thống của con người như thận. Ví dụ: khi thử nghiệm máy đo oxy xung, các nhà nghiên cứu nên tham khảo ý kiến ​​bác sĩ da liễu để kiểm tra và xác nhận máy đo oxy xung dựa trên các tông màu da khác nhau – thay vì sử dụng một loại thiết bị cho những người có tông màu da khác nhau.
• Tiến sĩ Moses: Chúng ta nên sử dụng cách tiếp cận tương tự để xác thực các thuật toán sau khi chúng được đưa vào sử dụng. Công nhận chủng tộc là một cấu trúc xã hội cho phép nhận thấy các nghiên cứu mù về chủng tộc có tác động. Điều quan trọng là tìm kiếm sự khác biệt giữa các nhóm để xác định sự chênh lệch tiềm ẩn mà thuật toán đang củng cố. Phải đánh giá xem thuật toán đang giảm thiểu các vấn đề hay làm cho nó tốt hơn?
• Tiến sĩ Singh: Chủng tộc không bao giờ được sử dụng làm đầu vào, nhưng nó có thể được sử dụng để đánh giá kết quả đầu ra về sự thiên vị. Nếu chúng ta không nghĩ về chủng tộc, chúng ta thậm chí không thể nói rằng có sự chênh lệch về sức khỏe. Thu thập dữ liệu bộ gen và phân loại theo tổ tiên cũng là một phương pháp thiếu sót. Chúng tôi phải đảm bảo đánh giá xem các phương pháp có hoạt động tốt trên các quần thể hay không.
• Tiến sĩ Eneanya: Khi chúng ta đa dạng hóa dân số nghiên cứu, chúng ta cần tránh xa việc chỉ đưa vào các nhóm người da trắng hoặc da đen. Chúng ta cần xem xét nhiều sự khác biệt hơn trong các nhóm này, chẳng hạn như các yếu tố như địa vị xã hội, giới tính, tình dục, v.v. Chúng ta cần xem xét toàn cảnh chứ không chỉ các bộ dữ liệu đa dạng dựa trên chủng tộc.
• Tiến sĩ Moses: Các thuật toán chính xác là loại công cụ sẽ giúp chúng ta làm điều đó, có rất nhiều chiến lược điện toán tiềm năng có thể giúp ích.
• Tiến sĩ Singh: Tôi đồng ý rằng các thuật toán đóng một vai trò rất lớn ở đây, vậy chúng ta ưu tiên thu thập dữ liệu như thế nào? Chúng ta cần suy nghĩ về cách chúng ta làm điều đó thật cẩn thận.

Sau đó, một khán giả đã hỏi: “Với việc gấp rút phát triển các thuật toán dựa trên các tập dữ liệu hiện tại có các sai lệch, có cách nào để chống lại sai lệch trong thuật toán ngoài việc loại bỏ các sai lệch trong tập dữ liệu không?” 

• Tiến sĩ Singh: Rất khó để vượt qua sự thiên vị trong một tập hợp dữ liệu; nó là một lĩnh vực tích cực của nghiên cứu. Nó rất dễ dàng để vượt qua hoặc dưới dữ liệu mẫu. Có nhiều cách khác nhau để đào tạo các mô hình ML trong đó mục tiêu tổng thể (thường là chức năng bạn đang cố gắng giảm thiểu, thường sử dụng toàn bộ tập dữ liệu) là tối ưu hóa sẽ như thế nào.
• Tiến sĩ Eneanya: Nhiều thuật toán y tế được xem là cần bao gồm chủng tộc để chính xác hơn.. Tuy nhiên, mọi người cần xem xét kỹ lưỡng tại sao chủng tộc lại được đưa vào ngay từ đầu? Việc loại bỏ biến chủng tộc có thể không làm thay đổi hiệu suất của thuật toán nhiều như bạn nghĩ. Nó có ý nghĩa gì không (về mặt lâm sàng) khi kết quả chỉ thay đổi một chút sau khi loại bỏ một biến như chủng tộc?
• Tiến sĩ Singh: Điều đó đặc biệt không có ý nghĩa gì khi tập luyện của bạn và tập bạn sử dụng nó rất khác nhau.

Tiến sĩ Siek đã nhắc những người tham gia hội thảo bằng một câu hỏi khác, "Nếu chúng ta có thể làm điều này một lần nữa, chúng ta sẽ làm gì khác đi?"

• Tiến sĩ Eneanya: Không nên dừng cuộc đua khi đánh giá lý do dẫn đến sự khác biệt về kết quả sức khỏe. Ví dụ với mức creatinine, chúng ta nên nghĩ xem điều gì khác có thể ảnh hưởng đến creatinine? Chúng tôi cần các bộ dữ liệu tốt hơn, điều này đòi hỏi phải xây dựng niềm tin trong cộng đồng. Điều này có thể giống như cải thiện sự đa dạng của quần thể thử nghiệm, đánh giá nhân viên nghiên cứu của bạn trông như thế nào, v.v. Các khoản tài trợ của Viện Y tế Quốc gia ngày càng yêu cầu các đối tác dựa vào cộng đồng và các chuyên gia về công bằng sức khỏe tham gia nhóm nghiên cứu. Chúng ta cần thay đổi những bộ cũ, nhưng cũng cần xây dựng những bộ tốt hơn trong tương lai. Chúng tôi chỉ có thể làm được rất nhiều với việc cố gắng cấu hình lại những gì hiện có.
• Tiến sĩ Moses: Ngoài những gì chúng ta có thể làm nếu khởi động lại, tôi thích nghĩ về các thuật toán như những tấm gương phản chiếu xã hội. Họ được đào tạo bởi tất cả mọi người trên internet. Sử dụng thông tin đó làm đầu vào cho cấp độ thuật toán tiếp theo, chúng tôi có thể xác định vị trí của các thành kiến, tại sao chúng lại ở đó và tác động trong tương lai là gì. Chúng ta cần đặt câu hỏi về cách sử dụng các công cụ định lượng này để tìm ra cách khắc phục những tình huống này thay vì làm trầm trọng thêm chúng.
• Tiến sĩ Singh: Rất nhiều bộ gen đã được thu thập không đại diện cho dân số nói chung. Chúng ta cần bắt đầu với sự tham gia của nhiều nhóm người khác nhau.

Câu hỏi cuối cùng của khán giả là: “Cho đến khi chúng ta có được một bức tranh hoàn chỉnh về bộ gen của tất cả mọi người, sẽ có sự nhiệt tình sử dụng ML và các thuật toán. Đâu là những điều thực sự ở cấp độ đánh giá ngang hàng mà chúng ta có thể làm ngay bây giờ để không phải sửa chúng sau 30 năm nữa?”

• Tiến sĩ Eneanya: Hoàn hảo là kẻ thù của điều tốt. Chúng ta phải làm tốt nhất có thể. Chúng ta có thể xác định những thành kiến, sau đó cố gắng hết sức có thể để tiến về phía trước. Các rào cản tồn tại không liên quan gì đến các thuật toán lâm sàng. Chỉ sửa thuật toán eGFR bằng cách loại bỏ chủng tộc sẽ không giải quyết được sự chênh lệch về bệnh thận. Rất nhiều công việc cần phải được thực hiện trên các khía cạnh đa dạng của sự đàn áp.
• Tiến sĩ Moses: Công việc mà bạn [Dr. Eneanya] đã thực hiện để thiết kế lại thuật toán cho tất cả chính xác là làm thế nào để tiến về phía trước. Chúng ta cần sửa chữa hệ thống. Cũng sử dụng thực tế là nó phải được sửa chữa; thật dễ dàng để thấy sự thiên vị được viết trong phương trình. Phương trình thận đóng vai trò là tấm gương phản chiếu cho một xã hội cho phép chủng tộc được mã hóa theo cách gây bất lợi cho người Mỹ gốc Phi trong nhiều thập kỷ. Sự thiên vị trong phương trình đó là rõ ràng và có chủ ý. Sẽ khó khăn hơn nhiều để xác định sai lệch trong các thuật toán phức tạp hơn trong tương lai.

Hãy theo dõi bản tóm tắt bảng điều khiển khác do AAAS 2023 CCC tài trợ!

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• Platoblockchain. Web3 Metaverse Intelligence. Khuếch đại kiến ​​thức. Truy cập Tại đây.
• nguồn: https://feeds.feedblitz.com/~/733934357/0/cccblog~Health-Equity-How-Can-Algorithms-and-Data-Mitigate-Not-Exacerbate-Harms-AAAS-Panel-Recap/