«Справедливость в отношении здоровья: как алгоритмы и данные могут смягчить, а не усугубить вред?» Резюме панели AAAS

Здоровье человека — это невероятно личная тема, и поход к врачу может быть пугающим и напряженным. Это особенно верно для людей, принадлежащих к группам, которые исторически терпели неудачу с медицинской системой. Эти структурные проблемы в системе здравоохранения проникли в алгоритмы, которые все чаще используются в диагностике и лечении пациентов. CCC организовал панель «Справедливость в отношении здоровья: как алгоритмы и данные могут уменьшить, а не усугубить вред?» который занимался этими вопросами. Участниками дискуссии были д-р Амака Энеанья (Fresenius Medical Care), д-р Мона Сингх (Принстонский университет), д-р Мелани Мозес (Университет Нью-Мексико) и д-р Кэти Сик (Университет Индианы).

Доктор Энеанья начала дискуссию с обсуждения того, как уравнение систематически занижает оценку заболеваний почек.se в чернокожих американцах на протяжении десятилетий. Она пояснила, что в США все пациенты с заболеванием почек вносятся в реестр. Распространенность этого заболевания в целом увеличилась за последние десятилетия, а у чернокожих оно имеет тенденцию быть еще более распространенным и тяжелым. 

Д-р Eneanya описал эти расовые/этнические различия в факторах риска и исходах хронической болезни почек (ХБП) (Eneanya ND et al. Природа Преподобный Непчас 2021, Система данных о почках США.):

• Распространенность диабета является самой высокой среди чернокожих по сравнению с другими расовыми группами. 
  • У чернокожих и латиноамериканцев диагноз ставится в более молодом возрасте по сравнению с белыми. 
• Темнокожие люди имеют значительно более высокие показатели гипертонии по сравнению с белыми людьми. 
  • Контроль артериальной гипертензии у чернокожих и латиноамериканцев хуже, чем у белых.
• Чернокожие реже получают нефрологическую помощь до начала диализа по сравнению с другими расовыми группами. 
• Риск развития почечной недостаточности, требующей диализа или трансплантации почки 
  • В 4 раза выше у чернокожих по сравнению с белыми людьми 
  • В 1.3 раза выше у латиноамериканцев по сравнению с белыми 
• Чернокожие реже получают трансплантацию почки по сравнению с другими расовыми группами.

Структурный расизм усугубляет неблагоприятные последствия заболеваний почек для здоровья, уточнил доктор Энеанья (Eneanya ND et al. Природа Преподобный Непчас 2021.):

Какие привычки образа жизни вы можете себе позволить, например, что вы едите, и биологические воздействия, такие как стресс из-за расизма и дискриминации, приводят к метаболическим изменениям в организме, что может привести к снижению функции почек.

Доктор Энеанья привела пример того, как алгоритм, используемый в настоящее время клиницистами, имеет реальные последствия. Уравнение рСКФ — это алгоритм, используемый для определения того, насколько сильна функция почек пациента. Более высокая рСКФ означает лучшую функцию почек. Уровень рСКФ пациента определяет, подходят ли они для определенных видов лечения и, что, возможно, наиболее важно, для трансплантации почки. Однако алгоритм показывает, что чернокожие и не чернокожие люди одного возраста, пола и с одинаковым показателем креатинина (анализ крови, который измеряет функцию почек) имеют разные уровни рСКФ. Алгоритм вычисляет, что у чернокожего человека рСКФ выше, предположительно лучшая функция почек, чем у не чернокожего человека. Это ограничивает лечение, на которое они имеют право, и означает, что они должны быть более больными, чтобы получить помощь, на которую они должны иметь право.

Доктор Энеанья объяснила историю алгоритма, который показывает, почему он выполняет вычисления таким ошибочным образом: исследование 1999 года приписало более высокий уровень креатинина в сыворотке чернокожим людям из-за неверного предположения, что у них более высокая мышечная масса. В исследовании было разработано первое уравнение рСКФ, используемое в Соединенных Штатах, и в него был включен коэффициент умножения «черной расы», который вызывает более высокую рСКФ среди чернокожих. Использование рСКФ проблематично, потому что клиницисты вынуждены судить о чьей-либо расе на основании внешнего вида или медицинских записей (в которых раса может быть указана как остаточное предположение предыдущего клинициста). Также нет различия для лиц смешанной расы или метода их классификации.

Доктор Eneanya был автором статьи, которая изменила способ расчета рСКФ в здравоохранении, выступая за уравнение, которое не учитывает расу в оценке (Inker LA, Eneanya ND, et al. NEJM 2021, Дельгадо С. и др. ЯСН 2021). Доктор Энеанья и ее коллеги вернулись к первоначальному исследованию 1999 года и убрали расу из уравнения, добавив в него другие исходные данные. Сегодня ⅓ больниц и клиник в США используют новое уравнение, а Объединенная сеть обмена органами (UNOS) в июне 2022 года заметно ограничила все центры трансплантации использовать уравнение, основанное на расе. В январе они сделали еще один шаг вперед. 2023 г. и объявил, что все центры трансплантологии США обязаны проверять всех чернокожих пациентов в списке ожидания трансплантации почки и изменять время их списка ожидания, если на него повлияло уравнение рСКФ, основанное на расе. Доктор Энеанья уточнил, что, хотя UNOS является частью федерального правительства, правительство не принимало непосредственного участия в принятии решения о запрете использования уравнения на основе расы.

Помимо повсеместного принятия нового уравнения рСКФ, у д-ра Энеанья было еще несколько будущих подходов, которые она считает ключом к равному доступу к лечению заболеваний почек:

• Разработать политику и процессы для улучшения доступа к профилактической помощи при хронических заболеваниях почек 
• Разработать политику для расширения доступа к трансплантации почки 
• Изучите влияние окружающей среды (например, стресс, дискриминация) на функцию почек и прогрессирование заболевания.
• Прозрачность при обсуждении определения функции почек с пациентами (включая ограничения уравнений рСКФ)

Доктор Энеанья уточнил, что устранение стереотипов о черной расе сводится к устранению заблуждений и фальшивых новостей, не имеющих научной основы. Например, учебные программы медицинских школ меняются, чтобы показать, что нет антропологических оснований для того, чтобы одна раса обладала большей мышечной массой, чем другая. Средства массовой информации также проделали хорошую работу по распространению этого развенчанного мифа, и доктор Энеанья даже проконсультировалась по поводу эпизода «Анатомии страсти», в котором подчеркивались разрушительные последствия уравнения рСКФ для чернокожих пациентов, нуждающихся в пересадке почки.

Доктор Сингх продолжил разговор о различиях в состоянии здоровья, объяснив, что в США у чернокожих уровень смертности от рака выше, чем у белых. Этот факт свидетельствует о том, что существует множество проблем, с которыми приходится сталкиваться медицинским работникам и исследователям в области вычислительной техники, а также существует множество возможностей для разработки методов, которые не увеличивают существующие различия. 

Доктор Сингх впервые объяснил биологию рака: «Рак — это болезнь, при которой наши собственные клетки приобретают мутации, которые позволяют им бесконтрольно расти. Итак, если мы хотим понять молекулярные основы рака у любого ОДНОГО человека, мы можем посмотреть на геномы его или ее раковых клеток и его или ее нераковых клеток и секвенировать. После того, как мы секвенировали нормальные и раковые клетки, мы можем сравнить геномы и выявить, какие мутации мы приобрели в раковых клетках, и это может дать нам подсказку о том, какие изменения могут иметь отношение к раку этого человека. Это именно то, что было сделано за последние 15 или около того лет, когда были секвенированы опухоли десятков тысяч человек и выявлены мутации в них».

Почти каждый знает кого-то, у кого был диагностирован рак, и универсального лекарства не существует. Однако затем д-р Сингх обсудил перспективы прецизионной онкологии, когда ученый секвенирует опухоль пациента, идентифицирует мутации его ДНК и выполняет компьютерный анализ, чтобы определить, какие изменения могут быть нацелены. Иммунотерапия — это подход, позволяющий использовать чью-то собственную иммунную систему для воздействия на опухоли. Многообещающая перспективная иммунотерапия заключается в разработке вакцин, которые будут персонализированы для каждого человека, и эти вакцины будут вызывать иммунный ответ на их опухоли.

Доктор Сингх объясняет, как это работает, что каждая из наших иммунных систем имеет 6 различных копий генов классического главного комплекса гистосовместимости (MHC) класса I. Существует более 13,000 XNUMX различных вариантов этих генов MHC, поэтому у каждого человека свой набор генов MHC. Некоторые мутации в раковых клетках приводят к образованию «чужеродных» белков, и некоторые из них могут связываться с MHC индивидуума. Эти комплексы MHC, связанные с фрагментом белка ракового происхождения, распознаются иммунными клетками и могут активировать иммунный ответ. Это очень персонализировано, поскольку опухоль каждого человека может иметь разные мутации, и каждый человек имеет разные MHC. Ученые используют машинное обучение, чтобы предсказать, какие варианты MHC связываются с какими пептидами, что, как мы надеемся, повысит эффективность иммунотерапии и в конечном итоге приведет к разработке персонализированных неоантигенных вакцин.

Разнообразие генов MHC сильно различается по всему миру, уточняет доктор Сингх. Большинство аллелей MHC не имеют данных о связывании, связанных с ними, а те, для которых есть данные об их связывании, смещены в пользу некоторых расовых групп. При тестировании набора данных важно не только сосредоточиться на общей производительности, но и учитывать подмножества данных, чтобы каждый имел равный доступ к потенциальным преимуществам этого исследования.

Перед применением обучающая выборка должна быть проанализирована на систематическую ошибку. Кроме того, методы оценки производительности на невидимых данных могут выявить предвзятость данных, на которых он обучался. Беспристрастный сбор данных необходим для ограничения возможности смещения в дальнейшем при использовании алгоритма. Области будущей работы по этой теме сосредоточены на альтернативных процедурах обучения и алгоритмических стратегиях для целевого сбора данных. В целом крайне важно уделить первоочередное внимание разработке подходов справедливой точной медицины, чтобы терапия и последующие исследования были равноправными.

Затем выступила доктор Мозес, которая описала в контексте, как алгоритмы связывания eGFR и MHC-пептида вписываются в более широкую экосистему того, как медицинские алгоритмы влияют на социальные результаты. Она объясняет, что ученые используют алгоритмы и ИИ для прогнозирования результатов, которые нам интересны, на основе косвенных показателей, которые можно легко измерить, и эти косвенные параметры могут быть неточными. Чтобы сделать медицинские алгоритмы еще более сложными, они постоянно взаимодействуют друг с другом непредсказуемым образом, поэтому полный спектр алгоритмов диагностики пациента обычно неясен. Поэтому крайне важно использовать алгоритмы с осторожностью, особенно потому, что, когда алгоритмы терпят неудачу, они могут быть наиболее вредными для наиболее уязвимых.

Выяснение того, на кого влияет алгоритм и почему, является важной частью медицинской справедливости. Доктор Мозес делает шаг назад и дает определение справедливости. Общая графика используется, чтобы отличить равенство от равенства, с людьми с 3-мя разными высотами, изо всех сил пытающимися увидеть бейсбольный матч и разными способами поддержать их, ошибочно даже в 3-м изображении, которое устраняет барьер, потому что оно предполагает, что есть что-то присущее человеку в отношении почему они нуждаются в поддержке, а не социальные причины, которые, возможно, в первую очередь вызвали неравенство.

Доктор Мозес показал альтернативный рисунок, чтобы определить, как выглядит равенство в обществе с системной несправедливостью (Copyright 2020, Николас Э. Барсело и Соня Шадраван (художник: Ария Галили)):

Этот график показывает, что не все могут извлечь выгоду только из устранения барьера, но существуют глубоко укоренившиеся проблемы, которые необходимо решить для достижения справедливости.

Ученые-компьютерщики должны всегда помнить об этом важном контексте, утверждает доктор Мозес. Часто бывает трудно определить предположения, которые присутствовали при создании алгоритмов, даже с самыми простыми алгоритмами. Также легко использовать статистическую корреляцию для предсказания результата и предположить, что корреляция равна причинно-следственной связи, но это заблуждение.

Доктор Мозес продолжает, приводя конкретные примеры несправедливых алгоритмов, которые сегодня используются обществом в других областях. Например, алгоритмы в системе уголовного правосудия, которые заменяют денежный залог на досудебное содержание под стражей. Цель состоит в том, чтобы этот процесс был основанным на данных, беспристрастным методом задержания тех, кто представляет опасность или подвергается высокому риску неявки в суд. Однако у алгоритмов есть много недостатков как в способности алгоритма делать честные и точные прогнозы, так и в предвзятости системы, частью которой является алгоритм, включая предвзятые входные данные и предвзятые интерпретации выходных данных. Еще одним примером того, как алгоритмы увековечивают расовую предвзятость в системе уголовного правосудия, является программное обеспечение для распознавания лиц. Хотя было показано, что распознавание лиц является наименее точным при идентификации темнокожих женских лиц, лица чернокожих мужчин чаще всего ошибочно идентифицируются этими алгоритмами, что приводит к ложным арестам. Это демонстрирует, как предвзятость, которая больше всего влияет на одну группу (черных женщин) с точки зрения точной классификации, может иметь наибольшее влияние на другую группу (черные мужчины) из-за предубеждений в системе уголовного правосудия.

Алгоритмы могут усугубить человеческую предвзятость, а также могут быть отклонены, если они не подкрепляют суждение, которое вы сделали бы, не посоветовавшись с алгоритмом. Это относится и к предвзятым алгоритмам в медицине. Например, пульсоксиметры менее точны при определении уровня кислорода в более темной коже, что может привести к неправильной диагностике респираторных заболеваний, таких как тяжелая форма COVID. Использование суммы денег, потраченной на здравоохранение, в качестве показателя того, насколько здоров человек, является еще одним несправедливым показателем. Примеры, описанные д-р Энеанья и д-р Сингх, eGFR почки, не учитывающая почечную недостаточность у афроамериканцев, и наборы геномных данных, чрезмерно репрезентирующие европейское происхождение, являются другими яркими примерами предвзятых алгоритмов в медицине, которые имеют опасные последующие последствия для затронутых людей. Уравнение рСКФ использовалось для выявления заключенных, достаточно больных, чтобы их можно было освободить из тюрьмы во время COVID, в результате чего афроамериканцу было отказано в освобождении из-за переоценки функции его почек.

Обратная связь может улучшить алгоритмы или усугубить их вред. Алгоритмы — это не улица с односторонним движением, поскольку они нацелены на прогнозирование поведения на основе данных, а прогноз на один год влияет на данные на следующий год. Алгоритмы должны быть направлены на уменьшение предубеждений с течением времени; например, слушания об освобождении под залог должны помочь ответчикам явиться в суд, а не предсказывать неудачи; деятельность полиции должна быть направлена ​​на сокращение как преступности, так и ложных арестов. Алгоритмы, используемые в разных областях, никогда не должны быть высечены в камне, потому что между людьми, алгоритмами и социальным контекстом будет обратная связь.

Д-р Мозес также предложил дополнительные пути продвижения вперед: устранить предвзятость из наборов данных, подвергнуть сомнению предположения, обратить вспять (а не усилить) системную предвзятость, оценить с разных точек зрения, потребовать прозрачных и объяснимых алгоритмов и использовать постепенное, адаптивное развертывание. Распространено мнение, что алгоритмы каким-то образом устраняют предвзятость, но на самом деле они часто кодифицируют предвзятость, и нам нужно с осторожностью относиться к алгоритмам и их результатам.

Заключительной частью панели стали вопросы и ответы. Модератор д-р Зик открыл сессию вопросом: «Как алгоритмы и данные могут не усугублять вред?»

• Д-р Энеанья: Если исследователь останавливается на расе при поиске дифференциаторов в алгоритме, это лениво и с научной точки зрения недопустимо. Генетически люди больше похожи между расами, чем внутри. Более важно думать о биологических характеристиках, которые на самом деле влияют на систему человека, такую ​​как почки. Например, при тестировании пульсоксиметра исследователи должны были проконсультироваться с дерматологом, чтобы протестировать и проверить пульсоксиметры на основе разных оттенков кожи, а не использовать один тип устройства для людей с разным тоном кожи.
• Д-р Мозес: Мы должны использовать тот же подход для проверки алгоритмов после того, как они были введены в действие. Признание расы социальным конструктом позволяет заметить влияние исследований, не учитывающих расовую принадлежность. Важно искать различия между группами, чтобы выявить потенциальные различия, которые алгоритм усиливает. Нужно оценить, минимизирует ли алгоритм проблемы или делает их лучше?
• Д-р Сингх: Раса никогда не должна использоваться в качестве исходных данных, но ее можно использовать для оценки результатов на предмет предвзятости. Если бы мы не думали о расе, мы бы даже не смогли сказать, что существуют различия в состоянии здоровья. Сбор геномных данных и классификация по происхождению также являются ошибочной методологией. Мы должны убедиться, что методы работают хорошо среди населения.
• Д-р Энеанья: Когда мы диверсифицируем изучаемую группу, нам нужно отказаться от простого включения в нее групп белых или черных людей. Нам нужно смотреть на больше различий внутри этих групп, таких как такие факторы, как социальный статус, пол, сексуальность и т. д. Нам нужно смотреть на картину в целом, а не только на наборы данных о разнообразии, основанные на расе.
• Д-р Мозес: Алгоритмы — это именно те инструменты, которые должны помочь нам в этом. Существует множество потенциальных вычислительных стратегий, которые могут помочь.
• Д-р Сингх: Я согласен с тем, что алгоритмы играют здесь огромную роль, так как же нам расставить приоритеты при сборе данных? Нам нужно очень тщательно подумать о том, как мы это делаем.

Затем один из слушателей спросил: «Учитывая большую спешку с разработкой алгоритмов на основе текущих наборов данных с предвзятостью, есть ли способы противодействовать предвзятости в алгоритме, помимо избавления от предвзятости в наборе данных?» 

• Д-р Сингх: Трудно преодолеть предвзятость в наборе данных; это активная область исследований. Данные выборки легко переоценить или недооценить. Существуют разные способы обучения моделей машинного обучения, где общая цель (обычно функция, которую вы пытаетесь минимизировать, обычно используя весь набор данных) — это то, как должна выглядеть оптимизация.
• Д-р Eneanya: Считается, что многие медицинские алгоритмы должны учитывать расу, чтобы быть более точным. Однако людям необходимо критически изучить, почему раса вводится в первую очередь? Удаление расы как переменной может не изменить производительность алгоритма так сильно, как вы думаете. Означает ли это что-нибудь (клинически), когда результаты меняются лишь на чуть-чуть после удаления такой переменной, как раса?
• Д-р Сингх: Это особенно ничего не значит, если ваш тренировочный набор и набор, на котором вы его используете, очень разные.

Доктор Сик задал участникам дискуссии еще один вопрос: «Если бы мы могли повторить все это снова, что бы мы сделали по-другому?»

• Д-р Eneanya: Не должно было останавливаться на расе при оценке причин различий в показателях здоровья. Например, с уровнем креатинина мы должны подумать о том, что еще может повлиять на креатинин? Нам нужны более качественные наборы данных, что требует укрепления доверия в сообществах. Это может выглядеть как улучшение разнообразия экспериментальных групп, оценка того, как выглядит ваш исследовательский персонал и т. д. Гранты Национального института здравоохранения все чаще требуют партнеров из сообщества и специалистов по справедливости в отношении здоровья в составе исследовательской группы. Нам нужно изменить старые наборы, но также нужно построить лучшие наборы в будущем. Мы можем сделать так много, только пытаясь перенастроить то, что есть снаружи.
• Д-р Мозес: Помимо того, что мы могли бы сделать, если бы перезапустили, мне нравится думать об алгоритмах как о зеркалах общества. Их тренируют все в интернете. Используя это в качестве входных данных для следующего уровня алгоритма, мы можем определить, где находятся предубеждения, почему они существуют и каковы будущие последствия. Нам нужно спросить, как использовать эти количественные инструменты, чтобы выяснить, как исправить эти ситуации, а не усугублять их.
• Д-р Сингх: Многие геномы, которые были собраны, не представляют населения в целом. Мы должны начать с участия различных групп людей.

Последний вопрос аудитории звучал так: «Пока мы не достигнем точки, когда у нас будет полная геномная картина всех людей, будет энтузиазм в отношении использования машинного обучения и алгоритмов. Какие реальные вещи на уровне рецензирования мы можем сделать сейчас, чтобы нам не пришлось исправлять их через 30 лет?»

• Д-р Энеанья: Идеальное — враг хорошего. Мы должны сделать все, что в наших силах. Мы можем выявить предубеждения, а затем сделать все возможное для продвижения вперед. Существуют барьеры, которые не имеют ничего общего с клиническими алгоритмами. Простое исправление алгоритма рСКФ путем избавления от расы не устранит диспропорции в отношении заболеваний почек. Необходимо проделать большую работу над многовариантными аспектами репрессий.
• Д-р Мозес: Работа, которую вы [д-р. Eneanya] сделали, чтобы перестроить алгоритм для всех именно так, как двигаться вперед. Нам нужно починить систему. Также используя тот факт, что это должно было быть исправлено; было легко увидеть предвзятость, записанную в уравнении. Уравнение почек служит зеркалом для общества, которое позволяло кодировать расу так, что десятилетиями ставили в невыгодное положение афроамериканцев. Смещение в этом уравнении было явным и преднамеренным. В будущем будет намного сложнее выявить предвзятость в более сложных алгоритмах.

Оставайтесь с нами для еще одного резюме панели, спонсируемой AAAS 2023 CCC!

• SEO-контент и PR-распределение. Получите усиление сегодня.
• Платоблокчейн. Интеллект метавселенной Web3. Расширение знаний. Доступ здесь.
• Источник: https://feeds.feedblitz.com/~/733934357/0/cccblog~Health-Equity-How-Can-Algorithms-and-Data-Mitigate-Not-Exacerbate-Harms-AAAS-Panel-Recap/