"Tervise omakapital: kuidas saavad algoritmid ja andmed kahjusid leevendada, mitte süvendada?" AAAS paneeli kokkuvõte

"Tervise omakapital: kuidas saavad algoritmid ja andmed kahjusid leevendada, mitte süvendada?" AAAS paneeli kokkuvõte

"Tervise omakapital: kuidas saavad algoritmid ja andmed kahjusid leevendada, mitte süvendada?" AAAS-paneeli kokkuvõte PlatoBlockchaini andmete luurest. Vertikaalne otsing. Ai.Inimese tervis on uskumatult isiklik teema ning arsti juurde minek võib olla hirmutav ja stressirohke kogemus. See kehtib eriti inimeste kohta, kes kuuluvad rühmadesse, mille meditsiinisüsteem on ajalooliselt läbi kukkunud. Need tervishoiusüsteemi struktuuriprobleemid on tunginud algoritmidesse, mida patsientide diagnoosimisel ja ravimisel üha enam kasutatakse. CCC korraldas paneeli "Tervise omakapital: kuidas saavad algoritmid ja andmed kahjusid leevendada, mitte süvendada?" mis neid probleeme käsitles. Panelistid olid dr Amaka Eneanya (Fresenius Medical Care), dr Mona Singh (Princetoni ülikool), dr Melanie Moses (New Mexico ülikool) ja dr Katie Siek (Indiana ülikool).

Dr Eneanya alustas paneeli aruteluga, kuidas võrrand alahindas süstemaatiliselt neeruhaigustse mustanahalistes ameeriklastes aastakümneid. Ta selgitas, et USA-s kantakse kõik neeruhaigusega patsiendid registrisse. Haiguse levimus on viimastel aastakümnetel üldiselt suurenenud ning mustanahaliste puhul on see veelgi levinum ja raskem. 

Dr Eneanya tõi välja need rassilised/etnilised erinevused kroonilise neeruhaiguse (CKD) riskitegurite ja tulemuste osas (Eneanya ND et al. Loodus Rev Neph. 2021, Ameerika Ühendriikide neeruandmete süsteem.):

  • Diabeedi levimus on teiste rassirühmadega võrreldes kõrgeim mustanahaliste seas 
    • Mustanahalistel ja hispaanlastel diagnoositakse valgete inimestega võrreldes nooremas eas 
  • Mustanahalistel inimestel on oluliselt kõrgem hüpertensiooni määr kui valgetel inimestel 
    • Hüpertensiooni kontroll on mustanahaliste ja hispaanlaste seas väiksem kui valgete inimeste seas
  • Mustanahalised saavad teiste rassirühmadega võrreldes väiksema tõenäosusega enne dialüüsi alustamist nefroloogiaravi 
  • Neerupuudulikkuse tekkimise oht, mis nõuab dialüüsi või neerusiirdamist 
    • 4 korda kõrgem mustanahalistel kui valgetel 
    • 1.3 korda kõrgem hispaanlastel kui valgetel inimestel 
  • Mustanahalised saavad teiste rassirühmadega võrreldes väiksema tõenäosusega neerusiirdamist

Dr Eneanya täpsustas, et struktuurne rassism suurendab neerudega seotud haigustest tulenevaid halbu tervisetulemusi (Eneanya ND et al. Loodus Rev Neph. 2021.):

"Tervise omakapital: kuidas saavad algoritmid ja andmed kahjusid leevendada, mitte süvendada?" AAAS-paneeli kokkuvõte PlatoBlockchaini andmete luurest. Vertikaalne otsing. Ai.

Milliseid elustiili harjumusi saate endale lubada – näiteks see, mida sööte, ja bioloogilised mõjud, nagu rassismi ja diskrimineerimise stress, põhjustavad kehas metaboolseid muutusi, mis võivad viia neerufunktsiooni languseni.

Dr Eneanya tõi näite selle kohta, kuidas arstide poolt praegu kasutataval algoritmil on tegelikud tagajärjed. eGFR võrrand on algoritm, mida kasutatakse patsiendi neerufunktsiooni tugevuse määramiseks. Kõrgem eGFR näitab paremat neerufunktsiooni. Patsiendi eGFR-i tase määrab, kas ta on sobilik teatud ravimeetoditele ja, mis võib-olla kõige olulisem, neerusiirdamiseks. Algoritm näitab aga, et mustanahalisel ja mittemustal inimesel, kellel on sama vanus, soo ja sama kreatiniinisisaldus (vereanalüüs, mis mõõdab neerufunktsiooni), on erinev eGFR tase. Algoritm arvutab, et mustanahalisel inimesel on kõrgem eGFR, väidetavalt parem neerufunktsioon kui mittemustal inimesel. See piirab ravi, millele nad võivad saada, ja tähendab, et nad peavad olema haigemad, et saada abi, millele neil peaks õigus olema.

Dr Eneanya selgitas algoritmi ajalugu, mis näitab, miks see nii valesti arvutab: 1999. aasta uuringus omistati mustanahalistele kõrgem seerumi kreatiniinisisaldus, kuna eeldati, et neil on suurem lihasmass. Uuringus töötati välja esimene Ameerika Ühendriikides kasutatav eGFR-i võrrand ja lisati "musta rassi" korrutusfaktor, mis põhjustab mustanahaliste seas kõrgemat eGFR-i. eGFR-i kasutamine on problemaatiline, kuna arstid peavad otsustama kellegi rassi üle välimuse või meditsiiniliste andmete põhjal (mis võib olla eelmise kliiniku oletusena märgitud rassi kohta). Samuti ei eristata segaverelisi inimesi ega meetodit nende klassifitseerimiseks.

Dr Eneanya oli autor artiklis, mis muutis eGFR-i arvutamist tervishoius, pooldades võrrandit, mis ei võta arvesse hindamist (Inker LA, Eneanya ND et al. NEJM 2021, Delgado C jt. JASN 2021). Dr Eneanya ja tema kolleegid pöördusid tagasi algse 1999. aasta uuringu juurde ning eemaldasid võrrandist rassi ja kohandasid selle muude sisenditega. Tänapäeval kasutab ⅓ USA haiglatest ja kliinikutest uut võrrandit ning United Network for Organ Sharing (UNOS) piiras 2022. aasta juunis kõikidel siirdamiskeskustel rassipõhist võrrandit kasutamast. Jaanuaris astusid nad sammu edasi. 2023 ja teatas, et kõik USA siirdamiskeskused peavad üle vaatama kõik neerusiirdamise ootenimekirjas olevad mustanahalised patsiendid ja muutma nende ootenimekirja aega, kui rassipõhine eGFR võrrand seda mõjutas. Dr Eneanya täpsustas, et kuigi UNOS on osa föderaalvalitsusest, ei olnud valitsus otseselt seotud otsusega keelata rassipõhise võrrandi kasutamine.

Peale uue eGFR võrrandi universaalse kasutuselevõtu oli dr Eneanyal veel mõned tulevased lähenemisviisid, mida ta peab neeruhaiguste ravile võrdse juurdepääsu võtmeks:

  • Töötada välja poliitikad ja protsessid kroonilise neeruhaiguse ennetava ravi kättesaadavuse parandamiseks 
  • Töötada välja poliitika neerusiirdamise juurdepääsu suurendamiseks 
  • Uurige keskkonnamõjusid (nt stress, diskrimineerimine) neerufunktsioonile ja haiguse progresseerumisele
  • Läbipaistvus patsientidega neerufunktsiooni määramise üle arutlemisel (sealhulgas eGFR võrrandite piirangud)

Dr Eneanya täpsustas, et musta rassi puudutavate stereotüüpide väljamõtlemine taandub eksituste ja võltsuudiste kõrvaldamisele, millel pole teaduslikku alust. Näiteks meditsiinikoolide õppekavad muutuvad, et näidata, et ühel rassil on rohkem lihasmassi kui teise antropoloogilist alust. Meedia on teinud head tööd ka selle purustatud müüdi jagamisel ja dr Eneanya isegi konsulteeris Grey anatoomia episoodiga, mis tõi esile eGFR võrrandi laastava mõju mustanahalistele patsientidele, kes vajavad neerusiirdamist.

Dr Singh jätkas vestlust terviseerinevustest, selgitades, et USA-s on mustanahalistel inimestel suurem vähktõve suremus kui valgetel. See asjaolu näitab, et meditsiinitöötajatel ja andmetöötlusteadlastel on palju väljakutseid, samuti on palju võimalusi selliste meetodite väljatöötamiseks, mis ei suurenda olemasolevaid erinevusi. 

Dr Singh selgitas esmalt vähi bioloogiat: „Vähk on haigus, kus meie oma rakud omandavad mutatsioone, mis võimaldavad neil kontrollimatult kasvada. Seega, kui tahame mõista vähi molekulaarseid aluseid mis tahes ÜHE indiviidi puhul, võime vaadata tema vähirakkude ja tema mittevähirakkude genoome ja järjestust. Kui oleme normaalsed ja vähirakud järjestanud, saame võrrelda genoome ja paljastada, millised mutatsioonid vähirakkudes omandasime. See võib anda meile vihje selle kohta, millised muutused võivad olla selle isiku vähi puhul olulised. Just seda on tehtud viimase 15 aasta jooksul, kus kümnete tuhandete inimeste kasvajad on järjestatud ja nende sees mutatsioonid tuvastatud.

Peaaegu kõik teavad kedagi, kellel on diagnoositud vähk, ja universaalset ravi pole olemas. Järgmisena arutas dr Singh aga täpse onkoloogia lubadust, kus teadlane järjestab patsiendi kasvaja, tuvastab nende DNA mutatsioonid ja teeb arvutusanalüüsi, et teha kindlaks, milliseid muutusi saab sihtida. Immunoteraapia on lähenemine kellegi enda immuunsüsteemi rakendamiseks nende kasvajate sihtimiseks. Paljutõotav ja tulevane immunoteraapia on vaktsiinide väljatöötamine, mis on kohandatud igale inimesele ja need vaktsiinid kutsuvad esile immuunvastuse nende kasvajatele.

Dr Singh selgitab, kuidas see toimib, nii et igal meie immuunsüsteemil on 6 erinevat koopiat klassikalisest suurest histo-ühilduvuskompleksi (MHC) I klassi geenidest. Nendest geenidest on üle 13,000 XNUMX erineva MHC variandi, seega on igal inimesel erinev MHC geenide komplekt. Mõned mutatsioonid vähirakkudes põhjustavad "võõraid" valke ja mõned neist võivad olla seotud inimese MHC-dega. Need vähist pärineva valgu fragmendiga seotud MHC kompleksid tunnevad immuunrakud ära ja võivad aktiveerida immuunvastuse. See on väga isikupärastatud, kuna iga inimese kasvajal võivad olla erinevad mutatsioonid ja igal inimesel on erinevad MHC-d. Teadlased kasutavad masinõpet, et ennustada, millised MHC variandid milliseid peptiide seovad, mis loodetavasti suurendab immunoteraapia efektiivsust ja viib lõpuks isikupärastatud neoantigeenivaktsiinide väljatöötamiseni.

Dr Singh täpsustab, et MHC geenide mitmekesisus on kogu maailmas väga erinev. Enamikul MHC alleelidel ei ole nendega seotud sidumisandmeid ja need, millel on andmed nende seondumise kohta, on kallutatud mõne rassilise rühma kasuks. Andmekogumi testimisel on oluline mitte ainult keskenduda üldisele jõudlusele, vaid kaaluda ka andmete alampopulatsioone, et kõigil oleks võrdne juurdepääs selle uuringu potentsiaalsetele eelistele.

Enne rakendamist tuleb treeningkomplekti eelarvamuste suhtes analüüsida. Lisaks võivad nähtamatute andmete toimivuse hindamise meetodid paljastada koolitatud andmete kallutatust. Andmete erapooletu kogumine on oluline, et piirata kallutamise võimalust hiljem algoritmi kasutamisel. Selle teemaga edasise töö valdkonnad keskenduvad alternatiivsetele koolitusprotseduuridele ja sihipärase andmete kogumise algoritmilistele strateegiatele. Üldiselt on ülioluline seada esikohale õiglase täppismeditsiini lähenemisviiside väljatöötamine, et teraapiad ja järgnevad uuringud oleksid õiglased.

Järgmisena rääkis dr Moses, kes selgitas konteksti, kuidas eGFR-i ja MHC-peptiidi sidumisalgoritmid sobivad meditsiiniliste algoritmide sotsiaalsete tulemuste mõju laiemasse ökosüsteemi. Ta selgitab, et teadlased kasutavad algoritme ja tehisintellekti, et ennustada tulemusi, millest me hoolime, puhverserveritelt, mida saab kergesti mõõta, ja need puhverserverid võivad olla ebatäpsed. Meditsiiniliste algoritmide veelgi keerulisemaks muutmiseks suhtlevad nad üksteisega pidevalt ettearvamatul viisil, nii et patsiendi diagnoosimise algoritmide kogu ulatus on tavaliselt ebaselge. Seetõttu on ülioluline kasutada algoritme ettevaatusega, eriti seetõttu, et kui algoritmid ebaõnnestuvad, võivad need olla kõige haavatavamatele kõige kahjulikumad.

Meditsiinilise võrdsuse oluline osa on välja selgitada, keda algoritm mõjutab ja miks. Dr Moses astub sammu tagasi ja määratleb omakapitali. Ühine graafika kasutatakse võrdsuse ja võrdsuse eristamiseks, kus kolme erineva pikkusega isikud näevad vaeva pesapallimängu nägemise ja nende toetamise erinevate viisidega, on vigane isegi kolmandas pildis, mis eemaldab barjääri, sest see viitab sellele, et inimesele on omane midagi. miks nad vajavad pigem toetust kui sotsiaalsed põhjused, mis võisid ebavõrdsuse üldse põhjustada.

Dr Moses näitas alternatiivset graafikat, et määratleda, kuidas võrdsus näeb välja süsteemse ebaõigluse ühiskonnas (autoriõigus 2020, Nicolás E. Barceló ja Sonya Shadravan (kunstnik: Aria Ghalili)):

"Tervise omakapital: kuidas saavad algoritmid ja andmed kahjusid leevendada, mitte süvendada?" AAAS-paneeli kokkuvõte PlatoBlockchaini andmete luurest. Vertikaalne otsing. Ai.

See graafik näitab, et kõik ei saa kasu ainult tõkke eemaldamisest, kuid on sügavalt juurdunud probleeme, millega tuleb tegeleda, et saavutada õiglus.

Arvutusteadlased peaksid seda olulist konteksti alati meeles pidama, väidab dr Moses. Sageli on isegi kõige lihtsamate algoritmide puhul keeruline tuvastada eeldusi, mis olid algoritmide loomisel. Samuti on lihtne kasutada statistilist korrelatsiooni tulemuse ennustamiseks ja eeldada, et korrelatsioon võrdub põhjusliku seosega, kuid see on eksitus.

Dr. Moses jätkab konkreetsete näidete esitamisega ebavõrdsetest algoritmidest, mis on tänapäeval ühiskonnas muudes valdkondades kasutusel. Näiteks kriminaalõigussüsteemi algoritmid, mis asendavad kohtueelse kinnipidamise rahalise kautsjoni. Eesmärk on, et protsess oleks andmepõhine ja erapooletu meetod nende kinnipidamiseks, kes on ohus või kellel on suur risk kohtuistungile ilmumata jätta. Algoritmidel on aga palju puudujääke nii algoritmi võimes teha õiglasi ja täpseid ennustusi kui ka süsteemi eelarvamustes, mille osaks algoritm on, sealhulgas kallutatud sisendid ja väljundite kallutatud tõlgendused. Veel üks näide sellest, kuidas rassilist eelarvamust kriminaalõigussüsteemis algoritmide abil põlistab, on näotuvastustarkvara. Kuigi näotuvastus on osutunud kõige ebatäpsemaks tumedama nahaga naiste nägude tuvastamisel, on need algoritmid kõige sagedamini valesti tuvastanud just mustanahalisi meesnägusid, mis viivad valearreteerimiseni. See näitab, kuidas erapoolik, mis mõjutab täpse liigituse osas kõige enam ühte rühma (mustad naised), võib kriminaalõigussüsteemi erapoolikuste tõttu avaldada kõige suuremat mõju teisele rühmale (mustad mehed).

Algoritmid võivad süvendada inimeste eelarvamusi ja neid võib ka tagasi lükata, kui need ei tugevda otsust, mille oleksite teinud ilma algoritmiga konsulteerimata. See kehtib ka meditsiini kallutatud algoritmide puhul. Näiteks on pulssoksümeetrid vähem täpsed hapnikutaseme tuvastamisel tumedamas nahas, mis võib põhjustada hingamisteede haiguste, nagu raske COVID, aladiagnoosi. Tervishoiule kulutatud rahasumma kasutamine kellegi tervislikkuse määramiseks on veel üks ebaõiglane meede. Dr Eneanya ja dr Singhi kirjeldatud näited, eGFR-i neerude allahindlusega neerukahjustus afroameeriklastel ja Euroopa esivanemaid esindavad genoomiandmed on teised silmapaistvad näited kallutatud algoritmidest meditsiinis, millel on mõjutatud inimestele ohtlikud tagajärjed. eGFR-i võrrandit kasutati vangide tuvastamiseks, kes olid piisavalt haiged, et COVID-i ajal vanglast vabastada, mille tulemusena keelduti afroameeriklasest vabastamisest, kuna tema neerufunktsiooni hinnati üle.

Tagasiside võib parandada algoritme või suurendada nende kahju. Algoritmid ei ole ühesuunalised, kuna nende eesmärk on ennustada andmete põhjal käitumist ja ühe aasta ennustus mõjutab järgmise aasta andmeid. Algoritmide eesmärk peaks olema kallutuste vähendamine aja jooksul; näiteks peaks kautsjoni üle kuulamine aitama kostjatel kohtuprotsessile ilmuda, mitte ennustama ebaõnnestumisi; politseitöö peaks olema suunatud nii kuritegevuse kui ka valede vahistamiste vähendamisele. Domeenide lõikes kasutatavaid algoritme ei tohiks kunagi kivisse raiuda, sest inimeste, algoritmide ja sotsiaalse konteksti vahel on tagasiside.

Dr Moses pakkus välja ka täiendavad viisid: eemaldage andmekogumitest kallutatus, seadke kahtluse alla eeldused, pöörake tagasi (mitte tugevdage) süsteemset eelarvamust, hindage erinevaid vaatenurki, nõudke läbipaistvaid ja seletatavaid algoritme ning kasutage järkjärgulist, kohanduvat juurutamist. Levinud arusaam on, et algoritmid eemaldavad mingil moel eelarvamusi, kuid tegelikult kodifitseerivad nad sageli eelarvamusi ja me peame olema algoritmide ja nende tulemuste suhtes ettevaatlikud.

Paneeli viimane osa oli Q&A. Moderaator dr Siek alustas sessiooni küsimusega: "Kuidas saavad algoritmid ja andmed kahjusid mitte suurendada?"

  • Dr Eneanya: Kui teadlane peatub algoritmis eristajaid otsides rassist, on see laisk ja teaduslikult kehtetu. Geneetiliselt näevad inimesed rasside vahel välja sarnasemad kui sisemiselt. Tähtsam on mõelda bioloogilistele omadustele, mis tegelikult mõjutavad inimese süsteemi nagu neerud. Näiteks pulssoksümeetri testimisel oleksid teadlased pidanud konsulteerima dermatoloogiga, et testida ja valideerida pulssoksümeetreid erinevatel nahatoonidel – selle asemel, et kasutada ühte tüüpi seadet erineva nahatooniga inimestele.
  • Dr Moses: Peaksime kasutama sama lähenemisviisi algoritmide valideerimiseks pärast nende kasutuselevõttu. Rassi tunnustamine sotsiaalse konstruktsioonina võimaldab märgata rassipimedate uuringute mõju. Oluline on otsida rühmade vahel vahet, et tuvastada võimalikud erinevused, mida algoritm tugevdab. Kas peate hindama, kas algoritm minimeerib probleeme või muudab seda paremaks?
  • Dr Singh: Rassi ei tohiks kunagi kasutada sisendina, kuid seda saab kasutada väljundite eelarvamuste hindamiseks. Kui me ei mõtleks rassile, ei saaks me isegi öelda, et tervises on erinevusi. Genoomiandmete kogumine ja esivanemate järgi kategoriseerimine on samuti vigane metoodika. Peame kindlasti hindama, kas meetodid toimivad hästi erinevates populatsioonides.
  • Dr Eneanya: Kui me mitmekesistame uuringupopulatsiooni, peame loobuma valgete või mustanahaliste inimeste rühmade kaasamisest. Peame vaatlema rohkem erinevusi nendes rühmades, näiteks selliseid tegureid nagu sotsiaalne staatus, sugu, seksuaalsus jne. Peame vaatama tervikpilti, mitte ainult rassil põhinevaid mitmekesisuse andmekogumeid.
  • Dr. Moses: Algoritmid on täpselt seda tüüpi tööriistad, mis peaksid meid selles aitama. On palju potentsiaalseid arvutusstrateegiaid, mis võivad aidata.
  • Dr Singh: Olen nõus, et algoritmid mängivad siin suurt rolli, kuidas siis andmete kogumist prioriteediks seada? Peame väga hoolikalt läbi mõtlema, kuidas seda teha.

Seejärel küsis üks publiku liige: "Arvestades suurt kiirust praegustel kallutatud andmekogudel põhinevate algoritmide väljatöötamisel, kas on veel viise, kuidas algoritmi kallutatust neutraliseerida lisaks andmestiku eelarvamustest vabanemisele?" 

  • Dr Singh: Andmekogumi eelarvamustest on raske üle saada; see on aktiivne uurimisvaldkond. Näidisandmeid on lihtne ületada või alandada. ML-mudelite treenimiseks on erinevaid viise, mille puhul optimeerimine peaks välja nägema üldine eesmärk (tavaliselt funktsioon, mida proovite minimeerida, kasutades tavaliselt kogu andmekogumit).
  • Dr Eneanya: Arvatakse, et paljud meditsiinilised algoritmid peavad sisaldama rassi, et olla täpsem. Siiski peavad inimesed kriitiliselt uurima, miks rassi üldse kasutusele võetakse? Rassi kui muutuja eemaldamine ei pruugi muuta algoritmi jõudlust nii palju, kui arvate. Kas see tähendab midagi (kliiniliselt), kui tulemused muutuvad pärast muutuja, näiteks rassi, eemaldamist vaid pisut?
  • Dr Singh: See ei tähenda eriti midagi, kui teie treeningkomplekt ja komplekt, millel seda kasutate, on väga erinevad.

Dr Siek ajendas paneeli liikmeid veel ühe küsimusega: "Kui saaksime seda kõike uuesti teha, siis mida me teeksime teisiti?"

  • Dr Eneanya: Tervislike tulemuste erinevuste põhjuste hindamisel rassi lõpetamist poleks tohtinud juhtuda. Näiteks kreatiniini taseme puhul peaksime mõtlema sellele, mis veel võib kreatiniini mõjutada? Vajame paremaid andmekogumeid, mis nõuab kogukondade vastu usalduse loomist. See võib tunduda katsepopulatsioonide mitmekesisuse parandamisena, teie uuringupersonali väljanägemise hindamisena jne. Riikliku Terviseinstituudi toetused nõuavad üha enam kogukonnapõhiseid partnereid ja tervisealase võrdsuse spetsialiste uurimisrühma osana. Peame muutma vanu komplekte, aga ka tulevikus ehitama paremaid komplekte. Me saame teha ainult nii palju, kui proovime seal olevat ümber konfigureerida.
  • Dr Moses: Lisaks sellele, mida saaksime teha, kui taaskäivitaksime, meeldib mulle mõelda algoritmidest kui ühiskonna peeglitest. Neid koolitavad kõik Internetis. Kasutades seda algoritmi järgmise taseme sisendina, saame kindlaks teha, kus on eelarvamused, miks need seal on ja milline on tulevane mõju. Peame küsima, kuidas neid kvantitatiivseid tööriistu kasutada, et välja selgitada, kuidas neid olukordi parandada, mitte neid süvendada.
  • Dr Singh: Paljud kogutud genoomid ei esinda elanikkonda laiemalt. Peame alustama erinevate inimeste kaasamisega.

Publiku viimane küsimus oli: "Kuni me jõuame punktini, kus meil on kõigi inimeste täielik genoomne pilt, on entusiastlik ML ja algoritmide kasutamine. Mis on tegelikud asjad vastastikuse eksperdihinnangu tasandil, mida saame praegu teha, et me ei peaks neid 30 aasta pärast parandama?

  • Dr Eneanya: Täiuslikkus on hea vaenlane. Peame andma endast parima. Suudame tuvastada eelarvamusi ja seejärel teha kõik endast oleneva, et edasi liikuda. On olemas tõkked, millel pole kliiniliste algoritmidega mingit pistmist. Ainult eGFR-i algoritmi parandamine rassist vabanemisega ei lahenda neeruhaiguste erinevusi. Palju tööd tuleb teha repressioonide mitme muutujaga aspektidega.
  • Dr Moses: Töö, mida te [Dr. Eneanya] on algoritmi ümbertöötamiseks teinud, et kõik saaksid täpselt edasi liikuda. Peame süsteemi korda tegema. Kasutades ka seda, et see tuli korda teha; võrrandisse kirjutatud kallutatust oli lihtne näha. Neeruvõrrand toimib peegelpildina ühiskonnale, mis võimaldas rassi kodeerida viisil, mis afroameeriklasi aastakümneid ebasoodsas olukorras oli. Selle võrrandi eelarvamus oli selgesõnaline ja tahtlik. Tulevikus on keerulisemate algoritmide nihke tuvastamine palju raskem.

Olge kursis järjekordse AAAS 2023 CCC sponsoreeritud paneeli kokkuvõttega!

Ajatempel:

Veel alates CCC ajaveeb