Az orvostudományban használt gépi tanulási (ML) modellek magyarázhatósága egyre fontosabbá válik, mivel a modelleket számos szempontból meg kell magyarázni ahhoz, hogy elterjedjenek. Ezek a perspektívák az orvosi, technológiai, jogi és a legfontosabb perspektívától – a pácienséig terjednek. Az orvosi területen szövegre kidolgozott modellek statisztikailag pontossá váltak, de a klinikusoknak etikailag kell értékelniük az ezekkel az előrejelzésekkel kapcsolatos gyengeségeket, hogy a legjobb ellátást nyújtsák az egyes betegek számára. Ezen előrejelzések magyarázhatósága szükséges ahhoz, hogy a klinikusok betegenként hozhassák meg a helyes döntéseket.
Ebben a bejegyzésben bemutatjuk, hogyan javítható a modell magyarázhatósága a klinikai környezetben Amazon SageMaker Clarify.
Háttér
Az ML-algoritmusok egyik speciális alkalmazása az orvosi területen, amely nagy mennyiségű szöveget használ, a klinikai döntéstámogató rendszerek (CDSS-ek) az osztályozáshoz. A betegek napi rendszerességgel kerülnek kórházba, és felvételi jegyzeteket készítenek. A feljegyzések elkészítése után elindul a triage folyamat, és az ML modellek segíthetik a klinikusokat a klinikai eredmények becslésében. Ez segíthet csökkenteni a működési rezsiköltségeket és optimális ellátást biztosít a betegek számára. Annak megértése, hogy az ML modellek miért sugallják ezeket a döntéseket, rendkívül fontos az egyes betegekkel kapcsolatos döntéshozatalban.
Ennek a bejegyzésnek az a célja, hogy felvázolja, hogyan telepíthet előre prediktív modelleket Amazon SageMaker a kórházi körülmények között történő osztályozás céljából, és használja a SageMaker Clarify-t az előrejelzések magyarázatára. A cél az, hogy számos egészségügyi szervezet számára felgyorsított utat kínáljanak a prediktív technikák CDSS-eken belüli elfogadásához.
A bejegyzés jegyzetfüzete és kódja a következő címen érhető el: GitHub. A saját maga futtatásához klónozza a GitHub-tárat, és nyissa meg a Jupyter notebook fájlt.
Műszaki háttér
Minden akut egészségügyi szervezet számára nagy előnyt jelentenek a klinikai feljegyzések. A kórházon belüli felvételkor felvételi jegyzeteket készítenek. Számos közelmúltbeli tanulmány kimutatta az olyan kulcsfontosságú mutatók kiszámíthatóságát, mint a diagnózisok, eljárások, a tartózkodás időtartama és a kórházi halálozás. Ezek előrejelzése ma már pusztán a felvételi jegyzetekből, természetes nyelvi feldolgozási (NLP) algoritmusok használatával érhető el [1].
Az NLP-modellek fejlődése, mint például a Transformers kétirányú kódolóábrázolása (BERT), rendkívül pontos előrejelzéseket tesz lehetővé olyan szövegkorpuszon, mint például a felvételi jegyzetek, amelyekből korábban nehéz volt értéket nyerni. A klinikai mutatók előrejelzése nagymértékben alkalmazható CDSS-ben való használatra.
Az új előrejelzések hatékony felhasználása érdekében azonban még meg kell magyarázni, hogy ezek a pontos BERT-modellek hogyan érik el előrejelzéseiket. Számos technika létezik az ilyen modellek előrejelzéseinek magyarázatára. Az egyik ilyen technika a SHAP (SHapley Additive ExPlanations), amely egy modell-agnosztikus technika az ML modellek kimenetének magyarázatára.
Mi az a SHAP
A SHAP értékek az ML modellek kimenetének magyarázatára szolgáló technika. Módot biztosít az ML-modell előrejelzésének lebontására, és annak megértésére, hogy az egyes bemeneti jellemzők mennyiben járulnak hozzá a végső előrejelzéshez.
A SHAP értékek játékelméleten alapulnak, konkrétan a Shapley-értékek koncepcióján, amelyeket eredetileg egy kooperatív játék kifizetésének elosztására javasoltak a játékosok között [2]. Az ML kontextusában a beviteli tér minden egyes jellemzője egy kooperatív játék játékosának minősül, és a modell előrejelzése a kifizetés. A SHAP-értékek kiszámítása az egyes jellemzők modell-előrejelzéséhez való hozzájárulásának vizsgálatával történik a jellemzők minden lehetséges kombinációjára vonatkozóan. Ezután a rendszer kiszámítja az egyes jellemzők átlagos hozzájárulását az összes lehetséges jellemző kombinációhoz, és ez lesz az adott jellemző SHAP értéke.
A SHAP lehetővé teszi a modelleknek, hogy megmagyarázzák az előrejelzéseket anélkül, hogy megértenék a modell belső működését. Ezenkívül léteznek technikák ezeknek a SHAP-magyarázatoknak szövegben történő megjelenítésére, így az orvosi és a betegek nézőpontjai egyaránt intuitív módon láthatják, hogyan jutnak el az algoritmusok előrejelzéseihez.
A SageMaker Clarify új kiegészítéseivel és az előre betanított modellek használatával Átölelő arc amelyek könnyen használhatók a SageMakerben, a modell betanítás és a magyarázhatóság mind könnyen elvégezhető az AWS-ben.
Egy végponttól végpontig terjedő példa kedvéért a kórházi mortalitás klinikai kimenetelét vesszük figyelembe, és megmutatjuk, hogyan lehet ezt a folyamatot egyszerűen megvalósítani az AWS-ben egy előre betanított Hugging Face BERT modell segítségével, és az előrejelzéseket a SageMaker Clarify.
Választható átölelő arcmodell
A Hugging Face számos előre kiképzett BERT-modellt kínál, amelyeket kifejezetten a klinikai jegyzetekre fejlesztettek ki. Ehhez a bejegyzéshez a nagymadár-bázis-utánzó-halandóság modell. Ez a modell a Google BigBird modelljének finomhangolt változata, amelyet kifejezetten a halálozás MIMIC ICU felvételi jegyzetek segítségével történő előrejelzésére alakítottak ki. A modell feladata a felvételi jegyzetek alapján meghatározni annak valószínűségét, hogy egy beteg nem él túl egy adott intenzív osztályos tartózkodást. A BigBird modell használatának egyik jelentős előnye, hogy képes nagyobb kontextushosszúságokat feldolgozni, ami azt jelenti, hogy a teljes felvételi jegyzeteket csonkítás nélkül tudjuk bevinni.
Lépéseink közé tartozik ennek a finomhangolt modellnek a SageMakeren történő telepítése. Ezután ezt a modellt beépítjük egy olyan beállításba, amely lehetővé teszi az előrejelzések valós idejű magyarázatát. A magyarázhatóság ilyen szintjének elérése érdekében a SageMaker Clarify-t használjuk.
Megoldás áttekintése
A SageMaker Clarify célirányosan épített eszközöket biztosít az ML fejlesztőknek, hogy nagyobb betekintést nyerhessenek ML képzési adataikba és modelljeikbe. A SageMaker Clarify elmagyarázza mind a globális, mind a helyi előrejelzéseket, és elmagyarázza a számítógépes látás (CV) és az NLP modellek által hozott döntéseket.
A következő diagram bemutatja a SageMaker architektúrát a magyarázhatósági kérelmeket kiszolgáló végpont tárolására. Tartalmazza a végpont, a modelltároló és a SageMaker Clarify magyarázó közötti interakciókat.
A mintakódban egy Jupyter notebookot használunk a funkciók bemutatására. Valós felhasználás esetén azonban az elektronikus egészségügyi nyilvántartások (EHR) vagy más kórházi ellátási alkalmazások közvetlenül a SageMaker végpontot hívnák meg, hogy ugyanazt a választ kapják. A Jupyter notebookban egy Hugging Face modelltárolót helyezünk üzembe egy SageMaker végponthoz. Ezután a SageMaker Clarify segítségével magyarázzuk el a telepített modellből kapott eredményeket.
Előfeltételek
A következő előfeltételekre van szüksége:
Nyissa meg a kódot a GitHub tárház és töltse fel a notebook példányára. A jegyzetfüzetet egy Amazon SageMaker Studio környezet, amely egy integrált fejlesztői környezet (IDE) az ML fejlesztéshez. Javasoljuk a Python 3 (Data Science) kernel használatát SageMaker Stúdió vagy egy conda_python3 kernel egy SageMaker notebook példányon.
Telepítse a modellt a SageMaker Clarify engedélyezésével
Első lépésként töltse le a modellt Hugging Face oldalról, és töltse fel egy Amazon egyszerű tárolási szolgáltatás (Amazon S3) vödör. Ezután hozzon létre egy modellobjektumot a HuggingFaceModel osztály használatával. Ez egy előre beépített tárolót használ, hogy leegyszerűsítse a Hugging Face modellek SageMaker-be való telepítésének folyamatát. Egyéni következtetési szkriptet is használhat a tárolón belüli előrejelzések végrehajtásához. A következő kód a HuggingFaceModel osztálynak argumentumként átadott szkriptet illusztrálja:
Ezután meghatározhatja a példány típusát, amelyen ezt a modellt telepíti:
Ezután benépesítjük ExecutionRoleArn
, ModelName
és a PrimaryContainer
mezőket egy modell létrehozásához.
Ezután hozzon létre egy végpont konfigurációt a következő meghívásával create_endpoint_config
API. Itt ugyanazt adjátok model_name
Használt a create_model
API hívás. A create_endpoint_config
most támogatja a kiegészítő paramétert ClarifyExplainerConfig
hogy engedélyezze a SageMaker Clarify magyarázót. A SHAP alapértéke kötelező; megadhatja vagy soron belüli alapadatként (ShapBaseline paraméter), vagy S3 alapvonalfájlként (ShapBaselineUri paraméter). Az opcionális paramétereket lásd a fejlesztői útmutatót.
A következő kódban egy speciális tokent használunk alapvonalként:
A TextConfig mondatszintű részletességgel van konfigurálva (minden mondat egy szolgáltatás, és áttekintésenként néhány mondatra van szükségünk a jó megjelenítéshez), a nyelv pedig angol:
Végül, miután elkészült a modell és a végpont konfigurációja, használja a create_endpoint
API a végpont létrehozásához. A endpoint_name
egyedinek kell lennie az AWS-fiókjában található régión belül. A create_endpoint
Az API szinkron jellegű, és azonnali választ ad vissza úgy, hogy a végpont állapota Létrehozás állapotban van.
Magyarázza meg az előrejelzést
Most, hogy telepítette a végpontot az online magyarázhatóság engedélyezésével, kipróbálhat néhány példát. A valós idejű végpontot a invoke_endpoint
módszert a soros rakomány megadásával, amely ebben az esetben néhány minta felvételi megjegyzés:
Az első forgatókönyvben tegyük fel, hogy a következő orvosi felvételi jegyzőkönyvet egy egészségügyi dolgozó készítette:
A következő képernyőkép a modell eredményeit mutatja.
Miután ezt továbbította a SageMaker végpontnak, a címkét 0-ra jósolták, ami azt jelzi, hogy a mortalitás kockázata alacsony. Más szóval, a 0 azt jelenti, hogy a felvett beteg a modell szerint nem akut állapotban van. Szükségünk van azonban a jóslat mögött meghúzódó érvelésre. Ehhez válaszként használhatja a SHAP értékeket. A válasz tartalmazza a bemeneti megjegyzés frázisainak megfelelő SHAP értékeket, amelyek tovább színkódolhatók zöldre vagy pirosra attól függően, hogy a SHAP értékek hogyan járulnak hozzá az előrejelzéshez. Ebben az esetben több kifejezést látunk zöld színnel, mint például: „A páciens nem számolt be korábban mellkasi fájdalomról” és „Az EKG sinus tachycardiát mutat ST-emelkedés vagy depresszió nélkül”, szemben a pirossal, ami igazodik a 0-s halálozási előrejelzéshez. .
A második forgatókönyvben tegyük fel, hogy a következő orvosi felvételi feljegyzést egy egészségügyi dolgozó készítette:
Az alábbi képernyőképen az eredményeink láthatók.
Miután ezt továbbítottuk a SageMaker végpontnak, a címke 1-re lett jósolva, ami azt jelzi, hogy a mortalitás kockázata magas. Ez azt jelenti, hogy a felvett beteg a modell szerint akut állapotban van. Szükségünk van azonban a jóslat mögött meghúzódó érvelésre. Ismét használhatja a SHAP értékeket válaszként. A válasz tartalmazza a bemeneti megjegyzés frázisainak megfelelő SHAP értékeket, amelyek tovább színkódolhatók. Ebben az esetben több olyan kifejezést látunk pirossal, mint például: „A páciens lázról, hidegrázásról és gyengeségről számolt be az elmúlt 3 napban, valamint csökkent vizeletkibocsátásról és zavartságról” és „A beteg egy 72 éves nő a súlyos szepszis-sokk fő panasza”, szemben a zölddel, összhangban az 1-es halálozási előrejelzéssel.
A klinikai gondozási csapat felhasználhatja ezeket a magyarázatokat, hogy segítse az egyes betegek ellátási folyamatával kapcsolatos döntéseit.
Tisztítsuk meg
A megoldás részeként létrehozott erőforrások megtisztításához futtassa a következő utasításokat:
Következtetés
Ez a bejegyzés bemutatta, hogyan használhatja a SageMaker Clarify-t az egészségügyi felhasználási esetek döntéseinek magyarázatára a besorolási folyamat különböző szakaszaiban rögzített orvosi feljegyzések alapján. Ez a megoldás integrálható a meglévő döntéstámogató rendszerekbe, hogy újabb adatpontot biztosítson a klinikusoknak, amikor értékelik a betegek intenzív osztályra történő felvételét. Ha többet szeretne megtudni az AWS-szolgáltatások egészségügyi ágazatban történő használatáról, tekintse meg a következő blogbejegyzéseket:
Referenciák
[1] https://aclanthology.org/2021.eacl-main.75/
[2] https://arxiv.org/pdf/1705.07874.pdf
A szerzőkről
Shamika Ariyawansa, aki az Amazon Web Services (AWS) Global Healthcare and Life Sciences részlegénél vezető mesterséges intelligencia- és ML-megoldások építészként dolgozik, nagy hangsúlyt fektet a generatív AI-ra. Segíti az ügyfeleket a Generative AI projektjeikbe való integrálásában, hangsúlyozva a megmagyarázhatóság fontosságát az AI-vezérelt kezdeményezéseikben. Professzionális elkötelezettségein túl Shamika szenvedélyesen űzi a síelést és a terepjáró kalandokat.”
Ted Spencer tapasztalt megoldástervező, kiterjedt akut egészségügyi tapasztalattal. Szenvedélye a gépi tanulás alkalmazása új felhasználási esetek megoldására, és a végfelhasználókat és azok üzleti/klinikai környezetét szem előtt tartva dolgozza ki a megoldásokat. A kanadai Toronto Ontario városában él, és szívesen utazik családjával, és ha ideje engedi, triatlonon edz.
Ram Pathangi az AWS megoldástervezője, aki egészségügyi és élettudományi ügyfeleit támogatja a San Francisco-öböl térségében. Segített a pénzügyek, az egészségügy, az élettudományok és a csúcstechnológiai ágazatok ügyfeleinek sikeres üzletvitelében az AWS Cloudon. Szakterülete az adatbázisok, az elemzések és a gépi tanulás.
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
- PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
- PlatoESG. Autóipar / elektromos járművek, Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
- PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
- ChartPrime. Emelje fel kereskedési játékát a ChartPrime segítségével. Hozzáférés itt.
- BlockOffsets. A környezetvédelmi ellentételezési tulajdon korszerűsítése. Hozzáférés itt.
- Forrás: https://aws.amazon.com/blogs/machine-learning/explain-medical-decisions-in-clinical-settings-using-amazon-sagemaker-clarify/
- :van
- :is
- :nem
- $ UP
- 1
- 10
- 100
- 11
- 13
- 15%
- 16
- 22
- 30
- 7
- 8
- a
- Rólunk
- felgyorsult
- Szerint
- Fiók
- pontos
- Elérése
- elérése
- át
- mellett
- További
- kiegészítések
- felvételt nyer
- Örökbefogadás
- előnyei
- Után
- újra
- AI
- AI / ML
- AIR
- algoritmusok
- igazítás
- Minden termék
- kioszt
- megengedett
- lehetővé teszi, hogy
- kizárólag
- Is
- megváltozott
- amazon
- Amazon SageMaker
- Az Amazon Web Services
- Amazon Web Services (AWS)
- között
- an
- analitika
- és a
- Másik
- bármilyen
- api
- alkalmazható
- Alkalmazás
- alkalmazások
- Alkalmazása
- megfelelő
- építészet
- VANNAK
- TERÜLET
- területek
- érv
- AS
- vagyontárgy
- segít
- segítséget nyújt
- feltételezni
- At
- elérhető
- átlagos
- AWS
- alapján
- kiindulási
- alap
- öböl
- BE
- mert
- válik
- válik
- egyre
- óta
- kezdődött
- mögött
- hogy
- BEST
- között
- Túl
- Blog
- Blogbejegyzések
- vér
- Vérnyomás
- test
- mindkét
- szünet
- Lehelet
- üzleti
- by
- számított
- hívás
- hívás
- TUD
- Kanada
- képesség
- rögzített
- ami
- eset
- esetek
- ellenőrizze
- fő
- választás
- osztály
- világos
- Klinikai
- klinikusok
- felhő
- kód
- kombináció
- kombinációk
- hogyan
- kötelezettségvállalások
- panasz
- teljes
- számítógép
- Számítógépes látás
- koncepció
- feltétel
- Configuration
- konfigurálva
- zavar
- figyelembe vett
- állandó
- fogyasztó
- Konténer
- kontextus
- contribuer
- hozzájárul
- hozzájárulás
- szövetkezet
- kijavítására
- Megfelelő
- kiadások
- lefedettség
- teremt
- készítette
- létrehozása
- szokás
- Ügyfelek
- napi
- dátum
- adat-tudomány
- adatbázisok
- Nap
- döntés
- Döntéshozatal
- határozatok
- meghatározott
- telepíteni
- telepített
- bevezetéséhez
- Határozzuk meg
- fejlett
- Fejlesztő
- fejlesztők
- Fejlesztés
- nehéz
- közvetlenül
- betegség
- kijelző
- osztály
- do
- domain
- csinált
- le-
- letöltés
- alatt
- minden
- könnyen
- hatékonyan
- bármelyik
- Elektronikus
- Elektronikus egészségügyi nyilvántartás
- hangsúlyozva
- lehetővé
- engedélyezve
- végén
- végtől végig
- Endpoint
- Angol
- Környezet
- értékelni
- vizsgálva
- példa
- példák
- létező
- tapasztalat
- tapasztalt
- Magyarázza
- magyarázható
- magyarázó
- Elmagyarázza
- magyarázat
- kiterjedt
- rendkívüli módon
- Arc
- család
- Funkció
- Jellemzők
- női
- kevés
- Fields
- filé
- utolsó
- finanszíroz
- megállapítások
- vezetéknév
- Összpontosít
- következő
- következik
- A
- Francisco
- ból ből
- funkcionalitás
- további
- Nyereség
- játék
- nemző
- Generatív AI
- kap
- GitHub
- Globális
- jó
- nagyobb
- Zöld
- Legyen
- he
- Egészség
- egészségügyi
- egészségügyi ágazat
- Szív
- segít
- segített
- itt
- hi-tech
- Magas
- nagyon
- övé
- történelem
- kórházak
- tárhely
- Hogyan
- How To
- azonban
- HTML
- http
- HTTPS
- HuggingFace
- illusztrálja
- azonnali
- végre
- importál
- fontosság
- fontos
- javul
- in
- Más
- magában foglalja a
- bele
- egyre inkább
- jelzi
- mutatók
- egyéni
- ipar
- kezdeményezett
- kezdeményezések
- bemenet
- meglátások
- példa
- integrált
- integrálása
- A szándék
- kölcsönhatások
- bele
- intuitív
- vonja
- IT
- ITS
- jpg
- Lelkes
- Kulcs
- Címke
- nyelv
- nagy
- nagyobb
- TANUL
- tanulás
- Jogi
- Hossz
- szint
- élet
- Life Sciences
- valószínűség
- életek
- helyi
- Elő/Utó
- alacsonyabb
- gép
- gépi tanulás
- készült
- csinál
- kötelező
- sok
- eszközök
- orvosi
- szellemi
- módszer
- bánja
- perc
- ML
- modell
- modellek
- több
- a legtöbb
- sok
- kell
- orr
- Természetes
- Természetes nyelvi feldolgozás
- Természet
- Szükség
- igények
- Új
- NLP
- nem
- jegyzetfüzet
- Megjegyzések
- Most
- szám
- tárgy
- szerez
- of
- ajánlat
- Ajánlatok
- on
- ONE
- online
- Ontario
- nyitva
- operatív
- ellentétes
- optimálisan
- or
- érdekében
- szervezet
- szervezetek
- eredetileg
- Más
- mi
- ki
- Eredmény
- eredmények
- vázlat
- teljesítmény
- felett
- Oxigén
- Fájdalom
- paraméter
- paraméterek
- rész
- különös
- Elmúlt
- szenvedélyes
- múlt
- ösvény
- beteg
- betegek
- mert
- perspektívák
- kifejezés
- fizikai
- Plató
- Platón adatintelligencia
- PlatoData
- játékos
- játékos
- tüdőgyulladás
- pont
- pozitív
- lehetséges
- állás
- Hozzászólások
- jósolt
- előrejelzésére
- előrejelzés
- Tippek
- Predictor
- előfeltételek
- nyomás
- előző
- korábban
- eljárások
- folyamat
- feldolgozás
- szakmai
- projektek
- javasolt
- ad
- biztosít
- amely
- cél
- célokra
- folytatja
- Piton
- hatótávolság
- Arány
- Az árak
- kész
- való Világ
- real-time
- új
- ajánl
- nyilvántartások
- Piros
- csökkenteni
- vidék
- összefüggő
- Jelentések
- raktár
- kéri
- kötelező
- Tudástár
- válasz
- eredményez
- Eredmények
- Visszatér
- felfedi
- Kritika
- Kockázat
- Szoba
- fordulóban
- futás
- sagemaker
- azonos
- San
- San Francisco
- forgatókönyv
- Tudomány
- TUDOMÁNYOK
- Második
- lát
- idősebb
- mondat
- Vérmérgezés
- szolgálja
- Szolgáltatások
- szolgáló
- beállítások
- felépítés
- számos
- szigorú
- előadás
- kirakat
- kimutatta,
- mutatott
- Műsorok
- jelentős
- Jelek
- Egyszerű
- egyszerűsítése
- óta
- So
- megoldások
- Megoldások
- SOLVE
- néhány
- Hely
- speciális
- specializált
- specializálódott
- különleges
- kifejezetten
- állapota
- kezdődött
- Állami
- nyilatkozatok
- Állapot
- tartózkodás
- Lépés
- Lépései
- Még mindig
- tárolás
- tanulmányok
- sikeresen
- ilyen
- kínálat
- támogatás
- Támogató rendszerek
- Támogató
- Támogatja
- Systems
- Vesz
- meghozott
- Feladat
- csapat
- technikák
- technikai
- hogy
- A
- azok
- akkor
- elmélet
- Ott.
- Ezek
- ők
- ezt
- Keresztül
- idő
- nak nek
- jelképes
- szerszámok
- toronto
- Képzések
- transzformerek
- Utazó
- csonkítás
- megpróbál
- típus
- megért
- megértés
- egyedi
- használ
- használati eset
- használt
- használ
- segítségével
- érték
- Értékek
- fajta
- különféle
- változat
- függőlegesek
- keresztül
- láthatóság
- látomás
- megjelenítés
- fontos
- kötetek
- melegség
- volt
- Út..
- we
- gyengeség
- háló
- webes szolgáltatások
- JÓL
- voltak
- ami
- míg
- miért
- lesz
- val vel
- belül
- nélkül
- szavak
- Munka
- munkás
- működésébe
- lenne
- még
- te
- A te
- magad
- zephyrnet