Google grillis üle haiglates kasutatava AI-botti Med-PaLM 2

Google avaldab USA seadusandja survet selgitada, kuidas ta oma meditsiinilist vestlusbotti Med-PaLM 2 haiglates koolitab ja juurutab.

Täna internetihiiglasele kirjutades kutsus senaator Mark Warner (D-VA) ka veebititaani üles mitte seadma patsiente ohtu tehnoloogia turustamise kiirustades.

Med-PaLM 2 põhineb Google'i suurel keelemudelil PaLM 2 ja on peenhäälestatud meditsiinilise teabe põhjal. Süsteem suudab genereerida vastuseks meditsiinilistele päringutele kirjalikke vastuseid, teha kokkuvõtteid dokumentidest ja hankida andmeid. Google tutvustas mudelit aprillis ja ütles valitud grupp Google Cloudi kliente testis tarkvara.

Senaator Warneri sõnul on üks neist testijatest VHC Health, Virginia haigla, mis on seotud Mayo kliinikuga. Kirjas Google'i juhile Sundar Pichaile ütles Warner, et ta on mures, et generatiivne tehisintellekt tõstatab "uusi keerulisi küsimusi ja riske", eriti kui seda kasutatakse tervishoiutööstuses.

"Kuigi tehisintellektil on kahtlemata tohutu potentsiaal patsientide hoolduse ja tervisetulemuste parandamiseks, olen mures, et tõestamata tehnoloogia enneaegne kasutuselevõtt võib viia usalduse vähenemiseni meie meditsiinitöötajate ja asutuste vastu, olemasolevate rassiliste erinevuste süvenemiseni tervisetulemustes ja suurenemiseni. diagnoosimis- ja hooldusvigade oht,” kirjutas ta [pDF].

"See võidujooks turuosa kehtestamise nimel on ilmselge ja eriti murettekitav tervishoiutööstuses, arvestades kliinilises keskkonnas tehtud vigade elu ja surma tagajärgi, viimaste aastate usalduse vähenemist tervishoiuasutuste vastu ja tervise tundlikkust. teave."

Senaator esitas oma kirjas tosin küsimust, millele Google'i juhid pidid vastama. Need päringud hõlmasid järgmist:

ja lõpuks…

Kõik üsna head punktid, mida tuleks tõstatada või esile tõsta.

Suured keelemudelid tekitavad veenvalt kõlavat valeteavet, mistõttu võib karta, et robot jagab enesekindlalt kahjulikke meditsiinilisi nõuandeid või mõjutab valesti kellegi tervisealaseid otsuseid. Näiteks National Eating Disorders Association võttis oma Tessa vestlusbot võrguühenduseta pärast seda, kui see soovitas inimestel lugeda kaloreid, kaaluda end iganädalaselt ja jälgida keharasva – käitumist, mida peetakse tervislikule taastumisele vastupidiseks.

Google-DeepMindi autoritöö üksikasjalikult Med-PaLM 2 tunnistas, et mudeli vastused ei olnud nii soodsad kui arstide vastused, ning andis täpsuse ja asjakohasuse osas halva hinde.

Warner soovib, et Pichai jagaks rohkem teavet selle kohta, kuidas mudelit kliinilistes tingimustes kasutatakse, ja soovib teada, kas megakorpus kogub patsiendiandmeid nendelt, kes selle tehnoloogiat testivad, ja milliseid andmeid selle koolitamiseks kasutati. 

Ta rõhutas, et Google on varem USA ja Ühendkuningriigi haiglatega sõlmitud tehingutes ilma nende selgesõnalise teadmise või nõusolekuta säilitanud ja analüüsinud patsientide andmeid. Projekt Ööbik bänner

"Google ei ole Med-PaLM 2 kohta avalikult esitanud dokumente, sealhulgas mudeli koolitusandmete sisu avaldamisest hoidumist. Kas Med-PaLM 2 koolituskorpus sisaldab kaitstud terviseteavet? ta küsis. 

Google'i pressiesindaja eitas, et Med-PaLM 2 on vestlusbot, nagu inimesed neid tänapäeval tunnevad, ja ütles, et kliendid katsetavad mudelit, et uurida, kuidas see tervishoiutööstusele kasulik võib olla. 

"Usume, et tehisintellektil on potentsiaali muuta tervishoidu ja meditsiini ning oleme pühendunud ohutuse, võrdsuse, tõendite ja privaatsuse uurimisele," ütles esindaja. Register avalduses. 

„Nagu väljendatud aprillis muudame Med-PaLM 2 kättesaadavaks valitud rühmale tervishoiuorganisatsioonidele piiratud testimiseks, et uurida kasutusjuhtumeid ja jagada tagasisidet – see on oluline samm turvalise ja kasuliku tehnoloogia loomisel. Need kliendid säilitavad kontrolli oma andmete üle. Med-PaLM 2 ei ole vestlusbot; see on meie suure keelemudeli peenhäälestatud versioon PEALM 2ja mõeldud meditsiiniliste teadmiste kodeerimiseks.

Pressiesindaja ei kinnitanud, kas Google vastab senaator Warneri küsimustele. ®

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
• PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
• PlatoESG. Autod/elektrisõidukid, Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
• BlockOffsets. Keskkonnakompensatsiooni omandi ajakohastamine. Juurdepääs siia.
• Allikas: https://go.theregister.com/feed/www.theregister.com/2023/08/08/google_senator_ai_health/