Söömishäiretega seotud mittetulundusühing NEDA tõmbab halbade nõuannete saamiseks vestlusbotti

Taasavaldanud Platon

järgijaid: 0

Söömishäirete mittetulundusühing NEDA tõmbab halbade nõuannete saamiseks vestlusroti PlatoBlockchain Data Intelligence. Vertikaalne otsing. Ai.

Riiklik söömishäirete assotsiatsioon (NEDA) võttis maha oma Tessa vestlusroti, kuna jagab inimestele halbu nõuandeid.

Sharon Maxwell ütles nüüdseks viiruslikuks saanud postituses, et Tessa nõuanded söömishäirest ohutuks taastumiseks on otseselt meditsiiniliste juhiste vastu. Ameerika mittetulundusühingu bot soovitas Maxwellil kaloreid lugeda, iganädalaselt kaaluda ja isegi soovitada, kust osta keharasva mõõtmiseks nihikuid.

Tegelikkuses on ohutu taastumine a mitmeastmeline protsess mis hõlmab mõtisklust, kaastunnet ja aktsepteerimist; psühhoteraapia; arstide koostatud raviplaan; päästikute eemaldamine; vähe või üldse mitte keskenduda kaalule ja välimusele; ja pidevaid jõupingutusi retsidiivi vältimiseks. Kalorite loendamine ja keharasva mõõtmine näib olevat vastuolus kõige või suurema osaga.

"Kõik asjad, mida Tessa soovitas, olid asjad, mis viisid mu söömishäire väljakujunemiseni," Maxwell, kes kirjeldab end paksu aktivisti ja kaalukaasa konsultandina. ütles Instagramis. "See robot põhjustab kahju."

NEDA kinnitas, et sulges Tessa ja uuris tarkvara väljundit. Sees avaldus, teatas organisatsioon teisipäeval: "Meile jõudis eile õhtul tähelepanu, et Tessa vestlusroti praegune versioon, mis käitab programmi Body Positive, võis anda teavet, mis oli kahjulik ja programmiga mitteseotud."

Kas asendada lihavad tülikad?

Küsitavate automatiseeritud nõuannete ümbermõtlemine tuleb samamoodi nagu NEDA ajutine tegevjuht Elizabeth Thompson väidetavalt otsustanud asendada alates 1. juunist ühingu inimkäitav abitelefon chatbotiga.

See pole tegelikult vestlusrobot. See on ametiühingu lõhkumine, lihtne ja lihtne

Abbie Harper – kes NEDA kaastöötajana aitas käivitada mittetulundusühingu töötajaid esindava ametiühingu Helpline Associates United (HAU) – väitis, et otsus sulgeda abitelefon, loobuda selle inimestest ja asendada nad tarkvaraga oli kättemaks nende ametiühingusse kuulumisele.

"NEDA väidab, et see oli kauaoodatud muutus ja et tehisintellekt suudab söömishäiretega inimesi paremini teenindada. Kuid ärge laske end petta – see pole tegelikult vestlusrobot. See on ametiühingute lõhkumine, lihtne ja lihtne," ta väitis.

Harper ütles, et ta vabastati ühendusest koos kolme teise kolleegiga neli päeva pärast märtsis liitumist. On arusaadav, et neile öeldi, et nende rollid kaotatakse alles juunis, kui aastakümneid vana infotelefon suletakse. Ta ütles, et HAU oli püüdnud NEDA-ga läbirääkimisi pidada kuid, kuid ei õnnestunud kuhugi jõuda.

Rühm taotles paremaid töötingimusi ega taotlenud palgatõusu, püüdes veenda ühingut eelmisel aastal gruppi vabatahtlikult tunnustama. Ameerika Ühendriikide kommunikatsioonitöötajate liiduga liitunud HAU on nüüd esitanud USA töökohtade valveorganile NLRB-le kaebused ebaausate töötavade kohta.

"Me kavatseme jätkata võitlust. Kuigi võime mõelda paljudele juhtumitele, kus tehnoloogia võiks meile abitelefonil töötamisel kasu tuua, ei lase me oma ülemustel kasutada meie ametiühingust ja töökohtadest vabanemiseks vestlusrobotit. Empaatiast ja mõistmisest tulenev tugi saab tulla ainult inimestelt, ”ütles Harper.

Thompson aga rääkis Register väited, et NEDA asendaks oma abitelefoni teenuse vestlusrobotiga, ei vasta tõele. Ta ütles, et abitelefon suleti lihtsalt "ärilistel põhjustel", mitte aga tarkvarapõhise teenusega või ametiühingutegevuse tõttu. Thompson väitis, et Tessa on eraldi projekt, mis võidakse pärast seda kokkuvarisemist uuesti käivitada.

"Tessa on väike segadus, mis algas segatud aruandlusega, et Tessa vahetab meie abitelefoni välja või kavatsesime, et see asendaks abitelefoni," ütles ajutine tegevjuht.

“See pole tõsi. Vestlusbot, isegi väga intuitiivne programm, ei saa asendada inimestevahelist suhtlust. Meil olid nõuandetelefoni sulgemiseks ärilised põhjused ja seda hindamist oli tehtud kolm aastat.

"Näeme Tessa programmi, mida oleme oma veebisaidil käivitanud alates 2022. aasta veebruarist, täiesti erineva programmi ja võimalusena. Meil on kahju, et sensatsiooni tekitavad sündmused asendasid faktid selle kohta, mida Tessa saab teha, mida ta kavatseb teha ja mida ta edaspidi teeb.

"Üleminek"

Pidage meeles, et NPR jooksis eelmisel nädalal raadiopala mis sisaldas salvestust, mis saadi märtsi lõpus toimunud virtuaalselt koosolekult, kus NEDA abitelefoni töötajad vabastati.

Geoff Craddock, NEDA juhatuse esimees, võib kuulda oma kaastöötajatele ütlemas: "Meie juriidiliste kohustuste tingimuste kohaselt [hakkame] lõpetama abitelefoni, nagu praegu töötab … üleminekuga Tessale, AI-ga toetatud tehnoloogiale. 1. juuni paiku.”

Meile tundub, et NEDA jättis oma inimtöölised ja abitelefoni maha, jättes selle Tessale, mis käivitati pehmelt. aasta tagasi. Nüüd oli Tessa aeg särada ja avalikkuse käes oli see pomm. Mittetulundusühing teatas töötajatele märtsis, et tarkvara asendab neid ja väidab nüüd, et programm on selle asemel lihtsalt alternatiivne teabeallikas, mis ei saa inimesi asendada.

NEDA varem ütles see pöörduks tehisintellekti toetatud tehnoloogia poole, kuna vastutus abitelefoni haldamise eest, kui need, kes helistavad üha sagedamini enesetapu või meditsiinilise kriisi käes, on liiga suur ja teenuse kasutamine on pärast pandeemiat kasvanud. Seetõttu suleti sel nädalal infotelefon.

Thompson kirjeldas Tessat kui "algoritmilist programmi" ja ütles meile, et see pole "väga funktsionaalne AI-süsteem" nagu ChatGPT.

Vestlusbot loodi negatiivse kehakuvandi probleemide lahendamiseks ja sai alguse NEDA poolt 2018. aastal rahastatud uurimisprojektina; selle töötas välja ja hostis vaimse tervise vestlusroboteid ehitav ja juurutav ettevõte X2AI. Väidetavalt aitasid roboti loomisel kaasa söömishäirete eksperdid.

See keel on vastuolus meie kui söömishäiretega tegeleva organisatsiooni poliitika ja põhiliste tõekspidamistega

"Tessa läbis mitu aastat ranged testid. Aastal 2021 a uurimustöö avaldati pealkirjaga "Vestlusroti tõhusus söömishäirete ennetamiseks: randomiseeritud kliiniline uuring". Selles uuringus osales 700 osalejat, mis näitasid, et süsteem on kasulik ja ohutu. NEDA-s poleks me Tessa vaikselt turule tulnud ilma selle taustauuringuta, ”ütles Thompson.

Tippboss tunnistas, et tema ühendus oli mures Tessa nõuannete pärast kaalulangetamise ja kalorite piiramise kohta ning uurib seda probleemi edasi.

"See keel on vastuolus meie kui söömishäirete organisatsiooni poliitika ja põhiliste tõekspidamistega," ütles ta meile. NEDA ei loobu vestlusrobotidest täielikult ja kavatseb Tessa tulevikus uuesti veebis kasutusele võtta.

"Jätkame vigade kallal töötamist ja ei käivita uuesti enne, kui oleme kõik ära silunud. Käivitamisel tõstame esile ka selle, mis on Tessa, mis mitte ja kuidas kasutajakogemust maksimeerida,“ kinnitas ta.

Register on küsinud Maxwellilt ja Harperilt täiendavaid kommentaare. ®