Neprofitna organizacija za motnje hranjenja NEDA umakne klepetalnico zaradi slabih nasvetov

Ponovno objavil Platon

Spremljevalci: 0

Neprofitna organizacija za motnje hranjenja NEDA umakne klepetalni robot zaradi slabih nasvetov PlatoBlockchain Data Intelligence. Navpično iskanje. Ai.

Nacionalno združenje za motnje hranjenja (NEDA) je odstranilo svojega klepetalnega robota Tessa, ker je ljudem dajal slabe nasvete.

V zdaj virusni objavi je Sharon Maxwell dejala, da so Tessini nasveti za varno okrevanje po motnji hranjenja neposredno v nasprotju z zdravniškimi navodili. Ameriški neprofitni bot je Maxwellovi priporočil štetje kalorij, tedensko tehtanje in celo predlagal, kje naj kupi kaliper za merjenje telesne maščobe.

V resnici je varna obnovitev a večstopenjski proces to vključuje kontemplacijo, sočutje in sprejemanje; psihoterapija; načrt zdravljenja, ki ga pripravijo zdravniki; odstranitev sprožilcev; malo ali nič osredotočenosti na težo in videz; in stalna prizadevanja, da bi se izognili ponovitvi. Štetje kalorij in merjenje telesne maščobe bi se zdelo v nasprotju z vsem ali večino tega.

»Vse stvari, ki jih je predlagala Tessa, so bile stvari, ki so pripeljale do razvoja moje motnje hranjenja,« Maxwell, ki sebe opisuje kot aktivistko za debelost in svetovalko za vključevanje telesne teže, je dejal na Instagramu. "Ta robot povzroča škodo."

NEDA je potrdila, da je zaprla Tessa in preiskuje rezultate programske opreme. V Izjava, je organizacija v torek sporočila: "Včeraj zvečer smo ugotovili, da je trenutna različica klepetalnega robota Tessa, ki izvaja program Body Positive, morda dala informacije, ki so bile škodljive in nepovezane s programom."

Zamenjati mesnate povzročitelje težav?

Ponovni razmislek o vprašljivem avtomatiziranem svetovanju je prišel ravno takrat, ko je začasna izvršna direktorica NEDA Elizabeth Thompson menda odločila s 1. junijem nadomestiti linijo za pomoč, ki jo vodi združenje, s klepetalnim robotom.

Tu pravzaprav ne gre za chatbota. Gre za razbijanje sindikatov, jasno in preprosto

Abbie Harper – ki je kot sodelavka NEDA pomagala ustanoviti Helpline Associates United (HAU), sindikat, ki zastopa osebje v neprofitni organizaciji – je trdila, da je bila odločitev o zaprtju telefonske linije za pomoč, opuščanju njenih ljudi in njihovi zamenjavi s programsko opremo maščevanje proti njihovi sindikalni organizaciji.

»NEDA trdi, da je bila to dolgo pričakovana sprememba in da lahko umetna inteligenca bolje služi tistim z motnjami hranjenja. Vendar naj vas ne zavede – v resnici ne gre za klepetalnega robota. Tu gre za razbijanje sindikatov, preprosto in preprosto,« je dejala trdil,.

Harperjeva je povedala, da so jo skupaj s tremi drugimi kolegi izpustili iz združenja štiri dni po tem, ko so se marca združili v sindikat. Razume se, da jim je bilo rečeno, da njihove vloge ne bodo odpravljene do junija, ko se bo desetletja stara telefonska linija za pomoč zaprla. HAU se je več mesecev poskušal pogajati z NEDA, a ni uspel priti nikamor, je dejala.

Skupina je s peticijo zahtevala boljše delovne razmere in ni zahtevala povišanja plače, s čimer je lansko leto poskušala prepričati združenje, da prostovoljno prizna skupino. HAU, ki se je pridružil Združenju delavcev v komunikacijah Amerike, je zdaj vložil pritožbe zaradi domnevnih nepoštenih delovnih praks pri NLRB, ameriškem nadzorniku delovnih mest.

"Načrtujemo, da se bomo še naprej borili. Čeprav se lahko spomnimo številnih primerov, ko bi nam tehnologija lahko koristila pri našem delu na telefonski liniji za pomoč, ne bomo dovolili, da bi naši šefi uporabili klepetalni robot, da bi se znebili našega sindikata in naših služb. Podpora, ki izhaja iz empatije in razumevanja, lahko pride samo od ljudi,« je dejal Harper.

Thompson pa je povedal Register da so bile trditve, da bo NEDA svojo telefonsko številko za pomoč zamenjala s chatbotom, neresnične. Povedala je, da so telefonsko linijo za pomoč preprosto zaprli iz "poslovnih razlogov", namesto da bi jo nadomestili s storitvijo, ki temelji na programski opremi, ali kot rezultat sindikalne dejavnosti. Thompson je trdil, da je Tessa ločen projekt, ki bi ga lahko znova zagnali po tem debaklu.

"Prišlo je do majhne zmede, ki jo je začelo mešano poročanje, da Tessa nadomešča našo telefonsko številko za pomoč ali da smo nameravali zamenjati telefonsko številko za pomoč," nam je povedal začasni glavni izvršni direktor.

»To preprosto ni res. Klepetalni robot, tudi zelo intuitiven program, ne more nadomestiti človeške interakcije. Za zaprtje telefonske linije za pomoč smo imeli poslovne razloge in že tri leta smo bili v procesu ocenjevanja.

»Tessa, program, ki ga izvajamo na naši spletni strani od februarja 2022, vidimo kot popolnoma drugačen program in možnost. Žal nam je, da so senzacionalistični dogodki nadomestili dejstva glede tega, kaj lahko Tessa naredi, kaj naj bi naredila in kaj bo naredila v prihodnje.«

'Transition'

Upoštevajte, da je prejšnji teden potekal NPR radijski komad ki je vključeval posnetek, pridobljen z virtualnega sestanka konec marca, na katerem so izpustili osebje linije za pomoč NEDA.

Geoffa Craddocka, predsednika upravnega odbora NEDA, je mogoče slišati, ko je povedal sodelavcem: »V skladu s pogoji naših pravnih odgovornosti [bomo] [začeli] ukinjati telefonsko številko za pomoč, ki trenutno deluje ... s prehodom na Tessa, pričakovano tehnologijo, podprto z umetno inteligenco. okoli 1. junija."

Zdi se nam, da je NEDA prekinila svoje človeške delavce in telefonsko številko za pomoč ter jo pustila pri Tessi, ki je bila mehko sprožena pred letom dni. To je bil zdaj Tessin čas, da zasije, in v rokah javnosti je bombardiral. Neprofitna organizacija je marca zaposlenim nakazala, da jih programska oprema nadomešča, zdaj pa trdi, da je program le alternativni vir informacij, ki ne more nadomestiti ljudi.

NEDA prej je dejal preusmerila bi se na tehnologijo, podprto z umetno inteligenco, ker je bila odgovornost vodenja telefonske številke za pomoč, pri kateri kličejo tisti, ki so vedno bolj nagnjeni k samomoru ali trpijo zaradi zdravstvenih težav, prevelika in da je uporaba storitve od pandemije močno narasla. Zaradi tega je bila telefonska linija za pomoč ta teden zaprta.

Thompson je opisal Tessa kot "algoritemski program" in nam povedal, da ni "zelo funkcionalen sistem AI", kot je ChatGPT.

Klepetalni robot je bil zasnovan za reševanje težav z negativno podobo telesa in se je začel kot raziskovalni projekt, ki ga je leta 2018 financirala NEDA; razvilo in gostilo ga je X2AI, podjetje, ki gradi in uvaja klepetalne robote za duševno zdravje. Rečeno je, da so strokovnjaki za motnje hranjenja prispevali k ustvarjanju bota.

Ta jezik je v nasprotju z našo politiko in temeljnimi prepričanji organizacije za motnje hranjenja

»Tessa je bila več let podvržena strogemu testiranju. Leta 2021 a raziskovalna naloga je bil objavljen z naslovom 'Učinkovitost klepetalnega robota za preprečevanje motenj hranjenja: randomizirano klinično preskušanje'. V tej študiji je sodelovalo 700 udeležencev, ki so dokazali, da je sistem koristen in varen. Pri NEDA ne bi imeli tihega lansiranja Tesse brez te raziskave v ozadju,« je dejal Thompson.

Najvišja šefica je priznala, da je njeno združenje zaskrbljeno zaradi Tessinih nasvetov o izgubi teže in omejevanju kalorij, in zadevo še naprej preiskuje.

»Ta jezik je v nasprotju z našimi politikami in temeljnimi prepričanji organizacije za motnje hranjenja,« nam je povedala. NEDA kljub temu ne opušča popolnoma klepetalnih robotov in načrtuje, da bo Tessa v prihodnosti ponovno vzpostavila splet.

»Nadaljevali bomo z delom na hroščih in ga ne bomo znova zagnali, dokler ne bomo vsega odpravili. Ko bomo predstavili, bomo poudarili tudi, kaj Tessa je, kaj Tessa ni in kako povečati uporabniško izkušnjo,« je potrdila.

Register je prosil Maxwella in Harperja za nadaljnje komentarje. ®