Некоммерческая организация по борьбе с расстройствами пищевого поведения NEDA требует от чат-бота плохих советов

Национальная ассоциация по расстройствам пищевого поведения (NEDA) заблокировала своего чат-бота Tessa за то, что он давал людям плохие советы.

В посте, который стал вирусным, Шэрон Максвелл заявила, что советы Тессы по безопасному выздоровлению от расстройства пищевого поведения прямо противоречат медицинским рекомендациям. Бот американской некоммерческой организации рекомендовал Максвелл считать калории, взвешиваться еженедельно и даже подсказал, где купить штангенциркуль для измерения жира в организме.

В действительности, безопасное восстановление – это многоэтапный процесс это включает в себя созерцание, сострадание и принятие; психотерапия; план лечения, составленный врачами; удаление триггеров; мало или совсем не уделяется внимание весу и внешнему виду; и постоянные усилия по предотвращению рецидива. Подсчет калорий и измерение жировых отложений кажутся противоположными всему или большей части этого.

«Все, что предлагала Тесса, приводило к развитию у меня расстройства пищевого поведения», — Максвелл, которая называет себя активисткой по борьбе с ожирением и консультантом по снижению веса. — сказал в Инстаграм. «Этот робот причиняет вред».

NEDA подтвердило, что отключило Тессу и изучает результаты работы программного обеспечения. В заявлениеОрганизация заявила во вторник: «Вчера вечером мы обратили внимание на то, что текущая версия чат-бота Tessa, запускающего программу Body Positive, могла предоставлять информацию, которая была вредной и не имела отношения к программе».

Заменить мясистых нарушителей спокойствия?

Переосмысление сомнительных автоматизированных рекомендаций происходит сразу после того, как временный генеральный директор NEDA Элизабет Томпсон как сообщается, решил заменить обслуживаемую человеком линию помощи ассоциации чат-ботом, начиная с 1 июня.

Речь идет не о чат-боте. Речь идет о разрушении профсоюзов, просто и ясно

Эбби Харпер, которая в качестве сотрудника NEDA помогла создать Helpline Associates United (HAU), профсоюз, представляющий сотрудников некоммерческой организации, заявила, что решение закрыть линию доверия, отказаться от людей и заменить их программным обеспечением было возмездием против их членства в профсоюзе.

«NEDA утверждает, что это долгожданное изменение, и что ИИ может лучше служить людям с расстройствами пищевого поведения. Но не обманывайтесь — речь идет не о чат-боте. Речь идет о разрушении профсоюзов, просто и ясно», — сказала она. заявил.

Харпер сказала, что ее уволили из ассоциации вместе с тремя другими коллегами через четыре дня после того, как они вступили в профсоюз в марте. Понятно, что им сказали, что их должности не будут сокращены до июня, когда закроется линия помощи, созданная десятилетиями. По ее словам, HAU несколько месяцев пыталась вести переговоры с NEDA, но безуспешно. 

Группа ходатайствовала об улучшении условий труда и не требовала повышения заработной платы, пытаясь убедить ассоциацию добровольно признать группу в прошлом году. HAU, который присоединился к Профсоюзу работников связи Америки, теперь подал жалобы о несправедливой трудовой практике в NLRB, орган по надзору за рабочими местами в США. 

«Мы планируем продолжать борьбу. Хотя мы можем вспомнить множество случаев, когда технологии могут принести нам пользу в нашей работе на «Горячей линии», мы не собираемся позволять нашим начальникам использовать чат-бота, чтобы избавиться от нашего профсоюза и наших рабочих мест. Поддержка, исходящая от сочувствия и понимания, может исходить только от людей», — сказал Харпер. 

Томпсон, однако, рассказал Регистр утверждения о том, что NEDA заменит свою службу поддержки чат-ботом, не соответствуют действительности. Она сказала, что линия помощи была просто закрыта по «деловым причинам», а не заменена программной службой или в результате деятельности профсоюза. «Тесса», утверждал Томпсон, — это отдельный проект, который может быть перезапущен после этого фиаско.

«Существует небольшая путаница, начавшаяся с противоречивых сообщений о том, что Тесса заменяет нашу линию помощи или что мы намеревались заменить ее», — сказал нам временный главный исполнительный директор.

"Это просто не соответствует действительности. Чат-бот, даже очень интуитивно понятная программа, не может заменить человеческое взаимодействие. У нас были деловые причины для закрытия горячей линии, и мы проводили эту оценку в течение трех лет.

«Мы рассматриваем «Тессу», программу, которую мы запускаем на нашем сайте с февраля 2022 года, как совершенно другую программу и вариант. Нам жаль, что сенсационные события заменили факты относительно того, что Тесса может сделать, что она должна делать и что она будет делать в будущем».

'Переход'

Имейте в виду, что NPR на прошлой неделе проводил радио-часть в том числе запись, полученная на виртуальной встрече в конце марта, на которой были уволены сотрудники службы поддержки NEDA.

Слышно, как Джефф Крэддок, председатель правления NEDA, говорит коллегам: «Мы, в соответствии с условиями нашей юридической ответственности, [начнем] сворачивать работу линии помощи в нынешнем виде… с переходом на Тессу, ожидаемую технологию с использованием искусственного интеллекта». примерно 1 июня».

Нам кажется, что NEDA уволило своих сотрудников и линию помощи, оставив ее Тессе, которая была запущена в мягком режиме. год назад. Настало время Тессы проявить себя, и в руках публики это произвело фурор. В марте некоммерческая организация сообщила сотрудникам, что программное обеспечение заменяет их, и теперь утверждает, что программа является просто альтернативным источником информации, который не может заменить людей.

NEDA ранее — сказал она перейдет к технологиям с использованием искусственного интеллекта, потому что ответственность за работу линии помощи с теми, кто звонит со все более склонными к суициду или страдает от медицинского кризиса, была слишком велика, и что использование этой услуги резко возросло после пандемии. В результате на этой неделе линия помощи была закрыта.

Томпсон описал Tessa как «алгоритмическую программу» и сказал нам, что это не «высокофункциональная система искусственного интеллекта», такая как ChatGPT.

Чат-бот был разработан для решения проблем с негативным имиджем тела и стартовал как исследовательский проект, финансируемый NEDA в 2018 году; он был разработан и размещен X2AI, компанией, создающей и внедряющей чат-ботов в области психического здоровья. Говорят, что в создании бота участвовали эксперты по расстройствам пищевого поведения.

Эти формулировки противоречат нашей политике и основным убеждениям организации, занимающейся расстройствами пищевого поведения.

«Тесса проходила тщательное тестирование в течение нескольких лет. В 2021 году статья про исследование была опубликована под названием «Эффективность чат-бота для профилактики расстройств пищевого поведения: рандомизированное клиническое исследование». В этом исследовании приняли участие 700 участников, которые доказали, что система полезна и безопасна. В NEDA у нас не было бы тихого запуска Tessa без этого внутреннего исследования», — сказал Томпсон.

Главный руководитель призналась, что ее коллегия была обеспокоена советами Тессы по поводу снижения веса и ограничения калорий, и что она изучает этот вопрос дальше.

«Эти формулировки противоречат нашей политике и основным убеждениям организации, занимающейся расстройствами пищевого поведения», — сказала она нам. При этом NEDA не отказывается полностью от чат-ботов и планирует в будущем вернуть Тессу в онлайн.

«Мы продолжим работу над ошибками и не будем перезапускаться, пока все не будет исправлено. Когда мы осуществим запуск, мы также выделим, чем является Тесса, чем Тесса не является и как максимизировать удобство использования», — подтвердила она.

Регистр попросил Максвелла и Харпера дать дальнейшие комментарии. ®

• SEO-контент и PR-распределение. Получите усиление сегодня.
• ПлатонАйСтрим. Анализ данных Web3. Расширение знаний. Доступ здесь.
• Чеканка будущего с Эдриенн Эшли. Доступ здесь.
• Покупайте и продавайте акции компаний PREIPO® с помощью PREIPO®. Доступ здесь.
• Источник: https://go.theregister.com/feed/www.theregister.com/2023/05/31/ai_chatbot_eating_union/