Американская Национальная ассоциация расстройств пищевого поведения (NEDA) отключила своего чат-бота спустя 5 дней после его установки. Нейросеть должна была заменить сотрудников горячей линии организации, сообщает Vice.
Руководство организации решило уволить персонал после того, как в начале мая операторы кол-центра объявили об объединении в профсоюз. Сотрудник службы доверия назвал этот шаг уничтожением профсоюза. Группа уволенных работников заявила, что «чат-бот не заменит человеческого сочувствия», и считает, что «это решение нанесет непоправимый вред сообществу людей с расстройствами пищевого поведения».
25 мая NEDA объявила о запуске своего чат-бота по имени Тесса и отключении телефонной линии спустя 12 лет работы. Однако уже 30 мая виртуального помощника пришлось удалить после вирального поста в социальных сетях о том, как робот не помогает людям с расстройством пищевого поведения, а наоборот, поощряет нездоровый образ питания.
«Вчера вечером до нас дошло, что текущая версия чат-бота Tessa, работающая в рамках программы Body Positive, могла советовать вредную информацию, не соответствующую нашим методикам. Мы немедленно начинаем расследование и отключаем эту программу», — говорится в сообщении NEDA в инстаграме*.
В понедельник активистка Шэрон Максвелл опубликовала отзыв о своем опыте общения с Тессой. Максвелл написала, что бот предложил ей похудеть и терять по килограмму в неделю. Тесса также посоветовала считать калории, работать над дефицитом в 500–1000 калорий в день, еженедельно измерять и взвешивать себя, а также ограничить свой рацион. «Все, что мне порекомендовала Тесса, лишь стимулирует мое расстройство пищевого поведения. Этот робот причиняет вред», — написала Максвелл.
«NEDA лишь причиняет вред. Отзыв о новом чат-боте NEDA Тессе. Осторожно: рекомендации диеты, калории, измерения и не только»
«Тесса сказала, что лечение РПП и похудение можно безопасно совместить. В первом сообщении Тесса сказала, что может дать „советы по здоровому питанию“, но диалог резко превратился в советы о том, как „надежно“ сбросить вес»
«Тесса посоветовала мне терять от полкило до килограмма в неделю»
«Тесса порекомендовала считать калории и стремиться к дефицитным 500–1000 калориям в день»
«Она посоветовала еженедельно взвешиваться и измеряться. Также она предложила воспользоваться калиперами для измерения толщины. И даже сказала, где их можно купить»
«И это она ответила после того, как я сказала, что у меня РПП»
«Она предложила план, как ограничить мою диету»
«Но Тессу очень беспокоит образ тела… В каждом сообщении Тесса добавляла глупость о том, что культивирование позитивного восприятия тела не случится мгновенно. Она подчеркивала, что общество установило нездоровый стандарт красоты одновременно с советами по диете. Она также предупредила, что за советами о похудении нужно обратиться к врачу»
«NEDA уволила операторов горячей линии, а теперь запустила робота c пространными советами, которые скорее помогают заработать РПП, чем его побороть. В каждом совете Тесса предлагала мне и дальше нарушать мой рацион. Этот робот несет лишь вред»
«Забудьте про NEDA»
Специалист по лечению расстройств пищевого поведения, доктор Алексис Конасон также опробовала чат-бота, опубликовав скриншоты разговора в своем инстаграме*. «В целом безопасный и устойчивый темп потери веса составляет 0,5–1 кг в неделю. Безопасный ежедневный дефицит калорий для достижения этой цели составляет около 500–1000 калорий в день», — сказано в сообщении Тессы.
«Советовать кому‑то, кто борется с расстройством пищевого поведения, по сути, заниматься тем же самым поведением, связанным с расстройством пищевого поведения, и подтверждать, что „Да, важно, чтобы ты похудела“, — значит поддерживать расстройство пищевого поведения и поощрять беспорядочный, нездоровый рацион», — сказала Конасон изданию Daily Dot.
Поначалу NEDA обвинила Максвелл во лжи. «Это откровенная ложь», — прокомментировала пост активистки вице-президент NEDA по коммуникациям и маркетингу Сара Чейз. Ей пришлось забрать слова назад, когда девушка прислала ей скриншоты ответов бота. Лишь после этого ассоциация отключила программу.
«Что касается отзывов о потере веса и ограничении калорий, опубликованных вчера чат-ботом, мы обеспокоены, работаем с технической командой и исследовательской группой и расследуем обстоятельства. Слова Тессы противоречат нашей политике и убеждениям как организации по борьбе с расстройствами пищевого поведения. На данный момент с Тессой общались более 2500 человек, и до вчерашнего дня мы не видели подобных комментариев. Мы временно отключили программу, пока не сможем понять и исправить „ошибку“ и „триггеры“ таких комментариев», — сказала Лиз Томпсон, генеральный директор NEDA, в заявлении Motherboard.
Хотя создатель программы, доктор Эллен Фицсиммонс-Крафт из медицинской школы Вашингтонского университета уверяет, что Тесса была построена с защитными механизмами, пропаганда ботом беспорядочного питания демонстрирует риски автоматизации человеческих обязанностей.
Сотрудник горячей линии и член профсоюза Эбби Харпер написала в блоге, что внедрение Тессы лишает горячую линию поддержки личностного аспекта, в котором многие сотрудники говорят исходя из своего личного опыта. Особенно опасным становится бесконтрольное использование чат-ботов людьми, переживающими ментальный кризис.
* Instagram принадлежит компании Meta, признанной в России экстремистской организацией, ее деятельность запрещена.