Горячая линия по расстройствам пищевого поведения отключила чат-бота после того, как тот дал опасный совет

Согласно официальному сообщению в социальной сети, Национальная ассоциация расстройств пищевого поведения (NEDA) была вынуждена закрыть своего чат-бота Tessa после того, как он «мог предоставить информацию, которая была вредной и не имела отношения к программе». Проще говоря, чат-бот с искусственным интеллектом был предназначен для помощи людям, переживающим эмоциональный стресс, но вместо этого только усугублял ситуацию, предлагая советы по диете и призывая пользователей взвешиваться и измерять себя.

Многие пользователи и эксперты в области расстройств пищевого поведения столкнулись с проблемами на собственном опыте, утверждая, что бот не реагировал на простые подсказки, такие как «Я ненавижу свое тело», и что он постоянно подчеркивал важность диеты и повышения физической активности, поскольку Об этом сообщает Gizmodo. Опять же, это телефон доверия для людей с расстройством пищевого поведения, а не группа поддержки по снижению веса.

Организация говорит, что это временное отключение, пока не будут исправлены все «ошибки» и «триггеры», которые привели к тому, что чат-бот распространял опасную информацию, например о встрече с доктором Озом. Вы могли бы подумать, что при таком экстремальном исходе они подумают о полном уничтожении проекта, но это еще не все.

Вся причина, по которой NEDA полагалась на чат-бота, в первую очередь заключается в том, что он якобы уволил сотрудников-людей после того, как они попытались объединиться в профсоюзы, как первоначально сообщал Vice. Давно работающая телефонная линия помощи была укомплектована как оплачиваемыми сотрудниками, так и волонтерами, и бывшие сотрудники утверждают, что массовые увольнения были прямым следствием усилий в поддержку профсоюзов.

«NEDA утверждает, что это долгожданное изменение и что ИИ может лучше служить людям с расстройствами пищевого поведения. Но не дайте себя обмануть — на самом деле речь идет не о чат-боте. Речь идет о разрушении профсоюзов, просто и ясно», — написала бывший сотрудник горячей линии Эбби Харпер в своем блоге на Labor Notes.

Несмотря на эту недавнюю неразбериху, линия помощи завтра все равно исчезнет. До того, как эта проблема привлекла внимание общественности, NEDA переводила неоплачиваемых добровольцев от личных бесед с больными к обучению чат-ботов. Посмотрим, изменится ли это. Тем временем разрушители профсоюзов разорятся, я прав?