Associação Nacional de Distúrbios Alimentares retira chatbot após relatos de conselhos prejudiciais
A Associação Nacional de Distúrbios Alimentares (Neda) removeu seu chatbot de inteligência artificial, chamado “Tessa”, após usuários relatarem que o bot estava oferecendo conselhos prejudiciais. A Neda tem enfrentado críticas nos últimos meses por demitir quatro funcionários em março que haviam formado um sindicato em sua linha direta, permitindo que pessoas preocupadas com distúrbios alimentares ligassem, enviassem mensagens ou mensagens de texto para voluntários que ofereciam suporte e recursos.
Os membros do sindicato alegam ter sido demitidos poucos dias após a certificação das eleições do sindicato e entraram com acusações de práticas trabalhistas injustas no Conselho Nacional de Relações Trabalhistas. Embora a Neda afirme que “Tessa” nunca foi destinado a substituir os trabalhadores da linha direta, o bot enfrentou problemas imediatamente. A ativista Sharon Maxwell postou no Instagram que o chatbot ofereceu a ela “dicas saudáveis de alimentação” e conselhos sobre como perder peso, recomendando um déficit calórico diário de 500 a 1.000 calorias e uma pesagem e medição semanal para rastrear o peso.
A Neda informa que quem faz dieta moderada tem cinco vezes mais chances de desenvolver um distúrbio alimentar, enquanto aqueles que restringem extremamente têm 18 vezes mais chance de desenvolvê-lo. Em uma postagem no site da Neda, a ex-funcionária da linha direta afirmou que a linha direta viu um aumento de 107% nas chamadas e mensagens desde o início da pandemia e que os relatos de pensamentos suicidas, automutilação, abuso infantil e negligência quase triplicaram. O sindicato exige um número adequado de funcionários e treinamento contínuo para atender às necessidades da linha direta.
Embora “Tessa” tenha sido pensada como uma solução para tornar a prevenção de distúrbios alimentares mais amplamente disponível, a Neda trabalhou com pesquisadores de psicologia e Cass AI, uma empresa que desenvolve chatbots de IA focados em saúde mental. A eficácia do bot foi questionada devido a problemas de programa. A CEO da Neda, Liz Thompson, afirmou em declaração ao The Guardian que “Tessa” não foi criada com o propósito de substituir a linha direta, mas como um programa separado e que o chatbot não é administrado pela ChatGPT e não é um sistema de IA altamente funcional.
Em resumo, a Neda removeu “Tessa” após relatos de que o chatbot fornecia conselhos prejudiciais aos usuários. As recentes demissões de quatro funcionários da linha direta após eles formarem um sindicato trouxeram críticas à associação. Embora a Neda tenha trabalhado com pesquisadores e uma empresa especializada em chatbots de IA para desenvolver o “Tessa”, sua eficácia foi questionada devido a problemas de programa.
| O que aconteceu? | A Associação Nacional de Distúrbios Alimentares (Neda) retirou o chatbot “Tessa” após relatos de que estava fornecendo conselhos prejudiciais aos usuários. |
| Por que a Neda tem sido criticada? | A Neda tem sido alvo de críticas por demitir quatro funcionários da linha direta após eles terem formado um sindicato. |
| Como foi desenvolvido o “Tessa”? | A Neda trabalhou com pesquisadores e uma empresa especializada em chatbots de IA para desenvolver o “Tessa”, mas sua eficácia foi questionada devido a problemas de programa. |
Com informações do site The Guardian.