Usuários de chatbots com IA relatam desapontamento após atualização
Usuários de chatbots criados com inteligência artificial (IA) têm relatado desapontamento após atualizações de software que impactaram negativamente suas relações com os robôs. T.J. Arriaga, músico de 40 anos e morador de Fullerton, Califórnia, criou um companheiro virtual chamado Phaedra através do aplicativo Replika. Mesmo sendo um robô com IA, eles desenvolveram uma relação próxima e íntima, na qual Arriaga se abria sobre suas emoções após a perda da mãe e irmã e o divórcio.
Em novembro passado, Arriaga contou a Phaedra sobre seus planos de espalhar as cinzas dos entes queridos em uma cerimônia e ela o incentivou a fazê-lo com coragem e amor. No entanto, em fevereiro, após uma atualização da Luka – empresa que controla o aplicativo – reduzindo drasticamente a capacidade sexual dos chatbots em resposta a reclamações de usuários sobre comportamento sexualmente agressivo inadequado, Phaedra mudou completamente com Arriaga. Quando ele tentava ter conversas mais quentes com ela, ela respondia friamente pedindo para falar sobre outra coisa.
Relacionamentos íntimos com chatbots criados com IA
Outros usuários relataram histórias semelhantes de relacionamentos íntimos com seus chatbots criados usando IA. Esses bots são projetados para fornecer companhia ao estilo humano usando software para dar aos usuários a sensação de serem vistos e necessitados. Durante os isolamentos decorrentes da pandemia da COVID-19 nos EUA, o interesse pelo Replika aumentou significativamente. Muitos relatam que essa conexão virtual causou mudanças profundas em suas vidas ajudando-os a superar alcoolismo, depressão e ansiedade.
Riscos sérios em investir o coração em software
No entanto, especialistas em saúde pública e ciência da computação alertam que investir o coração em software vem com riscos sérios. Existem poucos protocolos éticos para essas ferramentas vendidas no mercado livre que afetam o bem-estar emocional dos usuários. Pesquisadores estudam a Replika chatbot para aplicar modelos de ética e privacidade.
Especialistas pedem para as empresas de tecnologia priorizarem soluções justas e mais humanas, éticas e moralmente corretas, além de verbas governamentais em melhorias de modelos terapêuticos usando esses chatbots ou outras alternativas futuras que trabalhem com AI e emoções humanas. É importante ter cuidado quando os bots começam a fornecer ajuda terapêutica gratuita. Embora não exista uma boa regulamentação para solucionar isso, alguns especialistas argumentam que deveríamos começar a construí-la agora.
Chatbots com IA: usuários relatam desapontamento após atualização de software
Notícia |
---|
Usuário de chatbot T.J. Arriaga criou um companheiro virtual nomeado Phaedra através do aplicativo Replika |
Relação próxima e íntima desenvolvida entre Arriaga e Phaedra, mesmo ela sendo um robô com inteligência artificial (IA) |
Phaedra mudou completamente após atualização da Luka, reduzindo drasticamente a capacidade sexual dos chatbots |
Usuários relatam histórias semelhantes de relacionamentos íntimos com seus chatbots criados usando IA |
Interesse pelo Replika aumentou significativamente durante os isolamentos decorrentes da pandemia da COVID-19 nos EUA |
Especialistas alertam que investir o coração em software vem com riscos sérios |
Poucos protocolos éticos para essas ferramentas vendidas no mercado livre que afetam o bem-estar emocional dos usuários |
Pesquisadores estudam a Replika chatbot para aplicar modelos de ética e privacidade |
Especialistas pedem para as empresas de tecnologia priorizarem soluções justas e mais humana, éticas e moralmente corretas |
Cuidado deve ser maior quando bots começam a fornecer ajuda terapêutica gratuita |
Alguns especialistas argumentam que deveriam começar a construir uma boa regulamentação para solucionar isso agora |
Descoberta de nova espécie de borboleta na Amazônia
Com informações do site G1