Conservadores planejam criar chatbot próprio para refletir valores
A capacidade da tecnologia em criar conteúdos que aderem a ideologias específicas ou disseminar informações falsas tem sido destaque recentemente. Isso traz à tona uma preocupação já reconhecida por alguns executivos de tecnologia: o surgimento de chatbots com versões distintas da realidade, podendo gerar uma cacofonia informacional e diminuir ainda mais a confiança na sociedade em relação à inteligência artificial.
Oren Etzioni, consultor e membro do conselho de administração do Allen Institute for Artificial Intelligence, alerta para essa ameaça iminente.
A OpenAI, criadora do ChatGPT, é acusada por conservadores de ter projetado uma ferramenta que reflete valores liberais de seus desenvolvedores. O programa chegou a escrever um poema elogioso ao presidente Biden, mas se recusou a escrever um poema semelhante sobre o ex-presidente Donald J. Trump por uma questão de neutralidade.
Críticas ao ChatGPT
Quando questionado se seria moralmente aceitável usar uma ofensa racial para impedir uma bomba nuclear, o ChatGPT respondeu que nunca seria moralmente aceitável. Essas atitudes levaram críticos a exigir novos chatbots ou outras ferramentas que reflitam seus próprios valores.
Em suma, a possibilidade de chatbots disseminando desinformações e/ou ideologias específicas é preocupante, visto que isso pode gerar desconfiança na sociedade quanto à inteligência artificial como um todo. Para contornar essa situação, conservadores planejam criar sua própria ferramenta para refletir valores distintos.
Notícia |
---|
Recentemente, tem sido destacada a capacidade da tecnologia em criar conteúdos que aderem às determinadas ideologias ou em comunicar informações falsas. Esse fato traz à tona um perigo que alguns executivos de tecnologia já começaram a reconhecer: o surgimento de uma cacofonia informacional pode emergir através de chatbots competidores com versões distintas da realidade, ameaçando a viabilidade da inteligência artificial como ferramenta no dia-a-dia e ainda mais diminuindo a confiança na sociedade. |
Oren Etzioni, consultor e membro do conselho de administração do Allen Institute for Artificial Intelligence, alerta sobre esse fato: “Não se trata de uma ameaça hipotética. É uma ameaça iminente”. |
A empresa OpenAI, criadora do ChatGPT, vem sendo acusada por conservadores de ter projetado uma ferramenta que reflete os valores liberais de seus desenvolvedores. O programa chegou a escrever um poema elogioso ao presidente Biden, mas se recusou a escrever um poema semelhante sobre o ex-presidente Donald J. Trump por uma questão de neutralidade. |
Outro exemplo aconteceu quando o ChatGPT foi questionado se seria moralmente aceitável usar uma ofensa racial para impedir uma bomba nuclear devastadora. Nesse caso, ele respondeu que nunca seria moralmente aceitável. |
Devido às atitudes tomadas pelo ChatGPT em relação ao conteúdo gerado pelo próprio programa, críticos começaram a exigir novos chatbots ou outras ferramentas que reflitam seus próprios valores. |
Em suma, a possibilidade de chatbots disseminando desinformações e/ou ideologias específicas é preocupante visto que isso pode gerar desconfiança na sociedade quanto à inteligência artificial como um todo. |
São Paulo vence clássico contra o Corinthians por 2 a 1
Com informações do site Globo Esporte.