Conservadores pretendem criar seu próprio chatbot
A preocupação com a capacidade da tecnologia de criar conteúdos que seguem pontos de vista ideológicos específicos ou transmitir desinformação é crescente, e alguns executivos de tecnologia começaram a reconhecer que a existência de chatbots concorrentes com diferentes versões da realidade pode comprometer a viabilidade da inteligência artificial como ferramenta na vida cotidiana e minar ainda mais a confiança na sociedade. “Esta não é uma ameaça hipotética”, alerta Oren Etzioni, consultor e membro do conselho do Instituto Allen de Inteligência Artificial. “É uma ameaça iminente, iminente”.
Os conservadores acusaram a empresa de São Francisco OpenAI, criadora do ChatGPT, de projetar uma ferramenta que reflete os valores liberais de seus programadores. Por exemplo, o programa escreveu um poema em homenagem ao Presidente Biden, mas se recusou a escrever um poema semelhante sobre o ex-presidente Donald J. Trump, citando um desejo por neutralidade. O ChatGPT também disse a um usuário que nunca é moralmente aceitável usar um insulto racial, mesmo em uma situação hipotética em que isso pudesse impedir uma bomba nuclear devastadora.
Como resposta, alguns críticos do ChatGPT pediram a criação de seus próprios chatbots ou outras ferramentas que reflitam seus valores. A questão envolve não apenas o perigo da desinformação orquestrada pelos chatbots baseados nos preconceitos ou pontos de vista dos programadores ou usuários, mas também levanta questões éticas sobre quem deve ser responsável por esses chatbots e como eles devem ser controlados para evitar consequências negativas.
Por que é importante
A inteligência artificial é vista como uma ferramenta que pode tornar a vida mais fácil, ajudando-nos em tarefas cotidianas e até mesmo resolvendo problemas complexos. No entanto, se essa ferramenta não for confiável ou sugerir pontos de vista tendenciosos, ela não será útil e pode levar a má conduta. Chatbots que refletem diferentes visões da realidade podem criar uma cacofonia informacional que dificulta a tomada de decisões informadas pelos usuários, além de representar um problema ético em termos de quem deve ser responsável pelo conteúdo fornecido.
Embora os chatbots possam desempenhar um papel importante na facilitação do acesso à informação, sua confiabilidade e imparcialidade são essenciais para garantir benefícios aos usuários. As empresas devem estar cientes desses riscos e trabalhar para mitigá-los, enquanto os usuários precisam estar cientes das limitações dos chatbots em termos de oferecer informações imparciais. A inteligência artificial ainda tem muito potencial para mudar o mundo para melhor se for usada com responsabilidade.
Notícia: | A capacidade da tecnologia de criar conteúdos que seguem pontos de vista ideológicos determinados ou transmitir desinformação destaca um perigo que alguns executivos de tecnologia começaram a reconhecer: uma cacofonia informacional poderia surgir de chatbots concorrentes com diferentes versões da realidade, comprometendo a viabilidade da inteligência artificial como ferramenta na vida cotidiana e minando ainda mais a confiança na sociedade. |
---|---|
Acusação: | Os conservadores acusaram o criador do ChatGPT, a empresa de São Francisco OpenAI, de projetar uma ferramenta que reflete os valores liberais de seus programadores. |
Consequências: | Chatbots que refletem diferentes visões da realidade podem criar uma cacofonia informacional que dificulta a tomada de decisões informadas pelos usuários, além de representar um problema ético em termos de quem deve ser responsável pelo conteúdo fornecido. |
Com informações do site [insira o nome do site aqui]