Máquinas de desinformação? Chatbots de IA podem representar perigos políticos, intelectuais e institucionais
Especialistas em tecnologia alertam para os perigos das imprecisões geradas pelos chatbots de inteligência artificial, ameaçando áreas da sociedade americana como as eleições e a educação. Apelidados de “alucinações” no mundo da IA, chatbots como o ChatGPT e o Bard do Google podem apresentar informações imprecisas como fatos, algo que os consumidores devem ter cautela, alertam os especialistas.
Fatos apresentados incorretamente pelos chatbots podem enganar os usuários sobre eventos reais, posições de indivíduos ou suas reputações mais amplamente falando. Isso pode ocorrer sem intenção ou propositalmente, representando uma possível oportunidade de enganar os usuários sobre fatos reais. A capacidade da inteligência artificial em confundir as linhas entre fato e ficção é preocupante. A desinformação é a maior ameaça enfrentada pelos consumidores.
O entrevistado Yuval Noah Harari afirmou que o uso de deep-fakes poderia exponenciar a capacidade dos gigantes da indústria tecnológica em difundir desinformação política. Os chatbots podem apresentar informações incorretas ou criar berros falsos para influenciar a opinião pública nos processos eleitorais.
Os desafios enfrentados pela academia também são preocupantes. Funcionários educacionais temem que tanto eles quanto seus alunos possam ser tentados a deixar a inteligência artificial pensar por si próprios ao invés de se esforçar para aprender e desenvolver habilidades por conta própria. O problema é composto pelo desejo do aluno de ser criativo – algo exemplificado pelo ChatGPT – e a preocupação dos professores em evitar atalhos que possam prejudicar sua educação.
Estudantes já começaram a recorrer à IA para ter um desempenho melhor, mas essas técnicas de fraude estão sendo combatidas com ferramentas de IA desenvolvidas pelos próprios educadores para identificar trabalhos que foram plagiados ou produzidos por fontes não pertencentes aos alunos. Já houve escândalos de trapaça no ensino superior que envolveram o uso de programas de inteligência artificial.
A solução para combater a desinformação proposta por Harari é reforçar a necessidade de instituições confiáveis, nas quais as pessoas possam confiar. Embora os chatbots apresentem perigos, eles também oferecem esperança para o futuro, podendo ser usados como uma força criativa bem intencionada ao exibir o inesperado e o não imaginado.
Os especialistas alertam para equilibrar as promessas da inteligência artificial com seus perigos em potencial e garantir que suas recompensas superem seus riscos. É necessário enfrentar os desafios causados pela inteligência artificial à medida que a humanidade explora seu futuro na tecnologia: “a IA é mais perigosa do que, digamos, um design malfeito ou má manutenção na produção de automóveis. Ela tem o potencial de levar à civilização à ruína”, disse Elon Musk numa entrevista à Fox News.
.
Assunto | Perigos da IA |
---|---|
Eleições | Chatbots podem apresentar informações imprecisas e criar berros falsos para influenciar a opinião pública nos processos eleitorais. |
Educação | Estudantes estão recorrendo à IA para ter um desempenho melhor, mas há riscos de fraude e falta de desenvolvimento de habilidades próprias. |
Desinformação | A capacidade da IA em confundir as linhas entre fato e ficção é preocupante e representa a maior ameaça enfrentada pelos consumidores. |
Solução | Reforçar a necessidade de instituições confiáveis, nas quais as pessoas possam confiar, para combater a desinformação. |
Equilíbrio | É necessário enfrentar os desafios causados pela inteligência artificial à medida que a humanidade explora seu futuro na tecnologia e garantir que suas recompensas superem seus riscos. |
Com informações do site Fox News.