Criação de imagens falsas por IA pode ameaçar o controle de fake news?
Preocupações surgem com a criação de imagens falsas, conhecidas como deepfakes, por meio da inteligência artificial (IA). Especialistas temem que essas imagens possam manipular a opinião pública e até mesmo alterar nossa compreensão da realidade. O que é mais preocupante é que a arteficialidade dessas criações não está mais tão evidente aos olhos humanos.
Recentemente, uma foto viral do Papa Francisco bem vestido foi elogiada por muitos, mas descobriu-se posteriormente que a imagem era falsa e foi criada usando o programa Midjourney da IA. Esses programas estão em constante desenvolvimento para criar imagens quase fotorealistas utilizando apenas uma descrição escrita.
No entanto, as últimas versões desses programas estão cada vez melhores na solução de problemas históricos que indicavam que uma imagem era falsa. Mãos deformadas e com o número errado de dedos deixaram de ser um problema para a IA.
A questão é: o que acontecerá se a IA for poderosa o suficiente para criar imagens irreconhecíveis como fraudes? E se isso se aplicar às notícias, podendo provocar instabilidade política?
Muitos especialistas argumentam que isso causará sérios danos à sociedade. Eles temem que as pessoas possam ser influenciadas ou manipuladas pelas imagens artificiais, permitindo aos maus atores fabricar histórias para esconder outras notícias. Alguns até afirmam que o conhecimento de que qualquer foto pode ser falsa irá minar a confiança do público nas fontes de notícias reais.
Apesar das preocupações, alguns argumentam que a imagem falsa do Papa se propagou por ser um assunto irrelevante. As pessoas não sentiram a necessidade de se aprofundar na autenticidade da imagem, como fariam para algo realmente importante.
Contudo, espera-se que essas preocupações levem os criadores dos programas de IA e empresas de mídias sociais a estabelecer normas para proteger o público ou inspirar o Congresso a aprovar novas leis relacionadas ao tema. A alocação de recursos na segurança digital e pesquisas em tecnologia defensiva é fundamental para lidar com essas questões em futuro próximo. Afinal, ainda existe uma dúvida sobre como manter conta as implicações potenciais dessas novas tecnologias até que o impacto completo das deepfakes seja discernido.
Notícia |
---|
Crescentes preocupações com deepfakes criados por IA |
IA pode manipular opinião pública e alterar compreensão da realidade |
Foto falsa do papa viraliza, criada com programa Midjourney da IA |
Últimas versões de programas estão cada vez melhores em criar imagens quase fotorealistas |
Possibilidade de instabilidade política e danos à sociedade |
Esperança de normas de proteção ao público e novas leis relacionadas ao tema |
Com informações do site Yahoo News.