Surge preocupação com disseminação de imagens geradas por inteligência artificial nas redes sociais
Na última semana, diversas imagens geradas por inteligência artificial (IA) foram divulgadas nas redes sociais, deixando muitos preocupados com a disseminação de mídias criadas por computador. As imagens variavam de muito falsas a convincentemente reais, alertando sobre o surgimento de uma nova leva de ferramentas baratas e fáceis de usar que permitem a criação de imagens realistas, áudios e vídeos.
Embora essas ferramentas permitam novos meios de expressão da criatividade, a disseminação das mídias geradas por computador também ameaça a poluir ainda mais o ecossistema da informação. A possibilidade de que os criadores usem as imagens geradas por IA para assédio ou até mesmo para afastar ainda mais os internautas no mundo online é motivo de preocupação. Essas vulnerabilidades colocam em xeque usuários, organizações jornalísticas e plataformas de redes sociais na hora de verificar o que é real e o que não é nas informações.
As imagens geradas por computador são especialmente poderosas em provocar emoções nas pessoas que as veem, sendo muito eficazes para prender atenção em um primeiro momento e dificultando a análise crítica do material visto. Embora muitas vezes usados com benignidade, senso de humor ou até mesmo para fins artísticos, esses softwares estão disponíveis indiscriminadamente na internet e precisam passar por regulações mais altas para prevenir mal-uso ou manipulação perigosa.
A tecnologia de imagem gerada por computador tem sido utilizada desde fotos forjadas dentro do Photoshop até o surgimento de páginas da internet criando imagens não identificáveis de pessoas que nunca existiram. Mas agora as ferramentas estão tão acessíveis e poderosas que é difícil dizer se aquilo que estamos vendo, ouvindo ou lendo de fato ocorreu.
Embora algumas plataformas já possuam políticas que proíbem a criação e disseminação de mídias manipuladas, é necessário melhorar tais diretrizes para discernir informações genuínas das geradas por computadores. A ideia é criar regras capazes de garantir transparência na mídia gerada a partir da IA e estabelecer parâmetros para proteger empresas e usuários contra uso indevido ou perigoso dessa tecnologia.
Notícia |
---|
Diversas imagens geradas por inteligência artificial (IA) foram disseminadas nas redes sociais na última semana, algumas convincentemente reais e outras muito falsas, alertando para a ameaça da disseminação de mídias criadas por computador. Essas ferramentas permitem novos meios de expressão da criatividade, mas também ameaçam poluir ainda mais o ecossistema da informação. |
A possibilidade de uso dessas imagens para assédio ou manipulação perigosa é motivo de preocupação, colocando em xeque a veracidade das informações. As imagens geradas por computador são especialmente poderosas em provocar emoções nas pessoas que as veem, dificultando a análise crítica do material visto. |
Embora muitas vezes usados com benignidade, esses softwares estão disponíveis indiscriminadamente na internet e precisam passar por regulações mais altas para prevenir mal-uso ou manipulação perigosa. As plataformas de redes sociais precisam melhorar suas políticas para discernir informações genuínas das geradas por computadores e estabelecer parâmetros para proteger empresas e usuários contra uso indevido ou perigoso dessa tecnologia. |
Com informações do site CNN.