AI cria imagens virais falsas e ameaça veracidade online

Welcome to the era of viral AI generated ‘news’ images

Imagens geradas por Inteligência Artificial (IA) viralizaram pelas redes sociais na última semana, algumas tão convincentes que enganaram usuários da internet. Entre elas, o Papa Francisco vestindo um enorme casaco branco, Elon Musk caminhando de mãos dadas com a CEO da rival GM Mary Barra e até mesmo a prisão dramática do ex-presidente Donald Trump – todas falsas. A situação expõe uma nova realidade online: a ascensão de ferramentas de IA que facilitam a criação de imagens realistas, além de áudios e vídeos. E esse problema só deve se agravar.

Embora essas ferramentas permitam novos meios para expressar criatividade, a propagação dessas mídias geradas por computador implica riscos à verificação do que é real ou falso na internet. Há preocupação também quanto ao uso dessas imagens em assédio e divisão dos usuários da rede.

Imagens geradas por IA possuem grande poder emocional e podem prejudicar na avaliação sobre sua veracidade. Além disso, profissionais ruins-intencionados podem criar grandes quantidades de conteúdo falso para confundir os usuários da internet e provocar determinados comportamentos.

As tecnologias para criar imagens geradas por computador têm avançado rapidamente nos últimos anos. As mais recentes são produzidas pela plataforma Midjourney. Em uma simples busca no Facebook é possível encontrar desde o Papa Francisco aparentemente embriagado até versões idosas de Elvis e Kurt Cobain, animais exóticos e Elon Musk vestindo roupas cibernéticas.

A Midjourney é um serviço popular para a criação de imagens geradas por IA, disponível apenas para usuários pagantes. A empresa tem se esforçado para garantir que o uso de sua plataforma seja moderado e seguindo as diretrizes de bom comportamento. As redes sociais Facebook, Instagram, Twitter e YouTube têm políticas que restringem ou proíbem a compartilhar mídias manipuladas que possam levar à desinformação do usuário. Ainda assim, à medida que essas tecnologias aumentarem, mesmo essas políticas poderão não ser suficientes.

Para melhorar a transparência em relação a qual conteúdo foi gerado por computador, estão sendo feitos trabalhos nessa área como marca d´água nas imagens ou inclusão de um rótulo transparente nos metadados das imagens. Também foram criadas práticas responsáveis para produção de mídias sintéticas pelo Partnership on AI com recomendações sobre como revelar que uma imagem foi produzida por IA e como empresas podem compartilhar dados sobre essas imagens.

Os gestores das redes sociais se preocupam cada vez mais em promover um uso ético da Tecnologia da Informação pela criação de políticas preventivas ao uso indevido dos serviços on-line.

Com informações do site CNN.