Imagens geradas por inteligência artificial (AI) chamam a atenção nas redes sociais.
Recentemente, imagens como a do Papa Francisco com um casaco branco gigante ou Donald Trump detido pela polícia, ambas geradas por AI, viralizaram e enganaram alguns usuários das redes sociais. A situação evidencia uma nova realidade online: a ascensão de uma nova safra de ferramentas de inteligência artificial que tornou mais barato e fácil do que nunca criar imagens realistas.
O rápido avanço da tecnologia de imagem gerada por computador preocupa especialistas em mídias sintéticas. Henry Ajder, consultor para empresas e agências governamentais, teme que um futuro próximo possa chegar ao ponto em que haverá tanto conteúdo fake altamente realista online que a maioria das pessoas irá confiar em suas ideologias tribais sobre o que é real. Além disso, há a preocupação de que as imagens geradas por AI possam ser usadas para assédio ou para incrementar ainda mais rachas entre os usuários da internet.
Segundo Claire Leibowicz, chefe de AI e integridade da mídia na Partnership on AI, organização sem fins lucrativos da indústria, as imagens geradas por AI podem ser especialmente poderosas na provocação de emoções quando vistas pelas pessoas.
Plataformas e empresas de tecnologia estão se esforçando para melhorar a transparência em torno da criação do conteúdo gerado por computador. Metas como Facebook e Instagram, Twitter e YouTube têm políticas que restringem ou proíbem o compartilhamento de mídia manipulada que possa levar os usuários a engano. Dentro desse contexto, existe o desenvolvimento de práticas de segurança específicas, como a marca d’água na imagem ou um rótulo transparente nos metadados da imagem, para que qualquer pessoa que a visualize na internet saiba que ela foi criada por um computador.
Novas práticas padrão
A Partnership on AI desenvolveu um novo conjunto de práticas padrão e responsáveis para a mídia sintética juntamente com parceiros como o ChatGPT-creator OpenAI, TikTok, Adobe, Bumble e a BBC. Incluem recomendações sobre como divulgar as imagens criadas pela IA e compartilhar dados úteis sobre elas.
Embora as ferramentas da AI possam permitir novos meios de expressão artísticas, a disseminação dessas imagens geradas por computador também ameaça ainda mais poluir o ecossistema informativo. Isso acrescenta aos desafios para usuários das redes sociais, organizações jornalísticas e plataformas de mídias sociais selecionando o que consideram autêntico após anos lutando contra desinformações online apresentando visuais considerados menos sofisticados.
Notícia |
---|
As imagens geradas por inteligência artificial (AI) estão cada vez mais realistas e podem ser enganosamente convincentes, o que preocupa especialistas em mídias sintéticas. |
O rápido avanço da tecnologia de imagem gerada por computador nos últimos anos pode levar a uma nova realidade online, na qual a maioria das pessoas irá confiar em suas ideologias tribais sobre o que é real. |
Existe a preocupação de que as imagens geradas por AI possam ser usadas para assédio ou para incrementar ainda mais rachas entre os usuários da internet. |
Plataformas como Facebook, Instagram, Twitter e YouTube têm políticas que restringem ou proíbem o compartilhamento de mídia manipulada que possa levar os usuários a engano. |
Uma nova solução técnica sugerida é a marca d’água na imagem ou um rótulo transparente nos metadados da imagem, para que qualquer pessoa que a visualize na internet saiba que ela foi criada por um computador. |
A Partnership on AI desenvolveu um novo conjunto de práticas padrão e responsáveis para a mídia sintética juntamente com parceiros como o ChatGPT-creator OpenAI, TikTok, Adobe, Bumble e a BBC. |
A disseminação dessas imagens geradas por computador ameaça ainda mais poluir o ecossistema informativo, acrescentando aos desafios para usuários das redes sociais, organizações jornalísticas e plataformas de mídias sociais selecionando o que consideram autêntico após anos lutando contra desinformações online apresentando visuais considerados menos sofisticados. |
Com informações do site CNN.