Imagens falsas de personalidades como o Papa Francisco, Elon Musk e Donald Trump foram geradas por inteligência artificial (IA), chamando a atenção para a preocupante facilidade e baixo custo de criação de imagens realistas. Contudo, a disseminação dessas imagens pode ameaçar a integridade das informações online, assediar indivíduos e fomentar a divisão entre usuários da internet.
Henry Ajder, especialista em mídia sintética que trabalha como consultor para empresas e agências governamentais na Europa, alerta que, devido ao grande volume de conteúdo falso altamente realista na internet, “a maioria das pessoas seguirá seus instintos tribais como base para o que acham que é real, em vez de opiniões informadas com base em evidências verificadas.”
As imagens geradas por computador podem ter um impacto ainda maior do que textos gerados por IA na hora de provocar emoções em quem as vê. Em alguns casos, a poderosa visualização pode ser realmente prejudicial, levando as pessoas a não avaliar o que estão vendo.
Para combater esse problema, empresas como Facebook, Instagram, Twitter e YouTube já têm políticas e regras para evitar a propagação de conteúdo manipulado ou falso. No entanto, novas ferramentas sempre surgem, tornando difícil para esses mecanismos detectar tudo automaticamente.
Parceria em Inteligência Artificial
A Parceria em Inteligência Artificial, em colaboração com empresas como OpenAI (criadora do ChatGPT), TikTok, Adobe, Bumble e BBC, desenvolveu práticas responsáveis para evitar os males da mídia sintética. Entre essas práticas estão recomendações sobre como divulgar se uma imagem foi gerada por IA e como compartilhar dados sobre esse tipo de imagem. Um grupo de líderes tecnológicos, incluindo Elon Musk e Steve Wozniak, também escreveu uma carta aberta destacando questões importantes sobre a segurança digital.
Notícia | |
---|---|
Na última semana, imagens de inteligência artificial (IA) geradas por computador viralizaram na internet. Algumas das imagens eram claramente falsas, enquanto outras pareciam convincentemente reais e enganaram alguns usuários das redes sociais. Entre as figuras retratadas nas imagens geradas por computador estavam o Papa Francisco usando um grande casaco acolchoado branco, Elon Musk caminhando de mãos dadas com a CEO da GM, Mary Barra, e o ex-presidente dos EUA, Donald Trump sendo detido pela polícia. Embora nenhuma dessas situações seja real, as imagens geradas por IA criaram manchetes nas notícias, com várias organizações jornalísticas correndo para desmenti-las. | |
Impacto | Medidas de proteção |
As imagens geradas por computador podem ter um impacto ainda maior do que textos gerados por AI na hora de provocar emoções em quem as vê. Em alguns casos, a poderosa visualização pode ser realmente prejudicial, levando as pessoas a não avaliar o que estão vendo. | Empresas como Facebook, Instagram, Twitter e YouTube já têm políticas e regras para evitar a propagação de conteúdo manipulado ou falso. No entanto, como sempre surgem ferramentas novas e mais avançadas, torna-se difícil para esses mecanismos detectarem tudo automaticamente. A Parceria em Inteligência Artificial, em colaboração com empresas como OpenAI (criadora do ChatGPT), TikTok, Adobe, Bumble e BBC, desenvolveu práticas responsáveis para evitar os males da mídia sintética. Esses padrões incluem recomendações sobre como divulgar se uma imagem foi gerada por IA e como compartilhar dados sobre esse tipo de imagem. Além disso, um grupo de líderes tecnológicos – incluindo Elon Musk e Steve Wozniak – escreveu uma carta aberta destacando importantes questões sobre segurança digital. |
Com informações do site CNN.