Vítimas de crimes reais em deepfakes de IA são um pesadelo
Um novo tipo de vídeo está chamando a atenção no TikTok: deepfakes de vítimas de crimes reais. São vídeos produzidos por meio de inteligência artificial que mostram pessoas fictícias contando histórias verdadeiras e horripilantes, muitas envolvendo crianças pequenas. O problema é que essas vítimas nunca deram permissão para terem suas histórias contadas dessa forma.
A conta @truestorynow tem quase 50.000 seguidores e publica vídeos desse tipo. Um deles mostra uma bebê com olhos azuis gigantes e uma faixa de cabelo floral no topo da cabeça. Ela afirma ser Royalty Marie Floyd, que foi encontrada esfaqueada e queimada dentro de um forno na casa da avó em Mississippi em 2018 – a avó foi acusada de assassinato consumado este ano. O problema é que a bebê é uma criação da IA e não existe na vida real.
Embora muitas contas avisem que as imagens utilizadas são fictícias e destinam-se a “respeitar as famílias”, alguns vídeos exploram imagens reais de vítimas famosas, como Elisa Izquierdo e Star Hobson.
Ética questionável
O surgimento desses deepfakes levanta questões éticas para o gênero de verdadeiro crime em geral. Muitos críticos do gênero questionam o consumo de histórias horríveis como forma de entretenimento, conforme surgem novos legiões de entusiastas deste tipo de conteúdo. Há preocupação crescente em torno da potencial revitimização dos entes queridos das vítimas e das complicações legais desta nova linguagem.
Alguns produtores desses vídeos alteram as aparências dos rostos para cumprir com as diretrizes da comunidade que proíbem a criação de deepfakes, mas com a tecnologia IA evoluindo rapidamente, é provável que essas produções se tornem ainda mais avançadas e precisas. Portanto, fica a pergunta: onde isso vai parar?
| Notícia |
|---|
Uma bebê com olhos azuis gigantes e uma faixa de cabelo floral no topo de sua cabeça apareceu em um vídeo no TikTok, afirmando ser Rody Marie Floyd, que foi colocada em um forno a 230 graus Celsius por sua avó quando tinha apenas 21 meses de idade. No entanto, a bebê é criada por inteligência artificial e a história é baseada em fatos reais de uma menina chamada Royalty Marie, que foi encontrada esfaqueada e queimada dentro de um forno em Mississippi em 2018. A avó foi acusada de assassinato consumado este ano. Os vídeos de IA envolvem vítimas do crime falando sobre os detalhes horríveis das mortes, o que levanta questões éticas para o gênero de verdadeiro crime em geral. |
Com informações do site Rolling Stone.