Comitê Nacional Republicano cria deepfake em anúncio e levanta questões sobre regulação de IA
A Inteligência Artificial (IA) tem sido cada vez mais utilizada para criar deepfakes, imagens e vídeos falsos gerados por IA, o que levanta questionamentos sobre como regular essa tecnologia. O Comitê Nacional Republicano lançou um anúncio que utiliza IA para imaginar o cenário do segundo mandato do presidente Joe Biden, com uma série de crises fictícias ilustradas com imagens e notícias falsas. Isso é apenas um exemplo de como a IA pode confundir a linha entre realidade e ficção.
Embora existam soluções técnicas para distinguir conteúdo gerado por IA de conteúdo humano feito manualmente, como ferramentas de software que podem detectar produção por IA e a possibilidade de marcar imagens ou textos criados pela IA, essas soluções não são infalíveis. Por isso, especialistas sugerem uma combinação de abordagens, incluindo regulamentação legal, pelo menos nas áreas mais críticas.
Alguns estados americanos já proibiram certos tipos de deepfakes, principalmente pornografia, enquanto na União Europeia, um conjunto de regras está sendo estabelecido para colocar limites sobre como a IA pode ser usada. No entanto, as empresas de tecnologia estão disponibilizando ferramentas de IA para bilhões de pessoas e incorporando-as em aplicativos e softwares, o que significa que o discernimento entre fatos reais e ficção fantasiosa requer consumidores mais astutos.
De acordo com o professor de ciência da computação da Universidade de Princeton, Arvind Narayanan, é necessário olhar para as maneiras existentes de mitigar esses riscos e pensar em como adaptá-los à IA. Irene Solaiman, especialista em segurança e políticas na empresa Hugging Face, ressalta que muitos dos problemas que estamos vendo com a IA não são apenas problemas técnicos, mas também sobre como nós, como sociedade, respondemos a essas ferramentas.
Em suma, é importante entender as limitações das soluções técnicas existentes e o papel da lei na prevenção do uso indevido da IA. Ainda mais importante é aumentar a alfabetização das pessoas em relação ao conteúdo gerado por IA: as audiências devem ser críticas com relação às informações apresentadas por meio das mídias antes de aceitá-las como fatos verdadeiros.
Notícia | Inteligência artificial (IA) está cada vez melhor ao imitar a realidade, tendo em vista as recentes criações de deepfakes – imagens e vídeos falsos criados por IA. |
---|---|
Problemas técnicos | Existem problemas técnicos no desenvolvimento de soluções adequadas para distinguir conteúdo gerado por IA de conteúdo humano feito manualmente. |
Abordagens sugeridas | Combinação de abordagens, incluindo regulamentação legal, pelo menos nas áreas mais críticas. |
Lei | A lei pode impedir deepfakes não consensuais e direcionados a funcionários eleitorais ou candidatos a cargos políticos. |
Empresas de tecnologia | As empresas de tecnologia estão disponibilizando suas ferramentas de IA para bilhões de pessoas e incorporando-as em aplicativos e softwares. |
Importância da alfabetização das pessoas | À medida que deepfakes se tornam cada vez mais sofisticados, é importante aumentar a alfabetização das pessoas em relação ao conteúdo gerado por IA. |
Com informações do site NPR.