Adobe reflete sobre ética das imagens geradas por IA e remuneração de colaboradores
A confiança em informações visuais e auditivas pode ser prejudicada com o avanço da inteligência artificial (IA), alerta Dana Rao, conselheira geral e diretora de confiança da Adobe. Isso pode colocar a democracia em risco, já que a falta de acordo sobre fatos básicos é prejudicial para a sobrevivência democrática. A plataforma Firefly e o criador de imagens geradas por IA, GenAI, tornam essa questão ainda mais crucial.
Debates éticos sobre IA na Adobe
A Adobe, envolvida na economia criativa e de marketing, tem foco no uso da IA gerativa para ajudar profissionais a criar conteúdo impactante. No entanto, a empresa destaca questões éticas relacionadas à IA, como discutido na Adobe Summit deste ano. Desde 2016 a empresa revisa cada funcionalidade antes de lançá-la ao mercado, a fim de garantir segurança comercial e ausência de preconceitos.
Para isso, a Adobe utiliza imagens abertas e de domínio público para treinar seus modelos AI e também agrega imagens do serviço Adobe Stock, produzidas pelos fotógrafos parceiros com caráter seguro para uso comercial dos clientes. Mas surgem questionamentos acerca do pagamento aos fotógrafos pelo uso de suas colaborações na plataforma. A Adobe está estudando soluções para remunerá-los, como um sistema de IA que analisa uma imagem e especula qual é o seu estilo para fins de compensação dos artistas.
Copyright de imagens geradas pela IA
Uma questão interessante é o copyright de imagens geradas pela IA, já que elas não têm um proprietário humano. Iniciativas como a Content Authenticity Initiative estão trabalhando no desenvolvimento de padrões e ferramentas para rastrear como uma imagem foi criada e manipulada ao longo do tempo, a fim de combater deepfakes e desinformação e permitir que empresas mostrem sua própria expressão em uma imagem gerada pela IA.
Notícia | O mundo está chegando a um ponto crítico no qual a inteligência artificial (IA) pode quebrar a confiança do que você vê e ouve, afirmou Dana Rao, conselheira geral e diretora de confiança da Adobe. |
---|---|
Implicações | A falta de concordância sobre fatos básicos pode colocar em risco a sobrevivência democrática. |
Debate ético | A Adobe tem um programa cuidadoso de ética na utilização da IA desde 2016, revisando cada funcionalidade antes de ir ao mercado para garantir segurança comercial e ausência de preconceito. |
Uso de imagens | A Adobe utiliza imagens abertas e licenciadas para treinar seus modelos AI e garante a diversidade dos grupos populacionais através de parcerias comerciais com fotógrafos. |
Remuneração de fotógrafos | A empresa está estudando soluções para remunerar os fotógrafos por sua colaboração e analisa modelos especulativos como um sistema de IA para analisar e compensar o estilo das imagens. |
Copyright de imagens geradas pela IA | Iniciativas como a Content Authenticity Initiative estão desenvolvendo padrões e ferramentas para rastrear a criação e manipulação de imagens geradas pela IA e permitir que empresas mostrem sua própria expressão adicionada a elas. |
Descoberta de nova espécie de dinossauro no Brasil
Com informações do site G1.