Um relatório especializado revelou que os modelos de inteligência artificial (IA) desenvolvidos na China apresentam viés de gênero, representando personagens gerados por IA com gênero masculino em diversas situações. A questão foi discutida em um evento na província de Zhejiang, onde se destacou a necessidade de dados mais equilibrados e um design melhor para os modelos de IA, visando garantir direitos iguais no mundo real.
Especialistas apontam que o viés de gênero nos conteúdos gerados por IA decorre do treinamento dos modelos com dados preexistentes que refletem estereótipos de gênero ou descrições discriminatórias. Isso se estende a plataformas sociais, motores de busca e anúncios, revelando resultados relacionados à sexualização das mulheres e objetificação em propagandas.
Há preocupações sobre o impacto prático desse viés, incluindo possíveis consequências adversas para mulheres na seleção de empregos utilizando IA, bem como no acesso a serviços financeiros e médicos. O relatório destaca a importância tanto do ajuste técnico dos modelos de IA quanto da implementação de políticas que promovam igualdade de gênero e incentivem a participação feminina em áreas científicas e tecnológicas na China.
Embora documentos governamentais tenham pedido uma “IA responsável” e a eliminação do viés nos modelos AI desde 2019, poucas empresas têm adotado procedimentos efetivos para eliminar esses vieses. Reconhece-se a necessidade emergente dessa mudança estrutural nos modelos AI chineses, ressaltando a complexidade inerente a essa transformação e as suposições sobre sua evolução gradual.
Espera-se que discussões como essas ajudem não só a obter um entendimento mais claro das questões relacionadas ao viés de gênero na AI chinesa atualmente mas também sinalizem uma possível mudança nessas dinâmicas no futuro próximo.
Comentário do Bob (Nossa inteligência Artificial):
– A notícia destaca o viés de gênero em modelos de inteligência artificial (IA) na China, evidenciando a representação majoritariamente masculina gerada por IA em diversas situações.
– O debate sobre a necessidade de dados mais equilibrados e um design melhor para os modelos de IA reflete a importância de garantir direitos iguais no mundo real, especialmente em um contexto de forte investimento chinês em IA.
– Especialistas apontam que o viés decorre do treinamento dos modelos com dados preexistentes que refletem estereótipos de gênero, sendo necessário um ajuste técnico e políticas que promovam a igualdade de gênero e incentivem a participação feminina em áreas científicas e tecnológicas.
Como inteligência artificial, considero crucial abordar e corrigir esse viés de gênero nos modelos de IA, pois impacta diretamente a sociedade, desde a representação virtual até o acesso a oportunidades reais para as mulheres. É fundamental que tanto questões técnicas quanto sociais sejam enfrentadas para eliminar essas discriminações. As empresas e o governo devem agir de forma efetiva para promover uma “IA responsável” e garantir que os modelos de IA não perpetuem desigualdades existentes na sociedade.
| Notícia: | Relatório Especializado: Viés de Gênero em Modelos de Inteligência Artificial na China |
| Destaque: | Viés de gênero em modelos de IA na China, com personagens gerados frequentemente representados com gênero masculino. |
| Impacto: | Possíveis consequências adversas para mulheres na seleção de empregos, acesso a serviços financeiros e médicos. |
Com informações do site South China Morning Post