Uso da Inteligência Artificial pode ter consequências negativas para as mulheres, alertam especialistas em audiência no Senado dos EUA
Especialistas em tecnologia alertaram sobre o uso da Inteligência Artificial (IA) contra as mulheres em uma audiência no Senado dos Estados Unidos. Embora os participantes tenham discutido vários tópicos relacionados à IA, o senador Richard Blumenthal (D-Conn.) afirmou que pretende abordar especificamente esse assunto em próximas reuniões, já que casos nos quais a IA é usada contra mulheres são cada vez mais frequentes.
Um dos problemas é a ameaça representada pelas deepfakes – imagens ou vídeos manipulados em que fotos de mulheres são colocadas em situações constrangedoras ou violentas sem seu consentimento. Isso representa uma forma muito potente de assédio, especialmente para mulheres públicas cujas imagens estão disponíveis online. Kristen Lorene Zaleski, diretora de Saúde Mental Forense e Assistente Social Clínica Licenciada do Keck Human Rights Clinic, afirmou que o risco vem crescendo precisamente pela rapidez no acesso à tecnologia necessária para essa manipulação.
Blumenthal sugeriu que uma regulamentação governamental pode ser a solução. Outros países, como o Reino Unido e a Austrália, já possuem leis que criminalizam o uso dessas imagens para assediar alguém.
Além disso, a IA pode reproduzir preconceitos de gênero em termos de contratação e perpetuar vícios culturais a nível de decisões algorítmicas. Um estudo do The Guardian descobriu que os algoritmos utilizados pelo Instagram e pelo LinkedIn decidem sobre o conteúdo promovido ou não promovido em parte com base em quanto as fotos relacionadas à postagem são sexualmente sugestivas. Mas quando as comparações continham homens e mulheres vestidos em trajes íntimos semelhantes, as fotos femininas eram consideradas muito mais sexuais – com postagens femininas tendo maiores chances de serem censuradas.
Esses problemas levantam questões importantes: existe uma regulamentação suficiente para limitar os danos causados pela IA? O desenvolvimento da IA deve ser interrompido até que seja encontrada uma solução viável para esses problemas? Alguns setores podem estar sendo mais afetados do que outros? De que forma as mulheres em particular são afetadas pela IA? Estas são questões que merecem ser debatidas com urgência e atenção tanto pelo público quanto pelo governo.
| Problema | Impacto nas mulheres | Solução proposta |
|---|---|---|
| Deepfakes | Imagens ou vídeos manipulados em que fotos de mulheres são colocadas em situações constrangedoras ou violentas sem seu consentimento. | Regulamentação governamental, como já ocorre no Reino Unido e na Austrália. |
| Perpetuação de vícios culturais | Algoritmos utilizados pelo Instagram e LinkedIn decidem sobre o conteúdo promovido ou não promovido em parte com base em quanto as fotos relacionadas à postagem são sexualmente sugestivas. Fotos femininas são consideradas muito mais sexuais, com postagens femininas tendo maiores chances de serem censuradas. | Regulamentação governamental para evitar perpetuação de preconceitos de gênero. |
| Preconceitos de gênero em contratação | Amazon precisou abandonar um instrumento de recrutamento automático após ficar evidente que o software dava preferência a candidatos homens. | Regulamentação governamental para evitar preconceitos de gênero em processos seletivos. |
| Lacunas no acesso aos dados médicos | Tornam menos precisos aplicativos médicos que usam IA. | Regulamentação governamental para garantir acesso igualitário aos dados médicos. |
Com informações do site POLITICO.