Desenvolvimentos recentes em inteligência artificial (IA) levantam preocupações e aumentam a necessidade de regulamentação, segundo especialistas. A IA já está presente em diversos negócios, desde a monitoração de compressão de gás até avanços médicos. No entanto, a rápida evolução da IA tem gerado discussões sobre sua segurança, levando à emissão de uma carta aberta pelo Future of Life Institute.
A carta afirma que poderosos sistemas de IA devem ser desenvolvidos somente quando seus efeitos forem positivos e seus riscos gerenciáveis. Mais de 24.000 assinaturas já foram coletadas até esta quinta-feira. Mas, de acordo com o advogado empresarial David Miller, definir o que é IA é difícil, o que torna a regulamentação ainda mais complicada.
Legislações e regulamentações em áreas especializadas como a IA geralmente são definidas pelos tribunais. Em 2022, foram instaurados mais de 100 processos judiciais envolvendo IA, dez vezes mais do que há cinco anos, segundo Miller. No entanto, as associações industriais podem estabelecer padrões para o uso da IA; ainda que seja um processo trabalhoso que depende da cooperação dos concorrentes.
Uma pesquisa global realizada pela Progress revela que 65% dos executivos empresariais e de TI acreditam que existe um viés nos dados da empresa, enquanto 78% creem que isso se tornará uma maior preocupação à medida que o uso da IA e machine learning aumentar.
Os algoritmos de IA e machine learning são tão bons quanto os dados utilizados para criá-los. Se os conjuntos de dados estiverem defeituosos ou pior, tendenciosos, suposições incorretas serão incorporadas em cada decisão decorrente.
As consequências de práticas empresariais baseadas em dados tendenciosos de IA podem ser graves para aqueles afetados negativamente. Uma varejista famosa descobriu que um algoritmo falho contratava apenas homens para cargos tecnológicos em aberto, excluindo candidatas qualificadas mulheres. Uma instituição financeira se encontrou rejeitando candidatos a empréstimos qualificados incorretamente por uma ferramenta de AI falha, discriminando pelo CEP do solicitante. Uma empresa que utiliza AI para conceder elegibilidade no ramo da saúde incorretamente atribuiu uma categoria menor de risco à pacientes negros, negando-lhes o cuidado adequado a que tinham direito e levando a um resultado médico adverso.
Miller reconhece os benefícios do uso da IA no campo legal, como buscar casos relevantes. No entanto, ele também sabe de meia dúzia de casos em que a IA foi usada na elaboração do testamento ou contrato, mas o documento provou ser insuficiente. Isso suscita a questão: Quem é responsável – o usuário ou o provedor do documento?
Em conclusão, a IA já está presente em diversos negócios e indústrias ao redor do mundo, contudo as preocupações sobre seus efeitos colaterais têm crescido na sociedade. A regulamentação da IA é um assunto espinhoso devido à falta de definição clara do termo e das limitações entre as leis que afetam essa tecnologia. Enquanto isso, dados tendenciosos envolvendo parte da população podem levar a danos significativos. Empresas que utilizam sistemas de IA precisarão lidar com esses riscos ao adotarem essa tecnologia. É um desafio para todos nós lidarmos com ele.
Resumo da Notícia |
---|
Desenvolvimentos recentes em IA estão acontecendo rapidamente demais para serem seguros, segundo carta aberta do Future of Life Institute. |
Regulamentar a IA é difícil devido à falta de definição clara do termo e das limitações entre as leis que afetam essa tecnologia. |
65% dos executivos empresariais e de TI acreditam que existe um viés nos dados da empresa, enquanto 78% creem que isso se tornará uma maior preocupação à medida que o uso da IA e machine learning aumentar. |
Dados tendenciosos envolvendo parte da população podem levar a danos significativos, como discriminação em processos seletivos ou na saúde. |
Com informações do site Journal Record.