Relatório mostra que algoritmos de AI podem ser precisos e transparentes
Um novo relatório apresenta resultados surpreendentes sobre a relação entre precisão e explicabilidade em algoritmos de inteligência artificial (AI). Contrariando a crença de que algoritmos mais complexos são menos precisos, pesquisas recentes demonstraram que em 70% dos casos, algoritmos mais explicáveis produziram resultados tão precisos quanto aqueles que eram menos compreensíveis. A pesquisa analisou quase 100 conjuntos de dados diferentes.
No passado, algoritmos “caixa-preta”, sem transparência e explicações claras, eram comuns em áreas como análise de crédito e diagnósticos médicos. No entanto, esses algoritmos opacos são frequentemente associados a problemas relacionados a preconceitos, equidade e confiança do usuário. Apesar disso, muitas organizações ainda investem nesses sistemas porque assumem que eles são superiores aos mais simples e explicáveis.
Os cientistas de dados envolvidos na pesquisa diferenciaram os modelos de AI “caixa-branca” e “caixa-preta”. Os modelos caixa-branca incluem apenas algumas regras ou parâmetros, enquanto os modelos caixa-preta utilizam centenas ou milhares de árvores de decisão ou bilhões de parâmetros para informar suas saídas. É difícil para os seres humanos entenderem como esses algoritmos funcionam, o que pode ser um problema crítico quando se trata da tomada de decisões importantes.
A pesquisa sugere que as organizações devem escolher o modelo certo antes de adotar um algoritmo. Primeiramente, recomenda-se utilizar modelos mais simples como referência para determinar se os modelos complexos realmente se justificam. Além disso, a análise dos dados também é crucial na escolha do tipo de modelo. Em algumas situações, um modelo caixa-preta pode fornecer melhores resultados em casos de dados complexos e multimídia, como imagens ou áudio.
No entanto, quando a transparência é importante para manter a confiança do usuário ou quando uma abordagem justa é necessária para assegurar decisões imparciais, é importante priorizar a explicabilidade, mesmo que o uso de modelos caixa-preta pareça tentador. Em suma, a pesquisa sugere que nem sempre há um trade-off entre precisão e explicabilidade em algoritmos de AI. É possível encontrar soluções mais simplistas e transparentes se forem consideradas atentamente as características dos dados e as necessidades da organização que os utiliza como base para tomada de decisões importantes.
Assunto | Resumo |
---|---|
Relação entre precisão e explicabilidade em algoritmos de AI | Em 70% dos testes realizados, algoritmos mais explicáveis produziram resultados tão precisos quanto os menos compreensíveis. A escolha do modelo certo é crucial para garantir transparência e confiança do usuário. |
Modelos caixa-branca x caixa-preta | Os modelos caixa-branca incluem poucas regras ou parâmetros, enquanto os modelos caixa-preta utilizam centenas ou milhares de árvores de decisão ou bilhões de parâmetros. A escolha do tipo de modelo depende das características dos dados e das necessidades da organização. |
Transparência e confiança do usuário | Em situações em que a transparência é importante para manter a confiança do usuário ou quando uma abordagem justa é necessária para assegurar decisões imparciais, é importante priorizar a explicabilidade mesmo que o uso de modelos caixa-preta pareça tentador. |
Com informações do site HBR.org Daily.