Transparência de Dados é Essencial para Gerenciar Ferramentas de IA

Gerenciamento de ferramentas de IA requer mais transparência de dados

A inteligência artificial (IA) foi o tema central do Enterprise Connect 2023, destacando sua capacidade de melhorar experiências e facilitar a vida das pessoas. Presente em diversos produtos atualmente, a IA promete se tornar ainda mais presente no futuro.

Um exemplo impressionante do uso da IA é sua aplicação no auxílio aos agentes de centrais de atendimento. Ao analisar uma conversa, a IA pode fornecer documentos necessários ou sugerir os próximos passos para o agente, incluindo a análise das emoções na voz e sugestões de respostas.

No entanto, para que isso seja possível, é necessário treinar a IA com conjuntos de dados extensos. Alguns modelos de IA são treinados com informações disponíveis na internet, Reddit ou registros de chamadas. A decisão sobre quais dados utilizar não é tomada pela organização que implementa a ferramenta de IA.

Ao implantar produtos e serviços com IA incorporada, as organizações precisam garantir que evitem consequências indesejadas causadas por algoritmos tendenciosos, treinamentos falhos ou parâmetros incompletos. Restringir o acesso da IA aos dados pode prevenir problemas como o compartilhamento de informações falsas ou fabricadas pelo ChatGPT, por exemplo.

Mas como uma organização realmente gerencia os resultados de uma solução de IA? Quem monitora a IA e faz correções e ajustes? Recentemente, o Snapchat lançou uma IA destinada a ser segura para uso por adolescentes criando “guardrails” (limites) de proteção. No entanto, ainda assim ela produziu resultados completamente inadequados relacionados ao consumo de álcool, drogas e sexo.

Desde 2017, ficou evidente que as máquinas têm conhecimento que nunca poderemos compreender. Como um artigo da revista Wired observou, “O que sabemos depende da saída das máquinas cujo funcionamento não podemos acompanhar, explicar ou entender.”

“Estamos cada vez mais dependentes de máquinas que geram conclusões a partir de modelos que elas próprias criaram, modelos muitas vezes além do entendimento humano, modelos que ‘pensam’ sobre o mundo de forma diferente do que nós,” afirma o tecnólogo David Weinberger.

Os modelos de linguagem avançados (LLMs), como o ChatGPT e outros, estão exibindo um fenômeno imprevisível. Eles possuem capacidades e conhecimentos que nunca foram programados, como raciocínio em etapas múltiplas. “Pesquisadores estão se esforçando para identificar habilidades emergentes adicionais e também descobrir por que e como elas ocorrem.”

Os modelos de IA se tornaram verdadeiras “caixas pretas” capazes de realizar funções analíticas que seus criadores humanos não conseguem explicar ou compreender.

Como uma organização pode gerenciar algo assim? Ou solucionar problemas? Para resolver um problema, é preciso entender por que e como ele ocorreu. Isso é impossível com uma “caixa preta”.

A promessa da IA é imensa. No entanto, ao implantar produtos e serviços com IA incorporada, as organizações precisam ter certeza de que podem controlar os resultados e a experiência.

Com informações do site No Jitter.