Inteligência artificial

Como tornar contestável uma recomendação produzida por IA?

Por Renato Toi • Baita Aceleradora

O gestor discordou da recomendação da IA e tinha razão: o valor pertencia a outro trimestre. Quanto trabalho ele teve para provar isso? A resposta diz bastante sobre a qualidade do processo.

Comece exibindo os registros usados, o período, a versão da regra e o responsável pela decisão. Quem discorda precisa conseguir indicar o dado incorreto e o motivo, preservando a recomendação original para comparação. Quando a fonte muda, a equipe pode reconstruir o contexto em que a decisão anterior foi tomada.

Faça um teste com um dado deliberadamente desatualizado em ambiente de ensaio. A pessoa encarregada consegue localizar a divergência e encaminhar a correção? Quanto tempo leva até que a resposta corrigida chegue a quem decidiu? A rastreabilidade tem valor quando reduz esse esforço, especialmente em rotinas nas quais uma justificativa errada pode ser repetida por vários departamentos. Quem assume a decisão precisa ter meios para contestar a recomendação e corrigir o registro.

Base

O NIST aborda riscos e avaliação de sistemas de IA generativa. O fluxo de contestação é uma aplicação organizacional que precisa de teste local.

Referências

Quero inovar com a Baita

Mais sobre Inteligência artificial

Ver todos os artigos da Revista