Inteligência artificial
Como tornar contestável uma recomendação produzida por IA?
Por Renato Toi • Baita Aceleradora
O gestor discordou da recomendação da IA e tinha razão: o valor pertencia a outro trimestre. Quanto trabalho ele teve para provar isso? A resposta diz bastante sobre a qualidade do processo.
Comece exibindo os registros usados, o período, a versão da regra e o responsável pela decisão. Quem discorda precisa conseguir indicar o dado incorreto e o motivo, preservando a recomendação original para comparação. Quando a fonte muda, a equipe pode reconstruir o contexto em que a decisão anterior foi tomada.
Faça um teste com um dado deliberadamente desatualizado em ambiente de ensaio. A pessoa encarregada consegue localizar a divergência e encaminhar a correção? Quanto tempo leva até que a resposta corrigida chegue a quem decidiu? A rastreabilidade tem valor quando reduz esse esforço, especialmente em rotinas nas quais uma justificativa errada pode ser repetida por vários departamentos. Quem assume a decisão precisa ter meios para contestar a recomendação e corrigir o registro.
Base
O NIST aborda riscos e avaliação de sistemas de IA generativa. O fluxo de contestação é uma aplicação organizacional que precisa de teste local.
Referências
- NIST • Generative Artificial Intelligence Profile, AI 600-1 — Confabulação e função MEASURE
- NIST • AI Risk Management Framework 1.0 — Parte 2, funções GOVERN, MAP, MEASURE e MANAGE