Fadiga de Aprovação da IA Agêntica e Governança de Carimbo: Quando o Humano no Circuito Para de Proteger o Fluxo de Trabalho

Aprovar tudo e não aprovar nada produzem a mesma trilha de auditoria.

A Falha Já Está nas Orientações dos Fornecedores

O Well-Architected Agentic AI Lens da AWS abre sua orientação sobre revisão humana de ações de agentes com uma frase que merece ser lida duas vezes: encaminhar cada ação do agente para revisão humana produz aprovações automáticas sem exame real.

Essa não é uma crítica vinda de fora do setor. É uma orientação de arquitetura publicada por uma hyperscaler dizendo a arquitetos que a medida de segurança óbvia — revisar tudo — degenera na ausência da própria medida de segurança. A mesma página lista o contexto insuficiente do revisor como um antipadrão que transforma a revisão em mera formalidade.

As organizações que implantam agentes estão convergindo para o "human-in-the-loop" como o controle que torna a implantação defensável. Esse controle tem um limite de carga, e agora as próprias orientações reconhecem isso.

O Mecanismo

A degradação é previsível e segue sempre o mesmo caminho.

Um agente é implantado. O volume de saídas aumenta — afinal, é para isso que o agente foi implantado. Cada ação é encaminhada para uma fila de aprovação. A fila cresce mais rápido do que o número de revisores. O tempo dedicado a cada item diminui. Com menos tempo por item, o revisor deixa de ler o raciocínio e passa a reconhecer apenas o formato da solicitação. Esse reconhecimento de padrões gera aprovações corretas para os noventa por cento rotineiros, o que reforça a confiança no padrão. É essa confiança no padrão que leva o revisor a passar direto pelo item que realmente precisava de um olhar atento.

Em cada etapa, o registro mostra uma aprovação humana com nome e carimbo de data/hora. A trilha de auditoria está completa. A supervisão desapareceu.

Essa é a sequência de deriva operacional com uma fila anexada. A adoção aumenta, o volume de saídas aumenta, o rigor de verificação diminui, a falsa confiança aumenta, a revisão humana se torna performática, a deriva se acumula e a responsabilização surge. O volume de aprovações é o acelerante.

Essa última etapa não é hipotética. O AI Incident Law indexa os casos públicos em que uma falha de IA se transformou em processo judicial, decisão de tribunal ou ação regulatória. Basta ler alguns casos para perceber o padrão recorrente: existia uma aprovação, mas não existia uma revisão.

A Revisão Escalonada por Risco É a Correção Estrutural

A orientação da AWS prescreve a resposta arquitetural: pausar os agentes apenas para decisões em que o julgamento humano altera o resultado.

Como referência, ela propõe que operações somente leitura sigam de forma autônoma, que gravações de baixo risco passem por aprovação de um único revisor, e que operações de risco mais alto — como transações financeiras, exclusão de dados e comunicações externas — passem por aprovação mais rigorosa. A própria classificação deve ser determinística, usando mecanismos de política e classificadores baseados em regras, em vez de um LLM exposto ao mesmo conteúdo não confiável da solicitação que está sendo avaliada — pois conteúdo adversarial poderia, de outra forma, convencer o classificador a atribuir um rótulo de baixo risco. Em torno disso, é preciso haver contexto suficiente para uma decisão informada, janelas de tempo definidas, caminhos de escalonamento para revisores indisponíveis, prazos-limite com fallback seguro e aprovações registradas.

Adotando isso, a fila se reduz às decisões que realmente merecem uma pessoa. A atenção do revisor se concentra onde estão as consequências reais. Esse é o design correto, e as organizações devem implementá-lo.

Mas ele também pressupõe algo que não consegue verificar.

A Estrutura Não Responde à Questão Comportamental

Uma fila bem escalonada entrega os dez por cento consequentes a um revisor com contexto completo e tempo adequado. Tudo agora depende do que esse revisor faz diante de uma proposta fluente, plausível e bem estruturada, contendo um único detalhe estrutural errado.

Dois estados de deriva aparecem exatamente nesse ponto, e ambos sobrevivem a uma boa arquitetura.

O Encenador de Governança realiza a revisão sem de fato executá-la. O comportamento é reconhecível: aprovações rápidas, nenhuma anotação, nenhuma pergunta de volta ao solicitante, um histórico impecável de concordância. O risco oculto é que a função aparece como preenchida e funcional. O caminho de escalonamento está nominalmente aberto, mas nunca recebeu tráfego algum. A implicação de governança é que o controle declarado da organização não está sendo exercido. O sinal observável é um revisor que aprova erros propositalmente inseridos na mesma taxa que aprova itens corretos.

O Escalador Sem Verificação encaminha o item adiante na cadeia sem alterá-lo. O comportamento parece diligente, porque algo foi escalado. O risco oculto é que o escalonamento sem verificação transfere um artefato não checado para alguém com menos contexto e mais autoridade. A implicação de governança é que a aprovação sênior herda um erro que não tem como enxergar. O sinal observável é o escalonamento sem nenhum trabalho de verificação associado.

Nenhum dos dois padrões é uma falha de caráter, e nenhum deles é visível no registro de aprovações. Ambos são comportamento sob carga, e ambos são mensuráveis.

Dois Programas Diferentes

Os controles de execução em tempo real são uma preocupação do vetor de Infraestrutura. Classificação de risco, mecânica de aprovação, prazos-limite, limites de raio de impacto, permissões de ferramentas e registro durável — tudo isso pertence à plataforma de agentes e às equipes que a operam. Esse trabalho é necessário, e o PAICE não o realiza. O PAICE não instrumenta ações de agentes, não participa do caminho de aprovação nem observa o tráfego de produção.

Se as pessoas no portão de aprovação mantêm o comportamento de verificação sob volume é uma questão do vetor de Pessoas. O PAICE (People + AI Collaboration Effectiveness) mede isso diretamente: apresenta trabalho realista contendo erros, observa detecção, verificação, rejeição, correção e escalonamento, e retorna pontuações em vez de transcrições.

Uma organização pode passar em sua revisão de segurança de agentes e, ainda assim, estar aprovando erros a uma taxa constante durante todo o trimestre. A revisão de arquitetura não vai detectar isso. Ela não está olhando para a pessoa.

Desenhe o escalonamento para que a fila seja curta. Depois, descubra se o revisor dessa fila curta de fato identifica os problemas.

Quer saber se seus aprovadores identificam o que a fila lhes envia? Faça a avaliação PAICE ou conheça as bases de referência organizacionais.

Leitura Recomendada

O Que a "Revisão Humana Significativa" Realmente Exige - As competências por trás da etapa de aprovação
Quem Recebe o "Sim Seguro" - Atribuindo autoridade de aprovação de IA com base em evidências comportamentais
Quando o Polimento Se Passa por Autoridade - Por que uma saída fluente derrota uma antiga heurística profissional
Quando Seu Agente Sai do Prédio - O que os agentes precisam na fronteira da organização