Mais do que Duas Inteligências: A Sala é Mais Cheia do que o Diagrama: Cada Apresentação de Arquitetura Desenha uma Pessoa e um Modelo. O Registro, a Política e o Precedente Estão na Decisão Também

"O sistema sinalizou" colapsa quatro inteligências diferentes em uma única voz, e o desacordo entre elas desaparece nesse colapso.

O Diagrama de Dois Corpos

Quase todo artigo sobre arquitetura de trabalho assistido por IA desenha a mesma imagem: uma pessoa, um modelo, setas entre eles. Boa representação de onde reside a responsabilidade, péssima representação do que está na decisão.

Vamos usar um caso real. Um perito de sinistros está decidindo se deve escalar o caso. Na sala: o dossiê do sinistro, construído por três atendentes ao longo de dezoito meses. Um sistema de pontuação de fraude rodando desde 2019, ajustado pela última vez por alguém que saiu. A redação da apólice, um registro comprimido de cada disputa que a empresa perdeu. Dois precedentes sobre fatos semelhantes. Um modelo resumindo tudo isso. Um segundo revisor que aprova em noventa segundos.

São seis fontes de inteligência, sendo conservadores, e o diagrama mostra apenas duas.

Contando a Sala Novamente

Um dossiê de sinistro não pensa, uma pontuação de fraude é um limiar, uma cláusula da apólice é texto. Essa objeção é justa e tangencial. O que torna algo uma fonte de inteligência é que ele carrega um julgamento feito em outro lugar, e a decisão muda dependendo do que ele diz. A redação da apólice é um julgamento, feito por um consultor sob pressão anos atrás, chegando como autoridade. O limiar de fraude é um julgamento, feito por uma equipe de dados cuja tolerância a falsos positivos ninguém presente consegue declarar. As anotações do atendente anterior são julgamentos, incluindo aqueles que ele escolheu não registrar. São conclusões anteriores com opiniões, e elas discordam mais frequentemente do que qualquer um imagina.

Inteligência agregada, como eu uso o termo, abrange quaisquer fontes de inteligência, e não apenas pessoas e modelos, e é por isso que isso é operacionalmente necessário. Conte apenas os participantes presentes e ativos, e continuaremos sendo surpreendidos por decisões tomadas há anos por pessoas que não estão mais por perto para explicá-las.

O Que "O Sistema Disse" Custa

O perito vê um resumo: indicadores elevados de fraude, possível aplicação de exclusão da apólice, dois casos comparáveis negados. Uma voz, uma recomendação. Por baixo, a pontuação de fraude sinalizada, a cláusula da apólice era ambígua e foi resolvida de um jeito, um precedente correspondido de perto e outro não, e o dossiê tinha uma lacuna que ninguém notou. Quatro fontes, duas em tensão, resolvidas silenciosamente a caminho do resumo.

A média não é neutra. É uma decisão sobre cujo julgamento vence, tomada pelo que estiver mais próximo da saída, e não deixa registro algum. Quando o perito lê "risco elevado", o interessante já aconteceu, invisivelmente.

É por isso que "o sistema disse" é perigoso em um processo regulamentado. É gramaticalmente singular sobre algo plural. Quando um regulador pergunta como a determinação foi alcançada, a resposta honesta tem quatro partes e o dossiê tem uma.

O Desacordo É o Artefato

O instinto é tratar o desacordo entre as fontes como ruído, resolvido antes de chegar à pessoa. Isso é contrário e é a escolha de design mais consequencial nesse tipo de sistema.

Quando a pontuação de fraude e a leitura da apólice apontam em direções opostas, essa tensão é a coisa mais informativa disponível. Ela marca onde a decisão é genuinamente difícil, que é onde o julgamento vale a pena. Resolvê-la na origem e entregar uma recomendação clara otimiza para a sensação de confiança e não para a qualidade da decisão.

Um arranjo que vale a pena mantém seus desacordos legíveis: quais fontes foram consultadas, onde elas divergiram, quem resolveu, com base em quê. Esse registro é também a única coisa que torna o arranjo melhorável, porque um sistema que esconde seus conflitos jogou fora os casos em que o aprendizado era possível.

Melhorar também tem mais de uma direção. Adicionar uma fonte conta, e integrar melhor também conta. Mudar a camada de abstração também conta, o que é perdido porque não parece crescimento: às vezes, seis fontes colapsam em uma regra bem compreendida e o arranjo fica menor e mais legível de uma vez. Diferente não significa necessariamente maior.

Onde as Pessoas Se Encaixam

Nenhum disso desloca a pessoa. Isso clarifica o trabalho. PAICE (People + AI Collaboration Effectiveness) é nomeado para o vetor que carrega a responsabilidade, não para uma contagem de cabeças. Quando uma determinação sai errada, o dossiê tem o nome de um profissional, não o do modelo de fraude ou da cláusula da apólice. Essa assimetria é por isso que o vetor Pessoa vale a pena ser medido separadamente.

O que a contagem mais completa muda é a habilidade. O trabalho não é "checar o trabalho do modelo". É notar quais fontes foram consultadas, quais foram resolvidas silenciosamente e qual carrega o peso de uma decisão que ninguém reexaminou. Esse é um comportamento observável, e é isso que a avaliação acompanha: se o profissional verifica o caso que carrega a decisão, escala quando uma fonte não pode ser confirmada e corrige em vez de apenas defender.

Escrevemos a tese do fundador sobre inteligência agregada para defender o conceito. Este artigo é sobre a contagem, a parte que continua sendo contada errada. Da próxima vez que um diagrama mostrar uma pessoa e um modelo, pergunte quem mais está na decisão e para onde foram os desacordos deles.

Quer saber se seus profissionais conseguem ver a sala toda? Saiba mais sobre PAICE para organizações ou faça uma avaliação individual para ver isso em primeira mão.

Leitura Recomendada

Inteligência Agregada - A tese do fundador sobre a qual isso se baseia
PAICE e os Princípios da Inteligência Agregada - Como os princípios se mapeiam na pontuação
A Dimensão Collaboration - O que o C em PAICE mede
Preenchendo a Camada de Confiança Ausente - Como o portfólio divide o problema