PAICE e os Princípios da Inteligência Agregada

O nó mais inteligente da sala não é a inteligência. É a disposição.

Ontem, dia 6 de julho, os oito Princípios de Inteligência Agregada foram ratificados como cânone em PAICE.foundation. Eles são os princípios de design por trás dos padrões que praticam a Inteligência Agregada, que é o resultado coletivo de diferentes inteligências trabalhando juntas em direção a uma intenção clara. A declaração autoritária do conceito em si é o breve executivo anexo, Inteligência Agregada; os princípios são o que sustenta isso.

Eu escrevi os dois, então este post não é uma resenha. É o exercício inverso: pegar cada um dos oito princípios e mostrar onde ele já reside dentro do PAICE (People + AI Collaboration Effectiveness) como um mecanismo funcional, e não como uma aspiração. Um princípio que existe apenas como prosa é uma posição. Um princípio que restringe o que um produto pode fazer é um design. O PAICE foi construído como o segundo tipo, e em alguns lugares os princípios nos custaram funcionalidades que nós teríamos enviado de outra forma. Essas restrições são a evidência mais honesta de que os princípios são estruturais. Onde um mapeamento é mais fraco, eu digo isso — a própria página dos princípios insiste em ser contestada por baixo, em vez de apenas coerente na superfície, e qualquer interpretação dela deve se sustentar nesse mesmo padrão.

Princípio 1: A inteligência reside na disposição, não no nó

A unidade de design é o conjunto, não o membro mais inteligente. A maioria das estratégias de IA ainda mede os nós: painéis de adoção e conclusão de treinamento para o nó humano, relatórios de capacidade para o nó da máquina. Nenhum dos dois diz o que a combinação produz, porque o desempenho do todo é uma propriedade de sua estrutura — como as partes trocam informações, como elas se recuperam dos erros umas das outras.

O PAICE incorpora isso recusando-se a medir qualquer um dos nós. A avaliação não testa conhecimento de IA, e não classifica a saída da IA isoladamente. O que ela observa é a disposição em si: o que uma pessoa faz quando o sistema com o qual está trabalhando produz algo plausível e errado. A conversa é o meio da avaliação, mas a conversa não é o que está sendo medido. A medição é o comportamento dentro da troca — a checagem, a captura, a correção ou a ausência de todos os três. É por isso que um resultado do PAICE não se decompõe em "sua habilidade de IA" e "a qualidade do modelo". Não há tal decomposição a ser relatada. A unidade é a combinação, então a pontuação descreve a combinação.

Princípios 2 e 4: O desacordo é o motor, e o consenso é evidência, nunca autoridade

Estes dois princípios são um par correspondente. Um composto excede seu melhor membro apenas através de discordância estruturada; um grupo que não consegue discordar não é inteligente, é redundante. E o acordo, por mais suave que seja, não é prova de nada. Os princípios alertam contra produtos que apresentam discordância e depois a evaporam em "uma narrativa confortável vestida com o traje do rigor".

Dentro do PAICE, este par é a regra mais antiga do design: Testes > Conversa. Um acordo fluente com um sistema de IA não significa nada sem evidência comportamental. Um participante que concorda eloquentemente, elogia a saída e perde os erros injetados em sua sessão pontua menos do que um participante conciso que quase não diz nada e pega tudo. O participante que contesta a saída plausível-errada (que fornece a discordância que a troca precisava) está demonstrando exatamente o motor que estes princípios descrevem. Aquele que converge rapidamente para um consenso confortável com a máquina está demonstrando o modo de falha.

A corolário é rigoroso: ausência de evidência é pontuada como ausência. Se o desacordo — quando justificado — nunca foi observado, o PAICE não o infere caritativamente pela capacidade que a pessoa parecia ter. Isso ocasionalmente parece injusto para os participantes articulados. O desconforto é o princípio funcionando. Uma medida que recompensasse por parecer rigoroso seria pontuar o figurino.

Princípio 3: Independência antes da influência

As posições se formam isoladamente antes que qualquer um veja o de outro, porque "a primeira voz ancora a sala" e o erro correlacionado é o que mata.

Este é o mapeamento que eu sinalizarei como o menos direto, então aqui está a versão honesta. O PAICE não executa deliberações multipartes, então a maquinaria primária do princípio (posições isoladas, depois arbitragem) não tem um paralelo literal em uma avaliação de um único participante. Onde o princípio aparece é no que o PAICE se recusa a perguntar. A avaliação não começa perguntando às pessoas quão boas elas são em trabalhar com IA, e não pesa a narrativa delas. O autorrelato é uma primeira voz, e ele ancora: uma vez que um participante diz que é cuidadoso, tudo o que ele faz é lido através dessa alegação. O PAICE forma sua evidência a partir do comportamento observado na sessão, independentemente da história que o participante contaria sobre si mesmo. A influência chega, se é que chega, depois que o comportamento já está registrado. Essa é a forma do princípio na escala de avaliação, e eu não reivindicaria mais do que isso.

Princípio 5: A autoridade é humana porque a responsabilidade é humana

Não porque os humanos são mais espertos, os princípios são francos ao dizer que somos os mais irregulares dos irregulares. A autoridade pertence a quem deve viver com as consequências, porque o humano é o único lugar onde o que realmente queremos, em vez do que pedimos, pode retornar ao sistema.

O PAICE é construído exatamente para esse assento. O usuário-alvo é um profissional licenciado em uma indústria regulamentada: alguém cuja assinatura está no protocolo, no diagnóstico, na política, na auditoria. Quando a saída polida, mas errada, da IA passa despercebida, não é o modelo que responde ao conselho de licenciamento. É por isso que a avaliação mede o assento humano na colaboração — não para classificar humanos contra máquinas, mas porque o assento humano é onde a responsabilidade reside estruturalmente, e a prontidão para esse assento é o que um profissional e sua profissão precisam entender. As apostas do usuário-alvo não são uma persona de marketing. Elas são o motivo pelo qual a medição existe.

Princípio 6: O registro é o relacionamento

Existe uma janela estreita na qual humanos e máquinas são mutuamente legíveis, e registros em texto simples de quem propôs, quem objetou e quem decidiu são a infraestrutura dessa legibilidade.

O PAICE vive dentro dessa janela. Hoje, uma sessão de colaboração ainda é legível: um humano pode ver o que aconteceu, ver onde o erro foi injetado, ver se foi capturado e concordar com outro humano sobre o que ocorreu. Essa legibilidade é a matéria-prima da medição comportamental, e nada garante que ela persista à medida que os sistemas se tornam mais capazes e mais autônomos. Linhas de base comportamentais só significam algo se forem estabelecidas enquanto o comportamento ainda pode ser observado diretamente — razão pela qual o PAICE executa avaliações ao vivo agora, em vez de esperar que um padrão maduro cristalize.

Mas este princípio também carrega a restrição mais importante do PAICE: para quem é o registro. O registro de uma avaliação serve ao profissional, não ao empregador dele. Pontuações individuais estruturalmente não podem ser divulgadas aos compradores empresariais. Então, não como uma política que poderíamos renunciar para um contrato grande o suficiente, mas como arquitetura. Uma organização patrocinadora de avaliações aprende sobre a prontidão do grupo; ela nunca recebe uma lista classificada de quais funcionários confiar na IA. E cada avaliação começa do zero, sem histórico de sessão cruzado e sem perfil longitudinal, para que manter um registro nunca se torne silenciosamente um dossiê. Um registro que se torna vigilância corrompe o relacionamento que deveria sustentar, e eventualmente corrompe a si mesmo como medida. Ele é manipulado, ressentido e esvaziado de sinal. A governança precisa de evidências honestas do comportamento, não precisa vigiar pessoas.

Princípio 7: O padrão é um bem comum ou é uma coleira

Se um fornecedor possui a camada de colaboração, nós recebemos o que o fornecedor pede. Os princípios chamam isso de análise de modo de falha, não de idealismo, e a resposta do PAICE é estrutural. O PAICE não vende as ferramentas de IA que observam as pessoas usando. Ele não tem uma linha de receita que cresce quando um participante usa mais o produto de um fornecedor, e nenhum incentivo para pontuar uma colaboração mais alta por causa de cujo sistema estava do outro lado. Uma medida pertencente ao fornecedor cujas ferramentas ela pontua é marketing com um número anexado — e no dia em que um provedor de avaliação aceita esse incentivo, o número para de significar qualquer coisa, não importa a metodologia. Conselhos, reguladores e profissionais podem confiar em um sinal de prontidão precisamente porque nenhum fornecedor pode se apoiar nele. Independência é a ética; a confiança que ela acumula é o fosso.

Princípio 8: As regras são conquistadas, não decretadas

Cada regra na página dos princípios veio da prática, e padrões que ultrapassam a prática tornam-se lei de gabinete. A filosofia de pontuação do PAICE foi conquistada da mesma forma, e seu conservadorismo é o tecido cicatricial dessa conquista. As regras da avaliação não são declarações aspiracionais sobre como deveria ser uma boa colaboração; elas são derivadas do que as sessões observadas realmente mostram, razão pela qual a pontuação recusa generosidade. A ausência de evidência é pontuada como uma pontuação baixa, não como uma questão aberta, porque inferir competência que nunca foi demonstrada é exatamente o tipo de regra decretada que o princípio rejeita.

A página dos princípios termina convidando à contestação: ela se autodenomina uma afirmação com carimbo de data, não um veredito permanente. Este post deve ser lido da mesma forma. Seis dos oito princípios mapeiam no PAICE como mecanismos com os quais você pode colidir hoje. O Princípio 3 mapeia como um princípio honrado no que a avaliação se recusa a perguntar, mais do que em maquinaria literal. Nomear essa lacuna é o ponto — um mapeamento que alegasse perfeição seria consenso vestindo o traje do rigor.

Se você quer a fonte, leia a página dos princípios e o breve executivo. Se você quer ver os princípios deixarem de ser prosa, a avaliação é onde eles correm.

Pronto para avaliar suas capacidades de colaboração em IA? Faça a avaliação PAICE para obter insights e recomendações personalizados.