PAICE et les principes de l'intelligence agrégée

Le nœud le plus intelligent de la pièce n'est pas l'intelligence. C'est l'agencement.

Hier, le 6 juillet, les huit Principes Fondamentaux de l'Intelligence Agrégée ont été ratifiés comme canoniques sur PAICE.foundation. Ce sont les principes de conception sous-jacents aux normes qui pratiquent l'Intelligence Agrégée, laquelle est le résultat collectif de différentes intelligences travaillant ensemble vers une intention claire. L'énoncé faisant autorité du concept lui-même est le mémo exécutif accompagnant, Intelligence Agrégée ; les principes sont ce qui se trouve en dessous.

J'ai rédigé les deux, donc ce billet n'est pas une critique. C'est l'exercice inverse : prendre chacun des huit principes et montrer où il existe déjà dans PAICE (People + AI Collaboration Effectiveness) comme mécanisme opérationnel, et non comme aspiration. Un principe qui n'existe que sous forme de prose est une position. Un principe qui contraint ce qu'un produit est autorisé à faire est une conception. PAICE a été construit comme le second, et à quelques endroits, les principes nous ont coûté des fonctionnalités que nous aurions autrement livrées. Ces contraintes sont la preuve la plus honnête que les principes sont porteurs. Là où le mappage est plus faible, je le dis — la page des principes elle-même insiste pour être contestée en profondeur plutôt que simplement cohérente en surface, et toute interprétation doit tenir à cette même barre.

Principe 1 : L'intelligence réside dans l'agencement, pas dans le nœud

L'unité de conception est l'ensemble, pas le membre le plus intelligent. La plupart des stratégies d'IA mesurent encore les nœuds : tableaux de bord d'adoption et complétions de formation pour le nœud humain, rapports de capacité pour le nœud machine. Aucun des deux ne vous dit ce que produit le couplage, car la performance de l'ensemble est une propriété de sa structure — la manière dont les parties se passent le relais, la manière dont elles se redressent des erreurs de l'autre.

PAICE incarne cela en refusant de mesurer l'un ou l'autre nœud. L'évaluation ne teste pas les connaissances en IA, et elle ne note pas le résultat de l'IA isolément. Ce qu'elle observe, c'est l'agencement lui-même : ce qu'une personne fait lorsque le système avec lequel elle travaille produit quelque chose de plausible mais d'erroné. La conversation est le médium de l'évaluation, mais la conversation n'est pas ce qui est mesuré. La mesure est le comportement au sein de l'échange — le vérification, la capture, la correction, ou l'absence des trois. C'est pourquoi un résultat PAICE ne se décompose pas en "votre compétence en IA" et "la qualité du modèle". Il n'y a pas une telle décomposition à signaler. L'unité est le couplage, donc le score décrit le couplage.

Principes 2 et 4 : Le désaccord est le moteur, et le consensus est la preuve, jamais l'autorité

Ces deux principes forment un duo complémentaire. Un composite dépasse son meilleur membre uniquement grâce à un désaccord structuré ; un groupe qui ne peut pas être en désaccord n'est pas intelligent, il est redondant. Et l'accord, aussi fluide soit-il, n'est la preuve de rien. Les principes mettent en garde contre les produits qui font apparaître un désaccord, puis l'évaporent dans "un récit confortable revêtant le costume du sérieux".

Dans PAICE, ce duo est la règle la plus ancienne de la conception : Tests > Conversation. Un accord fluide avec un système d'IA ne signifie rien sans preuve comportementale. Un participant qui acquiesce éloquemment, qui loue le résultat et qui manque les erreurs injectées dans sa session obtient un score inférieur à celui d'un participant concis qui ne dit presque rien et qui capte tout. Le participant qui conteste un résultat plausible mais erroné (celui qui fournit le désaccord dont l'échange avait besoin) démontre exactement le moteur que décrivent ces principes. Celui qui converge rapidement vers un consensus confortable avec la machine démontre le mode de défaillance.

La corollaire est stricte : l'absence de preuve est notée comme une absence. Si le désaccord — là où il était justifié — n'a jamais été observé, PAICE ne l'infère pas charitablement selon la capacité apparente de la personne. Cela peut parfois sembler injuste pour les participants articulés. C'est le principe qui est à l'œuvre. Une mesure qui récompensait le sérieux aurait noté le costume.

Principe 3 : L'indépendance avant l'influence

Les positions se forment en isolement avant que quiconque ne voie celle de l'autre, car "la première voix ancre la pièce" et l'erreur corrélée est fatale.

C'est le mappage que je signalerai comme le moins direct, voici donc la version honnête. PAICE n'exécute pas de délibérations multipartites, le mécanisme principal du principe (positions isolées, puis arbitrage) n'a donc pas de contrepartie littérale dans une évaluation individuelle. Là où le principe apparaît, c'est dans ce que PAICE refuse de demander. L'évaluation ne commence pas par demander aux gens à quel point ils sont doués pour travailler avec l'IA, et elle ne pondère pas leur propre récit. L'auto-évaluation est une première voix, et elle ancre : une fois qu'un participant vous a dit qu'il est prudent, tout ce qu'il fait est lu à travers cette affirmation. PAICE forme sa preuve à partir du comportement observé pendant la session, indépendamment de l'histoire que le participant raconterait sur lui-même. L'influence arrive, le cas échéant, après que le comportement soit déjà enregistré. C'est la forme du principe à l'échelle de l'évaluation, et je ne prétendrai pas plus à cela.

Principe 5 : L'autorité est humaine parce que la responsabilité est humaine

Les principes sont francs, non parce que les humains sont plus intelligents, mais parce que nous sommes les plus irréguliers des irréguliers. L'autorité appartient à celui qui doit vivre avec les conséquences, car seul l'humain est le lieu où ce que nous voulons réellement, plutôt que ce que nous avons demandé, peut réentrer dans le système.

PAICE est conçu précisément pour ce siège. L'utilisateur cible est un professionnel agréé dans un secteur réglementé : quelqu'un dont la signature est sur le dépôt, le diagnostic, la politique, l'audit. Lorsque le résultat poli mais erroné de l'IA passe inaperçu, ce n'est pas le modèle qui rend compte au conseil de réglementation. C'est pourquoi l'évaluation mesure le siège humain dans la collaboration — non pas pour classer les humains contre les machines, mais parce que le siège humain est là où la responsabilité réside structurellement, et que la préparation à ce siège est ce que doivent comprendre un professionnel et sa profession. Les enjeux de l'utilisateur cible ne sont pas une persona marketing. Ils sont la raison d'être de la mesure.

Principe 6 : L'enregistrement est la relation

Il existe une fenêtre étroite au cours de laquelle humains et machines sont mutuellement lisibles, et les enregistrements en texte clair de qui a proposé, qui a objecté et qui a décidé sont l'infrastructure de cette lisibilité.

PAICE vit dans cette fenêtre. Aujourd'hui, une session de collaboration reste lisible : un humain peut examiner ce qui s'est passé, voir où l'erreur a été injectée, voir si elle a été détectée, et être d'accord avec un autre humain sur ce qui s'est produit. Cette lisibilité est la matière première de la mesure comportementale, et rien ne garantit qu'elle persiste à mesure que les systèmes deviennent plus capables et plus autonomes. Les bases comportementales n'ont un sens que si elles sont établies pendant que le comportement peut encore être observé directement — c'est pourquoi PAICE effectue des évaluations en direct plutôt que d'attendre qu'une norme mature cristallise.

Mais ce principe comporte également la contrainte la plus importante de PAICE : à qui est destiné l'enregistrement. L'enregistrement d'une évaluation sert le professionnel, pas son employeur. Les scores individuels ne peuvent structurellement pas être divulgués aux acheteurs d'entreprise. Pas comme une politique que nous pourrions renoncer pour un contrat suffisamment important, mais comme une architecture. Une organisation parrainant des évaluations apprend la préparation de la cohorte ; elle ne reçoit jamais une liste classée des employés à faire confiance à l'IA. Et chaque évaluation commence à zéro, sans historique de session ni profil longitudinal, afin que tenir un registre ne devienne jamais silencieusement un dossier. Un enregistrement qui se transforme en surveillance corrompt la relation qu'il était censé maintenir, et finit par se corrompre lui-même en tant que mesure. Il est manipulé, déploré et vidé de son signal. La gouvernance a besoin de preuves honnêtes du comportement, elle n'a pas besoin de surveiller les gens.

Principe 7 : La norme est un bien commun ou une laisse

Si un fournisseur possède la couche de collaboration, nous obtenons ce que le fournisseur demande. Les principes appellent à une analyse du mode de défaillance, pas à de l'idéalisme, et la réponse de PAICE est structurelle. PAICE ne vend pas les outils d'IA qu'il observe les gens utiliser. Il n'a aucune ligne de revenus qui augmente lorsqu'un participant utilise davantage le produit d'un fournisseur, et aucun incitatif à noter une collaboration plus haut en raison du système qui était de l'autre côté. Une mesure possédée par le fournisseur dont elle évalue les outils est un marketing avec un chiffre attaché — et le jour où un fournisseur d'évaluation prend cet engagement, le chiffre cesse de signifier quoi que ce soit, quelle que soit la méthodologie. Les conseils d'administration, les régulateurs et les professionnels peuvent compter sur un signal de préparation précisément parce qu'aucun fournisseur ne peut s'y appuyer. L'indépendance est l'éthique, la confiance qu'elle génère est le fossé.

Principe 8 : Les règles sont gagnées, pas décrétées

Chaque règle sur la page des principes provient de la pratique, et les normes qui dépassent la pratique deviennent une loi de salon. La philosophie de notation de PAICE a été gagnée de la même manière, et son conservatisme est le tissu cicatriciel de cette acquisition. Les règles de l'évaluation ne sont pas des déclarations aspirationnelles sur ce à quoi devrait ressembler une bonne collaboration ; elles sont dérivées de ce que montrent réellement les sessions observées, raison pour laquelle le score refuse la générosité. L'absence de preuve est notée comme un faible score, pas comme une question ouverte, car inférer une compétence qui n'a jamais été démontrée est exactement le genre de règle décrétée que le principe exclut.

La page des principes se termine en invitant au débat : elle se présente comme une affirmation horodatée, pas comme un verdict définitif. Ce billet doit être lu de la même manière. Six des huit principes correspondent à PAICE comme des mécanismes avec lesquels vous pouvez entrer en collision aujourd'hui. Le Principe 3 correspond comme un principe honoré dans ce que l'évaluation refuse de demander, plus que dans un mécanisme littéral. Nommer cette lacune est le point — un mappage qui prétend la perfection serait un consensus revêtant le costume du sérieux.

Si vous voulez la source, lisez la page des principes et le mémo exécutif. Si vous voulez que les principes cessent d'être de la prose, l'évaluation est là où ils sont appliqués.

Prêt à évaluer vos capacités de collaboration en IA ? Effectuez l'évaluation PAICE pour obtenir des informations et des recommandations personnalisées.