Plus que deux intelligences : la pièce est plus pleine que le diagramme: Chaque diapositive sur l'architecture représente une personne et un modèle. L'enregistrement, la politique et le précédent sont également dans la décision

« Le système l'a signalé » condense quatre intelligences différentes en une seule voix, et le désaccord entre elles disparaît dans cette condensation.

Le diagramme corps-à-corps

Presque toutes les présentations sur l'IA au service du travail présentent la même image : une personne, un modèle, des flèches entre les deux. Bonne représentation de l'endroit où se situe la responsabilité, mauvaise représentation de ce qui constitue la décision.

Prenons un cas réel. Un expert en sinistres décide s'il doit escalader. Dans la pièce : le dossier de sinistre, construit par trois gestionnaires sur dix-huit mois. Un système de notation de fraude fonctionnant depuis 2019, dont le dernier réglage a été effectué par quelqu'un qui est parti. La formulation de la police, un enregistrement compressé de chaque différend perdu par l'entreprise. Deux précédents sur des faits similaires. Un modèle résumant le tout. Un deuxième réviseur qui approuve en quatre-vingt-dix secondes.

Ce sont six sources d'intelligence, pour être conservateur, et le diagramme n'en montre que deux.

Comptez à nouveau la pièce

Un dossier de sinistre ne réfléchit pas, un score de fraude est un seuil, une clause de police est un texte. Cette objection est juste et hors sujet. Ce qui fait qu'une chose est une source d'intelligence, c'est qu'elle porte un jugement rendu ailleurs, et que la décision change en fonction de ce qu'elle contient. La formulation de la police est un jugement, rendu par le conseil sous pression il y a des années, arrivant comme autorité. Le seuil de fraude est un jugement, rendu par une équipe de données dont personne présent ne peut énoncer la tolérance aux faux positifs. Les notes du gestionnaire précédent sont des jugements, y compris ceux qu'ils ont choisi de ne pas coucher par écrit. Ce sont des conclusions antérieures avec des opinions, et elles sont en désaccord plus souvent que quiconque ne le pense.

L'intelligence agrégée, ainsi que j'emploie le terme, couvre toutes les sources d'intelligence plutôt que seulement les personnes et les modèles, et c'est la raison opérationnelle pour laquelle cela doit être le cas. Si vous ne comptez que les participants présents et actifs, nous continuerons à être surpris par les décisions prises il y a des années par des personnes qui ne sont plus là pour les expliquer.

Ce que coûte « le système a dit »

L'expert voit un résumé : indicateurs de fraude élevés, une exclusion de police pourrait s'appliquer, deux cas comparables refusés. Une voix, une recommandation. En dessous, le score de fraude signalé, la clause de police était ambiguë et a été résolue d'une certaine manière, un précédent correspondait étroitement et un autre faiblement, et le dossier présentait une lacune que personne n'a notée. Quatre sources, deux en tension, résolues silencieusement en chemin vers le résumé.

La moyenne n'est pas neutre. C'est une décision sur le jugement qui l'emporte, prise par ce qui est le plus proche du résultat, et elle ne laisse aucun enregistrement. Au moment où l'expert lit « risque élevé », le point intéressant s'est déjà produit, de manière invisible.

C'est pourquoi « le système a dit » est dangereux dans un dossier réglementé. Il est grammaticalement singulier sur quelque chose de pluriel. Lorsque le régulateur demande comment la détermination a été atteinte, la réponse honnête comporte quatre éléments et le dossier n'en présente qu'un.

Le désaccord est l'artefact

L'instinct est de considérer le désaccord entre les sources comme du bruit, résolu avant qu'il n'atteigne la personne. C'est le contraire, et c'est le choix de conception le plus important dans ce type de système.

Lorsque le score de fraude et la lecture de la police indiquent des directions opposées, cette tension est l'élément le plus informatif disponible. Il marque où la décision est véritablement difficile, ce qui est là où le jugement vaut le coup. Le résoudre en amont et fournir une recommandation claire optimise pour le sentiment de confiance et non pour la qualité de la décision.

Un arrangement qui vaut la peine d'être maintenu garde ses désaccords lisibles : quelles sources ont été consultées, où elles ont divergé, qui l'a résolu, sur quelle base. Cet enregistrement est également la seule chose qui rend cet arrangement améliorable, car un système qui cache ses conflits a jeté les cas où l'apprentissage était possible.

S'améliorer a aussi plusieurs dimensions. Ajouter une source compte, et intégrer mieux compte aussi. Changer le niveau d'abstraction compte aussi, ce qui est souvent manqué parce que cela ne ressemble pas à une croissance : parfois six sources se condensent en une règle bien comprise et l'arrangement devient à la fois plus petit et plus lisible. Différent ne signifie pas nécessairement supérieur.

Où se situent les personnes

Aucune de ces choses ne déplace la personne. Cela clarifie le travail. PAICE (People + AI Collaboration Effectiveness) est nommé pour le vecteur portant la responsabilité, pas pour un effectif. Lorsqu'une détermination est erronée, le dossier porte le nom d'un professionnel, pas celui du modèle de fraude ou de la clause de police. Cette asymétrie est la raison pour laquelle le vecteur « Personnes » vaut la peine d'être mesuré séparément.

Ce que change le décompte complet, c'est la compétence. Le travail n'est pas de « vérifier le travail du modèle ». C'est de remarquer quelles sources ont été consultées, lesquelles ont été résolues silencieusement, et laquelle porte le poids d'une décision que personne n'a réexaminée. C'est un comportement observable, et c'est ce que surveille l'évaluation : si le professionnel vérifie le sinistre porteur de la décision, s'il escalade lorsqu'une source ne peut être confirmée, et s'il corrige plutôt que de défendre.

Nous avons écrit la thèse fondatrice sur l'intelligence agrégée pour défendre ce concept. Cet article porte sur le décompte, la partie qui continue d'être mal comprise. La prochaine fois qu'un diagramme montre une personne et un modèle, demandez qui d'autre est dans la décision et où sont allés leurs désaccords.

Vous souhaitez savoir si vos professionnels peuvent voir la pièce entière ? Découvrez PAICE pour les organisations ou faites une évaluation individuelle pour le constater par vous-même.

Lecture recommandée

Intelligence agrégée - La thèse fondatrice sur laquelle cela est basé
PAICE et les principes de l'intelligence agrégée - Comment les principes correspondent au score
La dimension Collaboration - Ce que mesure le C dans PAICE
Combler la couche de confiance manquante - Comment le portefeuille divise le problème