Deux articles, un argument

Les organisations mesurent les capacités des modèles d'IA. Elles mesurent les compétences individuelles en IA. Elles mesurent rarement la collaboration entre ces éléments — ce qui détermine réellement les résultats. Deux articles publiés ce mois-ci abordent directement cette lacune.

Le problème que les deux articles résolvent

Les équipes de gouvernance ont passé trois ans à essayer de quantifier le risque lié à l'IA. La majeure partie de ce travail se concentre sur les modèles : ce que le modèle est autorisé à faire, comment ses résultats sont audités, ce que le fournisseur atteste. Une partie se concentre sur la formation individuelle : l'analyste a-t-il complété le module de littératie sur l'IA ?

Aucune de ces approches ne pose la question la plus difficile : lorsque la personne et le modèle travaillent ensemble sur une tâche à enjeux élevés, cette collaboration produit-elle réellement des résultats fiables ?

Voilà le fossé. Une organisation peut disposer de personnes compétentes et de modèles compétents, mais produire néanmoins des erreurs systématiques — parce que la collaboration entre eux est inexplorée, non mesurée et gérée sur la base de ressentis et des assurances du fournisseur.

Les deux articles abordent ce fossé sous des angles différents. Le mémo à l'intention des dirigeants définit le concept. Le livre blanc l'opérationnalise pour les équipes de gouvernance.

Intelligence agrégée : le mémo à l'intention des dirigeants

Aggregated Intelligence présente un argument en trois parties.

Premièrement : la production collective de la collaboration People+AI — ce que le mémo appelle l'Intelligence agrégée — est une réalité qui détermine les résultats organisationnels, et elle peut être mesurée. « L'intelligence qui détermine les résultats d'une organisation n'est pas seulement celle de ses personnes, ni seulement celle de ses modèles — c'est les deux travaillant ensemble, bien ou mal. »

Deuxièmement : seul un système de mesure qui fonctionne indépendamment des outils qu'il évalue peut être fiable. Une évaluation de préparation fournie par un fournisseur n'est pas une évaluation de préparation. C'est un atout marketing habillé en méthodologie. Si l'outil que vous utilisez pour évaluer votre collaboration en IA a été conçu par le fournisseur qui vous vend l'IA, vous ne mesurez rien d'autre que leur récit privilégié.

Troisièmement : le calendrier est crucial. La fenêtre pour établir cette base de référence est ouverte maintenant et se rétrécit. Les organisations qui attendent les mandats de conformité pour soulever la question mesureront par rapport à une norme qu'elles n'ont pas aidé à définir, par rapport à une base qu'elles n'ont pas. L'habitude d'examiner la collaboration People+AI est plus facile à construire tant les asymétries entre les capacités humaines et celles de l'IA sont encore gérables.

Disponible en PDF, avec un aperçu audio et un résumé vidéo sur paice.foundation/papers/.

Un seul chiffre que vous pouvez défendre : le livre blanc sur la posture en IA

One Number You Can Defend est le livre blanc complémentaire, destiné aux responsables de la gouvernance, des risques et de la conformité.

Le mémo plaide en faveur de l'importance de l'Intelligence agrégée. Le livre blanc répond à la question de gouvernance suivante : comment une organisation exprime-t-elle sa préparation en matière d'IA par un chiffre unique qu'elle peut présenter à un conseil d'administration, à un régulateur ou à un partenaire — et défendre ?

La réponse d'AI Posture : contrainte par le vecteur le plus faible, et non moyennée sur tous les vecteurs. Une organisation qui obtient un bon score sur la préparation humaine mais qui n'a pas de politiques d'infrastructure IA ne tombe pas à une moyenne « modérée ». Elle est au niveau de son composant le plus faible. C'est le chiffre qu'une équipe de conformité peut défendre, car il reflète ce qui se passerait réellement sous un examen contradictoire. Une moyenne peut être manipulée. Un minimum vital ne peut pas l'être.

L'aperçu audio est intitulé « Arrêtez de moyenner vos risques liés à l'IA ». C'est la thèse en cinq mots.

Disponible en PDF, avec un aperçu audio et un résumé vidéo sur aiposture.org/papers/.

Comment ils s'articulent

Le mémo à l'intention des dirigeants et le livre blanc ont été rédigés comme des pièces complémentaires. Le mémo établit que la couche de collaboration People+AI est l'unité qui compte pour les résultats organisationnels. Le livre blanc fournit aux équipes de gouvernance l'instrument pour la noter — un seul chiffre, contraint par le vecteur le plus faible, défendable auprès de tout public externe.

PAICE (People + AI Collaboration Effectiveness) est là où se situe la mesure au niveau individuel. L'évaluation mesure les comportements collaboratifs réels de chaque personne : si elle détecte les erreurs, vérifie les résultats, maintient un scepticisme approprié et s'améliore avec le temps. La posture organisationnelle et la performance individuelle sont des échelles adjacentes dans le même cadre, avec un vocabulaire commun.

Si vous avez lu l'essai précédent sur l'Intelligence agrégée lorsqu'il est paru en mai, ces articles constituent le traitement formel de ce que cet essai explorait. Le concept est désormais documenté sous une forme sur laquelle une équipe de gouvernance peut agir.

---

Prêt à mesurer votre collaboration People+AI au niveau individuel ? Effectuez l'évaluation PAICE pour des informations personnalisées.