Limites de l'autonomie de l'IA agentique : ce qu'OSFI demande aux banques de décider: Le bulletin sur les risques technologiques de juillet 2026 fait de l'autonomie une décision de gouvernance et de la littératie en gestion un contrôle

Cet article est à des fins éducatives uniquement et ne constitue pas un avis juridique. Les institutions financières réglementées par le gouvernement fédéral doivent consulter un conseiller qualifié concernant l'application des attentes de l'OSFI à leur situation.

Une limite d'autonomie que personne dans la salle ne pourrait reconnaître franchie est un souhait.

L'OSFI a fait de l'autonomie une décision

En juillet 2026, l'Office du surveillant des institutions financières a publié un Bulletin sur les risques technologiques intitulé Intelligence artificielle générative et agentique : implications pour la technologie, la cybersécurité et la résilience opérationnelle. Il s'adresse aux institutions financières réglementées au Canada et compare ses pratiques aux lignes directrices auxquelles ces institutions sont déjà soumises : B-13 sur le risque technologique et cybernétique, E-21 sur le risque et la résilience opérationnels, et B-10 sur le risque tiers, avec une référence à E-23 pour le risque lié au modèle.

Le bulletin établit une distinction entre les deux technologies dans sa première phrase. L'IA générative « permet la création de contenu », tandis que l'IA agentique « introduit un raisonnement et une exécution autonomes ». Sa note de bas de page définit les systèmes agentiques comme des agents qui « raisonnent, planifient, prennent des décisions et agissent de manière autonome sans intervention humaine ».

Ensuite, sous le chapitre sur la gouvernance et la responsabilité stratégique, il demande aux institutions de « définir la propriété tout au long du cycle de vie de l'IA et d'établir des limites à l'autonomie ».

C'est un régulateur qui indique aux institutions qu'il supervise que le degré d'autonomie accordé à un agent est une décision que l'institution doit prendre et assumer. Rien dans le bulletin ne précise quelle devrait être cette limite. Ce chiffre est laissé à l'institution, tout comme la question la plus difficile, celle que nous voudrions trancher en premier : qui pourrait dire si la limite est respectée ?

Trois instructions dans une seule liste

L'instruction concernant l'autonomie ne tient pas seule. Elle fait partie d'une liste de six mesures de gouvernance, et le contexte de cette liste est plus important que sa position.

Le premier point est de « renforcer la littératie de la haute direction ». Le troisième est d'« intégrer les risques liés à l'IA dans le cadre de gestion des risques de l'entreprise », couvrant les risques cybernétiques, technologiques, liés au modèle et tiers, « afin d'assurer une identification, une agrégation et une atténuation cohérentes des risques interconnectés ». Le cinquième est la limite d'autonomie. Le sixième demande aux institutions « de mettre en œuvre l'exploitation de l'IA parallèlement à une surveillance humaine pour maintenir la responsabilité et prévenir les actions involontaires ».

Le paragraphe au-dessus de la liste explique pourquoi la littératie est primordiale. L'OSFI écrit que « les systèmes d'IA peuvent fonctionner avec une surveillance humaine limitée » et que « les lacunes dans la compréhension de la haute direction peuvent entraîner une dépendance excessive aux évaluations fournies par le fournisseur, limitant ainsi l'examen efficace du comportement de l'IA ».

Lues ensemble, ces trois instructions rendent la dépendance explicite. Une limite d'autonomie est une déclaration sur l'appétit pour le risque. Une déclaration sur l'appétit pour le risque n'est réelle que lorsqu'elle est intégrée au cadre de gestion des risques de l'entreprise avec des déclencheurs d'escalade attachés, ce que demande également le bulletin. Et le cadre ne fonctionne que si les personnes qui en sont propriétaires comprennent suffisamment le système pour le contrôler elles-mêmes au lieu d'accepter le compte rendu du fournisseur.

Le reste du bulletin répète ce schéma au niveau opérationnel. Il est demandé aux institutions de « traiter les résultats générés par l'IA comme des intrants pour la prise de décision plutôt que comme des résultats définitifs », d'« assurer une surveillance humaine avec une responsabilité pour les décisions matérielles ou à fort impact », et d'« appliquer des points de contrôle d'approbation pour les actions à fort impact ». Chacun de ces contrôles aboutit à une personne.

Ce qu'implique réellement l'établissement d'une limite

Considérez ce qu'une institution doit décider en se conformant à cette unique ligne.

Où l'agent s'arrête-t-il-il et la personne commence-t-elle ? Pour quelles catégories d'actions ? Dans quelles conditions une exception remonte-t-elle, et à qui ? Qu'est-ce que la personne au point de contrôle doit voir, et combien de temps dispose-t-elle ? Et lorsque la proposition de l'agent est fluide, bien structurée, mais erronée dans un détail porteur de poids, est-ce que la personne au point de contrôle est du genre à le remarquer ?

L'aspect infrastructurel de ces questions a des réponses. Le bulletin les énumère : identités uniques non humaines, moindre privilège, autorisations spécifiques, listes autorisées d'outils derrière les passerelles API, activité de l'agent journalisée et examinée. AWS est allé jusqu'à nommer l'approbation par tampon comme anti-modèle pour le routage de tout par revue humaine, ce que j'ai couvert dans un article précédent.

L'aspect humain n'a pas de réponse dans le bulletin, car le bulletin est un document sur les risques technologiques. Il nomme la dépendance et s'arrête là. La phrase sur la dépendance aux évaluations des fournisseurs décrit précisément l'échec : une institution qui ne peut pas évaluer le comportement de l'agent par elle-même finit par laisser le fournisseur définir la limite d'autonomie par défaut, puis signe la liste de contrôle du fournisseur comme si c'était sa propre décision.

La littératie n'est pas un cours

Le mot choisi par l'OSFI est littératie, et dans la plupart des institutions, ce mot est immédiatement orienté vers la fonction de formation. Un module sera créé. La complétion sera suivie. La complétion sera signalée au conseil comme preuve que la première mesure de gouvernance est en place.

C'est le faux substitut. Formation ≠ Capacité. Auto-évaluation ≠ Comportement. Un enregistrement de complétion montre qu'un haut dirigeant a assisté à une explication du chaînage d'outils et de l'injection de invites. Il ne montre pas ce que ce gestionnaire fait lorsqu'un résumé du dossier de crédit par un agent arrive avec un chiffre confiant qui ne correspond pas au document source. Le bulletin demande la seconde chose, car la seconde chose est ce que signifie concrètement « un examen efficace du comportement de l'IA ».

Les prévisions de Gartner sur le nombre d'agents dans les applications d'entreprise et sur le nombre de projets agentiques actuels qui atteindront la production varient selon les rapports, et je ne répéterai pas les chiffres, mais la direction n'est pas contestée. Le volume de sortie augmente. La rigueur de vérification diminue à moins que quelque chose ne la soutienne. La fausse confiance augmente. La revue humaine devient purement formelle, la dérive s'accumule et la responsabilité apparaît. C'est la séquence de dérive opérationnelle, et les déclencheurs d'escalade de l'OSFI ne sont utiles que si les personnes qui les surveillent peuvent les voir.

Lorsque de nouveaux systèmes sont introduits, l'exécution est auditée. Le comportement non. La logique même du bulletin est que le comportement est le contrôle.

Ce qu'une institution financière peut observer

La majeure partie du bulletin concerne des programmes que PAICE n'exécute pas et ne devrait pas exécuter. L'identité et l'accès pour les agents, l'exploitation, le développement sécurisé, les obligations de notification aux tiers et les tests de continuité sont des travaux de vecteur Infrastructure, et le langage de maturité pour cette couche se trouve à AI Posture. La manière dont le bulletin s'articule avec les instruments statutaires et de surveillance ailleurs est une question de vecteur Réglementation ; EveryAILaw comporte des catégories de référence et d'obligation statutaires pour cette couche, un point de départ et non une détermination de ce qui s'applique à une institution donnée. Lorsqu'une action d'un agent est déjà devenue une affaire publique, une procédure ou une détermination d'application, AI Incident Law l'enregistre.

La seule instruction que le bulletin laisse sans mesure concerne les personnes, et c'est le vecteur Personnes. PAICE (People + AI Collaboration Effectiveness) mesure comment un professionnel se comporte lorsque le résultat de l'IA est incertain, incomplet ou erroné. L'évaluation présente un travail réaliste avec des erreurs initiales du type qu'un agent pourrait produire, confiant, plausible et non validé, et évalue si la personne les détecte, vérifie l'affirmation qui porte la décision, fait escalader lorsqu'il est impossible de confirmer, et corrige plutôt que de défendre. Un gestionnaire qui semble maîtriser le risque agentique mais approuve l'erreur initiale obtient un score inférieur à celui d'un bref qui l'arrête.

Ces résultats servent de preuve de littératie et de base pour décider qui est au point de contrôle à fort impact. Ils sont également privés par conception. Les scores sont associés à des identifiants hachés, aucun texte de conversation n'est conservé, et les résultats individuels sont structurellement inaccessibles à l'institution plutôt que retenus par une politique. L'institution voit la fiabilité de sa cohorte d'approbateurs. Elle ne voit pas quel vice-président a manqué l'erreur. Cette personne le sait.

L'OSFI a demandé à chaque institution qu'elle supervise de décider du degré d'autonomie accordé à ses agents. Celles qui répondent bien découvriront d'abord comment leurs équipes se comportent lorsque l'agent se trompe, et fixeront la limite là où ce comportement peut la maintenir.

Vous souhaitez savoir si les personnes à vos points de contrôle d'approbation peuvent maintenir la limite d'autonomie que vous avez fixée ? Découvrez PAICE pour les organisations ou effectuez une évaluation individuelle pour le constater par vous-même.

Lecture recommandée

Fatigue décisionnelle et gouvernance par tampon dans l'IA agentique - Pourquoi le routage de tout par revue dégénère en aucune revue
Comment auditer la surveillance humaine dans les flux de travail assistés par l'IA - Six questions qui séparent la surveillance d'un horodatage
Lorsque la gestion du risque lié au modèle rencontre la réalité - Là où les cadres de type E-23 s'arrêtent et où le comportement commence
Qui obtient le oui sécurisé - Attribuer l'autorité d'approbation sur la base de preuves comportementales plutôt que de titre