Límites de Autonomía de la IA Agente: Lo que OSFI Pide a los Bancos que Decidan
El Boletín de Riesgo Tecnológico de julio de 2026 convierte la autonomía en una decisión de gobernanza y la alfabetización gerencial en un control
Este artículo es solo con fines educativos y no constituye asesoramiento legal. Las instituciones financieras reguladas federalmente deben consultar con asesores calificados sobre cómo se aplican las expectativas de OSFI.
Un límite de autonomía que nadie en la sala pudiera reconocer que se ha cruzado es un deseo.
OSFI Decidió sobre la Autonomía
En julio de 2026, la Oficina del Supervisor de Instituciones Financieras publicó un Boletín sobre Riesgo Tecnológico titulado Inteligencia Artificial Generativa y Agente: Implicaciones para la Tecnología, la Ciberseguridad y la Resiliencia Operacional. Este se aplica a las instituciones financieras reguladas federalmente en Canadá y coteja sus prácticas con las directrices a las que ya están sujetas estas instituciones: B-13 sobre riesgo tecnológico y cibernético, E-21 sobre riesgo y resiliencia operativa, y B-10 sobre riesgo de terceros, con una referencia a E-23 para el riesgo del modelo.
El boletín traza su línea divisoria entre ambas tecnologías en la primera frase. La IA generativa "habilita la creación de contenido", mientras que la IA agente "introduce el razonamiento y la ejecución autónoma". Su nota al pie define los sistemas agentes como aquellos que "razonan, planifican, toman decisiones y actúan de forma autónoma sin intervención humana".
Luego, bajo el epígrafe sobre gobernanza y rendición de cuentas estratégica, solicita a las instituciones que "definan la propiedad a lo largo del ciclo de vida de la IA y establezcan límites a la autonomía".
Es un regulador diciéndole a las instituciones que supervisa que la cantidad de autonomía que recibe un agente es una decisión que la institución debe tomar y asumir. El boletín no dice nada sobre cuál debería ser ese límite. El número queda a cargo de la institución, al igual que la pregunta más difícil, aquella que querríamos contestar primero: ¿quién podría decir si se está manteniendo ese límite?
Tres Instrucciones en una Sola Lista
La instrucción sobre autonomía no está aislada. Forma parte de una lista de seis medidas de gobernanza, y el contexto es más importante que su posición.
El primer punto es "fortalecer la alfabetización de la alta gerencia". El tercero es "integrar los riesgos de la IA en el marco de gestión de riesgos empresariales", cubriendo riesgos cibernéticos, tecnológicos, del modelo y de terceros, "para garantizar la identificación, agregación y mitigación coherentes de riesgos interconectados". El quinto es el límite de autonomía. El sexto pide a las instituciones que "implementen el aprovechamiento de la IA junto con la supervisión humana para mantener la rendición de cuentas y prevenir acciones no intencionadas".
El párrafo anterior a la lista explica por qué es importante la alfabetización. OSFI escribe que "los sistemas de IA pueden operar con una supervisión humana limitada" y que "las lagunas en la comprensión de la alta gerencia pueden llevar a una excesiva dependencia de las evaluaciones proporcionadas por el proveedor, limitando el escrutinio efectivo del comportamiento de la IA".
Al leer los tres juntos, la dependencia es explícita. Un límite de autonomía es una declaración sobre el apetito de riesgo. Una declaración sobre el apetito de riesgo solo es real cuando se encuentra dentro del marco de gestión de riesgos empresariales con desencadenantes de escalamiento adjuntos, algo que también solicita el boletín. Y el marco solo funciona si las personas que lo poseen entienden el sistema lo suficiente como para escrutarlo ellas mismas en lugar de aceptar la versión del proveedor.
El resto del boletín repite este patrón en el nivel operativo. Se indica a las instituciones que "traten los resultados generados por la IA como insumos para la toma de decisiones y no como resultados definitivos", que "garanticen la supervisión humana con rendición de cuentas por las decisiones materiales o de alto impacto", y que "apliquen puntos de control de aprobación para acciones de alto impacto". Cada uno de esos controles termina en una persona.
Lo que Realmente Requiere Establecer un Límite
Consideremos lo que implica cumplir con esa única línea para una institución.
¿Dónde termina el agente y comienza la persona? ¿Para qué clases de acciones? ¿Bajo qué condiciones se eleva una excepción y a quién? ¿Qué necesita ver la persona en el punto de control y cuánto tiempo tiene? Y cuando la propuesta del agente es fluida, bien estructurada y errónea en un detalle estructural clave, ¿es la persona en el punto de control el tipo de persona que lo nota?
La parte de la infraestructura de esas preguntas tiene respuestas. El boletín las enumera: identidades únicas no humanas, principio de mínimo privilegio, permisos acotados, listas blancas de herramientas detrás de pasarelas API, actividad del agente registrada y revisada. AWS ha llegado tan lejos como nombrar la aprobación de sello de goma como antipatrón de hacer que todo pase por revisión humana, lo cual cubrí en una publicación anterior.
La parte humana no tiene respuesta en el boletín, porque el boletín es un documento de riesgo tecnológico. Nombra la dependencia y se detiene. La frase sobre la excesiva dependencia de las evaluaciones del proveedor describe el fallo con precisión: una institución que no puede evaluar el comportamiento del agente por sí misma termina dejando que el proveedor establezca el límite de autonomía por defecto, y luego firma la lista de verificación del proveedor como si fuera su propia decisión.
La Alfabetización No Es un Curso
La palabra que eligió OSFI es alfabetización, y en la mayoría de las instituciones esa palabra se dirige directamente a la función de capacitación. Se construirá un módulo. Se hará seguimiento de la finalización. Se informará a la junta como evidencia de que la primera medida de gobernanza está implementada.
Ese es el sustituto fallido. Capacitación ≠ Capacidad. Autoevaluación ≠ Comportamiento. Un registro de finalización muestra que un alto ejecutivo asistió a una explicación sobre encadenamiento de herramientas e inyección de indicaciones. No muestra qué hace ese gerente cuando llega un resumen del archivo crediticio generado por un agente con una cifra segura que no coincide con el documento fuente. El boletín está pidiendo lo segundo, porque lo segundo es lo que significa "escrutinio efectivo del comportamiento de la IA" en la práctica.
Los pronósticos de Gartner sobre el número de agentes en las aplicaciones empresariales y cuántos proyectos agentes actuales llegarán a producción varían según el informe y no repetiré las cifras, pero la dirección no es discutible. El volumen de salida aumenta. El rigor de la verificación disminuye a menos que algo lo sostenga. La confianza falsa aumenta. La revisión humana se vuelve performativa, la deriva se acumula y surge la responsabilidad. Esa es la secuencia de deriva operativa, y los desencadenantes de escalamiento de OSFI solo son útiles si las personas que los vigilan pueden verlos.
Cuando se introducen nuevos sistemas, se audita la ejecución. No el comportamiento. La propia lógica del boletín dice que el comportamiento es el control.
Lo que una Institución Financiera Puede Observar
La mayor parte del boletín pertenece a programas que PAICE no ejecuta y no debería. La identidad y el acceso para los agentes, el aprovechamiento, el desarrollo seguro, las obligaciones de notificación a terceros y las pruebas de continuidad son trabajo del vector de Infraestructura, y el lenguaje de madurez para esa capa se encuentra en AI Posture. Cómo se alinea el boletín con los instrumentos estatutarios y de supervisión en otros lugares es una cuestión del vector de Regulación; EveryAILaw conlleva referencias y categorías de obligación estatutaria para esa capa, un punto de partida y no una determinación de lo que aplica a una institución determinada. Cuando la acción de un agente ya se ha convertido en un asunto público, un procedimiento o una determinación de cumplimiento, AI Incident Law lo registra.
La única instrucción que el boletín deja sin una medición es la relativa a las personas, y esa es la del vector Persona. PAICE (People + AI Collaboration Effectiveness) mide cómo se comporta un profesional cuando la salida de la IA es incierta, incompleta o incorrecta. La evaluación presenta trabajo realista con errores iniciales del tipo que produciría un agente: seguro, plausible y no validado, y puntúa si la persona los detecta, verifica la afirmación que conlleva la decisión, escala cuando algo no se puede confirmar y corrige en lugar de defender. Un gerente que suena fluido sobre el riesgo agente pero aprueba el error inicial obtiene una puntuación más baja que uno conciso que lo detiene.
Esos resultados sirven como evidencia de alfabetización y como base para decidir quién se sienta en un punto de control de alto impacto. También son privados por arquitectura. Las puntuaciones se adjuntan a identificadores cifrados, no se conserva texto de conversación y los resultados individuales son estructuralmente inaccesibles para la institución en lugar de retenidos por política. La institución ve la fiabilidad de su grupo de aprobadores. No ve qué vicepresidente pasó por alto el error. Esa persona sí lo ve.
OSFI ha pedido a cada institución que supervisa que decida cuánta autonomía tienen sus agentes. Aquellas que responden bien descubrirán primero cómo se comportan sus personas cuando el agente se equivoca, y establecerán el límite donde ese comportamiento puede sostenerlo.
¿Quiere saber si las personas en sus puntos de control de aprobación pueden sostener el límite de autonomía que usted establece? Conozca PAICE para organizaciones o realice una evaluación individual para verlo de primera mano.
Lecturas Recomendadas
- Fatiga de Aprobación de IA Agente y Gobernanza de Sello de Goma - Por qué hacer pasar todo por revisión degrada en no revisión
- Cómo Auditar la Supervisión Humana en Flujos de Trabajo Habilitados por IA - Seis preguntas que separan la supervisión de una marca de tiempo
- Cuando la Gestión del Riesgo del Modelo se Encuentra con la Realidad - Donde los marcos tipo E-23 se detienen y comienza el comportamiento
- Quién Obtiene el Sí Seguro - Asignando autoridad de aprobación basándose en evidencia conductual en lugar de título
¿Curioso pero con poco tiempo?
Realiza el PAICE Pulse de 3 minutos — una verificación rápida de confianza que muestra cómo percibes tu propia postura de colaboración con IA. No requiere inicio de sesión.