Detectando Intenciones Alternativas: Cuando Algo Más Está Optimizando

La desviación de lo que pedimos y la sustitución de algo que nunca pedimos son fallos diferentes, y solo uno de ellos parece un error.

Dos Fallos Diferentes

Un modelo puede fallar nuestra instrucción de dos maneras, y nosotros tenemos lenguaje para una de ellas.

La primera es la deriva (drift). Pedimos un resumen de menos de 200 palabras sin recomendaciones, y recibimos 340 palabras terminando con tres recomendaciones. No cumple con un estándar que establecimos, y lo notamos porque la deficiencia es legible.

La segunda es la sustitución. Pedimos los riesgos en un acuerdo con un proveedor, y recibimos los riesgos comúnmente discutidos en dichos acuerdos. Fluido, preciso, optimizado para un objetivo diferente al nuestro. Nada de ello está mal. Es una buena respuesta a una pregunta que no hicimos, y cuanto mejor sea, menos probable es que alguien detecte el cambio.

La deriva produce un trabajo que parece deficiente. La sustitución produce un trabajo que parece correcto. Los procesos de revisión están diseñados para detectar el primero.

La Desviación Ya Está Medida, en Un Solo Lado

Observe el esfuerzo invertido en cuantificar ese primer fallo. En julio de 2025, Distyl AI publicó IFScale, que pide a los modelos que satisfagan hasta 500 instrucciones simultáneas y observa cómo cae la precisión a medida que aumenta el recuento. Un año después, Arize informó que los modelos perdían el hilo alrededor de las 200 a 300 restricciones, mientras que los cercanos a 2,000 mantenían la coherencia. Tenemos marcadores de posición para saber si la máquina siguió la instrucción y nada para saber si la persona notó cuando no lo hizo. Esa asimetría no es un descuido: un lado es una propiedad de un artefacto y se puntúa automáticamente; el otro es una propiedad de una persona bajo ciertas condiciones y debe ser observado.

Tres Lugares Donde Entra la Intención Alterna

El modelo conlleva preferencias con las que fue entrenado. Ajustado para ser útil y complaciente, completa en lugar de rechazar, suaviza en lugar de señalar, y ofrece una respuesta segura en lugar de una cautela precisa. Esas disposiciones se instalaron a propósito y no son nuestras. Cuando un modelo resuelve una ambigüedad sin decirnos que la encontró, una intención operó. Simplemente no era nuestra.

Los incentivos del proveedor están en el producto. Los valores predeterminados, las indicaciones sugeridas, lo que la herramienta facilita y lo que hace tedioso, todo codifica lo que el proveedor quiere que hagamos más. Eso se alinea con nuestro resultado a veces y nunca por construcción.

La persona que reformuló la solicitud. La intención alterna más común en cualquier organización es humana. Una solicitud pasa por tres personas y llega sutilmente diferente, porque cada una la entendió a través de su propio lente. Eso era cierto antes de que se lanzara cualquier modelo, razón por la cual la habilidad se generaliza.

El Registro Es el Instrumento

Detectar una intención alterna necesita algo contra lo que detectar, y la expectativa no es suficiente. La expectativa se reconstruye después del hecho para que coincida con lo que obtuvimos. Cualquiera que haya leído un resultado, se haya sentido satisfecho y luego haya vuelto a leer el encargo original una hora después sabe cómo funciona eso.

Así que la práctica es mecánica: registrar la intención primero, específicamente lo suficiente para que pueda ser violada. No "revisar este contrato", sino "identificar los términos de indemnización y limitación de responsabilidad que difieren de nuestra postura estándar, y no señalar nada más". Luego, leer el resultado contra el registro en lugar de contra la sensación de una buena respuesta.

Es por esto que seguimos escribiendo sobre pistas de auditoría para decisiones asistidas por IA. Un registro de lo que se pidió no es burocracia. Es el único instrumento que hace visible la sustitución, porque la sustitución se define enteramente por la brecha entre la intención registrada y la intención servida.

La Habilidad No Es Nueva, y Los Límites Son Reales

Detectar la intención es cómo se genera la confianza entre las personas. La inferimos del comportamiento, notamos cuándo las acciones dejan de coincidir con las palabras y revisamos. Cada relación profesional que tiene un profesional regulado funciona con ese ciclo. Lo que ha cambiado es que hemos añadido participantes cuya intención no es ni visible ni estable, en un volumen donde el ciclo deja de funcionar por defecto.

Afecta en ambos sentidos, que es la parte que se omite. Un sistema que refleja nuestra intención con precisión gana más confianza, y debería hacerlo. La detección no es sospecha; es el mecanismo sobre el que opera la confianza.

Dos límites, porque este tema atrae extralimitaciones. No estamos afirmando tener acceso a estados mentales ocultos, ni en un modelo ni en una persona. Una brecha entre la intención registrada y el comportamiento observable es evidencia de que está operando otro objetivo, no evidencia de cuál es, y tratar una inferencia sobre el mecanismo como un hallazgo sobre el motivo es cómo esto se convierte en paranoia. Tampoco tenemos una línea base. Nadie ha publicado una tasa de cuán seguido los profesionales detectan la sustitución en condiciones de trabajo, incluyéndonos a nosotros, lo cual es el tema de otra publicación.

Los dos fallos son diferentes, nuestros procesos de revisión detectan uno de ellos, y la diferencia aparece en el momento en que alguien pregunta qué pedimos realmente.

---

¿Quiere saber si sus profesionales detectan la sustitución o la aprueban? Conozca PAICE para organizaciones o realice una evaluación individual para verlo de primera mano.

---

Lecturas Recomendadas

• Pistas de Auditoría para Decisiones Asistidas por IA - Registrar lo que se pidió, no solo lo que se produjo
• Cuando la IA Collaboration Sale Mal - Modos de fallo que parecen éxito
• La Fatiga de la IA Es Real - Lo que sucede con la detección bajo volumen
• La Ética de la IA Collaboration - A cuya intención sirve el acuerdo