La transparencia dice que es IA. No puede decirte cómo confiar en ella.
La Comisión Europea ha abierto a consulta sus borradores de directrices sobre las obligaciones de transparencia del Artículo 50 de la Ley de IA, y la ventana de consulta se cierra hoy. Como CEO de PAICE.work PBC, presenté una respuesta desde la perspectiva de la medición y verificación que desarrollamos en abierto. Las directrices no son vinculantes y son explícitamente provisionales; la Comisión puede modificarlas, y solo el Tribunal de Justicia puede ofrecer una interpretación autorizada, pero las obligaciones que interpretan entran en vigor el 2 de agosto de 2026, por lo que la consulta es el momento de acertar en la interpretación.
Al trabajar en el borrador para redactar esos comentarios, seguí encontrando la misma laguna. El Artículo 50 puede obligar a un sistema a declarar que es artificial. No puede garantizar que esa declaración llegue a un ser humano, que sobreviva al paso del tiempo o que produzca algún juicio real en la persona que lo recibe. La primera es un problema de etiquetado, y la Ley de IA ofrece una respuesta creíble. Los otros tres son problemas estructurales y de comportamiento, y la regulación silenciosamente los devuelve a ustedes.
Tenga en cuenta que esto no es asesoramiento legal y siempre debe consultar con sus propios equipos legales y de cumplimiento antes de actuar sobre las obligaciones de transparencia de la Ley de IA. Los borradores de directrices discutidos aquí se publicaron para consulta y pueden cambiar antes de su adopción.
Lo que supone el Artículo 50
El Artículo 50 es el nivel de transparencia de la Ley de IA, la categoría de sistemas que representan un riesgo no por lo que deciden, sino por lo que ocultan. El borrador de directrices aborda cuatro obligaciones. El Artículo 50(1) cubre la IA que interactúa directamente con las personas: los proveedores deben diseñar el sistema para que cualquier persona que interactúe con él sea informada de que está tratando con una IA. El Artículo 50(2) cubre el contenido sintético: los proveedores deben marcar las salidas generadas de una manera detectable y legible por máquina. El Artículo 50(3) cubre el reconocimiento de emociones y la categorización biométrica, donde los desplegadores deben informar a las personas expuestas. El Artículo 50(4) cubre los deep fakes y el texto generado por IA publicado para informar al público sobre asuntos de interés público. Una quinta disposición, el Artículo 50(5), establece la regla horizontal para todos ellos: la información debe ser clara, distinguible, accesible y proporcionada a más tardar en la primera interacción o exposición.
Cada una de esas obligaciones descansa sobre un único supuesto. Un ser humano lee una etiqueta clara en el momento del primer contacto y actúa en consecuencia. Ese supuesto es erróneo de tres maneras diferentes, y cada una se convirtió en una sección de mi presentación.
La etiqueta puede no llegar nunca a un ser humano
El borrador supone que la divulgación es leída por la persona que se pretende proteger. Cada vez menos sucede. El primer, y a veces único, lector de una divulgación es un agente autónomo que actúa en nombre de alguien: un agente de búsqueda, un agente de compras, un asistente personal que habla con el chatbot de servicio al cliente de un proveedor para que su propietario no tenga que hacerlo. El humano lee el resumen del agente, no la interfaz original.
Esto crea una contradicción dentro de las propias directrices. El párrafo 35 dice que las marcas legibles por máquina no pueden satisfacer el Artículo 50(1) porque no son perceptibles por los usuarios en el punto de interacción. Los párrafos 33 y la nota al pie 20 respaldan las credenciales de identidad verificable de la IA basadas en eIDAS y las Carteras de Identidad Digital de la UE. Estos elementos jalan en direcciones opuestas. Cuando la exposición está mediada por un agente, una señal visual u auditiva solo humana nunca llega a la persona, porque esta está leyendo un resumen transmitido. La capa legible por máquina es la condición previa para la percepción humana, no una alternativa a ella. Nuestro comentario pedía a la Comisión que dijera esto directamente y que extendiera el párrafo 28, que cubre a un agente que se revela, a la cadena de retransmisión donde un agente tiene que exponer la divulgación de otro sistema a un humano.
Hay una versión más profunda de este problema que se sitúa justo fuera del marco del Artículo 50. El Artículo 50 rige el acto de divulgación del proveedor, no si un agente mediador lo transmite fielmente. Una divulgación marcada correctamente aún puede ser omitida o tergiversada por un intermediario comprometido, y la persona al final de la cadena no se entera de nada. La regulación está mapeando la capa de contenido, la cuestión de si el contenido está marcado, y aún no la capa de retransmisión, si esa marca sobrevive a los agentes entre el sistema y el humano. Eso es un problema de robustez e integridad del agente más que de transparencia, y vale la pena mencionarlo mientras el borrador aún se compromete con una revisión futura. En la presentación, logré resistir la tentación de mencionar nuestra solución a este tipo de problema a través de nuestro estándar abierto GuideCheck (CC BY 4.0).
Una etiqueta se degrada
El segundo defecto es el tiempo. El borrador trata el cumplimiento como un juicio único, fijado en el momento en que el proveedor lo hace. Dos de las obligaciones no pueden funcionar así.
El Artículo 50(1) tiene una exención para interacciones que son obviamente artificiales. Pero la "obviedad" no es estable, cambia bastante rápido. El párrafo 42 del borrador concede que la replicación realista disminuiría la obviedad, pero luego trata la evaluación como estática y interna del proveedor. Un asistente de voz que era claramente sintético en el lanzamiento puede volverse indistinguible de un humano después de una actualización rutinaria del modelo: mismo despliegue, misma decisión de divulgación, pero la exención ha caducado silenciosamente. El Artículo 50(2) tiene la misma forma en el lado de la marcación. Los párrafos 77 y 78 aceptan que el estado del arte y las técnicas adversarias evolucionan, lo que significa que una afirmación de robustez válida hoy se degrada a medida que avanzan los ataques.
Hay una laguna relacionada en cómo se demuestra el cumplimiento. El párrafo 74 define la eficacia y la robustez como propiedades observables y externas: si las marcas sobreviven a la transmisión realista, la recodificación, el recorte y la manipulación adversaria en el mundo real. El borrador nunca dice cómo demuestra un proveedor esto, lo que deja la autodeclaración del proveedor como predeterminada. Sin embargo, las pruebas internas de un proveedor, por muy rigurosas que sean, no pueden establecer una eficacia externa. Argumentamos que el cumplimiento debe basarse en una evaluación independiente y verificable externamente, informada por la modalidad en un umbral de confianza declarado, y que la afirmación debe ser una aserción con marca de tiempo, fechada y reevaluada a intervalos, en lugar de una declaración de conformidad que permanezca inalterada.
Ese es exactamente el modelo detrás de AI Posture, la especificación abierta que mantenemos (CC BY 4.0, sin reclamación comercial sobre el resultado) para tratar una afirmación de seguridad y gobernanza como una declaración de estado verificable externamente y con marca de tiempo, en lugar de un certificado único. Una postura es cierta a partir de una fecha y se restablece en una cadencia. El cumplimiento de transparencia tiene la misma estructura temporal, y el borrador de directrices sería más sólido al nombrarla. Fue la única referencia externa en nuestra presentación, colocada frente al párrafo cuya laguna encaja, en lugar de dispersa por toda la respuesta.
Incluso una etiqueta perfecta no es una habilidad
Supongamos que ambos defectos estructurales se hayan corregido. La divulgación es legible por máquina, llega al humano a través de cada agente en la cadena y conlleva una fecha de afirmación fresca. Persiste un tercer vacío, y es el que PAICE (People + AI Collaboration Effectiveness) existe para medir.
Las directrices son francas sobre por qué existen estas obligaciones. El propósito declarado, extraído del Considerando 132, es permitir que las personas tomen decisiones informadas, evitar que dependan excesivamente de los sistemas de IA y permitirles calibrar su confianza en el contenido y las interacciones en consecuencia. Calibrar su confianza. Ese es el objetivo en palabras del reglamento. No es ser advertido, no es ver una etiqueta, sino ajustar la confianza al alza o a la baja para que coincida con cuán fiable es el sistema realmente en esta tarea, en este momento.
Una divulgación cumple bien un trabajo: elimina la excusa de no saber. Una vez que un banner indica que se está interactuando con un sistema de IA, la persona ya no puede alegar que asumió que un humano lo escribió. Pero saber que se está hablando con una IA no hace que seas bueno hablando con ella. La etiqueta es idéntica si el sistema tiene razón o no en un turno dado. No detecta la cita fabricada, el número declarado con confianza pero erróneo por un orden de magnitud, el resumen que omite la cláusula que invierte el significado. Calibrar la confianza significa detectar esos errores, y ningún aviso puede hacer ese trabajo, porque el trabajo sucede dentro de la persona después de que la divulgación ha sido leída y descartada. Esta es la misma laguna que se presenta bajo una revisión humana significativa: un reglamento puede exigir que un humano revise la salida de la IA, pero no puede exigir que esa revisión sea buena. PAICE observa el comportamiento que la divulgación se supone que posibilita y no puede ofrecer: si una persona detecta errores inyectados, si verifica antes de confiar, si su confianza sigue la evidencia en lugar de la fluidez.
Tres capas, una forma
Escribir los comentarios significó tener presentes cuatro tipos de textos legales a la vez: el Reglamento vinculante, los Considerandos no vinculantes que lo interpretan, el borrador de Directrices que interpreta los artículos y un próximo Código de Prácticas que conllevará una presunción de cumplimiento. Como lector proveniente de estatutos estadounidenses (y que ha trabajado junto a abogados pero nunca ha estudiado derecho formalmente), tuve dificultades para saber cuál de estos era realmente ley y cómo se relacionaban. Para mantenerlos claros mientras trabajaba, modelé el Artículo 50 en Obligation First, el patrón abierto que mantengo para colapsar una jerarquía de fuentes legales multicapa en una forma uniforme: Términos y las Obligaciones que crean o interpretan.
En ese modelo, el Artículo 50(2), el Considerando 133 y el párrafo 69 de las Directrices parecen tres tipos diferentes de cosas, pero todos son Términos. Lo que difiere es solo a qué instrumento pertenece cada uno y si crea una obligación. El Artículo 50(2) crea el deber de marcado. El Considerando 133 no crea nada y existe para ser anclado para interpretación. El párrafo 69 pertenece a un instrumento separado y no vinculante y se ancla al artículo que explica. Fundamentalmente, la interpretación no anula: una directriz no vinculante puede anclarse al reglamento que interpreta, pero nunca puede derrotarlo o suplantarlo, y solo el Tribunal de Justicia podría emitir una determinación que vincule autoritativamente la lectura. Modelar la relación de esa manera codifica la realidad legal directamente. También hizo que los defectos estructurales anteriores fueran más fáciles de ver, porque una vez que la jerarquía de fuentes es un solo grafo, la cuestión de lo que requiere una obligación y cómo el tiempo y los agentes cambian ese requisito es una única travesía en lugar de un ejercicio de lectura a través de tres documentos en tres estilos de citación.
La laguna que deja abierta la transparencia
El Artículo 50 es una buena regulación dirigida a un daño real, y el borrador de directrices lo hace más factible. Las infracciones pueden acarrear multas de hasta quince millones de euros o el tres por ciento de la facturación mundial anual, por lo que las obligaciones tienen dientes reales. Lo que el borrador hace visible, casi de pasada, es el límite de lo que puede lograr la divulgación. La Ley de IA puede exigir una etiqueta en cada sistema dentro del alcance para agosto de 2026. No puede garantizar que la etiqueta llegue alguna vez a un ser humano, no puede mantener la etiqueta veraz a medida que avanzan los modelos, y no puede poner juicio calibrado tras los ojos que la leen.
Los dos primeros vacíos son abordables en el texto, por lo que presentamos como una sociedad civil estadounidense que contribuye con un estándar abierto, neutral frente a proveedores, al proceso legislativo de la UE de buena fe. El tercero no es un problema de redacción. Calibrated la confianza es una capacidad conductual que varía de persona a persona, no viene incluida con un aviso, y para los profesionales cuyo trabajo conlleva consecuencias reales es la parte que realmente protege a cualquiera.
La transparencia te dice que es IA. Si sabes qué hacer con eso es una medición completamente diferente.
¿Quiere conocer su propio perfil de preparación? Realice la evaluación PAICE para descubrir sus fortalezas y oportunidades.
Lecturas recomendadas
¿Curioso pero con poco tiempo?
Realiza el PAICE Pulse de 3 minutos — una verificación rápida de confianza que muestra cómo percibes tu propia postura de colaboración con IA. No requiere inicio de sesión.