Las Leyes del Escriba IA Informan a los Pacientes Sobre la Herramienta, No Sobre el Error
Rhode Island Requiere Notificación y Revisión. Vermont Requiere Aprobación. Ninguno Prueba Si el Clínico Detecta Algo.
Este artículo es solo con fines educativos y no constituye asesoramiento legal o médico. Las organizaciones sujetas a leyes estatales sobre notificación de IA deben consultar con asesoramiento cualificado sobre sus obligaciones específicas.
Decirle a un paciente que la nota fue escrita por IA no protege a nadie si el médico la firmó sin haberla leído.
Dos Estados, Dos Verbos
Hace tres meses, el 22 de junio de 2026, Rhode Island promulgó la Ley de Notificación sobre el Uso de Inteligencia Artificial por Proveedores de Atención Médica, efectiva desde su promulgación. La sección operativa es una oración, y vale la pena leerla completa. Cualquier proveedor o centro de atención médica que utilice IA para documentar visitas presenciales o por telesalud deberá notificar a los pacientes sobre el uso de IA para ese fin y revisar la documentación generada por IA para verificar su exactitud después de la visita. La definición de proveedor abarca médicos, asistentes médicos, dentistas, enfermeras en todos los niveles de licencia, asistentes de enfermería y cualquier otra persona licenciada por el departamento de salud estatal.
Cinco días antes, el 17 de junio, entró en vigor la Ley 156 de Vermont. Regula la IA en los servicios de salud mental y condiciona el resguardo profesional a dos aspectos: que la herramienta cumple con HIPAA y que el profesional revisa y aprueba cualquier servicio de salud mental que toque la herramienta. En EveryAILaw, tanto el registro de Rhode Island como el registro de Vermont llevan la categoría de obligación de supervisión humana (Rhode Island también lleva la transparencia). Es un índice de lo que solicita el texto estatutario, no una determinación de que alguno de los estatutos se aplique a un proveedor en particular.
Dos estados, dos verbos. Rhode Island dice notificar y revisar. Vermont dice revisar y aprobar. Ambos sitúan a una persona licenciada entre la salida del modelo y el registro del paciente, y ambos se quedan ahí. Ninguno especifica qué debe encontrar la revisión, cuánto tiempo puede tardar o qué sucede cuando el revisor está en suigésima nota del día a las seis de la tarde.
La sincronización no es casual. El 2 y 3 de septiembre de 2026, menos de 90 días después de que entrara en vigor la ley de Rhode Island, NIST y la Oficina de Derechos Civiles de la SSA llevaron a cabo su conferencia sobre la salvaguarda de información sanitaria, con una sesión sobre el Marco de Gestión de Riesgos de IA de NIST y un simposio sobre IA en la Atención Médica el 3 de septiembre. La documentación ambiental es el despliegue de IA que la mayoría de los médicos ya han encontrado, y es el que los reguladores están abordando primero.
Lo que Prueba la Notificación
Un aviso le dice al paciente que una máquina redactó la nota. Eso vale algo. Es honesto, es económico y el paciente puede objetar.
No prueba nada sobre la nota. Un paciente al que se le ha informado que la visita fue registrada por IA no tiene forma de saber si la lista de medicamentos en el documento resultante es la que él describió, si el hallazgo negativo en el examen se convirtió en uno positivo en el resumen, o si un síntoma que mencionó dos veces aparece siquiera. La divulgación es sobre la procedencia. El riesgo es sobre el contenido, y el contenido es lo que existe para verificar la revisión del médico.
Los redactores de Rhode Island entendieron esto, razón por la cual el requisito de revisión se encuentra en la misma oración que el aviso. La revisión es el control. El aviso es la cortesía. Todo lo que importa al paciente depende de la segunda cláusula, y la segunda cláusula es aquello que nadie puede ver.
Los Errores que Enfrentan Realmente los Médicos
La investigación sobre las notas clínicas generadas por LLM ha convergido en una taxonomía pequeña y estable. Un estudio de PLOS Digital Health de 2025 sobre resúmenes de encuentros en el servicio de emergencias calificó cada error según tres criterios: inexactitud de la información resumida, alucinación de información no presente en la fuente y omisión de información clínicamente relevante. Las inexactitudes y las alucinaciones se agruparon en las secciones de plan. Las omisiones se agruparon en el examen físico y la historia de la dolencia presentada.
Un marco de seguridad clínica separado, construido a partir de más de doce mil frases anotadas por médicos, utiliza las mismas dos categorías principales, alucinación y omisión, y califica cada error por su potencial daño. El estudio de PLOS informa que, en promedio, los errores individuales tenían un bajo potencial de daño, con un pequeño número clasificado como con potencial de daño permanente. El artículo del marco separa los errores mayores de los menores e informa que los errores mayores disminuyen mediante cambios en la instrucción y el flujo de trabajo. Los autores de PLOS llegan a la conclusión que es importante aquí: comprender dónde y qué tipo de errores aparecen es lo que hace que la revisión del médico sea viable, porque los errores no están distribuidos uniformemente.
La taxonomía es importante porque estos errores fallan en direcciones diferentes. Una omisión produce una nota que se lee limpia y le falta algo. Una alucinación produce una nota que se lee limpia y contiene algo falso. Un cambio de negación convierte "no dolor en el pecho" en "dolor en el pecho" y se lee limpio en ambos casos. Ninguno de ellos se anuncia. La nota que más necesitamos leer lentamente es indistinguible, a primera vista, de aquella que podríamos hojear. La fluidez es el medio. No conlleva información sobre la exactitud.
Revisión Bajo Presión Clínica
Ahora situemos la revisión estatutaria dentro de un día clínico real.
Los redactores ambientales se adoptaron para ganar tiempo, y lo hacen. El médico que antes pasaba la noche escribiendo notas ahora la pasa leyéndolas. La cola es larga, las notas están pulidas, y las primeras veinte estaban bien. Cualquiera que haya revisado una pila de salida fluida de IA sabe lo que sigue. La secuencia de deriva operativa corre igual que en cualquier otro lugar. La adopción aumenta. El volumen de salida aumenta. El rigor de verificación disminuye. La falsa confianza aumenta. La revisión humana se vuelve performativa. La deriva se acumula. Surge la responsabilidad.
En cada punto, el registro muestra una nota firmada con una marca de tiempo. La pista de auditoría está completa. El requisito de revisión de Rhode Island se cumplió en el sentido de que una persona licenciada hizo clic en un botón. Si la revisión ocurrió en el sentido que los redactores pretendían, una persona leyendo un documento para los tipos de error específicos que dice la literatura, es invisible para el paciente, el sistema de salud, el estado y, a menudo, para el médico.
Un aviso de uso de IA no cambia esto. Una línea de firma no cambia esto. Una política que requiere revisión no cambia esto. Cada uno de esos artefactos registra que una revisión debía ocurrir. No lo que informan, sino lo que hacen.
Lo que un Sistema de Salud Puede Medir Sin Leer una Nota
La solución obvia es el monitoreo: registrar las ediciones, cronometrar las revisiones, señalar a los médicos que firman rápido. Ya existe un paquete de vendedor para eso, estoy seguro. Yo me opondría a eso. Construye un sistema de vigilancia sobre los profesionales licenciados, invade los entornos sindicalizados y académicos, y lo que produce son recuentos de ediciones, que miden la actividad y no dicen nada sobre si se detectó la omisión en la sección del examen.
PAICE (People + AI Collaboration Effectiveness) toma el otro camino. Mide la fiabilidad conductual por evaluación, no por observación. La evaluación siembra errores exactamente del tipo que describe el escriba: un hallazgo omitido, un detalle fabricado, una negación invertida, dentro de una salida pulida, bajo presión de tiempo, y puntúa si la persona los detecta, verifica la afirmación que conlleva la decisión y escala cuando algo no se puede confirmar. Un médico que suena fluido sobre IA pero firma la negación invertida puntúa menos que uno conciso que lo detecta.
Los resultados no contienen datos del paciente, ni texto de la nota, ni grabación, ni transcripción. Las puntuaciones se adjuntan a identificadores cifrados. Los resultados individuales son estructuralmente inaccesibles para el sistema de salud en lugar de ser retenidos por una política. Un director médico de información ve la fiabilidad de verificación de una cohorte y dónde se degrada. El médico ve la suya.
Rhode Island y Vermont han plasmado la revisión del médico en la ley. Ese es el control correcto. La pregunta que un sistema de salud puede ahora responder, antes de que un auditor estatal o un experto de la parte demandante la haga, es si la revisión es real.
¿Quiere evaluar el comportamiento de verificación de sus médicos sin vigilancia? Conozca PAICE para organizaciones o realice una evaluación individual para verlo por sí mismo.
Lecturas Recomendadas
- IA Collaboration para Documentación Clínica - La visión del flujo de trabajo de la documentación ambiental
- IA Collaboration para la Seguridad Sanitaria y del Paciente - Donde la salida de la IA se encuentra con el juicio clínico
- La Transparencia Indica que es IA. No Puede Decir Cómo Confiar en Ella. - Por qué la divulgación y la fiabilidad son preguntas diferentes
- Gobernanza Sin Vigilancia - La arquitectura de privacidad detrás de la medición conductual
¿Curioso pero con poco tiempo?
Realiza el PAICE Pulse de 3 minutos — una verificación rápida de confianza que muestra cómo percibes tu propia postura de colaboración con IA. No requiere inicio de sesión.