Leis do Escrivão de IA Informam Pacientes Sobre a Ferramenta, Não Sobre o Erro
Rhode Island Exige Notificação e Revisão. Vermont Exige Aprovação. Nenhum Testa se o Clínico Percebe Algo.
Este artigo tem fins educacionais e não constitui aconselhamento jurídico ou médico. Organizações sujeitas a leis estaduais de notificação de IA devem consultar assessoria jurídica qualificada sobre suas obrigações específicas.
Dizer ao paciente que a anotação foi escrita por IA não protege ninguém se o médico a assinar sem tê-la lido.
Dois Estados, Dois Verbos
Há três meses, em 22 de junho de 2026, Rhode Island promulgou a Lei de Notificação sobre Uso de Inteligência Artificial por Prestadores de Saúde, entrando em vigor na promulgação. A seção operacional tem uma frase, e vale a pena lê-la por completo. Qualquer prestador de saúde ou instalação que utilize IA para documentar consultas presenciais ou por telemedicina deverá notificar os pacientes sobre o uso da IA para esse fim e revisar a documentação gerada por IA quanto à exatidão após a consulta. A definição de prestador abrange médicos, assistentes médicos, dentistas, enfermeiros em todos os níveis de licença, auxiliares de enfermagem e qualquer outra pessoa licenciada pelo departamento de saúde estadual.
Cinco dias antes, em 17 de junho, a Lei 156 de Vermont entrou em vigor na promulgação. Ela regula a IA em serviços de saúde mental e condiciona o porto seguro do profissional a duas coisas: a ferramenta deve ser compatível com a HIPAA, e o profissional deve revisar e aprovar quaisquer serviços de saúde mental tocados pela ferramenta. Na EveryAILaw, tanto o registro de Rhode Island quanto o registro de Vermont carregam a categoria de obrigação de supervisão humana (o de Rhode Island também carrega transparência). Isso é um índice do que o texto estatutário exige, não uma constatação de que qualquer estatuto se aplica a um prestador específico.
Dois estados, dois verbos. Rhode Island diz notificar e revisar. Vermont diz revisar e aprovar. Ambos colocam uma pessoa licenciada entre a saída do modelo e o prontuário do paciente, e ambos param por aí. Nenhum diz o que a revisão deve encontrar, quanto tempo ela pode levar ou o que acontece quando o revisor está na sua trigésima anotação do dia às seis da noite.
O momento não é acidental. Em 2 e 3 de setembro de 2026, menos de 90 dias após a lei de Rhode Island entrar em vigor, o NIST e o Escritório de Direitos Civis do HHS realizaram a conferência sobre salvaguarda de informações de saúde, com uma sessão do NIST sobre Estrutura de Gerenciamento de Riscos de IA e um debate sobre IA na Saúde na agenda de 3 de setembro. A documentação ambiental é a implantação de IA com a qual a maioria dos clínicos já lidou, e é para isso que os reguladores estão recorrendo primeiro.
O Que a Notificação Prova
Um aviso informa ao paciente que uma máquina redigiu a anotação. Isso tem algum valor. É honesto, é barato e o paciente pode contestar.
Não prova nada sobre a anotação. Um paciente que é informado de que a consulta foi gravada por IA não tem como saber se a lista de medicamentos no documento resultante é aquela que ele descreveu, se o achado negativo no exame se tornou positivo no resumo, ou se um sintoma que ele mencionou duas vezes aparece. A divulgação é sobre a procedência. O risco é sobre o conteúdo, e o conteúdo é o que a revisão do clínico existe para verificar.
Os redatores de Rhode Island entenderam isso, razão pela qual o requisito de revisão está na mesma frase que a notificação. A revisão é o controle. A notificação é a cortesia. Tudo o que importa para o paciente depende da segunda cláusula, e a segunda cláusula é aquela que ninguém consegue ver.
Os Erros que os Clínicos Realmente Enfrentam
A pesquisa sobre anotações clínicas geradas pelo LLM convergiu em uma taxonomia pequena e estável. Um estudo de 2025 da PLOS Digital Health sobre resumos de atendimentos de emergência avaliou cada erro com base em três critérios: imprecisão da informação resumida, alucinação de informação não presente na fonte e omissão de informação clinicamente relevante. Imprecisões e alucinações se agruparam nas seções de plano. Omissões agruparam-se no exame físico e na história da queixa atual.
Um arcabouço de segurança clínica separado, construído a partir de mais de doze mil frases anotadas por clínicos, usa as mesmas duas categorias principais, alucinação e omissão, e avalia cada erro quanto ao potencial de dano. O estudo da PLOS relata que erros individuais, em média, tinham baixo potencial de dano, com um pequeno número classificado como tendo potencial de dano permanente. O artigo do arcabouço separa erros maiores de menores e relata a redução de erros graves por meio de mudanças no prompt e no fluxo de trabalho. Os autores da PLOS chegam à conclusão que é importante aqui: entender onde e que tipo de erros aparecem é o que torna a revisão do clínico viável, porque os erros não estão distribuídos uniformemente.
A taxonomia importa porque esses erros falham em direções diferentes. Uma omissão produz uma anotação que lê-se clara e que está faltando algo. Uma alucinação produz uma anotação que lê-se clara e que contém algo falso. Uma inversão de negação transforma "nega dor no peito" em "relata dor no peito" e lê-se clara em ambos os casos. Nenhum deles se anuncia. A anotação que mais precisamos ler lentamente é indistinguível, à primeira vista, daquela que poderíamos folhear. A fluência é o meio. Ela não carrega nenhuma informação sobre precisão.
Revisão Sob Pressão Clínica
Agora coloque a revisão estatutária em um dia real de clínica.
Os secretários ambientais foram adotados para render tempo, e eles renderam. O clínico que antes passava a noite escrevendo anotações agora passa lendo-as. A fila é longa, as anotações são polidas, e as primeiras vinte estavam boas. Qualquer pessoa que revisou uma pilha de saída fluente de IA sabe o que vem depois. A sequência de deriva operacional corre da mesma forma que corre em todos os lugares. Adoção aumenta. Volume de saída aumenta. Rigor de verificação diminui. Falsa confiança aumenta. A revisão humana torna-se performática. A deriva se acumula. A responsabilidade emerge.
Em todo ponto, o registro mostra uma anotação assinada com um carimbo de data e hora. O trilho de auditoria está completo. O requisito de revisão de Rhode Island foi satisfeito no sentido de que uma pessoa licenciada clicou em um botão. Se a revisão ocorreu no sentido que os redatores pretendiam, uma pessoa lendo um documento para os tipos específicos de erro que a literatura diz que existem, isso é invisível para o paciente, o sistema de saúde, o estado e, muitas vezes, para o clínico.
Um aviso de uso de IA não muda isso. Uma linha de assinatura não muda isso. Uma política exigindo revisão não muda isso. Cada um desses artefatos registra que uma revisão deveria ter acontecido. Não o que eles relatam, mas o que eles fazem.
O Que um Sistema de Saúde Pode Medir Sem Ler uma Anotação
A correção óbvia é monitoramento: registre as edições, cronometre as revisões, sinalize os clínicos que assinam rapidamente. Já existe um material de vendedor para isso, tenho certeza. Eu iria contra isso. Isso constrói um sistema de vigilância sobre profissionais licenciados, invade ambientes sindicalizados e acadêmicos, e o que ele produz são contagens de edições, que medem atividade e não dizem nada sobre se a omissão na seção de exame foi detectada.
O PAICE (People + AI Collaboration Effectiveness) toma o outro caminho. Ele mede a confiabilidade comportamental por avaliação, e não por observação. A avaliação semeia erros exatamente do tipo que os estudos do secretário descrevem: um achado omitido, um detalhe fabricado, uma negação invertida, dentro de uma saída polida, sob pressão de tempo, e pontua se a pessoa os detecta, verifica a alegação que carrega a decisão e escala quando algo não pode ser confirmado. Um clínico que soa fluente sobre IA, mas assina a negação invertida, pontua menos do que um conciso que a pega.
Os resultados não contêm dados do paciente, texto da anotação, gravação ou transcrição. As pontuações estão ligadas a identificadores criptografados. Os resultados individuais são estruturalmente inacessíveis ao sistema de saúde em vez de serem retidos por política. Um diretor médico de informações vê a confiabilidade de verificação de uma coorte e onde ela degrada. O clínico vê a sua própria.
Rhode Island e Vermont colocaram a revisão do clínico em lei. Esse é o controle correto. A questão que um sistema de saúde pode agora responder, antes que um auditor estadual ou um perito do autor do processo pergunte, é se a revisão é real.
Quer avaliar o comportamento de verificação dos seus clínicos sem vigilância? Saiba mais sobre o PAICE para organizações ou faça uma avaliação individual para ver por si mesmo.
Leitura Recomendada
- IA Collaboration para Documentação Clínica - A visão do fluxo de trabalho da documentação ambiental
- IA Collaboration para Saúde e Segurança do Paciente - Onde a saída da IA encontra o julgamento clínico
- Transparência Diz que é IA. Não Pode Dizer Como Confiar Nela. - Por que divulgação e confiabilidade são questões diferentes
- Governança Sem Vigilância - A arquitetura de privacidade por trás da medição comportamental
Curioso, mas sem muito tempo?
Faça o PAICE Pulse de 3 minutos — uma verificação rápida de confiança que mapeia como você enxerga sua própria postura de colaboração com IA. Sem necessidade de login.