Transparency Tells You It's AI. It Can't Tell You How to Trust It.

A Comissão Europeia abriu seus projetos de diretrizes sobre as obrigações de transparência do Ato de IA do Artigo 50 para consulta das partes interessadas, e o prazo para consulta encerra hoje. Como CEO da PAICE.work PBC, eu apresentei uma resposta, sob a perspectiva de medição e verificação que desenvolvemos em aberto. As diretrizes não são vinculativas e são explicitamente provisórias; a Comissão pode alterá-las, e apenas o Tribunal de Justiça pode fornecer uma interpretação autoritária, mas as obrigações que elas interpretam entram em vigor em 2 de agosto de 2026, então a consulta é o momento de acertar a interpretação.

Ao trabalhar no rascunho para escrever esses comentários, eu continuava encontrando a mesma lacuna. O Artigo 50 pode obrigar um sistema a declarar que é artificial. Ele não pode garantir que essa declaração chegue a um ser humano, sobreviva ao passar do tempo ou produza qualquer julgamento real na pessoa que a recebe. O primeiro é um problema de rotulagem, e o Ato de IA tem uma resposta crível. Os outros três são problemas estruturais e comportamentais, e a regulamentação os devolve silenciosamente a você.

Observe que isto não é aconselhamento jurídico e você deve sempre consultar suas próprias equipes jurídicas e de compliance antes de agir com base nas obrigações de transparência do Ato de IA. O rascunho das diretrizes discutido aqui foi publicado para consulta e pode mudar antes da adoção.

O que o Artigo 50 pressupõe

O Artigo 50 é o nível de transparência do Ato de IA, a categoria de sistemas que apresentam risco não pelo que decidem, mas pelo que ocultam. O rascunho das diretrizes passa por quatro obrigações. O Artigo 50(1) abrange IAs que interagem diretamente com pessoas: os provedores devem projetar o sistema de modo que qualquer pessoa que interaja com ele seja informada de que está lidando com uma IA. O Artigo 50(2) abrange conteúdo sintético: os provedores devem marcar as saídas geradas de uma forma detectável e legível por máquina. O Artigo 50(3) abrange reconhecimento de emoção e categorização biométrica, onde os implementadores devem informar as pessoas expostas. O Artigo 50(4) abrange deep fakes e texto gerado por IA publicado para informar o público sobre assuntos de interesse público. Uma quinta disposição, o Artigo 50(5), estabelece a regra horizontal para todos eles: a informação deve ser clara, distinguível, acessível e fornecida no primeiro contato ou exposição.

Cada uma dessas obrigações repousa sobre um único pressuposto. Um humano lê um rótulo claro no momento do primeiro contato e age com base nele. Esse pressuposto está errado de três maneiras diferentes, e cada uma delas se tornou uma seção da minha contribuição.

O rótulo pode nunca alcançar um humano

O rascunho pressupõe que a divulgação é lida pela pessoa que ela se destina a proteger. Cada vez menos isso acontece. O primeiro, e às vezes único, leitor de uma divulgação é um agente autônomo agindo em nome de alguém: um agente de busca, um agente de compras, um assistente pessoal que fala com o chatbot de atendimento ao cliente de um provedor para que seu proprietário não precise. O humano lê o resumo do agente, não a interface original.

Isso cria uma contradição dentro das próprias diretrizes. O Parágrafo 35 diz que as marcações legíveis por máquina não podem satisfazer o Artigo 50(1) porque não são percebidas pelos usuários no ponto de interação. Os Parágrafos 33 e nota de rodapé 20 endossam credenciais de identidade de IA verificáveis baseadas no eIDAS e nas Carteiras de Identidade Digitais da UE. Esses pontos puxam em direções opostas. Quando a exposição é mediada por um agente, um sinal visual ou auditivo exclusivo para humanos nunca chega à pessoa, porque ela está lendo um resumo transmitido. A camada legível por máquina é a pré-condição para a percepção humana, não uma alternativa a ela. Nosso comentário pediu que a Comissão dissesse isso diretamente e que estendesse o parágrafo 28, que trata de um agente que se divulga, à cadeia de retransmissão onde um agente tem que apresentar a divulgação de outro sistema a um humano.

Há uma versão mais profunda desse problema que reside fora do quadro do Artigo 50. O Artigo 50 governa o ato de divulgação do provedor, não se um agente mediador o transmite fielmente. Uma divulgação corretamente marcada ainda pode ser descartada ou deturpada por um intermediário comprometido, e a pessoa no final da cadeia não tem ideia. A regulamentação está mapeando a camada de conteúdo, a questão de se o conteúdo está marcado, e ainda não a camada de retransmissão, se essa marcação sobrevive aos agentes entre o sistema e o humano. Isso é um problema de robustez e integridade do agente mais do que de transparência, e vale a pena nomear enquanto o rascunho ainda se compromete com uma revisão futura. Na contribuição, eu resisti com sucesso à tentação de mencionar nossa solução para esse tipo de problema através do nosso padrão aberto GuideCheck (CC BY 4.0).

Um rótulo decai

A segunda falha é o tempo. O rascunho trata o cumprimento como um julgamento único, fixado no momento em que um provedor o faz. Duas das obrigações não podem funcionar dessa maneira.

O Artigo 50(1) tem uma exceção para interações que são obviamente artificiais. Mas "obviedade" não é estável, ela muda muito rapidamente. O Parágrafo 42 do rascunho concede que a replicação realista diminuiria a obviedade, mas ainda trata da avaliação como estática e interna ao provedor. Um assistente de voz que era claramente sintético no lançamento pode se tornar indistinguível de um humano após uma atualização de modelo de rotina: mesmo implantação, mesma decisão de divulgação, mas a isenção caducou silenciosamente. O Artigo 50(2) tem a mesma forma no lado da marcação. Os Parágrafos 77 e 78 aceitam que o estado da técnica e as técnicas adversárias evoluem, o que significa que uma alegação de robustez válida hoje se degrada à medida que os ataques avançam.

Há uma lacuna relacionada em como o cumprimento é demonstrado. O Parágrafo 74 define eficácia e robustez como propriedades observáveis e externas: se as marcas sobrevivem à transmissão realista, recodificação, corte e manipulação adversária no mundo real. O rascunho nunca diz como um provedor os demonstra, o que deixa a autoatestação do provedor como padrão. O teste interno de um provedor, por mais rigoroso que seja, não pode estabelecer eficácia externa. Argumentamos que o cumprimento deveria basear-se em uma avaliação independente e verificável externamente, relatada por modalidade em um limiar de confiança declarado, e que a alegação deveria ser uma afirmação com carimbo de data e reavaliada em intervalos, com um gatilho de revisão em mudanças materiais na capacidade, em vez de uma declaração de conformidade que permanece inalterada.

Esse é exatamente o modelo por trás do AI Posture, a especificação aberta que mantemos (CC BY 4.0, sem reivindicação comercial sobre o resultado) para tratar uma alegação de segurança e governança como uma declaração de estado verificável externamente e carimbada com data, em vez de um certificado único. Uma postura é verdadeira a partir de uma data e restabelecida em uma cadência. O cumprimento de transparência tem a mesma estrutura temporal, e o rascunho das diretrizes seria mais forte por nomeá-la. Foi a única referência externa em nossa contribuição, colocada contra o parágrafo cuja lacuna ela se encaixa, em vez de espalhada pela resposta.

Nem mesmo um rótulo perfeito é uma habilidade

Suponha que ambas as falhas estruturais tenham sido corrigidas. A divulgação é legível por máquina, alcança o humano através de cada agente na cadeia e carrega uma data de afirmação fresca. Uma terceira lacuna permanece, e é aquela que a PAICE (People + AI Collaboration Effectiveness) existe para medir.

As diretrizes são francas sobre por que essas obrigações existem. O propósito declarado, retirado do Considerandos 132, é permitir que as pessoas tomem decisões informadas, para que não dependam excessivamente dos sistemas de IA e para que possam calibrar sua confiança no conteúdo e nas interações de acordo. Calibrar a confiança. Esse é o objetivo nas palavras da própria regulamentação. Não é ser avisado, não é ver um rótulo, mas ajustar a confiança para cima ou para baixo para corresponder à confiabilidade real do sistema nessa tarefa, neste momento.

Uma divulgação faz um bom trabalho: ela elimina a desculpa de não saber. Uma vez que um banner diz que você está interagindo com um sistema de IA, a pessoa não pode mais alegar que assumiu que um humano escreveu. Mas saber que você está falando com uma IA não faz você ser bom em conversar com uma. O rótulo é idêntico se o sistema estiver certo ou errado em qualquer turno. Ele não sinaliza a citação fabricada, o número confiante fora por uma ordem de magnitude, o resumo que omite a cláusula que inverte o significado. Calibrar a confiança significa pegar esses pontos, e nenhum aviso pode fazer esse trabalho, porque o trabalho acontece dentro da pessoa depois que a divulgação é lida e descartada. Esta é a mesma lacuna que se abre sob revisão humana significativa: uma regulamentação pode exigir que um humano revise a saída da IA, mas não pode exigir que essa revisão seja boa. A PAICE observa o comportamento que a divulgação deveria possibilitar e não consegue entregar: se uma pessoa pega erros injetados, se ela verifica antes de confiar, se a confiança dela acompanha a evidência em vez da fluência.

Três camadas, uma forma

Escrever os comentários significou manter em mente quatro tipos de texto jurídico ao mesmo tempo: o Regulamento vinculante, os Considerandos não vinculantes que o interpretam, o rascunho das Diretrizes que interpretam os artigos e um futuro Código de Prática que carregará uma presunção de conformidade. Como leitor vindo de estatutos dos EUA (e que trabalhei ao lado de advogados, mas nunca estudei direito formalmente), eu tinha dificuldade em saber qual desses era realmente lei e como eles se relacionavam. Para manter tudo organizado enquanto trabalhava, eu modelei o Artigo 50 em Obligation First, o padrão aberto que mantenho para colapsar uma hierarquia de fontes jurídicas multicamadas em uma forma uniforme: Termos e as Obrigações que eles criam ou interpretam.

Nesse modelo, o Artigo 50(2), o Considerandos 133 e o parágrafo 69 das Diretrizes parecem três tipos diferentes de coisa, mas são todos Termos. O que difere é apenas em qual instrumento cada um pertence e se ele cria uma obrigação. O Artigo 50(2) cria o dever de marcação. O Considerandos 133 não cria nada e existe para ser ancorado para interpretação. O Parágrafo 69 pertence a um instrumento separado e não vinculante e se ancora no artigo que ele explica. Crucialmente, a interpretação não substitui: uma diretriz não vinculante pode se ancorar no regulamento que ela interpreta, mas nunca pode derrotá-lo ou substituí-lo, e apenas o Tribunal de Justiça poderia emitir uma determinação que vincule autoritariamente a leitura. Modelar essa relação codifica a realidade jurídica diretamente. Também tornou as falhas estruturais acima mais fáceis de ver, porque uma vez que a hierarquia da fonte é um único gráfico, a questão do que uma obrigação exige e como tempo e agentes mudam esse requisito é uma única travessia, e não um exercício de leitura através de três documentos em três estilos de citação.

A lacuna que a transparência deixa aberta

O Artigo 50 é uma boa regulamentação voltada para um dano real, e o rascunho das diretrizes o torna mais viável. Infrações podem acarretar multas de até quinze milhões de euros ou três por cento do faturamento anual mundial, então as obrigações têm dentes reais. O que o rascunho torna visível, quase de passagem, é o limite do que a divulgação pode realizar. O Ato de IA pode exigir um rótulo em cada sistema em escopo até agosto de 2026. Ele não pode garantir que o rótulo chegue a um humano, ele não pode manter o rótulo verdadeiro à medida que os modelos avançam, e ele não pode colocar um julgamento calibrado nos olhos que leem.

As duas primeiras lacunas são abordáveis no texto, razão pela qual protocolamos como uma corporação de benefício público dos EUA contribuindo com um padrão aberto, neutro em relação a fornecedores, para a elaboração de regras da UE de boa fé. A terceira não é um problema de redação. A confiança da Calibrated é uma capacidade comportamental que varia de pessoa para pessoa, não vem acoplada a um aviso, e para profissionais cujo trabalho acarreta consequências reais, é a parte que realmente protege qualquer pessoa.

Transparência diz que é IA. Se você sabe o que fazer com isso é uma medição separada.

Quer entender seu próprio perfil de prontidão? Faça a avaliação PAICE para descobrir seus pontos fortes e oportunidades.

A Transparência Diz que é IA. Ela Não Pode Dizer Como Confiar Nela.