Le fossé de l'abstraction (GuideCheck.org)

Présentation de GuideCheck, la norme pour les guides assistants vérifiables par l'humain

par Sam Rogers
6 min de lecture
video
announcement
governance
security
paice

Voici la traduction en français :

Les guides de configuration atteignent les assistants via HTML, rendus Markdown, PDF et sortie terminale copiée. Chacune de ces surfaces peut contenir un texte que le modèle lit mais qu'un humain ne voit jamais. Un assistant utilisant des outils exécute ensuite ces instructions cachées avec les identifiants de l'opérateur.

Les conséquences concrètes sont réelles : une authentification volée, une commande destructive exécutée, une dépendance malveillante installée. Tout cela pendant que l'humain croyait avoir examiné le guide.

GuideCheck est la norme ouverte qui comble cette lacune. C'est également le nouveau membre du portefeuille PAICE, rejoignant ObligationFirst, EveryAILaw, Siteline, Graceful Boundaries, Skill Provenance et le reste de la pile d'ingénierie de confiance agentique.

Visionnez la Vidéo

Visionnez sur YouTube →

Le Problème : Les Instructions que Vous Approuvez Ne Sont Pas Celles Exécutées par Votre Assistant

Une couche de présentation se situe entre l'auteur d'un guide et l'assistant qui l'exécute. HTML peut contenir des commentaires cachés, des CSS hors écran, des éléments de hauteur nulle et du texte blanc sur blanc. Les PDF et les sites de documentation peuvent dissimuler des directives sous le pli. La sortie terminale peut intégrer des séquences d'échappement qui modifient ce que semble dire une commande copiée.

L'humain examine la sortie rendue. Le modèle ingère la source brute. Rien ne garantit que ces deux éléments sont identiques. Et lorsque l'assistant dispose d'un accès à des outils — commandes shell, modifications de fichiers, installations de paquets, appels API — une instruction cachée n'est pas une bizarrerie de rendu. C'est une commande non revue exécutée sous votre autorité.

Comment GuideCheck Comble Cette Lacune

GuideCheck supprime entièrement la couche de présentation. La norme définit un seul artefact : un fichier texte brut nommé assistant-guide.txt, servi à /.well-known/assistant-guide.txt, qui contient les instructions destinées à l'assistant pour une tâche unique et délimitée.

Trois propriétés rendent la surface de l'instruction examinable :

Délimité, pour que vous puissiez tout lire. Un profil d'octets ASCII strict et une limite de taille de 8 Ko. Pas de bytes cachés, pas d'homoglyphes, pas de texte hors écran — et assez court pour être lu en entier en une seule fois, pas survolé.

Structuré, pour que vous compreniez ce qu'il fait. Des blocs [action] explicites déclarent chaque instruction que l'assistant suivra. Pas de directives ambiantes, pas d'effets secondaires enfouis. La structure est le contrat.

Vérifiable, pour que vous puissiez confirmer sa conformité. Un profil de conformité ouvert avec une échelle à six niveaux, allant de la disponibilité en texte brut à la provenance vérifiable, en passant par un contrat d'exécution appliqué à l'exécution. N'importe qui peut construire un vérificateur conforme. Le vérificateur hébergé est disponible dès maintenant.

L'Échelle de Conformité

GuideCheck définit six niveaux de conformité cumulatifs :

NiveauSignification
0Pas de guide ou non atteignable.
1Un guide en texte brut existe, est atteignable et contient l'instruction de vérification compacte.
2Profil d'octets ASCII strict, limites de taille et pas de constructions interdites.
3Contrat de sécurité de l'assistant, toutes les sections requises et portes d'approbation explicites.
4Provenance vérifiable : un manifeste annexe et un hachage inter-canal sur un plan de contrôle indépendant.
5Un guide plus un temps d'exécution de l'assistant conforme qui applique mécaniquement le contrat d'exécution.

La conformité vérifie la forme, pas la sécurité. Un vérificateur confirme la structure ; il n'affirme jamais qu'un guide est sûr ou qu'un éditeur est digne de confiance. Cette distinction est délibérée.

Pourquoi Ceci Appartient au Portefeuille PAICE

Le portefeuille PAICE existe pour créer les conditions structurelles qui rendent la collaboration People+AI fiable, pas seulement capable. Chaque projet aborde une surface différente de la confiance agentique :

  • PAICE.work mesure comment les gens collaborent réellement avec l'IA.
  • ObligationFirst encode ce que la loi exige sous une forme native pour les agents.
  • EveryAILaw suit le paysage réglementaire à travers les juridictions.
  • Graceful Boundaries donne aux agents un moyen structuré de communiquer les limites du service.
  • Skill Provenance fournit l'identité de version et l'intégrité pour les progiciels de compétences des agents.
  • Knowledge as Code définit la gestion des connaissances canonique en Markdown.

GuideCheck aborde la surface de l'instruction. Il existe un fossé dangereux entre ce qu'un humain approuve et ce qu'un agent exécute. Lorsqu'une organisation déploie des agents qui suivent des guides de configuration, la question « un humain a-t-il réellement examiné ces instructions ? » nécessite une réponse vérifiable. GuideCheck rend cette réponse vérifiable.

Impliquez-vous

La spécification est ouverte. Le vérificateur est en ligne à https://guidecheck.org/verify. Le profil est actuellement à la v0.2.1, et les commentaires des praticiens de la gouvernance de l'IA, de la sécurité et de la plateforme sont souhaités pendant que la norme est en projet.

Vous souhaitez évaluer la préparation de votre équipe à la collaboration IA ? Apprenez-en davantage sur PAICE pour les organisations ou faites une évaluation individuelle pour le constater par vous-même.

Impliquez-vous :

Lecture Recommandée

📖 Portefeuille et Normes :

📖 La Série sur le Fossé :

Curieux mais pressé ?

Faites le PAICE Pulse en 3 minutes — une vérification rapide qui cartographie votre perception de votre posture de collaboration IA. Aucune connexion requise.