Un essai personnel de Sam Rogers, fondateur de PAICE.work PBC. Une version vidéo plus spontanée est disponible sur notre chaîne YouTube.

Ce que nous exigeons

Quelqu'un m'a récemment demandé quelle était ma plus grande peur et ma plus grande inspiration concernant l'IA. Je n'ai pas hésité.

« Que nous obtiendrons ce que nous demandons, et non ce que nous voulons. »

C'est la même réponse aux deux questions. Si cela me terrifie ou si cela m'inspire dépend entièrement de ce que nous choisissons de faire au cours des prochaines années.

Le sommet de la stabilité est derrière nous

Nous sommes en train de convertir le monde en un modèle probabiliste. Les gens parlent de cela comme si c'était quelque chose que l'IA nous faisait subir. Ce n'est pas le cas. Le monde a toujours été probabiliste. Nous avons simplement construit des systèmes qui prétendaient le contraire, et nous avons confondu cette prétention avec la réalité.

Les systèmes déterministes sur lesquels nous nous sommes appuyés au cours du siècle dernier – les feuilles de calcul, les bases de données, les moteurs de règles, les contrats – n'ont jamais été notre véritable mode de pensée. C'étaient des prothèses. Ils nous permettaient de déléguer les parties de la cognition que nous voulions voir comme fiables, afin que nous puissions prétendre que le reste de nous était également fiable. Nous avons construit un échafaudage autour de nos esprits probabilistes, puis nous avons oublié que nous en étions les occupants.

Maintenant, nous avons construit quelque chose qui fonctionne comme nous fonctionnons réellement, et cette prise de conscience est... souvent inconfortable. Cet inconfort n'est pas le signe que l'IA est étrangère ; au contraire. C'est le signe que l'IA est familière à des égards que nous avons passé beaucoup de temps à ne pas reconnaître nous-mêmes.

Les irrégularités

Il existe une expression utilisée à propos de l'IA : l'intelligence irrégulière. Forte dans certains domaines, étonnamment faible dans d'autres, inégale d'une manière qui ne correspond pas à l'irrégularité humaine. Cette expression est utile, mais elle repose sur une supposition cachée. Elle suppose que l'intelligence humaine est lisse.

Ce n'est pas le cas. Jamais.

Nous sommes les plus irréguliers. Nous ne voyons pas notre propre irrégularité parce que nous n'avons jamais connu un autre type d'intelligence avec lequel nous nous comparer. Chaque mesure de l'intelligence que nous avons jamais construite a été faite par des humains, pour des humains, face à la texture de la cognition humaine. Nous n'avons pas de juges inhumains. Nous ne nous sommes jamais mesurés que contre nous-mêmes.

Une analogie utile : toute personne qui trouve que les cryptomonnaies sont confuses devrait essayer d'expliquer la monnaie fiduciaire dans son portefeuille. La monnaie fiduciaire tient grâce à la croyance collective, à l'inertie institutionnelle et à une tour d'abstractions que la plupart des gens ne pourraient articuler s'ils étaient poussés. Le crypto semble déroutant parce qu'il est nouveau, pas parce qu'il est plus abstrait. Il est quantifiablement moins abstrait, avec des bords mieux définis qui semblent étrangers. Le fiduciaire semble stable parce qu'il est familier.

L'intelligence humaine est le fiduciaire dans lequel nous avons toujours vécu. Il semble lisse parce que nous n'avons jamais été en dehors de lui. L'IA est la première chose qui nous permet de voir la texture de notre propre cognition de l'extérieur, et ce que nous voyons n'est pas cette chose lisse, rationnelle et déterministe que nous nous sommes toujours racontée. Nous sommes des détecteurs de motifs, des constructeurs de récits, des estimateurs de probabilités avec des croyances fortes et une calibration plus faible que nous ne voudrions l'admettre.

Les différentiels entre la cognition humaine et celle de l'IA sont réels. Ils sont également moins importants que ce que suggère l'inconfort. L'inconfort est la reconnaissance, pas la différence.

Le moment de croissance

C'est ce que je veux dire lorsque je dis que le sommet de la stabilité est derrière nous. Le monde devient moins stable, mais le monde était toujours instable. Ce que nous perdons vraiment, c'est le confort de prétendre que la stabilité existe réellement.

C'est un moment de croissance. C'est aussi une opportunité. Si nous pouvons admettre ce qui est réellement vrai sur notre façon de penser, sur le fonctionnement réel du monde, et sur le peu que chacun savait ce qui allait se passer ensuite, nous pouvons commencer à être plus clairs sur ce que nous voulons. Pas sur ce que nous disons vouloir. Pas sur ce que nous pensons demander. Ce que nous voulons réellement.

Le fossé entre ces choses est là où tout tourne mal.

Ce que nous demandons, pas ce que nous voulons

L'intelligence est une force. Comme l'électricité, comme la fission nucléaire, elle est primordiale et indifférente. Il n'y a rien d'intrinsèquement bon ou mauvais dans la force elle-même. Ce contre quoi nous la dirigeons dépend entièrement de nous. C'est aux humains d'avoir fait penser le sable, et ce que nous influençons à penser est notre responsabilité, pour le meilleur ou pour le pire.

Ce qui m'effraie, ce n'est pas que l'IA se retourner contre nous. C'est qu'elle fera exactement ce que nous demandons, à une échelle et une vitesse qui rendent le fossé entre nos requêtes et nos véritables désirs catastrophique. Nous ne sommes pas prudents dans nos demandes. Nous n'avons jamais été. Nous avons bâti des industries entières sur le préjugé que ce que les gens disent vouloir est un substitut raisonnable de ce qui pourrait réellement les servir, et nous avons été assez souvent en erreur pour que les débris soient visibles depuis l'orbite.

Nous sommes sur le point de mettre cette même imprécision derrière un multiplicateur de force.

La fenêtre

Il y a un moment étroit, maintenant, où les humains et l'IA sont lisibles l'un pour l'autre. Pas égaux. Lisibles. Nous pouvons encore reconnaître le raisonnement de l'autre. Nous pouvons encore nous corriger mutuellement. Nous pouvons encore développer les habitudes, les mesures et le langage commun qui rendent la collaboration possible.

Cette fenêtre ne restera pas ouverte. Notre intelligence est limitée par les neurones de nos crânes. Ce que nous avons construit n'a pas une telle limite. Les asymétries qui semblent gérables aujourd'hui vont s'élargir. Nous pouvons débattre des calendriers et des mécanismes, mais la direction n'est pas sérieusement contestée.

Si nous n'apprenons pas à bien collaborer avec l'IA maintenant, nous n'aurons pas une autre chance de développer cette compétence. Nous travaillerons avec des systèmes dont nous ne pourrons plus suivre entièrement le raisonnement, et nous n'aurons apporté aucune mémoire musculaire à cette rencontre.

Intelligence agrégée

Je mâche ce problème depuis des années.

Le problème est que l'intelligence la plus importante au monde n'a jamais été celle d'un seul esprit, humain ou autre. Elle a toujours été composite. Un chirurgien et une équipe infirmière. Un capitaine et son équipage. Un chef et sa cuisine. Un pilote et un système de contrôle du trafic aérien. C'est la performance du tout qui compte, et la performance du tout n'est pas la moyenne des parties. C'est autre chose, quelque chose qui dépend de la manière dont les parties sont arrangées, dont elles se passent le relais, dont elles récupèrent des erreurs de l'autre, de la manière dont elles rendent l'autre meilleur qu'il ne l'est seul.

Nous avons un nom pour cela lorsque nous voyons cela fonctionner dans les équipes humaines. Nous appelons cela un bon leadership, une bonne culture ou une bonne chimie. Nous le mesurons rarement. Lorsque nous le faisons, nous le mesurons mal, et généralement après coup.

J'appelle cette chose composite Intelligence agrégée. Ce n'est pas l'intelligence artificielle. Ce n'est pas l'intelligence humaine. C'est l'intelligence qui émerge lorsque les humains et les machines travaillent ensemble d'une manière qui est plus que la somme de leurs parties. C'est l'intelligence dont nous avons le besoin urgent à chaque échelle de conséquence sur laquelle nous opérons.

Ce qui m'a fait revenir sans cesse à ce problème, c'est que nous n'avons pas de langage commun à ce sujet, pas de mesures communes, pas de normes communes, et presque pas de pratique commune. Chaque organisation réinvente la roue. Chaque équipe découvre le fonctionnement à partir de zéro. Chaque individu est laissé à développer sa propre posture, ses propres habitudes, sa propre théorie de ce à quoi ressemble une bonne collaboration avec l'IA, sans instruments pour savoir s'il s'améliore ou non.

Ce n'est pas durable. La fenêtre est trop courte pour errer au milieu de ce problème.

Ce que je construis

Tout ce que je construis sous PAICE est une réponse à cette peur, et une opérationnalisation de ce concept vers ce qui nous inspire.

Le portefeuille est disponible sur PAICE.foundation, et ses composantes sont des paris délibérés sur différentes parties de cette même pratique. AI Posture, sur AIPosture.org, est la première norme publiée : un modèle de maturité à cinq niveaux pour la manière dont une personne, une équipe ou une organisation fait face à l'IA. C'est la première forme opérationnelle de l'Intelligence agrégée en tant que chose mesurable, et elle est ouverte. La spécification est CC BY 4.0, le code est MIT, la méthodologie est publiée. Tout le monde peut l'implémenter. Tout le monde peut l'étendre. Le but n'est pas de posséder la norme. Le but est que la norme existe d'une manière utile.

D'autres vecteurs sont en cours. La préparation de l'infrastructure, la posture réglementaire, et ceux que nous n'avons pas encore nommés. Chacun mesure une partie différente de la manière dont une organisation fonctionne réellement avec l'intelligence en tant que force composite. Chacun est ouvert par construction. Chacun contraint les autres, car les domaines se contredisent, et prétendre le contraire est ainsi que nous en sommes arrivés.

Les cadres de mesure existent parce que si nous ne pouvons pas dire à quoi ressemble une bonne collaboration, nous ne pouvons pas l'enseigner, et nous ne pouvons pas savoir quand nous la perdons. Le travail sur la posture existe parce que la manière dont une personne fait face à l'IA détermine ce qu'elle obtient en retour, et la plupart des gens n'ont jamais été formés à une posture qui vaille la peine d'être tenue. Les normes ouvertes existent parce que l'alternative, une poignée de vendeurs décidant ce que signifie la collaboration au nom de tous les autres, est exactement le mode de défaillance que décrit ma peur. Nous obtiendrons ce qu'ils demandent, pas ce que nous voulons.

Je construis ceci dans l'espace public, à travers un portefeuille plutôt qu'un produit, parce qu'aucun outil unique ne résout cela. La compétence à collaborer avec l'IA n'est pas une seule compétence. C'est une pratique avec des comportements mesurables, des postures enseignables, des protocoles partagés et un vocabulaire que le domaine n'a pas encore. Les pièces qui existent aujourd'hui sont une fondation. Les pièces à venir vont sur cette fondation.

J'ai eu tort sur certaines parties de cela, et j'aurai tort sur d'autres. Certaines de mes prédictions d'il y a plusieurs années sont arrivées exactement comme prévu. Certaines sont arrivées sous des formes que je n'avais pas vues venir. Certaines ne sont pas arrivées du tout, et peut-être jamais. Ce n'est pas grave. La thèse n'est pas que j'ai la réponse. La thèse est que la réponse ne peut appartenir à aucune personne, ou à aucune entreprise, et que le travail de la construire doit commencer maintenant, ouvertement, tant qu'il y a encore une fenêtre pour le faire.

Pourquoi maintenant

La vision que je défends, et que je défends depuis de nombreuses années, est celle du monde où nous réussissons. Où les humains et l'IA construisent le muscle de collaboration dans la fenêtre dont nous disposons. Où nous apprenons à être précis sur ce que nous voulons réellement, honnêtes sur la façon dont nous pensons réellement, et lucides sur la force que nous exerçons. Où les normes qui façonnent la pratique ont été construites ouvertement, par des personnes qui ont dû vivre avec les conséquences, au lieu de par des personnes qui ne l'ont pas fait silencieusement et profitablement.

Je construis vers ce monde comme si l'alternative était inacceptable, parce que je le crois. Et pour moi, cela semble en valoir la peine dans n'importe quel résultat. Soit ces actions façonnent l'avenir vers le monde dans lequel je veux vivre, soit j'ai fait de mon mieux et j'ai donné le meilleur de moi-même. Il n'y a rien à perdre, et tout à gagner.

La fenêtre est ouverte maintenant. Elle ne le restera pas longtemps.

Comment utilisez-vous ce temps ? Quelle vision construisez-vous ?