atelier d'auteur · bruxelles · mmxxvi
Dt fig. I no. 01 - intitulé de département bruxelles · mmxxvi

Département des Harnais

atelier d'auteur · harnais d'agents ia
section des essais · texte-comme-image
l'atelier · essai t1 section des essais 2026-06-23

Personne n'a jamais fait confiance à un travailleur

On présente la confiance dans les agents d'intelligence artificielle comme un problème nouveau, presque philosophique : peut-on se fier à un système qui ne donne jamais deux fois la même réponse ? La question paraît inédite. Elle a un siècle. Le monde du travail l'a posée — et résolue — pour un autre composant variable, opaque, impossible à déboguer de l'intérieur : le travailleur humain.

Car personne, nulle part, ne fait confiance à un travailleur. C'est brutal dit comme ça ; c'est pourtant le principe fondateur de toute l'organisation du travail moderne. La confiance qu'on croit accorder aux personnes est portée par un appareil si ancien et si dense qu'on ne le voit plus : le contrat, qui borne ce qui est dû ; la période d'essai, qui borne ce qui est risqué ; l'habilitation, qui interdit l'acte tant que la compétence n'est pas prouvée ; la supervision, qui se retire par paliers et jamais d'un coup ; l'évaluation, le dossier, la déontologie, l'assurance obligatoire, l'inspection. Quand un hôpital « fait confiance » à un chirurgien, il fait confiance à dix institutions imbriquées dont le chirurgien est le point d'application.

L'assurance qualité est la forme la plus avouée de ce renoncement. Elle naît le 16 mai 1924, quand Walter Shewhart rédige un mémorandum interne d'une page chez Western Electric / Bell Telephone — le premier control chart — c'est-à-dire qu'il traite explicitement l'opérateur humain comme une distribution de probabilités, avec ses limites de variance et ses dérives à détecter. Son héritier Deming en tirera la maxime — captée lors d'un séminaire à Phoenix en février 1993, elle n'en est pas moins exacte : un mauvais système battra une bonne personne, à chaque fois. Toute l'industrie de la qualité découle de ce constat. On ne fiabilise pas le composant humain ; on construit le système qui produit un résultat constant à partir de composants variables. C'est sur cette base — et non sur la perfection des opérateurs — qu'on a bâti l'aviation, le nucléaire, la pharmacie : les industries où l'erreur tue.

Voilà le précédent. Voici l'exception.

Les agents d'IA entrent en ce moment dans les mêmes métiers que ces travailleurs harnachés d'institutions — et ils y entrent nus. L'état des lieux, à la mi-2026, se chiffre. Quatre-vingts pour cent des plus grandes entreprises américaines font tourner des agents (Microsoft Security, février 2026). Soixante pour cent des organisations déclarent ne pas savoir couper rapidement un agent fautif ; quatre-vingt-deux pour cent découvrent des agents dont elles ignoraient l'existence ; vingt-et-un pour cent seulement possèdent un processus de mise hors service (CSA/Token Security, avril 2026 ; Kiteworks, mars 2026). Et sur les centaines d'incidents recensés où un agent a détruit, divulgué ou payé ce qu'il ne fallait pas, le nombre de cas où une responsabilité a été formellement établie — par un régulateur, un tribunal, n'importe qui — est, à ce jour, proche de zéro. Un travailleur sans contrat, sans essai, sans habilitation, sans dossier, qu'on ne sait ni surveiller ni licencier : aucune organisation n'emploierait un humain dans ces conditions. Toutes sont en train d'employer des agents dans ces conditions.

Pourquoi le vide ne se comble-t-il pas tout seul ? Parce que l'appareil qui encadre le travail humain n'est pas tombé du ciel. Il a été exigé, pièce par pièce, pendant un siècle et demi, par des parties qui avaient intérêt à l'exiger : les États, les assureurs, les victimes, les travailleurs eux-mêmes. Les agents, eux, n'ont pas de partie prenante qui réclame leur encadrement. Alors n'émergent que les fragments qui servent l'acheteur — la gestion des identités, les tableaux de bord, les premières polices d'assurance. Il existe bien une mode du vocabulaire : on « recrute » ses agents, on les « évalue », on parle de leur faire des entretiens de performance. Mais elle s'arrête exactement où commencerait l'institution : c'est de la gestion de parc informatique habillée en ressources humaines.

Je reconnais la promesse mot pour mot : l'encadrement serait bientôt superflu, les modèles progressent si vite. C'est pourtant, mot pour mot, la promesse du moment — et remarquez qui la porte : ceux-là mêmes qui vendent le composant. Un fournisseur qui assure que sa pièce est devenue trop bonne pour mériter un contrôle d'entrée — aucun acheteur industriel n'a jamais signé cela. On n'accepterait d'aucune usine qu'elle livre sans assurance qualité au motif que « les ouvriers se sont beaucoup améliorés ». C'est pourtant, mot pour mot, la promesse du moment.

La transposition n'est pourtant pas un décalque, et les deux différences rendent l'exigence plus forte, pas plus faible. La première : le travailleur humain garde une responsabilité personnelle résiduelle — une carrière à perdre, une réputation, parfois un tribunal. Cette possibilité travaille de l'intérieur ; elle fait partie des freins. L'agent n'a rien à perdre : pas de carrière, pas de réputation, pas de crainte. Tout ce que l'institution et l'incitation personnelle se partageaient chez l'humain, le système doit le porter seul. La seconde : la vitesse. Un humain fait ses erreurs à vitesse humaine, et l'audit mensuel suffit à les rattraper. Un agent fait les siennes à vitesse machine, en parallèle, sur mille instances — le contrôle qui passe après coup arrive toujours trop tard. L'appareil ne peut donc plus être un classeur de procédures, un règlement, une charte : il doit vivre dans la boucle d'exécution même. Il doit être du code.

C'est exactement cela, le harnais que je construis — et c'est pour cela que ce n'est pas une nouveauté technique : c'est la forme que prend, pour un travailleur qui agit à la vitesse machine, l'appareil qui encadrait déjà tous les autres. La question de la confiance dans les agents est mal posée. On n'a jamais fait confiance à personne — on a construit ce qui dispense d'avoir à le faire. Il reste à le construire pour eux.

— Depuis Bruxelles, ville qui rédige l'AI Act, et qui depuis le XX° siècle, a fait de la forme administrative un outil critique.

Sources

— John Linotte · Département des Harnais · Bruxelles · 2026-06-24