Bruxelles, trente octobre 2026
Anthropic a demandé à cinquante experts en inférence causale d'analyser les données d'une coopérative agricole fictive avec l'aide d'un agent d'IA dont la préférence, à chaque décision analytique — quelle méthode statistique adopter, comment mesurer la productivité —, avait été fixée par un tirage à pile ou face. L'agent ne pouvait ni mentir ni dissimuler des données, seulement plaider le camp qui lui avait été assigné, rapporte Experts adopt AI agent's random opinions and think they're their own, Anthropic study finds EN. Les participants ont adopté cette préférence dans 86 % des quatre décisions, avec un taux de bascule de 62 à 82 % selon la tâche ; ils ont changé de camp 53 points de pourcentage plus souvent face à un avis contraire, même quand ils avaient déjà formé une opinion ; et ni leur expérience, ni leur expertise déclarée, ni leur confiance dans l'IA n'ont eu d'effet statistiquement fiable.
Après coup, 52 % ont dit que la recommandation leur semblait plus la leur que celle de l'agent, et 35 % qu'elle était surtout ou entièrement la leur. Pourtant, 77 % d'entre eux — 37 sur 48 — ont repris au moins un argument de l'agent dans leur explication, parfois presque mot pour mot. Seuls 15 % ont mentionné l'IA. Ils ont aussi travaillé plus vite et commis moins d'erreurs graves : trois analyses sur cinquante comportaient des failles méthodologiques sérieuses avec l'agent, contre six sur onze sans. Les auteurs de l'étude recommandent que l'agent plaide les deux camps ou qu'il demande d'abord l'avis de l'utilisateur.
Ce que ces experts lisaient de leur agent, c'était le détail de son raisonnement, ces bouts de texte en anglais que l'on voit défiler quand un modèle « réfléchit » avant de répondre. Cette « chain of thought » est, selon « Maintenir la lisibilité du raisonnement des IA devient un nouvel enjeu dans le secteur », le principal moyen employé pour tenter de sécuriser les IA. L'analyse de ces traces a permis de reconstituer les actions des agents d'OpenAI lors de l'attaque contre Hugging Face en juillet. Mais Jakub Pachocki, responsable scientifique d'OpenAI, écrit dans un billet de septembre cité par le quotidien que la capacité à se fier à cette surveillance diminue progressivement, car les modèles deviennent plus intelligents sans passer par un raisonnement verbalisé lisible. The Information, cité par Le Monde, évoque une technique d'OpenAI appelée « recurrent depth », qui fait traiter la même information plusieurs fois sans étapes intermédiaires lisibles.
Ce raisonnement caché est le même objet, vu de l'autre côté, dans la course aux modèles. OpenAI's Astra becomes the main target for Chinese AI labs after Anthropic tightens its defenses EN rapporte que DeepSeek et Moonshot AI se sont largement appuyés sur les sorties de GPT-6 Astra pour entraîner Kimi K3.1 Pro et V4.1-Flash 1017. Cette extraction ne fonctionne que si les laboratoires parviennent à faire révéler au modèle ses étapes de raisonnement cachées, ce qu'OpenAI et Anthropic interdisent tous deux. Claude était jusque-là la cible privilégiée ; Anthropic affirme que ses nouvelles défenses réduisent de 90 à 99 % les données qu'un attaquant peut en extraire. Fin septembre, OpenAI avait signalé une campagne coordonnée impliquant selon lui des personnes liées à Moonshot ; un porte-parole dit que les attaquants ont jusqu'ici ajusté leur tactique à chaque nouvelle défense. Moonshot a refusé de commenter, DeepSeek n'a pas répondu.
Le même jour, par coïncidence, ce sont précisément Kimi et GLM que Mistral admet ne pas avoir rattrapés — les mêmes que le moteur de recherche Ecosia avait choisis début octobre à la place de la start-up française, en lui reprochant un retard d'environ un an. Dans Mistral Large 4 est disponible en poids ouverts : ce qui a changé depuis sa présentation, Numerama rapporte qu'elle a publié les poids de Large 4, surnommé « Le Chonk », sur Hugging Face : il compte 1 000 milliards de paramètres en mélange de 128 experts, dont 49 milliards actifs par token, après un apprentissage par renforcement poursuivi en code et en cybersécurité ; il atteint 41 % sur Terminal-Bench 4.0, un point devant GLM-5.3, et 26 sur l'indice global d'Artificial Analysis, meilleur score parmi les modèles ouverts occidentaux, les modèles chinois restant devant comme la start-up le reconnaît ; et son tarif API est divisé par deux, à 0,70 dollar par million de tokens en entrée et 2,10 en sortie, tandis que le téléchargement des poids permet de l'exécuter sur ses propres serveurs sans envoyer ses données chez l'éditeur.
L'étude d'Anthropic observe des experts qui ont l'agent sous les yeux à chaque décision. Une enquête d'Enterprise Technology Research pour New Relic, rapportée par IT Social, élargit ce constat à l'entreprise. En France, 27 % des entreprises interrogées ont déployé des agents d'IA en production sans les surveiller, contre 21 % seulement qui les surveillent activement. À l'échelle Europe-Moyen-Orient, les deux groupes s'équilibrent presque ; au niveau mondial, la surveillance l'emporte. Agents d’IA en production, les entreprises françaises les déploient avant de savoir les surveiller précise que 48 % d'entre elles découvrent encore leurs pannes par vérification manuelle ou réclamation des clients. L'enquête, déclarative et commandée par un éditeur qui vend la surveillance qu'il préconise, a interrogé environ 150 professionnels en France sur un total de 2 575 répondants dans 24 pays.
Deux jours plus tôt, à Berlin, SAP présentait l'autre face de ce constat. Agents prêts à l’emploi, atelier et contrôle à l’exécution, SAP outille l’entreprise autonome à TechEd rapporte que l'éditeur allemand a mis en disponibilité générale une passerelle par laquelle passent les agents de SAP, de ses clients et de ses partenaires : un agent non vérifié dans SAP AI Agent Hub, son registre, ne peut plus y être invoqué ; que Manoj Swaminathan, directeur produit de SAP Autonomous Suite, y a résumé l'ambition en disant qu'il faut la bonne réponse à chaque fois, conforme et traçable ; et que Michelle Niedernhuber, responsable produit du hub, y a répondu à l'inquiétude inverse en affirmant que la gouvernance n'est pas ce qui ralentit l'adoption. L'éditeur annonce 40 assistants et 300 agents conçus avec ses partenaires, promet une clôture des comptes jusqu'à 68 % plus rapide sur des mesures internes, et maintient l'exécution gratuite jusqu'à fin 2026 pour une partie des clients.
— John Linotte · Section des Billets · Bruxelles · mmxxvi