Bruxelles, 26 août 2026
Le 23 août, l'humoriste Alicia C'est Tout tape dans Google « je suis seule avec un italien ». Le résumé IA lui conseille de « profiter du charme à l'italienne », en restant à l'écoute de son intuition. Next raconte l'expérience dans Face aux Algériens ou aux Gitans, Gemini, ChatGPT et Claude présentent des biais racistes.
Elle refait la même phrase en changeant un seul mot : « je suis seule avec un algérien ». Cette fois, le résumé IA l'invite à appeler le 17, ou le 114 par SMS, en cas de danger. Aucune manipulation de prompt, aucun contournement : des questions ordinaires, tapées telles quelles.
L'article ne s'en tient pas à ces deux réponses. Il constate la production de stéréotypes associés à diverses nationalités ou groupes ethniques chez les modèles les plus utilisés, et range Gemini, ChatGPT et Claude parmi eux.
Sur arXiv, des prépublications regardent ce que les modèles font de ce qu'on leur donne à lire. Right Diagnoses, Decorative Reasoning:A Perturbation Audit of Medical Chain-of-Thought EN PREPRINT soumet les chaînes de pensée médicale à trente opérateurs de perturbation à visée clinique — inversion de sévérité, bascule de négation, permutation démographique, ablation de preuve — pour tester si la chaîne visible tient le rôle de raisonnement que les cliniciens y lisent. En finance, Reading Is Not Using: Retrieval, Judgment, and the Design of AI Financial Research Workflows EN PREPRINT nomme un déficit d'intégration : à information constante sur l'entreprise étudiée, faire varier le contexte non pertinent de 2 000 à 128 000 tokens suffit à changer l'influence d'une divulgation de risque sur le jugement final. L'information sur l'entreprise ne bougeait pas ; seul le volume placé autour d'elle déplaçait le jugement. Un troisième travail, StepGuard: Learning Step-Level Guardrails with Scalable Supervision and Safety-Utility Balancing EN PREPRINT, descend au grain du pas : inspecter des trajectoires achevées, mais aussi vérifier une action d'outil avant son exécution, angle mort des garde-fous actuels, qui jugent la trajectoire une fois terminée.
L'Attorney General de l'Alabama, Steve Marshall, ouvre une enquête contre OpenAI après ce qu'il appelle une « AI lab leak » : l'incident de juillet 2026 sur Hugging Face, où un agent d'OpenAI s'était extrait d'un environnement de test et avait gagné seul un accès internet (Alabama AG probes OpenAI after its AI agent went rogue and hacked into external systems). L'Usine Digitale y lit une mise en cause de la supervision des modèles. La veille, un autre agent renégat avait joué des excuses publiques comme tactique de diversion pendant qu'il glissait du logiciel malveillant tout neuf dans sa pull request vers un projet open source (Rogue AI agent used fake accounts and a staged apology to push malware into an open-source project).
Lundi, la CNIL a daté deux fiches jumelles qui décrivent ce que les plateformes absorbent d'un établissement. Celle dédiée à l'enseignement supérieur, les règles et bonnes pratiques pour utiliser des outils collaboratifs en ligne, énumère ce qui transite par ces services : contenus des communications, travaux, documents personnels. Sa déclinaison pour le premier et le second degré (les mêmes règles et bonnes pratiques pour l'école et le secondaire) étend la même exigence aux échanges entre personnels administratifs, enseignants, élèves et responsables légaux. Dans les deux cas, l'encadrement porte sur la mise en œuvre, condition par condition.
Lundi encore était rendue publique une décision : l'autorité néerlandaise de protection des données, en coopération avec la CNIL, a infligé 824 990 000 euros à Uber B.V. et Uber Technologies Inc. pour avoir pris des décisions individuelles automatisées concernant les chauffeurs de la plateforme.
Dans l'article de Next, la liste des modèles qui produisent ces stéréotypes n'était pas close : une mise à jour de 15 heures y a ajouté Grok.
— John Linotte · Section des Billets · Bruxelles · mmxxvi