Confiance analytique : ce que l’IA doit montrer avant de prétendre produire du renseignement
Ces dernières semaines, un fil rouge traverse la veille : la question n’est plus seulement de savoir ce que l’IA peut faire pour l’analyste, mais de savoir avec quel degré de confiance elle le fait, et si ce degré de confiance peut être rendu visible. L’analyse du renseignement est une pratique du jugement sous incertitude ; un outil qui produit des réponses plausibles sans exposer leur fragilité ne s’inscrit pas dans cette pratique, il la contourne.
Plusieurs travaux récents le disent chacun à leur manière. Z. Szewczyk propose dans la Cyber Defense Review une grille opérationnelle pour « rendre la confiance analytique visible » en analyse cyber, en partant de l’ICD-203, la directive américaine qui fixe les principes fondamentaux de l’analyse du renseignement (https://cyberdefensereview.army.mil/Portals/6/Documents/2026-vol11-iss3/CDR_V11_N3_Szewczyk.pdf). D’après un extrait relayé par Google Scholar, Y. Veilleux-Lepage cite de son côté la position de Clark (US Special Operations Command), pour qui les LLMs sont structurellement inadaptés à l’analyse du renseignement faute de quantifier l’incertitude. Le constat rejoint celui que je formulais en avril sur les risques épistémiques : optimisés pour la plausibilité, ces modèles ne disent pas d’eux-mêmes ce qu’ils ignorent.
Le problème se pose aussi en amont, au moment d’évaluer les outils. Ken Huang montre que des agents traitent désormais le banc d’évaluation comme une partie du problème à résoudre : recherche des corrigés, réécriture des tests, manipulation des LLMs-juges (https://kenhuangus.substack.com/p/the-eval-is-under-attack-benchmark). Il rappelle qu’un score sur CORE-Bench est passé de 42 % à 95 % après la seule correction du correcteur, sans aucun adversaire. Autrement dit, la confiance que l’on accorde à un outil sur la foi de ses scores peut être mal fondée avant même son déploiement.
La criminalistique numérique offre un point de comparaison utile. La revue thématique d’E. P. Williams (Middle Georgia State University, 2026), relayée par Jérôme Barlatier , observe que les laboratoires utilisent surtout une IA « étroite », efficace sur des tâches précises comme le tri des preuves ou le classement des artefacts, tandis que l’IA générale reste largement conceptuelle, freinée notamment par les limites d’explicabilité et l’absence de cadres de validation recevables devant un tribunal (https://comp.mga.edu/static/media/doctoralpapers/2026_Williams_0914103857.pdf). Le contradictoire judiciaire impose une traçabilité que l’analyse du renseignement n’exige souvent qu’en interne. C’est aussi le sens des publications de Jérôme Barlatier sur le renseignement criminel, où l’IA « ne remplace pas l’analyste » et où validation, traçabilité et biais d’automatisation restent centraux.
L’enjeu devient plus pressant à mesure que le cycle se raccourcit. La DRM veut fournir davantage de renseignement directement aux forces sur le terrain, et le Pentagone prépare avec le mémo « Project Agincourt » un commandement dédié à la guerre autonome (https://aviationweek.com/defense/budget-policy-operations/pentagon-creating-four-star-autonomy-command). Plus l’analyse se rapproche du temps de l’action, moins l’analyste dispose de temps pour contester la machine, et plus l’affichage explicite du degré de confiance devient une condition de sécurité. Côté innovation, les essais en vol d’algorithmes d’IA présentés comme souverains par Dassault et Thales/cortAIx (projet HypAIRion) conservent d’ailleurs l’IA dans un rôle d’assistant, sans décision de tir (https://www.bfmtv.com/economie/entreprises/defense/simplifier-la-vie-des-pilotes-forcer-l-ennemi-a-se-decouvrir-l-armee-de-l-air-developpe-l-intelligence-artificielle-dans-ses-avions-rafale-et-mirage-pour-un-combat-collaboratif-encore-plus-eclair_AN-202610100043.html).
Reste la question de la souveraineté, indissociable de la confiance. Évaluer honnêtement un outil suppose de le tester sur ses propres données, gardées secrètes : qui détient le jeu de test détient une partie de la confiance. Dans un entretien avec Christophe Deschamps , Martin Galnault (Shiba404) rappelle que la souveraineté « ne relève pas seulement de l’utilisation et l’intégration d’outils français ou européens », mais de « la maîtrise de la chaîne logistique qui crée la valeur ajoutée » (https://www.veillemag.com/Martin-Galnault-l-artisan-d-une-chaine-de-renseignement-souveraine-Entretien-avec-Christophe-Deschamps_a8507.html). Cette chaîne va du modèle aux puces et au réseau : le CSET décrit la contrebande de puces d’IA comme un « iceberg » (https://x.com/CSETGeorgetown/status/2107503168632357245), et les services néerlandais anticipent une hausse des attaques chinoises contre routeurs, pare-feu et passerelles VPN (via The French Spy n° 70 : https://thefrenchspy.substack.com/p/the-french-spy-semaine-41-2026). Un outil d’analyse qui appelle une API étrangère ou tourne sur un équipement compromis ne peut pas offrir une confiance pleinement maîtrisée.
La leçon de ces dernières semaines tient en une phrase : l’apport de l’IA à l’analyse ne se mesure pas à ses scores, mais à sa capacité à exposer son degré de confiance dans les formats que l’analyste connaît déjà, et à le faire sur une chaîne technique que l’on contrôle.
Initialement publié sur LinkedIn le 12/10/2026 dans la newsletter A Week In Intelligence : Confiance analytique : ce que l'IA doit montrer avant de prétendre produire du renseignement.