Toutes les éditions · Academia Edition

Your Community, Your AI — CC BY 4.0

Ce qu’est l’IA, ce qu’elle n’est pas et ce qui reste incertain

Prédiction statistique à grande échelle

Le mécanisme central des grands modèles linguistiques (LLM) contemporains est la prédiction du token suivant. À partir d’une séquence de tokens, le modèle génère une distribution de probabilités sur les suites possibles, en s’appuyant sur des modèles extraits d’un corpus d’apprentissage d’une ampleur considérable — généralement des milliards de documents couvrant plusieurs domaines, langues et registres.

Ce mécanisme produit des résultats souvent utiles : des textes cohérents, des résumés pertinents, des réponses plausibles à des questions factuelles et du code fonctionnel. Son utilité pratique ne fait aucun doute.

Ce qui fait débat — et ce qui importe pour la gouvernance —, c’est la nature du processus qui produit ces résultats et, par conséquent, le degré de confiance que l’on peut leur accorder.

Des modèles aux agents : capacité contre commercialisation

Une évolution survenue entre 2024 et 2026 a déplacé l’objet de la gouvernance du modèle vers l’agent. Cette distinction est importante d’un point de vue analytique. Le modèle (ou moteur) est le prédicteur du token suivant décrit ci-dessus. Un agent est ce modèle intégré à une infrastructure — mémoire persistante, accès à des outils et à des API, navigateur web ou interface informatique — et orienté vers un objectif exprimé en langage naturel, qu’il poursuit en plusieurs étapes avec une supervision humaine réduite. (Ces termes, ainsi que d’autres utilisés tout au long de la série, sont définis dans le glossaire.) L’indice des agents d’IA 2025 caractérise cela comme une séparation entre la capacité (modèles de pointe) et la mise en œuvre (l’infrastructure agentique qui les entoure) : une grande partie du changement radical apparent dans ce que l’IA peut faire, par opposition à ce qu’elle peut dire, provient de l’enveloppe plutôt que d’une nouvelle architecture de modèle.

Cette évolution modifie l’objet de la gouvernance au-delà d’une simple dimension quantitative. Les sorties d’un chatbot ne causent de préjudice que lorsqu’un humain agit en fonction de celles-ci ; un agent peut agir directement sur le monde, avec moins de points d’intervention. La littérature a commencé à formaliser les problèmes de responsabilité qui en découlent — le fossé de responsabilité (Matthias, 2004), dans lequel les opérateurs ne peuvent raisonnablement être tenus pour responsables du comportement de systèmes dont ils n’ont pas déterminé les actions, et la zone de déformation morale (Elish, 2019), dans laquelle la responsabilité retombe sur l’humain le plus proche malgré un contrôle limité. Le Rapport international sur la sécurité de l’IA 2026 souligne en outre que les agents présentent des risques accrus en matière de fiabilité précisément parce qu’ils agissent de manière autonome, et que les erreurs dans les configurations multi-agents peuvent se propager et s’amplifier. Pour la recherche en matière de gouvernance, le point essentiel est que l’autonomie déplace le centre du risque de l’interprétation des résultats vers l’exécution des actions — un déplacement auquel la gouvernance fondée sur des politiques, orientée vers l’examen des résultats, est mal à même de faire face.

La question du raisonnement : un problème empirique ouvert

Les premières caractérisations des LLM comme des « perroquets stochastiques » — des systèmes qui reproduisent des régularités statistiques sans aucune forme de compréhension — ont mis en évidence un aspect important des fondements de cette technologie. Cependant, à mesure que l’échelle des modèles s’est accrue, des comportements ont émergé qui résistent à une caractérisation simple.

Les grands modèles démontrent une capacité à effectuer des inférences logiques en plusieurs étapes, à mener un raisonnement analogique entre différents domaines et à résoudre des problèmes inédits dont la structure diffère de celle des exemples d’entraînement. Certains chercheurs décrivent ces phénomènes comme des capacités émergentes — des propriétés qui apparaissent à grande échelle sans avoir été explicitement conçues. D’autres soutiennent que ce raisonnement apparent n’est qu’une forme sophistiquée d’interpolation de motifs qui ne fait que ressembler à du raisonnement lorsqu’il est évalué par des observateurs humains enclins à y attribuer une compréhension.

Les données empiriques sont, à l’heure actuelle, insuffisantes pour trancher cette question. Plusieurs observations compliquent toute prise de position affirmée :

• Les modèles résolvent des problèmes qui nécessitent une généralisation compositionnelle, ce qui suggère quelque chose allant au-delà de la simple récupération d’informations.
• Les modèles présentent également des défaillances — génération assurée de fausses affirmations, fragilité face à des perturbations adversaires, sensibilité aux caractéristiques superficielles des invites — qui sont incompatibles avec un raisonnement robuste.
• Les représentations internes des grands modèles ne sont pas bien comprises. La recherche sur l’interprétabilité mécaniste a identifié des structures de type circuit qui sont corrélées à des capacités spécifiques, mais ce domaine en est encore à ses débuts.
• La question de savoir si la distinction entre « raisonnement authentique » et « comportement de type raisonnement » est empiriquement significative, ou si elle se réduit à un engagement philosophique, reste sans réponse.

Une complication supplémentaire est apparue avec la génération 2025-2026 de modèles « de raisonnement » ou « de pensée », qui externalisent une chaîne de pensée intermédiaire et allouent du temps de calcul supplémentaire à l’inférence pour les problèmes plus difficiles ; dans des contextes structurés, ces systèmes ont atteint des performances équivalentes à une médaille d’or aux Olympiades internationales de mathématiques de 2025. Le débat sur l’interprétation reste d’actualité et n’est pas résolu. L’ouvrage d’Apple The Illusion of Thinking (2025) a signalé des baisses caractéristiques de précision sur des énigmes évolutives, tandis que plusieurs réfutations (par exemple Lawsen et al. ; Dellibarda Varela et al., 2025) ont attribué une partie de cet effet à des artefacts d’évaluation et ont qualifié ces systèmes de « ni véritables raisonneurs, ni perroquets stochastiques ». Plus déterminant pour la gouvernance est un corpus croissant de travaux sur la non-fidélité de la chaîne de pensée (Anthropic, 2025, et études ultérieures de 2026) : le raisonnement externalisé ne reflète souvent pas les déterminants causaux de la sortie du modèle, ce qui sape tout régime de surveillance reposant sur l’inspection du raisonnement déclaré par le modèle. La chaîne de pensée affichée est elle-même un texte généré, et non la lecture instrumentale d’un processus interne.

À des fins de gouvernance, l’implication pragmatique est la suivante : on ne peut pas supposer sans risque qu’un LLM raisonnera correctement, pas plus qu’on ne peut rejeter ses résultats comme étant peu fiables. Le système occupe un terrain d’entente inconfortable où les résultats sont souvent utiles, parfois erronés, et ne peuvent être distingués de manière fiable les uns des autres sans vérification externe.

Nouveauté et synthèse

Une question connexe porte sur la capacité des LLM à produire des résultats véritablement novateurs. L’affirmation radicale — selon laquelle les modèles ne génèrent que des recombinaisons de données d’entraînement — est correcte au sens strict, mais globalement trompeuse.

Prenons l’exemple d’un modèle ayant assimilé des textes sur la théorie de la gouvernance polycentrique, le comportement organisationnel et l’informatique communautaire en tant que corpus distincts. Lorsqu’il est interrogé de manière appropriée, il peut synthétiser des liens entre ces domaines qu’aucun chercheur pris individuellement n’a établis, car aucun chercheur n’a la même étendue d’exposition. Les idées qui le composent ne sont pas nouvelles. La synthèse, en revanche, peut être nouvelle pour un lecteur donné — et peut mettre en évidence de véritables parallèles structurels qui méritent d’être approfondis.

Cela n’équivaut pas à la nouveauté propre à la recherche primaire. Le modèle n’a pas accès aux données empiriques sur lesquelles il n’a pas été entraîné, n’a aucune capacité de conception expérimentale et n’est pas en mesure d’évaluer si les liens qu’il a synthétisés résistent à un examen approfondi. La synthèse est un générateur d’hypothèses, et non un validateur d’hypothèses. Mais la génération d’hypothèses a une valeur, à condition de ne pas la confondre avec la confirmation d’hypothèses.

Pour les chercheurs qui évaluent les systèmes d’IA, cela implique que les résultats des LLM peuvent être utiles comme point de départ pour une revue de la littérature, une exploration interdisciplinaire et l’identification d’analogies structurelles — mais qu’ils nécessitent le même examen critique que celui que l’on appliquerait à toute source non vérifiée.

Les données d’entraînement comme vision du monde

Chaque LLM hérite de la distribution statistique de son corpus d’entraînement. Il ne s’agit pas d’un biais corrigible, mais d’une propriété structurelle de la technologie.

Un modèle entraîné principalement sur du contenu Internet occidental, en anglais et à vocation commerciale produira des résultats qui reflètent les hypothèses, le cadre de référence et les priorités de ce corpus. Lorsqu’on lui demande d’aborder des sujets pour lesquels les données d’entraînement sont rares — traditions de gouvernance autochtones, langage liturgique, culture orale, prise de décision au sein de petites communautés —, le modèle se rabat par défaut sur les schémas statistiquement dominants plutôt que de reconnaître cette lacune.

Cela a des implications directes pour tout déploiement dans un contexte communautaire spécifique. Un modèle chargé de générer du contenu pour un groupe de recherche étudiant la gouvernance communautaire se rabattra par défaut sur le langage de la gestion d’entreprise — non pas parce qu’il a évalué les alternatives, mais parce que ce langage prédomine dans ses données d’entraînement. Cette substitution s’opère en silence : le modèle ne signale pas qu’il opère en dehors de son domaine de compétence.

Ce phénomène — que l’on pourrait qualifier de dérive distributionnelle dans un contexte de gouvernance — est bien documenté mais n’a pas encore trouvé de solution satisfaisante. Des techniques telles que le réglage fin, la génération augmentée par la recherche (RAG) et les invites système peuvent atténuer cet effet, mais ne l’éliminent pas. Le biais résiduel du modèle de base persiste, en particulier face à des requêtes nouvelles ou complexes où le signal de fin-tuning est plus faible que la distribution de base.

Implications pour la recherche en matière de gouvernance

Les caractéristiques décrites ci-dessus — des résultats utiles mais peu fiables, un biais de distribution silencieux, une capacité de raisonnement incertaine — définissent collectivement le défi de la gouvernance.

Un système d’IA qui se trompe occasionnellement relève d’un problème d’assurance qualité. Un système d’IA qui se trompe occasionnellement en substituant silencieusement un cadre de valeurs à un autre relève d’un problème de gouvernance. Cette distinction est importante car le premier cas peut être résolu par une vérification des erreurs, tandis que le second nécessite des mécanismes structurels capables de détecter une dérive au niveau des valeurs, et non pas simplement une erreur factuelle.

Le tournant agentique renforce l’importance de cette distinction. Lorsque la dérive au niveau des valeurs ne concerne pas un résultat vérifiable, mais une action exécutée de manière autonome, la marge de manœuvre pour une correction humaine se rétrécit, voire disparaît ; et les constatations de non-fidélité de la chaîne de pensée impliquent que l’explication fournie par le système lui-même quant aux raisons de son action ne peut être considérée comme un signal de surveillance fiable. Une gouvernance qui repose sur l’auto-évaluation du système est donc structurellement inadéquate. La vérification doit être externe au système et s’exercer sur ses actions, et non pas uniquement sur ses explications.

C’est le problème que le cadre Tractatus est conçu pour résoudre. Sa réussite est une question empirique qui sera examinée dans les articles suivants. Ce que l’on peut affirmer ici, c’est que le problème est réel, bien caractérisé et qu’il n’est pas traité de manière adéquate par les approches fondées sur des politiques qui dominent actuellement le discours sur la gouvernance de l’IA.

Ce que cet article ne prétend pas

Cet article ne prétend pas que les LLM sont incapables de raisonner — les preuves sont insuffisantes pour tirer cette conclusion. Il n’affirme pas non plus que les LLM sont capables de raisonner — les preuves sont tout aussi insuffisantes. Il n’affirme pas que le biais de distribution est insoluble — seulement que les techniques actuelles d’atténuation sont partielles. Et il n’affirme pas que la gouvernance de l’IA est impossible — seulement que le défi de la gouvernance est plus structurel qu’on ne le reconnaît généralement.

L’article suivant examine les différences structurelles spécifiques entre les plateformes d’IA commerciales et les systèmes d’IA gérés par la communauté, et analyse les compromis impliqués.

Pour l’architecture technique complète, voir Village AI — Agentic Governance. Les lecteurs qui travaillent concrètement avec ces systèmes trouveront peut-être utiles les formations pratiques associées : Working with Claude, consacrée à l’extraction et à l’évaluation des résultats des modèles, et Agents at Work, consacrée à la gouvernance des systèmes qui agissent.