Toutes les éditions · Policymaker Edition

Your Community, Your AI — CC BY 4.0

Qu’est-ce que l’IA, au juste (et qu’est-ce qu’elle n’est pas) ?

La distinction qui change la donne en matière de politique publique

Un législateur n’a pas besoin de savoir comment un modèle linguistique est construit. Mais il existe une distinction qui bouleverse toute la question politique, et il est important de bien la cerner avant de rédiger tout instrument réglementaire.

Il y a un an ou deux, lorsque la plupart des gens parlaient d’« IA », ils faisaient référence à un chatbot — un système auquel on posait une question et qui renvoyait un texte. On demandait ; il répondait. Aujourd’hui, le centre de gravité s’est déplacé. Les systèmes qui attirent le plus l’attention et les investissements ne sont plus seulement des chatbots qui répondent. Ce sont des agents qui agissent : ils remplissent des formulaires, envoient des communications, naviguent et effectuent des transactions sur le Web, utilisent d’autres logiciels et poursuivent des objectifs en plusieurs étapes avec une supervision limitée.

Ce changement est l’élément le plus important qu’un décideur politique doive prendre en compte, car il modifie ce que la loi est appelée à régir. Réglementer un système qui génère des conseils sur lesquels un humain agit ensuite est un problème. Réglementer un système qui agit lui-même en est un autre, bien plus complexe. Pour y réfléchir clairement, il faut distinguer deux concepts :

• Le moteur — le modèle sous-jacent, le composant qui génère le langage.
• L’agent — le moteur mis en œuvre, configuré de manière à pouvoir agir dans le monde au nom de quelqu’un.

Le moteur a gagné en capacités. Mais le changement majeur pour les politiques publiques réside dans ce qui se construit désormais autour du moteur. Examinons ces deux aspects tour à tour. (Tout terme peu familier utilisé dans cette série — moteur, agent, modèle de raisonnement et les autres — est défini en langage simple dans le glossaire.)

Le moteur : une machine qui prédit

Voici la description la plus simple de ce que fait le moteur : il prédit quel mot devrait suivre.

Lorsqu’un utilisateur saisit une requête, le système ne raisonne pas à ce sujet comme le ferait une commission d’enquête sur une requête. Il effectue un processus plus mécanique. On lui a présenté une quantité colossale de textes — textes législatifs, rapports, correspondance, articles techniques, actualités, réseaux sociaux, littérature médicale — et, à partir de tout ce matériel, il a appris des modèles statistiques. Lorsque vous lui posez une question, il génère une réponse en prédisant, mot par mot, à quoi pourrait ressembler une réponse plausible en se basant sur tout ce qu’il a traité auparavant.

C’est véritablement utile. Un système qui a assimilé les modèles de milliards de pages peut rédiger des courriers, résumer de longs documents, répondre à des questions factuelles et suggérer comment formuler une communication délicate. Ce sont là de réelles capacités qui, au sein d’un organisme public, peuvent alléger la charge administrative.

Mais, fondamentalement, le moteur effectue une mise en correspondance de modèles à une échelle extraordinaire. Ce simple fait explique à la fois son utilité et la manière caractéristique dont il échoue — un thème récurrent dans cette série et dont tout instrument réglementaire doit tenir compte.

Le moteur est-il capable de raisonner ? Le débat qu’un législateur ne devrait pas prétendre trancher

Il existe une question plus profonde sur laquelle les chercheurs se penchent activement, et la réponse est simple : nous ne le savons pas encore.

Lorsque les premiers systèmes produisaient un texte fluide, il était raisonnable de les qualifier de systèmes sophistiqués de reconnaissance de modèles et de s’en tenir là. Mais une nouvelle génération de moteurs — souvent qualifiés de modèles « de raisonnement » ou « pensants » — fonctionne différemment. Plutôt que de répondre immédiatement, ils traitent un problème par étapes, produisant une chaîne visible de raisonnements intermédiaires avant de s’engager sur une réponse, et consacrant plus de temps aux problèmes les plus difficiles. Les résultats peuvent être saisissants : en 2025, des systèmes de raisonnement issus de plusieurs grands laboratoires ont résolu des problèmes issus des Olympiades internationales de mathématiques — qui comptent parmi les concours de mathématiques les plus difficiles au monde — à un niveau équivalent à celui d’un médaillé d’or humain.

S’agit-il donc de raisonnement, ou d’une reconnaissance de formes très sophistiquée qui y ressemble ? La question reste ouverte, et les spécialistes sérieuses divergent. Une étude influente de 2025 a soutenu que ces systèmes présentaient une « illusion de pensée », s’enlisant face à certaines énigmes d’une manière dont un véritable raisonneur ne le ferait pas. Plusieurs réponses tout aussi sérieuses ont avancé l’argument contraire. Le verdict actuel le plus prudent est que les systèmes d’aujourd’hui ne sont ni de véritables raisonneurs, ni de simples perroquets — ils constituent quelque chose de véritablement nouveau qui n’est pas encore pleinement compris.

Pour un décideur politique, l’enjeu n’est pas de trancher ce débat. Il s’agit d’éviter de légiférer sur la base d’une fausse certitude, quelle que soit la position adoptée. Quiconque vous affirme que l’IA est définitivement capable, ou définitivement incapable, de raisonner va au-delà de ce que les preuves permettent d’étayer. Une politique durable est une politique qui ne dépend pas de la réponse à cette question.

La mise en garde la plus importante pour la surveillance

Une conclusion a une incidence directe sur la manière dont la surveillance peut ou ne peut pas être conçue, et elle passe facilement inaperçue.

Lorsque ces systèmes affichent leur « raisonnement », cette chaîne visible ne reflète pas de manière fiable ce qui a réellement motivé la réponse. Les chercheurs ont constaté à maintes reprises que le raisonnement déclaré d’un modèle peut omettre les véritables influences sur sa conclusion — non pas par malhonnêteté, car le système n’a pas d’intention, mais parce que les mots affichés sont eux-mêmes un texte prédit, et non le reflet fidèle d’un processus interne.

La conséquence pour les politiques est concrète. On ne peut pas s’acquitter d’une mission de contrôle en exigeant du système qu’il s’explique, puis en lisant cette explication. Un « droit à une explication » satisfait par le récit que la machine fait elle-même de son raisonnement n’est pas un mécanisme de contrôle ; il s’agit d’un récit qui semble plausible, généré a posteriori. Un contrôle significatif doit vérifier le résultat par rapport à un enregistrement réel — les faits réels, l’autorité réelle, la décision réelle — et non se fier au compte rendu du système. Cette distinction revient à l’article 3, et elle devrait guider toute disposition relative à la transparence rédigée par un législateur.

De la réponse à l’action : l’agent

C’est là le changement qui a le plus d’incidence sur les politiques publiques.

Pendant la majeure partie de l’ère des chatbots, le pire qu’une IA pouvait faire directement était de fournir une mauvaise réponse. Le préjudice ne se concrétisait que si une personne agissait en conséquence — envoyait la lettre trompeuse, se fiait au chiffre erroné, transmettait le conseil erroné. Un humain se trouvait toujours entre la machine et la conséquence.

Un agent élimine délibérément cet humain de la chaîne.

Un agent IA est un moteur intégré dans ce que les chercheurs appellent un « échafaudage » : une mémoire pour suivre une tâche, l’accès à un navigateur web, la capacité à utiliser d’autres logiciels, et un objectif exprimé en langage clair. Grâce à ce « scaffolding », le système poursuit son objectif à travers de nombreuses étapes avec beaucoup moins de supervision : il recherche, décide, agit, vérifie, puis agit à nouveau. Un chatbot répond. Un agent agit.

En matière de politique, c’est précisément là que le profil de risque change. Lorsqu’un système agit de manière autonome, il y a moins de moments où un humain peut intervenir ; certaines actions sont irréversibles ; et lorsque le résultat est erroné, il devient véritablement difficile d’attribuer la responsabilité — entre le responsable qui a fixé l’objectif, le fournisseur dont le système a choisi les étapes, et l’organisme qui a autorisé son utilisation. Les chercheurs décrivent le « vide de responsabilité » et la « zone de déformation morale » qui en résultent, dans lesquels la responsabilité retombe sur l’humain le plus proche, même si cette personne n’avait que peu de contrôle réel. L’insistance de la loi européenne sur l’IA sur une supervision humaine significative constitue, en effet, une exigence légale visant à ce que cette boucle ne soit pas fermée sans qu’une personne soit en mesure d’intervenir — et c’est là la différence entre une supervision intégrée au système et une supervision qui n’est que promise.

Le véritable enjeu : à qui appartiennent les modèles, et qui tient les commandes ?

C’est là que cela devient concret pour les décisions d’un pays.

Lorsqu’un grand moteur d’apprentissage est entraîné sur Internet, il absorbe les biais, les a priori et les normes culturelles par défaut du web. Internet est majoritairement anglophone, occidental, à vocation commerciale et façonné par les valeurs de l’industrie technologique. Il ne s’agit pas d’un complot — c’est ce qui se produit lorsqu’un système apprend à partir de données qui représentent de manière disproportionnée une seule culture et un seul ensemble de priorités.

Les conséquences sont subtiles mais bien réelles pour le secteur public. Demandez à un tel système de vous aider à rédiger un message destiné aux habitants concernés, et il recourra au langage de la gestion des parties prenantes en entreprise, car la correspondance commerciale est largement plus abondante que la correspondance civique dans les données à partir desquelles il a appris. Demandez-lui de traiter un litige et il se rabattra par défaut sur le langage des droits individuels et des recours juridiques, plutôt que sur celui de la médiation, des obligations ou de la vision à long terme. Il n’est pas hostile aux valeurs civiques ou de service public. Il ne les connaît tout simplement pas ; il sait ce qui est statistiquement courant.

À l’ère des chatbots, ce biais a façonné le texte examiné par un fonctionnaire. À l’ère des agents, ce même biais peut façonner les actions menées au nom d’un organisme public — communications envoyées, dossiers classés, engagements pris — avant même qu’un fonctionnaire ne les examine. La question politique comporte donc désormais deux volets, qui ont tous deux leur place dans tout cadre digne de ce nom : quels schémas le système reproduit-il, et qui en détient le contrôle lorsqu’il agit ?

L’article suivant aborde la seconde de ces questions sous l’angle qui relève proprement de l’État — où le système fonctionne-t-il, et sous quelle législation ?

Vous souhaitez utiliser correctement et en toute sécurité des outils d’IA comme ceux-ci ? Nos formations gratuites — Travailler avec Claude et Agents at Work — vous enseignent les compétences pratiques, depuis l’obtention de réponses fiables jusqu’au choix des tâches à confier à un agent. Pour découvrir l’architecture technique complète de Village AI, consultez Village AI — Gouvernance agentique.