Ce que fait réellement aujourd’hui l’IA gérée par la communauté

Pourquoi un législateur devrait lire un état des lieux factuel

Les politiques élaborées en matière d’IA risquent particulièrement d’être axées sur des éléments erronés : une démonstration qui n’existe pas encore, une crainte qui devance la technologie, ou un argument marketing qui ne résistera pas à la mise en production. Le remède est banal mais utile : un inventaire de ce qu’un système géré par la communauté fait réellement aujourd’hui, présenté en termes clairs, avec les parties encore en cours de développement clairement identifiées comme telles. Cet article constitue cet inventaire. Son objectif est de vous permettre de vous repérer — afin que, lorsque vous entendez une affirmation, quelle qu’en soit la source, vous disposiez d’un véritable point de référence. (Tout terme inconnu dans cette série est défini en langage simple dans le glossaire.)

Le système décrit ici — Village AI — est en production depuis 2025. Il s’agit d’un système récent, développé par une petite équipe et utilisé par un nombre restreint de collectivités. Certaines parties fonctionnent bien ; d’autres sont encore en cours de perfectionnement. Il fonctionne selon un modèle ouvert ciblé plutôt que pionnier. Le but de cet exercice est de définir clairement ce qu’il est et ce qu’il n’est pas.

Ce qu’il fait aujourd’hui

Il répond aux questions à partir des archives propres à l’organisation. Lorsqu’un membre demande « Quand aura lieu la prochaine réunion du conseil d’administration ? » ou « Quelle décision le conseil a-t-il prise concernant le centre communautaire ? », le système effectue une recherche dans les archives réelles de l’organisation — procès-verbaux, annonces, descriptions d’événements, documents publiés — et fournit une réponse à partir de ce contenu. Il ne tire pas de conclusions à partir de connaissances générales. Si la réponse ne figure pas dans les archives, il l’indique plutôt que de combler cette lacune.

Il aide à la rédaction. Il peut rédiger des annonces, de la correspondance et des communications dans le style propre à l’organisation, car il a appris à partir des contenus antérieurs de cette organisation plutôt qu’à partir d’un modèle générique. Un humain relit et corrige chaque brouillon avant sa diffusion.

Il résume les longs documents. Un rapport volumineux ou une série d’annonces peut être condensé en points clés — ce qui est utile pour les membres qui souhaitent rester informés sans tout lire dans son intégralité.

Fonctionne dans plusieurs langues. La plateforme prend en charge l’anglais, l’allemand, le français, le néerlandais et le te reo māori. L’IA aide à la traduction du contenu communautaire ; une relecture humaine est recommandée pour tout élément important.

Elle trie les retours des membres. Lorsqu’un membre soumet une question, une suggestion ou un signalement via la plateforme, le système le classe, mène une enquête lorsque cela est possible et informe le membre une fois que le problème a été traité — ce qui allège la charge de travail des personnes qui, autrement, devraient trier chaque élément manuellement.

Là où il agit, et pas seulement où il répond

Les articles 1 et 2 ont établi la distinction qu’un décideur politique doit garder à l’esprit : un chatbot répond, un agent agit. Il est donc légitime de se demander si ce système se contente de répondre ou s’il agit au nom d’une organisation.

Il agit — dans des limites soigneusement définies. L’exemple le plus parlant actuellement en production concerne le traitement des retours d’expérience. Lorsqu’un membre signale une réponse comme « peu utile », le système ne se contente pas d’enregistrer une réclamation pour qu’elle soit examinée ultérieurement. Il recherche la bonne réponse en se référant aux données de l’organisation, et lorsqu’il peut résoudre un cas courant et sans grande importance sur la base de preuves solides, il le fait — améliorant ainsi ses propres connaissances afin de mieux répondre à la prochaine demande. Il s’agit là d’un véritable comportement d’agent : une action en plusieurs étapes, et non une simple réponse.

Ce sont précisément les limites qui définissent l’essence même de ce comportement. L’agent n’agit qu’à partir des données propres à l’organisation. Il n’intervient que sur des questions courantes et réversibles. Et dès qu’il détecte un problème systémique — une série d’échecs liés entre eux suggérant un dysfonctionnement plus profond —, il cesse d’agir et transmet le dossier à un humain, car il s’agit d’une décision nécessitant un jugement plutôt que d’une correction de routine. L’intention de conception est que les retours d’information courants soient traités automatiquement, tandis que tout ce qui a des conséquences importantes soit transmis à une personne responsable. Il s’agit là de la mise en œuvre opérationnelle du principe énoncé à l’article 3 et de l’exigence de supervision humaine prévue par la loi européenne sur l’IA : un agent sous le contrôle de l’organisation intervient lorsque l’action est sûre et réversible, et s’efface lorsque ce n’est pas le cas.

Ce qu’il ne fait pas

Il ne prend pas de décisions pour l’organisation. Lorsqu’une question touche aux valeurs, à l’éthique ou au jugement, il s’arrête et transmet le dossier à un humain — les personnes à qui la communauté a confié ces décisions.

Elle ne prend pas de mesures lourdes de conséquences ou irréversibles de son propre chef. Lorsqu’elle intervient, elle ne le fait que pour des questions courantes et réversibles concernant les données de l’organisation. Elle n’émet pas de communications au nom de l’organisation, n’engage pas celle-ci à quoi que ce soit et n’apporte pas de modifications qu’elle ne peut annuler, sans qu’une personne responsable soit impliquée. L’autorité — et la responsabilité — restent entre les mains de l’organisation.

Elle n’accède pas à des contenus qui ne lui ont pas été confiés. Les contenus restreints restent restreints ; les contenus d’une organisation restent au sein de cette organisation. L’IA ne peut franchir ces limites, car elles sont structurelles et ne relèvent pas de la politique.

Elle ne fonctionne pas sans contrôle. Chaque réponse passe par des niveaux de vérification indépendants — des contrôles structurellement distincts de l’IA, de sorte que l’observateur ne partage pas les angles morts de l’observé — avant d’atteindre un membre.

Elle ne présente pas l’incertitude comme un fait. Chaque réponse est accompagnée d’un indicateur de confiance. Lorsque le système s’appuie sur des données fiables, il l’indique ; lorsqu’il repose sur des bases moins solides, il le signale également, et un membre peut remonter jusqu’à la donnée spécifique qui étaye une affirmation.

Comment les biais sont traités : le système de vocabulaire

L’une des formes les plus subtiles de biais dans l’IA est d’ordre linguistique. Un système formé à partir de données d’entreprise qualifie les membres de « utilisateurs » et les comptes-rendus de « publications » — important ainsi une vision du monde dans laquelle les communautés sont des plateformes de consommation et la gouvernance relève de la gestion de contenu. Le système remédie à cela grâce à une couche lexicale qui adapte l’ensemble de la plateforme au type d’organisation : membres ou adhérents plutôt que « utilisateurs », annonces et rapports plutôt que « publications », gouvernance plutôt que « paramètres d’administration », dossiers communautaires plutôt que « contenu ». Il ne s’agit pas d’une simple question d’apparence. Le vocabulaire détermine la manière dont l’IA formule une question : elle reconnaît que « comment communiquer cette décision aux résidents concernés ? » est une question différente de « comment mettre à jour notre base d’utilisateurs ? », alors qu’un système générique les traiterait de la même manière.

Ce qui est encore en cours de développement

Pour le dire clairement, car la politique doit s’appuyer sur la réalité des faits :

Un niveau de capacités supérieur. Le système utilise un modèle ouvert ciblé, affiné en fonction du type d’organisation, de sorte qu’un conseil municipal, une fondation et un club bénéficient chacun d’une IA adaptée à leur contexte. L’architecture prévoit un niveau plus performant pour les questions plus complexes ; celui-ci est défini mais n’est pas encore opérationnel, de sorte qu’à l’heure actuelle, chaque question reçoit une réponse du modèle adapté à l’organisation.
La personnalisation individuelle — grâce à laquelle l’IA apprend les préférences de chaque membre — est prévue mais n’a pas encore été mise en place. Pour l’instant, l’IA considère l’organisation comme une communauté, et non ses membres en tant qu’individus, à moins que ceux-ci n’interagissent directement avec elle.
Un parcours d’accréditation des modérateurs — une formation structurée destinée aux membres qui assument le rôle de modérateur — a été conçu et est progressivement mis en place.

Ce que cela implique pour la politique

L’intérêt de lire un inventaire comme celui-ci est de veiller à ce que la politique reste ancrée dans la réalité. Cet exemple montre qu’une IA gouvernée par une communauté peut, dès aujourd’hui, répondre en s’appuyant sur les propres archives d’une institution plutôt que sur les approximations que l’on trouve sur Internet ; vérifier ses réponses par rapport à ces archives grâce à des niveaux fonctionnant indépendamment de l’IA ; de conserver ses données au sein de l’organisation et de les soustraire à tout apprentissage externe ; d’agir uniquement lorsque l’action est routinière et réversible ; et de s’arrêter pour consulter un humain lorsqu’une question nécessite un jugement. Cela montre également ses limites : il s’agit d’un système jeune et restreint, qui fait preuve de transparence quant à ce qu’il ne sait pas encore faire.

Ni l’exagération ni l’alarmisme ne constituent la bonne approche pour un décideur politique. L’approche utile est celle de l’ajustement — savoir ce que la technologie fait réellement, afin que le cadre que vous soutenez repose sur la technologie elle-même plutôt que sur des affirmations à son sujet. L’article 5 définit les leviers à cet effet.

Vous souhaitez utiliser correctement et en toute sécurité des outils d’IA comme ceux-ci ? Nos formations gratuites — Travailler avec Claude et Agents at Work — vous enseignent les compétences pratiques, depuis l’obtention de réponses fiables jusqu’à la décision de ce qu’il convient de confier à un agent. Pour découvrir l’architecture technique complète de Village AI, consultez Village AI — Gouvernance agentique.

Cela vous a été utile ? Partagez cet article ou affichez un code QR à scanner.