Toutes les éditions · Indigenous Edition

Your Community, Your AI — CC BY 4.0

L'IA des géants de la tech face à l'IA de votre communauté — Pourquoi cette différence est importante

Où l'IA des géants de la tech apprend ses bonnes manières

Imaginez que vous éleviez un enfant dans un foyer où les seuls livres disponibles seraient des brochures publicitaires, des débats sur les réseaux sociaux et Wikipédia. Cet enfant serait éloquent, cultivé dans un certain sens, et capable de rédiger avec aisance sur presque n’importe quel sujet. Mais il aurait une vision particulière du monde — façonnée par le commerce, sensible aux controverses, avec un ton assuré mais sans réelle profondeur. Il saurait paraître autoritaire sans pour autant être sage.

C’est, en gros, ainsi que sont « élevés » les systèmes d’IA des géants de la tech.

Les systèmes d’IA les plus connus de ces géants — les grands chatbots commerciaux et, désormais, les agents qui en découlent — sont entraînés à partir d’énormes quantités de textes extraits d’Internet. Des milliards de pages. Il en résulte un système capable de discuter de presque tout — mais dont les paramètres par défaut, les hypothèses et les instincts sont façonnés par ce que l’Internet surreprésente. (Tout terme inconnu dans cette série est défini en langage simple dans le glossaire.)

Internet surreprésente :

• Les contenus en anglais (et, au sein de l’anglais, l’anglais américain)
• Le langage commercial et marketing
• Les cadres de référence individualistes (« ce qui est le mieux pour vous »)
• Le langage thérapeutique laïc pour les questions émotionnelles et morales
• Le discours technique et professionnel
• Les contenus des vingt dernières années, avec une profondeur historique limitée

Internet sous-représente :

• Les traditions orales et les cultures du récit
• Les traditions de prise de décision collective
• Les systèmes de savoirs et les langues autochtones
• Les cadres moraux et relationnels non occidentaux
• L’expérience vécue des petites communautés enracinées
• L’histoire, les personnes et les pratiques réelles de votre communauté

Pour les communautés autochtones, ce déséquilibre n’est pas un simple désagrément. Il s’inscrit dans la continuité d’un schéma qui précède Internet de plusieurs siècles : la marginalisation systématique des savoirs autochtones au profit des cadres de référence occidentaux. Internet n’a pas créé ce déséquilibre — il l’a hérité, amplifié et encodé dans les données d’entraînement de tous les grands systèmes d’IA.

Lorsqu’un membre de votre whānau interroge un système d’IA d’une grande entreprise technologique sur la manière de gérer une obligation familiale, celui-ci recourt au langage des limites individuelles et de la prise en charge de soi — non pas parce qu’il a jugé cela supérieur, mais parce que c’est ce qui domine ses données d’entraînement. Il ne propose pas le concept de whanaungatanga, ni la compréhension selon laquelle les obligations envers le whānau ne sont pas des fardeaux à gérer, mais des relations à honorer. Ces schémas sont statistiquement rares dans les données à partir desquelles il a appris.

Il ne s’agit pas d’un défaut que l’on peut corriger par de meilleures instructions. C’est un problème structurel. Le caractère du système est déterminé par son éducation, et son éducation, c’est Internet.

Que signifie réellement « formé localement » ?

Village AI fonctionne différemment, et cette différence ne réside pas dans le fait qu’il soit plus petit ou moins performant. Elle tient à la source à partir de laquelle l’IA apprend ses modèles.

Un Village AI destiné à votre communauté est formé à partir de trois couches de contenu :

La couche « plateforme ». Il s’agit de la base : comment fonctionne la plateforme Village, quelles fonctionnalités sont disponibles, comment naviguer dans le système. Tous les Villages partagent cette couche. Cela signifie que l’IA peut aider un nouveau membre du whānau à s’y retrouver, lui expliquer comment partager une histoire ou rejoindre un appel vidéo, sans qu’il soit nécessaire de lui enseigner ces bases à partir de zéro.

La couche « communauté ». C’est ce qui fait de votre Village le vôtre. L’IA apprend à partir du contenu que votre communauté a réellement créé : annonces, récits partagés par les membres, descriptions d’événements, documents publiés par votre rūnanga ou votre comité. Lorsqu’un membre du whānau demande « Que s’est-il passé lors du hui du mois dernier ? », l’IA peut répondre en s’appuyant sur les archives de votre communauté, et non sur une supposition basée sur ce à quoi ressemblent généralement les hui sur Internet.

Le consentement à chaque étape. Aucun contenu n’est intégré à l’entraînement de l’IA sans autorisation explicite. Un membre qui partage un récit peut choisir si celui-ci est inclus dans les connaissances de l’IA. Le contenu marqué comme privé reste privé — de manière structurelle, et pas seulement par la politique. L’IA ne peut pas accéder à ce qui ne lui a jamais été donné.

Pour les communautés autochtones, cette architecture du consentement revêt une importance particulière. La souveraineté des peuples autochtones en matière de données — le principe selon lequel les peuples autochtones ont le droit de régir la collecte, la propriété et l’utilisation de leurs propres données — n’est pas une fonctionnalité que l’on peut ajouter après coup. Elle doit être intégrée dès le départ. Le modèle de consentement de Village n’est pas parfait, mais il part du bon principe : les données de votre communauté appartiennent à votre communauté, et aucun contenu n’est utilisé sans autorisation explicite.

Il en résulte un système qui connaît votre communauté — et non l’idée que se fait Internet de ce qu’une communauté autochtone pourrait être. Lorsqu’il aide à rédiger une annonce, il s’appuie sur les schémas de vos communications précédentes, et non sur des modèles de lettres d’information d’entreprise. Lorsqu’il répond à une question concernant votre communauté, il s’appuie sur les archives de votre communauté, et non sur une moyenne statistique de toutes les communautés.

Kaitiakitanga, et non la propriété

Les plateformes technologiques occidentales envisagent les données sous l’angle de la propriété : qui possède les données, qui détient des droits sur celles-ci, qui peut les vendre. Cette approche s’inscrit naturellement dans une tradition fondée sur les droits de propriété.

Mais pour de nombreuses communautés autochtones, et en particulier au sein du Te Ao Māori, le concept le plus pertinent est celui du kaitiakitanga — la garde, la gestion responsable. Les données concernant votre whānau, votre hapū, votre communauté ne constituent pas un bien que l’on peut posséder et échanger. Il s’agit d’un taonga (trésor) dont il faut prendre soin, qu’il faut protéger et transmettre à la génération suivante dans un état au moins aussi bon que celui dans lequel vous l’avez reçu.

Cette distinction revêt une importance pratique, et pas seulement philosophique.

Une plateforme fondée sur la logique de la propriété pose la question suivante : « Qui a le droit d’accéder à ces données ? » Une plateforme fondée sur la logique du kaitiakitanga pose la question suivante : « Qui a la responsabilité de préserver ce savoir, et quels sont les protocoles appropriés pour le partager ? »

Village ne prétend pas avoir pleinement mis en œuvre un modèle de gouvernance des données fondé sur le kaitiakitanga. Cela nécessiterait un engagement plus profond auprès de communautés spécifiques que ce qu’une plateforme peut réaliser à un niveau général. Mais l’architecture prend en charge les éléments clés : le contrôle par la communauté sur ce qui est partagé, le consentement à tous les niveaux, la possibilité de restreindre l’accès aux connaissances à des groupes appropriés au sein de la communauté, et l’impossibilité structurelle pour la plateforme ou toute partie externe d’accéder aux données de la communauté sans autorisation.

Qui détient les clés ?

La question du kaitiakitanga se pose avec encore plus d’acuité dès lors que l’IA ne se contente plus de répondre, mais agit. Comme l’explique l’article 1, les systèmes qui retiennent aujourd’hui le plus l’attention sont des agents : ils mènent des actions dans le monde en votre nom. Et dès qu’une IA est capable d’agir, une deuxième question vient s’ajouter à celle de « quels schémas porte-t-elle en elle ? » : qui détient les clés ?

Lorsque vous laissez un agent d’une grande entreprise technologique faire quelque chose pour vous — soumettre des documents, envoyer un message, partager des kōrero, gérer une liste —, vous lui remettez les clés : l’accès à vos données, parfois à vos comptes, et le pouvoir d’agir en votre nom. Ces actions se déroulent sur l’infrastructure de l’entreprise, selon ses règles, et ce sont les paramètres par défaut de l’entreprise qui déterminent les étapes. Si l’agent commet une erreur, vous ne le découvrirez peut-être qu’une fois l’action accomplie. Et ce qui a été fait ne peut pas toujours être annulé : une fois partagées, les connaissances ne peuvent plus être retirées. Pour une communauté détenant des taonga de mātauranga, un agent qui partage ou publie de son propre chef revient à confier le kaitiakitanga à un étranger.

Village AI repose sur le principe inverse. Lorsqu’il intervient, il le fait à l’intérieur des limites de votre communauté, sur une infrastructure que vous contrôlez, selon les règles fixées par votre communauté — et, surtout, sa portée est délibérément limitée afin qu’un kaitiaki puisse toujours intervenir avant que quoi que ce soit ne franchisse ces limites. Il rédigera, suggérera, organisera et triera ; il ne partagera, n’enverra ni ne soumettra discrètement des connaissances en votre nom sans qu’une personne soit mise au courant. Les clés restent entre les mains de votre communauté. Nous décrivons comment cela est mis en œuvre à l’article 3, et ce qui agit en votre nom aujourd’hui à l’article 4.

Pour l’instant, le principe est simple : à l’ère des chatbots, la question était « quels schémas mon IA reproduit-elle ? » À l’ère des agents, vous devez également vous demander « qui détient l’autorité sur ses actions — et pouvons-nous la récupérer ? »

Guardian Agents : Les gardiens à la porte

Même une IA entraînée localement peut commettre des erreurs. Elle peut mal se souvenir d’un détail, confondre deux événements ou générer une réponse qui semble correcte mais qui ne repose pas sur vos données réelles. C’est la nature même de la technologie : elle prédit un texte plausible, et « plausible » n’est pas synonyme de « précis ».

C’est là qu’interviennent les Guardian Agents.

Les Guardian Agents sont des couches de vérification indépendantes qui contrôlent chaque réponse de l’IA avant qu’elle n’atteigne le membre. Il ne s’agit pas d’une IA supplémentaire — ce sont des contrôles basés sur des mesures, structurellement distincts de l’IA qu’ils surveillent, de sorte que le surveillant ne partage pas les angles morts de ce qu’il surveille.

Voici comment cela fonctionne, en termes simples :

Le premier gardien prend la réponse de l’IA et mesure dans quelle mesure elle correspond au contenu réel des archives de votre communauté. Il ne s’agit pas de savoir si cela semble correct, mais si elle est mathématiquement similaire aux documents réels. Si l’IA dit « Le rūnanga a décidé de donner suite au projet de construction en septembre », le gardien vérifie si vos archives contiennent effectivement une décision concernant un projet de construction en septembre.

Le deuxième gardien décompose la réponse en affirmations individuelles et vérifie chacune d’entre elles séparément. Une réponse de l’IA peut contenir trois affirmations : deux exactes et une inventée. Le deuxième gardien détecte la fausse affirmation même lorsque la réponse globale semble convaincante.

Le troisième gardien surveille les schémas inhabituels au fil du temps : changements dans le comportement de l’IA, erreurs répétées, résultats qui s’approchent de limites définies. Il surveille la santé du système, et pas seulement les réponses individuelles.

Le quatrième gardien apprend à partir des retours de votre communauté. Lorsqu’un membre de la whānau signale une réponse de l’IA comme inutile — un simple pouce vers le bas suffit —, le système examine ce qui n’a pas fonctionné, identifie la cause profonde et s’ajuste en conséquence. Les modérateurs peuvent examiner et affiner ces corrections, mais l’apprentissage commence avec les membres ordinaires. Au fil du temps, l’IA s’aligne de plus en plus sur les connaissances réelles de votre communauté, et non l’inverse.

Chaque réponse de l’IA dans Village est accompagnée d’un indicateur de confiance qui indique au membre dans quelle mesure la réponse est fondée. Un niveau de confiance élevé signifie que le gardien a trouvé des correspondances solides dans vos archives. Un niveau de confiance faible signifie que la réponse est plus spéculative. Les membres peuvent remonter à la source de toute affirmation de l’IA — le document, le récit ou l’archive spécifique qui l’étaye.

Ce n’est pas une fonctionnalité offerte par l’IA des géants de la tech, car celle-ci ne s’appuie pas sur vos archives. Elle s’appuie sur Internet, et il n’existe aucun moyen pratique de vérifier des milliards de pages de données d’entraînement par rapport à une seule réponse.

Le compromis

Village AI est délibérément plus restreint que les grands systèmes commerciaux. Il n’est pas conçu pour écrire de la poésie, générer des images photoréalistes ou couvrir tous les sujets imaginables — et à l’ère des agents, l’étendue brute des connaissances n’est pas vraiment l’essentiel. Le compromis qui importe n’est pas l’éloquence pour l’éloquence ; c’est la garde et le contrôle. Un système ciblé qui connaît votre communauté, conserve vos connaissances au sein de vos propres limites et reste soumis à votre gouvernance — et qui, lorsqu’il agit, n’intervient que là où un kaitiaki peut encore intervenir — a plus de valeur pour une communauté qu’un système plus éblouissant qu’elle ne contrôle pas.

Ce qu’il offre à la place, c’est un système fidèle à votre communauté — son contenu, ses valeurs, sa gouvernance —, avec la garantie que ses réponses s’appuient sur vos archives réelles plutôt que sur les tendances statistiques d’Internet.

Pour une communauté autochtone qui a besoin d’aide pour diffuser des annonces, répondre aux questions des whānau sur les activités communautaires, résumer les comptes-rendus des hui, coordonner des événements ou préserver les récits et les savoirs — ce n’est pas une limitation. C’est précisément l’outil qu’il faut pour cette tâche. Et lorsque cet outil agit plutôt que de se contenter de répondre, il le fait en laissant les clés — et le kaitiakitanga — entre les mains de votre communauté.

La question n’est pas « quelle IA est la plus puissante ? ». La question est « quelle IA sert ma communauté, laquelle perpétue les schémas de la culture qui nous a historiquement marginalisés — et qui détient l’autorité lorsqu’elle agit ? »

Vous souhaitez utiliser correctement et en toute sécurité des outils d’IA comme ceux-ci ? Nos cours gratuits — Travailler avec Claude et Agents au travail — vous enseignent les compétences pratiques nécessaires. Pour découvrir l’architecture complète Guardian Agents qui sous-tend Village AI, consultez Village AI — Gouvernance agentique.