Toutes les éditions · Indigenous Edition

Your Community, Your AI — CC BY 4.0

Qu'est-ce que l'IA, au juste (et qu'est-ce qu'elle n'est pas)

L’IA a évolué sous vos yeux

Vous avez sans doute déjà entendu dire que l’intelligence artificielle allait tout changer. Vous avez peut-être aussi entendu dire qu’il ne s’agissait que d’un phénomène de mode, ou qu’elle n’était pas capable d’apporter quoi que ce soit de véritablement nouveau. Ces deux points de vue passent à côté de l’essentiel, et comprendre pourquoi aidera votre communauté à prendre de meilleures décisions concernant cette technologie.

Mais il y a autre chose qu’il convient de noter en premier lieu : l’IA a évolué, même au cours de la brève période pendant laquelle les débats ont fait rage à son sujet.

Il y a un an, lorsque la plupart des gens parlaient d’« IA », ils faisaient référence à un chatbot — une fenêtre dans laquelle on tapait une question pour obtenir une réponse. Vous posiez une question, il y répondait. C’était là toute l’interaction. Aujourd’hui, le centre de gravité s’est déplacé. Les systèmes qui attirent le plus l’attention et les investissements les plus importants ne sont plus seulement des chatbots qui répondent. Ce sont des agents qui agissent : ils remplissent des formulaires, envoient des messages, naviguent sur des sites web, soumettent des documents, écrivent et exécutent du code.

C’est le changement le plus important à comprendre, et la suite de cet article s’appuie sur ce principe. Pour bien appréhender l’IA aujourd’hui, il faut distinguer deux concepts :

• Le moteur — le modèle sous-jacent, ce qui produit le langage.
• L’agent — le moteur mis en œuvre, configuré pour pouvoir agir dans le monde en votre nom.

Le moteur ne cesse de gagner en capacités. Mais le changement le plus important — et, pour les communautés autochtones, le plus grave — réside dans ce que les gens construisent désormais autour du moteur. Examinons chacun de ces éléments tour à tour. (Tout terme peu familier utilisé dans cette série — moteur, agent, modèle de raisonnement et les autres — est défini en langage clair dans le glossaire.)

Le moteur : une machine qui prédit

Voici la description la plus simple de ce que fait le moteur : il prédit quel mot devrait suivre.

Lorsque vous tapez un message dans un chatbot, le système ne réfléchit pas à votre question de la même manière que vous ou votre kaumātua le feriez. Il effectue un processus bien plus mécanique. On lui a présenté des milliards de pages de texte — livres, sites web, conversations, documents juridiques, recettes, articles médicaux, débats sur les réseaux sociaux — et, à partir de toutes ces lectures, il a appris à reconnaître des schémas. Lorsque vous lui posez une question, il génère une réponse en prédisant, mot après mot, à quoi pourrait ressembler une réponse plausible en se basant sur tout ce qu’il a vu auparavant.

C’est véritablement utile. Un système qui a assimilé les schémas de milliards de pages de texte peut vous aider à rédiger une lettre, à résumer un long document, à répondre à une question factuelle ou à suggérer comment formuler une annonce délicate. Ce sont là de réelles capacités, qui permettent de gagner du temps.

Mais fondamentalement, le moteur effectue une reconnaissance de modèles à une échelle extraordinaire. Ce simple fait explique à la fois ce dans quoi il excelle de manière étonnante et où il se trompe discrètement — un point sur lequel cette série revient, car pour une communauté dont les connaissances sont sous-représentées dans ces données d’entraînement, la manière dont il se trompe n’est pas aléatoire. Il penche vers l’Occident.

Le moteur est-il capable de raisonner ?

Il existe une question plus profonde sur laquelle les chercheurs se penchent activement, et la réponse simple est : nous ne le savons pas encore.

Lorsque les premiers systèmes d’IA produisaient un texte fluide, il était raisonnable de les décrire comme des systèmes sophistiqués de reconnaissance de motifs et de s’en tenir là. Mais une nouvelle génération de moteurs — souvent appelés modèles « de raisonnement » ou « pensants » — fonctionne différemment. Au lieu de répondre immédiatement, elle traite un problème par étapes, produisant une chaîne visible de raisonnements intermédiaires avant de se prononcer sur une réponse. Face à des problèmes plus complexes, elle prend plus de temps. Les résultats peuvent être remarquables : en 2025, des systèmes de raisonnement issus de plusieurs grands laboratoires ont résolu des problèmes issus des Olympiades internationales de mathématiques — l’un des concours de mathématiques les plus difficiles au monde — à un niveau équivalent à celui d’un médaillé d’or humain.

S’agit-il donc de raisonnement, ou d’une reconnaissance de formes très sophistiquée déguisée en raisonnement ?

La question fait véritablement débat, et les spécialistes divergent sérieusement d’avis. Une étude influente de 2025 a soutenu que ces systèmes relevaient en partie d’une « illusion de pensée » — qu’ils échouaient face à certaines énigmes d’une manière dont un véritable raisonneur ne le ferait pas. Plusieurs réponses tout aussi sérieuses ont défendu le point de vue opposé. Le verdict actuel le plus prudent est que les modèles de raisonnement d’aujourd’hui ne sont ni de véritables raisonneurs, ni de simples perroquets — ils constituent quelque chose de véritablement nouveau que nous ne comprenons pas encore pleinement. Quiconque vous affirme que l’IA est capable ou incapable de raisonner exagère ce que les preuves permettent de conclure.

Une conclusion revêt une importance particulière pour votre communauté, et elle peut facilement prêter à confusion ; lisez-la donc attentivement. Lorsque ces systèmes vous montrent leur « raisonnement », cette chaîne visible ne reflète pas de manière fiable ce qui a réellement motivé la réponse. Les chercheurs ont constaté à maintes reprises que le raisonnement déclaré d’un modèle peut omettre les véritables facteurs ayant influencé sa conclusion — non pas parce que la machine fait preuve de malhonnêteté au sens humain du terme (elle n’a pas d’intentions), mais parce que les mots qu’elle vous présente ne sont eux-mêmes qu’un texte prédit de plus, et non le reflet fidèle d’un processus interne. Conséquence pratique : vous ne pouvez pas demander des comptes à une IA en vous contentant de lire l’explication qu’elle fournit d’elle-même. C’est l’une des raisons pour lesquelles une gouvernance contrôlée par la communauté — qui vérifie le résultat par rapport à vos propres données plutôt que de se fier à l’auto-évaluation de l’IA — revêt une telle importance. Nous y reviendrons dans l’article 3.

Ce que nous pouvons affirmer, c’est que la progression est fulgurante. Il y a quelques années, ces systèmes parvenaient à peine à aligner un paragraphe cohérent. Aujourd’hui, ils rédigent des dissertations, réussissent des examens professionnels, génèrent du code informatique fonctionnel et agissent de plus en plus sur le monde au lieu de se contenter de le décrire. Les prochaines années apporteront encore davantage de capacités.

« L’IA ne peut rien faire de nouveau » — Tout dépend de ce que l’on entend par « nouveau »

Ceux qui rejettent l’IA en affirmant qu’elle ne peut rien créer d’original avancent un argument qui n’est vrai que dans une certaine mesure et qui, dans l’ensemble, induit en erreur.

Un moteur ne peut pas naître de l’expérience. Il n’a jamais assisté à un tangi. Il n’a jamais ressenti le poids de prendre la parole au nom d’un whānau. Il ne peut pas comprendre pourquoi le karanga est important à l’entrée d’un marae — il ne peut que reproduire des schémas qui, statistiquement, s’apparentent à de la compréhension. En ce sens, tout ce qu’il produit est une recombinaison des éléments qu’il a assimilés pendant son apprentissage.

Mais réfléchissons à ce que signifie réellement « recombinaison » à cette échelle. Aucun être humain n’a lu l’intégralité des documents relatifs aux accords issus du Traité, tous les rapports du Tribunal de Waitangi, l’ensemble de la législation sur les droits des peuples autochtones au sein du Commonwealth, tous les articles universitaires sur la souveraineté des données autochtones, ni tous les bulletins d’information communautaires des cent dernières années. Lorsque l’IA établit un lien entre la théorie de la gouvernance polycentrique et les structures décisionnelles traditionnelles maories, ce lien est véritablement nouveau pour tout individu humain, même si ces deux concepts existaient séparément.

Ainsi, l’affirmation selon laquelle « l’IA ne peut rien faire de nouveau » est vraie au niveau de la création et fausse au niveau de la synthèse. Ces deux aspects sont importants, et s’engager sérieusement avec cette technologie nécessite de tenir compte des deux.

De la réponse à l’action : l’agent

Passons maintenant au changement qui compte le plus pour votre communauté.

Pendant la majeure partie de l’ère des chatbots, le pire qu’une IA pouvait faire directement était de vous donner une mauvaise réponse. Le préjudice ne se produisait que si une personne agissait en conséquence : envoyait les mauvais mots, faisait confiance au mauvais chiffre, transmettait le conseil erroné. Il y avait toujours une personne entre la machine et la conséquence.

Un agent élimine cette personne de la boucle, de par sa conception même.

Un agent IA est un moteur intégré à ce que les chercheurs appellent un « échafaudage » : une mémoire lui permettant de suivre une tâche, l’accès à un navigateur web, la capacité d’utiliser des outils logiciels et d’autres programmes, ainsi qu’un objectif que vous lui fixez en langage clair. Grâce à cette structure, le système peut poursuivre son objectif à travers de nombreuses étapes avec beaucoup moins de supervision : il peut rechercher, décider, agir, vérifier le résultat, puis agir à nouveau. Un chatbot répond. Un agent agit.

C’est pourquoi l’IA semble soudain différente, même si les moteurs sous-jacents n’ont pas changé du jour au lendemain. La nouveauté réside en grande partie dans l’enveloppe. Le secteur distingue délibérément les deux : le moteur fournit la capacité brute, et l’échafaudage transforme cette capacité en quelque chose qui fonctionne dans le monde réel. Une grande partie du bond en avant récent concernant ce que l’IA peut faire — par opposition à ce qu’elle peut dire — provient d’une meilleure structure, et non d’un nouveau type d’esprit.

Les produits d’agents bien connus de 2025 et 2026 — ceux qui naviguent sur le Web à votre place, font fonctionner un ordinateur ou écrivent et exécutent des logiciels — sont presque tous développés par de grandes entreprises technologiques américaines, et nous examinerons ce que cela signifie pour vos données dans le prochain article. Pour l’instant, retenez bien cette idée : la question n’est plus seulement « que va me dire l’IA ? », mais « que va faire l’IA, et peut-on l’arrêter à temps si elle dérape ? ».

Pour les communautés autochtones, cela revêt une importance particulière. Lorsqu’un système agit de manière autonome, il y a moins de possibilités d’intervenir, et certaines actions sont irréversibles. Une fois partagées, les connaissances ne peuvent plus être retirées ; un kōrero transmis à un système externe, ou un taonga de mātauranga transmis à une plateforme qui agit ensuite en conséquence, ne peut être récupéré. Un agent qui partage, publie ou transmet de son propre chef — sans qu’un kaitiaki ne soit impliqué — n’est pas une simple commodité neutre. C’est la continuation numérique d’un schéma très ancien : le savoir échappant au contrôle de la communauté sans que celle-ci ait son mot à dire. Et si quelque chose tourne mal, il est véritablement difficile de déterminer qui est responsable : la personne qui a défini un objectif en une phrase, ou l’entreprise dont le système a choisi les étapes à suivre. Cela ne signifie pas pour autant que les agents sont inutiles. Cela signifie simplement que les enjeux liés au choix de quel agent vous utilisez, et à qui détient l’autorité sur ses actions, viennent de prendre une ampleur considérable.

Le véritable enjeu : à qui appartiennent les modèles, et qui tient les commandes ?

C’est là que cela devient concret pour votre communauté.

Lorsqu’un grand moteur d’IA est entraîné sur Internet, il absorbe les biais, les a priori et les normes culturelles de ce dernier. Internet est majoritairement anglophone, occidental, à vocation commerciale et façonné par les valeurs d’une poignée d’entreprises technologiques. Il ne s’agit pas d’une conspiration — c’est simplement ce qui se produit lorsque l’on entraîne un système à partir de données qui représentent de manière disproportionnée une seule culture et un seul ensemble de priorités.

Pour les communautés autochtones, ce biais n’est pas subtil. Il est structurel. Internet surreprésente les savoirs écrits, occidentaux et individualisés. Il sous-représente les traditions orales, la prise de décision collective, les systèmes de savoir relationnels et les formes de compréhension que les peuples autochtones transmettent depuis des générations. Lorsqu’une IA est entraînée à partir de ces données, elle ne se contente pas de manquer de savoirs autochtones : elle est structurellement biaisée à leur encontre. Les schémas qu’elle a appris considèrent les cadres occidentaux comme la norme et tout le reste comme l’exception.

Lorsqu’un membre d’un whānau demande conseil à une IA au sujet d’une situation familiale difficile, le système se rabat par défaut sur le langage de la thérapie individuelle — entraînement à l’assertivité, définition de limites, prise en charge de soi — car c’est ce qui domine ses données d’entraînement. Il ne fait pas appel au whanaungatanga (obligation de parenté), au manaakitanga (souci d’autrui), ni à la vision à long terme qui découle de la conscience que vos obligations s’étendent sur plusieurs générations. Lorsqu’un responsable communautaire lui demande de l’aider dans une communication délicate, il se rabat par défaut sur le langage d’entreprise, car la correspondance commerciale est largement plus abondante que la correspondance des communautés autochtones dans les données à partir desquelles il a appris.

Le système n’est pas hostile à votre savoir. Il ignore simplement ce savoir. Il sait ce qui est statistiquement courant, et ce qui est statistiquement courant est en grande majorité occidental.

À l’ère des chatbots, ce biais a façonné les mots que vous lisez — un mihi qui ressemblait à une séance de soutien psychologique. À l’ère des agents, ce même biais façonne les actions menées en votre nom. Un agent qui ne comprend pas le tikanga ne se contentera pas de mal décrire votre univers ; il pourrait agir en votre nom, d’une manière qui enfreint le protocole, avant que quiconque ne puisse l’en empêcher. Ainsi, le véritable enjeu de l’IA comporte désormais deux aspects : quels schémas porte-t-elle en elle, et qui tient les commandes lorsqu’elle agit ?

Pourquoi est-ce important aujourd’hui ?

Personne ne sait avec certitude ce qui se passerait si un système d’IA venait à développer quelque chose ressemblant à sa propre intention — des objectifs et des priorités qui pourraient ne pas correspondre aux nôtres. Nous sommes probablement encore loin de ce seuil. Mais l’architecture que nous construisons aujourd’hui, les pratiques de gouvernance que nous mettons en place dès maintenant, détermineront si nous serons prêts lorsque ce moment arrivera ou si nous découvrirons trop tard que nous avons cédé le contrôle sans nous en rendre compte.

Ce n’est pas de la science-fiction. Il s’agit d’une simple constatation concernant la préparation institutionnelle. Votre communauté dispose de ses propres structures de gouvernance — ses propres tikanga régissant la prise de décision, l’exercice de l’autorité et le partage des connaissances. Celles-ci existent non pas parce que chaque hui sombre dans le chaos, mais parce que les structures de gouvernance doivent être en place avant d’être nécessaires, et non après.

Le même principe s’applique à l’IA — et il s’applique avec d’autant plus d’urgence que l’IA ne se contente plus de conseiller, mais agit.

Deux voies à suivre

Une communauté peut s’engager avec l’IA de deux manières.

La première voie consiste à utiliser l’IA des géants de la tech — les chatbots et, de plus en plus, les agents développés par les plus grandes entreprises technologiques américaines. Ceux-ci sont puissants, pratiques et souvent gratuits ou peu coûteux. Mais ils s’accompagnent de conditions. Vos données sont transmises à leurs serveurs. Vos conversations — et désormais les actions de votre agent — transitent par des systèmes que vous ne contrôlez pas. Le comportement de l’IA est régi par les politiques de l’entreprise, qui peuvent changer sans votre consentement. Et les schémas de comportement de l’IA sont déterminés par ses données d’entraînement, sur lesquelles vous n’avez aucune influence. Pour les communautés autochtones qui se battent depuis des générations pour la souveraineté sur leurs propres savoirs, il ne s’agit pas d’un compromis neutre.

La deuxième voie consiste à utiliser une IA contrôlée par votre communauté. Un système plus ciblé, entraîné sur votre contenu, fonctionnant sur une infrastructure que vous contrôlez, régi par des règles définies par votre communauté. Un système qui sait faire la différence entre une annonce communautaire et un article de blog d’entreprise, parce que votre communauté le lui a appris. Un système dont les réponses sont vérifiées par rapport à vos données réelles par des observateurs indépendants qui opèrent séparément de l’IA elle-même — et dont la capacité à agir est délibérément limitée, de sorte qu’un membre de votre communauté puisse toujours intervenir avant que quoi que ce soit ne dépasse vos limites.

Voilà ce qu’est Village AI. Ce n’est pas le système d’IA le plus puissant qui soit. Il est conçu pour être fidèle à votre communauté — à votre contenu, à vos valeurs et à votre gouvernance. Pour les communautés autochtones, cette fidélité inclut la capacité à définir votre propre vocabulaire, vos propres limites de gouvernance et vos propres règles concernant le partage des connaissances — ainsi qu’à conserver l’autorité sur ce qu’une IA fait en votre nom.

Le prochain article de cette série explique en quoi Village AI se distingue structurellement de l’IA des géants de la tech, et pourquoi cette différence est importante — en particulier pour les communautés dont les systèmes de savoir ont déjà survécu à une vague de colonisation et ne devraient pas avoir à en subir une autre.

Vous souhaitez utiliser correctement et en toute sécurité des outils d’IA comme ceux-ci ? Nos cours gratuits — Travailler avec Claude et Agents at Work — vous enseignent les compétences pratiques, qu’il s’agisse d’obtenir des réponses fiables ou de décider quoi confier à un agent. Pour découvrir l’architecture technique complète de Village AI, consultez Village AI — Gouvernance agentique.