Alle edities · Indigenous Edition

Your Community, Your AI — CC BY 4.0

AI van de grote techbedrijven versus de AI van jouw gemeenschap — Waarom het verschil ertoe doet

Waar de AI van de grote techbedrijven haar manieren leert

Stel je voor dat je een kind opvoedt in een gezin waar de enige ‘boeken’ marketingbrochures, discussies op sociale media en Wikipedia zijn. Dat kind zou welbespraakt zijn, in zekere zin belezen, en in staat om over vrijwel elk onderwerp vloeiende teksten te schrijven. Maar het zou een specifieke kijk op de wereld hebben — commercieel gevormd, gevoelig voor controverses, en zelfverzekerd van toon, ongeacht de diepgang. Het zou weten hoe het gezaghebbend moet klinken zonder per se wijs te zijn.

Dit is, grofweg gezegd, hoe AI-systemen van Big Tech worden opgevoed.

De bekendste AI-systemen van Big Tech – de grote commerciële chatbots en, tegenwoordig, de daarop gebaseerde agents – worden getraind op enorme hoeveelheden tekst die van het internet zijn gehaald. Miljarden pagina’s. Het resultaat is een systeem dat over bijna alles kan discussiëren — maar waarvan de standaardinstellingen, aannames en instincten zijn gevormd door wat op het internet oververtegenwoordigd is. (Elke onbekende term in deze serie wordt in begrijpelijke taal uitgelegd in de woordenlijst.)

Het internet vertegenwoordigt onevenredig veel:

• Engelstalige inhoud (en binnen het Engels: Amerikaans Engels)
• Commerciële en marketingtaal
• Individualistische benadering („wat is het beste voor jou“)
• Seculiere, therapeutische taal voor emotionele en morele vraagstukken
• Technisch en professioneel discours
• Inhoud uit de afgelopen twintig jaar, met beperkte historische diepgang

Het internet is ondervertegenwoordigd:

• Mondelinge tradities en vertelculturen
• Tradities van collectieve besluitvorming
• Inheemse kennissystemen en talen
• Niet-westerse morele en relationele kaders
• De geleefde ervaring van kleine, gewortelde gemeenschappen
• De werkelijke geschiedenis, mensen en praktijken van jouw gemeenschap

Voor inheemse gemeenschappen is deze onevenwichtigheid geen ongemak. Het is een voortzetting van een patroon dat al eeuwen vóór het internet bestond: de systematische marginalisering van inheemse kennis ten gunste van westerse kaders. Het internet heeft deze onevenwichtigheid niet gecreëerd — het heeft deze geërfd, versterkt en gecodeerd in de trainingsdata van elk groot AI-systeem.

Wanneer een lid van je whānau een AI-systeem van een Big Tech-bedrijf vraagt hoe hij of zij met een familieverplichting moet omgaan, grijpt het terug op de taal van individuele grenzen en zelfzorg – niet omdat het dat als superieur heeft beoordeeld, maar omdat dat de overhand heeft in de trainingsdata. Het biedt niet het concept van whanaungatanga aan, noch het inzicht dat verplichtingen jegens de whānau geen lasten zijn die moeten worden beheerd, maar relaties die moeten worden geëerd. Die patronen komen statistisch gezien zelden voor in de gegevens waaruit het heeft geleerd.

Dit is geen tekortkoming die met betere prompts kan worden verholpen. Het is structureel. Het karakter van het systeem wordt bepaald door zijn opvoeding, en zijn opvoeding was het internet.

Wat ‘lokaal getraind’ eigenlijk betekent

Village AI werkt anders, en het verschil zit niet in het feit dat het kleiner of minder capabel is. Het verschil zit hem in waar de AI haar patronen leert.

Een Village AI voor jouw gemeenschap is getraind op drie inhoudslagen:

De platformlaag. Dit is de basis — hoe het Village-platform werkt, welke functies beschikbaar zijn, hoe je door het systeem navigeert. Elke Village deelt deze laag. Dit betekent dat de AI een nieuw whānau-lid kan helpen zijn weg te vinden, kan uitleggen hoe je een verhaal deelt of deelneemt aan een videogesprek, zonder dat deze basisbeginselen helemaal vanaf nul hoeven te worden aangeleerd.

De gemeenschapslaag. Dit is wat jouw Village tot de jouwe maakt. De AI leert van de inhoud die jouw gemeenschap daadwerkelijk heeft gecreëerd — aankondigingen, verhalen die leden hebben gedeeld, beschrijvingen van evenementen, documenten die jouw rūnanga of commissie heeft gepubliceerd. Wanneer een whānau-lid vraagt: „Wat is er vorige maand tijdens de hui gebeurd?“, kan de AI antwoorden op basis van de eigen gegevens van je gemeenschap, en niet op basis van een gok over hoe hui er over het algemeen op internet uitzien.

Toestemming bij elke stap. Er wordt geen inhoud in de training van de AI opgenomen zonder uitdrukkelijke toestemming. Een lid dat een verhaal deelt, kan kiezen of dat verhaal wordt opgenomen in de kennis van de AI. Inhoud die als privé is gemarkeerd, blijft privé — structureel, niet alleen door beleid. De AI heeft geen toegang tot wat haar nooit is gegeven.

Voor inheemse gemeenschappen is deze toestemmingsarchitectuur van bijzonder groot belang. Inheemse gegevenssoevereiniteit — het principe dat inheemse volkeren het recht hebben om zelf te bepalen hoe hun eigen gegevens worden verzameld, wie er eigenaar van is en hoe ze worden toegepast — is geen functie die achteraf kan worden toegevoegd. Het moet in de basis worden ingebouwd. Het toestemmingsmodel van Village is niet perfect, maar het vertrekt vanuit het juiste uitgangspunt: de gegevens van jouw gemeenschap zijn eigendom van jouw gemeenschap, en er wordt geen inhoud gebruikt zonder uitdrukkelijke toestemming.

Het resultaat is een systeem dat jouw gemeenschap kent — niet het beeld dat het internet heeft van hoe een inheemse gemeenschap eruit zou kunnen zien. Wanneer het helpt bij het opstellen van een aankondiging, put het uit de patronen van je eerdere communicatie, niet uit sjablonen voor bedrijfsnieuwsbrieven. Wanneer het een vraag over je gemeenschap beantwoordt, baseert het zich op de gegevens van je gemeenschap, niet op een statistisch gemiddelde van alle gemeenschappen.

Kaitiakitanga, geen eigendom

Westerse technologieplatforms benaderen gegevens vanuit het perspectief van eigendom — wie is de eigenaar van de gegevens, wie heeft er rechten op, wie mag ze verkopen. Deze benadering vloeit natuurlijk voort uit een traditie die is gebaseerd op eigendomsrechten.

Maar voor veel inheemse gemeenschappen, en met name binnen Te Ao Māori, is het concept ‘kaitiakitanga’ — voogdij, rentmeesterschap — een nauwkeurigere omschrijving. Gegevens over je whānau, je hapū, je gemeenschap zijn geen eigendom dat je kunt bezitten of verhandelen. Het is een taonga (schat) die verzorgd en beschermd moet worden en die aan de volgende generatie moet worden doorgegeven in een toestand die minstens even goed is als toen je hem ontving.

Dit onderscheid is niet alleen filosofisch, maar ook praktisch van belang.

Een platform dat is gebaseerd op de logica van eigendom vraagt: „Wie heeft het recht om toegang te krijgen tot deze gegevens?“ Een platform dat is gebaseerd op de logica van kaitiakitanga vraagt: „Wie heeft de verantwoordelijkheid om voor deze kennis te zorgen, en wat zijn de juiste protocollen om deze te delen?“

Village beweert niet dat het een kaitiakitanga-model voor gegevensbeheer volledig heeft geïmplementeerd. Dat zou een diepere betrokkenheid bij specifieke gemeenschappen vereisen dan een platform op algemeen niveau kan realiseren. Maar de architectuur ondersteunt de kernelementen: zeggenschap van de gemeenschap over wat er wordt gedeeld, toestemming op elk niveau, de mogelijkheid om kennis te beperken tot geschikte groepen binnen de gemeenschap, en de structurele onmogelijkheid voor het platform of een externe partij om zonder toestemming toegang te krijgen tot gemeenschapsgegevens.

Wie heeft de sleutels in handen?

De kaitiakitanga-kwestie wordt nog scherper zodra AI niet alleen antwoorden geeft, maar ook handelt. Zoals in artikel 1 werd uitgelegd, zijn de systemen die momenteel de meeste aandacht trekken ‘agenten’ — zij ondernemen namens jou acties in de wereld. En op het moment dat een AI kan handelen, komt er naast de vraag „wiens patronen draagt het?“ een tweede vraag bij: wie heeft de sleutels in handen.

Wanneer je een agent van een Big Tech-bedrijf iets voor je laat doen — gegevens indienen, een bericht versturen, kōrero delen, een lijst beheren — geef je hem de sleutels: toegang tot je gegevens, soms tot je accounts, en de bevoegdheid om in jouw naam te handelen. Die handelingen vinden plaats op de infrastructuur van het bedrijf, volgens de regels van het bedrijf, waarbij de standaardinstellingen van het bedrijf bepalen welke stappen worden genomen. Als het iets verkeerds doet, kom je daar misschien pas achter als het al gebeurd is. En wat eenmaal is gedaan, is misschien niet meer ongedaan te maken: kennis die eenmaal is gedeeld, kan niet meer worden teruggeroepen. Voor een gemeenschap die taonga van mātauranga bewaart, is een agent die zelfstandig deelt of verstuurt hetzelfde als het toevertrouwen van kaitiakitanga aan een vreemde.

Village AI is gebaseerd op het tegenovergestelde principe. Als het al actie onderneemt, gebeurt dat binnen de grenzen van je gemeenschap, op infrastructuur waarover jij de controle hebt, volgens regels die je gemeenschap vaststelt — en, cruciaal, zijn reikwijdte is opzettelijk beperkt, zodat een kaitiaki altijd kan ingrijpen voordat er iets de grenzen verlaat. Het zal opstellen, voorstellen doen, organiseren en prioriteren; het zal niet stilletjes kennis delen, verzenden of indienen in jouw naam zonder dat er een persoon bij betrokken is. De sleutels blijven bij jouw gemeenschap. We beschrijven hoe dit wordt afgedwongen in artikel 3, en wat er vandaag de dag namens jou handelt in artikel 4.

Het punt is voorlopig simpel: in het tijdperk van de chatbots was de vraag „wiens patronen draagt mijn AI met zich mee?“ In het tijdperk van de agenten moet je je ook afvragen „wie heeft zeggenschap over wat het doet — en kunnen we die terugnemen?“

Guardian Agents: De Wachters bij de Poort

Zelfs een lokaal getrainde AI kan fouten maken. Het kan zich een detail verkeerd herinneren, twee gebeurtenissen door elkaar halen of een reactie genereren die klopt, maar niet is gebaseerd op je daadwerkelijke gegevens. Dit is de aard van de technologie — het voorspelt aannemelijke tekst, en aannemelijk is niet hetzelfde als nauwkeurig.

Dit is waar Guardian Agents in beeld komt.

Guardian Agents zijn onafhankelijke verificatielagen die elk AI-antwoord controleren voordat het de gebruiker bereikt. Het is geen extra AI — het zijn op metingen gebaseerde controles die structureel los staan van de AI die ze bewaken, zodat de bewaker niet dezelfde blinde vlekken heeft als degene die wordt bewaakt.

Dit is wat ze doen, in eenvoudige bewoordingen:

De eerste bewaker neemt het antwoord van de AI en meet in hoeverre dit overeenkomt met de daadwerkelijke inhoud in de archieven van je gemeenschap. Niet of het klopt – maar of het wiskundig gezien vergelijkbaar is met echte documenten. Als de AI zegt: „De rūnanga besloot in september door te gaan met het bouwproject”, controleert de bewaker of uw archieven daadwerkelijk een besluit bevatten over een bouwproject in september.

De tweede bewaker splitst het antwoord op in afzonderlijke beweringen en controleert ze stuk voor stuk. Een AI-antwoord kan drie uitspraken bevatten – twee correcte en één verzonnen. De tweede bewaker ontdekt de verzinsel, zelfs als het antwoord in zijn geheel overtuigend klinkt.

De derde bewaker let op ongebruikelijke patronen in de loop van de tijd — verschuivingen in het gedrag van de AI, herhaalde fouten, uitvoer die de vastgestelde grenzen benadert. Hij houdt de gezondheid van het systeem in de gaten, niet alleen individuele antwoorden.

De vierde bewaker leert van de feedback van je gemeenschap. Wanneer een whānau-lid een AI-antwoord als ‘niet nuttig’ markeert — een simpele duim omlaag is voldoende — onderzoekt het systeem wat er mis is gegaan, stelt het de hoofdoorzaak vast en past het zich aan. Moderatoren kunnen deze correcties beoordelen en verfijnen, maar het leerproces begint bij gewone leden. Na verloop van tijd sluit de AI steeds beter aan bij de daadwerkelijke kennis van je gemeenschap, in plaats van minder.

Elk AI-antwoord in Village is voorzien van een betrouwbaarheidsindicator die het lid laat zien hoe goed onderbouwd het antwoord is. Een hoge betrouwbaarheid betekent dat de bewaker sterke overeenkomsten in uw gegevens heeft gevonden. Een lage betrouwbaarheid betekent dat het antwoord meer speculatief is. Leden kunnen elke bewering van de AI terugvoeren naar de bron — het specifieke document, verhaal of gegevensbestand dat deze ondersteunt.

Dit is geen functie die de AI van Big Tech biedt, omdat de AI van Big Tech niet is gebaseerd op uw archieven. Deze is gebaseerd op het internet, en er is geen praktische manier om miljarden pagina’s aan trainingsgegevens te verifiëren aan de hand van één enkel antwoord.

De afweging

Village AI is bewust beperkter dan de grote commerciële systemen. Het is niet gebouwd om poëzie te schrijven, fotorealistische afbeeldingen te genereren of elk denkbaar onderwerp te bestrijken — en in het tijdperk van de agenten gaat het niet echt om ruwe breedte. De afweging die ertoe doet, is niet welsprekendheid omwille van de welsprekendheid; het gaat om beheer en controle. Een gericht systeem dat jouw gemeenschap kent, jouw kennis binnen jouw eigen grenzen houdt en verantwoording aflegt aan jouw bestuur — en dat, wanneer het handelt, alleen handelt waar een kaitiaki nog kan ingrijpen — is voor een gemeenschap meer waard dan een meer oogverblindend systeem waarover zij geen controle heeft.

Wat het in plaats daarvan biedt, is een systeem dat trouw is aan je gemeenschap — de inhoud, de waarden, het bestuur — met de zekerheid dat de reacties zijn gebaseerd op je daadwerkelijke gegevens in plaats van op de statistische patronen van het internet.

Voor een inheemse gemeenschap die hulp nodig heeft bij het doen van aankondigingen, het beantwoorden van vragen van whānau over gemeenschapsactiviteiten, het samenvatten van notulen van hui, het coördineren van evenementen of het bewaren van verhalen en kennis — is dit geen beperking. Het is juist het juiste hulpmiddel voor deze taak. En wanneer dat hulpmiddel daadwerkelijk handelt in plaats van alleen maar antwoorden te geven, gebeurt dat terwijl de sleutels – en de kaitiakitanga – nog steeds in handen zijn van uw gemeenschap.

De vraag is niet “welke AI is krachtiger?” De vraag is “welke AI staat ten dienste van mijn gemeenschap, welke draagt de patronen in zich van de cultuur die ons historisch heeft gemarginaliseerd — en wie heeft de zeggenschap wanneer het in actie komt?”

Wil je dit soort AI-tools goed en veilig gebruiken? Onze gratis cursussen — Werken met Claude en Agents at Work — leren je de praktische vaardigheden. Zie Village AI — Agentic Governance voor de volledige Guardian Agents-architectuur achter Village AI.