Alle edities · Policymaker Edition

Your Community, Your AI — CC BY 4.0

Wat door de gemeenschap gestuurde AI vandaag de dag daadwerkelijk doet

Waarom een wetgever een feitelijke inventarisatie zou moeten lezen

Beleid rond AI is buitengewoon gevoelig voor het risico dat het over de verkeerde zaken gaat — over een demonstratie die nog niet bestaat, een angst die de technologie ver vooruitloopt, of een marketingclaim die de toets der praktijk niet zal doorstaan. Het tegengif is saai maar nuttig: een overzicht van wat een door de gemeenschap bestuurd systeem vandaag de dag daadwerkelijk doet, duidelijk uiteengezet, waarbij de onderdelen die nog in ontwikkeling zijn als zodanig zijn gemarkeerd. Dit artikel is dat overzicht. Het doel ervan is om een referentiekader te bieden — zodat je, wanneer je vanuit welke hoek dan ook een bewering hoort, een echt referentiepunt hebt. (Onbekende termen in deze reeks worden in begrijpelijke taal uitgelegd in de woordenlijst.)

Het hier beschreven systeem — Village AI — is sinds 2025 in productie. Het is een jong systeem, gebouwd door een klein team en gebruikt door een klein aantal gemeenschappen. Sommige onderdelen werken goed; andere worden nog verder verfijnd. Het hanteert een gericht open model in plaats van een grensverleggend model. Het doel van deze exercitie is om te benoemen wat het wel en niet is.

Wat het vandaag de dag doet

Beantwoordt vragen op basis van de eigen documenten van een organisatie. Wanneer een lid vraagt: „Wanneer is de volgende bestuursvergadering?” of „Wat heeft de raad besloten over het gemeenschapscentrum?”, doorzoekt het systeem de daadwerkelijke documenten van de organisatie — notulen, aankondigingen, evenementbeschrijvingen, gepubliceerde documenten — en geeft het antwoord op basis van die inhoud. Het trekt geen conclusies op basis van algemene kennis. Als het antwoord niet in de documenten staat, geeft het dat aan in plaats van de leemte op te vullen.

Helpt bij het opstellen van teksten. Het kan aankondigingen, correspondentie en mededelingen opstellen in de gebruikelijke stijl van de organisatie, omdat het heeft geleerd van eerdere inhoud van die organisatie in plaats van een generiek sjabloon te gebruiken. Een mens controleert en bewerkt elk concept voordat het wordt verstuurd.

Vat lange documenten samen. Een omvangrijk rapport of een reeks aankondigingen kan worden teruggebracht tot de belangrijkste punten — handig voor leden die op de hoogte willen blijven zonder alles volledig te lezen.

Werkt in verschillende talen. Het platform ondersteunt Engels, Duits, Frans, Nederlands en Te Reo Māori. De AI helpt bij het vertalen van community-inhoud; voor belangrijke zaken wordt menselijke controle aanbevolen.

Sorteert feedback van leden. Wanneer een lid via het platform een vraag, suggestie of melding indient, classificeert het systeem deze, onderzoekt het waar mogelijk en stelt het het lid op de hoogte wanneer de kwestie is afgehandeld — waardoor de werkdruk wordt verlicht voor de mensen die anders elk item met de hand zouden moeten sorteren.

Waar het handelt, niet alleen antwoordt

In de artikelen 1 en 2 werd het onderscheid gemaakt dat beleidsmakers in gedachten moeten houden: een chatbot beantwoordt, een medewerker handelt. Het is dus terecht om te vragen of dit systeem alleen antwoordt, of ook namens een organisatie handelt.

Het onderneemt actie — op zorgvuldig afgebakende manieren. Het duidelijkste voorbeeld dat momenteel in gebruik is, is het oplossen van feedback. Wanneer een lid een antwoord als ‘niet nuttig’ markeert, registreert het systeem niet alleen een klacht zodat iemand deze later kan beoordelen. Het onderzoekt het juiste antwoord aan de hand van de gegevens van de organisatie, en wanneer het een routinematige, onbelangrijke kwestie op basis van solide bewijs kan oplossen, doet het dat — waardoor het zijn eigen kennis verbetert, zodat de volgende vraag beter wordt beantwoord. Dat is echt agentisch gedrag: een actie in meerdere stappen, niet één enkel antwoord.

De grenzen daaromheen zijn juist het hele punt. De agent handelt uitsluitend binnen de eigen gegevens van de organisatie. Hij handelt alleen bij routinematige, omkeerbare zaken. En zodra hij een systemisch probleem detecteert – een patroon van gerelateerde fouten dat erop wijst dat er iets diepers aan de hand is – stopt hij met handelen en escaleert hij de kwestie naar een mens, omdat dat een beoordelingskwestie is in plaats van een routinematige oplossing. Het is de bedoeling dat gewone feedback automatisch wordt afgehandeld, terwijl alles wat belangrijke gevolgen heeft, bij een verantwoordelijke persoon terechtkomt. Dit is de operationele invulling van het principe in artikel 3 en van de eis van menselijk toezicht in de EU-AI-wet: een agent onder controle van de organisatie grijpt in wanneer actie veilig en omkeerbaar is, en trekt zich terug wanneer dat niet het geval is.

Wat het niet doet

Het neemt geen beslissingen voor de organisatie. Wanneer een vraag betrekking heeft op waarden, ethiek of beoordelingsvermogen, stopt het en legt het de kwestie voor aan een mens — de mensen aan wie de gemeenschap die beslissingen heeft toevertrouwd.

Het onderneemt niet op eigen houtje ingrijpende of onomkeerbare acties. Wanneer het handelt, doet het dat uitsluitend bij routinematige, omkeerbare zaken binnen de gegevens van de organisatie. Het verstuurt geen berichten namens de organisatie, verbindt de organisatie nergens toe en brengt geen wijzigingen aan die het niet kan terugdraaien, zonder dat er een verantwoordelijke persoon bij betrokken is. De bevoegdheid — en de verantwoordelijkheid — blijven bij de organisatie.

Het heeft geen toegang tot inhoud die niet aan het systeem is verstrekt. Beperkte inhoud blijft beperkt; de inhoud van één organisatie blijft bij die organisatie. De AI kan die grenzen niet overschrijden, omdat het om structurele grenzen gaat en niet om beleidskwesties.

Het werkt niet zonder toezicht. Elk antwoord doorloopt onafhankelijke verificatielagen — controles die structureel gescheiden zijn van de AI, zodat de toezichthouder niet dezelfde blinde vlekken heeft als degene die wordt gecontroleerd — voordat het een lid bereikt.

Het presenteert onzekerheid niet als feit. Elk antwoord is voorzien van een betrouwbaarheidsindicator. Wanneer het systeem put uit solide gegevens, geeft het dat aan; wanneer het op minder solide grond staat, geeft het dat ook aan, en een lid kan een bewering terugvoeren naar het specifieke gegevensbestand dat deze ondersteunt.

Hoe vooringenomenheid wordt aangepakt: het vocabulaire-systeem

Een van de meest subtiele vormen van vooringenomenheid in AI is taalkundig. Een systeem dat is getraind op bedrijfsgegevens noemt belanghebbenden ‘gebruikers’ en notulen ‘berichten’ — waarmee een wereldbeeld wordt geïmporteerd waarin gemeenschappen consumentenplatforms zijn en bestuur neerkomt op contentbeheer. Het systeem pakt dit aan via een vocabulairelaag die het hele platform aanpast aan het type organisatie: leden of belanghebbenden in plaats van ‘gebruikers’, mededelingen en verslagen in plaats van ‘posts’, bestuur in plaats van ‘beheersinstellingen’, gemeenschapsgegevens in plaats van ‘content’. Dit is geen cosmetische aanpassing. De woordenschat bepaalt hoe de AI een vraag formuleert — het systeem erkent dat ‘hoe brengen we dit besluit over aan de betrokken bewoners?’ een andere vraag is dan ‘hoe werken we ons gebruikersbestand bij?’, terwijl een generiek systeem beide vragen op dezelfde manier zou behandelen.

Wat nog in ontwikkeling is

Simpel gezegd, omdat beleid gebaseerd moet zijn op de werkelijke stand van zaken:

• Een niveau met grotere capaciteit. Het systeem draait op een gericht open model, afgestemd op het type organisatie, zodat een gemeente, een stichting en een vereniging elk een AI krijgen die is afgestemd op hun context. De architectuur reserveert een niveau met meer mogelijkheden voor moeilijkere vragen; dit is gedefinieerd maar nog niet in gebruik, dus op dit moment wordt elke vraag beantwoord door het op de organisatie afgestemde model.
• Individuele personalisatie — waarbij de AI de voorkeuren van individuele leden leert kennen — is gepland maar nog niet geïmplementeerd. Voorlopig kent de AI de organisatie als een gemeenschap, en niet de leden als individuen, tenzij zij rechtstreeks met het systeem communiceren.
• Een accreditatietraject voor moderatoren — gestructureerde training voor leden die de rol van moderator op zich nemen — is ontworpen en wordt stapsgewijs uitgerold.

Wat dit betekent voor het beleid

De reden om een inventarisatie als deze te lezen, is om het beleid verankerd te houden in de realiteit. Wat het voorbeeld laat zien, is dat een door de gemeenschap bestuurde AI vandaag de dag kan antwoorden op basis van de eigen gegevens van een instelling in plaats van de benadering daarvan op het internet; haar antwoorden kan verifiëren aan de hand van die gegevens via lagen die onafhankelijk van de AI functioneren; haar gegevens binnen de grenzen van de organisatie houdt en buiten externe training houdt; alleen handelt wanneer het om routinematige en omkeerbare acties gaat; en stopt om een mens te raadplegen wanneer een kwestie om een oordeel vraagt. Het toont ook de beperkingen: dit is een jong, beperkt systeem, dat transparant is over wat het nog niet doet.

Hype noch paniek is de juiste toon voor een beleidsmaker. De juiste toon is afstemming — weten wat de technologie daadwerkelijk doet, zodat het kader dat je ondersteunt, is gebaseerd op de technologie zelf in plaats van op een bewering erover. Artikel 5 beschrijft de hefbomen.

Wil je dit soort AI-tools goed en veilig gebruiken? Onze gratis cursussen — Werken met Claude en Agents at Work — leren je de praktische vaardigheden, van het verkrijgen van betrouwbare antwoorden tot het bepalen wat je aan een agent moet toevertrouwen. Zie Village AI — Agentic Governance voor de volledige technische architectuur achter Village AI.