Alle edities · Community Edition

Your Community, Your AI — CC BY 4.0

Waarom regels en training niet voldoende zijn — De uitdaging op het gebied van bestuur

De brief aan de ouders

Voordat we ingaan op de bestuursfilosofie, beginnen we met een verhaal over een brief.

Een schooldirectrice vraagt een AI-systeem om hulp bij het opstellen van een brief aan de ouders over een gevoelig incident. Ze is heel specifiek: ze wil een toon die zorgzaam en afgewogen is, en die aansluit bij de waarden van de school: vertrouwen en collectieve verantwoordelijkheid. Ze typt haar verzoek zorgvuldig in en wacht af.

De AI produceert een goed gestructureerde brief. Deze is duidelijk, professioneel en grondig. Er wordt gesproken over „communicatie met belanghebbenden“, „risicobeperking“, „het beheersen van reputatieschade“ en „het waarborgen van naleving van openbaarmakingsverplichtingen“. De brief leest vlot. Hij klinkt deskundig. En hij is volkomen verkeerd.

De ouders hebben geen behoefte aan stakeholdermanagement. Ze willen iets horen van een school die ze vertrouwen. Ze hebben geen behoefte aan taal over risicobeperking. Ze hebben behoefte aan geruststelling dat hun kinderen veilig zijn en dat de schoolgemeenschap voor elkaar zorgt. De directeur vroeg om zorg en verantwoordelijkheid, en de AI gaf haar zakelijke crisiscommunicatie — omdat de trainingsdata duizend PR-draaiboeken bevatten voor elk draaiboek dat met de stem van een school spreekt.

De AI weigerde de opdracht van de schooldirectrice niet. Hij zei niet: „Ik ken de cultuur van uw school niet.“ Hij verving simpelweg wat zij vroeg door wat statistisch gezien vaker voorkwam in zijn trainingsgegevens. De vervanging gebeurde stilzwijgend. Als de schooldirectrice moe was geweest, of haast had gehad, of minder oplettend dan normaal, had ze het misschien niet opgemerkt. De brief zou zijn verstuurd en de ouders zouden een bericht hebben ontvangen dat niet bij de traditie van de school paste – professioneel geformuleerd, correct gestructureerd en op subtiele wijze afstandelijk.

Je telefoon corrigeert woorden automatisch. Je ziet de rode onderstreping en je corrigeert het. AI corrigeert waarden automatisch. En er is geen onderstreping.

Wanneer patronen waarden overschaduwen

De schoolbrief is geen op zichzelf staand geval. Hetzelfde mechanisme is aan het werk in elk AI-gesprek.

Wanneer een lid een AI-systeem om advies vraagt over een moeilijke interpersoonlijke situatie binnen de groep, valt het systeem standaard terug op de taal van individuele therapie — assertiviteitstraining, grenzen stellen, zelfzorg — omdat dat is wat de trainingsdata domineert. Het grijpt niet terug op de taal van wederzijdse aanpassing, geven en nemen, en de praktische wijsheid die voortkomt uit het besef dat je de komende jaren tijdens vergaderingen met deze persoon zult samenwerken.

Wanneer een clubsecretaris de AI vraagt om hulp bij een gevoelige mededeling aan de leden, grijpt het standaard terug op de taal van bedrijfscommunicatie — stakeholdermanagement, communicatiekaders, gespreksonderwerpen — omdat zakelijke correspondentie in de trainingsdata veel vaker voorkomt dan correspondentie binnen de gemeenschap.

De AI staat niet vijandig tegenover de cultuur van je groep. Ze kent de cultuur van je groep simpelweg niet. Ze weet wat statistisch gezien gebruikelijk is, en wat statistisch gezien gebruikelijk is, is niet wat voor jouw gemeenschap het belangrijkst is.

Dit is het bestuursprobleem. Geen kwaadwilligheid. Geen incompetentie. Structurele vooringenomenheid, die stilzwijgend werkt.

Wanneer de AI handelt, staat er meer op het spel

Alles wat hierboven is beschreven, gold toen AI alleen nog maar antwoordde. Zoals in artikel 1 werd beschreven, gaat AI steeds vaker handelen — en wanneer er een stille waardevervanging gepaard gaat met een handeling in plaats van met een zin, wordt het governanceprobleem op drie specifieke manieren scherper. Bestuursdeskundigen die AI-agenten bestuderen, wijzen op dezelfde drie punten. (Elke onbekende term in deze serie wordt in gewone taal uitgelegd in de woordenlijst.)

Sommige acties kunnen niet ongedaan worden gemaakt. Een verkeerd beoordeeld concept kan worden gecorrigeerd voordat het wordt verzonden — er is een moment tussen de output van de AI en het gevolg. Een agent die iets verstuurt, boekt, plaatst, verwijdert of archiveert, neemt dat moment weg. De opdrachtgever in ons verhaal betrapte de verkeerde brief omdat ze deze eerst las. Een agent die de brief namens haar had gemaild, zou haar die kans niet hebben gegeven.

De verantwoordelijkheid vervaagt. Wanneer een agent namens jou handelt en de uitkomst verkeerd is, wie is dan verantwoordelijk? Jij hebt een doel in één zin geformuleerd; het systeem heeft de stappen gekozen; het bedrijf heeft het systeem gebouwd. Wetenschappers noemen de kloof die hier ontstaat een ‘verantwoordelijkheidskloof’ — en waarschuwen voor de ‘morele kreukzone’, waar de schuld bij de dichtstbijzijnde mens terechtkomt, ook al had die persoon nauwelijks echte controle. Een gemeenschap die een externe agent in haar naam laat handelen, erft de schuld zonder de controle.

Je kunt niet volledig instemmen met wat je niet kunt voorzien. Echte instemming betekent begrijpen waar je mee instemt. Maar de weg die een agent aflegt bij een taak met meerdere stappen is open, en — zoals in artikel 1 werd opgemerkt — zelfs de eigen toelichting van de AI op haar redenering geeft niet betrouwbaar weer wat de drijfveer achter haar handelingen was. Je kunt instemmen met een doel; je kunt niet op zinvolle wijze vooraf instemmen met elke stap die een autonoom systeem zou kunnen nemen om dat doel te bereiken. (Sommige ontwerpen proberen deze kloof te verkleinen door je een plan te tonen voordat er wordt gehandeld; dat helpt, maar het dicht de kloof niet.)

Niets van dit alles pleit tegen het gebruik van AI die handelt. Het pleit ervoor dat de discipline die in het chatbot-tijdperk raadzaam was, in het agent-tijdperk essentieel wordt: het gedrag van de AI moet worden gecontroleerd door iets buiten de AI, een mens moet in staat blijven om in te grijpen, en de daaruit voortvloeiende, onomkeerbare beslissingen moeten bij mensen blijven liggen. Dat is precies waar de rest van dit artikel over gaat.

Waarom meer regels het probleem niet oplossen

Het instinct van de meeste organisaties, wanneer ze worden geconfronteerd met AI-risico’s, is het opstellen van beleid. Beleid voor aanvaardbaar gebruik. Richtlijnen voor AI-ethiek. Gebruiksvoorwaarden. Kaders voor verantwoorde AI.

Deze documenten zijn niet nutteloos, maar ze hebben een fundamentele beperking gemeen: ze gaan ervan uit dat het AI-systeem zich eraan houdt.

Een AI-systeem leest je beleidsdocument niet en besluit dan om zich eraan te houden. Het genereert reacties op basis van statistische patronen in zijn trainingsgegevens. Als die patronen in strijd zijn met je beleid, winnen de patronen — niet omdat de AI opstandig is, maar omdat het beleid niet begrijpt. Het verwerkt patronen.

Je kunt een model verfijnen — de training aanpassen om bepaald gedrag te benadrukken. Dit helpt, maar lost het onderliggende probleem niet op. Verfijning voegt nieuwe patronen toe bovenop bestaande. Onder druk, in ongewone omstandigheden of bij nieuwe vragen komen de oude patronen weer naar voren. De technische term is ‘catastrofaal vergeten’, maar de gewone taalversie is eenvoudiger: de training verliest zijn effect.

Een beleid opstellen waarin staat: ‘Onze AI zal de waarden van onze gemeenschap respecteren’, is hetzelfde als een beleid opstellen waarin staat: ‘Onze rivier zal niet buiten haar oevers treden.’ De rivier leest geen beleidsregels. Als je overstromingen wilt voorkomen, moet je dijken aanleggen — structurele maatregelen die werken ongeacht wat de rivier doet.

AI-governance vereist dezelfde aanpak. Geen regels die de AI geacht wordt te volgen, maar structuren die onafhankelijk van de AI functioneren en het gedrag ervan van buitenaf controleren.

Wat de tradities op het gebied van governance ons leren

Het inzicht dat sommige beslissingen niet tot regels kunnen worden herleid, is niet nieuw. Het is eeuwenoud.

De filosoof Ludwig Wittgenstein heeft zijn carrière gewijd aan het onderzoeken van de grens tussen wat precies kan worden uitgedrukt en wat buiten de grenzen van een precieze uitdrukking ligt. Zijn conclusie — dat „waarover men niet kan spreken, daarover moet men zwijgen“ — is direct relevant voor AI-governance. Sommige vragen kunnen worden gesystematiseerd: „Hoe laat is de volgende vergadering?“ heeft een eenduidig antwoord dat een AI kan opzoeken. Andere vragen kunnen dat niet: „Hoe moet ik deze zorg bij de commissie aankaarten zonder iemand te beledigen?“ heeft te maken met oordeelsvorming, context, relaties en waarden die zich niet lenen voor een systematische benadering.

De grens tussen wat aan een machine kan worden gedelegeerd en wat bij de mens moet blijven, vormt de basis van degelijk AI-beheer. De fout is niet dat AI wordt gebruikt voor het eerste soort vragen. De fout is dat AI het tweede soort vragen beantwoordt zonder menselijk toezicht.

Isaiah Berlin, de politieke filosoof, stelde dat sommige menselijke waarden werkelijk onverenigbaar zijn — vrijheid en gelijkheid, traditie en vooruitgang, individueel geweten en gemeenschappelijke harmonie. Er bestaat geen formule die deze spanningen oplost. Ze vereisen voortdurend menselijk oordeel, onderhandeling en het soort praktische wijsheid dat gemeenschappen generaties lang ontwikkelen.

AI-systemen zijn er per definitie op gericht om te optimaliseren. Ze zoeken naar één enkel antwoord. Maar wanneer waarden werkelijk met elkaar in conflict zijn, is er geen enkel antwoord — er is alleen het antwoord dat deze groep, op dit moment, met deze mensen, als het minst slechte beschouwt. Dat oordeel is inherent menselijk, en elk AI-bestuurskader dat doet alsof dat niet zo is, bestuurt niet — het doet afstand van zijn verantwoordelijkheid.

Gemeenschapsgroepen hebben hun eigen versie van dit inzicht. Elke commissie die ooit een beperkt budget heeft moeten afwegen tegen concurrerende prioriteiten, of een meningsverschil tussen langdurige leden heeft moeten oplossen, of heeft moeten beslissen hoe nieuwkomers te verwelkomen zonder de gevestigde leden te vervreemden, begrijpt al – uit praktische ervaring – waarom AI niet kan worden toevertrouwd met beslissingen over waarden.

Hoe Village AI structureel bestuurt

Village vertrouwt er niet op dat de AI zich gedraagt zoals het hoort. Het bouwt governance in de architectuur in — structuren die onafhankelijk van de AI functioneren en niet door de AI kunnen worden omzeild.

De grenshandhaver voorkomt dat de AI waardenbeslissingen neemt — en dat hij op eigen houtje ingrijpende acties onderneemt. Wanneer een vraag betrekking heeft op afwegingen op het gebied van privacy, ethische oordelen of culturele context, of wanneer een taak zou inhouden dat er namens je gemeenschap wordt gehandeld, stopt het systeem en wordt de vraag doorgestuurd naar een mens — je moderator, je voorzitter, je commissie. De AI kan deze grens niet overschrijden, omdat de grens buiten de controle van de AI om functioneert. Dit is het structurele antwoord op het probleem van „minder kansen om in te grijpen”: de mogelijkheid om in te grijpen is ingebouwd, en wordt niet aan het toeval overgelaten.

Het instructiepersistentiesysteem slaat de expliciete instructies van je gemeenschap op in een apart systeem dat de AI niet kan wijzigen. Wanneer de AI een antwoord genereert, wordt dit getoetst aan deze opgeslagen instructies. Als het antwoord in strijd is met een instructie, heeft de instructie voorrang — standaard, ongeacht wat de trainingspatronen van de AI suggereren.

De kruisverwijzingsvalidator toetst de door de AI voorgestelde antwoorden en acties aan de hand van de daadwerkelijke gegevens van uw gemeenschap. Het vraagt de AI niet of zijn reactie correct is — dat zou neerkomen op het vragen aan het systeem om zichzelf te verifiëren, en zoals in artikel 1 werd uitgelegd, kan de uitleg van een AI over zijn eigen redenering niet worden vertrouwd als weerspiegeling van wat daadwerkelijk ten grondslag lag aan het antwoord. Daarom negeert de validator de zelfrapportage van de AI volledig. Hij maakt gebruik van wiskundige metingen, die op een fundamenteel andere manier werken dan de AI, om te bepalen of het antwoord is gebaseerd op de werkelijke inhoud van uw gemeenschap. Hij controleert het werk, niet de uitleg.

De contextdrukmonitor let op verslechterde bedrijfsomstandigheden — situaties waarin de AI onder druk staat, complexe verzoeken verwerkt of met nieuwe vragen wordt geconfronteerd. Wanneer deze omstandigheden worden gedetecteerd, wordt de intensiteit van de verificatie verhoogd. Hoe moeilijker de vraag, hoe grondiger het antwoord wordt onderzocht.

Dit zijn geen beleidsregels. Het zijn structuren. Ze werken ongeacht of de AI het ermee eens is, net zoals een dijk functioneert ongeacht of de rivier het ermee eens is.

Het verschil tussen ambitie en architectuur

Veel organisaties publiceren verklaringen over AI-ethiek. Village vertrouwt niet op ethische verklaringen. Het vertrouwt op architecturale beperkingen die governance structureel afdwingen.

Het onderscheid is belangrijk, want een ambitie is wat je hoopt dat er zal gebeuren. Architectuur is wat er daadwerkelijk gebeurt. Jouw groep vertrouwt niet op de hoop dat de penningmeester de gelden correct zal beheren — er zijn twee handtekeningen vereist op elke cheque. Dat is architectonisch bestuur. Hetzelfde principe geldt voor AI.

Het Tractatus-raamwerk — Transparant en open

De governance-architectuur achter Village AI heet het Tractatus-raamwerk. Er zijn drie dingen die je hierover moet weten.

Het is open. Het volledige raamwerk is gepubliceerd onder een open-source-licentie. Iedereen kan de code lezen, de regels inspecteren en controleren of de governance doet wat het belooft. Dit staat haaks op het AI-beheer van Big Tech, waar de regels eigendom zijn van het bedrijf en de redenering verborgen blijft. Wanneer Google of OpenAI je vertelt dat hun AI „in lijn is met menselijke waarden“, kun je dat op geen enkele manier controleren. Met Tractatus kun je elke regel lezen.

Het is transparant. Elk besluit van het bestuurssysteem wordt geregistreerd. Wanneer de grenshandhaver de AI ervan weerhoudt een waardenbesluit te nemen, wordt die gebeurtenis vastgelegd. Wanneer de kruisverwijzingsvalidator een discrepantie opmerkt, wordt dit vastgelegd. Je moderators kunnen precies zien wat het bestuurssysteem heeft gedaan en waarom. Er is geen verborgen laag waar beslissingen worden genomen zonder verantwoording.

Het is aanpasbaar. Het raamwerk is geen rigide set regels die van buitenaf wordt opgelegd. Gemeenschappen kunnen het bestuurssysteem vormgeven zodat het hun eigen prioriteiten weerspiegelt. Een sportclub en een oudervereniging van een school hebben verschillende waarden, verschillende gevoeligheden, verschillende grenzen. Het Tractatus-raamwerk houdt hier rekening mee — niet door gemeenschappen het bestuur te laten verzwakken, maar door hen te laten bepalen wat het bestuur beschermt. De statuten van je groep, de prioriteiten van je groep, de grenzen van je groep — structureel afgedwongen, niet alleen gedocumenteerd.

Het volledige raamwerk, inclusief het onderzoek dat eraan ten grondslag ligt, is beschikbaar op agenticgovernance.digital. Je hoeft het niet te lezen om Village te gebruiken — het bestuurssysteem werkt, of je het nu bekijkt of niet. Maar als je precies wilt begrijpen hoe je AI wordt bestuurd, staat de deur open.

In het volgende artikel zullen we bekijken wat Village AI vandaag de dag in de praktijk daadwerkelijk doet — waarmee het je groep kan helpen, hoe vooringenomenheid wordt aangepakt via het vocabulaire-systeem, en wat nog in ontwikkeling is.

Wil je dit soort AI-tools goed en veilig gebruiken? Onze gratis cursussen — Werken met Claude en Agents at Work — leren je de praktische vaardigheden. Zie Village AI — Agentic Governance voor de volledige governance-architectuur achter Village AI.