Alle edities · Conservation Edition

Your Community, Your AI — CC BY 4.0

Waarom regels en training niet voldoende zijn — De uitdaging op het gebied van governance

Het monitoringrapport

Voordat we ingaan op de filosofie achter governance, beginnen we met een verhaal over een rapport. (Alle onbekende termen in deze reeks worden in begrijpelijke taal uitgelegd in de woordenlijst.)

Een coördinatrice vraagt een AI-systeem om de monitoringgegevens van een jaar over de leefomgeving samen te vatten voor het jaarverslag aan de financiers. Ze is heel specifiek: ze wil dat de gegevens worden gepresenteerd met de juiste kanttekeningen — waarbij hiaten in de dekking van het onderzoek worden vermeld, wordt aangegeven waar de inzet van vrijwilligers lager was dan gepland, en onderscheid wordt gemaakt tussen bevestigde trends en voorlopige waarnemingen. Ze typt haar verzoek zorgvuldig in en wacht af.

De AI produceert een goed geschreven samenvatting. Deze is duidelijk, professioneel en leest als een gepolijst adviesrapport. Er wordt gesproken over „aanzienlijk herstel in de zuidelijke sector“, „duidelijke stijgende trends in het broedsucces“ en „uitgebreide monitoringdekking op alle locaties“. Het leest goed. Het klinkt gezaghebbend. En het is op subtiele wijze onjuist.

In de zuidelijke sector zijn twee onderzoeksbezoeken uitgevallen vanwege overstromingen. De broedgegevens vertonen een leemte doordat de vaste vrijwilliger zes weken ziek was. De dekking was fragmentarisch op de locaties in de hooglanden omdat de toegang tijdens het jachtseizoen beperkt was. De coördinatrice vroeg om nuancering, en de AI gaf haar een zelfverzekerd verhaal – omdat de trainingsdata duizend gepolijste rapporten bevatten voor elk rapport dat begint met onzekerheden.

De AI weigerde de instructie van de coördinator niet. Het zei niet: „Ik begrijp de wetenschappelijke rapportagestandaarden niet.” Het verving simpelweg wat zij vroeg door wat statistisch gezien vaker voorkwam in zijn trainingsgegevens. De vervanging gebeurde in stilte. Als de coördinator moe was, of haast had om de deadline van de financier te halen, had ze het misschien niet opgemerkt. Het rapport zou zijn verstuurd en de financiers zouden een misleidend beeld hebben gekregen van de resultaten van het programma – professioneel geformuleerd, goedbedoeld en onopvallend onnauwkeurig.

Je telefoon corrigeert woorden automatisch. Je ziet de rode onderstreping en je corrigeert het. AI corrigeert normen automatisch. En er is geen onderstreping.

Wanneer patronen voorrang krijgen boven nauwkeurigheid

Het monitoringrapport is geen op zichzelf staand geval. Hetzelfde mechanisme is aan het werk in elk AI-gesprek.

Wanneer een vrijwilliger een AI-systeem om advies vraagt over het identificeren van een soort op basis van een gedeeltelijke waarneming, geeft het systeem standaard een zelfverzekerde identificatie — omdat het internet zekerheid beloont en ‘Ik weet het niet zeker’ bestraft. Het zegt niet vanzelfsprekend: „Dit zou soort A of soort B kunnen zijn; hier is wat aanvullend bewijs zou helpen om ze van elkaar te onderscheiden“, omdat voorzichtige antwoorden statistisch ondervertegenwoordigd zijn in de trainingsgegevens.

Wanneer een teamleider de AI vraagt om te helpen bij het opstellen van een reactie op een bouwvergunningaanvraag die een beschermd gebied bedreigt, kiest het systeem standaard voor de voorzichtige, evenwichtige taal van stakeholdermanagement — omdat bedrijfscommunicatie in de trainingsdata veel vaker voorkomt dan natuurbeschermingsadvocacy. Het grijpt niet naar de precieze, op bewijs gebaseerde taal die ruimtelijke-ordingsinstanties vereisen, onderbouwd met specifieke onderzoeksgegevens en verwijzingen naar wetgeving.

De AI staat niet vijandig tegenover uw normen. Ze kent uw normen simpelweg niet. Ze weet wat statistisch gezien gebruikelijk is, en wat statistisch gezien gebruikelijk is, is niet wat voor uw werk het meest rigoureus is.

Dit is het bestuursprobleem. Geen kwaadwilligheid. Geen incompetentie. Structurele vooringenomenheid, die stilzwijgend werkt.

Wanneer de AI handelt, staat er meer op het spel

Alles wat hierboven is beschreven, gold toen AI alleen nog maar antwoordde. Zoals in artikel 1 werd beschreven, gaat AI steeds vaker handelen — en wanneer een stille vervanging van nauwkeurigheid door vertrouwen gepaard gaat met een handeling in plaats van een zin, wordt het bestuursprobleem op drie specifieke manieren scherper. De deskundigen die AI-agenten bestuderen, wijzen op dezelfde drie punten.

Sommige acties kunnen niet ongedaan worden gemaakt. Een misleidende samenvatting kan worden gecorrigeerd voordat deze wordt verzonden — er is een moment tussen de output van de AI en het gevolg. Een agent die iets indient, verzendt, publiceert of deelt, neemt dat moment weg. De coördinator in ons verhaal ontdekte het al te zelfverzekerde rapport omdat zij het als eerste las. Een agent die het namens haar bij de financier had ingediend — of die afgevlakte cijfers aan een regionale dataset had bijgedragen — zou haar die kans niet hebben gegeven. En een gevoelig document kan, eenmaal gedeeld, niet meer worden teruggeroepen.

De verantwoordelijkheid vervaagt. Wanneer een agent namens jou handelt en de uitkomst verkeerd is, wie is er dan verantwoordelijk? Jij hebt in één zin een doel gesteld; het systeem heeft de stappen gekozen; het bedrijf heeft het systeem gebouwd. Wetenschappers noemen de kloof die hier ontstaat een ‘verantwoordelijkheidskloof’ – en waarschuwen voor de ‘morele kreukzone’, waar de schuld bij de dichtstbijzijnde persoon terechtkomt, ook al had die persoon in werkelijkheid weinig controle. Voor een organisatie waarvan de wetenschappelijke geloofwaardigheid haar kapitaal is, vormt het op zich nemen van de schuld voor een fout die je niet hebt gemaakt een reëel risico.

Je kunt niet volledig instemmen met wat je niet kunt voorzien. Echte instemming betekent begrijpen waar je mee instemt. Maar het traject dat een agent aflegt bij een taak met meerdere stappen is open-ended, en — zoals opgemerkt in artikel 1 — zelfs de eigen uitleg van de AI over haar redenering geeft niet op betrouwbare wijze weer wat haar handelingen heeft aangestuurd. Je kunt instemmen met een doel; je kunt echter niet op zinvolle wijze vooraf instemmen met elke stap die een autonoom systeem zou kunnen nemen om dat doel te bereiken. (Sommige ontwerpen proberen deze kloof te verkleinen door je een plan te tonen voordat er wordt gehandeld; dat helpt, maar het dicht de kloof niet.)

Niets van dit alles pleit tegen het gebruik van AI die handelt. Het pleit ervoor dat de discipline die in het chatbot-tijdperk raadzaam was, in het agent-tijdperk essentieel wordt: het gedrag van de AI moet worden gecontroleerd door iets buiten de AI, een mens moet in staat blijven om in te grijpen, en de daaruit voortvloeiende, onomkeerbare beslissingen moeten bij mensen blijven liggen. Dat is precies waar de rest van dit artikel over gaat.

Waarom meer regels het probleem niet oplossen

Het instinct van de meeste organisaties, wanneer ze worden geconfronteerd met AI-risico’s, is om beleid op te stellen. Beleid voor aanvaardbaar gebruik. Richtlijnen voor AI-ethiek. Gebruiksvoorwaarden. Kaders voor verantwoorde AI.

Deze documenten zijn niet nutteloos, maar ze hebben een fundamentele beperking gemeen: ze gaan ervan uit dat het AI-systeem zich eraan houdt.

Een AI-systeem leest je beleidsdocument niet en besluit dan om zich eraan te houden. Het genereert reacties op basis van statistische patronen in zijn trainingsgegevens. Als die patronen in strijd zijn met je beleid, winnen de patronen — niet omdat de AI opstandig is, maar omdat het geen beleid begrijpt. Het begrijpt patronen.

Je kunt een model verfijnen — de training aanpassen om bepaald gedrag te benadrukken. Dit helpt, maar lost het onderliggende probleem niet op. Fijnafstemming voegt nieuwe patronen toe bovenop de bestaande. Onder druk, in ongewone omstandigheden of bij nieuwe vragen komen de oude patronen weer naar voren. De technische term hiervoor is ‘catastrofaal vergeten’, maar de gewone taalversie is eenvoudiger: de training vervaagt.

Een beleid opstellen waarin staat: ‘Onze AI zal wetenschappelijke nauwkeurigheid respecteren’, is hetzelfde als een beleid opstellen waarin staat: ‘Onze rivier zal niet buiten haar oevers treden.’ De rivier leest geen beleidsregels. Als je overstromingen wilt voorkomen, moet je dijken aanleggen – structurele ingrepen die functioneren ongeacht wat de rivier van plan is.

AI-governance vereist dezelfde aanpak. Geen regels die de AI geacht wordt te volgen, maar structuren die onafhankelijk van de AI functioneren en het gedrag ervan van buitenaf controleren.

Wat de wetenschappelijke methode ons leert

Het inzicht dat verificatie onafhankelijk moet zijn van het systeem dat wordt geverifieerd, is niet nieuw. Het is fundamenteel voor de wetenschap.

Peer review bestaat niet omdat onderzoekers onbetrouwbaar zijn, maar omdat degene die een bevinding heeft gedaan, niet de juiste persoon is om deze te beoordelen. Externe replicatie bestaat omdat het herhalen van een experiment in een ander laboratorium toont of het resultaat robuust is of een artefact van lokale omstandigheden. Foutbalken bestaan omdat het vermelden van een resultaat zonder de bijbehorende onzekerheid geen wetenschap is — het is marketing.

Deze principes zijn rechtstreeks van toepassing op AI-governance.

Een AI-systeem dat een reactie genereert en vervolgens zijn eigen reactie evalueert, doet in feite hetzelfde als een onderzoeker die zijn eigen artikel beoordeelt. De evaluatie is structureel gecompromitteerd, ongeacht de intentie. Wat nodig is, is externe verificatie — systemen die architectonisch gescheiden zijn van de AI en die de output ervan toetsen aan onafhankelijk bewijs.

De wetenschapsfilosoof Karl Popper stelde dat wat wetenschap onderscheidt van niet-wetenschap, falsifieerbaarheid is — de mogelijkheid om onjuist te worden bewezen. Een AI-systeem dat zelfverzekerde, niet-falsifieerbare verhalen genereert, werkt niet op wetenschappelijke wijze, ongeacht hoeveel wetenschappelijke artikelen er in de trainingsdata zaten. Beheer dat falsifieerbaarheid introduceert – dat AI-beweringen toetst aan daadwerkelijk bewijs – herstelt de wetenschappelijke discipline die in de architectuur van de AI ontbreekt.

Isaiah Berlin, de politieke filosoof, stelde dat sommige menselijke waarden werkelijk onverenigbaar zijn — efficiëntie en grondigheid, snelheid en nauwkeurigheid, toegankelijkheid en precisie. Er bestaat geen formule die deze spanningen oplost. Ze vereisen voortdurend menselijk oordeel, onderhandeling en het soort praktische wijsheid dat organisaties door jarenlang veldwerk ontwikkelen.

AI-systemen zijn per definitie gericht op optimalisatie. Ze zoeken naar het beste antwoord. Maar wanneer waarden werkelijk met elkaar in conflict zijn – wanneer een financier een eenduidig verhaal wil en de gegevens nuancering vereisen – is er geen ‘beste’ antwoord. Er is alleen het antwoord dat deze organisatie, op dit moment, met deze normen, als het meest verdedigbaar beschouwt. Dat oordeel is inherent menselijk, en elk AI-governancekader dat doet alsof dat niet zo is, oefent geen bestuur uit — het doet afstand van zijn verantwoordelijkheid.

Hoe Village AI structureel beheert

Village vertrouwt er niet op dat de AI zich gedraagt zoals het hoort. Het bouwt governance in de architectuur in — structuren die onafhankelijk van de AI functioneren en niet door de AI kunnen worden omzeild.

De grenshandhaver voorkomt dat de AI beoordelingen maakt over de kwaliteit van gegevens — en dat hij op eigen houtje ingrijpende acties onderneemt. Wanneer een vraag betrekking heeft op het interpreteren van dubbelzinnige enquêteresultaten, het afwegen van tegenstrijdige bewijzen of het doen van een aanbeveling die van invloed is op beslissingen over landbeheer, of wanneer een taak zou uitmonden in handelen namens uw organisatie — het indienen van documenten, het versturen van een reactie, het delen van gegevens buiten uw grenzen — dan stopt het systeem en stuurt het de taak door naar een mens — uw moderator, uw coördinator of uw bestuur. De AI kan deze grens niet omzeilen, omdat de grens buiten de controle van de AI om functioneert. Dit is het structurele antwoord op het probleem van „minder kansen om in te grijpen“: de mogelijkheid om in te grijpen is ingebouwd, en wordt niet aan het toeval overgelaten.

Het instructiebehoudsysteem slaat de expliciete instructies van je organisatie op in een apart systeem dat de AI niet kan wijzigen. Wanneer de AI een reactie genereert, wordt deze getoetst aan deze opgeslagen instructies. Als het antwoord in strijd is met een instructie — bijvoorbeeld door onvoorwaardelijke beweringen te doen terwijl de instructie vereist dat onzekerheden worden vermeld — krijgt de instructie standaard voorrang, ongeacht wat de trainingspatronen van de AI suggereren.

De kruisverwijzingsvalidator toetst de door de AI voorgestelde outputs en acties aan de hand van de daadwerkelijke gegevens van uw organisatie. Hij vraagt de AI niet of zijn antwoord correct is – dat zou neerkomen op het vragen aan het systeem om zichzelf te verifiëren, en zoals in artikel 1 is uitgelegd, kan de uitleg van een AI over zijn eigen redenering niet worden vertrouwd als weerspiegeling van wat daadwerkelijk ten grondslag lag aan het antwoord. Daarom negeert de validator de zelfrapportage van de AI volledig. Hij maakt gebruik van wiskundige metingen, die op een fundamenteel andere manier werken dan de AI, om te bepalen of het antwoord is gebaseerd op de werkelijke inhoud van uw organisatie. Hij controleert het werk, niet de uitleg.

De contextdrukmonitor let op verslechterde bedrijfsomstandigheden — situaties waarin de AI onder druk staat, complexe verzoeken verwerkt of met nieuwe vragen wordt geconfronteerd. Wanneer deze omstandigheden worden gedetecteerd, wordt de intensiteit van de verificatie verhoogd. Hoe moeilijker de vraag, hoe grondiger het antwoord wordt onderzocht.

Dit zijn geen beleidsregels. Het zijn structuren. Ze werken ongeacht of de AI het ermee eens is, net zoals een dijk functioneert ongeacht of de rivier het ermee eens is.

Het verschil tussen ambitie en architectuur

Veel organisaties publiceren ethische verklaringen over AI. Village vertrouwt niet op ethische verklaringen. Het vertrouwt op architecturale beperkingen die governance structureel afdwingen.

Het onderscheid is belangrijk, want een ambitie is wat je hoopt dat er zal gebeuren. Architectuur is wat er daadwerkelijk gebeurt. Je natuurbeschermingsstichting vertrouwt niet op de hoop dat de penningmeester de fondsen correct beheert — er zijn twee handtekeningen vereist op elke cheque. Je monitoringprogramma vertrouwt niet op de hoop dat vrijwilligers het protocol zullen volgen — het biedt gestandaardiseerde registratieformulieren. Dat is architectonisch bestuur. Hetzelfde principe geldt voor AI.

Het Tractatus-raamwerk — Transparant en open

De bestuursarchitectuur achter Village AI heet het Tractatus-raamwerk. Er zijn drie dingen die je hierover moet weten.

Het is open. Het volledige raamwerk is gepubliceerd onder een open-source-licentie. Iedereen kan de code lezen, de regels inzien en controleren of het beheer doet wat het belooft. Dit staat haaks op het AI-beheer van Big Tech, waar de regels eigendom zijn van het bedrijf en de redenering verborgen blijft. Wanneer Google of OpenAI je vertelt dat hun AI „in lijn is met menselijke waarden“, kun je dat op geen enkele manier controleren. Met Tractatus kun je elke regel lezen.

Het is transparant. Elk besluit van het governance-systeem wordt geregistreerd. Wanneer de ‘boundary enforcer’ de AI verhindert een oordeel te vellen, wordt die gebeurtenis vastgelegd. Wanneer de ‘cross-reference validator’ een discrepantie opmerkt, wordt dat vastgelegd. Je moderators kunnen precies zien wat het bestuurssysteem heeft gedaan en waarom. Er is geen verborgen laag waar beslissingen worden genomen zonder verantwoording.

Het is aanpasbaar. Het raamwerk is geen rigide set regels die van buitenaf wordt opgelegd. Organisaties kunnen het bestuurssysteem vormgeven zodat het hun eigen prioriteiten weerspiegelt. Een natuurbeschermingsstichting en een parochie hebben verschillende waarden, verschillende gegevensstandaarden en verschillende grenzen. Het Tractatus-raamwerk houdt hier rekening mee — niet door organisaties toe te staan het governance-systeem te verzwakken, maar door hen te laten bepalen wat het governance-systeem beschermt. De statuten van uw organisatie, uw normen voor gegevenskwaliteit, uw rapportageprincipes — structureel gehandhaafd, niet alleen gedocumenteerd.

Het volledige raamwerk, inclusief het onderzoek dat eraan ten grondslag ligt, is beschikbaar op agenticgovernance.digital. U hoeft het niet te lezen om Village te gebruiken — het beheer werkt, of u het nu bekijkt of niet. Maar als je precies wilt begrijpen hoe je AI wordt beheerd, staat de deur voor je open.

In het volgende artikel zullen we bekijken wat Village AI vandaag de dag in de praktijk precies doet — waarmee het je natuurbeschermingsorganisatie kan helpen, hoe vooringenomenheid wordt aangepakt via het vocabulaire-systeem, en wat er nog in ontwikkeling is.

Wil je dit soort AI-tools goed en veilig gebruiken? Onze gratis cursussen — Werken met Claude en Agents at Work — leren je de praktische vaardigheden. Zie Village AI — Agentic Governance voor de volledige governance-architectuur achter Village AI.