Alle edities · Academia Edition

Your Community, Your AI — CC BY 4.0

Wat AI is, wat het niet is en wat nog onzeker is

Statistische voorspelling op grote schaal

Het kernmechanisme van hedendaagse grote taalmodellen (LLM's) is de voorspelling van het volgende token. Gegeven een reeks tokens genereert het model een waarschijnlijkheidsverdeling over mogelijke vervolgdelen, op basis van patronen die zijn geëxtraheerd uit een trainingscorpus van aanzienlijke omvang — doorgaans miljarden documenten die meerdere domeinen, talen en registers omvatten.

Dit mechanisme levert resultaten op die vaak nuttig zijn: samenhangende teksten, degelijke samenvattingen, plausibele antwoorden op feitelijke vragen en werkende code. Het praktische nut staat buiten kijf.

Wat wel ter discussie staat — en wat van belang is voor governance — is de aard van het proces dat deze resultaten voortbrengt en, bijgevolg, in hoeverre er vertrouwen in kan worden gesteld.

Van modellen naar agenten: capaciteit versus productisering

Een ontwikkeling tussen 2024 en 2026 heeft het object van governance verschoven van het model naar de agent. Het onderscheid is analytisch belangrijk. Het model (of de engine) is de hierboven beschreven voorspeller van het volgende token. Een agent is dat model dat is ingebed in een ondersteunende structuur — permanent geheugen, toegang tot tools en API’s, een webbrowser of computerinterface — en gericht is op een doel dat in natuurlijke taal is uitgedrukt, dat het in meerdere stappen nastreeft met beperkte menselijke begeleiding. (Deze termen, en andere die in de reeks worden gebruikt, worden gedefinieerd in de woordenlijst.) De AI Agent Index 2025 karakteriseert dit als een scheiding tussen capaciteit (baanbrekende modellen) en productisering (de agentische infrastructuur eromheen): een groot deel van de schijnbare sprong voorwaarts in wat AI kan doen, in tegenstelling tot wat het kan zeggen, is te danken aan de ‘wrapper’ in plaats van aan een nieuwe modelarchitectuur.

Deze verschuiving verandert het bestuursobject in meer dan alleen kwantitatieve zin. De output van een chatbot veroorzaakt alleen schade wanneer een mens ernaar handelt; een agent kan rechtstreeks op de wereld inwerken, met minder interventiepunten. In de literatuur is men begonnen met het formaliseren van de daaruit voortvloeiende verantwoordingsproblemen — de verantwoordelijkheidskloof (Matthias, 2004), waarbij operators redelijkerwijs niet verantwoordelijk kunnen worden gehouden voor het gedrag van systemen waarvan zij de acties niet hebben bepaald, en de morele kreukzone (Elish, 2019), waarbij de aansprakelijkheid bij de dichtstbijzijnde mens komt te liggen ondanks beperkte controle. Het International AI Safety Report 2026 merkt verder op dat agenten juist vanwege hun autonome handelen verhoogde betrouwbaarheidsrisico’s met zich meebrengen, en dat fouten in configuraties met meerdere agenten zich kunnen verspreiden en versterken. Voor onderzoek naar governance is het belangrijkste punt dat autonomie het risicocentrum verplaatst van de interpretatie van output naar de uitvoering van acties — een verplaatsing waar beleidsgestuurde governance, gericht op outputbeoordeling, slecht op is ingesteld.

De redeneringsvraag: een open empirisch probleem

Vroege karakteriseringen van LLM’s als „stochastische papegaaien“ — systemen die statistische wetmatigheden reproduceren zonder enig begrip — legden iets belangrijks bloot over de fundamenten van de technologie. Naarmate de schaal van de modellen echter is toegenomen, zijn er gedragingen naar voren gekomen die zich niet eenvoudig laten karakteriseren.

Grote modellen tonen het vermogen tot logische gevolgtrekkingen in meerdere stappen, analogisch redeneren over verschillende domeinen heen, en presteren bij nieuwe problemen die structureel verschillen van de trainingsvoorbeelden. Sommige onderzoekers omschrijven dit als ‘opkomende vermogens’ — eigenschappen die op grote schaal ontstaan zonder dat ze expliciet zijn ontworpen. Anderen stellen dat het schijnbare redeneren een geavanceerde vorm van patrooninterpolatie is die slechts op redeneren lijkt wanneer deze wordt beoordeeld door menselijke waarnemers die geneigd zijn begrip toe te schrijven.

Het empirisch bewijs is op dit moment onvoldoende om deze vraag op te lossen. Verschillende observaties maken het moeilijk om een zeker standpunt in te nemen:

• Modellen lossen problemen op die compositorische generalisatie vereisen, wat duidt op iets dat verder gaat dan louter het ophalen van informatie.
• Modellen vertonen ook tekortkomingen — het vol vertrouwen genereren van onjuiste uitspraken, kwetsbaarheid bij vijandige verstoringen, gevoeligheid voor oppervlakkige kenmerken van prompts — die niet stroken met robuust redeneren.
• De interne representaties van grote modellen worden nog niet goed begrepen. Onderzoek naar mechanistische interpreteerbaarheid heeft circuitachtige structuren geïdentificeerd die correleren met specifieke capaciteiten, maar het vakgebied bevindt zich nog in een vroeg stadium.
• De vraag of het onderscheid tussen „echt redeneren“ en „redeneringsachtig gedrag“ empirisch zinvol is, of dat het neerkomt op een filosofische stellingname, blijft onopgelost.

Een verdere complicatie ontstond met de generatie „redenerende“ of „denkende“ modellen uit 2025–2026, die een tussenliggende gedachtegang externaliseren en extra rekenkracht tijdens de inferentietijd toewijzen aan moeilijkere problemen; in gestructureerde omgevingen bereikten dergelijke systemen prestaties die gelijkwaardig waren aan een gouden medaille op de Internationale Wiskundeolympiade van 2025. Het interpretatieve debat is nog steeds actueel en onopgelost. In The Illusion of Thinking (2025) van Apple werd melding gemaakt van karakteristieke nauwkeurigheidsdalingen bij schaalbare puzzels, terwijl verschillende weerleggingen (bijv. Lawsen et al.; Dellibarda Varela et al., 2025) schreven een deel van het effect toe aan evaluatieartefacten en omschreven deze systemen als „noch echte redeneerders, noch stochastische papegaaien“. Van groter belang voor het toezicht is een groeiend aantal onderzoeken naar onbetrouwbaarheid in de redeneringsketen (Anthropic, 2025, en daaropvolgende studies uit 2026): de geëxternaliseerde redenering weerspiegelt vaak niet de causale determinanten van de output van het model, wat elk toezichtsregime ondermijnt dat steunt op het controleren van de door het model aangegeven redenering. De weergegeven gedachtegang is zelf gegenereerde tekst, geen instrumentele weergave van een intern proces.

Voor bestuursdoeleinden is de pragmatische implicatie deze: men kan er niet veilig van uitgaan dat een LLM correct zal redeneren, noch kan men de output ervan afdoen als onbetrouwbaar. Het systeem bevindt zich in een ongemakkelijk middengebied waar de output vaak nuttig is, soms onjuist, en zonder externe verificatie niet betrouwbaar van elkaar te onderscheiden is.

Nieuwheid en synthese

Een verwante vraag betreft of LLM’s werkelijk vernieuwende output kunnen produceren. De sterke bewering — dat modellen slechts recombinaties van trainingsgegevens genereren — is in enge zin correct en in brede zin misleidend.

Neem bijvoorbeeld een model dat teksten over polycentrische bestuursleer, organisatiegedrag en gemeenschapsinformatica als afzonderlijke werkgebieden heeft verwerkt. Wanneer het op de juiste manier wordt gestuurd, kan het verbanden tussen deze domeinen leggen die geen enkele individuele onderzoeker heeft gelegd, omdat geen enkele individuele onderzoeker over dezelfde brede kennis beschikt. De afzonderlijke ideeën zijn niet nieuw. De synthese kan echter nieuw zijn voor een willekeurige lezer — en kan echte structurele parallellen aan het licht brengen die nader onderzoek rechtvaardigen.

Dit is niet hetzelfde als de originaliteit van primair onderzoek. Het model heeft geen toegang tot empirische gegevens waarmee het niet is getraind, geen vermogen tot het opzetten van experimenten en geen mogelijkheid om te beoordelen of de door het model gesynthetiseerde verbanden bij nader onderzoek standhouden. De synthese is een generator van hypothesen, geen validator ervan. Maar het genereren van hypothesen heeft waarde, mits men dit niet verwart met het bevestigen van hypothesen.

Voor onderzoekers die AI-systemen evalueren, betekent dit dat de output van LLM’s nuttig kan zijn als uitgangspunt voor literatuuronderzoek, domeinoverschrijdende verkenning en het identificeren van structurele analogieën — maar dat deze output dezelfde kritische toetsing vereist die men zou toepassen op elke andere, niet-geverifieerde bron.

Trainingsgegevens als wereldbeeld

Elk LLM neemt de statistische verdeling van zijn trainingscorpus over. Dit is geen corrigeerbare vertekening — het is een structureel kenmerk van de technologie.

Een model dat voornamelijk is getraind op Engelstalige, commercieel georiënteerde, westerse internetcontent, zal output produceren die de aannames, het kader en de prioriteiten van dat corpus weerspiegelt. Wanneer het model wordt gevraagd om onderwerpen te behandelen waarvoor de trainingsgegevens schaars zijn — inheemse bestuurstradities, liturgische taal, orale cultuur, besluitvorming in kleine gemeenschappen — valt het model terug op statistisch dominante patronen in plaats van de leemte te erkennen.

Dit heeft directe gevolgen voor elke toepassing in een specifieke gemeenschapscontext. Een model dat gevraagd wordt inhoud te genereren voor een onderzoeksgroep die gemeenschapsbestuur bestudeert, zal standaard terugvallen op de taal van bedrijfsmanagement — niet omdat het de alternatieven heeft geëvalueerd, maar omdat de taal van bedrijfsmanagement overheerst in zijn trainingsgegevens. De vervanging gebeurt stilzwijgend: het model geeft niet aan dat het buiten zijn competentiedomein opereert.

Dit fenomeen — dat in een bestuurscontext distributiedrift zou kunnen worden genoemd — is goed gedocumenteerd maar nog niet goed opgelost. Technieken zoals fine-tuning, retrieval-augmented generation (RAG) en system prompting kunnen het effect verzachten, maar nemen het niet volledig weg. De resterende vertekening van het basismodel blijft bestaan, met name bij nieuwe of complexe zoekopdrachten waarbij het signaal van de fine-tuning zwakker is dan de basisverdeling.

Implicaties voor onderzoek naar governance

De hierboven beschreven kenmerken — nuttige maar onbetrouwbare outputs, onopgemerkte distributieve vertekening, onzeker redeneervermogen — vormen samen de uitdaging op het gebied van governance.

Een AI-systeem dat af en toe fouten maakt, is een kwaliteitsborgingsprobleem. Een AI-systeem dat af en toe fouten maakt door op onopgemerkte wijze het ene waardenkader door het andere te vervangen, is een governanceprobleem. Dit onderscheid is van belang omdat het eerste kan worden aangepakt door foutcontrole, terwijl het tweede structurele mechanismen vereist die afwijkingen op waardeniveau detecteren, en niet louter feitelijke fouten.

De ‘agentic turn’ maakt dit onderscheid nog belangrijker. Wanneer afwijkingen op waardeniveau niet betrekking hebben op een controleerbare output, maar op een autonoom uitgevoerde handeling, wordt de ruimte voor menselijke correctie kleiner of verdwijnt deze zelfs; en de bevindingen over onbetrouwbaarheid in de gedachtegang impliceren dat de eigen verklaring van het systeem over waarom het handelde, niet kan worden beschouwd als een betrouwbaar signaal voor toezicht. Governance die afhankelijk is van de zelfrapportage van het systeem is daarom structureel ontoereikend. Verificatie moet extern aan het systeem plaatsvinden en betrekking hebben op de handelingen ervan, niet alleen op de verklaringen.

Dit is het probleem dat het Tractatus-raamwerk moet aanpakken. Of het hierin slaagt, is een empirische vraag die in volgende artikelen wordt onderzocht. Wat hier wel kan worden gesteld, is dat het probleem reëel en goed gekarakteriseerd is, en dat het niet adequaat wordt aangepakt door de beleidsgerichte benaderingen die momenteel het discours over AI-governance domineren.

Wat dit artikel niet beweert

Dit artikel beweert niet dat LLM’s niet in staat zijn tot redeneren — het bewijs is onvoldoende voor die conclusie. Het beweert evenmin dat LLM’s wel kunnen redeneren — het bewijs daarvoor is eveneens onvoldoende. Het beweert niet dat distributieve vertekening onoplosbaar is — alleen dat de huidige technieken om dit te beperken onvolledig zijn. En het beweert niet dat AI-governance onmogelijk is — alleen dat de uitdaging op het gebied van governance structureler is dan algemeen wordt aangenomen.

Het volgende artikel onderzoekt de specifieke structurele verschillen tussen commerciële AI-platforms en door de gemeenschap bestuurde AI-systemen, en analyseert de bijbehorende afwegingen.

Zie voor de volledige technische architectuur Village AI — Agentic Governance. Lezers die in de praktijk met deze systemen werken, kunnen wellicht baat hebben bij de bijbehorende cursussen voor praktijkbeoefenaars: Working with Claude, over het verkrijgen en beoordelen van modeloutputs, en Agents at Work, over het beheer van systemen die handelen.