Alle Ausgaben · Academia Edition

Your Community, Your AI — CC BY 4.0

Die Plattform jenseits der KI – Gemeinschaftsinfrastruktur als Forschungskontext

KI-Governance funktioniert nicht isoliert

In den vorangegangenen vier Artikeln wurden das KI-Subsystem der „Village“-Plattform und das Tractatus-Governance-Rahmenwerk untersucht. Dieser abschließende Artikel ordnet beide in den größeren Kontext der Plattforminfrastruktur ein und argumentiert, dass KI-Governance-Forschung, die isoliert von den Systemen durchgeführt wird, in denen KI zum Einsatz kommt, Gefahr läuft, Ergebnisse von begrenzter praktischer Relevanz zu liefern. (Die in der gesamten Reihe verwendeten Begriffe sind im Glossar definiert.)

Die „Village“-Plattform ist kein KI-Produkt. Es handelt sich um eine Infrastrukturplattform für Communities – Kommunikation, Dokumentenmanagement, Entscheidungshilfen, Mitgliederkoordination –, innerhalb derer ein KI-Subsystem operiert. Die Governance-Eigenschaften des KI-Subsystems werden durch den Plattformkontext geprägt und lassen sich ohne Bezugnahme darauf nicht vollständig verstehen.

Diese Beobachtung hat methodische Implikationen. Forscher, die KI-Governance unter Laborbedingungen oder anhand hypothetischer Szenarien untersuchen, übersehen die Wechselwirkungen zwischen KI-Governance-Mechanismen und dem operativen Kontext, in dem diese Mechanismen zum Einsatz kommen. Eine Plattform, die strukturierte Kommunikation, authentifizierte Mitgliedschaft und überprüfbare Aufzeichnungen bietet, schafft einen grundlegend anderen Governance-Kontext als eine Plattform, die dies nicht tut.

Es ist zudem der Plattformkontext, der die Handlungsfähigkeit begrenzt. Die agentischen Handlungen, die ein Village AI ausführen kann (Artikel 4), werden durch die plattformspezifischen Oberflächen, Grenzen und authentifizierten Rollen definiert und eingeschränkt – der Agent agiert innerhalb einer Community-Infrastruktur, die er nicht kontrolliert, und nicht im offenen Web. Dies steht in deutlichem Gegensatz zu universell einsetzbaren kommerziellen Agenten, deren Handlungsraum das Internet ist und deren Interventionspunkte vom Anbieter festgelegt werden; es ist auch ein Grund dafür, dass die Plattform als Kontext bei der Bewertung der agentenbasierten Governance nicht außer Acht gelassen werden kann.

Plattformarchitektur: Ein funktionaler Überblick

Die Village-Plattform stellt die folgenden funktionalen Komponenten bereit, die jeweils für den Governance-Kontext relevant sind, in dem die KI operiert:

Kommunikationsinfrastruktur

Community-Ankündigungen und -Berichte. Ein strukturiertes Veröffentlichungssystem für Community-Inhalte – Ankündigungen, Reflexionen, Berichte, historische Darstellungen. Die Inhalte werden von Mitgliedern verfasst, optional von Moderatoren geprüft und bilden Teil des Korpus, anhand dessen die KI-Ergebnisse verifiziert werden.

Bulletin-System. Regelmäßige Community-Veröffentlichungen (wöchentlich, monatlich), die als primärer Kommunikationskanal dienen. Das Bulletin-System bietet eine strukturierte, chronologische Aufzeichnung, auf die die KI bei zeitbezogenen Abfragen zurückgreifen kann („Was ist diesen Monat passiert?“).

Verschlüsselte Nachrichtenübermittlung. Direkt- und Gruppennachrichten mit Verschlüsselung. Aus Governance-Sicht ist dies insofern relevant, als private Kommunikation architektonisch aus dem Trainingskorpus der KI und dem Umfang der Beantwortung von Abfragen ausgeschlossen ist. Die Grenze zwischen dem, worauf die KI zugreifen kann, und dem, worauf sie keinen Zugriff hat, wird auf Infrastrukturebene durchgesetzt.

Videokonferenzen. Integrierte Videoanrufe ohne Abhängigkeit von externen Plattformen. Für die Governance relevant, da sie synchrone menschliche Entscheidungsfindung ermöglichen – jene Art von nuanciertem, kontextbezogenem Urteilsvermögen, die das Tractatus-Framework ausdrücklich dem Menschen vorbehält.

Aufzeichnungen und Wissensmanagement

Dokumentenarchiv. Strukturierte Speicherung für Unternehmensdokumente – Governance-Aufzeichnungen, Jahresabschlüsse, Richtlinien, Betriebsdokumente. Diese sind Teil des Verifizierungskorpus der KI. Die Qualität und Vollständigkeit dieses Archivs wirkt sich direkt auf die Fähigkeit von Guardian Agents aus, KI-Ausgaben zu verifizieren.

Community-Galerie. Visuelle Aufzeichnungen mit KI-gestützter Klassifizierung und Verschlagwortung. Eine sekundäre Datenquelle für die KI, wobei visuelle Inhalte für die Governance-Architektur weniger zentral sind als textuelle Aufzeichnungen.

Kalender- und Veranstaltungsmanagement. Eine strukturierte zeitliche Aufzeichnung, die als Referenz für zeitgebundene Abfragen dient. Die Fähigkeit der KI, die Frage „Wann findet das nächste Treffen statt?“ zu beantworten, hängt von der Pflege des Kalenders ab – eine Wechselwirkung zwischen dem Verhalten menschlicher Dateneingabe und der Qualität der KI-Ausgabe, die den soziotechnischen Charakter der Governance-Herausforderung verdeutlicht.

Governance und Entscheidungsfindung

Demokratische Abstimmungen. Strukturierte Instrumente zur Meinungserhebung und Entscheidungsfindung. Relevant für die KI-Governance, da sie einen authentifizierten, überprüfbaren Mechanismus für Entscheidungen auf Community-Ebene bieten – einschließlich Entscheidungen darüber, wie die KI gesteuert werden soll.

Moderationsinfrastruktur. Rollenbasierte Zugriffskontrollen, Workflows zur Inhaltsprüfung und Eskalationswege. Die Moderatorenrolle ist zentral für das „Human-in-the-Loop“-Governance-Modell des Tractatus-Frameworks. Die Plattforminfrastruktur bestimmt, wie effektiv Moderatoren diese Rolle ausfüllen können.

Mitgliederverzeichnis und Untergruppen. Strukturierte Mitgliedschaft mit Datenschutzkontrollen und der Möglichkeit, sich in Arbeitsgruppen zu organisieren. Relevant für die Governance, da sie die Grenzen der Community definiert – wer Mitglied ist, wer welche Rolle innehat und wessen Feedback das adaptive Lernsystem gewichten soll.

Gemeinschaftsübergreifende Infrastruktur

Föderation. Die Möglichkeit, geregelte Verbindungen zwischen separaten „Village“-Instanzen herzustellen – um ausgewählte Inhalte zu teilen und gleichzeitig die Datenhoheit zu wahren. Beide Gemeinschaften müssen der Verbindung zustimmen, und jede kann sie einseitig kündigen.

Die Föderation wirft Governance-Fragen auf, die über den auf einzelne Gemeinschaften beschränkten Rahmen der meisten Forschungsarbeiten zur KI-Governance hinausgehen. Wenn sich zwei Gemeinschaften zu einem Verbund zusammenschließen, wessen Governance-Rahmen gilt dann für gemeinsam genutzte Inhalte? Wie bewerten die Guardian Agents einer Gemeinschaft Inhalte, die aus einer anderen stammen? Diese Fragen werden auf architektonischer Ebene gelöst (die Wächter jeder Gemeinschaft bewerten nur die Ergebnisse ihrer eigenen KI), doch die Auswirkungen der gemeinschaftsübergreifenden KI-Interaktion auf die Governance sind noch nicht ausreichend untersucht.

Wie die Plattformarchitektur die KI-Governance prägt

Die oben beschriebenen Plattformkomponenten sind nicht lediglich der Kontext, in dem KI-Governance stattfindet. Sie prägen die Governance-Ergebnisse aktiv auf eine Weise, die wissenschaftliche Aufmerksamkeit verdient.

Die Qualität des Korpus hängt von der Akzeptanz der Plattform ab. Die Wissensbasis der KI besteht aus den Inhalten der Community. Communities, die die Plattform aktiv nutzen – indem sie Mitteilungen veröffentlichen, Ankündigungen teilen und Aufzeichnungen führen –, erzeugen ein reichhaltiges Korpus, das eine effektive Verifizierung der Fundiertheit ermöglicht. Communities, die die Plattform nur teilweise nutzen, erzeugen ein spärliches Korpus, das die Verifizierungsfähigkeit von Guardian Agents untergräbt. Die Wirksamkeit der KI-Governance wird somit durch das Akzeptanzverhalten der Plattform beeinflusst – eine soziotechnische Variable, die in Governance-Rahmenwerken selten berücksichtigt wird.

Die Leistungsfähigkeit der Moderatoren hängt vom Tool-Design ab. Das Tractatus-Rahmenwerk setzt kompetente, engagierte Moderatoren voraus. Ob Moderatoren diese Rolle erfüllen können, hängt von der Qualität der Moderationswerkzeuge ab, die die Plattform bereitstellt – Überprüfungsoberflächen, Eskalationsabläufe, Feedback-Mechanismen. Ein Governance-Rahmenwerk, das menschliche Aufsicht erfordert, aber unzureichende Werkzeuge für diese Aufsicht bereitstellt, ist faktisch unreguliert.

Die Infrastruktur zur Entscheidungsfindung ermöglicht die Anpassung der Governance. Die Abstimmungs- und Governance-Tools ermöglichen es den Communities, kollektive Entscheidungen über ihre eigene KI-Governance-Konfiguration zu treffen – welche Themen die KI behandeln soll, welche Grenzen durchgesetzt werden sollen und wie Feedback gewichtet werden soll. Dadurch entsteht eine Governance-Rückkopplungsschleife: Die Community steuert die KI, und die Plattform stellt die Infrastruktur bereit, damit die Community effektiv steuern kann.

Authentifizierung sorgt für Rechenschaftspflicht. Das Mitgliedschaftsmodell der Plattform – authentifizierter Zugriff, dauerhafte Identität, rollenbasierte Berechtigungen – schafft eine Infrastruktur der Rechenschaftspflicht, die in anonymen oder pseudonymen Kontexten fehlt. Feedback ist zuordenbar, Moderationsmaßnahmen sind überprüfbar, und Governance-Entscheidungen lassen sich bis zu identifizierten Entscheidungsträgern zurückverfolgen. Dies ist eine Voraussetzung für die Mechanismen der Rechenschaftspflicht des Tractatus-Frameworks.

Einschränkungen und Gegenargumente

Der Kompromiss der Integration

Eine integrierte Plattform, die Kommunikation, Aufzeichnungen, KI und Governance in einem einzigen System vereint, bietet Kohärenz – schafft aber auch eine Abhängigkeit vom Anbieter. Eine Community, die die Village-Plattform aufgrund ihrer Governance-Eigenschaften einsetzt, wird hinsichtlich ihrer gesamten digitalen Infrastruktur vom Plattformanbieter abhängig. Die Open-Source-Lizenz mildert dies zwar ab (die Community kann im Prinzip einen Fork erstellen und die Plattform selbst hosten), doch die praktischen Hürden für das Selbsthosting sind für die Community-Typen, auf die die Plattform abzielt, beträchtlich.

Der Moderatoren-Engpass

Die Abhängigkeit der Governance-Architektur von kompetenten ehrenamtlichen Moderatoren stellt einen potenziellen Single Point of Failure dar. Ist der Moderator nicht verfügbar, unmotiviert oder voreingenommen, verschlechtert sich die „Human-in-the-Loop“-Governance-Ebene. Die Moderationswerkzeuge der Plattform können kompetente Moderatoren unterstützen, sie jedoch nicht ersetzen. Dies ist eine bekannte Einschränkung, für die es keine einfache architektonische Lösung gibt – es handelt sich um eine soziologische Einschränkung, die durch die architektonische Gestaltung zwar berücksichtigt, aber nicht beseitigt werden kann.

Das „Small-n“-Problem

Die derzeitige Nutzerbasis ist klein. Alle Beobachtungen zum Systemverhalten, zur Wirksamkeit der Governance und zu Fehlermodi stammen aus einer begrenzten Stichprobe. Das Risiko des „Overfitting“ – also das Ziehen allgemeiner Schlussfolgerungen aus kontextspezifischen Beobachtungen – ist erheblich. Die Autoren erkennen dies an und stellen die Plattform eher als Forschungskontext denn als validierte Governance-Lösung dar.

Alternative Ansätze

Das Tractatus-Framework ist ein Ansatz für KI-Governance auf Gemeinschaftsebene. Alternative Ansätze – föderiertes Lernen, Differential Privacy, konstitutionelle KI, kollektive konstitutionelle Prozesse – gehen mit unterschiedlichen architektonischen Entscheidungen auf sich überschneidende Anliegen ein. Diese Reihe hat den Tractatus-Ansatz nicht systematisch mit Alternativen verglichen, und ein solcher Vergleich wäre ein wertvoller Beitrag zur Forschung. Die Autoren behaupten nicht, dass der Tractatus-Ansatz den Alternativen überlegen ist – sondern lediglich, dass er implementiert, betriebsbereit und für eine Überprüfung verfügbar ist.

Offene Forschungsfragen

Diese Reihe schließt mit einer Reihe von Forschungsfragen, die die Autoren angesichts des aktuellen Zustands der Plattform sowohl als offen als auch als lösbar erachten:

1. Soziotechnische Governance-Dynamiken. Wie wirken sich Nutzungsmuster der Plattform, das Verhalten der Moderatoren und die Community-Kultur auf die architektonischen Governance-Mechanismen aus? Kann das Governance-Framework eine geringe Plattformnutzung oder eine nachlässige Moderation ausgleichen?

2. Gemeinschaftsübergreifende Governance. Welche Governance-Rahmenwerke eignen sich für föderierte KI-Systeme, in denen mehrere Gemeinschaften Inhalte teilen, aber eine unabhängige Governance beibehalten? Wie sollten widersprüchliche Governance-Konfigurationen gelöst werden?

3. Vokabular und Framing-Effekte. Führt das Vokabularsystem zu messbaren Unterschieden in der Qualität der KI-Ergebnisse über verschiedene Gemeinschaftstypen hinweg? Kann sich die terminologische Anpassung auf die inhaltliche konzeptionelle Rahmung auswirken oder bleibt sie auf der oberflächlichen Ebene?

4. Langfristige Governance-Stabilität. Bleiben die Governance-Eigenschaften des Rahmens stabil, während sich Communities weiterentwickeln, die Mitgliederzusammensetzung wechselt und die Inhaltskorpora wachsen? Was ist das Governance-Äquivalent zur Modelldrift?

5. Vergleichende Governance-Analyse. Wie schneidet der Ansatz des Tractatus-Rahmenwerks im empirischen Vergleich mit alternativen Ansätzen zur KI-Governance auf Community-Ebene ab? Unter welchen Bedingungen schneidet der jeweilige Ansatz gut oder schlecht ab?

6. Skalierbarkeit und Randbedingungen. Ab welcher Community-Größe, welchem Inhaltsvolumen oder welcher Governance-Komplexität erweist sich das polyzentrische Modell des Frameworks als unzureichend? Welche architektonischen Anpassungen wären für einen Einsatz in größerem Maßstab erforderlich?

7. Robustheit gegenüber adversarialen Angriffen. Wie widerstandsfähig sind die Guardian Agent-Mechanismen gegenüber gezielter Manipulation? Kann ein motivierter Akteur die Governance-Qualität durch gezielte Rückmeldungen oder adversarische Abfragen systematisch beeinträchtigen?

Eine Einladung zur Überprüfung

Das Tractatus-Framework wird unter einer Open-Source-Lizenz veröffentlicht. Der Plattformcode steht zur Einsicht bereit. Die Governance-Architektur ist dokumentiert. Die Autoren vertreten den Standpunkt, dass ein Governance-Framework, das einer genauen Prüfung nicht standhält, keine Einführung verdient – und umgekehrt, dass eine Prüfung ohne Zugang zu den Implementierungsdetails zwangsläufig begrenzt ist.

Forscher, die daran interessiert sind, das Framework zu bewerten, zu erweitern oder zu kritisieren, sind eingeladen, sich mit dem Quellcode, der Dokumentation und dem eingesetzten System auseinanderzusetzen. Der Wert des Frameworks als Forschungsbeitrag wird nicht durch die Behauptungen seiner Autoren bestimmt, sondern durch die unabhängige Bewertung durch die Forschungsgemeinschaft.

Die Forschungswebsite ist agenticgovernance.digital. Dort sind die Frameworkspezifikation, die Plattformarchitektur und die Guardian Agent-Dokumentation verfügbar.

Die vollständige Plattformarchitektur finden Sie unter Village AI on Agentic Governance; der Quellcode des Tractatus-Frameworks ist als Open Source unter agenticgovernance.digital verfügbar. Für die praxisorientierte Seite derselben Fragen – das Erzeugen zuverlässiger Ergebnisse und die Entscheidung, was an ein handelndes System delegiert werden kann – siehe die begleitenden Kurse Working with Claude und Agents at Work.