Alle Ausgaben · Academia Edition

Your Community, Your AI — CC BY 4.0

Warum eine politikbasierte KI-Governance nicht ausreicht – Die strukturelle Alternative

Das Problem der stillschweigenden Substitution

Betrachten wir ein Szenario, das eine Form des Governance-Versagens veranschaulicht, die sich von sachlichen Fehlern unterscheidet.

Ein Forscher bittet ein KI-System, die Governance-Prinzipien einer Gemeinschaftsorganisation zusammenzufassen, und legt dabei fest, dass die Zusammenfassung das gemeinschaftliche Ethos der Organisation widerspiegeln soll – gemeinsame Entscheidungsfindung, gegenseitige Verpflichtung, Subsidiarität. Das System erstellt eine gut strukturierte Zusammenfassung. Sie ist flüssig, schlüssig und wirkt autoritativ. Zudem formuliert sie die gemeinschaftlichen Prinzipien systematisch in individualistischen Begriffen um: Aus „gemeinsamer Entscheidungsfindung“ wird „Konsultation der Interessengruppen“, aus „gegenseitiger Verpflichtung“ wird „Mitgliederengagement“ und aus „Subsidiarität“ wird „delegierte Befugnis“.

Diese Ersetzung erfolgt nicht zufällig. Sie spiegelt die statistische Dominanz der Sprache der Unternehmensführung in den Trainingsdaten des Modells wider. Das Modell hat die Anweisung nicht abgelehnt. Es hat keinen Konflikt gemeldet. Es hat stillschweigend ein Wertegerüst durch ein anderes ersetzt – eines, das angesichts seiner Trainingsverteilung statistisch wahrscheinlicher ist.

Dies könnte man als wertbezogene Verteilungsdrift bezeichnen: Die Ergebnisse der KI weichen systematisch vom beabsichtigten Wertegerüst ab, nicht weil das System fehlerhaft ist, sondern weil seine Trainingsverteilung und die Zielverteilung nicht aufeinander abgestimmt sind. (Dieser Begriff sowie die anderen in dieser Reihe verwendeten Begriffe sind im Glossar definiert.) Die Drift ist subtil – der Wortschatz ist ähnlich genug, um einer flüchtigen Überprüfung standzuhalten – und still – das System gibt keinen Hinweis darauf, dass eine Substitution stattgefunden hat.

Dieser Fehlermodus unterscheidet sich qualitativ von sachlichen Fehlern. Sachliche Fehler lassen sich durch einen Abgleich mit Quelldokumenten aufdecken. Die Abweichung auf Werteebene wirkt sich auf der Ebene der Rahmung, der Gewichtung und impliziter Annahmen aus – Dimensionen, die sich nur schwer in einer Verifizierungsregel erfassen lassen und für einen Laien schwer zu erkennen sind.

Die Grenzen der richtlinienbasierten Governance

Der vorherrschende Ansatz zur KI-Governance in organisatorischen Kontexten ist richtlinienbasiert: Richtlinien zur akzeptablen Nutzung, ethische Leitlinien, Rahmenwerke für verantwortungsvolle KI, Nutzungsbedingungen. Diese Instrumente weisen eine strukturelle Einschränkung auf, die in der Governance-Theorie gut verstanden, in der Praxis der KI-Governance jedoch nicht ausreichend berücksichtigt wird.

Richtlinienbasierte Governance setzt darauf, dass die betroffene Instanz die Richtlinien einhält. Für menschliche Akteure weist dieses Modell zwar Einschränkungen auf, ist aber teilweise wirksam – Menschen können Richtlinien lesen, interpretieren und sich dafür entscheiden, sie zu befolgen, und die sozialen und rechtlichen Konsequenzen einer Nichteinhaltung bieten Durchsetzungsmechanismen.

Für KI-Systeme ist das Modell grundlegend ungeeignet. Ein LLM liest und interpretiert ein Richtliniendokument nicht auf die gleiche Weise wie ein menschlicher Mitarbeiter. Wenn eine Systemanweisung das Modell anweist, „Gemeinschaftswerte zu respektieren“ oder „einen gemeinschaftsorientierten Ton beizubehalten“, verarbeitet das Modell diese Anweisungen als zusätzlichen Kontext, der seine Ausgabeverteilung beeinflusst – aber nicht bestimmt. Unter Bedingungen, bei denen die Anweisung im Widerspruch zu starken Mustern in der Basis-Trainingsverteilung steht, dominiert tendenziell die Trainingsverteilung.

Das Fine-Tuning behebt dies teilweise, indem es die Verteilung des Modells so anpasst, dass gewünschte Ausgaben bevorzugt werden. Das Fine-Tuning baut jedoch auf der Basisverteilung auf, anstatt sie zu ersetzen. In der Fachliteratur werden mehrere Fehlermodi dokumentiert:

• Katastrophales Vergessen: Feinabgestimmte Verhaltensweisen verschlechtern sich im Laufe der Zeit oder unter neuen Eingabebedingungen.
• Verteilungsverschiebung: Eingaben, die von der Feinabstimmungsverteilung abweichen, lösen eine Rückkehr zu den Verhaltensweisen des Basismodells aus.
• Prompt-Injektion: Adversarische Eingaben können feinabgestimmte Einschränkungen außer Kraft setzen – ein Problem, für das es bislang keine robuste Lösung gibt.

Der richtlinienbasierte Ansatz ist nicht ohne Wert. Er legt Normen fest, kommuniziert Erwartungen und bietet einen Bezugspunkt für die Rechenschaftspflicht. Als alleiniger Steuerungsmechanismus reicht er jedoch nicht aus für Systeme, die die Richtlinien, denen sie folgen sollen, nicht – in irgendeinem sinnvollen Sinne – verstehen oder sich daran halten.

Theoretische Grundlagen: Wittgenstein, Berlin und polyzentrische Steuerung

Das Tractatus-Framework stützt sich auf drei intellektuelle Traditionen, die zwar unterschiedlich sind, aber in einer gemeinsamen Erkenntnis zusammenlaufen: Manche Steuerungsprobleme lassen sich nicht auf Regeln reduzieren.

Wittgenstein und die Grenzen der Formalisierung. Ludwig Wittgensteins Arbeit zu den Grenzen der Sprache und der Formalisierung ist hier von unmittelbarer Relevanz. Seine Beobachtung – dass manche Aussagen präzise formuliert werden können, während andere sich einer präzisen Formulierung entziehen – lässt sich auf eine praktische Unterscheidung in der KI-Governance übertragen. Manche Entscheidungen der Gemeinschaft lassen sich formalisieren: „Wann findet das nächste Treffen statt?“ hat eine eindeutige Antwort, die aus den Aufzeichnungen abgerufen werden kann. Andere hingegen nicht: „Wie sollen wir eine heikle Angelegenheit mit einem langjährigen Mitglied angehen?“ erfordert kontextbezogene Beurteilung, Beziehungswissen und Wertabwägungen, die sich einer systematischen Behandlung entziehen.

Das Tractatus-Framework operationalisiert diese Unterscheidung als Grenzdurchsetzungsmechanismus: Anfragen, die in den formalisierbaren Bereich fallen, werden von der KI bearbeitet; Anfragen, die in den nicht formalisierbaren Bereich übergreifen, werden an menschliche Entscheidungsträger weitergeleitet. Die Grenze wird architektonisch durchgesetzt, nicht durch Richtlinien.

Berlin und Wertepluralismus. Isaiah Berlins Argument, dass menschliche Werte irreduzibel pluralistisch sind – dass manche Güter tatsächlich unvereinbar sind und nicht gleichzeitig optimiert werden können –, hat Auswirkungen auf KI-Systeme, die darauf abzielen, „optimale“ Antworten zu generieren. Im Kontext einer Gemeinschaft lassen sich Spannungen zwischen individueller Privatsphäre und kollektiver Transparenz, zwischen Tradition und Anpassung, zwischen Effizienz und Partizipation nicht optimal lösen. Sie erfordern fortlaufende Verhandlungen durch die Menschen, die die Konsequenzen tragen.

Ein KI-System, das solche Spannungen löst, indem es standardmäßig auf seine Trainingsverteilung zurückgreift, übt keine Steuerung aus – es zwingt eine bestimmte Lösung auf, ohne dafür die Befugnis zu haben. Das Tractatus-Framework begegnet dem, indem es wertgeladene Entscheidungspunkte identifiziert und eine menschliche Beurteilung anstelle einer KI-Lösung verlangt.

Ostrom und polyzentrische Steuerung. Elinor Ostroms Arbeit zur Steuerung gemeinschaftlich genutzter Ressourcen bietet einen Rahmen zum Verständnis, wie kleine Gemeinschaften gemeinsame Ressourcen ohne zentralisierte Autorität effektiv verwalten können. Mehrere von Ostroms Gestaltungsprinzipien – klar definierte Grenzen, Regelungen zur kollektiven Entscheidungsfindung, Überwachung, abgestufte Sanktionen, Mechanismen zur Konfliktlösung – lassen sich direkt auf die KI-Governance auf Gemeinschaftsebene anwenden.

Das Tractatus-Rahmenwerk übernimmt ausdrücklich ein polyzentrisches Modell: Die Steuerungshoheit ist auf mehrere unabhängige Mechanismen verteilt (die im vorherigen Artikel beschriebenen Guardian Agents), von denen keiner über einseitige Befugnisse verfügt und von denen jeder die anderen überwacht. Dies entspricht strukturell Ostroms Beobachtung, dass eine effektive Governance von Gemeingütern mehrere, sich überschneidende Durchsetzungsmechanismen erfordert und nicht eine einzige zentralisierte Autorität.

Das Tractatus-Rahmenwerk: Architektonische Governance

Das Tractatus-Rahmenwerk schlägt vier strukturelle Governance-Mechanismen vor, die unabhängig von dem KI-System funktionieren, das sie regeln:

Grenzendurchsetzung. Eine Klassifizierungsebene, die eingehende Anfragen auswertet und diejenigen identifiziert, die Werturteile, ethische Abwägungen oder kontextbezogene Sensibilität jenseits des formalisierbaren Bereichs beinhalten. Solche Anfragen werden von der KI nicht beantwortet – sie werden an bestimmte menschliche Entscheidungsträger innerhalb der Gemeinschaft weitergeleitet. Die Grenze wird durch eine gemeinschaftsspezifische Konfiguration definiert, nicht durch die Einschätzung der eigenen Kompetenz durch das KI-Modell. Bei einem agentenbasierten Einsatz regelt derselbe Mechanismus nicht nur Antworten, sondern auch Handlungen: Eine Aufgabe, die eine folgenschwere oder irreversible Operation ausführen würde, wird zur menschlichen Autorisierung weitergeleitet, anstatt autonom ausgeführt zu werden. Dies ist die strukturelle Umsetzung der Anforderung „Human-in-the-Loop“ und geht direkt auf die in Artikel 1 identifizierte Verlagerung des Risikos im Zeitalter der Agenten von der Interpretation der Ergebnisse hin zur Ausführung von Handlungen ein.

Beständigkeit der Anweisungen. Von der Community definierte Anweisungen – „verwende immer diese Terminologie“, „erzeuge niemals Inhalte zu diesem Thema“, „leite Fragen zu diesem Thema an den Moderator weiter“ – werden in einem separaten System gespeichert, auf das das KI-Modell weder zugreifen noch es ändern kann. Die Ausgaben des Modells werden nach ihrer Generierung anhand dieser gespeicherten Anweisungen überprüft. Konflikte werden zugunsten der gespeicherten Anweisung gelöst, unabhängig von der Ausgabeverteilung des Modells.

Validierung durch Querverweise. Die im vorherigen Artikel beschriebene Guardian Agent-Verifizierungsschicht – semantische Verankerung, Aufschlüsselung von Behauptungen, Drift-Überwachung und adaptives Feedback. Diese Mechanismen sind strukturell unabhängig vom KI-Modell und verwenden unterschiedliche Berechnungsmethoden (Ähnlichkeit von Einbettungen, keine generative Vorhersage), um die Ergebnisse zu bewerten. Genau diese Unabhängigkeit macht die Ebene robust gegenüber Untreue in der Gedankenkette (Artikel 1): Sie bewertet die Ausgabe anhand von Aufzeichnungen, anstatt der Darstellung des Modells über seine eigene Argumentation zu vertrauen – eine Selbstdarstellung, die in der Literatur als unzuverlässiges Überwachungssignal angesehen wird.

Überwachung des Kontextdrucks. Eine Meta-Governance-Schicht, die die Betriebsbedingungen überwacht, unter denen die KI arbeitet – Komplexität der Abfragen, Neuartigkeit im Verhältnis zur Trainingsverteilung, Systemauslastung – und die Verifizierungsintensität entsprechend anpasst. Unter hohen Belastungsbedingungen (neue Abfragen, Randfälle, komplexe mehrteilige Anfragen) werden die Verifizierungsschwellen verschärft. Dies trägt der Beobachtung Rechnung, dass KI-Systeme am ehesten unter Bedingungen versagen, unter denen ihre Ausgaben die größten Konsequenzen haben.

Was das Rahmenwerk nicht beansprucht

Es ist wichtig, ausdrücklich darzulegen, was das Tractatus-Rahmenwerk nicht beansprucht, da die Versuchung, den Beitrag zu übertreiben, ein bekannter Fehlermodus in der Governance-Forschung ist.

Es erhebt nicht den Anspruch, das Alignment-Problem zu lösen. Das Rahmenwerk regelt KI-Ausgaben nach deren Generierung. Es befasst sich nicht mit der tiefergehenden Frage, ob die internen Repräsentationen eines KI-Systems mit menschlichen Werten in Einklang gebracht werden können. Das Rahmenwerk geht von der Annahme aus, dass eine solche Angleichung mit der aktuellen Technologie nicht erreichbar ist und daher eine externe Governance erforderlich ist – doch diese Annahme könnte selbst falsch sein, und ein Durchbruch in der Angleichungsforschung könnte den Ansatz des Rahmenwerks weniger relevant machen.

Es erhebt nicht den Anspruch, Verteilungsverzerrungen zu beseitigen. Das Rahmenwerk mildert die Auswirkungen von Verteilungsverzerrungen durch Verifizierung und die Durchsetzung von Grenzen. Es beseitigt die Verzerrung nicht aus dem Modell. Unter Bedingungen, unter denen die Verifizierungsschichten versagen (neue Domänen, spärliche Community-Datensätze, adversarische Eingaben), werden sich Verteilungsverzerrungen wieder durchsetzen.

Es erhebt keinen Anspruch auf universelle Anwendbarkeit. Das Rahmenwerk ist für den Einsatz auf Community-Ebene konzipiert – für Organisationen mit Dutzenden bis Hunderten von Mitgliedern, authentifiziertem Zugriff und identifizierbaren Moderatoren. Ob es sich auf größere Organisationen, Kontexte mit anonymem Zugriff oder Communities ohne stabile Governance-Strukturen skalieren lässt, ist noch nicht getestet.

Es erhebt keinen Anspruch auf empirische Validierung in großem Maßstab. Das Framework ist implementiert und betriebsbereit, aber die Einsatzbasis ist klein. Aussagen zur Wirksamkeit basieren auf architektonischen Analysen und begrenzten Betriebsdaten, nicht auf kontrollierten Studien oder Langzeitforschung. Die Autoren betrachten dies als eine wesentliche Einschränkung.

Es erhebt keinen Anspruch darauf, existenzielle KI-Risiken anzugehen. Das Rahmenwerk regelt KI-Systeme der aktuellen Generation in spezifischen Einsatzkontexten. Es befasst sich nicht mit spekulativen Risiken im Zusammenhang mit allgemeiner künstlicher Intelligenz oder Superintelligenz, die grundlegend andere Governance-Ansätze erfordern.

Offene Forschungsfragen

Das Tractatus-Rahmenwerk wirft mehrere Fragen auf, die die Autoren als offen und untersuchungswürdig erachten:

1. Kalibrierung der Abgrenzung. Wie sollte die Grenze zwischen formalisierbaren und nicht formalisierbaren Abfragen festgelegt werden? Die aktuelle Implementierung nutzt eine gemeinschaftsspezifische Konfiguration, doch die Kriterien für die Festlegung dieser Grenze sind nicht formalisiert. Ist eine verallgemeinerbare Methodik zur Festlegung der Grenze möglich?

2. Angemessenheit der Verifizierung. Unter welchen Bedingungen versagen die Guardian Agent-Verifizierungsmechanismen? Wie hoch ist die Falsch-Negativ-Rate bei der Erkennung von Abweichungen auf Werteebene? Können adversarische Eingaben die Verifizierungsebenen systematisch umgehen?

3. Dynamik der Rückkopplungsschleife. Konvergiert der adaptive Rückkopplungsmechanismus im Laufe der Zeit zu den Präferenzen der Gemeinschaft, oder führt er zu systematischen Verzerrungen? Unter welchen Bedingungen verschlechtert sich das Rückkopplungssignal?

4. Gemeinschaftsübergreifende Verallgemeinerbarkeit. Liefert die Architektur vergleichbare Governance-Ergebnisse über verschiedene Community-Typen hinweg (religiös, ökologisch, kommerziell, bildungsbezogen)? Welche Community-Merkmale sagen Erfolg oder Misserfolg voraus?

5. Skalierbarkeitsgrenzen. Ab welcher Community-Größe versagt das polyzentrische Governance-Modell? Gibt es einen Schwellenwert, ab dem zentralisierte Governance effektiver wird?

6. Langfristige Stabilität. Verschlechtern sich die Governance-Eigenschaften im Laufe der Zeit, wenn sich der Inhaltskorpus der Gemeinschaft weiterentwickelt und das Modell neu trainiert wird? Gibt es ein Governance-Äquivalent zur Modelldrift?

Diese Fragen sind nicht rhetorisch. Sie definieren eine Forschungsagenda, die die Autoren für die Bewertung des Beitrags des Rahmenwerks als notwendig erachten. Der Wert des Frameworks als Forschungsbeitrag hängt von der Bereitschaft ab, es einer empirischen Überprüfung zu unterziehen, und die Autoren laden aktiv zu einer solchen Überprüfung ein.

Die vollständige Governance-Architektur finden Sie unter Village AI on Agentic Governance; der Quellcode des Tractatus-Rahmenwerks ist als Open Source unter agenticgovernance.digital verfügbar. Das hier erörterte Prinzip der Grenzsetzung – die Entscheidung darüber, was ein handelndes System tun darf und was nicht – wird für Praktiker in Agents at Work behandelt, während Working with Claude die Bewertung von Modellausgaben behandelt.