Alle Ausgaben · Community Edition

Your Community, Your AI — CC BY 4.0

Warum Regeln und Schulungen nicht ausreichen – Die Herausforderung der Schulleitung

Der Brief an die Eltern

Bevor wir uns mit der Philosophie der Schulleitung befassen, beginnen wir mit einer Geschichte über einen Brief.

Eine Schulleiterin bittet ein KI-System, ihr beim Verfassen eines Briefes an die Eltern zu einem heiklen Vorfall zu helfen. Sie ist konkret: Sie wünscht sich einen Ton, der fürsorglich und besonnen ist und auf den Werten der Schule – Vertrauen und gemeinsame Verantwortung – basiert. Sie tippt ihre Anfrage sorgfältig ein und wartet.

Die KI erstellt einen gut strukturierten Brief. Er ist klar, professionell und gründlich. Er spricht von „Kommunikation mit den Interessengruppen“, „Risikominderung“, „Bewältigung von Reputationsschäden“ und „Gewährleistung der Einhaltung von Offenlegungspflichten“. Er liest sich effizient. Er klingt kompetent. Und er ist völlig falsch.

Die Eltern brauchen kein Stakeholder-Management. Sie wollen von einer Schule hören, der sie vertrauen. Sie brauchen keine Formulierungen zur Risikominderung. Sie brauchen die Gewissheit, dass ihre Kinder in Sicherheit sind und dass die Schulgemeinschaft füreinander sorgt. Die Schulleiterin bat um Fürsorge und Verantwortung, und die KI lieferte ihr Krisenkommunikation im Unternehmensstil – weil ihre Trainingsdaten tausend PR-Leitfäden für jeden einzelnen enthalten, der mit der Stimme einer Schule spricht.

Die KI hat die Anweisung der Schulleiterin nicht abgelehnt. Sie hat nicht gesagt: „Ich kenne die Kultur Ihrer Schule nicht.“ Sie hat einfach das, worum sie gebeten hatte, durch das ersetzt, was in ihren Trainingsdaten statistisch häufiger vorkam. Die Ersetzung erfolgte stillschweigend. Wäre die Schulleiterin müde, in Eile oder weniger aufmerksam als sonst gewesen, hätte sie es vielleicht nicht bemerkt. Der Brief wäre verschickt worden, und die Eltern hätten eine Mitteilung erhalten, die nicht der Tradition der Schule entsprach – professionell formuliert, korrekt strukturiert und auf subtile Weise distanzierend.

Ihr Smartphone korrigiert Wörter automatisch. Sie sehen die rote Unterstreichung und korrigieren den Fehler. KI korrigiert Werte automatisch. Und es gibt keine Unterstreichung.

Wenn Muster Werte außer Kraft setzen

Der Schulbrief ist kein Einzelfall. Der gleiche Mechanismus greift in jedem KI-Gespräch.

Wenn ein Mitglied ein KI-System um Rat zu einer schwierigen zwischenmenschlichen Situation innerhalb der Gruppe bittet, greift das System standardmäßig auf die Sprache der Einzeltherapie zurück – Durchsetzungstraining, Grenzen setzen, Selbstfürsorge –, weil genau das in seinen Trainingsdaten vorherrscht. Es greift nicht auf die Sprache der gegenseitigen Rücksichtnahme, des Gebens und Nehmens und der praktischen Weisheit zurück, die daraus resultiert, dass man weiß, dass man noch jahrelang bei Treffen mit dieser Person zusammenarbeiten wird.

Wenn ein Vereinssekretär die KI um Hilfe bei einer heiklen Mitteilung an die Mitglieder bittet, greift sie standardmäßig auf die Sprache der Unternehmenskommunikation zurück – Stakeholder-Management, Kommunikationsrahmen, Gesprächspunkte –, da Geschäftskorrespondenz in ihren Trainingsdaten die Korrespondenz von Gemeinschaften bei weitem übertrifft.

Die KI steht der Kultur Ihrer Gruppe nicht feindlich gegenüber. Sie kennt die Kultur Ihrer Gruppe einfach nicht. Sie weiß, was statistisch gesehen üblich ist, und was statistisch gesehen üblich ist, ist nicht das, was für Ihre Gemeinschaft am wichtigsten ist.

Das ist das Governance-Problem. Keine Böswilligkeit. Keine Inkompetenz. Strukturelle Voreingenommenheit, die still im Hintergrund wirkt.

Wenn die KI handelt, steigt der Einsatz

Alles oben Gesagte traf zu, als die KI nur antwortete. Wie in Artikel 1 beschrieben, handelt die KI zunehmend – und wenn eine stillschweigende Wertersetzung eher mit einer Handlung als mit einem Satz verbunden ist, verschärft sich das Governance-Problem in dreierlei Hinsicht. Governance-Experten, die sich mit KI-Agenten befassen, verweisen auf dieselben drei Punkte. (Alle in dieser Reihe vorkommenden unbekannten Begriffe werden im Glossar in einfacher Sprache definiert.)

Manche Handlungen lassen sich nicht rückgängig machen. Ein falsch eingeschätzter Entwurf kann vor dem Absenden korrigiert werden – es gibt einen Moment zwischen der Ausgabe der KI und der Konsequenz. Ein Agent, der etwas versendet, bucht, veröffentlicht, löscht oder ablegt, beseitigt diesen Moment. Die Auftraggeberin in unserer Geschichte hat den falschen Brief abgefangen, weil sie ihn zuerst gelesen hat. Ein Akteur, der ihn in ihrem Namen per E-Mail verschickt hätte, hätte ihr diese Chance nicht gegeben.

Die Verantwortlichkeit verschwimmt. Wenn ein Akteur in Ihrem Namen handelt und das Ergebnis falsch ist, wer ist dann verantwortlich? Sie haben in einem Satz ein Ziel festgelegt; das System hat die Schritte ausgewählt; das Unternehmen hat das System entwickelt. Wissenschaftler bezeichnen die Lücke, die sich hier auftut, als „Verantwortungslücke“ – und warnen vor der „moralischen Knautschzone“, in der die Schuld auf den nächstgelegenen Menschen fällt, obwohl diese Person kaum echte Kontrolle hatte. Eine Gemeinschaft, die einen externen Agenten in ihrem Namen handeln lässt, übernimmt die Schuld, ohne die Kontrolle zu haben.

Man kann dem, was man nicht vorhersehen kann, nicht vollständig zustimmen. Echte Zustimmung bedeutet, zu verstehen, womit man einverstanden ist. Doch der Weg eines Agenten durch eine mehrstufige Aufgabe ist offen, und – wie in Artikel 1 angemerkt – spiegelt selbst die eigene Darstellung der KI über ihre Argumentation nicht zuverlässig wider, was ihre Handlungen motiviert hat. Man kann einem Ziel zustimmen; man kann jedoch nicht im Voraus sinnvoll jedem einzelnen Schritt zustimmen, den ein autonomes System unternehmen könnte, um dieses Ziel zu erreichen. (Manche Konzepte versuchen, diese Lücke zu verringern, indem sie einem vor dem Handeln einen Plan zeigen; das hilft zwar, schließt die Lücke aber nicht.)

Nichts davon spricht gegen den Einsatz von KI, die handelt. Es spricht dafür, dass die Disziplin, die im Zeitalter der Chatbots ratsam war, im Zeitalter der Agenten unverzichtbar wird: Das Verhalten der KI muss von etwas außerhalb der KI überprüft werden, ein Mensch muss weiterhin in der Lage sein, einzugreifen, und die daraus resultierenden, irreversiblen Entscheidungen müssen bei den Menschen bleiben. Genau darum geht es im weiteren Verlauf dieses Artikels.

Warum mehr Regeln das Problem nicht lösen

Der Instinkt der meisten Organisationen ist es, angesichts von KI-Risiken Richtlinien zu verfassen. Richtlinien zur akzeptablen Nutzung. Ethikrichtlinien für KI. Nutzungsbedingungen. Rahmenwerke für verantwortungsvolle KI.

Diese Dokumente sind nicht nutzlos, aber sie haben eine grundlegende Einschränkung gemeinsam: Sie verlassen sich darauf, dass das KI-System sie befolgt.

Ein KI-System liest Ihr Richtliniendokument nicht und beschließt dann, sich daran zu halten. Es generiert Antworten auf der Grundlage statistischer Muster in seinen Trainingsdaten. Wenn diese Muster im Widerspruch zu Ihrer Richtlinie stehen, setzen sich die Muster durch – nicht, weil die KI rebellisch ist, sondern weil sie Richtlinien nicht versteht. Sie verarbeitet Muster.

Man kann ein Modell feinabstimmen – sein Training so anpassen, dass bestimmte Verhaltensweisen betont werden. Das hilft zwar, löst aber nicht das zugrunde liegende Problem. Durch die Feinabstimmung werden bestehende Muster um neue ergänzt. Unter Druck, unter ungewöhnlichen Umständen oder bei neuartigen Fragen setzen sich die alten Muster wieder durch. Der Fachbegriff lautet „katastrophales Vergessen“, aber die umgangssprachliche Version ist einfacher: Das Training verliert an Wirkung.

Eine Richtlinie zu verfassen, die besagt: „Unsere KI wird die Werte unserer Gemeinschaft respektieren“, ist so, als würde man eine Richtlinie verfassen, die besagt: „Unser Fluss wird nicht über die Ufer treten.“ Der Fluss liest keine Richtlinien. Wenn man Überschwemmungen verhindern will, muss man Deiche bauen – bauliche Maßnahmen, die unabhängig vom Verhalten des Flusses wirken.

KI-Governance erfordert denselben Ansatz. Nicht Regeln, denen die KI folgen soll, sondern Strukturen, die unabhängig von der KI funktionieren und ihr Verhalten von außen kontrollieren.

Was uns die Traditionen der Governance lehren

Die Erkenntnis, dass manche Entscheidungen nicht auf Regeln reduziert werden können, ist nicht neu. Sie ist uralt.

Der Philosoph Ludwig Wittgenstein widmete sein Lebenswerk der Erforschung der Grenze zwischen dem, was sich präzise aussagen lässt, und dem, was jenseits präziser Aussagen liegt. Seine Schlussfolgerung – dass „wovon man nicht sprechen kann, darüber muss man schweigen“ – ist für die KI-Governance von unmittelbarer Relevanz. Manche Fragen lassen sich systematisieren: „Wann findet die nächste Sitzung statt?“ hat eine eindeutige Antwort, die eine KI nachschlagen kann. Andere Fragen hingegen nicht: „Wie sollte ich dieses Anliegen im Ausschuss ansprechen, ohne Anstoß zu erregen?“ – hier spielen Urteilsvermögen, Kontext, Beziehungen und Werte eine Rolle, die sich einer systematischen Behandlung entziehen.

Die Grenze zwischen dem, was an eine Maschine delegiert werden kann, und dem, was beim Menschen verbleiben muss, ist die Grundlage einer soliden KI-Governance. Der Fehler besteht nicht darin, KI für die erste Art von Fragen einzusetzen. Der Fehler besteht darin, der KI zu erlauben, die zweite Art von Fragen ohne menschliche Aufsicht zu beantworten.

Der politische Philosoph Isaiah Berlin argumentierte, dass manche menschlichen Werte tatsächlich unvereinbar sind – Freiheit und Gleichheit, Tradition und Fortschritt, individuelles Gewissen und gemeinschaftliche Harmonie. Es gibt keine Formel, die diese Spannungen auflöst. Sie erfordern fortwährendes menschliches Urteilsvermögen, Verhandlungen und jene Art von praktischer Weisheit, die Gemeinschaften über Generationen hinweg entwickeln.

KI-Systeme sind von ihrer Konzeption her auf Optimierung ausgerichtet. Sie suchen nach einer einzigen Antwort. Doch wenn Werte wirklich miteinander in Konflikt stehen, gibt es keine einzige Antwort – es gibt nur die Antwort, die diese Gruppe zu diesem Zeitpunkt mit diesen Menschen als die am wenigsten schlechte erachtet. Dieses Urteil ist dem Wesen nach menschlich, und jedes KI-Regulierungssystem, das so tut, als wäre es anders, regiert nicht – es entzieht sich seiner Verantwortung.

Gemeinschaftsgruppen haben ihre eigene Version dieser Erkenntnis. Jeder Ausschuss, der schon einmal ein begrenztes Budget gegen konkurrierende Prioritäten abgewogen, eine Meinungsverschiedenheit zwischen langjährigen Mitgliedern geschlichtet oder entschieden hat, wie man Neulinge willkommen heißt, ohne die etablierten Mitglieder zu verprellen, versteht bereits – aus praktischer Erfahrung –, warum man der KI keine Entscheidungen über Werte anvertrauen kann.

Wie Village die KI strukturell regelt

Village verlässt sich nicht darauf, der KI vorzuschreiben, wie sie sich verhalten soll. Es integriert Governance in die Architektur – Strukturen, die unabhängig von der KI funktionieren und von ihr nicht außer Kraft gesetzt werden können.

Der „Boundary Enforcer“ hindert die KI daran, wertbezogene Entscheidungen zu treffen – und eigenmächtig weitreichende Maßnahmen zu ergreifen. Wenn eine Frage Kompromisse beim Datenschutz, ethische Urteile oder den kulturellen Kontext betrifft oder wenn eine Aufgabe dazu führen würde, im Namen Ihrer Gemeinschaft zu handeln, stoppt das System den Vorgang und leitet ihn an einen Menschen weiter – an Ihren Moderator, Ihren Vorsitzenden oder Ihren Ausschuss. Die KI kann diese Grenze nicht außer Kraft setzen, da sie außerhalb ihrer Kontrolle liegt. Dies ist die strukturelle Antwort auf das Problem der „geringeren Interventionsmöglichkeiten“: Die Möglichkeit zum Eingreifen ist fest integriert und wird nicht dem Zufall überlassen.

Das System zur Aufbewahrung von Anweisungen speichert die expliziten Anweisungen Ihrer Gemeinschaft in einem separaten System, das die KI nicht verändern kann. Wenn die KI eine Antwort generiert, wird diese anhand dieser gespeicherten Anweisungen überprüft. Widerspricht die Antwort einer Anweisung, hat die Anweisung Vorrang – standardmäßig, unabhängig davon, was die Trainingsmuster der KI nahelegen.

Der Querverweis-Validator gleicht die von der KI vorgeschlagenen Antworten und Maßnahmen mit den tatsächlichen Aufzeichnungen Ihrer Community ab. Er fragt die KI nicht, ob ihre Antwort korrekt ist – das hieße, das System solle sich selbst überprüfen, und wie in Artikel 1 erläutert, kann man sich nicht darauf verlassen, dass die Darstellung der eigenen Argumentation durch die KI tatsächlich widerspiegelt, was die Antwort tatsächlich motiviert hat. Daher ignoriert der Validator die Selbstauskunft der KI vollständig. Er nutzt mathematische Messverfahren, die sich grundlegend von denen der KI unterscheiden, um festzustellen, ob die Antwort auf den tatsächlichen Inhalten Ihrer Community basiert. Er überprüft das Ergebnis, nicht die Erklärung.

Der Kontextdruck-Monitor achtet auf verschlechterte Betriebsbedingungen – Situationen, in denen die KI unter Belastung steht, komplexe Anfragen verarbeitet oder auf neuartige Fragen stößt. Wenn er diese Bedingungen erkennt, erhöht er die Intensität der Überprüfung. Je schwieriger die Frage, desto genauer wird die Antwort unter die Lupe genommen.

Das sind keine Richtlinien. Es sind Strukturen. Sie funktionieren unabhängig davon, ob die KI damit einverstanden ist oder nicht – genauso wie ein Deich funktioniert, unabhängig davon, ob der Fluss damit einverstanden ist oder nicht.

Der Unterschied zwischen Zielvorstellung und Architektur

Viele Organisationen veröffentlichen Ethik-Erklärungen zur KI. Village verlässt sich nicht auf Ethik-Erklärungen. Es stützt sich auf architektonische Vorgaben, die die Governance strukturell durchsetzen.

Diese Unterscheidung ist wichtig, denn eine Zielvorstellung ist das, was man sich erhofft. Architektur ist das, was tatsächlich geschieht. Ihre Gruppe verlässt sich nicht auf die Hoffnung, dass der Schatzmeister ordnungsgemäß mit den Geldern umgeht – sie verlangt zwei Unterschriften auf jedem Scheck. Das ist architektonische Governance. Das gleiche Prinzip gilt für KI.

Das Tractatus-Framework – transparent und offen

Die Governance-Architektur hinter Village AI wird als Tractatus-Framework bezeichnet. Dabei sind drei Dinge besonders wichtig zu wissen.

Es ist offen. Das gesamte Framework wird unter einer Open-Source-Lizenz veröffentlicht. Jeder kann den Code lesen, die Regeln prüfen und sich vergewissern, dass die Governance tatsächlich das tut, was sie verspricht. Dies ist das Gegenteil der KI-Governance der Big-Tech-Unternehmen, bei der die Regeln proprietär sind und die Argumentation verborgen bleibt. Wenn Google oder OpenAI behaupten, ihre KI sei „auf menschliche Werte ausgerichtet“, haben Sie keine Möglichkeit, dies zu überprüfen. Bei Tractatus können Sie jede Zeile lesen.

Es ist transparent. Jede Governance-Entscheidung wird protokolliert. Wenn der „Boundary Enforcer“ die KI daran hindert, eine wertebezogene Entscheidung zu treffen, wird dieses Ereignis aufgezeichnet. Wenn der „Cross-Reference Validator“ eine Diskrepanz feststellt, wird dies aufgezeichnet. Ihre Moderatoren können genau sehen, was das Governance-System getan hat und warum. Es gibt keine versteckte Ebene, auf der Entscheidungen ohne Rechenschaftspflicht getroffen werden.

Es ist anpassbar. Das Framework ist kein starres Regelwerk, das von außen auferlegt wird. Gemeinschaften können die Governance so gestalten, dass sie ihre eigenen Prioritäten widerspiegelt. Ein Sportverein und ein Elternbeirat einer Schule haben unterschiedliche Werte, unterschiedliche Sensibilitäten und unterschiedliche Grenzen. Das Tractatus-Framework trägt dem Rechnung – nicht, indem es Gemeinschaften erlaubt, die Governance zu schwächen, sondern indem es ihnen ermöglicht, selbst zu definieren, was die Governance schützt. Die Satzung Ihrer Gruppe, die Prioritäten Ihrer Gruppe, die Grenzen Ihrer Gruppe – strukturell durchgesetzt, nicht nur dokumentiert.

Das vollständige Rahmenwerk, einschließlich der zugrunde liegenden Forschungsergebnisse, ist unter agenticgovernance.digital verfügbar. Sie müssen es nicht lesen, um Village zu nutzen – die Governance funktioniert, unabhängig davon, ob Sie sie sich ansehen oder nicht. Wenn Sie jedoch genau verstehen möchten, wie Ihre KI gesteuert wird, steht Ihnen die Tür offen.

Im nächsten Artikel werden wir uns ansehen, was Village AI heute in der Praxis tatsächlich leistet – womit es Ihrer Gruppe helfen kann, wie Vorurteile durch das Vokabularsystem angegangen werden und was sich noch in der Entwicklung befindet.

Möchten Sie KI-Tools wie diese gut und sicher nutzen? Unsere kostenlosen Kurse – Working with Claude und Agents at Work – vermitteln die praktischen Fähigkeiten. Die vollständige Governance-Architektur hinter Village AI finden Sie unter Village AI – Agentic Governance.