Alle Ausgaben · Conservation Edition

Your Community, Your AI — CC BY 4.0

Warum Regeln und Schulungen nicht ausreichen – Die Herausforderung der Governance

Der Überwachungsbericht

Bevor wir uns mit der Governance-Philosophie befassen, beginnen wir mit einer Geschichte über einen Bericht. (Alle in dieser Reihe vorkommenden Begriffe, die Ihnen unbekannt sind, werden im Glossar in einfacher Sprache erklärt.)

Eine Koordinatorin bittet ein KI-System, die Daten eines Jahres zur Lebensraumüberwachung für den Jahresbericht an die Geldgeber zusammenzufassen. Sie ist dabei sehr konkret: Sie möchte, dass die Daten mit entsprechenden Einschränkungen dargestellt werden – wobei Lücken in der Erfassungsreichweite zu vermerken sind, Stellen hervorzuheben sind, an denen der Einsatz der Freiwilligen geringer war als geplant, und zwischen bestätigten Trends und vorläufigen Beobachtungen unterschieden werden soll. Sie tippt ihre Anfrage sorgfältig ein und wartet.

Die KI erstellt eine gut geschriebene Zusammenfassung. Sie ist klar, professionell und liest sich wie ein ausgefeilter Beratungsbericht. Darin ist die Rede von einer „signifikanten Erholung im südlichen Sektor“, „deutlichen Aufwärtstrends beim Bruterfolg“ und einer „umfassenden Überwachungsabdeckung an allen Standorten“. Der Text liest sich gut. Er klingt maßgeblich. Und er ist auf subtile Weise falsch.

Im südlichen Sektor fielen zwei Erhebungsbesuche aufgrund von Überschwemmungen aus. In den Brutdaten gibt es eine Lücke, da der regelmäßige Freiwillige sechs Wochen lang krank war. In den Standorten im Hochland war die Erfassung lückenhaft, da der Zugang während der Jagdsaison eingeschränkt war. Die Koordinatorin fragte nach Einschränkungen, und die KI lieferte ihr eine selbstbewusste Darstellung – denn ihre Trainingsdaten enthalten tausend ausgefeilte Berichte für jeden einzelnen, der mit seinen Unsicherheiten beginnt.

Die KI widersetzte sich der Anweisung der Koordinatorin nicht. Sie sagte nicht: „Ich verstehe die Standards der wissenschaftlichen Berichterstattung nicht.“ Sie ersetzte einfach das, was sie verlangte, durch das, was in ihren Trainingsdaten statistisch häufiger vorkam. Die Ersetzung erfolgte stillschweigend. Wäre die Koordinatorin müde gewesen oder hätte sie sich beeilt, die Frist des Geldgebers einzuhalten, hätte sie es vielleicht nicht bemerkt. Der Bericht wäre verschickt worden, und die Förderer hätten ein irreführendes Bild von den Ergebnissen des Programms erhalten – professionell formuliert, gut gemeint und stillschweigend ungenau.

Euer Smartphone korrigiert Wörter automatisch. Ihr seht die rote Unterstreichung und korrigiert den Fehler. KI korrigiert Standards automatisch. Und es gibt keine Unterstreichung.

Wenn Muster die Genauigkeit außer Kraft setzen

Der Überwachungsbericht ist kein Einzelfall. Der gleiche Mechanismus greift bei jedem KI-Gespräch.

Wenn ein Freiwilliger ein KI-System um Rat bittet, wie man eine Art anhand einer unvollständigen Sichtung identifizieren kann, gibt das System standardmäßig eine sichere Identifizierung ab – denn das Internet belohnt Gewissheit und bestraft „Ich bin mir nicht sicher“. Es sagt nicht von sich aus: „Das könnte Art A oder Art B sein; hier sind weitere Anhaltspunkte, die bei der Unterscheidung helfen würden“, da zurückhaltende Antworten in seinen Trainingsdaten statistisch unterrepräsentiert sind.

Wenn ein Teamleiter die KI bittet, beim Verfassen einer Stellungnahme zu einem Bauantrag zu helfen, der ein Schutzgebiet bedroht, greift sie standardmäßig auf die vorsichtige, ausgewogene Sprache des Stakeholder-Managements zurück – denn Unternehmenskommunikation ist in ihren Trainingsdaten weitaus häufiger vertreten als Naturschutzarbeit. Sie greift nicht auf die präzise, evidenzbasierte Sprache zurück, die Planungsbehörden verlangen und die auf konkreten Erhebungsdaten und gesetzlichen Verweisen beruht.

Die KI steht Ihren Standards nicht feindlich gegenüber. Sie kennt Ihre Standards einfach nicht. Sie weiß, was statistisch üblich ist, und was statistisch üblich ist, entspricht nicht den strengsten Anforderungen Ihrer Arbeit.

Das ist das Governance-Problem. Keine Böswilligkeit. Keine Inkompetenz. Strukturelle Voreingenommenheit, die still im Hintergrund wirkt.

Wenn die KI handelt, steigt der Einsatz

All das oben Gesagte traf zu, als die KI nur antwortete. Wie in Artikel 1 beschrieben, handelt die KI zunehmend – und wenn eine stillschweigende Ersetzung von Genauigkeit durch Selbstsicherheit mit einer Handlung statt mit einem Satz einhergeht, verschärft sich das Governance-Problem in dreierlei Hinsicht. Die Experten, die sich mit KI-Agenten beschäftigen, verweisen auf dieselben drei Aspekte.

Manche Handlungen lassen sich nicht rückgängig machen. Eine irreführende Zusammenfassung kann korrigiert werden, bevor sie versendet wird – es gibt einen Moment zwischen der Ausgabe der KI und der Konsequenz. Ein Agent, der etwas einreicht, versendet, veröffentlicht oder teilt, beseitigt diesen Moment. Die Koordinatorin in unserer Geschichte hat den übertrieben selbstbewussten Bericht entdeckt, weil sie ihn zuerst gelesen hat. Ein Agent, der ihn in ihrem Namen beim Geldgeber eingereicht – oder diese geschönten Zahlen in einen regionalen Datensatz eingespielt – hätte ihr diese Chance nicht gegeben. Und eine sensible Aufzeichnung lässt sich, sobald sie geteilt wurde, nicht mehr zurückrufen.

Die Verantwortlichkeit verschwimmt. Wenn ein Akteur in Ihrem Namen handelt und das Ergebnis falsch ist, wer ist dann verantwortlich? Sie haben in einem Satz ein Ziel festgelegt; das System hat die Schritte ausgewählt; das Unternehmen hat das System entwickelt. Wissenschaftler bezeichnen die Lücke, die sich hier auftut, als „Verantwortungslücke“ – und warnen vor der „moralischen Kollisionszone“, in der die Schuld auf den nächstgelegenen Menschen fällt, obwohl diese Person kaum echte Kontrolle hatte. Für eine Organisation, deren wissenschaftliche Glaubwürdigkeit ihr Kapital ist, stellt es ein echtes Risiko dar, die Schuld für einen Fehler zu tragen, den man nicht begangen hat.

Man kann dem, was man nicht vorhersehen kann, nicht uneingeschränkt zustimmen. Echte Zustimmung bedeutet, zu verstehen, womit man einverstanden ist. Doch der Weg eines Agenten durch eine mehrstufige Aufgabe ist offen, und – wie in Artikel 1 angemerkt – spiegelt selbst die eigene Darstellung der KI über ihre Argumentation nicht zuverlässig wider, was ihre Handlungen motiviert hat. Man kann einem Ziel zustimmen; man kann jedoch nicht im Voraus sinnvoll jedem einzelnen Schritt zustimmen, den ein autonomes System unternehmen könnte, um dieses Ziel zu erreichen. (Manche Konzepte versuchen, diese Lücke zu verringern, indem sie einem vor dem Handeln einen Plan zeigen; das hilft zwar, schließt die Lücke aber nicht.)

Nichts davon spricht gegen den Einsatz von KI, die handelt. Es spricht dafür, dass die Disziplin, die im Zeitalter der Chatbots ratsam war, im Zeitalter der Agenten unverzichtbar wird: Das Verhalten der KI muss von etwas außerhalb der KI überprüft werden, ein Mensch muss weiterhin in der Lage sein, einzugreifen, und die daraus resultierenden, irreversiblen Entscheidungen müssen bei den Menschen liegen. Genau darum geht es im weiteren Verlauf dieses Artikels.

Warum mehr Regeln das Problem nicht lösen

Der Instinkt der meisten Organisationen ist es, angesichts von KI-Risiken Richtlinien zu verfassen. Richtlinien zur akzeptablen Nutzung. Ethikrichtlinien für KI. Nutzungsbedingungen. Rahmenwerke für verantwortungsvolle KI.

Diese Dokumente sind nicht nutzlos, aber sie haben eine grundlegende Einschränkung gemeinsam: Sie verlassen sich darauf, dass das KI-System sie befolgt.

Ein KI-System liest Ihr Richtliniendokument nicht und beschließt dann, sich daran zu halten. Es generiert Antworten auf der Grundlage statistischer Muster in seinen Trainingsdaten. Wenn diese Muster im Widerspruch zu Ihrer Richtlinie stehen, setzen sich die Muster durch – nicht, weil die KI rebellisch ist, sondern weil sie Richtlinien nicht versteht. Sie versteht Muster.

Man kann ein Modell feinabstimmen – sein Training so anpassen, dass bestimmte Verhaltensweisen stärker betont werden. Das hilft zwar, löst aber nicht das zugrunde liegende Problem. Durch die Feinabstimmung werden bestehende Muster um neue ergänzt. Unter Druck, unter ungewöhnlichen Umständen oder bei neuartigen Fragen setzen sich die alten Muster wieder durch. Der Fachbegriff dafür lautet „katastrophales Vergessen“, aber die umgangssprachliche Version ist einfacher: Das Training verliert an Wirkung.

Eine Richtlinie zu verfassen, die besagt: „Unsere KI wird wissenschaftliche Genauigkeit wahren“, ist so, als würde man eine Richtlinie verfassen, die besagt: „Unser Fluss wird nicht über die Ufer treten.“ Der Fluss liest keine Richtlinien. Wenn man Überschwemmungen verhindern will, muss man Deiche errichten – bauliche Maßnahmen, die unabhängig von den Absichten des Flusses wirken.

KI-Governance erfordert denselben Ansatz. Nicht Regeln, denen die KI folgen soll, sondern Strukturen, die unabhängig von der KI funktionieren und ihr Verhalten von außen überprüfen.

Was uns die wissenschaftliche Methode lehrt

Die Erkenntnis, dass die Überprüfung unabhängig von dem zu überprüfenden System erfolgen muss, ist nicht neu. Sie ist grundlegend für die Wissenschaft.

Peer-Review gibt es nicht, weil Forscher unzuverlässig sind, sondern weil die Person, die eine Erkenntnis gewonnen hat, die falsche Person ist, um diese zu bewerten. Externe Replikation gibt es, weil die Wiederholung eines Experiments in einem anderen Labor prüft, ob das Ergebnis robust ist oder ein Artefakt lokaler Bedingungen. Fehlerbalken gibt es, weil die Angabe eines Ergebnisses ohne dessen Unsicherheit keine Wissenschaft ist – es ist Marketing.

Diese Prinzipien lassen sich direkt auf die KI-Governance übertragen.

Ein KI-System, das eine Antwort generiert und anschließend seine eigene Antwort bewertet, verhält sich so, als würde ein Forscher seine eigene Arbeit begutachten. Die Bewertung ist strukturell kompromittiert, unabhängig von der Absicht. Was benötigt wird, ist eine externe Verifizierung – Systeme, die architektonisch von der KI getrennt sind und deren Ergebnisse anhand unabhängiger Belege überprüfen.

Der Wissenschaftsphilosoph Karl Popper argumentierte, dass das, was Wissenschaft von Nicht-Wissenschaft unterscheidet, die Falsifizierbarkeit ist – die Möglichkeit, widerlegt zu werden. Ein KI-System, das selbstbewusste, nicht falsifizierbare Narrative erzeugt, arbeitet nicht wissenschaftlich, unabhängig davon, wie viele wissenschaftliche Arbeiten in seinen Trainingsdaten enthalten waren. Eine Governance, die Falsifizierbarkeit einführt – die KI-Behauptungen anhand tatsächlicher Beweise überprüft –, stellt die wissenschaftliche Disziplin wieder her, die der Architektur der KI fehlt.

Der politische Philosoph Isaiah Berlin argumentierte, dass manche menschlichen Werte tatsächlich unvereinbar sind – Effizienz und Gründlichkeit, Schnelligkeit und Strenge, Zugänglichkeit und Präzision. Es gibt keine Formel, die diese Spannungen auflöst. Sie erfordern kontinuierliches menschliches Urteilsvermögen, Verhandlungen und jene Art von praktischer Weisheit, die Organisationen im Laufe jahrelanger Praxiserfahrung entwickeln.

KI-Systeme sind von ihrer Konzeption her auf Optimierung ausgerichtet. Sie suchen nach der besten Antwort. Doch wenn Werte tatsächlich im Konflikt stehen – wenn ein Geldgeber eine einwandfreie Darstellung wünscht und die Daten Einschränkungen erfordern –, gibt es keine beste Antwort. Es gibt nur die Antwort, die diese Organisation zum gegenwärtigen Zeitpunkt und unter Berücksichtigung dieser Standards als die am besten vertretbare erachtet. Dieses Urteil ist von Natur aus menschlich, und jedes KI-Governance-Rahmenwerk, das so tut, als wäre es anders, übt keine Steuerung aus – es entzieht sich der Verantwortung.

Wie Village KI strukturell steuert

Village verlässt sich nicht darauf, der KI vorzuschreiben, wie sie sich verhalten soll. Es baut Governance in die Architektur ein – Strukturen, die unabhängig von der KI funktionieren und von ihr nicht außer Kraft gesetzt werden können.

Der „Boundary Enforcer“ hindert die KI daran, Entscheidungen über die Datenqualität zu treffen – und eigenmächtig Konsequenzen daraus zu ziehen. Wenn es darum geht, mehrdeutige Umfrageergebnisse zu interpretieren, widersprüchliche Beweise abzuwägen oder eine Empfehlung abzugeben, die Entscheidungen zur Landbewirtschaftung beeinflusst, oder wenn eine Aufgabe dazu führen würde, im Namen Ihrer Organisation zu handeln – Unterlagen einzureichen, eine Antwort zu versenden, Daten über Ihre Grenzen hinaus weiterzugeben –, stoppt das System den Vorgang und leitet ihn an einen Menschen weiter – Ihren Moderator, Ihren Koordinator oder Ihren Vorstand. Die KI kann diese Grenze nicht außer Kraft setzen, da sie außerhalb ihrer Kontrolle liegt. Dies ist die strukturelle Antwort auf das Problem der „geringeren Eingriffsmöglichkeiten“: Die Möglichkeit zum Eingreifen ist fest integriert und wird nicht dem Zufall überlassen.

Das System zur Beibehaltung von Anweisungen speichert die expliziten Anweisungen Ihrer Organisation in einem separaten System, das die KI nicht ändern kann. Wenn die KI eine Antwort generiert, wird diese anhand dieser gespeicherten Anweisungen überprüft. Widerspricht die Antwort einer Anweisung – beispielsweise durch die Darstellung unqualifizierter Behauptungen, obwohl die Anweisung die Angabe von Unsicherheiten vorschreibt –, hat die Anweisung standardmäßig Vorrang, unabhängig davon, was die Trainingsmuster der KI nahelegen.

Der Querverweis-Validator gleicht die von der KI vorgeschlagenen Ergebnisse und Maßnahmen mit den tatsächlichen Aufzeichnungen Ihrer Organisation ab. Er fragt die KI nicht, ob ihre Antwort korrekt ist – das hieße, das System solle sich selbst überprüfen, und wie in Artikel 1 erläutert, kann man sich nicht darauf verlassen, dass die Darstellung der eigenen Argumentation durch die KI tatsächlich widerspiegelt, was die Antwort tatsächlich begründet hat. Daher ignoriert der Validator die Selbstauskunft der KI vollständig. Er nutzt mathematische Messverfahren, die sich grundlegend von denen der KI unterscheiden, um festzustellen, ob die Antwort auf den tatsächlichen Inhalten Ihrer Organisation basiert. Er überprüft die Arbeit, nicht die Erklärung.

Der Kontextdruck-Monitor achtet auf verschlechterte Betriebsbedingungen – Situationen, in denen die KI unter Belastung steht, komplexe Anfragen verarbeitet oder auf neuartige Fragen stößt. Wenn er diese Bedingungen erkennt, erhöht er die Intensität der Überprüfung. Je schwieriger die Frage, desto genauer wird die Antwort unter die Lupe genommen.

Das sind keine Richtlinien. Es sind Strukturen. Sie funktionieren unabhängig davon, ob die KI damit einverstanden ist oder nicht – genauso wie ein Deich funktioniert, unabhängig davon, ob der Fluss damit einverstanden ist oder nicht.

Der Unterschied zwischen Zielvorstellung und Architektur

Viele Organisationen veröffentlichen Erklärungen zur KI-Ethik. Village verlässt sich nicht auf solche Erklärungen. Es stützt sich auf architektonische Vorgaben, die die Governance strukturell durchsetzen.

Diese Unterscheidung ist wichtig, denn eine Zielvorstellung ist das, was man sich erhofft. Architektur ist das, was tatsächlich geschieht. Ihre Naturschutzstiftung verlässt sich nicht auf die Hoffnung, dass der Schatzmeister ordnungsgemäß mit den Geldern umgeht – sie verlangt zwei Unterschriften auf jedem Scheck. Ihr Überwachungsprogramm verlässt sich nicht auf die Hoffnung, dass Freiwillige das Protokoll befolgen – es stellt standardisierte Erfassungsformulare bereit. Das ist architektonische Governance. Das gleiche Prinzip gilt für KI.

Das Tractatus-Framework – transparent und offen

Die Governance-Architektur hinter Village AI wird als Tractatus-Framework bezeichnet. Dabei sind drei Dinge besonders wichtig zu wissen.

Es ist offen. Das gesamte Framework wird unter einer Open-Source-Lizenz veröffentlicht. Jeder kann den Code lesen, die Regeln prüfen und sich vergewissern, dass die Governance tatsächlich das tut, was sie verspricht. Dies ist das Gegenteil der KI-Governance der „Big Tech“-Unternehmen, bei der die Regeln proprietär sind und die Entscheidungsgrundlagen verborgen bleiben. Wenn Google oder OpenAI behaupten, ihre KI sei „auf menschliche Werte ausgerichtet“, haben Sie keine Möglichkeit, dies zu überprüfen. Bei Tractatus können Sie jede Zeile lesen.

Es ist transparent. Jede Governance-Entscheidung wird protokolliert. Wenn der „Boundary Enforcer“ die KI daran hindert, eine Ermessensentscheidung zu treffen, wird dieses Ereignis aufgezeichnet. Wenn der „Cross-Reference Validator“ eine Diskrepanz feststellt, wird dies aufgezeichnet. Ihre Moderatoren können genau sehen, was das Governance-System getan hat und warum. Es gibt keine versteckte Ebene, auf der Entscheidungen ohne Rechenschaftspflicht getroffen werden.

Es ist anpassbar. Das Framework ist kein starres Regelwerk, das von außen auferlegt wird. Organisationen können die Governance so gestalten, dass sie ihre eigenen Prioritäten widerspiegelt. Eine Naturschutzstiftung und eine Kirchengemeinde haben unterschiedliche Werte, unterschiedliche Datenstandards und unterschiedliche Grenzen. Das Tractatus-Framework trägt dem Rechnung – nicht, indem es Organisationen erlaubt, die Governance zu schwächen, sondern indem es ihnen ermöglicht, selbst zu definieren, was die Governance schützt. Die Satzung Ihrer Organisation, Ihre Datenqualitätsstandards, Ihre Berichtsgrundsätze – strukturell durchgesetzt, nicht nur dokumentiert.

Das vollständige Rahmenwerk, einschließlich der zugrunde liegenden Forschungsergebnisse, ist unter agenticgovernance.digital verfügbar. Sie müssen es nicht lesen, um Village zu nutzen – die Governance funktioniert, unabhängig davon, ob Sie sie überprüfen oder nicht. Wenn Sie jedoch genau verstehen möchten, wie Ihre KI gesteuert wird, steht Ihnen die Tür offen.

Im nächsten Artikel werden wir uns ansehen, was Village AI heute in der Praxis tatsächlich leistet – womit es Ihrer Naturschutzgruppe helfen kann, wie Vorurteile durch das Vokabularsystem angegangen werden und woran noch gearbeitet wird.

Möchten Sie KI-Tools wie diese gut und sicher einsetzen? Unsere kostenlosen Kurse – Working with Claude und Agents at Work – vermitteln die praktischen Fähigkeiten. Die vollständige Governance-Architektur hinter Village AI finden Sie unter Village AI – Agentic Governance.