Alle Ausgaben · Policymaker Edition

Your Community, Your AI — CC BY 4.0

Warum Grundsätze nicht ausreichen – Die Herausforderung der Governance

Der Kern der Sache, klar und deutlich

Dies ist der wichtigste Artikel für alle, die KI-Richtlinien entwerfen oder prüfen, und seine Kernaussage lässt sich in einem Satz zusammenfassen: Ein als Richtlinie formuliertes Prinzip kann am Montag noch eingehalten werden und bis Freitag bereits ausgehöhlt sein – nicht durch eine Entscheidung, die jemand verteidigt, sondern durch Abdriften. Zu verstehen, warum das so ist und was sich daraus ergibt, macht den Unterschied zwischen einem Rahmenwerk aus, das Bestand hat, und einem, das sich zwar gut liest, aber nichts bewirkt. (Alle in dieser Reihe vorkommenden unbekannten Begriffe werden im Glossar in einfacher Sprache definiert.)

Sowohl Neuseeland als auch Australien und viele andere Länder haben sich für eine prinzipienbasierte KI-Governance entschieden: Erklärungen, wonach öffentliche KI transparent, fair, von Menschen überwacht, überprüfbar und unter Wahrung der Datenhoheit sein soll. Das sind gute Prinzipien. Neuseelands Algorithmus-Charta für Aotearoa Neuseeland (2020) und sein KI-Rahmenwerk für den öffentlichen Dienst (2025) bringen diese zum Ausdruck. Es ist jedoch unerlässlich, dass sich politische Entscheidungsträger über eine Tatsache im Klaren sind, denn sie ist der Kern des gesamten Themas: Diese Instrumente sind freiwillig und unverbindlich. Sie fordern die Behörden auf, sich in gutem Glauben zu verpflichten und selbst Bericht zu erstatten. Sie erzwingen für sich genommen keine Einhaltung und verfügen über keine eigenen Durchsetzungsbefugnisse. Das ist keine Kritik an den Verfassern dieser Dokumente. Es ist lediglich eine Feststellung dessen, was ein freiwilliges Instrument ausmacht.

Warum Prinzipien ins Wanken geraten

Ein Prinzip, das lediglich als Richtlinie festgehalten wird, ist anfällig für eine Aushöhlung, die niemand beabsichtigt und für die niemand verantwortlich ist. Das Personal wechselt. Die Budgets werden gekürzt. Eine Frist läuft ab. Unter Druck wird ein neues System beschafft, und die vor drei Jahren eingegangene Verpflichtung wird nicht erneut überprüft. Nichts davon beinhaltet die Entscheidung, den Grundsatz aufzugeben. Es bedeutet vielmehr, dass der Grundsatz stillschweigend seine Verbindlichkeit verliert, weil nichts Strukturelles ihn aufrechterhielt.

Das gleiche Muster zeigt sich auch innerhalb der KI-Systeme selbst, und es lohnt sich, dies zu verstehen, denn es handelt sich nicht um eine Metapher – es ist eine technische Eigenschaft. Man kann ein Modell feinabstimmen, um bestimmte Verhaltensweisen zu betonen: z. B. eine höfliche Sprache zu bevorzugen, bei Werturteilen Zurückhaltung zu üben oder innerhalb bestimmter Grenzen zu bleiben. Das hilft. Doch die Feinabstimmung fügt den bestehenden Mustern neue hinzu; sie löscht nicht aus, was bereits vorhanden war. Unter Druck, unter ungewöhnlichen Umständen oder bei neuartigen Fragen setzen sich die älteren Muster wieder durch. Der Fachbegriff lautet katastrophales Vergessen. Die umgangssprachliche Version ist einfacher: Das Training lässt nach. Eine einem Modell eintrainierte Verpflichtung ist keine Grenze, die das Modell nicht überschreiten kann; es ist eine Tendenz, die genau dann nachlässt, wenn die Bedingungen am schwierigsten sind – also genau dann, wenn eine öffentliche Einrichtung sie am dringendsten braucht.

Es gibt also zwei Arten von Abdrift, mit denen ein politischer Entscheidungsträger rechnen muss: die institutionelle Abdrift eines freiwilligen Prinzips, das seine Verbindlichkeit verliert, und die technische Abdrift eines trainierten Verhaltens, dessen Wirkung nachlässt. Beide führen zu derselben Schlussfolgerung.

Bestrebung ohne Architektur

Die Schlussfolgerung lautet wie folgt: „Unsere KI wird die Werte unserer Gemeinschaft respektieren“ als Richtlinie zu formulieren, ist so, als würde man „Unser Fluss wird nicht über die Ufer treten“ als Richtlinie festschreiben. Der Fluss liest keine Richtlinien. Wenn man Überschwemmungen verhindern will, baut man Deiche – Strukturen, die unabhängig davon funktionieren, was der Fluss tut. Die Regulierung von KI erfordert denselben Schritt: keine Regeln, von denen erwartet wird, dass das System sie befolgt, sondern Strukturen, die unabhängig vom System funktionieren und dessen Verhalten und Handlungen von außen kontrollieren.

Das ist der Unterschied zwischen Zielvorstellung und Architektur, und es ist der wichtigste Gedanke dieser Reihe, den ein Gesetzgeber verinnerlichen sollte. Eine Zielvorstellung ist das, was man sich erhofft. Architektur ist das, was tatsächlich geschieht, weil das System gar nicht anders handeln kann. Ein öffentliches Vertrauen beruht nicht auf der Hoffnung, dass der Schatzmeister ordnungsgemäß mit den Geldern umgeht; es erfordert doppelte Unterschriften und eine unabhängige Prüfung. Das ist architektonische Steuerung, und in jedem anderen Bereich der öffentlichen Verwaltung ist dies selbstverständlich. KI ist der Bereich, in dem von Organisationen immer noch verlangt wird, stattdessen „Anstreben“ zu akzeptieren.

Das EU-KI-Gesetz ist hier gerade deshalb aufschlussreich, weil es sich nicht damit begnügt, von Systemen zu verlangen, ethisch zu handeln. Es verlangt technische Dokumentation, Konformitätsbewertung, Protokollierung, Überwachung nach dem Inverkehrbringen und – im Kern – eine sinnvolle menschliche Aufsicht. Diese Anforderung an die menschliche Aufsicht sollte von politischen Entscheidungsträgern nicht als ein Ziel verstanden werden, das der Anbieter zu erfüllen verspricht, sondern als eine strukturelle Forderung: Es muss eine Person vorhanden sein, die versteht, was das System tut, und es bei Bedarf stoppen kann, und diese Position muss fest verankert sein, anstatt nur auf gute Absichten angewiesen zu sein. Unabhängig davon, wie man den Geltungsbereich des Gesetzes einschätzt, ist dies der Gestaltungsansatz, von dem man lernen sollte – und es ist genau dieser Ansatz, den eine freiwillige Charta per Definition nicht bieten kann.

Die Verantwortungslücke

Es gibt einen weiteren Grund, warum Grundsätze allein nicht ausreichen, und dieser wird in dem Moment akut, in dem KI vom Beantworten zum Handeln übergeht.

Wenn ein Akteur im Namen einer öffentlichen Stelle handelt und das Ergebnis falsch ist, wer ist dann rechenschaftspflichtig? Ein Beamter hat das Ziel festgelegt; das System hat die Schritte ausgewählt; der Anbieter hat das System entwickelt; die Behörde hat dessen Einsatz genehmigt. Wissenschaftler bezeichnen den Raum zwischen diesen Akteuren als Verantwortungslücke und das Muster, nach dem die Schuld dennoch auf den nächstgelegenen Menschen fällt, als moralische Knautschzone – die Person, die dem Versagen am nächsten steht, trägt die Haftung, obwohl sie kaum wirklichen Einfluss auf die Entscheidungen der Maschine hatte. Für eine öffentliche Einrichtung ist die Übernahme der Rechenschaftspflicht für Handlungen, die niemand konkret genehmigt hat, kein Unglück, das nachträglich bewältigt werden muss; es ist ein Versagen der Steuerung, das im Vorfeld vermieden werden muss. Ein Rahmenwerk, das Aufsicht als Prinzip nennt, aber die Verantwortungslücke unberücksichtigt lässt, hat den schwierigsten Teil des Problems nicht gelöst.

Und Aufsicht kann, wie in Artikel 1 festgelegt, nicht auf der Selbstdarstellung des Systems beruhen. Der Weg eines Akteurs durch eine mehrstufige Aufgabe ist offen, und die maschineneigene Erklärung ihrer Argumentation spiegelt nicht zuverlässig wider, was ihre Handlungen motiviert hat. Daher muss eine sinnvolle Aufsicht über das ausgeübt werden, was das System tatsächlich getan hat – anhand realer Aufzeichnungen von außerhalb des Systems überprüft –, und darf nicht seiner Selbstauskunft überlassen werden. Dies ist wiederum ein Argument dafür, Architektur den Vorzug vor bloßen Bestrebungen zu geben.

Was die Governance-Theorie einem Gesetzgeber sagt

Die Erkenntnis, dass manche Entscheidungen nicht auf Regeln reduziert werden können, ist nicht neu. Sie ist grundlegend für die Politik- und Governance-Theorie, und drei Denker verdienen jeweils einen eigenen Absatz, da sie direkt auf das Problem Bezug nehmen.

Ludwig Wittgenstein verbrachte sein Leben an der Grenze zwischen dem, was sich präzise aussagen lässt, und dem, was jenseits präziser Aussagen liegt – „Wovon man nicht sprechen kann, darüber muss man schweigen.“ Manche Fragen lassen sich systematisieren: Wann ist der nächste Sitzungstag? hat eine eindeutige Antwort, die eine Maschine nachschlagen kann. Andere lassen sich nicht systematisieren: Wie sollen wir diese Entscheidung den Betroffenen mitteilen? hängt von Urteilsvermögen, Kontext und Beziehungen ab. Der Fehler besteht nicht darin, KI für die erste Art von Fragen einzusetzen. Der Fehler besteht darin, sie die zweite Art von Fragen entscheiden zu lassen, ohne dass menschliches Urteilsvermögen einbezogen wird.

Isaiah Berlin argumentierte, dass manche menschlichen Werte tatsächlich unvereinbar sind – Freiheit und Gleichheit, Tradition und Fortschritt, individuelles Recht und kollektives Wohl – und dass keine Formel die Spannung zwischen ihnen auflösen kann. KI-Systeme sind von ihrer Konzeption her auf Optimierung ausgelegt: Sie suchen nach der besten Antwort. Doch wo Werte wirklich im Konflikt stehen, gibt es keine beste Antwort, sondern nur die Antwort, die diese Gemeinschaft zum gegenwärtigen Zeitpunkt als am angemessensten erachtet. Dieses Urteil ist von Natur aus menschlich, und ein Rahmenkonzept, das davon ausgeht, dass eine Maschine es fällen kann, bedeutet keine Steuerung, sondern eine Abkehr von der Verantwortung.

Elinor Ostrom hat gezeigt, dass Gemeinschaften gemeinsame Ressourcen erfolgreich verwalten können – ohne Privatisierung oder zentrale Kontrolle –, jedoch nur dann, wenn die Verwaltungsstrukturen der Komplexität des Verwalteten entsprechen. KI ist eine gemeinsame Ressource innerhalb jeder Institution, die sie einsetzt. Die politische Frage lautet, ob die Verwaltungsstrukturen der Komplexität des Instruments entsprechen. Ein einzeiliger Grundsatz tut dies nicht.

Von der Richtlinie zum Nachweis

Wenn das Problem darin besteht, dass ein als Richtlinie festgeschriebener Grundsatz stillschweigend ausgehöhlt werden kann, besteht die Lösung darin, die wichtigen Verpflichtungen so zu gestalten, dass sie nicht stillschweigend ausgehöhlt werden können – sie also von Dingen, die eine Institution verspricht, in Dinge zu überführen, die durch die Architektur eines Systems überprüfbar sind. Die Governance-Forschung hinter gemeinschaftlich betriebener KI bringt diesen Punkt in einem einzigen Satz auf den Punkt, der jedem Kollegen zitierenswert ist, der glaubt, eine gut formulierte Charta reiche aus:

„Während eine Richtlinie abdriften kann, lässt sich eine Nachweiskette nicht stillschweigend umschreiben.“

Die Idee ist schlicht und wirkungsvoll. Wo eine Entscheidung von Bedeutung ist, zeichnet das System seine Handlungen auf eine Weise auf, die nur nachträglich ergänzt und unabhängig überprüfbar ist – nicht „unveränderlich“ und kein Versprechen auf Dauerhaftigkeit, sondern manipulationssicher: Jede spätere Änderung ist nachweisbar und erfolgt nicht unbemerkt. Eine wertgeladene Entscheidung wird durch eine Grenze, die die Konfiguration des Systems selbst nicht deaktivieren kann, an einen Menschen weitergeleitet. Sensible Daten werden so gespeichert, dass ein Bediener, der sie nicht lesen kann, nicht zur Offenlegung gezwungen werden kann. In jedem Fall ist die Verpflichtung kein Satz in einem Richtliniendokument; es ist eine Eigenschaft der Architektur, die das System nicht deaktivieren kann.

Ein politischer Entscheidungsträger muss die Kryptografie nicht beherrschen, um den Kernpunkt zu verstehen. Er lautet: Das Ziel lautet: „Wir werden transparent und überprüfbar sein“; die Architektur besagt: „Transparenz und Überprüfbarkeit sind Eigenschaften, die das System nicht deaktivieren kann.“ Die Kluft zwischen diesen beiden Sätzen ist die Kluft zwischen einem Rahmenwerk, das ins Leere läuft, und einem, das Bestand hat. Artikel 5 befasst sich damit, was ein Land tatsächlich dagegen tun kann.

Möchten Sie KI-Tools wie diese gut und sicher einsetzen? Unsere kostenlosen Kurse – Working with Claude und Agents at Work – vermitteln die praktischen Fähigkeiten, von der Einholung vertrauenswürdiger Antworten bis hin zur Entscheidung, welche Aufgaben einem Agenten übertragen werden sollen. Die vollständige technische Architektur hinter Village AI finden Sie unter Village AI – Agentic Governance.