Alle Ausgaben · Policymaker Edition

Your Community, Your AI — CC BY 4.0

Was gemeinschaftlich gesteuerte KI heute tatsächlich leistet

Warum ein Gesetzgeber eine sachliche Bestandsaufnahme lesen sollte

Politische Entscheidungen zum Thema KI sind ungewöhnlich anfällig dafür, sich auf das Falsche zu beziehen – auf eine Demonstration, die es noch gar nicht gibt, auf eine Angst, die der Technologie vorausläuft, oder auf eine Marketingbehauptung, die den Kontakt mit der Praxis nicht überstehen wird. Das Gegenmittel ist zwar langweilig, aber nützlich: eine Bestandsaufnahme dessen, was ein gemeinschaftlich gesteuertes System heute tatsächlich leistet – klar und deutlich formuliert, wobei die noch in der Entwicklung befindlichen Teile als solche gekennzeichnet sind. Dieser Artikel ist diese Bestandsaufnahme. Sein Zweck ist es, eine Orientierung zu schaffen – damit Sie, wenn Sie von irgendeiner Seite eine Behauptung hören, einen echten Bezugspunkt haben. (Alle unbekannten Begriffe in dieser Reihe werden im Glossar in einfacher Sprache erklärt.)

Das hier beschriebene System – Village AI – ist seit 2025 im Einsatz. Es ist ein junges System, das von einem kleinen Team entwickelt wurde und von einer kleinen Anzahl von Gemeinden genutzt wird. Einige Teile funktionieren gut; andere werden noch weiter verfeinert. Es verfolgt eher ein fokussiertes offenes Modell als ein Pioniermodell. Zu benennen, was es ist und was es nicht ist, ist der Sinn dieser Übung.

Was es heute leistet

Beantwortet Fragen anhand der eigenen Unterlagen einer Organisation. Wenn ein Mitglied fragt: „Wann findet die nächste Vorstandssitzung statt?“ oder „Was hat der Rat bezüglich des Gemeindezentrums beschlossen?“, durchsucht das System die tatsächlichen Unterlagen der Organisation – Protokolle, Ankündigungen, Veranstaltungsbeschreibungen, veröffentlichte Dokumente – und gibt anhand dieser Inhalte eine Antwort. Es zieht keine Schlussfolgerungen aus Allgemeinwissen. Wenn die Antwort nicht in den Unterlagen zu finden ist, teilt es dies mit, anstatt die Lücke zu füllen.

Es hilft beim Verfassen von Entwürfen. Es kann Ankündigungen, Korrespondenz und Mitteilungen im etablierten Stil der Organisation verfassen, da es aus den bisherigen Inhalten dieser Organisation gelernt hat und nicht auf einer generischen Vorlage basiert. Ein Mensch überprüft und überarbeitet jeden Entwurf, bevor er veröffentlicht wird.

Fasst lange Dokumente zusammen. Ein umfangreicher Bericht oder eine Reihe von Ankündigungen kann auf die wichtigsten Punkte reduziert werden – nützlich für Mitglieder, die auf dem Laufenden bleiben möchten, ohne alles vollständig zu lesen.

Funktioniert sprachübergreifend. Die Plattform unterstützt Englisch, Deutsch, Französisch, Niederländisch und Te Reo Māori. Die KI hilft bei der Übersetzung von Community-Inhalten; bei wichtigen Inhalten wird eine Überprüfung durch einen Menschen empfohlen.

Sortiert Mitglieder-Feedback. Wenn ein Mitglied über die Plattform eine Frage, einen Vorschlag oder einen Bericht einreicht, klassifiziert das System diesen, geht ihm nach, soweit möglich, und benachrichtigt das Mitglied, sobald die Angelegenheit geklärt ist – was die Arbeitsbelastung derjenigen verringert, die andernfalls jeden Eintrag von Hand sortieren müssten.

Wo es handelt, nicht nur antwortet

In den Artikeln 1 und 2 wurde die Unterscheidung getroffen, an der sich Entscheidungsträger orientieren sollten: Ein Chatbot antwortet, ein Mitarbeiter handelt. Es ist also berechtigt zu fragen, ob dieses System nur antwortet oder im Namen einer Organisation handelt.

Es handelt – in sorgfältig abgegrenzten Bereichen. Das deutlichste Beispiel, das derzeit im Einsatz ist, ist die Bearbeitung von Feedback. Wenn ein Mitglied eine Antwort als nicht hilfreich markiert, protokolliert das System nicht lediglich eine Beschwerde, die später von jemandem geprüft werden muss. Es überprüft anhand der Unterlagen der Organisation, was die richtige Antwort ist, und wenn es einen routinemäßigen, unbedeutenden Fall auf der Grundlage solider Beweise lösen kann, tut es dies – und verbessert dabei sein eigenes Wissen, damit die nächste Anfrage besser beantwortet wird. Das ist echtes agentisches Verhalten: eine mehrstufige Handlung, keine einzelne Antwort.

Die Grenzen, die es umgeben, sind der springende Punkt. Der Agent handelt ausschließlich im Rahmen der eigenen Daten der Organisation. Er befasst sich nur mit routinemäßigen, reversiblen Angelegenheiten. Und sobald er ein systemisches Problem erkennt – ein Muster zusammenhängender Fehler, das darauf hindeutet, dass etwas Grundlegenderes nicht stimmt –, stellt er sein Handeln ein und eskaliert den Fall an einen Menschen, da es sich hierbei um eine Ermessensentscheidung und nicht um eine routinemäßige Korrektur handelt. Die Absicht hinter dem Design ist, dass gewöhnliches Feedback automatisch bearbeitet wird, während alles, was weitreichende Konsequenzen hat, an eine verantwortliche Person weitergeleitet wird. Dies ist die operative Umsetzung des Prinzips in Artikel 3 und der Anforderung der menschlichen Aufsicht im EU-KI-Gesetz: Ein Agent unter der Kontrolle der Organisation handelt dort, wo das Handeln sicher und reversibel ist, und hält sich zurück, wo dies nicht der Fall ist.

Was es nicht tut

Es trifft keine Entscheidungen für die Organisation. Wenn eine Frage Werte, Ethik oder Ermessensentscheidungen betrifft, hält es inne und leitet die Angelegenheit an einen Menschen weiter – an diejenigen, denen die Gemeinschaft diese Entscheidungen anvertraut hat.

Es ergreift nicht eigenmächtig weitreichende oder irreversible Maßnahmen. Wenn es handelt, beschränkt es sich auf routinemäßige, reversible Angelegenheiten im Rahmen der Daten der Organisation. Es gibt keine Mitteilungen im Namen der Organisation heraus, geht keine Verpflichtungen für die Organisation ein und nimmt keine Änderungen vor, die es nicht rückgängig machen kann, ohne dass eine verantwortliche Person in den Prozess eingebunden ist. Die Befugnis – und die Rechenschaftspflicht – verbleibt bei der Organisation.

Es greift nicht auf Inhalte zu, die ihm nicht zur Verfügung gestellt wurden. Eingeschränkte Inhalte bleiben eingeschränkt; die Inhalte einer Organisation verbleiben bei dieser Organisation. Die KI kann diese Grenzen nicht überschreiten, da es sich um strukturelle und nicht um richtlinienbezogene Grenzen handelt.

Sie arbeitet nicht ohne Aufsicht. Jede Antwort durchläuft unabhängige Verifizierungsstufen – Prüfungen, die strukturell von der KI getrennt sind, sodass der Beobachter nicht die blinden Flecken des Beobachteten teilt –, bevor sie ein Mitglied erreicht.

Sie stellt Unsicherheit nicht als Tatsache dar. Jede Antwort ist mit einem Konfidenzindikator versehen. Wenn das System auf fundierte Aufzeichnungen zurückgreift, gibt es dies an; wenn die Grundlage weniger solide ist, wird dies ebenfalls angegeben, und ein Mitglied kann eine Behauptung bis zu der konkreten Aufzeichnung zurückverfolgen, die sie stützt.

Wie Voreingenommenheit angegangen wird: Das Vokabularsystem

Eine der subtilsten Formen der Voreingenommenheit in der KI ist sprachlicher Natur. Ein System, das auf Unternehmensdaten trainiert wurde, bezeichnet Mitglieder als „Nutzer“ und Protokolle als „Beiträge“ – und importiert damit eine Weltanschauung, in der Gemeinschaften Verbraucherplattformen sind und Governance als Content-Management verstanden wird. Das System begegnet dem durch eine Vokabular-Ebene, die die gesamte Plattform an den Organisationstyp anpasst: Mitglieder oder Anspruchsgruppen statt „Nutzer“, Mitteilungen und Berichte statt „Beiträge“, Governance statt „Admin-Einstellungen“, Community-Datensätze statt „Inhalte“. Das ist keine reine Kosmetik. Der Wortschatz prägt, wie die KI eine Frage formuliert – sie erkennt, dass „Wie kommunizieren wir diese Entscheidung den betroffenen Anwohnern?“ eine andere Frage ist als „Wie aktualisieren wir unsere Nutzerbasis?“, während ein generisches System beide gleich behandeln würde.

Was sich noch in der Entwicklung befindet

Um es klar zu sagen, denn Richtlinien sollten auf dem tatsächlichen Stand der Dinge basieren:

• Eine Leistungsstufe mit erweiterten Fähigkeiten. Das System nutzt ein fokussiertes, offenes Modell, das je nach Organisationstyp feinabgestimmt ist, sodass ein Gemeinderat, eine Stiftung und ein Verein jeweils eine auf ihren Kontext abgestimmte KI erhalten. Die Architektur sieht eine leistungsfähigere Stufe für schwierigere Fragen vor; diese ist definiert, aber noch nicht in Betrieb, sodass derzeit jede Frage vom organisationsspezifischen Modell beantwortet wird.
• Individuelle Personalisierung – bei der die KI die Präferenzen einzelner Mitglieder lernt – ist geplant, aber noch nicht umgesetzt. Derzeit kennt die KI die Organisation als Gemeinschaft, nicht jedoch ihre Mitglieder als Einzelpersonen, es sei denn, diese interagieren direkt mit ihr.
• Ein Zertifizierungspfad für Moderatoren – eine strukturierte Schulung für Mitglieder, die die Rolle eines Moderators übernehmen – ist konzipiert und wird schrittweise eingeführt.

Was dies für die Politik bedeutet

Der Grund, eine Bestandsaufnahme wie diese zu lesen, besteht darin, die Politik in der Realität zu verankern. Das Beispiel zeigt, dass eine gemeinschaftlich gesteuerte KI heute Antworten aus den eigenen Aufzeichnungen einer Institution liefern kann, anstatt auf die Annäherung des Internets an diese zurückzugreifen; ihre Antworten anhand dieser Aufzeichnungen über Ebenen überprüfen kann, die unabhängig von der KI arbeiten; ihre Daten innerhalb der Grenzen der Organisation zu halten und aus externen Trainings herauszuhalten; nur dort zu handeln, wo Maßnahmen routinemäßig und reversibel sind; und innezuhalten, um einen Menschen zu befragen, wenn eine Angelegenheit eine Beurteilung erfordert. Es zeigt auch die Grenzen auf: Es handelt sich um ein junges, eng gefasstes System, das transparent darlegt, was es noch nicht kann.

Weder Hype noch Panikmache sind der richtige Ansatz für politische Entscheidungsträger. Der sinnvolle Ansatz ist eine sorgfältige Abwägung – zu wissen, was die Technologie tatsächlich leistet, damit jeder Rahmen, den man unterstützt, auf der Technologie selbst basiert und nicht auf Behauptungen darüber. Artikel 5 legt die Hebel fest.

Möchten Sie KI-Tools wie diese gut und sicher einsetzen? Unsere kostenlosen Kurse – Working with Claude und Agents at Work – vermitteln die praktischen Fähigkeiten, von der Einholung vertrauenswürdiger Antworten bis hin zur Entscheidung, welche Aufgaben einem Agenten übertragen werden sollen. Die vollständige technische Architektur hinter Village AI finden Sie unter Village AI – Agentic Governance.