Alle Ausgaben · Community Edition

Your Community, Your AI — CC BY 4.0

Was KI eigentlich ist (und was sie nicht ist)

KI hat sich verändert, während Sie zugeschaut haben

Sie haben wahrscheinlich schon oft gehört, dass künstliche Intelligenz alles verändern wird. Vielleicht haben Sie auch schon gehört, dass es sich nur um eine Modeerscheinung handelt oder dass sie nichts wirklich Neues leisten kann. Beide Standpunkte gehen am Kern der Sache vorbei, und wenn Sie verstehen, warum das so ist, können Sie bessere Entscheidungen für Ihre Gruppe treffen.

Aber es gibt noch etwas anderes, das man zuerst beachten sollte: KI hat sich bereits in der kurzen Zeit verändert, in der darüber diskutiert wurde.

Vor einem Jahr meinten die meisten Menschen mit „KI“ einen Chatbot – ein Fenster, in das man eine Frage eingab und eine Antwort erhielt. Man fragte, sie antwortete. Das war der gesamte Ablauf. Heute hat sich der Schwerpunkt verlagert. Die Systeme, die die meiste Aufmerksamkeit und die meisten Investitionen auf sich ziehen, sind nicht mehr nur Chatbots, die antworten. Es sind Agenten, die handeln – Termine vereinbaren, Formulare ausfüllen, im Internet surfen, Code schreiben und ausführen, Nachrichten versenden.

Dies ist die wichtigste Veränderung, die es zu verstehen gilt, und der Rest dieses Artikels baut darauf auf. Um die heutige KI zu verstehen, muss man zwei Konzepte voneinander trennen:

• Die Engine – das zugrunde liegende Modell, das, was Sprache erzeugt.
• Der Agent – die Engine, die zum Einsatz kommt und so vernetzt ist, dass sie in der Welt in Ihrem Namen Handlungen ausführen kann.

Die Engine wird immer leistungsfähiger. Doch die größere Veränderung für gewöhnliche Gemeinschaften besteht darin, was die Menschen nun um die Engine herum entwickeln. Gehen wir nacheinander auf beide ein. (Alle unbekannten Begriffe in dieser Reihe – Engine, Agent, Schlussfolgerungsmodell und die übrigen – werden im Glossar in einfacher Sprache definiert.)

Die Engine: Eine Maschine, die Vorhersagen trifft

Hier ist die einfachste Beschreibung dessen, was die Engine tut: Sie sagt voraus, welches Wort als Nächstes kommen sollte.

Wenn Sie eine Nachricht in einen Chatbot eingeben, denkt das System nicht über Ihre Frage so nach, wie Sie oder Ihr Vorsitzender darüber nachdenken würden. Es geht dabei um einen viel mechanischeren Vorgang. Der Engine wurden Milliarden von Textseiten präsentiert – Bücher, Websites, Gespräche, politische Dokumente, juristische Texte, Rezepte, medizinische Abhandlungen, Diskussionen in sozialen Medien – und aus all diesen Texten hat sie Muster gelernt. Wenn Sie ihm eine Frage stellen, generiert es eine Antwort, indem es Wort für Wort vorhersagt, wie eine plausible Antwort auf der Grundlage all dessen, was es zuvor gesehen hat, aussehen könnte.

Das ist wirklich nützlich. Ein System, das die Muster von Milliarden von Textseiten verinnerlicht hat, kann Ihnen helfen, einen Brief zu entwerfen, ein langes Dokument zusammenzufassen, eine sachliche Frage zu beantworten oder Vorschläge zu machen, wie man eine schwierige Ankündigung formulieren könnte. Das sind echte Fähigkeiten, und sie sparen echte Zeit.

Im Kern führt die Engine jedoch Musterabgleiche in einem außergewöhnlichen Ausmaß durch. Diese eine Tatsache erklärt sowohl, worin sie erstaunlich gut ist, als auch, wo sie still und leise Fehler macht – ein Punkt, auf den wir im Laufe dieser Serie immer wieder zurückkommen werden.

Kann die Engine logisch denken?

Es gibt eine tiefgreifendere Frage, mit der sich Forscher intensiv beschäftigen, und die einfache Antwort lautet: Wir wissen es noch nicht.

Als frühe KI-Systeme flüssigen Text erzeugten, war es naheliegend, sie als ausgefeilte Mustererkennung zu beschreiben und es dabei zu belassen. Doch eine neuere Generation von Systemen – oft als „schlussfolgernde“ oder „denkende“ Modelle bezeichnet – geht anders vor. Anstatt sofort zu antworten, arbeitet sie ein Problem schrittweise durch und erzeugt eine sichtbare Kette von Zwischenüberlegungen, bevor sie sich auf eine Antwort festlegt. Bei schwierigeren Problemen benötigt sie dafür mehr Zeit. Die Ergebnisse können bemerkenswert sein: Im Jahr 2025 lösten Schlussfolgerungssysteme aus mehr als einem großen Forschungslabor Aufgaben der Internationalen Mathematik-Olympiade – einem der schwierigsten Mathematikwettbewerbe der Welt – auf einem Niveau, das dem eines menschlichen Goldmedaillengewinners entspricht.

Ist das nun Schlussfolgerung oder handelt es sich um sehr ausgefeilte Mustererkennung, die so verpackt ist, dass sie wie Schlussfolgerung aussieht?

Die Forschung ist hier noch völlig offen, und seriöse Fachleute sind sich uneinig. Eine einflussreiche Studie aus dem Jahr 2025 argumentierte, diese Systeme seien teilweise eine „Illusion des Denkens“ – dass sie bei bestimmten Rätseln auf eine Weise scheitern, wie es ein echter Denker nicht tun würde. Mehrere ebenso seriöse Gegenargumente vertraten die gegenteilige Ansicht. Das derzeit vorsichtigste Urteil lautet, dass die heutigen Schlussfolgerungsmodelle weder echte Denker noch bloße Nachahmer sind – sie sind etwas wirklich Neues, das wir noch nicht vollständig verstehen. Wer Ihnen sagt, KI könne definitiv schlussfolgern oder könne es definitiv nicht, übertreibt die Aussagekraft der vorliegenden Beweise.

Eine Erkenntnis ist für Ihre Gruppe von Bedeutung, und sie lässt sich leicht falsch interpretieren; lesen Sie sie daher sorgfältig durch. Wenn diese Systeme Ihnen ihr „Denken“ zeigen, spiegelt diese sichtbare Kette nicht zuverlässig wider, was tatsächlich zur Antwort geführt hat. Forscher haben wiederholt festgestellt, dass die von einem Modell angegebene Argumentation die tatsächlichen Einflüsse auf seine Schlussfolgerung auslassen kann – nicht, weil die Maschine im menschlichen Sinne unehrlich wäre (sie hat keine Absichten), sondern weil die Wörter, die sie Ihnen zeigt, selbst nur weiterer vorhergesagter Text sind und keine echte Wiedergabe eines inneren Prozesses. Die praktische Konsequenz: Man kann eine KI nicht zur Rechenschaft ziehen, indem man einfach die Erklärung liest, die sie selbst liefert. Diese Tatsache allein ist einer der Gründe, warum eine gemeinschaftsgesteuerte Governance – bei der die Ausgabe anhand Ihrer tatsächlichen Aufzeichnungen überprüft wird, anstatt dem Selbstbericht der KI zu vertrauen – so wichtig ist. Wir kommen in Artikel 3 darauf zurück.

Was wir sagen können, ist Folgendes: Die Entwicklung verläuft rasant. Vor einigen Jahren konnten diese Systeme kaum einen zusammenhängenden Absatz formulieren. Heute schreiben sie Aufsätze, bestehen berufliche Prüfungen, generieren funktionsfähigen Computercode und greifen zunehmend in die Welt ein, anstatt sie nur zu beschreiben. Die nächsten Jahre werden erneut größere Fähigkeiten mit sich bringen.

„KI kann nichts Neues schaffen“ – Es kommt darauf an, was man unter „neu“ versteht

Wer KI mit der Behauptung abtut, sie könne nichts Originelles schaffen, vertritt eine These, die im engeren Sinne zwar zutrifft, im weiteren Sinne jedoch irreführend ist.

Eine Engine kann nicht aus Erfahrung schöpfen. Sie hat noch nie in einem Ausschuss gesessen und über einen schwierigen Haushalt debattiert. Sie hat noch nie die Last einer Entscheidung gespürt, die Menschen betrifft, die ihr am Herzen liegen. Sie kann nicht verstehen, warum der Wortlaut einer Verfassung für die Mitglieder, die sie entworfen haben, von Bedeutung ist – sie kann lediglich Muster reproduzieren, die statistisch gesehen einem Verständnis ähneln. In diesem Sinne ist alles, was sie hervorbringt, eine Neukombination von Material, das sie während des Trainings aufgenommen hat.

Aber bedenken Sie, was „Neukombination“ in dieser Größenordnung tatsächlich bedeutet. Kein einzelner Mensch hat jedes Regierungsmodell, jeden Vereinsnewsletter der letzten hundert Jahre, jedes Gesetz über eingetragene Vereine und jede Abhandlung über bürgerschaftliches Engagement gelesen. Wenn die KI eine Verbindung zwischen der Theorie der polyzentrischen Governance und den Strukturen von Gemeindeverbänden herstellt, ist diese Verbindung für jeden einzelnen Menschen wirklich neu, auch wenn beide Ideen bereits getrennt voneinander existierten. Die Atome sind nicht neu, aber die Moleküle sind es.

„KI kann nichts Neues leisten“ ist also auf der Ebene der Entstehung wahr und auf der Ebene der Synthese falsch. Beides ist wichtig, und eine ernsthafte Auseinandersetzung mit dieser Technologie erfordert, beides im Blick zu behalten.

Vom Beantworten zum Handeln: Der Agent

Nun zu der Veränderung, die für Ihre Gemeinschaft am wichtigsten ist.

Während des größten Teils des Chatbot-Zeitalters war das Schlimmste, was eine KI direkt anrichten konnte, eine schlechte Antwort zu geben. Der Schaden entstand erst, wenn ein Mensch darauf reagierte – den irreführenden Brief verschickte, der falschen Zahl vertraute, den fehlerhaften Rat weiterleitete. Zwischen der Maschine und der Konsequenz stand immer eine Person.

Ein Agent nimmt diese Person – ganz bewusst – aus dem Kreislauf heraus.

Ein KI-Agent ist eine Engine, die in das eingebettet ist, was Forscher als „Scaffolding“ bezeichnen – ein Speicher, damit er den Überblick über eine Aufgabe behalten kann, Zugriff auf einen Webbrowser, die Fähigkeit, Software-Tools und andere Programme zu nutzen, sowie ein Ziel, das Sie ihm in einfacher Sprache vorgeben. Mit diesem Scaffolding kann das System das Ziel über viele Schritte hinweg mit deutlich weniger Überwachung verfolgen: Es kann suchen, entscheiden, handeln, das Ergebnis überprüfen und erneut handeln. Ein Chatbot antwortet. Ein Agent handelt.

Deshalb fühlt sich KI plötzlich anders an, obwohl sich die zugrunde liegenden Engines nicht über Nacht verändert haben. Das Neue ist größtenteils die Hülle. Die Branche trennt die beiden bewusst voneinander: Die Engine liefert die rohen Fähigkeiten, und das Scaffolding verwandelt diese Fähigkeiten in etwas, das in der realen Welt funktioniert. Ein Großteil des jüngsten Fortschritts bei dem, was KI tun kann – im Gegensatz zu dem, was sie sagen kann –, ist auf ein besseres Gerüst zurückzuführen, nicht auf eine neue Art von Intelligenz.

Die bekannten Agentenprodukte der Jahre 2025 und 2026 – jene, die für Sie im Internet surfen, einen Computer bedienen oder Software schreiben und ausführen – werden fast ausschließlich von großen amerikanischen Technologieunternehmen entwickelt, und wir werden im nächsten Artikel untersuchen, was das für Ihre Daten bedeutet. Behalten Sie vorerst diesen Gedanken im Hinterkopf: Die Frage lautet nicht mehr nur „Was wird mir die KI sagen?“, sondern „Was wird die KI tun, und kann ich sie rechtzeitig stoppen, wenn etwas schiefgeht?“

Denn hier liegt der Haken, über den die Forschung eindeutig Klarheit schafft: Wenn ein System eigenständig handelt, gibt es weniger Möglichkeiten zum Eingreifen. Manche Handlungen lassen sich nicht mehr rückgängig machen, sobald sie einmal ausgeführt wurden. Und wenn ein Agent in Ihrem Namen handelt – unter Verwendung Ihrer Daten, Ihrer Konten, Ihrer Befugnisse – und etwas schiefgeht, wird es wirklich schwer zu sagen, wer verantwortlich ist: Sie, der Sie in einem Satz ein Ziel festgelegt haben, oder das Unternehmen, dessen System die Schritte ausgewählt hat. Das bedeutet keineswegs, dass Agenten schlecht sind. Es bedeutet, dass die Bedeutung der Frage, welchen Agenten Sie nutzen und wie dieser gesteuert wird, gerade erheblich zugenommen hat.

Das eigentliche Problem: Wessen Muster und wessen Hände an den Steuerelementen?

Hier wird es für Ihre Gruppe konkret.

Wenn eine große KI-Engine im Internet trainiert wird, nimmt sie die Vorurteile, Annahmen und kulturellen Standardwerte des Internets auf. Das Internet ist überwiegend englischsprachig, westlich geprägt, kommerziell ausgerichtet und von den Werten einer Handvoll Technologieunternehmen geprägt. Das ist keine Verschwörung – es ist einfach das, was passiert, wenn man ein System mit Daten trainiert, die eine bestimmte Kultur und bestimmte Prioritäten überproportional stark repräsentieren.

Die Folgen sind subtil, aber real. Wenn ein Mitglied eine KI um Rat zu einer schwierigen Situation innerhalb der Gruppe bittet, greift das System standardmäßig auf die Sprache der Therapie und Selbsthilfe zurück – denn genau das dominiert seine Trainingsdaten. Es greift nicht auf die Sprache der gegenseitigen Verpflichtung, der kollektiven Verantwortung oder der praktischen Weisheit zurück, die aus der langjährigen Leitung einer Gemeinschaftsgruppe stammt, da diese Traditionen statistisch unterrepräsentiert sind. Wenn ein Ausschusssekretär es bittet, einen Brief an die Mitglieder zu entwerfen, greift es auf Muster der Unternehmenskommunikation zurück, da Geschäftskorrespondenz in den Daten, aus denen es gelernt hat, die Korrespondenz von Gemeinschaften bei weitem übertrifft.

Das System steht der Kultur Ihrer Gruppe nicht feindlich gegenüber. Es kennt die Kultur Ihrer Gruppe einfach nicht. Es weiß, was statistisch gesehen üblich ist, und was statistisch gesehen üblich ist, ist nicht das, was für Ihre Gemeinschaft am wichtigsten ist.

Im Zeitalter der Chatbots prägte diese Voreingenommenheit die Worte, die Sie lesen. Im Zeitalter der Agenten prägt dieselbe Voreingenommenheit die Maßnahmen, die in Ihrem Namen ergriffen werden. Ein Agent, der die Werte Ihrer Gemeinschaft nicht versteht, wird diese nicht nur schlecht beschreiben – er könnte sogar still und leise gegen sie handeln, während er glaubt, zu helfen. Das eigentliche Problem mit KI besteht also mittlerweile aus zwei Teilen: Wessen Muster trägt sie in sich, und wessen Hände liegen an den Steuerelementen, wenn sie handelt?

Warum das gerade jetzt wichtig ist

Niemand weiß mit Sicherheit, was passiert, wenn ein KI-System jemals so etwas wie eine eigene Absicht entwickelt – Ziele und Prioritäten, die möglicherweise nicht mit unseren übereinstimmen. Wir sind wahrscheinlich noch ein gutes Stück von dieser Schwelle entfernt. Doch die Architektur, die wir jetzt aufbauen, und die Governance-Praktiken, die wir heute etablieren, werden darüber entscheiden, ob wir vorbereitet sind, wenn dieser Moment kommt, oder ob wir zu spät feststellen, dass wir die Kontrolle abgegeben haben, ohne es zu merken.

Das ist keine Science-Fiction. Es ist eine einfache Feststellung zur institutionellen Vorsorge. Ihr Verein hat eine Satzung. Ihr Ausschuss hat eine Geschäftsordnung. Ihr regionaler Verband verfügt über einen eigenen Rahmen für die Steuerung. Diese existieren nicht, weil jede Sitzung im Chaos endet, sondern weil Steuerungsstrukturen vorhanden sein müssen, bevor sie gebraucht werden – nicht erst danach.

Das gleiche Prinzip gilt für KI – und es gilt umso dringlicher, da KI nicht mehr nur berät, sondern handelt.

Zwei Wege in die Zukunft

Es gibt zwei Möglichkeiten, wie sich eine Gemeinschaft mit KI auseinandersetzen kann.

Der erste Weg besteht darin, die KI der „Big Tech“-Unternehmen zu nutzen – die Chatbots und, in zunehmendem Maße, die Agenten, die von den größten amerikanischen Technologieunternehmen entwickelt wurden. Diese sind leistungsstark, praktisch und oft kostenlos oder günstig. Aber sie sind an Bedingungen geknüpft. Ihre Daten fließen auf deren Server. Ihre Unterhaltungen – und mittlerweile auch die Handlungen Ihres Agenten – durchlaufen Systeme, über die Sie keine Kontrolle haben. Das Verhalten der KI unterliegt den Richtlinien des Unternehmens, die sich ohne Ihre Zustimmung ändern können. Und die Verhaltensmuster der KI werden durch ihre Trainingsdaten bestimmt, auf die Sie keinen Einfluss haben.

Der zweite Weg besteht darin, eine KI zu nutzen, die von Ihrer Community kontrolliert wird. Ein gezielteres System, das auf Ihren Inhalten trainiert wurde, auf von Ihnen kontrollierter Hardware läuft und nach Regeln funktioniert, die Ihre Gruppe festlegt. Ein System, das den Unterschied zwischen einem Vereinsnewsletter und einem Blogbeitrag kennt, weil Ihre Community es dies beigebracht hat. Ein System, dessen Antworten von unabhängigen Beobachtern, die getrennt von der KI selbst arbeiten, anhand Ihrer tatsächlichen Aufzeichnungen überprüft werden – und dessen Handlungsfähigkeit bewusst begrenzt ist, sodass ein Mensch jederzeit eingreifen kann.

Genau das ist Village AI. Es ist nicht darauf ausgelegt, einen Wettstreit um reine Leistungsstärke mit den Systemen der Big Tech zu gewinnen. Es ist darauf ausgelegt, Ihrer Community treu zu bleiben – Ihren Inhalten, Ihren Werten und Ihrer Selbstverwaltung – und Ihnen die Kontrolle zu sichern, wenn die KI vom Beantworten zum Handeln übergeht.

Der nächste Artikel erklärt, wie sich Village AI strukturell von der KI der Big-Tech-Unternehmen unterscheidet und warum dieser Unterschied – gerade jetzt – wichtiger ist als reine Leistungsfähigkeit.

Möchten Sie KI-Tools wie diese gut und sicher nutzen? Unsere kostenlosen Kurse – Working with Claude und Agents at Work – vermitteln praktische Fähigkeiten, vom Erhalten vertrauenswürdiger Antworten bis hin zur Entscheidung, welche Aufgaben einem Agenten übertragen werden sollen. Die vollständige technische Architektur hinter Village AI finden Sie unter Village AI – Agentic Governance.