Interne Wissensdatenbank für Behörden
KI macht das Verwaltungswissen einer Behörde durchsuchbar und zugänglich — neue Mitarbeitende finden Antworten sofort, erfahrene Kräfte teilen ihr Wissen effizienter.
- Problem
- Wissen in Behörden steckt in den Köpfen langjähriger Mitarbeitender oder in unsortierten Aktenbergen — beim Ausscheiden von Schlüsselpersonen geht wertvolles Erfahrungswissen verloren.
- KI-Lösung
- Eine RAG-Architektur (Retrieval-Augmented Generation) indexiert interne Dokumente; ein LLM beantwortet per NLP-Suche Fragen zu Gesetzen, Verwaltungsvorschriften, Präzedenzfällen und internen Richtlinien mit direkten Quellenangaben.
- Typischer Nutzen
- Einarbeitungszeit neuer Mitarbeitender verkürzt sich um 30–50 % (Schätzwert aus Praxisberichten), Wissenstransfer wird systematisch dokumentiert statt mündlich übergeben.
- Setup-Zeit
- 6–12 Wochen bis Pilotbetrieb
- Kosteneinschätzung
- 5.000–15.000 € Einrichtung, 200–800 €/Monat laufend
Es ist Freitag, 15:30 Uhr.
Hans Zimmermann, 61 Jahre, geht nächsten Monat in Rente. Er arbeitet seit 32 Jahren in der Baurechtsabteilung. Er weiß, warum in diesem einen Gewerbegebiet am Stadtrand die Baugrenzen anders verlaufen als auf dem Lageplan angegeben — das hat mit einem Erlass von 2003 zu tun und einem Urteil des Verwaltungsgerichts von 2011, das die Gemeinde damals zum Handeln zwang.
Niemand sonst weiß das. Es steht nirgendwo.
Seine Nachfolgerin Jana startet in sechs Wochen. Sie wird die Fragen bekommen. Sie wird Hans nicht mehr fragen können.
Das echte Ausmaß des Problems
In den nächsten zehn Jahren gehen in deutschen Kommunalverwaltungen rund 30 bis 35 Prozent aller Beschäftigten in den Ruhestand — ein demografischer Einschnitt, der in kaum einer anderen Branche so konzentriert auftritt. Mit diesen Mitarbeitenden geht nicht nur Kapazität verloren, sondern Wissen: Wissen über Präzedenzfälle, über informelle Abläufe, über juristische Auslegungen, die sich über Jahre eingespielt haben.
Dieses Wissen existiert selten in Dokumenten. Es steckt in Köpfen, in E-Mail-Threads aus dem Jahr 2018, in ausgedruckten Aktenvermerken in Hängemappen, in mündlichen Übergaben, die drei Wochen vor Renteneintritt stattfinden. Das Bundesinstitut für Berufsbildung (BIBB) schätzt, dass beim Ausscheiden einer erfahrenen Fachkraft mit zehn oder mehr Jahren Betriebszugehörigkeit 40–60 Prozent des relevanten Tätigkeitswissens verloren geht.
Für neue Mitarbeitende bedeutet das eine realistische Einarbeitungszeit von sechs bis achtzehn Monaten, bevor sie eigenständig und sicher arbeiten. In dieser Zeit machen sie mehr Fehler, fragen häufiger nach, brauchen mehr Supervision — und erzeugen Mehraufwand bei genau den erfahrenen Kolleginnen, die selbst am Limit arbeiten.
Die zweite Seite des Problems ist die tägliche Arbeit: Sachbearbeitende verbringen nach einer Studie des Fraunhofer IAO (2022) durchschnittlich 90 Minuten pro Tag damit, nach Informationen zu suchen, die irgendwo im System liegen — in verschiedenen Laufwerken, im Intranet, in alten E-Mails. Die Information existiert, ist aber nicht auffindbar.
Mit vs. ohne KI — ein ehrlicher Vergleich
| Kennzahl | Ohne KI | Mit Wissensdatenbank |
|---|---|---|
| Tägliche Informationssuchzeit je Person | 90 Minuten | 30–45 Minuten |
| Einarbeitungszeit neue Mitarbeitende | 6–18 Monate | 4–10 Monate |
| Wissenstransfer bei Renteneintritt | Mündlich, lückenhaft | Dokumentiert, abrufbar |
| Bearbeitungskonsistenz bei seltenen Fällen | Hoch variabel | Präzedenzfälle zugänglich |
Zahlen basieren auf Fraunhofer IAO (2022), BIBB-Schätzungen und eigenen Erfahrungswerten aus RAG-Implementierungen.
Einschätzung auf einen Blick
Zeitersparnis — niedrig (2/5) Die tägliche Einsparung pro Person ist real — 45 bis 60 Minuten weniger Suchen täglich — aber kleiner als bei direkten Prozessbeschleunigern wie der Bescheidgenerierung. Der Hauptnutzen liegt im strategischen Wissenserhalt, nicht in der täglichen Zeiteinsparung.
Kosteneinsparung — niedrig (2/5) Die Einrichtungskosten von 5.000–120.000 Euro stehen einem ROI gegenüber, der erst mittel- bis langfristig eintritt. Schwer zu isolieren, schwer direkt zu messen. Nicht für Behörden geeignet, die kurzfristige ROI-Nachweise brauchen.
Schnelle Umsetzung — niedrig (2/5) Der initiale Inhaltsaufbau ist der kritische Pfad und der größte Aufwand. Sechs bis zwölf Wochen bis zum Pilotbetrieb, aber nur wenn die Inhalte systematisch erhoben und eingespeist werden. Das erfordert dedizierte interne Kapazität — die in einer überlasteten Verwaltung oft nicht vorhanden ist.
ROI-Sicherheit — mittel (3/5) Der ROI ist real, aber erst nach sechs bis zwölf Monaten messbar. Einarbeitungszeiten verkürzen sich, Fehlerquoten sinken, erfahrene Kolleginnen werden entlastet. Nicht direkt messbar wie bei der Antragsprüfung, aber nachweisbar durch qualitative Indikatoren.
Skalierbarkeit — sehr hoch (5/5) Das ist die stärkste Dimension dieses Use Cases: Die Wissensdatenbank wächst mit der Behörde. Mehr Mitarbeitende, mehr Dokumente, mehr Fragen — ohne proportional steigenden Betriebsaufwand. Demografischer Wandel macht diesen Effekt über die Zeit immer wertvoller.
Richtwerte — stark abhängig von Behördengröße, demografischer Situation und Dokumentenqualität.
Was ein interner KI-Assistent für Behörden konkret macht
Das System basiert auf einer Retrieval-Augmented Generation (RAG)-Architektur — das klingt technisch, ist im Kern aber folgendes:
Die Wissensdatenbank indexiert alle relevanten internen Dokumente: Gesetze und Verordnungen, Verwaltungsvorschriften, interne Dienstanweisungen, häufige Fallkonstellationen und deren Lösung, Bescheide als Präzedenzfälle, FAQ aus der Sachbearbeitung. Wenn eine Sachbearbeiterin eine Frage stellt — „Welche Einkommensgrenze gilt beim Wohngeld für einen 3-Personen-Haushalt in der Mietstufe III?” — sucht das System die relevantesten Dokumente heraus und liefert eine direkte Antwort mit Quellenangabe. Es gibt keine Antworten zurück, die nicht in der Wissensbasis stehen.
Der entscheidende Unterschied zum allgemeinen KI-Einsatz: Das System kennt ausschließlich behördeninternes Wissen — das aktuelle Landesrecht, die lokalen Satzungen, die Dienstanweisungen, die Präzedenzfälle aus dem eigenen Haus. Kein generisches Trainingsmodell, keine veralteten Informationen von außen.
Onboarding als direkter Nutzen
Neue Mitarbeitende können vom ersten Tag an selbstständig Fragen stellen, die sie erfahrenen Kolleginnen nicht stellen würden — ohne dass es jemanden Zeit kostet. Die Einarbeitungszeit verkürzt sich typischerweise um 30–50 Prozent (Schätzwert aus Praxisberichten), weil Standardwissen sofort abrufbar ist.
Wissenstransfer bei Renteneintritten
Sechs Monate vor dem Ruhestand eines erfahrenen Sachbearbeitenden: Interviews führen, Fallkonstellationen dokumentieren, implizites Wissen in die Wissensbasis einpflegen. Das ist der einzige systematische Weg, Jahrzehnte an Erfahrungswissen zu erhalten. KI macht es abrufbar — aber jemand muss es erst dokumentieren.
Konkrete Werkzeuge — was wann passt
govdigital — für Kommunen, die eine souveräne Wissensdatenbank ohne US-Cloud-Abhängigkeit aufbauen wollen. Besonders geeignet für Behörden, die BSI-Grundschutz-konforme Lösungen benötigen. Preise projektspezifisch.
Microsoft 365 Copilot — für Behörden in der Microsoft-Umgebung: SharePoint als Wissensbasis, Azure AI Search für die Indexierung, Copilot als natürlichsprachige Suchoberfläche. Reduziert den Setup-Aufwand erheblich. M365 E3 + Copilot ab ca. 66 Euro/Nutzer/Monat.
Notion AI — für kleinere Kommunen als kostengünstiger Einstieg. Notion eignet sich gut als strukturierte Wissensdatenbank für Verwaltungsprozesse. Notion AI beantwortet Fragen auf Basis der hinterlegten Seiten. Ab 15 Euro/Nutzer/Monat (Business).
NotebookLM — für Teams, die ohne IT-Aufwand sofort starten wollen: Dokumente hochladen, direkt Fragen stellen, sofort Antworten mit Quellenangaben. Für sensible Behördendaten: Google-Cloud-Datenschutzprüfung erforderlich. Kostenlos in der Basisversion.
Claude — als Backend für selbst entwickelte RAG-Systeme: Claude ist besonders stark bei der präzisen Beantwortung von Fragen aus langen Dokumenten. Für IT-Teams, die eine eigene Wissensdatenbank mit voller Kontrolle bauen wollen. API ab ca. 3 Dollar pro 1 Million Tokens.
Perplexity — ergänzend für Sachbearbeitende, die auch externe Rechtsquellen und aktuelle Gesetzesänderungen recherchieren wollen. Für Behördeneinsatz: keine sensiblen Daten eingeben. Ab 20 Dollar/Monat (Pro).
Datenschutz und Datenhaltung
Verwaltungswissen enthält häufig personenbezogene Daten — Präzedenzfälle aus Bürgerverfahren, Beratungsnotizen, Dienstanweisungen, die auf konkrete Situationen eingehen. Jedes System, das diese Daten verarbeitet, ist Auftragsverarbeiter nach Art. 28 DSGVO. Ein AVV ist vor dem Produktivbetrieb zwingend.
Für Wissensdatenbanken mit hohem Schutzbedarf (interne Dienstanweisungen zu sensiblen Themen, Personalinformationen, politisch sensible Beratungsunterlagen) ist On-Premise-Betrieb erforderlich. Das BSI-Grundschutz-Kompendium beschreibt für KI-Einsatz in der Verwaltung Schutzmaßnahmen nach Schutzbedarf — bei normalem Schutzbedarf sind EU-Cloud-Lösungen mit AVV tragfähig, bei hohem ist On-Premise erforderlich.
Zugriffsrechte. Eine gut gebaute Wissensdatenbank respektiert die bestehende Zugriffsstruktur: Wenn ein Dokument in SharePoint nur für die Rechtsabteilung zugänglich ist, darf der Assistent daraus auch keine Informationen an Sachbearbeitende weitergeben. Das muss in der Systemkonfiguration explizit eingestellt werden — es passiert nicht automatisch.
Was es kostet — realistisch gerechnet
Einstieg (ein Fachreferat, begrenzte Wissensbasis)
- Aufbau der initialen Wissensbasis und Konfiguration: 5.000–15.000 Euro (einmalig)
- Tool-Kosten je nach Lösung: 200–800 Euro/Monat
- Zeithorizont: 6–12 Wochen bis zum produktiven Einsatz
Skaliert (behördenweite Wissensdatenbank)
- Gesamtinvestition inkl. Inhaltsaufbau: 30.000–120.000 Euro
- Laufende Betriebskosten: 5.000–15.000 Euro/Jahr
- Amortisation: 1–2 Jahre, vor allem durch verkürzte Einarbeitungszeiten
Was du dagegenrechnen kannst Eine Verwaltung mit jährlich acht neuen Mitarbeitenden, durchschnittlicher Einarbeitungszeit von zwölf Monaten. Wenn KI die Einarbeitungszeit auf sieben Monate verkürzt, spart das fünf Monate Einarbeitungsaufwand je Stelle. Bei Einarbeitungskosten von schätzungsweise 30.000 Euro pro Stelle: 12.500 Euro Einsparung pro Stelle, 100.000 Euro/Jahr bei Systemkosten von 15.000–30.000 Euro.
Typische Einstiegsfehler
1. Mit zu vielen Dokumenten auf einmal starten. Der Reflex: Alles einlesen, dann ist das System vollständig. In der Praxis führt das zu einem System mit diffusen Antworten — veraltete Dokumente, Duplikate und widersprüchliche Versionen degradieren die Qualität. Lösung: Mit den drei bis fünf häufigsten internen Fragekategorien starten. Welche Dokumente beantworten sie? Nur die werden zuerst indexiert.
2. Keine Zugriffsrechte definieren. Ohne Zugriffsrechte können Sachbearbeitende Antworten aus Dokumenten erhalten, die nicht für sie bestimmt sind. Das erzeugt berechtigtes Misstrauen. Lösung: Vor der Einführung klare Kategorien definieren — was ist intern zugänglich für alle, was nur für bestimmte Rollen.
3. Implizites Wissen nicht erheben. Ein RAG-System kann nur das zurückgeben, was dokumentiert ist. Wenn das Wissen hauptsächlich in Köpfen sitzt, hilft das System nicht. Lösung: Die Einführungsphase nutzen, um explizit zu erfassen, was fehlt — strukturierte Interviews mit erfahrenen Sachbearbeitenden, Walkthrough-Videos.
4. Das System wird eingeführt, aber nicht gepflegt. Im Gegensatz zu einer Suchmaschine, die einfach nicht findet, was nicht da ist, antwortet ein RAG-System immer — auch wenn die Quelle zwei Jahre alt und längst überholt ist. Lösung: Jede Dokumentenkategorie braucht einen Besitzer und einen Aktualisierungsrhythmus. Das muss vor dem Produktivstart festgelegt sein.
Was mit der Einführung wirklich passiert — und was nicht
Die erfahrenen Kolleginnen sind die Schlüsselpersonen. Sie wissen, welches Wissen wichtig ist und was dokumentiert werden muss. Sie müssen in den Aufbau eingebunden werden — nicht als passive Lieferanten von Informationen, sondern als aktive Gestalter der Wissensbasis. Wer das System mitgebaut hat, verteidigt es.
Neue Mitarbeitende nutzen es intensiver als erfahrene. Die erfahrenen Kolleginnen haben ihre eigenen Routinen — die werden sie nicht sofort aufgeben. Der Quick Win kommt beim nächsten Onboarding, wenn die neue Mitarbeiterin eigenständig arbeiten kann, ohne die halbe Abteilung mit Fragen zu beschäftigen.
Was konkret hilft:
- Pilotstart mit einer Gruppe neuer Mitarbeitender
- Wöchentliche Auswertung der häufigsten Fragen, die das System nicht beantworten konnte → Dokumentationslücken
- Explizite Anerkennung der Wissensdokumentation als Leistung (nicht als Zusatzaufgabe)
- Halbjährliche Prüfung der Wissensbasis auf veraltete Inhalte
Realistischer Zeitplan mit Risikohinweisen
| Phase | Dauer | Was passiert | Typisches Risiko |
|---|---|---|---|
| Wissensinventur und Priorisierung | Woche 1–4 | Vorhandenes Wissen sichten, priorisieren, Verantwortliche benennen | Wissen ist zu stark in Köpfen — Dokumentationsaufwand unterschätzt |
| Tool-Auswahl und Datenschutzklärung | Woche 2–5 | Plattform wählen, AVV abschließen, Datenschutz-Folgeabschätzung | DSGVO-Anforderungen unklar — Datenschutzbeauftragter muss eingebunden werden |
| Initialer Inhaltsaufbau | Woche 3–10 | Dokumente strukturieren, einpflegen, erste Testfragen stellen | Inhalte nicht aktuell oder widersprüchlich |
| Pilottest mit einer Abteilung | Woche 9–14 | Eine Abteilung nutzt das System produktiv, Feedback sammeln | Sachbearbeitende stellen keine Fragen — fehlendes Vertrauen in die Antwortqualität |
| Einführung und kontinuierliche Pflege | Ab Monat 4 | Weitere Abteilungen einbinden, Pflegeprozesse etablieren | Inhalte werden nicht aktuell gehalten — Wissensbasis veraltet |
Häufige Einwände — und was dahintersteckt
„Unsere internen Dokumente sind zu vertraulich für eine KI-Plattform.” Das Problem ist lösbar. Für hochsensible Behördendaten gibt es ausschließlich On-Premise-Lösungen oder europäische Sovereign-Cloud-Angebote wie govdigital. Die Frage ist nicht, ob KI mit Behördendaten umgehen kann, sondern welche Infrastruktur die Kontrolle garantiert.
„Wir haben die Kapazität nicht, die Wissensbasis aufzubauen.” Das ist der häufigste Grund, warum Wissensdatenbank-Projekte stecken bleiben. Die ehrliche Antwort: Ein nachhaltiger Aufbau braucht eine dedizierte Person für sechs bis acht Wochen. Danach ist der Pflegeaufwand deutlich geringer. Das ist eine Investition — aber eine, die sich amortisiert.
„KI kann das spezifische Recht unserer Gemeinde nicht kennen.” Das stimmt für allgemeine KI-Modelle. Für eine RAG-basierte Wissensdatenbank gilt das Gegenteil: Das System kennt ausschließlich das, was du hineingelegt hast. Wenn du Landesrecht, kommunale Satzungen und Präzedenzfälle einpflegst, beantwortet das System genau auf Basis dieser Quellen.
Woran du merkst, dass das zu dir passt
- In den nächsten fünf Jahren verlässt ein erheblicher Teil der erfahrenen Mitarbeitenden die Behörde.
- Neue Mitarbeitende brauchen länger als ein Jahr, um eigenständig und sicher zu arbeiten.
- Es gibt in deiner Behörde zwei bis drei Personen, die für alles gefragt werden — und die das zunehmend aushöhlt.
- Sachbearbeitende verbringen täglich mehr als eine Stunde damit, nach Informationen zu suchen, die irgendwo im System liegen.
Du solltest es noch nicht tun, wenn:
- Wissen in deiner Behörde so gut wie nicht dokumentiert ist und keine Kapazität besteht, das systematisch zu ändern — ein RAG-System über leere Dokumente bringt keinen Nutzen.
- Das Dokumentenmanagementsystem so veraltet ist, dass keine Dokumente strukturiert exportiert werden können.
- Du kurzfristigen ROI-Nachweis brauchst — dieser Use Case ist strategisch, nicht taktisch.
Das kannst du heute noch tun
Identifiziere die drei häufigsten Fragen, die neue Mitarbeitende in ihrer ersten Woche stellen. Schreib die Antworten auf. Das sind die ersten drei Einträge in deiner Wissensdatenbank — und du brauchst kein KI-System, um damit anzufangen.
Mitarbeiter:in
KI-Assistent
Quellen & Methodik
- Fraunhofer IAO (2022): Studie zu Informationssuchzeit in der öffentlichen Verwaltung
- BIBB (2023): Schätzungen zu Wissensverlust bei Renteneintritt in der öffentlichen Verwaltung
- Bitkom Digitalisierungsindex (2024): Demografischer Wandel im öffentlichen Dienst
- BSI-Grundschutz-Kompendium (2024): Schutzmaßnahmen für KI-Systeme nach Schutzbedarf
- Eigene Erfahrungswerte: RAG-Implementierungen in Behörden 2023–2025
Diesen Inhalt teilen:
Interesse an diesem Use Case?
Schreib uns, wenn du mehr erfahren oder diesen Use Case für dein Unternehmen umsetzen möchtest. Wir melden uns zeitnah bei dir.
Weitere Use Cases
Bürger-Chatbot für häufige Anfragen
Ein KI-gestützter Chatbot beantwortet häufige Bürgeranfragen rund um die Uhr — von Öffnungszeiten über Formulare bis hin zu Zuständigkeiten und Fristen.
Mehr erfahrenKI-gestützte Antragsprüfung in der Verwaltung
KI prüft eingereichte Anträge auf Vollständigkeit und Plausibilität, erkennt häufige Fehler und unterstützt Sachbearbeitende bei der Bearbeitung — schneller und konsistenter.
Mehr erfahrenAutomatische Dokumentenklassifizierung in der Verwaltung
KI klassifiziert eingehende Dokumente automatisch, ordnet sie den richtigen Vorgängen zu und leitet sie an die zuständige Stelle weiter — ohne manuelle Sichtung.
Mehr erfahren