Zum Inhalt springen
Öffentliche Verwaltung wissensmanagementverwaltungonboarding

Interne Wissensdatenbank für Behörden

KI macht das Verwaltungswissen einer Behörde durchsuchbar und zugänglich — neue Mitarbeitende finden Antworten sofort, erfahrene Kräfte teilen ihr Wissen effizienter.

⚡ Auf einen Blick
Problem
Wissen in Behörden steckt in den Köpfen langjähriger Mitarbeitender oder in unsortierten Aktenbergen — beim Ausscheiden von Schlüsselpersonen geht wertvolles Erfahrungswissen verloren.
KI-Lösung
Eine RAG-Architektur (Retrieval-Augmented Generation) indexiert interne Dokumente; ein LLM beantwortet per NLP-Suche Fragen zu Gesetzen, Verwaltungsvorschriften, Präzedenzfällen und internen Richtlinien mit direkten Quellenangaben.
Typischer Nutzen
Einarbeitungszeit neuer Mitarbeitender verkürzt sich um 30–50 % (Schätzwert aus Praxisberichten), Wissenstransfer wird systematisch dokumentiert statt mündlich übergeben.
Setup-Zeit
6–12 Wochen bis Pilotbetrieb
Kosteneinschätzung
5.000–15.000 € Einrichtung, 200–800 €/Monat laufend
NotebookLM (kostenlos, kein Setup)nele.ai (DSGVO-SaaS, Serverstandort Deutschland, RAG ohne Setup)Custom RAG mit Claude API (volle Kontrolle)
Worum geht's?

Es ist Freitag, 15:30 Uhr.

Hans Zimmermann, 61 Jahre, geht nächsten Monat in Rente. Er arbeitet seit 32 Jahren in der Baurechtsabteilung. Er weiß, warum in diesem einen Gewerbegebiet am Stadtrand die Baugrenzen anders verlaufen als auf dem Lageplan angegeben — das hat mit einem Erlass von 2003 zu tun und einem Urteil des Verwaltungsgerichts von 2011, das die Gemeinde damals zum Handeln zwang.

Niemand sonst weiß das. Es steht nirgendwo.

Seine Nachfolgerin Jana startet in sechs Wochen. Sie wird die Fragen bekommen. Sie wird Hans nicht mehr fragen können.

Das echte Ausmaß des Problems

In den nächsten zehn Jahren gehen in deutschen Kommunalverwaltungen rund 30 bis 35 Prozent aller Beschäftigten in den Ruhestand — ein demografischer Einschnitt, der in kaum einer anderen Branche so konzentriert auftritt. Mit diesen Mitarbeitenden geht nicht nur Kapazität verloren, sondern Wissen: Wissen über Präzedenzfälle, über informelle Abläufe, über juristische Auslegungen, die sich über Jahre eingespielt haben.

Dieses Wissen existiert selten in Dokumenten. Es steckt in Köpfen, in E-Mail-Threads aus dem Jahr 2018, in ausgedruckten Aktenvermerken in Hängemappen, in mündlichen Übergaben, die drei Wochen vor Renteneintritt stattfinden. Das Bundesinstitut für Berufsbildung (BIBB) schätzt, dass beim Ausscheiden einer erfahrenen Fachkraft mit zehn oder mehr Jahren Betriebszugehörigkeit 40–60 Prozent des relevanten Tätigkeitswissens verloren geht.

Für neue Mitarbeitende bedeutet das eine realistische Einarbeitungszeit von sechs bis achtzehn Monaten, bevor sie eigenständig und sicher arbeiten. In dieser Zeit machen sie mehr Fehler, fragen häufiger nach, brauchen mehr Supervision — und erzeugen Mehraufwand bei genau den erfahrenen Kolleginnen, die selbst am Limit arbeiten.

Die zweite Seite des Problems ist die tägliche Arbeit: Sachbearbeitende verbringen nach einer Studie des Fraunhofer IAO (2022) durchschnittlich 90 Minuten pro Tag damit, nach Informationen zu suchen, die irgendwo im System liegen — in verschiedenen Laufwerken, im Intranet, in alten E-Mails. Die Information existiert, ist aber nicht auffindbar.

Mit vs. ohne KI — ein ehrlicher Vergleich

KennzahlOhne KIMit Wissensdatenbank
Tägliche Informationssuchzeit je Person90 Minuten30–45 Minuten
Einarbeitungszeit neue Mitarbeitende6–18 Monate4–10 Monate
Wissenstransfer bei RenteneintrittMündlich, lückenhaftDokumentiert, abrufbar
Bearbeitungskonsistenz bei seltenen FällenHoch variabelPräzedenzfälle zugänglich

Zahlen basieren auf Fraunhofer IAO (2022), BIBB-Schätzungen und eigenen Erfahrungswerten aus RAG-Implementierungen.

Einschätzung auf einen Blick

Zeitersparnis — niedrig (2/5) Die tägliche Einsparung pro Person ist real — 45 bis 60 Minuten weniger Suchen täglich — aber kleiner als bei direkten Prozessbeschleunigern wie der Bescheidgenerierung. Der Hauptnutzen liegt im strategischen Wissenserhalt, nicht in der täglichen Zeiteinsparung.

Kosteneinsparung — niedrig (2/5) Die Einrichtungskosten von 5.000–120.000 Euro stehen einem ROI gegenüber, der erst mittel- bis langfristig eintritt. Schwer zu isolieren, schwer direkt zu messen. Nicht für Behörden geeignet, die kurzfristige ROI-Nachweise brauchen.

Schnelle Umsetzung — niedrig (2/5) Der initiale Inhaltsaufbau ist der kritische Pfad und der größte Aufwand. Sechs bis zwölf Wochen bis zum Pilotbetrieb, aber nur wenn die Inhalte systematisch erhoben und eingespeist werden. Das erfordert dedizierte interne Kapazität — die in einer überlasteten Verwaltung oft nicht vorhanden ist.

ROI-Sicherheit — mittel (3/5) Der ROI ist real, aber erst nach sechs bis zwölf Monaten messbar. Einarbeitungszeiten verkürzen sich, Fehlerquoten sinken, erfahrene Kolleginnen werden entlastet. Nicht direkt messbar wie bei der Antragsprüfung, aber nachweisbar durch qualitative Indikatoren.

Skalierbarkeit — sehr hoch (5/5) Das ist die stärkste Dimension dieses Use Cases: Die Wissensdatenbank wächst mit der Behörde. Mehr Mitarbeitende, mehr Dokumente, mehr Fragen — ohne proportional steigenden Betriebsaufwand. Demografischer Wandel macht diesen Effekt über die Zeit immer wertvoller.

Richtwerte — stark abhängig von Behördengröße, demografischer Situation und Dokumentenqualität.

Was ein interner KI-Assistent für Behörden konkret macht

Das System basiert auf einer Retrieval-Augmented Generation (RAG)-Architektur — das klingt technisch, ist im Kern aber folgendes:

Die Wissensdatenbank indexiert alle relevanten internen Dokumente: Gesetze und Verordnungen, Verwaltungsvorschriften, interne Dienstanweisungen, häufige Fallkonstellationen und deren Lösung, Bescheide als Präzedenzfälle, FAQ aus der Sachbearbeitung. Wenn eine Sachbearbeiterin eine Frage stellt — „Welche Einkommensgrenze gilt beim Wohngeld für einen 3-Personen-Haushalt in der Mietstufe III?” — sucht das System die relevantesten Dokumente heraus und liefert eine direkte Antwort mit Quellenangabe. Es gibt keine Antworten zurück, die nicht in der Wissensbasis stehen.

Der entscheidende Unterschied zum allgemeinen KI-Einsatz: Das System kennt ausschließlich behördeninternes Wissen — das aktuelle Landesrecht, die lokalen Satzungen, die Dienstanweisungen, die Präzedenzfälle aus dem eigenen Haus. Kein generisches Trainingsmodell, keine veralteten Informationen von außen.

Onboarding als direkter Nutzen

Neue Mitarbeitende können vom ersten Tag an selbstständig Fragen stellen, die sie erfahrenen Kolleginnen nicht stellen würden — ohne dass es jemanden Zeit kostet. Die Einarbeitungszeit verkürzt sich typischerweise um 30–50 Prozent (Schätzwert aus Praxisberichten), weil Standardwissen sofort abrufbar ist.

Wissenstransfer bei Renteneintritten

Sechs Monate vor dem Ruhestand eines erfahrenen Sachbearbeitenden: Interviews führen, Fallkonstellationen dokumentieren, implizites Wissen in die Wissensbasis einpflegen. Das ist der einzige systematische Weg, Jahrzehnte an Erfahrungswissen zu erhalten. KI macht es abrufbar — aber jemand muss es erst dokumentieren.

Konkrete Werkzeuge — was wann passt

govdigital — für Kommunen, die eine souveräne Wissensdatenbank ohne US-Cloud-Abhängigkeit aufbauen wollen. Besonders geeignet für Behörden, die BSI-Grundschutz-konforme Lösungen benötigen. Preise projektspezifisch.

Microsoft 365 Copilot — für Behörden in der Microsoft-Umgebung: SharePoint als Wissensbasis, Azure AI Search für die Indexierung, Copilot als natürlichsprachige Suchoberfläche. Reduziert den Setup-Aufwand erheblich. M365 E3 + Copilot ab ca. 66 Euro/Nutzer/Monat.

Notion AI — für kleinere Kommunen als kostengünstiger Einstieg. Notion eignet sich gut als strukturierte Wissensdatenbank für Verwaltungsprozesse. Notion AI beantwortet Fragen auf Basis der hinterlegten Seiten. Ab 15 Euro/Nutzer/Monat (Business).

NotebookLM — für Teams, die ohne IT-Aufwand sofort starten wollen: Dokumente hochladen, direkt Fragen stellen, sofort Antworten mit Quellenangaben. Für sensible Behördendaten: Google-Cloud-Datenschutzprüfung erforderlich. Kostenlos in der Basisversion.

Claude — als Backend für selbst entwickelte RAG-Systeme: Claude ist besonders stark bei der präzisen Beantwortung von Fragen aus langen Dokumenten. Für IT-Teams, die eine eigene Wissensdatenbank mit voller Kontrolle bauen wollen. API ab ca. 3 Dollar pro 1 Million Tokens.

Perplexity — ergänzend für Sachbearbeitende, die auch externe Rechtsquellen und aktuelle Gesetzesänderungen recherchieren wollen. Für Behördeneinsatz: keine sensiblen Daten eingeben. Ab 20 Dollar/Monat (Pro).

Datenschutz und Datenhaltung

Verwaltungswissen enthält häufig personenbezogene Daten — Präzedenzfälle aus Bürgerverfahren, Beratungsnotizen, Dienstanweisungen, die auf konkrete Situationen eingehen. Jedes System, das diese Daten verarbeitet, ist Auftragsverarbeiter nach Art. 28 DSGVO. Ein AVV ist vor dem Produktivbetrieb zwingend.

Für Wissensdatenbanken mit hohem Schutzbedarf (interne Dienstanweisungen zu sensiblen Themen, Personalinformationen, politisch sensible Beratungsunterlagen) ist On-Premise-Betrieb erforderlich. Das BSI-Grundschutz-Kompendium beschreibt für KI-Einsatz in der Verwaltung Schutzmaßnahmen nach Schutzbedarf — bei normalem Schutzbedarf sind EU-Cloud-Lösungen mit AVV tragfähig, bei hohem ist On-Premise erforderlich.

Zugriffsrechte. Eine gut gebaute Wissensdatenbank respektiert die bestehende Zugriffsstruktur: Wenn ein Dokument in SharePoint nur für die Rechtsabteilung zugänglich ist, darf der Assistent daraus auch keine Informationen an Sachbearbeitende weitergeben. Das muss in der Systemkonfiguration explizit eingestellt werden — es passiert nicht automatisch.

Was es kostet — realistisch gerechnet

Einstieg (ein Fachreferat, begrenzte Wissensbasis)

  • Aufbau der initialen Wissensbasis und Konfiguration: 5.000–15.000 Euro (einmalig)
  • Tool-Kosten je nach Lösung: 200–800 Euro/Monat
  • Zeithorizont: 6–12 Wochen bis zum produktiven Einsatz

Skaliert (behördenweite Wissensdatenbank)

  • Gesamtinvestition inkl. Inhaltsaufbau: 30.000–120.000 Euro
  • Laufende Betriebskosten: 5.000–15.000 Euro/Jahr
  • Amortisation: 1–2 Jahre, vor allem durch verkürzte Einarbeitungszeiten

Was du dagegenrechnen kannst Eine Verwaltung mit jährlich acht neuen Mitarbeitenden, durchschnittlicher Einarbeitungszeit von zwölf Monaten. Wenn KI die Einarbeitungszeit auf sieben Monate verkürzt, spart das fünf Monate Einarbeitungsaufwand je Stelle. Bei Einarbeitungskosten von schätzungsweise 30.000 Euro pro Stelle: 12.500 Euro Einsparung pro Stelle, 100.000 Euro/Jahr bei Systemkosten von 15.000–30.000 Euro.

Typische Einstiegsfehler

1. Mit zu vielen Dokumenten auf einmal starten. Der Reflex: Alles einlesen, dann ist das System vollständig. In der Praxis führt das zu einem System mit diffusen Antworten — veraltete Dokumente, Duplikate und widersprüchliche Versionen degradieren die Qualität. Lösung: Mit den drei bis fünf häufigsten internen Fragekategorien starten. Welche Dokumente beantworten sie? Nur die werden zuerst indexiert.

2. Keine Zugriffsrechte definieren. Ohne Zugriffsrechte können Sachbearbeitende Antworten aus Dokumenten erhalten, die nicht für sie bestimmt sind. Das erzeugt berechtigtes Misstrauen. Lösung: Vor der Einführung klare Kategorien definieren — was ist intern zugänglich für alle, was nur für bestimmte Rollen.

3. Implizites Wissen nicht erheben. Ein RAG-System kann nur das zurückgeben, was dokumentiert ist. Wenn das Wissen hauptsächlich in Köpfen sitzt, hilft das System nicht. Lösung: Die Einführungsphase nutzen, um explizit zu erfassen, was fehlt — strukturierte Interviews mit erfahrenen Sachbearbeitenden, Walkthrough-Videos.

4. Das System wird eingeführt, aber nicht gepflegt. Im Gegensatz zu einer Suchmaschine, die einfach nicht findet, was nicht da ist, antwortet ein RAG-System immer — auch wenn die Quelle zwei Jahre alt und längst überholt ist. Lösung: Jede Dokumentenkategorie braucht einen Besitzer und einen Aktualisierungsrhythmus. Das muss vor dem Produktivstart festgelegt sein.

Was mit der Einführung wirklich passiert — und was nicht

Die erfahrenen Kolleginnen sind die Schlüsselpersonen. Sie wissen, welches Wissen wichtig ist und was dokumentiert werden muss. Sie müssen in den Aufbau eingebunden werden — nicht als passive Lieferanten von Informationen, sondern als aktive Gestalter der Wissensbasis. Wer das System mitgebaut hat, verteidigt es.

Neue Mitarbeitende nutzen es intensiver als erfahrene. Die erfahrenen Kolleginnen haben ihre eigenen Routinen — die werden sie nicht sofort aufgeben. Der Quick Win kommt beim nächsten Onboarding, wenn die neue Mitarbeiterin eigenständig arbeiten kann, ohne die halbe Abteilung mit Fragen zu beschäftigen.

Was konkret hilft:

  • Pilotstart mit einer Gruppe neuer Mitarbeitender
  • Wöchentliche Auswertung der häufigsten Fragen, die das System nicht beantworten konnte → Dokumentationslücken
  • Explizite Anerkennung der Wissensdokumentation als Leistung (nicht als Zusatzaufgabe)
  • Halbjährliche Prüfung der Wissensbasis auf veraltete Inhalte

Realistischer Zeitplan mit Risikohinweisen

PhaseDauerWas passiertTypisches Risiko
Wissensinventur und PriorisierungWoche 1–4Vorhandenes Wissen sichten, priorisieren, Verantwortliche benennenWissen ist zu stark in Köpfen — Dokumentationsaufwand unterschätzt
Tool-Auswahl und DatenschutzklärungWoche 2–5Plattform wählen, AVV abschließen, Datenschutz-FolgeabschätzungDSGVO-Anforderungen unklar — Datenschutzbeauftragter muss eingebunden werden
Initialer InhaltsaufbauWoche 3–10Dokumente strukturieren, einpflegen, erste Testfragen stellenInhalte nicht aktuell oder widersprüchlich
Pilottest mit einer AbteilungWoche 9–14Eine Abteilung nutzt das System produktiv, Feedback sammelnSachbearbeitende stellen keine Fragen — fehlendes Vertrauen in die Antwortqualität
Einführung und kontinuierliche PflegeAb Monat 4Weitere Abteilungen einbinden, Pflegeprozesse etablierenInhalte werden nicht aktuell gehalten — Wissensbasis veraltet

Häufige Einwände — und was dahintersteckt

„Unsere internen Dokumente sind zu vertraulich für eine KI-Plattform.” Das Problem ist lösbar. Für hochsensible Behördendaten gibt es ausschließlich On-Premise-Lösungen oder europäische Sovereign-Cloud-Angebote wie govdigital. Die Frage ist nicht, ob KI mit Behördendaten umgehen kann, sondern welche Infrastruktur die Kontrolle garantiert.

„Wir haben die Kapazität nicht, die Wissensbasis aufzubauen.” Das ist der häufigste Grund, warum Wissensdatenbank-Projekte stecken bleiben. Die ehrliche Antwort: Ein nachhaltiger Aufbau braucht eine dedizierte Person für sechs bis acht Wochen. Danach ist der Pflegeaufwand deutlich geringer. Das ist eine Investition — aber eine, die sich amortisiert.

„KI kann das spezifische Recht unserer Gemeinde nicht kennen.” Das stimmt für allgemeine KI-Modelle. Für eine RAG-basierte Wissensdatenbank gilt das Gegenteil: Das System kennt ausschließlich das, was du hineingelegt hast. Wenn du Landesrecht, kommunale Satzungen und Präzedenzfälle einpflegst, beantwortet das System genau auf Basis dieser Quellen.

Woran du merkst, dass das zu dir passt

  • In den nächsten fünf Jahren verlässt ein erheblicher Teil der erfahrenen Mitarbeitenden die Behörde.
  • Neue Mitarbeitende brauchen länger als ein Jahr, um eigenständig und sicher zu arbeiten.
  • Es gibt in deiner Behörde zwei bis drei Personen, die für alles gefragt werden — und die das zunehmend aushöhlt.
  • Sachbearbeitende verbringen täglich mehr als eine Stunde damit, nach Informationen zu suchen, die irgendwo im System liegen.

Du solltest es noch nicht tun, wenn:

  • Wissen in deiner Behörde so gut wie nicht dokumentiert ist und keine Kapazität besteht, das systematisch zu ändern — ein RAG-System über leere Dokumente bringt keinen Nutzen.
  • Das Dokumentenmanagementsystem so veraltet ist, dass keine Dokumente strukturiert exportiert werden können.
  • Du kurzfristigen ROI-Nachweis brauchst — dieser Use Case ist strategisch, nicht taktisch.

Das kannst du heute noch tun

Identifiziere die drei häufigsten Fragen, die neue Mitarbeitende in ihrer ersten Woche stellen. Schreib die Antworten auf. Das sind die ersten drei Einträge in deiner Wissensdatenbank — und du brauchst kein KI-System, um damit anzufangen.

Verwaltungs-Wissensassistent
Du bist ein Wissensassistent der [BEHÖRDENNAME] für interne Sachbearbeitungsfragen. Du kannst nur auf Basis der folgenden Dokumente antworten. Wenn die Antwort nicht in diesen Dokumenten zu finden ist, antworte: "Dazu habe ich keine Informationen in der Wissensdatenbank. Bitte frag die zuständige Fachabteilung." Gib bei jeder Antwort die Quelle an (Dokumentname und Abschnitt). [HIER DOKUMENTE EINFÜGEN] Starte jede Antwort mit einer direkten Aussage. Keine Einleitungsfloskeln.
Funktioniert mit Microsoft 365 Copilot, NotebookLM, Notion AI, Custom RAG mit Claude
Beispiel-Ausgabe

Mitarbeiter:in

Welche Einkommensgrenze gilt für den Wohngeldanspruch für einen 4-Personen-Haushalt in der Mietstufe IV?

KI-Assistent

Die Einkommensgrenze für einen 4-Personen-Haushalt in Mietstufe IV beträgt gemäß aktueller Wohngeldtabelle 2.720 Euro monatliches Gesamteinkommen (Netto nach Abzügen gemäß § 13 WoGG). Quelle: Wohngeldtabelle 2024 (Anlage 2 WoGG), Zeile 4, Spalte IV — zuletzt aktualisiert Januar 2024. Hinweis: Bei Haushalten mit pflegebedürftigen Angehörigen gelten abweichende Freibeträge (§ 17 WoGG). Bitte prüfen, ob dieser Fall zutrifft.

Quellen & Methodik

  • Fraunhofer IAO (2022): Studie zu Informationssuchzeit in der öffentlichen Verwaltung
  • BIBB (2023): Schätzungen zu Wissensverlust bei Renteneintritt in der öffentlichen Verwaltung
  • Bitkom Digitalisierungsindex (2024): Demografischer Wandel im öffentlichen Dienst
  • BSI-Grundschutz-Kompendium (2024): Schutzmaßnahmen für KI-Systeme nach Schutzbedarf
  • Eigene Erfahrungswerte: RAG-Implementierungen in Behörden 2023–2025

Diesen Inhalt teilen:

🤝

Interesse an diesem Use Case?

Schreib uns, wenn du mehr erfahren oder diesen Use Case für dein Unternehmen umsetzen möchtest. Wir melden uns zeitnah bei dir.

Deine Daten werden ausschließlich zur Bearbeitung deiner Anfrage verwendet (Art. 6 Abs. 1 lit. b DSGVO). Mehr in unserer Datenschutzerklärung.

Kostenloser Newsletter

Bleib auf dem neuesten
Stand der KI

Wähle deine Themen und erhalte relevante KI-News, Praxistipps und exklusive Inhalte direkt in dein Postfach – kein Spam, jederzeit abmeldbar.

Was interessiert dich? Wähle 1–3 Themen — du bekommst nur Inhalte dazu.

Mit der Anmeldung stimmst du unserer Datenschutzerklärung zu. Jederzeit abmeldbar.

Kostenlos
Kein Spam
Jederzeit abmeldbar