LLM-Assistent für Sachbearbeiter

Das echte Ausmaß des Problems

Im deutschen öffentlichen Dienst arbeiten rund 5 Millionen Menschen. Eine konservative Schätzung: Sachbearbeiter verbringen 3–4 Stunden täglich mit Textarbeit — Bescheide formulieren, Korrespondenz beantworten, interne Berichte schreiben, Vorlagen suchen und anpassen. Viel davon ist strukturell ähnlich, aber nicht identisch: jeder Bescheid braucht individuelle Anpassung, jede Bürgeranfrage eine spezifische Antwort.

Gleichzeitig ist Fachwissen kaum systematisch zugänglich. Rentenrecht, Bauordnung, Schulrecht — Sachbearbeiter müssen sich durch Hunderte von Paragraphen, Verwaltungsvorschriften und internen Dienstanweisungen kämpfen, die oft nur als PDF in SharePoint-Ordnern liegen. Neue Mitarbeitende brauchen 12–18 Monate, um produktiv zu werden — und wenn erfahrene Sachbearbeiter in Rente gehen, geht das Wissen mit.

Das Fraunhofer IAO schätzt (2022), dass öffentliche Beschäftigte im Schnitt 90 Minuten täglich mit der Suche nach Informationen verbringen — Gesetze, Vorschriften, Akten, Urteile. Das ist keine Wissensarbeit, das ist Suche nach Wissensquellen. Generative KI kann diesen Aufwand erheblich senken.

Hamburg hat das erkannt und 2023 LLMoin entwickelt — einen behördeninternen KI-Assistenten, der ohne externe Cloud-Dienste läuft. Mehrere Bundesländer (Schleswig-Holstein, Sachsen-Anhalt, Thüringen) nutzen LLMoin inzwischen nach. Das Konzept ist replizierbar.

Mit vs. ohne KI — ein ehrlicher Vergleich

Einschätzung auf einen Blick

Zeitersparnis — hoch (4/5) Das ist der stärkste Wert dieses Anwendungsfalls. Ein produktiver LLM-Assistent spart Sachbearbeitenden nachweislich 1–2 Stunden täglich — bei Textentwürfen, Dokumentenrecherche und Zusammenfassungen. In der LLMoin-Evaluation in Hamburg wurde eine Zeitersparnis von 20–30% bei der Textarbeit gemessen. Verglichen mit anderen Verwaltungs-Anwendungsfällen ist das der direkteste Effizienzgewinn pro Nutzerin.

Kosteneinsparung — hoch (4/5) Bei hohem Implementierungsaufwand mag ein hoher Kostenwert überraschend wirken. Aber der Einspareffekt ist realer als bei vielen anderen Anwendungsfällen: Wer mit 100 Sachbearbeitenden je 1 Stunde täglich einspart, spart 770.000 Euro Personalkosten pro Jahr (bei realistischen EG 9–11 Sätzen). Das amortisiert die Investition schnell — wenn das System funktioniert. Die Bewertung reflektiert den langfristigen Einspareffekt, nicht den Einführungsaufwand.

Schnelle Umsetzung — niedrig (1/5) Das ist der schwächste Wert. On-Premise-Einführung, Datenschutzfolgenabschätzung, IT-Sicherheitsfreigabe, GPU-Beschaffung über öffentliche Ausschreibung, RAG-Aufbau, Schulung — das dauert 12–18 Monate. Kein anderer Anwendungsfall in der Verwaltungskategorie ist aufwändiger in der Einführung. Wer schnelle Ergebnisse braucht, sollte mit Microsoft 365 Copilot starten — schwächere Datenschutzkontrolle, aber in 4–8 Wochen produktiv.

ROI-Sicherheit — mittel (3/5) Die Zeitersparnis ist messbar — die Qualitätsverbesserung bei Bescheiden nicht. Ob weniger Widersprüche durch bessere Erstbescheide eingehen, ist schwer zu isolieren. Ob neue Mitarbeitende schneller produktiv werden, ist methodisch kaum sauber nachzuweisen. Der direkte Zeitgewinn gibt Sicherheit; die weichen Nutzeneffekte bleiben ungewiss.

Skalierbarkeit — mittel (3/5) Weitere Sachbearbeitende können dem System beitreten — aber die Infrastruktur skaliert nicht kostenlos. Mehr Nutzer bedeuten mehr Server-Kapazität, mehr Modellpflege und mehr Support. Das ist nicht linear kostspielig, aber auch nicht das „Wächst gratis mit”-Profil einer reinen Software-Lösung.

Richtwerte — stark abhängig von Behördengröße, IT-Infrastruktur und Betriebsmodell.

Was der LLM-Assistent konkret macht

Das System kombiniert zwei Technologien:

On-Premise-LLM: Ein Open-Source-Sprachmodell (Llama 3, Mistral, Mixtral) läuft auf behördeneigener oder Dataport-Infrastruktur. Keine Daten verlassen die Behörde — das ist der entscheidende Unterschied zu ChatGPT oder Claude. Datenschutzbeauftragte und IT-Sicherheit können zustimmen.

RAG-Wissensbasis: Das Modell allein kennt kein aktuelles Steuer- oder Baurecht. Deshalb wird eine Retrieval-Augmented-Generation-Architektur aufgebaut: Alle relevanten Dokumente (Gesetzestexte, Dienstanweisungen, Musterbescheide, Urteilssammlungen) werden in einer Vektordatenbank indexiert. Bei jeder Anfrage sucht das System die relevantesten Dokumente heraus und gibt sie dem Modell als Kontext mit. Das Modell antwortet auf Basis aktueller behördlicher Dokumente, nicht auf Basis veralteten Trainingswissens.

Konkrete Anwendungsfälle im Tagesbetrieb:

• Sachbearbeiterin beschreibt Fallkonstellation → System entwirft Bescheid-Text zum Prüfen und Anpassen
• Bürger-E-Mail einfügen → System schlägt strukturierte Antwort vor
• Gesetzesrecherche per natürlicher Sprache: „Unter welchen Voraussetzungen kann ein Widerspruch gegen einen Wohngeldbescheid erfolgreich sein?” → System liefert Paragraph-Verweise mit Kurzfassung
• Aktennotiz diktieren → System strukturiert und formuliert
• Mustervergleich: „Haben wir zu einem ähnlichen Fall schon mal eine Entscheidung getroffen?” → System sucht in der Vektordatenbank

Integration: Der Assistent läuft als Browser-Plugin oder als integrierter Tab in der bestehenden Fachanwendung (Mach, SAP, VIS). Sachbearbeitende wechseln nicht zwischen Anwendungen.

Konkrete Werkzeuge — was wann passt

LLMoin (Hamburg/Dataport) — die Referenzimplementierung für deutsche Verwaltungen. Open Source, DSGVO-konform, Betrieb auf Dataport-Infrastruktur. Für Länder und Kommunen, die Dataport als IT-Dienstleister nutzen, ist das die naheliegendste Option. Nachnutzung ist explizit erwünscht. Kontakt über Dataport oder die Freie und Hansestadt Hamburg.

Ollama + Open WebUI — einfachste lokale Variante für kleinere Behörden oder Pilotprojekte. Llama oder Mistral auf einem leistungsfähigen Server, Web-Oberfläche für Sachbearbeiter. Technisch vergleichsweise einfach, kein externes Tool, gut für Piloten mit 10–30 Nutzenden. Kostenlos (Open Source), Serverkosten variabel.

Microsoft 365 Copilot — für Behörden, die bereits Microsoft 365 Government nutzen. Copilot läuft auf EU-Infrastruktur und kann mit behördeneigenen SharePoint-Dokumenten verknüpft werden. Weniger Kontrolle als On-Premise, aber schnelle Einführung ohne eigene IT-Infrastruktur. Ab ca. 30 Euro/Nutzer/Monat (Copilot-Add-on).

KIPITZ (ITZBund) — die Bundes-KI-Plattform des Informationstechnikzentrums Bund für Bundesbehörden. LLM-as-a-Service auf Bundesinfrastruktur, DSGVO-konform. Für Bundesbehörden die direkteste Option ohne eigene Infrastruktur.

govdigital — als souveräne Alternative zu US-Cloud-Diensten. Kann LLM-Assistenz-Lösungen auf europäischer Infrastruktur bereitstellen, ggf. in Kombination mit Dataport-Diensten. Preise projektspezifisch.

Datenschutz und Datenhaltung

Der entscheidende Datenschutzvorteil des On-Premise-Ansatzes: Keine personenbezogenen Verwaltungsdaten verlassen die Behörde. Das eliminiert die zentralen DSGVO-Risiken, die gegen den Einsatz von ChatGPT oder Claude in Produktivprozessen sprechen.

Für den On-Premise-Betrieb gilt:

• Behördeneigene IT-Sicherheitskonzepte (BSI-Grundschutz) müssen das LLM-System umfassen
• Zugriffskontrolle: Wer kann welche Dokumente in den Vektordatenbank indexieren? Wer hat Zugriff auf den Assistenten?
• Protokollierung: Anfragen und Antworten sollten für Qualitätssicherung und Nachvollziehbarkeit protokolliert werden — unter Beachtung der Beschäftigtendatenschutz-Anforderungen (kein Leistungsmonitoring ohne Personalratszustimmung)

Für Microsoft 365 Copilot im Government-Modus:

• Daten verbleiben in der EU (Microsoft EU Data Boundary)
• AVV ist im Enterprise-Vertrag enthalten
• Copilot hat keinen Zugriff auf andere Mandanten oder externe Daten
• Trotzdem: Datenschutzfolgenabschätzung empfohlen, besonders wenn sensible Fachverfahren (Sozialleistungen, Gesundheitsdaten) einbezogen werden

Der EU AI Act stuft einen allgemeinen Verwaltungsassistenten für interne Textarbeit als geringes Risiko ein — solange keine automatisierten Entscheidungen über Bürgerinnen und Bürger getroffen werden. Das ist beim LLM-Assistenten nicht der Fall: Der Sachbearbeiter entscheidet, das System unterstützt. Transparenzpflichten nach Art. 50 EU AI Act gelten nur bei direktem Bürgerkontakt — bei internen Tools nicht.

Was es kostet — realistisch gerechnet

On-Premise-Einführung (LLMoin-Ansatz):

• Server-Hardware (NVIDIA A100 oder H100 GPU): 30.000–80.000 Euro (einmalig)
• Implementierung und Konfiguration: 60.000–120.000 Euro
• Dokumentenindexierung (RAG-Aufbau): 20.000–50.000 Euro
• Schulung (Sachbearbeitende, IT): 10.000–20.000 Euro
• Laufende Kosten (IT-Betrieb, Modell-Updates): 15.000–30.000 Euro/Jahr

Microsoft 365 Copilot (SaaS-Alternative):

• Lizenzkosten: ca. 30 Euro/Nutzer/Monat
• Implementierung und Schulung: 20.000–40.000 Euro einmalig
• Für 100 Sachbearbeitende: 36.000 Euro/Jahr Lizenz + Einmalaufwand

ROI-Rechnung (konservativ): 100 Sachbearbeitende, je 1 Stunde/Tag Zeitersparnis. Durchschnittlicher Stundensatz im öffentlichen Dienst EG 9–11: 35–45 Euro. Einsparung: 100 × 220 Arbeitstage × 35 Euro = 770.000 Euro/Jahr. Selbst bei 50% Realisierungsgrad: 350.000–400.000 Euro/Jahr. Investition amortisiert sich in unter einem Jahr — wenn die Einführung klappt.

Der entscheidende Vorbehalt: Diese Rechnung setzt voraus, dass das System produktiv genutzt wird und die Zeitersparnis real eintritt. Die Praxis zeigt, dass in den ersten 6 Monaten nur 30–40% der erhofften Nutzungsrate erreicht wird.

Typische Einstiegsfehler

1. Ohne IT-Sicherheitsfreigabe starten On-Premise-Einführungen in Behörden brauchen eine IT-Sicherheitskonzept-Freigabe, eine Datenschutzfolgenabschätzung und häufig die Zustimmung des IT-Sicherheitsbeauftragten. Wer diese Prozesse unterschätzt, verliert 3–6 Monate, die nicht eingeplant waren. In manchen Bundesländern dauert allein die Freigabe des Serverprocurements über öffentliche Ausschreibung 4–6 Monate. Abhilfe: IT-Sicherheitsbeauftragten und Datenschutzbeauftragten bereits in der Konzeptionsphase schriftlich einbinden — ein formelles Kickoff-Meeting mit diesen Stellen in Woche 1 verhindert späte Blockaden, die das gesamte Projekt verzögern.

2. Wissensdatenbank mit schlechten Dokumenten befüllen Das System ist nur so gut wie seine Wissensbasis. PDFs ohne OCR, veraltete Dienstanweisungen, widersprüchliche Regelwerke — wenn die Vektordatenbank mit schlechten Daten gefüllt wird, liefert das Modell schlechte Antworten. Die Bereinigung der Dokumentenbasis ist oft aufwändiger als die technische Implementierung. Abhilfe: Vor der Indexierung eine Dokumenten-Inventur durchführen — für jedes Dokument Datum, Gültigkeitsstatus und verantwortliche Stelle festhalten. Nur Dokumente mit eindeutigem Gültigkeitsdatum und klarer Quelle in die Wissensbasis aufnehmen; alles andere erst nach manueller Prüfung.

3. Personalrat zu spät einbinden Ein LLM-Assistent, der Anfragen und Antworten protokolliert, kann als Leistungsüberwachung von Sachbearbeitenden interpretiert werden. Wenn der Personalrat erst im Abnahme-Stadium informiert wird, sind Blockaden vorprogrammiert. Abhilfe: Personalrat in Monat 1 mit einem konkreten Entwurf der Dienstvereinbarung einbinden — darin explizit festhalten, dass Protokolldaten ausschließlich zur Qualitätssicherung des Systems dienen, nicht zur Leistungsbewertung einzelner Sachbearbeitender, und nach spätestens 30 Tagen gelöscht werden.

4. Mitarbeitende nicht auf Qualitätssicherung trainieren Der häufigste Nutzungsfehler: Sachbearbeitende kopieren KI-Entwürfe ohne Prüfung direkt in Schreiben oder Bescheide. Das führt zu Halluzinationen im Schriftverkehr — das Modell erfindet Paragraphennummern, die nicht existieren, oder gibt falsche Fristen an. Das System muss immer als Entwurfshelfer kommuniziert werden, nie als Automat.

5. Keine klare Pflegestrategie für die Wissensdatenbank Gesetze ändern sich. Verwaltungsvorschriften werden angepasst. Wenn die Vektordatenbank nicht regelmäßig aktualisiert wird, beantwortet das System Fragen auf Basis veralteter Rechtslage. Das ist schlimmer als keine KI — weil es Sicherheit suggeriert, wo keine ist. Klare Verantwortlichkeit für Dokumentenaktualisierung und regelmäßige Prüfungen (mindestens quartalsweise) sind von Tag eins an einzuplanen.

Was mit der Einführung wirklich passiert — und was nicht

Die Implementierung eines LLM-Assistenten für Sachbearbeitende ist technisch komplex, aber die größten Hürden sind nicht technisch.

Hürde 1: IT-Sicherheit. Das BSI-Grundschutz-Profil für ein On-Premise-LLM ist noch nicht standardisiert — IT-Sicherheitsbeauftragte müssen sich durch neues Terrain arbeiten. Das dauert länger als erwartet.

Hürde 2: Personalrat. Protokollierung von Anfragen und Antworten ist aus Beschäftigtendatenschutz-Sicht heikel. Eine Dienstvereinbarung, die klar regelt, dass die Daten nicht zur Leistungsüberwachung genutzt werden, ist Voraussetzung für die Zustimmung.

Hürde 3: Adoption. Erfahrene Sachbearbeitende haben über Jahre Routinen entwickelt, wie sie Vorlagen finden, Gesetze nachschlagen, Schreiben formulieren. Ein neues Tool in diese Routinen zu integrieren, braucht aktive Begleitung — nicht nur eine Schulung. Die ersten 2–3 Monate sind entscheidend: Wenn Sachbearbeitende das Tool ausprobieren und erleben, dass es hilft, entsteht organische Nutzung. Wenn die ersten Versuche frustrierend sind (schlechte Antworten, langsames System), wird das Tool ignoriert.

Was funktioniert: Pilotgruppe aus freiwilligen Early Adopters, die das Tool aktiv weiterentwickeln wollen. Deren positive Erfahrungen sind das beste Argument für die flächendeckende Einführung.

Was nicht funktioniert: Tool von oben verordnen ohne Begleitung und Feedback-Kanal.

Realistischer Zeitplan mit Risikohinweisen

Häufige Einwände — und was dahintersteckt

„KI schreibt Bescheide — das ist rechtlich nicht zulässig.” Das KI-System entwirft, die Sachbearbeiterin entscheidet und zeichnet ab. Die Rechtssicherheit liegt beim Menschen, der den Bescheid unterschreibt und für ihn verantwortlich ist. Das ist kein anderes Prinzip als Schreibassistenten oder Vorlagen — nur effizienter. In Hamburg ist das rechtlich sauber aufgesetzt und wird seit 2023 praktisch genutzt.

„Unsere Mitarbeitenden haben Angst vor Jobverlust.” Angesichts des demografischen Wandels im öffentlichen Dienst ist das keine realistische Sorge für die nächsten 10 Jahre. Das Durchschnittsalter im öffentlichen Dienst liegt bei 44 Jahren, viele Stellen können wegen Fachkräftemangels nicht besetzt werden. KI entlastet bei Routinearbeit und hilft, Produktivität trotz schrumpfender Belegschaft zu halten. Das sollte klar und ehrlich kommuniziert werden — nicht drumherum geredet.

„Wir haben kein Budget für GPU-Hardware.” Der Microsoft-365-Copilot-Einstieg kostet einen Bruchteil und ist in wenigen Wochen produktiv. Er ist datenschutztechnisch nicht gleichwertig, aber in vielen Behörden mit existierendem Microsoft-365-Government-Vertrag akzeptierbar. Als Einstieg, um das Potenzial zu testen, bevor in On-Premise investiert wird, ist er valide.

Woran du merkst, dass das zu dir passt

Das passt zu deiner Behörde, wenn:

• Sachbearbeitende täglich ähnliche Schreiben erstellen — Bescheide, Widerspruchsantworten, Bürgerkorrespondenz zu wiederkehrenden Fragen
• Neue Mitarbeitende lange brauchen, um selbstständig Schreiben zu erstellen
• Vorhandenes Wissensmaterial (Gesetze, Dienstanweisungen, Urteile) schwer auffindbar ist
• Eure IT-Abteilung oder euer IT-Dienstleister Erfahrung mit Linux-Server-Betrieb und Vektordatenbanken hat (oder aufbauen kann)

Das passt noch nicht zu dir, wenn:

• Eure Behörde weniger als 20 Sachbearbeitende hat — der On-Premise-Aufwand lohnt sich bei kleiner Nutzerbasis nicht; Microsoft 365 Copilot ist dann die bessere Option
• Ihr keine IT-Ressourcen für Betrieb und Wartung habt und auch keine habt, die ihr aufbauen wollt — ein ungewartetes System ist nach 12 Monaten wertlos
• Eure Schreibarbeit ist stark fallspezifisch und unstrukturiert — je individueller jeder Fall, desto weniger hilft ein Assistent, der auf Standardmustern basiert

Das kannst du heute noch tun

Teste das Prinzip ohne Investition: Öffne Claude oder ChatGPT (manuell, ohne personenbezogene Daten), füge den Text einer Bürgeranfrage ein (anonymisiert) und gib als Systemanweisung mit: „Du bist Assistent einer Kommunalverwaltung. Entwirf eine sachliche, höfliche Antwort auf diese Anfrage auf Basis allgemeinen Verwaltungswissens.” Bewerte den Entwurf nach Qualität und Zeitersparnis. Das gibt ein realistisches Bild davon, wie ein internes System funktionieren würde — noch ohne Behördendokumente als Wissensbasis.

Quellen & Methodik

• Freie und Hansestadt Hamburg (2023): LLMoin — Konzept und Evaluationsbericht für den behördeninternen KI-Assistenten; Veröffentlicht durch die Senatskanzlei Hamburg
• Fraunhofer IAO (2022): Studie zur Informationssuche im öffentlichen Dienst — 90 Minuten täglich für Wissensuche
• Dataport (2024): Nachnutzungskonzept LLMoin für Dataport-Kundenkreis (Schleswig-Holstein, Sachsen-Anhalt, Thüringen, Bremen)
• ITZBund (2024): KIPITZ — KI-Plattform des Informationstechnikzentrums Bund; Technisches Konzept und Pilotbericht
• EU AI Act (2024): Risikoklassifizierung interner Verwaltungsassistenten — Artikel 6 Abs. 2 und Anhang III
• Erfahrungswerte aus Pilotprojekten in deutschen Landesbehörden und kommunalen IT-Dienstleistern (2023–2025)