LLM-Assistent für Sachbearbeiter

Das echte Ausmaß des Problems

Im deutschen öffentlichen Dienst arbeiteten zum Stichtag 30. Juni 2025 rund 5,5 Millionen Menschen (Destatis, vorläufige Ergebnisse). Wie viel davon Textarbeit ist, Bescheide formulieren, Korrespondenz beantworten, interne Berichte schreiben, Vorlagen suchen und anpassen, dafür gibt es keine belastbare Erhebung, auch wenn im Netz gerne Zahlen kursieren. Was sich beobachten lässt: Vieles davon ist strukturell ähnlich, aber nicht identisch. Jeder Bescheid braucht individuelle Anpassung, jede Bürgeranfrage eine spezifische Antwort.

Gleichzeitig ist Fachwissen kaum systematisch zugänglich. Rentenrecht, Bauordnung, Schulrecht, Sachbearbeiter müssen sich durch Hunderte von Paragraphen, Verwaltungsvorschriften und internen Dienstanweisungen kämpfen, die oft nur als PDF in SharePoint-Ordnern liegen. Neue Mitarbeitende brauchen lange, bis sie selbstständig arbeiten, und wenn erfahrene Sachbearbeiter in Rente gehen, geht das Wissen mit.

Bevor du ein Projekt aufsetzt, miss deinen eigenen Ausgangswert: Eine Woche lang notieren fünf Freiwillige, wie oft sie am Tag nach einer Vorschrift, einem Musterbescheid oder einer früheren Entscheidung suchen und wie lange es dauert. Das ist die Zahl, die später den Business Case trägt, und es ist die einzige, die für eure Behörde gilt. Generative KI setzt genau an diesem Aufwand an.

Dass das in deutschen Behörden funktioniert, zeigt LLMoin, der Textassistent, den Dataport für seine Trägerländer betreibt. Nach Dataports eigener Darstellung ist LLMoin bereits in sieben Bundesländern im Einsatz und hat über 92.000 Nutzerinnen und Nutzer, unter anderem in Hamburg, Bremen, Niedersachsen, Rheinland-Pfalz und Sachsen-Anhalt. Wie LLMoin technisch arbeitet und warum es kein On-Premise-System im engeren Sinn ist, steht weiter unten im Werkzeugteil. Das ist der Punkt, an dem die meisten Darstellungen ungenau werden, auch eine frühere Fassung dieser Seite.

Mit vs. ohne KI, ein ehrlicher Vergleich

Einschätzung auf einen Blick

Zeitersparnis, hoch (4/5) Das ist der stärkste Wert dieses Anwendungsfalls, und zwar wegen des Mechanismus, nicht wegen einer Benchmark: Der Assistent setzt an drei Stellen gleichzeitig an, Textentwurf, Dokumentenrecherche und Zusammenfassung, und das sind genau die Tätigkeiten, die den Tag einer Sachbearbeiterin füllen. Eine veröffentlichte, methodisch nachvollziehbare Messung der Zeitersparnis für einen deutschen Behördenassistenten haben wir nicht gefunden. Dataport wirbt für LLMoin mit Beispielen wie einem Ministerbriefing von zwei Stunden auf dreißig Minuten, das sind Anwendungsbeispiele aus dem Marketing und keine Evaluationsergebnisse. Verglichen mit anderen Verwaltungs-Anwendungsfällen bleibt es trotzdem der direkteste Effizienzgewinn pro Nutzerin.

Kosteneinsparung, hoch (4/5) Bei hohem Implementierungsaufwand mag ein hoher Kostenwert überraschend wirken. Aber der Einspareffekt ist realer als bei vielen anderen Anwendungsfällen: Wer mit 100 Sachbearbeitenden je 1 Stunde täglich einspart, spart 770.000 Euro Personalkosten pro Jahr (bei realistischen EG 9–11 Sätzen). Das amortisiert die Investition schnell, wenn das System funktioniert. Die Bewertung reflektiert den langfristigen Einspareffekt, nicht den Einführungsaufwand.

Schnelle Umsetzung, niedrig (1/5) Das ist der schwächste Wert. On-Premise-Einführung, Datenschutzfolgenabschätzung, IT-Sicherheitsfreigabe, GPU-Beschaffung über öffentliche Ausschreibung, RAG-Aufbau, Schulung, das dauert 12–18 Monate. Kein anderer Anwendungsfall in der Verwaltungskategorie ist aufwändiger in der Einführung. Wer schnelle Ergebnisse braucht, sollte mit Microsoft 365 Copilot starten, schwächere Datenschutzkontrolle, aber in 4–8 Wochen produktiv.

ROI-Sicherheit, mittel (3/5) Die Zeitersparnis ist messbar, die Qualitätsverbesserung bei Bescheiden nicht. Ob weniger Widersprüche durch bessere Erstbescheide eingehen, ist schwer zu isolieren. Ob neue Mitarbeitende schneller produktiv werden, ist methodisch kaum sauber nachzuweisen. Der direkte Zeitgewinn gibt Sicherheit; die weichen Nutzeneffekte bleiben ungewiss.

Skalierbarkeit, mittel (3/5) Weitere Sachbearbeitende können dem System beitreten, aber die Infrastruktur skaliert nicht kostenlos. Mehr Nutzer bedeuten mehr Server-Kapazität, mehr Modellpflege und mehr Support. Das ist nicht linear kostspielig, aber auch nicht das „Wächst gratis mit”-Profil einer reinen Software-Lösung.

Richtwerte, stark abhängig von Behördengröße, IT-Infrastruktur und Betriebsmodell.

Was der LLM-Assistent konkret macht

Das System kombiniert zwei Technologien:

On-Premise-LLM: Ein Open-Weight-Sprachmodell aus der Llama- oder Mistral-Familie läuft auf behördeneigener Infrastruktur. Nur in dieser Variante verlassen tatsächlich keine Daten die Behörde, und nur sie verdient das Wort On-Premise. Ein gehosteter Dienst, der Anfragen an ein kommerzielles Modell weiterreicht, kann datenschutzrechtlich völlig sauber sein, ist aber Auftragsverarbeitung und keine Datenhoheit. Der Unterschied gehört in die Datenschutz-Folgeabschätzung, nicht in die Fußnote.

RAG-Wissensbasis: Das Modell allein kennt kein aktuelles Steuer- oder Baurecht. Deshalb wird eine Retrieval-Augmented-Generation-Architektur aufgebaut: Alle relevanten Dokumente (Gesetzestexte, Dienstanweisungen, Musterbescheide, Urteilssammlungen) werden in einer Vektordatenbank indexiert. Bei jeder Anfrage sucht das System die relevantesten Dokumente heraus und gibt sie dem Modell als Kontext mit. Das Modell antwortet auf Basis aktueller behördlicher Dokumente, nicht auf Basis veralteten Trainingswissens.

Konkrete Anwendungsfälle im Tagesbetrieb:

• Sachbearbeiterin beschreibt Fallkonstellation → System entwirft Bescheid-Text zum Prüfen und Anpassen
• Bürger-E-Mail einfügen → System schlägt strukturierte Antwort vor
• Gesetzesrecherche per natürlicher Sprache: „Unter welchen Voraussetzungen kann ein Widerspruch gegen einen Wohngeldbescheid erfolgreich sein?” → System liefert Paragraph-Verweise mit Kurzfassung
• Aktennotiz diktieren → System strukturiert und formuliert
• Mustervergleich: „Haben wir zu einem ähnlichen Fall schon mal eine Entscheidung getroffen?” → System sucht in der Vektordatenbank

Integration: Der Assistent läuft als Browser-Plugin oder als integrierter Tab in der bestehenden Fachanwendung (Mach, SAP, VIS). Sachbearbeitende wechseln nicht zwischen Anwendungen.

Konkrete Werkzeuge, was wann passt

LLMoin (Dataport), die Referenzimplementierung für deutsche Verwaltungen, und zugleich das Beispiel dafür, wie ungenau in diesem Feld geredet wird. Drei Korrekturen zu dem, was man über LLMoin häufig liest:

• Es ist kein reines On-Premise-System. Dataport beschreibt LLMoin selbst als „modellagnostisch”: „Sie entscheiden selbst, welche Modelle zum Einsatz kommen, von kommerziellen Angeboten bis hin zu Open-Weight-Modellen.” Die öffentliche Roadmap nennt ein Update des „zugrunde liegenden GPT-Modells” auf GPT-5.5. Vollständig on-premises soll LLMoin laut Roadmap erst „perspektivisch” verfügbar sein, lokale Sprachmodelle nutzen bisher „erste Anwenderinnen”. Die FAQ verneint eine Übermittlung an externe Anbieter ausdrücklich nur als „unkontrollierte” Übermittlung, also im Rahmen einer Auftragsverarbeitung findet sie statt. Wer LLMoin mit „keine Daten verlassen die Behörde” verkauft, verkauft etwas anderes, als er bekommt.
• Es ist nicht Open Source. Dataports Roadmap formuliert das als Ziel: „Parallel zur Weiterentwicklung wird daran gearbeitet, LLMoin als Open-Source-Lösung bereitzustellen.” Auf Open CoDE liegt bisher nichts.
• Die Nachnutzerliste kursiert falsch. Dataport nennt als Einsatzländer unter anderem Hamburg, Bremen, Niedersachsen, Rheinland-Pfalz und Sachsen-Anhalt, dazu eine Einführung in der brandenburgischen Justiz, insgesamt sieben Bundesländer.

Nichts davon spricht gegen LLMoin. Für Behörden in den Dataport-Trägerländern (Schleswig-Holstein, Hamburg, Bremen, Mecklenburg-Vorpommern, Niedersachsen, Sachsen-Anhalt) ist es die naheliegendste Option, und die Nachnutzung ist ausdrücklich erwünscht. Es spricht nur dagegen, LLMoin in einer Vorlage als datenschutzrechtlichen Freifahrtschein zu beschreiben. Kontakt über Dataport.

Ollama + Open WebUI , einfachste lokale Variante für kleinere Behörden oder Pilotprojekte. Llama oder Mistral auf einem leistungsfähigen Server, Web-Oberfläche für Sachbearbeiter. Technisch vergleichsweise einfach, kein externes Tool, gut für Piloten mit 10–30 Nutzenden. Kostenlos (Open Source), Serverkosten variabel.

Microsoft 365 Copilot , für Behörden, die bereits Microsoft 365 nutzen. Copilot läuft innerhalb der EU Data Boundary und kann mit behördeneigenen SharePoint-Dokumenten verknüpft werden. Weniger Kontrolle als On-Premise, aber schnelle Einführung ohne eigene Infrastruktur. Beim Preis lohnt der genaue Blick, weil zwei verschiedene Add-ons kursieren: Die Enterprise-Variante, die für Behörden mit E3- oder E5-Lizenz die einschlägige ist, kostet 26,00 Euro je Nutzer und Monat bei jährlicher Zahlung, 27,30 Euro bei monatlicher Zahlung innerhalb des Jahresvertrags. Die günstigere Business-Variante mit 18,20 Euro Listenpreis setzt eine Business-Standard- oder Business-Premium-Lizenz voraus und ist damit auf Organisationen bis 300 Nutzer beschränkt. Alle Preise zzgl. MwSt. und zusätzlich zur bestehenden Microsoft-365-Lizenz (Stand September 2026).

KIPITZ (ITZBund), „die KI-Plattform des Bundes” und für Bundesbehörden die direkteste Option ohne eigene Infrastruktur. Das ITZBund beschreibt KIPITZ als zentrale Plattform für den sicheren Einsatz generativer KI in der Bundesverwaltung, betrieben als souveräner On-Premise-Betrieb im eigenen Rechenzentrum, mit VS-NfD-Freigabe und überwiegend Open-Source-basierten Sprachmodellen. Für Länder und Kommunen ist sie nicht zugänglich.

govdigital , der souveräne Beschaffungsweg. govdigital ist eine Genossenschaft öffentlich-rechtlicher IT-Dienstleister mit 32 Mitgliedern (Stand Mai 2026) und betreibt die Deutsche Verwaltungscloud. Eine fertige LLM-Assistenzlösung kannst du dort nicht bestellen: Das gd.KI-Ökosystem besteht aus KI-Werkstatt und LLM-Sandbox, die GenAI-Plattform bezeichnet govdigital selbst als in Entwicklung. Relevant ist govdigital für dich also als Infrastruktur unter dem Angebot deines eigenen IT-Dienstleisters, nicht als Anbieter, bei dem du direkt kaufst. Keine Listenpreise.

Datenschutz und Datenhaltung

Der entscheidende Datenschutzvorteil des On-Premise-Ansatzes: Keine personenbezogenen Verwaltungsdaten verlassen die Behörde. Das eliminiert die zentralen DSGVO-Risiken, die gegen den Einsatz von ChatGPT oder Claude in Produktivprozessen sprechen.

Für den On-Premise-Betrieb gilt:

• Behördeneigene IT-Sicherheitskonzepte (BSI-Grundschutz) müssen das LLM-System umfassen
• Zugriffskontrolle: Wer kann welche Dokumente in den Vektordatenbank indexieren? Wer hat Zugriff auf den Assistenten?
• Protokollierung: Anfragen und Antworten sollten für Qualitätssicherung und Nachvollziehbarkeit protokolliert werden, unter Beachtung der Beschäftigtendatenschutz-Anforderungen (kein Leistungsmonitoring ohne Personalratszustimmung)

Für Microsoft 365 Copilot im Government-Modus:

• Daten verbleiben in der EU (Microsoft EU Data Boundary)
• AVV ist im Enterprise-Vertrag enthalten
• Copilot hat keinen Zugriff auf andere Mandanten oder externe Daten
• Trotzdem: Datenschutzfolgenabschätzung empfohlen, besonders wenn sensible Fachverfahren (Sozialleistungen, Gesundheitsdaten) einbezogen werden

Der EU AI Act kennt keine Schublade „geringes Risiko”, in die eine Behörde ein System einsortiert. Es gibt Anhang III der KI-Verordnung (EU) 2024/1689, und was dort nicht steht, unterliegt nicht den Hochrisiko-Pflichten. Ein interner Assistent, der Formulierungsvorschläge macht und Vorschriften durchsucht, steht dort nicht.

Die Grenze liegt aber näher, als sie klingt. Anhang III Nr. 5 Buchst. a erfasst KI-Systeme, die „bestimmungsgemäß von Behörden oder im Namen von Behörden verwendet werden sollen, um zu beurteilen, ob natürliche Personen Anspruch auf grundlegende öffentliche Unterstützungsleistungen und -dienste … haben und ob solche Leistungen und Dienste zu gewähren, einzuschränken, zu widerrufen oder zurückzufordern sind”. Sobald dein Assistent im Sozialamt Anspruchsfragen beantwortet und nicht nur Sätze formuliert, bist du in diesem Bereich. Für die reine Entwurfserstellung kommt die Ausnahme in Art. 6 Abs. 3 in Betracht, nach der ein Anhang-III-System nicht als hochriskant gilt, wenn es unter anderem „eine vorbereitende Aufgabe für eine Bewertung” durchführt. Der Anbieter muss diese Bewertung nach Art. 6 Abs. 4 dokumentieren, sie stellt sich nicht von selbst ein.

Zwei Pflichten gelten unabhängig von der Einstufung:

• Art. 4, KI-Kompetenz, anwendbar seit dem 2. Februar 2025: Anbieter und Betreiber ergreifen Maßnahmen, „um nach besten Kräften sicherzustellen, dass ihr Personal … über ein ausreichendes Maß an KI-Kompetenz verfügt”. Der Schulungsposten im Kostenplan ist damit keine Kür, sondern Pflichterfüllung.
• Art. 50 Abs. 1, Transparenz, anwendbar seit dem 2. August 2026: Die Pflicht gilt für KI-Systeme, „die für die direkte Interaktion mit natürlichen Personen bestimmt sind”, und Sachbearbeitende sind natürliche Personen. In der Praxis greift bei einem internen Tool meist die Ausnahme, dass die KI-Nutzung aus dem Kontext offensichtlich ist. Verlass dich nicht darauf, dass „intern” die Pflicht automatisch aufhebt, sondern halte im Konzept fest, warum sie erfüllt oder offensichtlich ist.

Was es kostet, realistisch gerechnet

Eigene On-Premise-Einführung:

• Server-Hardware (NVIDIA A100 oder H100 GPU): 30.000–80.000 Euro (einmalig)
• Implementierung und Konfiguration: 60.000–120.000 Euro
• Dokumentenindexierung (RAG-Aufbau): 20.000–50.000 Euro
• Schulung (Sachbearbeitende, IT): 10.000–20.000 Euro
• Laufende Kosten (IT-Betrieb, Modell-Updates): 15.000–30.000 Euro/Jahr

Microsoft 365 Copilot (SaaS-Alternative):

• Lizenzkosten: 26,00 Euro je Nutzer und Monat, Copilot-Enterprise-Add-on bei jährlicher Zahlung, zzgl. MwSt. und zusätzlich zur bestehenden M365-Lizenz (Stand September 2026)
• Implementierung und Schulung: 20.000–40.000 Euro einmalig
• Für 100 Sachbearbeitende: 31.200 Euro/Jahr allein für das Copilot-Add-on, plus die M365-Lizenzen, die ihr ohnehin zahlt, plus Einmalaufwand

ROI-Rechnung (konservativ): 100 Sachbearbeitende, je 1 Stunde/Tag Zeitersparnis. Durchschnittlicher Stundensatz im öffentlichen Dienst EG 9–11: 35–45 Euro. Einsparung: 100 × 220 Arbeitstage × 35 Euro = 770.000 Euro/Jahr. Selbst bei 50% Realisierungsgrad: 350.000–400.000 Euro/Jahr. Investition amortisiert sich in unter einem Jahr, wenn die Einführung klappt.

Der entscheidende Vorbehalt: Diese Rechnung setzt voraus, dass das System produktiv genutzt wird und die Zeitersparnis real eintritt. Beides steht am Anfang nicht fest. Plane deshalb damit, dass die Nutzungsrate in den ersten Monaten deutlich unter dem liegt, was die Planung unterstellt, und miss sie vom ersten Tag an. Und rechne in Stunden, nicht in Euro: Die Summe wird im Haushalt nicht frei, sie wird erst zu einem Effekt, wenn die Zeit in Rückstände, Beratung oder nicht nachzubesetzende Stellen fließt.

Typische Einstiegsfehler

1. Ohne IT-Sicherheitsfreigabe starten On-Premise-Einführungen in Behörden brauchen eine IT-Sicherheitskonzept-Freigabe, eine Datenschutzfolgenabschätzung und häufig die Zustimmung des IT-Sicherheitsbeauftragten. Wer diese Prozesse unterschätzt, verliert 3–6 Monate, die nicht eingeplant waren. In manchen Bundesländern dauert allein die Freigabe des Serverprocurements über öffentliche Ausschreibung 4–6 Monate. Abhilfe: IT-Sicherheitsbeauftragten und Datenschutzbeauftragten bereits in der Konzeptionsphase schriftlich einbinden, ein formelles Kickoff-Meeting mit diesen Stellen in Woche 1 verhindert späte Blockaden, die das gesamte Projekt verzögern.

2. Wissensdatenbank mit schlechten Dokumenten befüllen Das System ist nur so gut wie seine Wissensbasis. PDFs ohne OCR, veraltete Dienstanweisungen, widersprüchliche Regelwerke, wenn die Vektordatenbank mit schlechten Daten gefüllt wird, liefert das Modell schlechte Antworten. Die Bereinigung der Dokumentenbasis ist oft aufwändiger als die technische Implementierung. Abhilfe: Vor der Indexierung eine Dokumenten-Inventur durchführen, für jedes Dokument Datum, Gültigkeitsstatus und verantwortliche Stelle festhalten. Nur Dokumente mit eindeutigem Gültigkeitsdatum und klarer Quelle in die Wissensbasis aufnehmen; alles andere erst nach manueller Prüfung.

3. Personalrat zu spät einbinden Ein LLM-Assistent, der Anfragen und Antworten protokolliert, kann als Leistungsüberwachung von Sachbearbeitenden interpretiert werden. Wenn der Personalrat erst im Abnahme-Stadium informiert wird, sind Blockaden vorprogrammiert. Abhilfe: Personalrat in Monat 1 mit einem konkreten Entwurf der Dienstvereinbarung einbinden, darin explizit festhalten, dass Protokolldaten ausschließlich zur Qualitätssicherung des Systems dienen, nicht zur Leistungsbewertung einzelner Sachbearbeitender, und nach spätestens 30 Tagen gelöscht werden.

4. Mitarbeitende nicht auf Qualitätssicherung trainieren Der häufigste Nutzungsfehler: Sachbearbeitende kopieren KI-Entwürfe ohne Prüfung direkt in Schreiben oder Bescheide. Das führt zu Halluzinationen im Schriftverkehr, das Modell erfindet Paragraphennummern, die nicht existieren, oder gibt falsche Fristen an. Das System muss immer als Entwurfshelfer kommuniziert werden, nie als Automat.

5. Keine klare Pflegestrategie für die Wissensdatenbank Gesetze ändern sich. Verwaltungsvorschriften werden angepasst. Wenn die Vektordatenbank nicht regelmäßig aktualisiert wird, beantwortet das System Fragen auf Basis veralteter Rechtslage. Das ist schlimmer als keine KI, weil es Sicherheit suggeriert, wo keine ist. Klare Verantwortlichkeit für Dokumentenaktualisierung und regelmäßige Prüfungen (mindestens quartalsweise) sind von Tag eins an einzuplanen.

Was mit der Einführung wirklich passiert, und was nicht

Die Implementierung eines LLM-Assistenten für Sachbearbeitende ist technisch komplex, aber die größten Hürden sind nicht technisch.

Hürde 1: IT-Sicherheit. Das BSI-Grundschutz-Profil für ein On-Premise-LLM ist noch nicht standardisiert, IT-Sicherheitsbeauftragte müssen sich durch neues Terrain arbeiten. Das dauert länger als erwartet.

Hürde 2: Personalrat. Protokollierung von Anfragen und Antworten ist aus Beschäftigtendatenschutz-Sicht heikel. Eine Dienstvereinbarung, die klar regelt, dass die Daten nicht zur Leistungsüberwachung genutzt werden, ist Voraussetzung für die Zustimmung.

Hürde 3: Adoption. Erfahrene Sachbearbeitende haben über Jahre Routinen entwickelt, wie sie Vorlagen finden, Gesetze nachschlagen, Schreiben formulieren. Ein neues Tool in diese Routinen zu integrieren, braucht aktive Begleitung, nicht nur eine Schulung. Die ersten 2–3 Monate sind entscheidend: Wenn Sachbearbeitende das Tool ausprobieren und erleben, dass es hilft, entsteht organische Nutzung. Wenn die ersten Versuche frustrierend sind (schlechte Antworten, langsames System), wird das Tool ignoriert.

Was funktioniert: Pilotgruppe aus freiwilligen Early Adopters, die das Tool aktiv weiterentwickeln wollen. Deren positive Erfahrungen sind das beste Argument für die flächendeckende Einführung.

Was nicht funktioniert: Tool von oben verordnen ohne Begleitung und Feedback-Kanal.

Realistischer Zeitplan mit Risikohinweisen

Häufige Einwände, und was dahintersteckt

„KI schreibt Bescheide, das ist rechtlich nicht zulässig.” Das KI-System entwirft, die Sachbearbeiterin entscheidet und zeichnet ab. Die Rechtssicherheit liegt beim Menschen, der den Bescheid unterschreibt und für ihn verantwortlich ist. Genau darauf zielt § 35a VwVfG: Vollständig automatisiert darf ein Verwaltungsakt nur erlassen werden, wenn eine Rechtsvorschrift das zulässt und weder Ermessen noch Beurteilungsspielraum besteht. Ein Entwurfsassistent berührt diese Schwelle nicht. Dass das praktisch trägt, zeigt die Verbreitung: Dataport betreibt LLMoin nach eigenen Angaben in sieben Bundesländern mit über 92.000 Nutzenden.

„Unsere Mitarbeitenden haben Angst vor Jobverlust.” Angesichts des demografischen Wandels im öffentlichen Dienst ist das keine realistische Sorge für die nächsten zehn Jahre. Ein bundesweites Durchschnittsalter veröffentlicht Destatis übrigens nicht, dort gibt es nur eine Aufschlüsselung nach Altersgruppen. Das überzeugendere Argument steht ohnehin in euren eigenen Zahlen: Wie viele Kolleginnen gehen in den nächsten zehn Jahren, und wie viele Stellen habt ihr im letzten Jahr nicht besetzt bekommen? KI entlastet bei Routinearbeit und hilft, Produktivität trotz schrumpfender Belegschaft zu halten. Das sollte klar und ehrlich kommuniziert werden, nicht drumherum geredet.

„Wir haben kein Budget für GPU-Hardware.” Der Microsoft-365-Copilot-Einstieg kostet einen Bruchteil und ist in wenigen Wochen produktiv. Er ist datenschutztechnisch nicht gleichwertig, aber in vielen Behörden mit existierendem Microsoft-365-Government-Vertrag akzeptierbar. Als Einstieg, um das Potenzial zu testen, bevor in On-Premise investiert wird, ist er valide.

Woran du merkst, dass das zu dir passt

Das passt zu deiner Behörde, wenn:

• Sachbearbeitende täglich ähnliche Schreiben erstellen, Bescheide, Widerspruchsantworten, Bürgerkorrespondenz zu wiederkehrenden Fragen
• Neue Mitarbeitende lange brauchen, um selbstständig Schreiben zu erstellen
• Vorhandenes Wissensmaterial (Gesetze, Dienstanweisungen, Urteile) schwer auffindbar ist
• Eure IT-Abteilung oder euer IT-Dienstleister Erfahrung mit Linux-Server-Betrieb und Vektordatenbanken hat (oder aufbauen kann)

Das passt noch nicht zu dir, wenn:

• Eure Behörde weniger als 20 Sachbearbeitende hat, der On-Premise-Aufwand lohnt sich bei kleiner Nutzerbasis nicht; Microsoft 365 Copilot ist dann die bessere Option
• Ihr keine IT-Ressourcen für Betrieb und Wartung habt und auch keine habt, die ihr aufbauen wollt, ein ungewartetes System ist nach 12 Monaten wertlos
• Eure Schreibarbeit ist stark fallspezifisch und unstrukturiert, je individueller jeder Fall, desto weniger hilft ein Assistent, der auf Standardmustern basiert

Das kannst du heute noch tun

Teste das Prinzip ohne Investition: Öffne Claude oder ChatGPT (manuell, ohne personenbezogene Daten), füge den Text einer Bürgeranfrage ein (anonymisiert) und gib als Systemanweisung mit: „Du bist Assistent einer Kommunalverwaltung. Entwirf eine sachliche, höfliche Antwort auf diese Anfrage auf Basis allgemeinen Verwaltungswissens.” Bewerte den Entwurf nach Qualität und Zeitersparnis. Das gibt ein realistisches Bild davon, wie ein internes System funktionieren würde, noch ohne Behördendokumente als Wissensbasis.

Quellen & Methodik

• Dataport, Produktseite LLMoin, Einsatz in sieben Bundesländern, über 92.000 Nutzende, Modellagnostik („von kommerziellen Angeboten bis hin zu Open-Weight-Modellen”), Roadmap mit dem Update des zugrunde liegenden GPT-Modells, Open Source und vollständiger On-Premises-Betrieb als Ziele „perspektivisch” (dataport.de, abgerufen am 18.09.2026).
• Dataport, FAQ LLMoin (02/2026), zur Frage der Datenübermittlung: Es finde keine „unkontrollierte” Übermittlung an externe Anbieter oder in Drittstaaten statt (dataport.de, PDF, abgerufen am 18.09.2026).
• Dataport, Unternehmensseite, Trägerländer: Schleswig-Holstein, Hamburg, Bremen, Mecklenburg-Vorpommern, Niedersachsen, Sachsen-Anhalt (dataport.de, abgerufen am 18.09.2026).
• ITZBund, KIPITZ, „die KI-Plattform des Bundes”, souveräner On-Premise-Betrieb im Rechenzentrum des ITZBund, VS-NfD-Freigabe, überwiegend Open-Source-basierte Sprachmodelle (itzbund.de, abgerufen am 18.09.2026).
• Statistisches Bundesamt, Personal des öffentlichen Dienstes: rund 5,5 Millionen Beschäftigte zum Stichtag 30. Juni 2025, vorläufige Ergebnisse (destatis.de, abgerufen am 18.09.2026). Ein bundesweites Durchschnittsalter veröffentlicht Destatis nicht, nur eine Aufschlüsselung nach Altersgruppen.
• § 35a VwVfG, vollständig automatisierter Erlass eines Verwaltungsaktes, zulässig nur bei gesetzlicher Zulassung und ohne Ermessen oder Beurteilungsspielraum (gesetze-im-internet.de/vwvfg/__35a.html, abgerufen am 18.09.2026).
• Anhang III Nr. 5 Buchst. a sowie Art. 6 Abs. 3 und 4 KI-Verordnung (EU) 2024/1689, Hochrisiko bei der Beurteilung von Leistungsansprüchen und die Ausnahme für vorbereitende Aufgaben (eur-lex.europa.eu, abgerufen am 18.09.2026).
• Art. 4 KI-Verordnung (EU) 2024/1689, KI-Kompetenz des Personals, anwendbar seit dem 2. Februar 2025 (artificialintelligenceact.eu/article/4, abgerufen am 18.09.2026). Art. 50 Abs. 1, Transparenz bei direkter Interaktion, anwendbar seit dem 2. August 2026 (artificialintelligenceact.eu/article/50).
• §§ 13, 14, 22 und 27 WoGG sowie § 10 Abs. 1 BEEG, Grundlagen des Beispielschreibens: Gesamteinkommen, Jahreseinkommen, Wohngeldantrag, Änderung des Wohngeldes und die Anrechnungsfreiheit des Elterngeldes bis 300 Euro (WoGG, § 10 BEEG, abgerufen am 18.09.2026). Eine frühere Fassung zitierte § 26 WoGG für die Änderung des Wohngeldes (richtig ist § 27) und § 14 Abs. 1 WoGG für die 300-Euro-Grenze beim Elterngeld (richtig ist § 10 Abs. 1 BEEG).
• Toolpreise und Datenhaltung: Stand unserer Toolseiten, siehe Microsoft 365 Copilot , Ollama , Open WebUI und govdigital .
• Nicht belegbar und deshalb nicht mehr auf dieser Seite: eine Fraunhofer-IAO-Studie von 2022, nach der öffentlich Beschäftigte 90 Minuten täglich mit Informationssuche verbringen. Weder iao.fraunhofer.de noch eine andere Fraunhofer-Quelle führt diese Angabe. Ebenfalls entfernt: ein Hamburger „Evaluationsbericht” zu LLMoin und ein „Nachnutzungskonzept” von Dataport, beide unter diesen Titeln nicht auffindbar, sowie die daraus abgeleitete Zeitersparnis von 20 bis 30 Prozent. Ebenso korrigiert: Schleswig-Holstein und Thüringen wurden als LLMoin-Nachnutzer genannt, ohne dass Dataport sie führt.
• Keine Rechtsberatung. Dieser Text ordnet Normen ein, er ersetzt keine Prüfung des Einzelfalls und keine Abstimmung mit Personalrat, Datenschutz- und IT-Sicherheitsbeauftragten.