Interner KI-Assistent statt ChatGPT: Die sichere Alternative für die Verwaltung

Es passiert längst, jeden Tag, in fast jeder Verwaltung: Eine Sachbearbeiterin lässt sich von einem kostenlosen KI-Dienst einen Antwortbrief formulieren, ein Kollege fasst damit eine lange Vorlage zusammen. Beide wollen einfach schneller und besser arbeiten – und beide bewegen sich in einer Grauzone, weil niemand geregelt hat, welche Werkzeuge erlaubt sind und welche Daten dort hineindürfen.

Genau hier setzt der interne KI-Assistent an: Er bringt die Vorteile, die Mitarbeitende ohnehin suchen, in einen sicheren Rahmen. Dieser Artikel erklärt, was so ein Assistent ist, was er leistet, worin er sich von öffentlichem ChatGPT unterscheidet und wie eine Einführung gelingt.

KI ist im Amt angekommen, nur unkontrolliert

Der Wandel läuft bereits. Für die deutsche Auswertung der (nach Angaben der Autoren nicht repräsentativen) Studie Global AI Adoption Survey wurden rund 445 Beschäftigte aus Behörden befragt. Das Bild ist eindeutig:

Die Lücke zwischen tatsächlicher Nutzung und offizieller Freigabe hat einen Namen: Schatten-IT. Mitarbeitende greifen zu den Werkzeugen, die sie kennen, oft ohne Regeln und im Zweifel mit sensiblen Inhalten. Ein Verbot löst das nicht, es verlagert das Problem nur ins Verborgene. Die praktische Frage lautet deshalb nicht „ChatGPT oder keine KI", sondern „ungeregelte Nutzung oder kontrollierte Nutzung über eine sichere Plattform".

Was ein interner KI-Assistent ist

Ein interner KI-Assistent ist im Grunde ein digitaler Kollege, den Mitarbeitende in normaler Sprache um Hilfe bitten können. Man tippt eine Aufgabe ein, so wie man sie einer Kollegin zurufen würde, und bekommt in Sekunden ein Ergebnis. Technisch steckt dieselbe Sprachtechnologie dahinter wie hinter bekannten Diensten. Der entscheidende Unterschied liegt nicht in der Fähigkeit, sondern in der Architektur: wo die Daten liegen, wie sie verarbeitet werden und wer die Kontrolle behält.

Was er im Alltag leistet

Die typischen Aufgaben sind schnell erzählt, weil sie den Büroalltag jeder Verwaltung treffen:

• Entwürfe schreiben: Antwortschreiben, Pressemitteilungen, Vermerke, Konzepte – immer als Startpunkt, nie als fertiges Ergebnis.
• Zusammenfassen: lange Vorlagen, Studien oder Protokolle auf die Kernpunkte verdichten.
• Recherchieren: Informationen zusammentragen und verständlich aufbereiten.
• Umformulieren: Texte in Leichte Sprache bringen oder in andere Sprachen übersetzen.
• Wissen auffindbar machen: Fragen zu internen Dokumenten wie Dienstanweisungen oder Merkblättern beantworten, samt Fundstelle.

Dass das messbar Zeit spart, zeigt die Praxis: Im Kreis Borken sank die Bearbeitungszeit bei ausgewählten Arbeitsschritten in der Sachbearbeitung nach Angaben des Kreises um bis zu 35 Prozent. Wichtig bleibt über alle Aufgaben hinweg: Der Mensch entscheidet, jedes Ergebnis wird vor der Verwendung fachlich geprüft.

Der Unterschied: öffentliches ChatGPT gegenüber internem Assistenten

Warum nicht einfach das kostenlose ChatGPT nutzen? Weil sich die beiden Wege genau dort unterscheiden, wo es für Behörden zählt:

Datenschutz und Recht

Ein interner Assistent, der diesen Namen verdient, erfüllt dieselben Architekturprinzipien wie jede seriöse Verwaltungs-KI: Speicherung in Deutschland, Verarbeitung in der EU, keine Nutzung der Eingaben zum Training, Verschlüsselung sowie ein durchdachtes Rollen- und Rechtekonzept.

Rechtlich ist die Einordnung meist unkompliziert: Ein interner Assistent unterstützt Menschen bei der Arbeit, er trifft keine Entscheidungen über Bürgerinnen und Bürger. Damit bewegt er sich nach dem EU AI Act in der Regel im Bereich minimalen bis begrenzten Risikos. Zu beachten ist vor allem die seit Februar 2025 geltende Pflicht zur KI-Kompetenz (Artikel 4), also ein Grundverständnis bei allen, die mit dem Werkzeug arbeiten. Mehr dazu im Artikel zum EU AI Act für Kommunen.

Selbst hosten, Open Source oder Dienstleister?

Wie beim Chatbot und Telefonassistenten gibt es auch hier nicht den einen richtigen Weg:

Dass der Open-Source-Weg real ist, zeigt die Stadt München mit ihrem quelloffenen Werkzeug „MUCGPT". Er lohnt sich vor allem für größere Verwaltungen mit eigener IT-Mannschaft. Kleinere Kommunen erreichen dasselbe Schutzniveau allerdings meist schneller über einen Dienstleister. Wichtig ist in beiden Fällen, dass die Architekturprinzipien erfüllt und nachweisbar sind.

Wie Merlin es umsetzt

Zur Einordnung, wie ein spezialisierter Dienstleister das löst, am Beispiel unseres eigenen Ansatzes: Der interne Assistent merlin_assistiert bindet leistungsfähige Modelle mehrerer Anbieter (etwa ChatGPT, Claude, Gemini oder Mistral) nicht über deren öffentliche Zugänge ein, sondern über abgesicherte Enterprise-Schnittstellen mit Verarbeitung in der EU. Eine automatische Modellwahl sucht für jede Aufgabe das passende Modell. Hosting und Speicherung erfolgen in Deutschland nach dem Zero-Data-Retention-Prinzip, Eingaben werden nicht zum Training genutzt, und die Kommune steuert über Rollen und Rechte, welche Modelle freigegeben sind. Das ist einer von mehreren möglichen Wegen – die oben genannten Kriterien gelten unabhängig vom Anbieter.

Wie die Einführung gelingt

Der Einstieg ist überschaubar. Sinnvoll ist, klein zu starten und die Menschen mitzunehmen:

1. Regeln klären: Eine KI-Dienstanweisung legt fest, welche Daten eingegeben werden dürfen und dass jedes Ergebnis geprüft wird.
2. Schulung planen: Eine kurze Basisschulung erfüllt die Kompetenzpflicht und nimmt Berührungsängste.
3. Mit klaren Anwendungsfällen beginnen: Entwürfe und Zusammenfassungen, bevor komplexere Aufgaben folgen.
4. Personalrat und Datenschutzbeauftragte früh einbinden.

Der Aufwand dafür ist überschaubar, der Effekt groß: Statt einzelne Mitarbeitende auf eigene Faust und ohne Schutz nach Werkzeugen suchen zu lassen, bekommt die ganze Verwaltung einen sicheren, geprüften Weg zu denselben Vorteilen – kontrolliert statt zufällig.