KI in der Verwaltung einführen: Vom ersten Gespräch bis zum Livegang

Wenn Verwaltungen über die Einführung von Künstlicher Intelligenz nachdenken, steht oft ein falsches Bild im Kopf: das große Digitalprojekt mit Lastenheft, Lenkungskreis und achtzehn Monaten Laufzeit. Kein Wunder, dass viele lieber abwarten.

Die Realität moderner KI-Werkzeuge sieht anders aus. Ein Chatbot oder KI-Telefonassistent greift nicht unbedingt in Fachverfahren ein, verlangt keinen Website-Umbau und ist kein Schnittstellenprojekt. Technisch ist ein Start binnen weniger Tage möglich. Die eigentliche Arbeit liegt woanders: die richtige Anwendung wählen, die Menschen mitnehmen, die Regeln klären. Genau dafür gibt es einen erprobten Ablauf. Dieser Artikel beschreibt ihn in sechs Phasen, von der ersten Bestandsaufnahme bis zum Ausbau nach dem Livegang.

Das Grundprinzip: klein anfangen, sichtbar wirken, dann ausbauen

Vorweg das wichtigste Prinzip. Der größte Fehler ist, alles auf einmal zu wollen. Erfolgreiche Kommunen starten mit einem Anwendungsfall, der wenig Aufwand macht und schnell sichtbar wirkt, meist im Bürgerservice. Der sichtbare erste Erfolg schafft intern das Vertrauen für die nächsten Schritte. Welche Anwendungsfälle sich anbieten, sortiert unser Überblick über 15 KI-Anwendungsfälle in der Verwaltung. Warum das Ganze drängt, begründet der Artikel zum Fachkräftemangel in der Verwaltung.

Phase 1: Kennenlernen und Bedarf klären

Am Anfang steht keine Technik, sondern eine ehrliche Frage: Wo frisst Routine bei uns am meisten Zeit? Ist es das Telefon, das im Minutentakt klingelt? Der Tresen mit den immer gleichen Fragen? Oder die interne Textarbeit?

In einem ersten Gespräch mit einem Anbieter – seriös sind hier 30 bis 60 Minuten, kein Tagesworkshop – schildern Sie Ihre Engpässe, sehen erste Einblicke in die Werkzeuge und klären gemeinsam, welche Lösung zum Bedarf passt. Gute Anbieter beraten ergebnisoffen, denn nicht jede Kommune braucht sofort alles. Ihr Ergebnis aus Phase 1: ein klar benannter erster Anwendungsfall.

Phase 2: Demo und kritische Fragen

In einer persönlichen Produktvorführung sehen Sie die Anwendung im Einsatz, idealerweise anhand Ihrer eigenen Beispiele. Stellen Sie dem KI-Chatbot die zehn Fragen, die Ihr Bürgerbüro täglich hört. Diese Phase ist der richtige Zeitpunkt für die kritischen Fragen, und Sie sollten sie stellen:

• Woher nimmt das System seine Antworten – ausschließlich aus unseren geprüften Inhalten?
• Wo werden Daten gespeichert und verarbeitet?
• Welche Referenzen aus der Kommunalverwaltung gibt es?

Fordern Sie außerdem schon jetzt die Datenschutzunterlagen an, also Auftragsverarbeitungsvertrag (AVV), technische und organisatorische Maßnahmen (TOMs) und die Datenschutz-FAQ. So können Ihre Datenschutzbeauftragten parallel prüfen, statt später zu bremsen.

Phase 3: Angebot und Unterlagen

Nach der Demo erhalten Sie ein verbindliches Angebot samt aller vertragsrelevanten Unterlagen, digital und vollständig. Prüfen Sie besonders drei Dinge:

Das Preismodell: transparent und planbar? Bei Telefonassistenten ist etwa eine Abrechnung nach tatsächlicher Nutzung üblich.

Die Vertragsflexibilität: Können Sie klein starten und später erweitern? Ein modularer Aufbau ist ideal, weil alle Bausteine auf derselben Wissensbasis aufsetzen.

Die Vergabefrage: Je nach Auftragswert und Beschaffungsordnung gelten unterschiedliche Vergabewege. Bei den üblichen Einstiegsgrößen ist das meist unkompliziert. Ein Tipp aus der Praxis: Manche Nachbarkommunen bündeln ihre Beschaffung interkommunal und teilen sich Aufwand und Konditionen.

Phase 4: Entscheidung und interne Vorbereitung

Mit Ihrer Entscheidung legen Sie das Startdatum fest. Jetzt beginnt der Teil, der über Erfolg oder Scheitern mehr entscheidet als jede Technik: die interne Vorbereitung. Drei Baustellen gehören parallel angegangen.

Erstens, Personalrat und Datenschutzbeauftragte einbinden. Regelungen zur Nutzung technischer Systeme berühren die Mitbestimmung. Frühe Einbindung ist rechtlich geboten und schafft Akzeptanz.

Zweitens, Regeln festschreiben. Eine KI-Dienstanweisung klärt für alle Beschäftigten, welche Werkzeuge erlaubt sind, welche Daten eingegeben werden dürfen und dass jedes Ergebnis vor der Verwendung geprüft wird. Ein Muster zum Download verkürzt diesen Schritt erheblich.

Drittens, Schulung planen. Die KI-Verordnung verlangt in Artikel 4 seit Februar 2025 Maßnahmen, die die KI-Kompetenz der Mitarbeitenden fördern; ein bestimmtes Kompetenzniveau muss die Verwaltung seit der Neufassung vom 27. Juli 2026 nicht garantieren. Eine kompakte Basisschulung ist genau so eine Maßnahme – und nimmt zugleich Berührungsängste.

Über Erfolg oder Scheitern einer KI-Einführung entscheidet nicht die Technik, sondern ob Regeln, Personalrat und Schulung vor dem Livegang stehen statt danach.

Phase 5: Onboarding und Pilotbetrieb

Jetzt wird eingerichtet. Der Anbieter baut die Wissensbasis auf, typischerweise, indem das System Ihre Website und weitere freigegebene Quellen einliest, und stimmt Design, Tonalität und Abläufe mit Ihnen ab. Ihr Team testet anschließend mit den echten Alltagsfragen.

Für den Start ins Echte gilt: pilotieren statt Urknall. Zwei bewährte Muster:

Der Pilot liefert echte Nutzungsdaten, an denen das System nachgeschärft wird: welche Fragen kommen, wo fehlen Inhalte, wo muss die Weiterleitung angepasst werden.

Phase 6: Livegang, Kommunikation und Ausbau

Der volle Livegang ist kein Technik-, sondern ein Kommunikationsereignis. Drei Dinge gehören dazu.

Nach außen kommunizieren. Pressemitteilung, Website, Social Media. Bürgerinnen und Bürger sollen wissen, dass es den neuen Service gibt und dass alle klassischen Wege bestehen bleiben. Nebeneffekt: Solche Meldungen werden von Lokalmedien gern aufgegriffen und zahlen auf das Bild einer modernen Verwaltung ein.

Nach innen dranbleiben. Benennen Sie eine Ansprechperson, sammeln Sie Rückmeldungen der Mitarbeitenden, feiern Sie die ersten Erfolge sichtbar, etwa die ersten tausend beantworteten Anfragen.

Messen und ausbauen. Über das Dashboard sehen Sie, was der Assistent leistet und wo die Website Lücken hat. Läuft der erste Baustein rund, folgt der nächste auf derselben Wissensbasis – der Rollout wächst also Baustein für Baustein: nach dem Chatbot der Telefonassistent, danach der interne KI-Assistent. Wie ein solches Gesamtpaket wirkt, zeigt das Beispiel der Stadt Kevelaer in unserem Artikel zum Fachkräftemangel.

Die fünf häufigsten Fehler und ihre Gegenmittel

Diese fünf Fehler haben eines gemeinsam: Sie sind alle vermeidbar, ohne dass es dafür zusätzliches Budget braucht – nur etwas Vorbereitung. Wer klein startet, die eigenen Leute von Anfang an mitnimmt und Regeln vor dem Livegang statt danach klärt, kommt in Wochen statt Monaten vom ersten Gespräch zu einem Werkzeug, das im Alltag spürbar entlastet.