Das Ampelmodell für KI in der Verwaltung: Anwendungsfälle nach Risiko sortieren

Eine der häufigsten Fragen bei der Einführung von KI in der Verwaltung lautet: Wie genau müssen wir eigentlich prüfen, was die KI ausgibt? Die ehrliche Antwort ist: Das kommt darauf an. Einen Text umzuformulieren ist etwas völlig anderes, als einen Bescheid vorzubereiten, der über Rechte von Bürgerinnen und Bürgern entscheidet.

Damit diese Unterscheidung im Alltag nicht jede und jeder für sich neu treffen muss, hat sich ein einfaches Werkzeug bewährt: das Ampelmodell. Es ordnet jeden Anwendungsfall einer von drei Stufen zu und sagt klar, wie sorgfältig das Ergebnis geprüft werden muss. Dieser Artikel erklärt das Modell und zeigt, wie Sie es in Ihrer Verwaltung verankern.

Der Grundsatz zuerst: Der Mensch entscheidet

Bevor es um die Farben geht, steht ein Prinzip über allem: KI liefert Entwürfe und Vorarbeit, die fachliche und rechtliche Verantwortung bleibt immer bei den Mitarbeitenden. Keine KI-Ausgabe geht ungeprüft nach außen oder in eine Akte. Das Ampelmodell schafft dieses Prinzip nicht ab – es macht es praktikabel, indem es den Prüfaufwand nach Risiko staffelt.

Die drei Stufen im Überblick

Die Logik dahinter ist bewusst einfach: Je größer der mögliche Schaden bei einem Fehler, desto strenger die Kontrolle. Bei Grün wäre ein Fehler unangenehm, aber folgenlos. Bei Rot kann ein Fehler Rechte von Menschen verletzen – also braucht es die höchste Sorgfalt.

Grün: der Alltag ohne großen Aufwand

In die grüne Stufe fällt der Großteil der täglichen KI-Nutzung: Eine Mitarbeiterin lässt sich einen eigenen Text glätten, ein Kollege fasst ein internes Dokument zusammen, jemand sucht eine verständlichere Formulierung. Hier hat das Ergebnis keinen direkten Einfluss auf Bürgerinnen und Bürger. Ein kurzer prüfender Blick genügt, dann kann es verwendet werden. Würde man hier ein Vier-Augen-Prinzip verlangen, würde man die Entlastung wieder zunichtemachen, die KI eigentlich bringen soll.

Gelb: alles mit Außenwirkung

Sobald ein Ergebnis nach außen geht, ohne selbst rechtsverbindlich zu sein, greift die gelbe Stufe. Das betrifft die Antwort an eine Bürgerin, ein Merkblatt oder einen Text für die Website. Solche Inhalte prägen das Bild der Verwaltung und können Erwartungen wecken. Deshalb gilt: vor dem Versand prüfen. Stimmen die Kernaussagen? Passt der Ton? Und ganz wichtig: Enthält der Text keine Zusagen, die so nicht gemeint waren? Der Mensch bleibt der Absender, nicht die KI.

Rot: überall, wo es um Rechte geht

Die rote Stufe ist die strengste und betrifft alles, was unmittelbar auf Rechte und Pflichten von Menschen wirkt: ein Bescheid, eine Ablehnung, eine Sanktion, eine rechtsverbindliche Auskunft. Hier reicht ein prüfender Blick nicht. Es gilt das Vier-Augen-Prinzip, und jede belegbare Angabe wird gegengeprüft: der zitierte Paragraf, die genannte Frist, die berechnete Zahl. KI darf hier vorbereiten und zuarbeiten, die Entscheidung und die Verantwortung liegen vollständig beim Menschen. In vielen Fällen ist im roten Bereich ohnehin gesondert zu bewerten, ob und wie KI überhaupt eingesetzt werden darf – oft ist hier zusätzlich eine Datenschutz-Folgenabschätzung (DSFA) fällig, bevor der Einsatz überhaupt beginnt. Das verbindet das Ampelmodell mit den Risikoklassen des EU AI Act für Kommunen.

Das Ampelmodell schafft das Prinzip „der Mensch entscheidet" nicht ab. Es macht es praktikabel, indem es den Prüfaufwand nach Risiko staffelt.

So verankern Sie das Modell in Ihrer Verwaltung

Ein Ampelmodell wirkt nur, wenn es nicht in einer Schublade verschwindet. Vier Schritte haben sich bewährt:

1. In die Dienstanweisung aufnehmen. Das Ampelmodell ist der natürliche Kern einer KI-Dienstanweisung. Dort bekommt es Verbindlichkeit.
2. Mit echten Beispielen füllen. Übersetzen Sie die drei Stufen in Fälle aus Ihrem Haus. Je konkreter die Beispiele, desto leichter die Einordnung im Alltag.
3. In der Schulung erklären. Ein kurzes Training zeigt, wie man einen Fall einordnet. Das zahlt zugleich auf die Kompetenzpflicht aus Artikel 4 des EU AI Act ein.
4. Im Zweifel hochstufen. Die einfachste Faustregel für alle: Wer unsicher ist, behandelt den Fall eine Stufe strenger. Lieber einmal zu viel geprüft als einmal zu wenig.

So bleibt das Ampelmodell kein Papiertiger, sondern der gemeinsame Maßstab, an dem sich jede und jeder im Alltag orientieren kann. Der Prüfaufwand landet damit genau dort, wo er gebraucht wird – und die Routine bleibt schlank.