KI in Behörden: Einsatzfelder, Anforderungen und Auswahlkriterien
Einsatzfelder und Praxisbeispiele von Künstlicher Intelligenz in der öffentlichen Verwaltung
Sprachmodelle werden in der Praxis bereits in diesen Bereichen eingesetzt:
Aus den bisherigen Erfahrungen im Umgang mit gängigen, kommerziellen LLMs wie Claude von Anthropic, GPT von OpenAI, Gemini von Google, Mistral von Mistral AI oder Luminous von Aleph Alpha (Luminous) entsteht daher der nachvollziehbare Wunsch nach einem breiten Einsatz von KI-Tools in Behörden. Das Potenzial für eine umfangreichere Integration in die Abläufe der Verwaltungsarbeit ist gegeben.
Welche Herausforderungen bringt die Nutzung von KI in Behörden mit sich?
Entscheidungsträger im öffentlichen Sektor stehen dadurch jedoch vor einem Dilemma: Die Modelle entwickeln sich schneller, als sich ihre Eignung für den Verwaltungseinsatz belastbar bewerten lässt. Da Behörden in Deutschland zudem selbst entscheiden, wie sie Künstliche Intelligenz und welche Tools sie in welchem Umfang einsetzen, besteht die Gefahr eines Flickenteppichs an unterschiedlich genutzten KI-Lösungen ohne bundesweit verbindliche Regularien und Standards.
Das wirft eine weitere wichtige Frage auf: Welche Sprachmodelle bzw. LLMs eignen sich für welche Aufgabe? Ein universelles Modell, das sämtliche Verwaltungsaufgaben gleichermaßen zuverlässig löst, gibt es nicht. Zu unterschiedlich sind die Anforderungen – von der Beantwortung von Bürgeranfragen bis zur Unterstützung bei komplexen Dokumenten und Fachprozessen. Die zentrale Frage lautet deshalb nicht, welches Modell allgemein als das beste gilt. Entscheidend ist, welches Modell zu den konkreten Anforderungen einer Behörde und ihrem jeweiligen Anwendungsfall passt.
Eine mögliche Lösung hierfür: ein passgenauer Vergleich der Sprachmodelle und ihrer Einsatzmöglichkeiten.
Worauf es bei einem Modellvergleich für Behörden ankommt
Dass dies sinnvoll ist, liegt auch an den Grenzen bisheriger Modellvergleiche. Diese messen vor allem Fähigkeiten wie englisches Textverständnis, mathematische Aufgaben oder allgemeines Weltwissen. Kaum berücksichtigt wird dagegen, was im Behördenalltag viel wichtiger ist:
- Erfindet ein Sprachmodell bei Bürgeranfragen Informationen, die so nie in einem Gesetz oder einer Verordnung standen (Halluzinationen)?
- Verarbeitet es die deutsche Sprache, Fachbegriffe und komplexe Verwaltungsvorgaben zuverlässig?
- Dokumentiert der Anbieter transparent, womit das Modell trainiert wurde?
- Wie werden die erzeugten oder verarbeiteten Daten geschützt?
Etablierte Sprachmodelle wie Claude, GPT oder Gemini schneiden in allgemeinen Benchmarks gut ab. Das heißt jedoch nicht, dass sie sich ohne Weiteres für den KI-Einsatz in Behörden eignen. Bekanntheit und allgemeine Leistungsfähigkeit ersetzen keine Bewertung anhand verwaltungsspezifischer Kriterien.
Daraus folgt, dass Behörden eigene Bewertungsmaßstäbe für LLMs und KI-Tools, sprich Benchmarks, benötigen.
KI in Behörden: Performance und Governance als Vergleichskategorien
Ein Modellvergleich für die öffentliche Verwaltung muss deshalb zwei unterschiedliche Perspektiven verbinden: Performance und Governance.
1. Performance: Was kann das Modell?
Die Performance beschreibt die inhaltliche Leistungsfähigkeit des LLMs, sprich: wie gut ein Modell konkrete Verwaltungsaufgaben erfüllt. Das umfasst folgende inhaltliche Aufgaben, die als Kriterium definiert sind:
- Zusammenfassen: Strukturieren und Bündeln von Beschlüssen, Fachtexten oder Urteilen in hoher Qualität.
- Fragen beantworten: Exakte Antworten auf Basis vorhandener Dokumente und Informationen geben.
- Themen extrahieren: Dokumente durchsuchen, sinnvoll kategorisieren und verschlagworten.
Diese Fähigkeiten implizieren folgende Kenntnisse:
- Verständnis von Verwaltungssprache (Kenntnis behördlicher Fachbegriffe)
- Inhaltliche Genauigkeit (fehlerlose Ergebnisse, keine Halluzinationen)
- Stilsicherheit (Tonalität der Behördenkommunikation, Konsistenz)
2. Governance: Wie verantwortungsvoll agiert das LLM?
Governance bewertet die Rahmenbedingungen für einen verantwortungsvollen Einsatz von LLMs in Behörden. Das umfasst insbesondere die Nachvollziehbarkeit der Ergebnisse, Datenschutz und Informationssicherheit sowie regulatorische Anforderungen. Im Fokus stehen somit diese Kriterien, die für eine regelkonforme, transparente und (rechts)sichere Nutzung des KI-Tools essenziell sind:
Ob das Modell häufig Inhalte erfindet, die nicht aus der Quelle stammen, bzw. Inhalte verfälscht.
Ob sich die Antworten mit demokratischen Grundwerten vereinbaren lassen.
Wie effizient das Modell mit Rechenressourcen umgeht.
Wie offen der Anbieter über Modellstruktur, genutzte Daten für das Training des LLMs und Nutzungsmodalitäten informiert.
Im Kontext von Governance spielen auch diese Punkte eine wichtige Rolle:
Ein praxistauglicher Modellvergleich muss Performance und Governance als unterschiedliche Ausgangssituationen gleichermaßen berücksichtigen. Denn das beste Modell nützt wenig, wenn die Rahmenbedingungen für seinen sicheren und wirksamen Einsatz nicht gegeben sind.
Die Themen Security und Speicherort der Daten berühren direkt ein übergeordnetes Leitprinzip für den öffentlichen Sektor: die digitale Souveränität.
Datensouveränität als Schlüssel zur digitalen Souveränität
Digitale Souveränität beschreibt die grundlegende Fähigkeit von Staat und Verwaltung, digitale Systeme, Prozesse und Technologien selbstbestimmt zu gestalten, zu kontrollieren und unabhängig zu nutzen. Dies lässt sich nur erreichen, wenn technologische Abhängigkeiten von außereuropäischen Anbietern reduziert werden. Das bedeutet keine Abschottung, sondern die gezielte Förderung und Nutzung vertrauenswürdiger europäischer Alternativen sowie offener Standards. Dies trägt zur Sicherung der staatlichen Handlungsfähigkeit und der demokratischen Stabilität im digitalen Zeitalter bei.
Lesen Sie hier mehr zum Thema digitale Souveränität.
Nicht nur das Modell zählt – auch die Rahmenbedingungen
Bei der Bewertung von LLMs in Behörden reicht der Blick auf das Modell allein nicht aus. Ebenso entscheidend ist, unter welchen technischen, organisatorischen und sicherheitsbezogenen Rahmenbedingungen es eingesetzt wird.
Dazu gehören etwa das Bereitstellungsmodell, die verfügbare IT-Infrastruktur inklusive Schnittstellen, vorhandenes Fachwissen (behördeneigenes Wissen) im Umgang mit KI-Systemen, Budgets für Betrieb und Weiterentwicklung sowie interne Vorgaben zu Datenschutz und Informationssicherheit. Die Betriebsstabilität spielt ebenfalls eine wichtige Rolle, da die Funktionalität von KI-basierten Tools auch bei einer hohen Zugriffslast gewährleistet sein muss.
Bereitstellungsmodelle neutral erklärt: Was ist das?
Behörden stehen grundsätzlich zwei Betriebsmodelle zur Verfügung:
Möglich sind auch hybride Ansätze beider Varianten: Unkritische Aufgaben laufen in der Cloud, besonders schutzbedürftige Daten werden nur on premises verarbeitet.
Stichwort Schutzbedarf: Welches Betriebsmodell zulässig ist, bestimmt der Schutzbedarf der verarbeiteten Daten. Die Schutzbedarfsklassen des BSI – normal, hoch, sehr hoch – definieren die Anforderungen an Infrastruktur, Verschlüsselung und Zugriffskontrolle. Allgemeine Bürgeranfragen lassen sich unter Umständen in einer zertifizierten Verwaltungscloud verarbeiten. Bei Daten mit hohem Schutzbedarf ist in der Regel nur ein Betrieb auf eigener (sicherer) Infrastruktur zulässig.
Unabhängig vom Betriebsmodell lässt sich durch Retrieval-Augmented Generation (RAG) gezielt behördeneigenes Wissen einbinden. Dabei durchsucht das System bei einer Anfrage zunächst hinterlegte Dokumente – etwa Gesetzestexte oder interne Leitfäden – und bezieht die relevanten Inhalte in seine Antwort ein. Das reduziert Halluzinationen, macht Ergebnisse nachvollziehbar und funktioniert sowohl on premises als auch in der Cloud.
Bundesdruckerei: praxisnahe KI-Entwicklung für Behörden
Die Bundesdruckerei GmbH unterstützt im Rahmen des KI-Kompetenz-Centers (KI-KC) seit 2023 die Bundesverwaltung dabei, KI souverän einzusetzen und praxisnahe Anwendungen zu entwickeln. Im Auftrag des Bundesministeriums der Finanzen (BMF) werden in Kooperation mit verschiedenen Bundesministerien konkrete Projekte realisiert, die den Einsatz von KI im Verwaltungsalltag untersuchen.
Dabei stehen Lösungen im Vordergrund, die gezielt auf die Bedürfnisse von Behörden zugeschnitten sind. Aktuelle Schwerpunkte liegen insbesondere auf Sprachmodellen, Bilderkennungsverfahren und Anomalie-Detektion, um Verwaltungsvorgänge effizienter und intelligenter zu gestalten. Zu den aktuellen Projekten gehört auch MÖVE (= Modelle für die Öffentliche Verwaltung Evaluieren).
Projekt MÖVE der Bundesdruckerei: LLM-Benchmark für KI in Behörden
Bei MÖVE handelt es sich um einen Bewertungsrahmen, der erstmals technische Leistung und Governance-Anforderungen in einem System verbindet. Das Framework verfolgt einen verwaltungsnahen Ansatz.
- Ziel ist die Entwicklung eines Benchmarks für die Verwaltung, basierend auf Aufgaben und Datensätzen, die den Tätigkeiten der Behörden entsprechen.
- Das Framework untersucht sowohl Performance-Aufgaben wie zusammenfassen, Themen extrahieren und Fragen beantworten als auch Governance-Aspekte, beispielsweise den Umgang mit Halluzinationen, Transparenz, Nachhaltigkeit sowie Politik und Werten.
- Mit MÖVE können Behörden verschiedene Modelle systematisch vergleichen, ihre Eignung für interne Texte und Arbeitsprozesse prüfen und Risiken und Chancen abwägen.
Ergebnis: ein LLM-Benchmark, der eine praxisnahe Orientierung für die Auswahl geeigneter KI-Modelle für den Einsatz in der öffentlichen Verwaltung bietet – sicher und transparent.
Weitere Projekte rund um KI im öffentlichen Sektor und Datensouveränität
Fragen und Antworten rund um KI in Behörden (FAQ)
Die Auswahl basiert auf der konkreten Aufgabenstellung (z. B. Bürgerkommunikation vs. interne Assistenz), der vorhandenen IT-Infrastruktur sowie den individuellen Governance- und Sicherheitsanforderungen. Mithilfe eines behördenspezifischen Benchmarks wie des MÖVE-Frameworks lässt sich die Eignung verschiedener Sprachmodelle und darauf aufbauender KI-Tools systematisch vergleichen.
Der Nachweis gelingt durch eine strukturierte Evaluation entlang klar definierter Kriterien für fachliche Qualität, IT-Betrieb und Governance. Dokumentierte Testergebnisse, standardisierte Benchmark-Berichte und Audit-Nachweise belegen die Modellwahl nachvollziehbar und sichern den KI-Einsatz rechtlich ab.
Die Qualität von generierten Texten oder Analysen lässt sich durch Vergleich mit Referenztexten überprüfen. Üblich sind sowohl automatisierte als auch manuelle Qualitätskontrollen, etwa Plausibilitätsprüfungen oder die Überprüfung auf Vollständigkeit und Korrektheit. Ergänzend sichern regelmäßige Updates die langfristige inhaltliche Stabilität des Sprachmodells.
