Roadmap zu einer agentischen Behörde

In der MVO-Stufe liegt der Fokus auf dem schnellen, pragmatischen Sammeln von Erfahrungen. Use Cases werden vorrangig durch die Behördenleitung mit erweitertem Führungskreis inklusive eines neu gegründeten AI Transformation Office ausgewählt. Gezielt beratend eingebunden werden Personen aus IT und Fachreferaten, die in der Organisation die umfassendste (agentische) KI-Expertise mitbringen und von denen Interesse an der Umsetzung eines Use Cases bekannt ist. Ein breit angelegter Bottom-Up-Prozess ist in dieser Stufe noch nicht erforderlich. Vorschläge der Fachbereiche werden gezielt einbezogen.

Die Investitionskosten für die initiale Umsetzung der Use Cases werden – im Idealfall und sofern möglich – von der Behörde über ein zentrales Budget (z. B. IT-Budget) getragen. Bei Überführung in den Regelbetrieb erfolgt die Finanzierung im Rahmen der hierfür jeweils üblichen Prozesse der betreffenden Behörde. Diese Regelung kann dabei unterstützen, finanzielle Hürden für die Entwicklung – insbesondere den Anschub – von Use Cases abzubauen.

Jede Behörde konkretisiert die Auswahlkriterien anhand der folgenden Leitlinien. Vor der Priorisierung werden die Eignung agentischer KI, die rechtliche Zulässigkeit und die erforderlichen Schutzmaßnahmen geprüft. Ein hoher Nutzen ersetzt keine Mindestvoraussetzungen:

• Komplexität gering halten: Ratsam ist, zunächst anhand erster kleinerer Prozesse mit wenigen Schritten oder sogar nur einzelnen Prozessbausteinen erste Erfahrungen zu sammeln. Vermieden werden sollte, sich gleich zu Beginn komplexe Verfahren mit einer Vielzahl von Schritten, Zugriffen auf unterschiedliche Datensätze und Interaktionsbedarfen mit anderen Behörden vorzunehmen.
• Geeignetes Personal identifizieren: Es ist ratsam, gezielt nach den KI-Interessierten in der Behörde Ausschau zu halten und mit ihnen gemeinsam einen Use Case in ihrem Zuständigkeitsbereich zu identifizieren. Dort besteht zum einen ausgeprägtes Vorwissen, insbesondere aber auch eine hohe intrinsische Motivation.
• Messbarkeit von Wirkung sicherstellen: Der Use Case sollte so geschnitten sein, dass die erzielten Erfolge im Sinne der angestrebten Wirkung nachweis- und messbar sind. Dazu bedarf es einer „Baseline“ – einen messbaren Status quo, gegen den die erzielte Veränderung durch den Einsatz agentischer KI gemessen werden kann (z. B. Bearbeitungszeiten). Die Baseline sollte entweder bereits messbar sein oder alternativ zumindest mit geringem Aufwand erhoben werden können. Bei der Erfolgsmessung zu bedenken ist, dass sich Wirkung oft erst nachgelagert entfaltet und mit zunehmender Erfahrung und Lerneffekten skaliert.
• Dokumentations- und Datenqualität berücksichtigen: Im Sinne einer schnellen Umsetzung sollten Prozesse oder Prozessbausteine als Use Case ausgewählt werden, deren Abläufe bereits gut dokumentiert sind. Andernfalls müsste dies vor Umsetzung noch nachgeholt werden. Ebenso sollten einschlägige Daten vollständig oder nahezu in dem für die Umsetzung benötigten Strukturierungsgrad vorliegen.
• Risiko gering halten, Scheitern ermöglichen: Sandboxing sollte in der Anfangsphase stark ausgeprägt sein. Zügige Produktivsetzung muss nicht zwingend unmittelbar angestrebt werden. Ein potenzielles Scheitern bzw. ein begründeter Abbruch des Use Cases muss akzeptiert sein, bereits einkalkuliert und im Nachgang dokumentiert werden.
• Skalierungsmöglichkeiten mitdenken: Auch wenn die ersten Use Cases klein geschnitten sind, ist es sinnvoll, potenzielle spätere Skalierungsmöglichkeiten von Beginn an mitzudenken (Nutzung in anderen Fachbereichen, Übertragung auf verwandte Verfahren etc.). Das erleichtert die Nachnutzung und den realisierten Nutzen. Die an der Entscheidung beteiligten Führungskräfte sollten diesen Aspekt aktiv aus der Perspektive ihrer jeweiligen Zuständigkeiten diskutieren.

Auf Basis der definierten Auswahlkriterien wird die Prozesslandschaft der Behörde – zumindest kursorisch – auf potenzielle Use Cases gescreent. Im Fokus stehen in der Regel umfangsarme, in Summe für die Mitarbeitenden jedoch belastende sowie fehleranfällige Tätigkeiten. Nutzen, Datenbedarf, Risiken, Ressourcen und fachliche Verantwortung werden je Vorschlag in einem kurzen Use-Case-Steckbrief festgehalten.

Einer der ersten Schritte bei der Use Case Konzeption sollte grundsätzlich sein, zu prüfen, inwiefern bestehende Bausteine bereits heute oder in naher Zukunft nachgenutzt und eingebunden werden können. Das betrifft u. a. Module und Plattformen (u. a. KIPITZ, SPARK), technische Komponenten (u. a. Deutschland-App, d-you, BundID, NOOTS und weitere Bausteine aus dem Deutschland-Stack) sowie Vorlagen und Musterdokumente (z. B. KI-Guide des BMDS, KI-Leitlinien für die Bundesverwaltung, KI-Fragebogen des Bundesbeauftragten für den Datenschutz und die Informationsfreiheit). Erfahrungswerte über bestehende Umsetzungsvorhaben mit agentischer KI sind über den „Marktplatz der KI-Möglichkeiten“ (MaKI) und den „Agentic AI Hub“ beziehbar.

Die Führungsebene der Behördenebene sollte im Rahmen der in der Behörde üblichen Abstimmungsformate zügig eine Entscheidung treffen, welcher Use Case eine gute Passfähigkeit auf die Auswahlkriterien aufweist und initial umgesetzt wird. Je nach Behördengröße umfasst es die erste oder zweite Führungsebene, ergänzt um die Leitungen einschlägiger Bereiche (u. a. IT, Datenschutz, relevante Fachbereiche). Ratsam ist, je nach Größe der Behörde, zunächst mit ein bis zwei Use Cases zu starten. Weitere Use Cases können sukzessive folgen, die in der MVO-Stufe aber einen explorativen Charakter beibehalten.

Das AI Transformation Office prüft mit dem zuständigen Fachbereich und den relevanten, beratenden Rechts-, Datenschutz- und Sicherheitsfunktionen, ob der Agenten-Einsatz in den Use Cases grundsätzlich zulässig ist und welche spezifischen Anforderungen bestehen, z. B. für die Modellauswahl oder das Agentenmandat. Diese werden dokumentiert und von Anfang an in der Use Case Konzeption mitgedacht. Hier sind insb. die europäische KI-Verordnung, Datenschutz, Verwaltungs- und Fachrecht, Informationssicherheit sowie ggf. weitere Vorgaben zu berücksichtigen. Sollte bereits eine KI-Governance in der Behörde etabliert sein, kann diese als Grundlage genutzt werden.

Für jeden konkreten Use Case wird ein Wirkungsprofil und der Handlungsspielraum des Agenten abgeleitet sowie das erforderliche Schutzniveau für den Einsatz festgelegt. Dabei wird konkretisiert, welche Aufgaben und Prozessschritte der Agent übernehmen darf und welche Daten, Systeme und Aktionen dafür zulässig sind. Die ersten Use Cases haben dabei einen besonderen Stellenwert, da die getroffenen Bewertungen als Referenz für nachfolgende Risikobewertung dienen können. Sie ermöglichen es, das Vorgehen zur Risikobestimmung gemeinsam mit unterschiedlichen fachlichen und rechtlichen Perspektiven weiterzuentwickeln und zu konkretisieren. Gewonnene Erkenntnisse und Erfahrungen werden systematisch dokumentiert und für die Ausgestaltung der erforderlichen fachlichen und rechtlichen Konzepte nutzbar gemacht.

Das Agentenmandat samt Schutzbedarfsfeststellung und Nutzungskonzept wird mit relevanten Stakeholdern möglichst frühzeitig abgestimmt. Dazu zählen unter anderem der Datenschutzbeauftragte (Datenschutzkonzept, ggf. Datenschutzfolgeabschätzung), der Personalrat (Einbringung der Beschäftigungsinteressen), der Gleichstellungsbeauftragte (Auswirkung auf Gleichstellung und strukturelle Benachteiligung), der IT-Sicherheitsbeauftragte (Cybersicherheit und Informationssicherheit) und die Leitungsebene der Behörde.

Eine Planung der konkreten Einführung einschließlich Verantwortlichkeiten, Zeitplan, Einführungsstufen und Scope wird durchgeführt. Insbesondere wird festgelegt, für welche Nutzergruppe bzw. für wie viele Nutzende der Agent zunächst bereitgestellt wird und wer entsprechend geschult, weitergebildet werden muss. Eine Ausweitung des Nutzendenkreises ist im Laufe dieser Phase angedacht. Kontrollpunkte im Workflow werden nicht post-hoc definiert, sondern möglichst von Beginn an gemeinsam mit dem Datenschutzbeauftragten und dem IT-Sicherheitsbeauftragten direkt im Testbetrieb erprobt und angepasst.

Fachliche, technische und betriebliche Verantwortlichkeiten sowie Entscheidungs- und Eskalationswege werden eindeutig zugeordnet. Prüfungen, Beteiligungen und Freigaben werden nachvollziehbar dokumentiert. Die haftungsrechtliche Einordnung ist fachjuristisch zu klären.

Verbindliche technische Guardrails werden aus der festgelegten Schutzklasse abgeleitet, insbesondere zu zulässigen Daten, Systemen, Aktionen und menschlichen Kontrollpunkten. Die daraus resultierenden Nutzungsbedingungen werden für die betroffenen Mitarbeitenden verständlich dokumentiert und kommuniziert, bspw. welche Daten verarbeitet werden dürfen.

Die Behörde prüft Datenschutz, Auftragsverarbeitung, Barrierefreiheit, digitale Souveränität und Informationssicherheit und berücksichtigt bzw. regelt diese jeweils, soweit erforderlich durch etwaige Konzepte, Vereinbarungen und Nachweise. Die Gesamtsteuerung für das Einholen dieser Konzepte und Nachweise liegt bei dem AI Transformation Office, welcher auf die Expert:innen innerhalb der Behörde zugeht und ggf. externe Beratung hinzuzieht.

Der Agent wird gerade in der Anfangsphase besonders kritisch auf Störungen, fehlerhafte Agentenergebnisse oder Constraint bzw. Scope Violation überprüft. Notfall- und gegebenenfalls Abschaltprozesse werden vor dem Ersteinsatz definiert und erprobt. Zudem wird vom AI Transformation Office festgelegt, welche Vorfälle eine erneute Überprüfung des Agentenmandats oder Schutzklasse notwendig machen.

Für den Fall von Sicherheitsvorfällen werden Prozesse vorgesehen, mit denen nachvollzogen werden kann, was passiert ist und welche Auswirkungen entstanden sind. Darauf aufbauend sind Maßnahmen zur Begrenzung des Schadens sowie zur Wiederherstellung und Rückgängigmachung der Auswirkungen einzuleiten.

Der fachliche Zuständige für den Use Case prüft die Agentenergebnisse auf Auffälligkeiten, Ausreißer und Verzerrungen. Zudem wird für die Nutzenden ein Meldekanal eingerichtet, über den diese Fehler und Auffälligkeiten melden können. Bei erkannten Fehlern erfolgen fachliche Nachkontrollen und eine entsprechende Dokumentation. Zudem werden die Mitarbeitenden für die dabei entdeckten Fehlerbilder sensibilisiert.

Änderungen an Agenten, Modellen und Systemkomponenten werden versioniert und dokumentiert. Vor und nach wesentlichen Änderungen wird geprüft, ob sich fachlich oder rechtlich relevante Ergebnisse verändern.

Die Nutzenden setzen sich mit den Agentenergebnissen auseinander und können diese an relevanten Stellen nachvollziehen und überprüfen. Erfahrungen und Fragen aus dem Ersteinsatz können über bestehende Kanäle (z. B. Servicedesk) eingereicht werden. Der Service Owner hält diese Fragen und Antworten in einer Wissensdatenbank im Rahmen des Wissensmanagements fest.

Agentenergebnisse werden, soweit fachlich möglich, mit Quellenangaben und eindeutigen Dokument- bzw. Textreferenzen versehen. Dadurch können Sachbearbeitende die verwendeten Informationen gezielt überprüfen und die Ergebnisse fachlich einordnen.

Ein Kennzahlen- und Monitoringmodell zur Beobachtung von Nutzung und Wirkung des Systems wird entwickelt, um Unterstützungs- und Befähigungsbedarfe zu erkennen, Datennutzung zu monitoren und Wissensdatenbanken aufzubereiten. Dies kann in der Außenkommunikation genutzt werden, um die tatsächliche Nutzung und Akzeptanz sichtbar zu machen.

Die Behörde greift auf bestehende (souveräne) LLM-Provider bzw. -Endpunkte zu (z. B. KIPITZ). Dabei prüft sie die Datenverarbeitungsrichtlinien, Vertragsbedingungen und Haftungsfragen. Bei der Modellauswahl werden neben der Datensouveränität auch mögliche technologische Abhängigkeiten, die Austauschbarkeit der Modelle sowie die Möglichkeiten zur eigenständigen Nutzung und Anpassung berücksichtigt.

Ein initialer bzw. bestehender Agenten-Harness (bspw. im Rahmen des Deutschland-Stacks) wird vertestet. Dieser sollte wesentliche Elemente wie Agenten-Repository, ein Workflow-Management, Reporting/Audit und Tools zur operativen Steuerung und dem Management des Agentenlebenszyklus (z. B. DevSecOps-Einbindung) enthalten. Der Harness dient als Test- und Entwicklungsumgebung für die ersten Use-Cases. Decken die verfügbaren Agentenbausteine die Anforderung eines Use Cases nicht ab, kann eine ergänzende Lösung beschafft oder entwickelt werden. Voraussetzung ist, dass sie die definierten Standards und Schnittstellen erfüllt und sich in die Architektur des D-Stacks integrieren lässt.

Für die ausgewählten Use-Cases werden die relevanten Daten soweit erforderlich bereinigt, standardisiert und in ein geeignetes Format (z. B. JSON oder Parquet) überführt. Ob das Agentensystem die Daten verlässlich nutzen kann, wird anhand repräsentativer Testfälle geprüft. Außerdem ist eine Nutzung von Testdaten für initiale Use Cases zu berücksichtigen.

Die Behörde verfügt über oder beschafft eine grundständige IT-Infrastruktur, insbesondere Entwicklungs- und Betriebsumgebungen, die für die Umsetzung der agentischen Use Cases genutzt werden kann. Dabei können die agentischen Workflows für Testzwecke in sicheren und entkoppelten Sandboxen betrieben werden – als Teil eines kontrollierten Prozesses von der Idee über die Pilotierung zur Produktion.

Der Use-Case wird in einen Agenten-Workflow überführt, der in die Pilot-Umgebung integriert wird. Dazu werden die Prozessschritte (neu-)modelliert, die notwendigen Schnittstellen konfiguriert und die Guardrails (Zugriffsbeschränkungen, Rate-Limiting, Daten-Retention) eingerichtet. Anschließend wird der Workflow in einer Test- und Validierungsphase anhand der definierten KPIs geprüft und Ergebnisse dokumentiert, bevor er produktiv im Piloten eingesetzt wird.

Im Rahmen eines Pilotbetriebs werden Kriterien und Maßzahlen entwickelt und festgelegt, die den Einsatz von Agenten bewerten, etwa anhand der Güte ihrer Arbeitsergebnisse, ihres Ressourcenverbrauchs etc. Besonders performante Agenten, d. h. Agentenpipelines, die etwa mit weniger Rechenressourcen auskommen oder qualitativ höherwertige Arbeitsergebnisse erzielen, können prioritär nachgenutzt werden (zunächst in der Behörde, später auch in anderen Behörden). Umgekehrt gibt es klare Kriterien, unter welchen Bedingungen Agenten ausgetauscht oder überarbeitet werden müssen.

Es wird eine zentrale KI-Funktion nahe der Behördenleitung als Vorläufer von CAIO/CDO zur strategischen Mandatierung und übergreifenden Steuerung eingerichtet. Umfang und Besetzung richten sich nach Behördengröße und Vorhaben; bestehende Funktionen können diese Aufgaben übernehmen.

• Rollen:
  • Vorläufer von CAIO/CDO (angesiedelt nahe der Behördenleitung)
  • Internes Beratungsteam (Befähigungs- und Dokumentationsinstanz)
  • Rollout-Verantwortliche
  • Risikomanager
• Aufgaben:
  • Einsetzen einer strategischen Mandatierung und einer übergreifenden Steuerung
  • Praktisches Begleiten der Fachbereiche und gemeinsam mit den Teams aus den ersten Anwendungsfällen lernen
  • Dokumentation von Best Practices und Aufbau des zentralen Wissensmanagements der Behörde
  • Gezielte Befähigung der Use-Case-Projektteams durch Bereitstellung von Online-Anwendungsschulungen zum Umgang mit agentischen Verfahren sowie von Aufbau-Modulen für spezifische Rollen (z. B. Service Owner oder Behördenleitungen)
  • Aufbau zentraler Kompetenzen und Unterstützungsmethoden für die Fachbereiche zur Verhinderung von dezentralen und unkoordinierten Einzelinitiativen/Insellösungen
  • Einbindung von Personalrat, Datenschutz und Informationssicherheit bereits in der Vorbereitungsphase zur rechtssicheren Vorbereitung notwendiger Dienst- und Erprobungsvereinbarungen

Erste agentische Anwendungsfälle werden projekthaft umgesetzt, um agiles Lernen zu ermöglichen und Risiken zu minimieren. Rollen, Aufgaben und Entscheidungsbefugnisse werden eindeutig festgelegt. Einfach zugängliche und direkte Kommunikationskanäle zwischen allen Beteiligten werden etabliert, um schnelle Reaktionen auf anfallende Herausforderungen zu ermöglichen.

• Rollen:
  • Service Owner mit ausreichender IT- und Schnittstellenkompetenz, der die Gesamtverantwortung für den Agenten übernimmt
  • Projektleitung, die die operative Gesamtsteuerung übernimmt, während die übergeordnete Umsetzungs- und Ergebnisverantwortung für die Use Cases beim zuständigen Fachbereich liegt
  • Benennung von Data Stewards für die Datenbereitstellung
  • Benennung von verantwortlichen Ansprechpersonen aus den Bereichen Entwicklung und IT-Betrieb
  • Operative Team-Mitglieder mit Fachexpertise aus dem Fachbereich
• Aufgaben:
  • Ende-zu-Ende-Steuerung des agentischen Fachsystems durch die Projektleitung (= Service Owner)
  • Stichprobenartiges Ergebnis- und Verhaltensmonitoring des Agenten
  • Sicherheitsüberwachung und Notfallsteuerung
  • Verzahnung der technischen Machbarkeit mit der fachlichen Anforderungslogik
  • Sicherstellung des geordneten Übergangs in den späteren Regelbetrieb
  • Regelung von Zuständigkeiten im Nutzungskonzept

Rollen werden zunächst häufig „on top“ zu bestehenden Aufgaben besetzt – entsprechende zeitliche Ressourcen und Prioritäten werden sichergestellt und als fester Zeitanteil in der Geschäftsverteilung ausgewiesen. Dies erfordert ein konsequentes Commitment der obersten Behördenleitung, die die Erprobung agentischer KI Top-Down priorisiert und auf die konsequente Umsetzung übergeordneter staatlicher Vorgaben hinwirkt.

Die Behörde schafft eine abgegrenzte Testumgebung mit möglichst geringen Bürokratiehürden, in denen neue Mensch-Agenten-Teams risikoarm erprobt werden können. Die Pilotierung erfolgt zunächst in ausgewählten Gruppen oder Referaten mit konkreten Anwendungsfällen.

Die Behörde vermittelt KI als Fähigkeitserweiterung, die Arbeit reduziert und modernisiert sowie die Handlungsfähigkeit der Beschäftigten stärkt. Der Wandel wird explizit als Chance zur Aufwertung der Arbeit gestaltet. Die positiven Aspekte für den Arbeitsalltag werden dabei konkret benannt: KI-Agenten übernehmen u. a. zeitintensive Routinen wie die automatisierte Sichtung und Vorstrukturierung umfangreicher Akten, die rasche Recherche in komplexen Rechts- und Regelwerken sowie die Entlastung von manueller Datenerfassung. Dadurch gewinnen Beschäftigte wertvolle Freiräume für Tätigkeiten, die eine besondere menschliche Aufmerksamkeit benötigen (besondere Ausnahmen, persönliche Begleitung von Bürgerinnen und Bürgern etc.). Etwaige Ängste vor Überforderung oder Relevanzverlust werden durch diese transparente Gegenüberstellung proaktiv adressiert.

Die Behörde benennt bedarfsgerecht Change-Ansprechpersonen oder interdisziplinäre Change-Teams, die ab Beginn der Pilotierung an Referats- und Teamsitzungen teilnehmen. Sie greifen Sorgen bezüglich Überforderung oder Kontrollverlust im vertrauten Umfeld auf, vermitteln den Einsatz agentischer KI als Entlastung von Routinearbeit und unterstützen Beschäftigte individuell beim konkreten Erproben im Arbeitsalltag. Praxiserfahrungen spielen sie über kurze Feedbackkanäle direkt an das zentrale AI Transformation Office zurück. Unterstützung und Befähigung werden nach Tätigkeit, Vorkenntnissen und Adoptionsgeschwindigkeit differenziert; frühe Anwenderinnen und Anwender können in der Multiplikator-Rolle wirken.

Partizipationsstrukturen werden ab Tag 1 der Vorbereitungsphase festgelegt. Die Partizipation wird durch das AI Transformation Office und den Interessenvertretungen organisiert. Zum Einsatz kommen praxisnahe Formate wie Zukunftswerkstätten, Fachbereichs-Sounding-Boards, Co-Creation-Workshops und agile Erprobungs-Sandboxes, damit Betroffene frühzeitig zu aktiven Gestaltern werden.

Echte Handlungskompetenz entsteht über Schulungen hinaus primär im laufenden Dienstbetrieb durch die schrittweise Bewältigung zunehmend anspruchsvoller Anwendungsfälle. Durch wiederholte Praxisanwendung, engmaschige Diagnose- und Feedbackschleifen sowie einen souveränen Umgang mit Korrekturen und Irrtümern wird der persönliche Lernprozess der Beschäftigten nachhaltig gestärkt.

Führungskräfte werden frühzeitig einbezogen, um potenziellen Bedenken (z. B. Sorgen bezüglich der Überforderung von Mitarbeitenden, Kontrollverlust, veränderten Controlling-Anforderungen) wirksam zu begegnen. Sie erhalten spezifisches Leadership-Coaching, Supervision und Begleitung durch Change-Multiplikatoren, um Sicherheit in der Führung hybrider Teams zu gewinnen.

Ab der ersten Pilotphase werden bedarfsgerechte Ansprechstellen eingerichtet. Peer-Coaching oder Supervision ergänzen die Begleitung bei entsprechendem Bedarf. Beschäftigte und Projektteams werden bei der Arbeit mit agentischer KI emotional und fachlich eng betreut und nicht mit Unwägbarkeiten oder veränderten Schnittstellen alleine gelassen.

Rollen, Freigabeschritte, Zugriffsgrenzen und Prüfpflichten im betrieblichen Ablauf der ersten pilotierten Services werden organisatorisch und rechtlich fixiert.

Bestehende Prozesse werden nicht ungeprüft agentisch abgebildet, damit unnötige Komplexitäten (Schwachstellen, Medienbrüche, unnötige Prozessschritte etc.) nicht im Agenten-Workflow reproduziert werden. Dabei werden zunächst mehrere kleine, fokussierte Lösungen gegenüber komplexen Großsystemen bevorzugt.

Die fortlaufende Dokumentation von Lerneffekten, Hürden und Best Practices aus den Pilotprojekten wird ab Tag 1 als organisatorischer Standard etabliert. Zudem wird sichergestellt, dass technische und architektonische Festlegungen umfassend und nachvollziehbar dokumentiert sind. Das Wissen wird allgemein zugänglich und unmittelbar nachnutzbar gemacht – sodass der Aufwand für Wissensmanagement als lohnenswert erkannt und nicht als reine Last am Projektende gesehen wird.

Der Einsatz von agentischer KI verfolgt immer ein konkretes Ziel. Dieses wird bereits für die ersten Use Cases definiert. Durch die Festlegung einer geeigneten Metrik für die Erfolgsmessung (KPIs; z. B. Bearbeitungsdauer, Fehlerraten, Entlastungseffekt) wird es messbar gemacht, um Best und Worst Practices identifizieren zu können. Durch die Wirkungsmessung soll zugleich eine Fehlerkultur implementiert werden, indem schnelles und frühes „Scheitern“ bei fehlender Wirkung von Vorhaben als Lerngewinn und nicht als Problem eingestuft wird.

Ein Start auf Basis bestehender Prozesse ist zur Vermeidung von Verzögerungen zulässig, sofern eine verbindliche Nachbesserungspflicht die fortlaufende Anpassung und Vereinfachung im Realbetrieb sicherstellt.

Auf Basis der in der MVO-Stufe gemachten Erfahrungen, werden sukzessive umfangreichere und auch komplexere Use Cases ausgewählt sowie priorisiert. Gerade zu Beginn der Skalierung bietet es sich an, zunächst größere Use Cases (mehrschrittig, mehrstufig, höhere Fallzahlen etc.) in der Behörde selbst in den Blick zu nehmen. Nachgelagert können weitere komplexitätserhöhende Bausteine, insbesondere Vorgänge mit zwischenbehördlicher Kommunikation und Koordination, bei der Umsetzung in den Blick genommen werden.

Die initiale Herangehensweise für die Use Case Auswahl wird zunehmend durch eine Bottom-up-Struktur ersetzt. Die Fachbereiche sind dazu aufgerufen, eigene Ideen für Use Cases zu entwickeln und einzubringen. Flankiert wird dies durch Maßnahmen im Bereich Change Management und Kompetenzaufbau.

Mit zunehmendem Wissen in der Behörde über die Funktionsweise und die Mehrwerte von agentischer KI ist davon auszugehen, dass ab einem gewissen Zeitpunkt die Ressourcenanforderungen der identifizierten, potenziellen Use Cases die tatsächlichen Umsetzungsressourcen übersteigen werden. Daraus folgt eine Notwendigkeit der Priorisierung. Eine Grundlage hierfür sind Priorisierungskriterien, die untereinander abzuwägen sind und anhand derer die Use Cases ausgewählt werden, die als nächstes umgesetzt werden. Dazu können u. a. gehören:

• Erwartete Wirkung
  • Potenzielle Wirkung: Erwartung über den zu realisierenden Nutzen/Mehrwert im konkreten Anwendungsfall (zu quantifizieren; in der Regel bemessen an der zu erwartenden Zeit- oder Aufwandsreduktion in der Verwaltung sowie bei den Bürgerinnen/Bürgern und Unternehmen)
  • Skalierungsmöglichkeiten: Nutzungsmöglichkeiten und erwartete Wirkung jenseits des konkreten Anwendungsfalls
• Ressourcenbedarfe
  • Personell: Personelle Aufwände im Fachbereich, in der zentralen KI-Einheit sowie ggf. in der IT
  • Technisch: Rechenkapazitäten, Datenbedarfe, ggf. Anpassungsbedarfe an der technischen Infrastruktur
  • Finanziell: Erwartete Investitions- und Betriebskosten (inkl. u. a. Kosten des Anbieterwechsels, Integration und Qualifizierung)
• Geschwindigkeit und Wahrscheinlichkeit der Umsetzung
  • Rechtliche Hürden: Komplexität und Offenheit des bestehenden rechtlichen Rahmens für den Einsatz agentischer KI
  • Abhängigkeiten von Dritten: Komplexitätserhöhende Datenaustausch- und Abstimmungsbedarfe, insbesondere mit anderen Behörden
  • Prozess- und Datenqualität: Qualität der vorhandenen Prozessdokumentation und benötigten Daten (Strukturiertheit, Vollständigkeit etc.)
  • Angemessenheit: Klärung, inwiefern agentische KI für die angestrebten Ziele notwendig ist oder ob eine einfache Automatisierung (zum Beispiel mit Hilfe deterministischer KI) genügen würde

Eine strukturierte Betrachtung aller laufenden und geplanten Use Cases für agentische KI („Use Case Portfoliomanagement“) ist essenziell, um den Agenteneinsatz in der Behörde im Kontext einer wachsenden Skalierung weiterhin strukturiert steuern zu können. Im Verlauf der zunehmenden Skalierung wird sich der Charakter des Use Case Portfoliomanagements zunehmend von der 1) reinen Entscheidung über neue Use Cases hin zu 2) einer integrierten Betrachtung von Bestandsportfolio und Optimierungsmöglichkeiten auf Basis neuer Use Cases wandeln.

• Portfolioboard als zentralen Entscheidungsort etablieren: Als zentrales Steuerungsgremium wird ein Portfolioboard eingesetzt. Den Vorsitz hat die Behördenleitung, weitere Mitglieder sind die Fachbereichsleitungen sowie die neu geschaffenen Rollen CAIO und CDO. Diese Besetzung stellt sicher, dass sowohl die technischen, als auch die fachlichen Implikationen der Use Cases ausreichend Berücksichtigung finden. Der Tagungsrhythmus sollte abhängig sein von der Zahl der geplanten bzw. bereits umgesetzten Use Cases (mindestens quartalsweise, maximal monatlich). Das Board hat die Entscheidungsgewalt über alle agentischen Portfolio-bezogenen Fragestellungen, insbesondere die Priorisierung und Ressourcenausstattung von Use Cases sowie Anpassungen am bestehenden Portfolio. Sollte in der Behörde bereits ein Portfolioboard oder vergleichbares Abstimmungsformat unter dem genannten Personenkreis bestehen, kann die Betrachtung der Use Cases für agentische KI in dessen Strukturen integriert werden.
• Prozesse konkretisieren: Die Abläufe von der Anmeldung eines Use Cases über die Entscheidung bis hin zum regelmäßigen Performance-Monitoring werden konkretisiert und festgelegt. Sie werden dokumentiert und an die gesamte Behörde kommuniziert. Dazu gehören unter anderem (nicht abschließend):
  • Standardisiertes Verfahren für die Anmeldung neuer Use Cases durch die Fachbereiche: Definition einheitlicher Mindestanforderungen für relevante Angaben (Entwicklung eines „Business Cases“ entlang der oben genannten Priorisierungskriterien) sowie der Form der Einreichung (via digitalem Tool)
  • Entscheidungszyklen und Fristen: Festlegung eines Tagungsrhythmus des Portfolioboards (z. B. quartalsweise) und Ableitung von Fristen (u. a. für die Einreichung neuer Anträge)
  • Kodifizierte Entscheidungsregeln: Abstimmung einer schlanken Geschäftsordnung des Portfolioboards, um effiziente Arbeitsfähigkeit zu gewährleisten
  • Performance-Monitoring: Einheitliche KPI-Logik, entlang derer die umsetzenden Fachbereiche Fortschritt und Zielerreichung ihrer Use Cases an das Portfoliomanagement berichten können. Nutzen und Aufwand werden hierbei laufend gegenüber einer Ausgangsbasis bewertet. Auch die tatsächliche Nutzung, notwendige menschliche Eingriffe und realisierte Effizienz- und Effektivitätsgewinne werden erfasst.
• Ressourcenorientierte Betrachtung etablieren: Die Portfoliosteuerung orientiert sich konsequent an den tatsächlich verfügbaren Ressourcen (personell, technisch, finanziell). Sie werden als entscheidender, limitierender Faktor anerkannt. Hierzu werden die vorhandenen Ressourcen systematisch den gemeldeten Bedarfen der Vorhaben gegenübergestellt. Umgesetzt wird nur, was auch realistisch abgeschlossen werden kann, um die Organisation nicht zu überfordern und keine losen Enden zu produzieren.

Bei fortgeschrittener Skalierung und Etablierung des Portfoliomanagements wird mit der Vorbereitung der vollständig agentischen Abbildung des Portfoliomanagements begonnen. Für die einzelnen Bausteine des Portfoliomanagements (u. a. Use Case Identifikation, Bewertung, Entscheidung, Monitoring) werden eigene agentische Use Cases konzipiert, mit Ressourcen ausgestattet und umgesetzt.

Die Behörde etabliert ein einheitliches Vorgehen zur Risikobewertung. Es ermöglicht eine einfache Vorprüfung für eine erste Einschätzung von rechtlichen Rahmen und Risiko und schließt bei Umsetzung des Use Cases eine vertiefte Prüfung an. Bewertungslogik, Kriterien und Schutzmaßnahmen werden auf Basis bereits durchgeführter Prüfungen dokumentiert und standardisiert. Fachressorts können auf bestehende Bewertungen zurückgreifen und sich an diesen orientieren.

Wiederverwendbare Agentenklassen mit jeweils definierten Handlungsspielräumen, Sicherheitsanforderungen und Governance-Vorgaben werden auf Basis der Erfahrungen und Erkenntnisse der MVO entwickelt. Für wiederkehrende Einsatztypen werden standardisierte Agentenmandate samt freigegebenen Konzepten (z. B. Datenschutzkonzept) zur Verfügung gestellt und fortlaufend gepflegt. Diese können von weiteren Fachressorts – nach Prüfung auf rechtliche und fachliche Übertragbarkeit – übernommen werden.

Wiederverwendbare Verfahren, Konzepte und Vorlagen für bspw. Datenschutz, Nutzungsbedingungen und Freigaben werden zentral für die Behörde entwickelt und zur Nachnutzung bereitgestellt. Der Prüfaufwand für weitere Agenten wird dadurch auf die anwendungsspezifischen Abweichungen konzentriert.

Die Behörde dokumentiert alle behördenintern eingesetzten Agenten mit Informationen zu Zweck, Agentenmandat, tatsächlichem Handlungsspielraum, Verantwortlichkeiten, Systemzugriffen, Schutzmaßnahmen und Freigabestatus und pflegt diese Daten fortlaufend. Außerdem trägt die Behörde die relevanten Informationen in das zentrale KI-Transparenzregister ein.

Rollen und Entscheidungswege für die wachsende Agentenlandschaft werden institutionalisiert. Der Chief AI Officer und der Chief Data Officer stellen die einheitliche Anwendung der Standards sicher. Sie entscheiden insbesondere über Abweichungen von bestehenden Agentenklassen und Mandaten.

Die Governance wird von der Betrachtung einzelner Arbeitsschritte auf zusammenhängende Prozesse erweitert. Für mehrere miteinander interagierende Agenten werden gemeinsame Verantwortlichkeiten, Schnittstellen, Übergaben und übergreifende Kontrollmechanismen definiert.

Erfahrungen aus Betrieb und Monitoring werden systematisch in die Weiterentwicklung von Modellen zu Risikobewertung, Agentenklassen, Guardrails und Freigabeverfahren überführt. Bewährte Muster werden als neue Standards für weitere Agenten verfügbar gemacht und mit anderen Behörden geteilt.

Technische und fachliche Leitplanken werden in einem wiederverwendbaren Modell hinterlegt und möglichst technisch durchsetzbar gemacht, beispielsweise über Policy-as-Code. Dadurch können definierte Grenzen für Datenzugriffe, Systemzugriffe und Aktionen konsistent auf mehrere Agenten übertragen werden.

Die Behörde führt automatisierte Sicherheits- und Stresstests insbesondere gegen Prompt-Injections, Prompt-Exfiltration und Re-Identifizierung vor der Inbetriebnahme und bei wesentlichen Änderungen von Agenten ein.

Die fortlaufende Steuerung, Überwachung und Marktbeobachtung wird durch das Portfolioboard sichergestellt. Dies überprüft regelmäßig Abhängigkeiten von Modellen, Anbietern und technischen Komponenten und ermöglicht bei Bedarf einen Wechsel oder die Anpassung der eingesetzten Lösungen.

Einheitliche SLA-, Support- und Eskalationsstandards für agentische Services werden definiert – einschließlich Verfügbarkeiten, Reaktionszeiten, Verantwortlichkeiten und Umgang mit Störungen oder Sicherheitsvorfällen.

Für Agenten werden einheitliche Monitoring und Alarmierungsstandards etabliert, die technisch erkennbare Ereignisse wie Systemfehler, Überschreitungen definierter Berechtigungen erfassen. Ergänzend werden risikobasierte Stichproben und fachliche Qualitätskontrollen technisch unterstützt durchgeführt, um auch solche Fehlentwicklungen zu erkennen, die sich technisch nicht unmittelbar als Sicherheitsvorfall erkennen lassen. Kennzahlen, Auffälligkeiten und Meldungen der Nutzenden werden hierfür zentral ausgewertet und bei Bedarf eskaliert.

Für Sicherheitsvorfälle wird ein behördenweiter Prozess mit einheitlichen Meldewegen, Zuständigkeiten und Reaktionszeiten etabliert.

Die Behörde informiert über das nationale KI-Transparenzregister darüber, in welchen Bereichen und für welchen Zweck agentische KI eingesetzt wird. Bürgerinnen und Bürger und Unternehmen können auf Anfrage eine Erklärung über die Rolle des KI-Systems im Entscheidungsverfahren erhalten. Diese Erklärung erfolgt grundsätzlich in Leichter Sprache, sofern dem nicht zwingende Gründe entgegen sprechen.

Die Behörde betreibt KI-Agenten, die unter Nutzung wiederverwendbarer Plattformbausteine im Rahmen des Deutschland-Stacks aufgebaut werden können. Dazu gehören auch ein Agenten-Harness, d.h. eine Laufzeitumgebung für agentische Workflows, eine Benutzeroberfläche und ergänzende Services. Der Harness erlaubt die Einbindung eigener Agenten-Workflows und kann diese ausführen. Da die sich aus den Bausteinen ergebende Agenten-Plattform als Open Source bzw. auf Basis gemeinsamer Standards und Schnittstellen bereitsteht, kann die Behörde sie nachnutzen und mit bestehenden Lösungen verbinden. Die Auswahl und Entwicklung der Plattform stützt sich auf die Erfahrungen aus der MVO-Stufe und erweitert die Unterstützung der Steuerungs-, Bereitstellungs- und Betriebsprozesse entsprechend der Anforderungen der Scaling Organisation-Stufe.

Fachbereiche können agentische Workflows ohne Programmierkenntnisse entwerfen und in den Harness einbinden. Die erstellten Workflows werden mit technischen Guardrails, die ihren Risikofaktor berücksichtigen, ausgestattet. Zusätzlich durchlaufen sie vor dem Deployment einen standardisierten Prozess einschließlich einer rollenbasierten Freigabe. Gegebenenfalls bietet die Tool-Factory Vorschläge für Sicherheitsmaßnahmen.

Die Behörde hat ein Netzwerk aus dezentralen Daten-Domänen eingerichtet, die über einheitliche Schnittstellen und Verträge verbunden sind.

Die Behörde kann auf ein Wissensmanagement-System von Vorschriften, Gesetzen und sonstigen Verwaltungstexten, die für Agenten aufbereitet werden, zugreifen. Ein möglicher Aufbau ist eine Vektordatenbank mit API-Zugriff und Metadaten-Katalog, die schnellen Zugriff auf rechtliche und regulatorische Informationen ermöglicht.

Durch die Zuordnung von Genehmigungsrechten zu spezifischen Rollen (bspw. AgentOps, Data Stewards, Service Owner) wird sichergestellt, dass jede Änderung an Agenten-Workflows von den richtigen Personen geprüft und genehmigt wird. Diese Kontrolle verbindet fachliche Expertise, rechtliche Anforderungen und technische Sicherheit, sodass Agenten verantwortungsbewusst und konform betrieben werden.

Zentrale Standards, Methoden und Guardrails werden bereitgestellt, während die Verantwortung für das Agenten-Design und die fachliche Entscheidungslogik dezentral bleiben. Der Ausbau erfolgt schrittweise auf Basis der Erfahrungen aus den Pilotbereichen.

Das in der MVO-Stufe etablierte Wissensmanagement wird um eine zentrale, technisch orientierte Anlaufstelle in Form eines Repositorys für erprobte Workflows oder einzelner Agenten-Komponenten ergänzt. Um auch einen behördenübergreifenden Austausch und eine Nachnutzung zu ermöglichen sowie ein gemeinsames Ökosystem von Agenten-Komponenten in der Verwaltung zu schaffen, wird ein Anschluss an übergreifende Infrastrukturen wie das KI-Transparenzregister und openCode etabliert.

Die Skalierbarkeit der initial etablierten Infrastruktur wird sichergestellt. Standards und Empfehlungen für den Einsatz spezifischer Modelle sind definiert, sodass die Behörde die Rechenleistung zuverlässig steuern kann.

Ein Logging- und Monitoring-Modul erfasst Resultate, Agenten-Spuren, Auslastung und Sicherheitsindikatoren. Es ist mit rollenbasierter Freigabe und einem Audit-Framework (als Teil der Agenten-Plattform) verknüpft, sodass jede Änderung, jeder Rollback und jeder Vorfall dokumentiert wird.

Die Behörde registriert den Agenten als eigenständigen Service-Account im zentralen IAM. Der Agent authentifiziert sich über Standardprotokolle wie beispielsweise OAuth 2.0 und OpenID Connect. Eine Policy-Engine prüft jeden Zugriff in Echtzeit anhand von Rollen und Attributen. So wirken Rollenänderungen sofort, und der Agent erhält nur die minimal nötigen Rechte. Handelt er im Auftrag einer Person, gehen seine Rechte nie über deren Berechtigungen hinaus. Das IAM-Audit-Log erfasst alle Authentifizierungs- und Autorisierungsereignisse lückenlos.

Falls aufgrund von mangelhafter Qualität der Agent schwerwiegende Probleme verursacht, ist es jederzeit möglich den Arbeitsprozess auch ohne Agenten durchzuführen. Es gibt ein durchgehendes Fallback-System sowie klare Bedingungen zum Umgang mit technischen Vorkommnissen.

In der Behörde werden schrittweise formelle Governance- und Betriebsrollen – dem fortschreitenden Rollout entsprechend – ausgebaut. Diese Rollenveränderung vollzieht sich in der Praxis häufig kontinuierlich und im laufenden Betrieb: Teams müssen ihre Arbeitsweise neu gestalten, während sie gleichzeitig das Tagesgeschäft weiterführen und mit stetiger Veränderung und Unsicherheit umgehen müssen.

• Zentrale Führung & Governance in der Behörde: Chief AI Officer (CAIO), Chief Data Officer (CDO), AgentOps-Leitung, Data Stewards und unabhängige KI-Auditorinnen und -Auditoren werden in der Behörde formell etabliert.
• Dezentrale Fachbereiche: Feste Service Owner werden flächendeckend in allen Fachbereichen verankert.

Die neue Arbeitsteilung zwischen Mensch und Agent wird auf Basis von Praxiserfahrungen, konkreten Ergebnissen, veränderten organisatorischen Anforderungen oder aktuellen technischen Entwicklungen regelmäßig überprüft und gezielt weiterentwickelt.

Die Behörde fördert aktiv regelmäßige Austauschformate zur fortlaufenden Identifikation und Entwicklung praxisnaher Anwendungsfälle, zum Teilen von Lerneffekten sowie zur Weiterentwicklung der bereits etablierten Lösungen. Hierbei kann auf bestehende, föderal und behördenübergreifend ausgerichtete Austauschformate zurückgegriffen werden. Behörden sollten abhängig von ihrer Größe und Zahl der Use Cases entscheiden, ob zusätzlich innerhalb der Behörde eigene, ggf. auch fachbezogene Peer-to-Peer-Netzwerke oder Communities of Practice etabliert werden sollen.

Nach der erfolgreichen Optimierung interner Verwaltungs- und Backend-Abläufe in der MVO, werden nun die direkten Schnittstellen zum Bürger neu strukturiert. Neue Rollen werden im Publikumsverkehr und an den digitalen/telefonischen Eingangskanälen verankert, um menschenzentrierte Bürgerberatung zu ermöglichen. Die Bürgerservice-Lotsinnen und -Lotsen sowie Fallnavigatorinnen und -navigatoren werden spezifisch für den persönlichen, empathischen Umgang mit Anliegen von Bürgerinnen und Bürgern geschult. Aufgrund ihrer kontinuierlichen Arbeit an der Bürger-Service-Schnittstelle ist es möglich, dass sie persönlich angefeindet werden oder mit psychisch belastenden Fällen konfrontiert werden. Um sie dabei zu unterstützen, hiermit umzugehen, sollte die Behörde ihnen optional psychologische Begleitangebote, Deeskalations-Schulungen sowie Supervisionen anbieten.

• Bürgerservice-Lotsinnen und -Lotsen: Die Behörde schafft spezialisierte Rollen für den qualifizierten Erstkontakt, die Anliegen auf Wunsch persönlich aufnehmen und „flaches“ Behördenwissen vermitteln.
• Fallnavigatorinnen und -navigatoren: Bürgerinnen und Bürgern werden bei komplexen, mehrstufigen und behördenübergreifenden Falllagen spezialisiert begleitet.

Die Führungsverantwortung verschiebt sich. Während die Behördenleitung die MVO-Piloten noch verhältnismäßig eng begleitete, nimmt sie nun vermehrt eine übergreifende Steuerungsrolle über alle Use Cases hinweg ein. Führungskräfte der Fachbereiche übernehmen dafür verstärkt die Verantwortung für die Use Cases in ihren Zuständigkeitsbereichen und berichten an die Behördenleitung (u. a. im Rahmen des Portfolioboards). Das AI Transformation Office unterstützt die Fachbereichsverantwortlichen hierbei.

Die Steuerung von Fachverfahren wird konsequent umgestellt: Weg von der Kontrolle einzelner Prozessschritte, hin zur Steuerung über Ergebnisse (Outcomes), unterstützt durch strategische Reviews. Führungskräfte konzentrieren sich primär auf die Gestaltung von Rahmenbedingungen, Risikoabwägungen und Freigabestrukturen. Sie überlassen den operativen Teams innerhalb dieser Leitplanken die Wahl des konkreten Lösungswegs.

Das anfängliche Schulungsprogramm für die ersten Pilotteams wird zu einer flächendeckenden Qualifizierungsoffensive für die gesamte Belegschaft ausgedehnt.

• Flächendeckende Online-Basisschulung ausrollen: Die Absolvierung einer digitalen Grundlagen- und Anwenderschulung für alle Beschäftigten während der regulären Arbeitszeit wird verpflichtend. Diese wird behördenübergreifend konzipiert, bereitgestellt und durchgeführt.
• Behörden- und fachspezifische Aufbaumodule anbieten: Die Behörde stellt gezielt vertiefende Aufbaumodule zur Vermittlung fortgeschrittener Anwendungs- und Steuerungskompetenzen bereit, die behördenspezifische Fragestellungen betreffen und dementsprechend nicht zentral bereitgestellt werden können. Diese werden durch die jeweilige behördeninterne Personal- bzw. Kompetenzentwicklung konzipiert und umgesetzt.
• Anforderungsprofile & Weiterbildungsangebote dynamisch anpassen: Die Erkenntnis aus den MVO-Pilotprojekten, dass Rollen und Kompetenzen im Wandel begriffen sind, wird als kontinuierlicher Anpassungszyklus verankert. Anforderungsprofile für bestehende und neue Rollen sowie die dazugehörigen Weiterbildungsangebote werden regelmäßig überprüft, angepasst und weiterentwickelt.
• Führungskräfte-Qualifizierung: Ein gezieltes Ausbildungsprogramm für Führungskräfte zur Vorbereitung auf ihre veränderte Rolle wird aufgesetzt.

Der zunehmenden Automatisierung im Skalierungsbetrieb wird gezielt entgegengewirkt, damit Beschäftigte ihre rechtliche Urteilskompetenz nicht verlieren und KI-Vorschläge nicht ungeprüft übernehmen (Automation Bias).

• Ergänzung der Verfeinerung von Steuerung und Ausnahmebearbeitung durch gezielte Ausbildungs-, Einarbeitungs- und Rotationspfade für Nachwuchskräfte und Bestandspersonal
• Durchführung regelmäßiger manueller Stichproben- und Rotationsprüfungen im laufenden Betrieb, um Fachwissensverlust, Kontrollgewöhnung und bloßem Formular-Abnicken (Rubber-Stamping) wirksam vorzubeugen

Führungskräfte haben die Möglichkeit Supervision, Coaching-Zirkel und kollegiale Fallberatungen in Anspruch zu nehmen. Dies ermöglicht ihnen, eigenen Überforderungsgefühlen vorzubeugen, Verunsicherungen abzubauen und als empathische Vorbilder Veränderungsängste in ihren Teams aufzufangen.

Die Behörde etabliert optionale Supervisions- und Begleitformate in allen abteilungsübergreifenden Rollouts. Beschäftigte kennen feste Ansprechpersonen und mögliche Coaching-Zeiten, um Praxiserfahrungen zu reflektieren und Belastungen abzufangen.

Eine Change-Toolbox stellt konkrete Hilfen zur Verfügung: Beispiele für angepasste Stellenbeschreibungen, rollenbezogene Lernpfade, Kommunikationsvorlagen und Feedbackformate. Unterschiedliche Tätigkeiten, Vorkenntnisse und Adoptionsgeschwindigkeiten werden berücksichtigt.

Aus den spezifischen Nutzungskonzepten und Sandboxes der MVO-Phase wird ein einheitlicher behördenweiter Standard für alle Fachbereiche abgeleitet.

Ein einheitliches, verständliches Benutzerhandbuch zur systematischen Konzeption, Risikoanalyse und Anlage von Use Cases als agentische Workflows wird bereitgestellt.

Die Behörde standardisiert den Prozess von der ersten Use-Case-Idee über die Risiko-Einstufung bis hin zum geordneten Deployment auf der zentralen Plattform.

In der vollständig agentisch funktionierenden Behörde sind KI-Agenten in nahezu allen Prozessen der Behörde präsent. Das in der Scaling-Stufe noch auf agentische Use Cases reduzierte Portfoliomanagement geht deshalb in ein Gesamtportfoliomanagement für die Behörde über. Dadurch verschiebt sich auch die Betrachtungsweise: von 1) der Veränderung, die einzelne agentische Use Cases erreicht haben hin zu 2) der Frage, wie leistungsfähig eine Behörde in ihren unterschiedlichen Leistungsbereichen ist und wo Optimierungsmöglichkeiten bestehen.

Spezialisierte Monitoring-Agenten werten laufend die bestehenden Verfahren und Prozesse in der Behörde hinsichtlich ihrer Performance aus. Grundlage hierfür sind KPIs für die Qualitäts- und Effizienzbestimmung – z. B. Fehlerquoten, Bearbeitungszeiten, Widersprüche, Beschwerden oder Rückstaus von Fällen. Darüber hinaus können diese Monitoring-Agenten Änderungen an den Rahmenbedingungen erkennen, zum Beispiel Gesetzesänderungen oder Reduktionen der verfügbaren Haushaltsmittel. Daraus leiten die KI-Agenten Hinweise auf Verbesserungsbedarfe oder neue Anwendungsfelder ab.

Der Portfolio-Agent greift die Hinweise der Monitoring-Agenten auf und leitet daraus konkrete Use Case-Vorschläge ab. Diese konzipiert er inhaltlich entlang der Prüfkriterien für das Use Case-Portfolio (Wirkung, Ressourcenbedarfe, Rahmenbedingungen etc.) und stellt einen entsprechenden „Business Case“ auf.

Ein unabhängiger Prüf-Agent überprüft den Use Case-Vorschlag des Portfolio-Agenten und den dazugehörigen „Business Case“. Auch hier dienen die Prüfkriterien für das Use Case-Portfolio als Grundlage. Auftrag des Prüf-Agenten ist es, gezielt nach Schwächen zu suchen. Der Prüf-Agent bereitet seine Prüfergebnisse menschen- und maschinenlesbar auf und leitet sie an das Portfolioboard zur Entscheidung weiter.

Ein spezialisierter Portfolioboard-Agent analysiert die Ergebnisse von Portfolio- und Prüf-Agent und leitet daraus eine Empfehlung für oder gegen die Umsetzung ab. Auf Basis einer von der Behörde für ihren spezifischen Kontext zu definierenden Entscheidungsrechte-Matrix leitet er dann eine differenzierte Entscheidungsfindung entlang folgender Leitlinien ein:

• Kleine Optimierungen innerhalb validierter Grenzen (etwa Prompt-Tuning oder Routing) entscheiden die Agenten selbst. Der Produktivgang erfolgt stets über die kontrollierte Deployment-Pipeline.
• Wesentliche Änderungen bestehender Use Cases werden zur Entscheidung an die Fachverantwortlichen delegiert.
• Neue Use Cases mit direkter Interaktion mit Dritten (Bürgerinnen und Bürger, Unternehmen, andere Behörden, Verwaltungsmitarbeitende etc.) brauchen eine menschliche Entscheidung durch die Mitglieder des Portfolioboards.

Der CAIO etabliert eine regelmäßige strategische Review der Agentenlandschaft der Behörde, unterstützt durch entsprechende Analyse-Agenten. Die eingesetzten Agenten werden regelmäßig u. a. auf ihre Konformität mit den strategischen Zielen der Behörde, Risiken, Kosten, Abhängigkeiten, technologische Aktualität und Rechtsrahmen geprüft. Darauf aufbauend trifft der CAIO Entscheidungen über Ausbau, Anpassung, Konsolidierung oder Ablösung einzelner Agenten. Diese strategische Betrachtung ergänzt die Performance-orientierte Analyse, die die Monitoring-Agenten im Rahmen der Portfoliosteuerung durchführen.

Die Behörde schafft schnelle Entscheidungsmechanismen, mit denen technologische Entwicklungen kurzfristig bewertet und Entscheidungen über Einführung, Weiterentwicklung, Wechsel oder Ausstieg getroffen werden können. Die Anpassungs- und Reaktionsgeschwindigkeit der Behörde muss mit der Dynamik technologischer Entwicklungen und Sicherheitsanforderungen Schritt halten. Klare Vertretungsregelungen und eindeutige Entscheidungsbefugnisse sind dafür eine zentrale Voraussetzung.

Die automatisierte Weiterleitung und Aktualisierung behördeninterner Agentenregister an eine behördenübergreifende KI-Governance Instanz wird etabliert. Interne Wissensdatenbanken mit Fehlerbildern und Erkenntnissen werden an eine zentrale Wissensdatenbank bei der KI-Governance Instanz weitergeleitet. Behördenübergreifende Standards und Schnittstellen können entsprechend weiterentwickelt und nachnutzbar gemacht werden.

Behördenübergreifende Partnerschaften für APIs, Modelle, Anbieter und Datenzugriffe und agentische Komponenten werden etabliert. Diese werden gemeinsam weiterentwickelt – ähnlich dem EfA Prinzip. Erkenntnisse, Standards und technische Lösungen werden zwischen beteiligten Behörden geteilt.

Governance-Vorgaben, Modelle zur Risikobewertung, Agentenklassen und Guardrails werden regelmäßig an neue technologische Möglichkeiten, regulatorische Anforderungen und Erkenntnisse aus dem Betrieb angepasst.

Ein übergreifendes Monitoring der Agentenlandschaft wird anhand einheitlicher Risiko-, Betriebs- und Wirkungskennzahlen in einem Dashboard etabliert. KI-Auditorinnen und -Auditoren werden bei Auffälligkeiten automatisiert benachrichtigt. Bei kritischen Vorfällen erfolgt anhand eines vorgegebenen Plans eine stufenweise Eskalation. Entwicklungen und Auffälligkeiten werden aggregiert betrachtet, bei Bedarf werden Anpassungen von Standards, Agentenklassen oder Governance vorgenommen (als Teil der Agenten-Plattform).

Abhängigkeiten von einzelnen Anbietern, Modellen und Plattformen werden systematisch überwacht. Weiterhin werden technische sowie organisatorische Voraussetzungen für mögliche Anbieter-, Modell- oder Plattformwechsel geschaffen.

Eine gemeinsame Plattform stellt einheitliche Bausteine für KI-Agenten bereit und bildet damit eine Querschnittsschicht im Deutschland-Stack. Technisch umfasst sie ein zentrales API-Gateway, eine behördenübergreifende Workflow-Engine, standardisierte Daten- und Modellkataloge sowie vorgefertigte Guardrails. Ebenso wird den Behörden ein System zur Verwaltung, Monitoring und Steuerung ihrer Agenten (AgentOps) zur Verfügung gestellt. Hinzu kommen fachliche Bausteine für wiederkehrende Aufgaben wie Informationsbeschaffung, Antragsprüfung, Kommunikation und Bescheiderstellung. Behörden kombinieren diese Bausteine nach Bedarf, ohne eigene Infrastruktur aufzubauen. Das entlastet sie und vermeidet parallele Eigenentwicklungen.

Alle grundsätzlich geeigneten Verfahren werden so konzipiert, dass sie in agentischen Workflows umgesetzt werden können. Die Workflow-Engine verbindet Eingangs- und Ausgangsdaten, definiert Rollen- und Rechte-Regeln und steuert die Agenten automatisch.

Eine automatisierte Deployment-Pipeline setzt Modell-Updates, Prompt-Änderungen und Prozessanpassungen kontrolliert um. Sie versioniert jede Änderung und testet sie vor der Freigabe gegen definierte Evaluationsdatensätze. Nach einem festgelegten Review gehen nur geprüfte Änderungen in Produktion. Bei Qualitätsproblemen setzt ein Rollback das System auf die letzte stabile Version zurück.

Zero-Trust-Sicherheit garantiert Authentifizierung und Autorisierung auf allen Ebenen. Ein Notfall-Wiederherstellungsplan definiert automatisierte Ausfallsicherungsmechanismen und regelmäßige Backups, sodass die Agenten nach Ausfällen sofort weiterlaufen. Darüber hinaus wird die Integrität der Agenten überwacht und insbesondere auf mögliche Prompt-Injections und weitere KI-spezifische Angriffsvektoren geprüft.

Eine Richtlinien-Engine setzt die von der CAIO definierten Guardrails durch und prüft jede Agenten-Interaktion auf Regelkonformität. Ein automatisiertes Rechts- und Risiko-Assessment-Tool führt bei jedem neuen Use-Case eine rechtliche Prüfung durch und gibt eine Risikobewertung aus. Alle Ergebnisse werden im Audit-Framework protokolliert, sodass die Nachvollziehbarkeit jederzeit gewährleistet ist.

Die Daten-Herkunftserfassung verfolgt den Fluss aller Registerdaten von der Quelle bis zur Agentenausgabe. Die Zugriffsstruktur ist so beschaffen, dass Agenten nur auf diejenigen Daten Zugriff erhalten, die für ihren Arbeitsprozess erforderlich sind. Statt einer nachträglichen Maskierung von Daten werden von vornherein nur Datensätze und -felder basierend auf einem Rechtesystem bereitgestellt, die den Datenschutzanforderungen genügen. Das Ganze basiert auf einem systematischen Least-Privilege-Ansatz. Ein agentischer Workflow darf nur diejenigen Rechte erhalten, die für den Arbeitsprozess unbedingt notwendig sind.

Ein kombiniertes KPI-Dashboard zeigt Performance, Qualität, Kosten und Compliance in Echtzeit. Die Dashboard-Daten werden automatisch an die KI-Auditorinnen und -Auditoren und die Führungsebene weitergeleitet, um schnelle Entscheidungen zu ermöglichen.

Ein Monitoring-Dashboard zeigt den Sachbearbeitenden Agenten-Ergebnisse, Konfidenzwerte und Begründungen. Ein Erklärungs-Modul liefert zu jeder Entscheidung ein nachvollziehbares Argument und macht potenzielle Unzulänglichkeiten, wie etwa Bias-Risiken früh sichtbar. Das System leitet Fälle, die anhand der konsolidierten KPIs, die die Beurteilung der Agenten im Rahmen der AgentOps steuern, Probleme verursachen oder aber qualitative Mängel aufweisen, automatisch zur Ausnahmebearbeitung weiter. Über ein strukturiertes Override-Interface korrigieren Sachbearbeitende Ergebnisse, und das System speichert jede Übersteuerung revisionssicher mit Begründung.

Zu den Plattformbausteinen für den Betrieb der Agenten, d. h. der Agenten-Plattform, gehören auch Systeme zur Überwachung des Agentenverhaltens. Bei Auffälligkeiten werden strukturierte Eskalationsspiralen getriggert, bei denen insbesondere am Anfang semi-automatische Kontrollen der Prompts, Regeln und Pipeline-Mechaniken ergriffen werden.

Ein Kosten-Dashboard erfasst GPU-, Infrastruktur- und Lizenzkosten in Echtzeit und ordnet sie einzelnen Use-Cases zu. Bei Überschreitung definierter Budgetgrenzen warnt das System automatisch, sodass die Behörde Ressourcen rechtzeitig anpassen kann.

Sachbearbeitende verlagern ihre Tätigkeit von manueller Fallbearbeitung hin zu fachlicher Steuerung, Qualitätskontrolle (Human-on-the-Loop) und Ausnahmebearbeitung.

Korrigiert ein Sachbearbeiter ein KI-Ergebnis (Menschliche Übersteuerungen = Overrides), wird diese Abweichung strukturiert dokumentiert. Das so erfasste Praxiswissen fließt als Feedback in die kontrollierte Weiterentwicklung der KI-Systeme.

Die Governance-Rollen (CAIO, CDO, AgentOps, Data Stewards, Service Owner, KI-Auditorinnen und -Auditoren) werden im regulären Organisationsplan dauerhaft verankert. Bürgerservice-Lotsinnen und -Lotsen und Fallnavigatorinnen und -navigatoren werden an der Bürger-Service-Schnittstelle flächendeckend eingesetzt. Die psychologische Supervision und Begleitung von Personal an der Bürger-Service-Schnittstelle (Lotsen/Navigatoren) ist als optionale, bedarfsspezifische Schutzmaßnahme verankert.

Freiwerdende Personalressourcen werden gezielt in andere Aufgaben wie Bürgerberatung, Einzelfallprüfung eingegangener Widersprüche und die Pflege der Fachlogik umgewidmet.

Anforderungsprofile und Stellenbeschreibungen werden kontinuierlich an steigende Agentic Levels angepasst.

Die Führung erfolgt über Zielparameter, Rahmenbedingungen und Guardrails anstelle von Schrittkontrollen. Sie wird gestützt durch automatisierte KPI-Dashboards zur Messung von Verfahrensdauer, Zufriedenheit und Fehlerquoten.

Teams passen Arbeitsabläufe in Mensch-Agenten-Teams eigenverantwortlich an, während Praxiserfahrungen über systematische Feedbackkanäle direkt in die Nachjustierung zentraler Prompts und Systemanweisungen einfließen.

Führungskräfte gewähren operative Entscheidungsfreiheit innerhalb klarer Risikoklassen, fördern aktives Handeln und fokussieren sich als „Befähiger“ auf Ressourcensicherung, Blockadenbeseitigung und Vertrauensaufbau.

Fachverfahren werden zu integrierten, behördenübergreifenden Prozessketten (Cross-Agency Workflows) umgestaltet und nutzen einheitliche Kommunikationsprotokolle für den nahtlosen Datenaustausch.

Der Leistungsvollzug wird von rein reaktiver Antragsbearbeitung auf die automatische Auslösung von Verwaltungsleistungen bei Eintritt definierter Lebensereignisse umgestellt.

Zentrale, wiederverwendbare Bausteine (z. B. RAG-Abfragen, Vorprüfungen, Bescheidentwürfe) werden verbindlich genutzt. Hierbei wird die behördenweite Standard-Plattform genutzt – bei dezentraler Verantwortung für die inhaltlich-rechtliche Logik.

Sämtliche digitale Zugangskanäle (Serviceportale, Apps, Bürgerkonten) werden auf hohe Antragszahlen ausgelegt, gekoppelt mit einer automatischen Eingangssortierung. Eingehende Anliegen werden nach Risiko, Dringlichkeit und Komplexität klassifiziert und sofort in die passenden Bearbeitungspfade (Fast Lane für Standardfälle vs. vertiefte Prüfung bei Risikofällen) gesteuert.

Technische Schutzfilter gegen automatisierte Bot-Angriffe, Formular-Spam und gezielte Serverüberlastungen (z. B. DDoS-Attacken oder massenhafte Fake-Anträge) werden implementiert. So sollen die digitalen Eingangsportale und KI-Kapazitäten auch bei extremen Zugriffszahlen stabil und erreichbar bleiben.