Übergreifende Gelingensbedingungen

Das Framework definiert eine Reihe übergreifender Gelingensbedingungen, auf die einzelne Behörden nur sehr bedingt Einfluss nehmen können. Sie müssen deshalb behördenübergreifend sichergestellt werden.

Die Roadmap übersetzt diese übergreifenden Gelingensbedingungen in konkrete Schritte. Sie sind zwei Phasen zugeordnet, die jeweils angeben, wann mit einem Schritt begonnen wird.

Abbildung 14: Zuordnung der übergreifenden Gelingensbedingungen nach den jeweils einen Startpunkt bezeichnenden Phasen

Phase Jetzt starten bzw. fortsetzen und Grundlagen schaffen

Weiterentwicklung des rechtlichen Rahmens

Der bestehende Rechtsrahmen wird weiterentwickelt, um das Zielbild der agentischen Verwaltung zu erreichen. Das betrifft bspw. das Verfahrensrecht, die Fachgesetze und den Datenschutz – in diesen Bereichen müssen gesetzgeberische Anpassungsinitiativen angestoßen und umgesetzt werden.

• Normenscreening durchführen: Die allgemeinen Verfahrensordnungen sowie Fachgesetze werden auf Öffnungsklauseln für Automatisierung, Ermessensnormen sowie Form- und Verfahrensvorgaben geprüft. Ergebnis ist eine Normenlandkarte mit priorisiertem Anpassungsbedarf (hierzu laufen bereits entsprechende Arbeiten, u. a. mit Blick auf § 35a VwVfG).
• Datenschutzrechtliche Grundsatzfragen klären: Als Orientierungshilfe für Behörden wird eine einheitliche Einschätzung bereitgestellt, auf welche Rechtsgrundlagen sich die Datenverarbeitung durch KI-Agenten stützen kann und wann eine menschliche Beteiligung substanziell ist.
• Blaupausen erstellen: Vollständige rechtliche Prüfungen der typischen Anwendungsfälle entlang der Prozessarchetypen werden Behörden als Blaupausen bereitgestellt.
• Regulatorische Sandboxen nutzen: Es werden bestehende Sandbox-Instrumente (bspw. nach Art. 57 EU AI Act) umfassend genutzt (sie ersetzen jedoch nicht die erforderliche Rechtsgrundlage sowie die Freigabe für den produktiven Einsatz).

Übergreifende Governance und Standardsetzung

Es werden an Industriestandards angelehnte, verbindliche Standards für agentische KI festgelegt, deren Einhaltung sichergestellt wird. Sie gelten als Basis für neue Vorhaben, die ebenenübergreifend abgestimmt werden.

• Portfoliosteuerung etablieren: Eine föderal abgestimmte Übersicht laufender und geplanter Vorhaben zu agentischer KI im Rahmen des Marktplatzes für KI-Möglichkeiten (MaKI)1 unterstützt bei der Vermeidung von Doppelentwicklungen und der Nachnutzung von Lösungen.
• Standards entwickeln und Einhaltung überprüfbar machen: Die bestehenden und neuen Anforderungen werden in praktisch anwendbare Standards übersetzt, soweit möglich, beruhend auf bestehenden oder zukünftigen Industriestandards. Die Standards sind als automatisch prüfbare Regeln zugänglich („Governance as Code“).
• Zentrale Beratungsfunktion aufbauen: Eine Anlaufstelle für rechtliche und technische Fragen bündelt Erkenntnisse und macht sie für Behörden auf allen föderalen Ebenen als Blaupausen nutzbar.

Gemeinsame Plattformbausteine für KI-Agenten

Wiederverwendbare Plattformbausteine werden bereitgestellt, die Behörden für den Aufbau ihrer KI-Agenten nutzen können, statt eigene Infrastrukturen aufzubauen.

• Bausteinkatalog festlegen: Bestehende Dienste werden erfasst und Lücken identifiziert. Daraus entsteht eine Referenzarchitektur mit einheitlichen Schnittstellen, sodass Bausteine kombinierbar und austauschbar sind. Der Katalog benennt auch Verfügbarkeit, Betriebsverantwortung und Anschlussvoraussetzungen der jeweiligen Bausteine.
• Kernbausteine bereitstellen: Dienste, die jeder KI-Agent braucht, werden über den Deutschland-Stack angeboten (z. B. Modellzugang, Orchestrierung, Identitäts- und Berechtigungsmanagement, Monitoring). Darüber hinaus ermöglichen gemeinsame Standards und Schnittstellen mit Bezug zu agentischer KI, dass Interoperabilität zwischen bestehenden und neuen Lösungen im föderalen Kontext sowie von Technologieanbietern hergestellt werden kann.

Rollen, Kompetenzen und Dienstrecht

Neue Rollen und spezialisierte Laufbahnen werden ermöglicht. Gleichzeitig werden die Beschäftigten auf die Arbeit mit agentischer KI vorbereitet.

• Dienst- und Tarifrecht weiterentwickeln: Eine Prüfung und ggf. Anpassung des Laufbahnrechts und Entgeltordnungen erfolgt, sodass nachgewiesene Digitalkompetenzen neben formalen Abschlüssen den Einstieg in die Verwaltung leichter ermöglichen.
• Rollenprofile entwickeln: Für die zentralen Rollen im Einsatz von KI-Agenten entstehen übergreifende Profile, die auch als Grundlage für neue spezialisierte Laufbahnen dienen.
• Einsatz agentischer KI als Beurteilungskriterium ermöglichen: Der Erwerb und nachgewiesene Einsatz von Kompetenzen im Umgang mit agentischer KI kann von Behörden als Beurteilungskriterium für ihre Mitarbeitenden eingesetzt werden. Hierzu wird sichergestellt, dass die Rahmengesetzgebung (z. B. die Bundeslaufbahnverordnung im Bund) und die Beurteilungskriterien der Behörden dies ermöglichen.
• Zentrales Qualifizierungsangebot aufbauen: Grundlagenschulungen zu agentischer KI werden zentral soweit möglich über bestehende Fortbildungseinrichtungen bereitgestellt. Die Angebote stehen grundsätzlich Behörden aller föderalen Ebenen offen. Fachliche Schulungen zum Einsatz von KI-Agenten in konkreten behördenspezifischen Verwaltungsprozessen und Verfahren bleiben in der Verantwortung der Behörden.

Maschinenzugängliche Daten-, Register- und Wissensbasis

Verlässliche und maschinenlesbare Wissens- und Datenquellen, auf die sich agentisches Handeln stützen kann, werden geschaffen.

• An laufende Vorhaben anschließen: Agentische KI wird in der Registermodernisierung und der maschinenlesbaren Rechtsetzung umfassend berücksichtigt.
• Verbindliche Quellen festlegen und aktuell halten: Für jedes Fachgebiet wird ein Katalog autoritativer Quellen erstellt, jeweils mit einer verantwortlichen Stelle für die Aktualität. Änderungen im Rechtsstand werden versioniert und mit Gültigkeitszeitraum automatisiert in die Wissensbasis übernommen.

Phase Zeitnah angehen und Skalierung vorbereiten

Zentrales Agentenregister

Ein zentrales Register, das Transparenz darüber schafft, welche Agenten in der Verwaltung wofür und unter wessen Verantwortung eingesetzt werden, wird aufgebaut. Gleichzeitig bietet dieses Register eine Schnittstelle für eigene AgentOps Anwendungen oder zu einem Repository, um Agenten leicht nachnutzen zu können.

• Datenmodell und Prozess der Erfassung festlegen: Die Pflichtangaben je KI-Agent sowie der Erfassungsprozess werden definiert und erprobt. Das Ziel ist es, schlank zu starten und den Erfassungsprozess in den Prozess zur Inbetriebnahme zu integrieren.

Vertrauenswürdige KI-Agenten

Ein technischer Trust Layer aus Policy-Enforcement, Guardrails und Überwachung steht zur Verfügung. Zugleich existieren Systeme zur Ausweisung agentischer Workflows. Sie ermöglichen es, Workflows eindeutig zuzuordnen und ihr Mandat nachzuvollziehen. Damit ist eine vertrauenswürdige Grundlage für den Einsatz der Agenten geschaffen.

• Policies festlegen und Guardrails ermöglichen: Standardisierte Policies müssen erarbeitet werden, um sie via Policy-Enforcement in den Agent Harness zu integrieren. Dazu gehören etwa Vorgaben zur Reihenfolge von Werkzeugaufrufen (z. B. „keine Internetrecherche nach einem Registerabruf, um Datenabfluss zu vermeiden“) oder zu unzulässigen Parametern bei bestimmten Werkzeugaufrufen. Außerdem müssen technische Schnittstellen für Rechtemanagement und restriktive Berechtigungen geschaffen werden. Auf dieser Basis werden eine hinreichende Überwachung der Agenten sowie systematische Audits ihrer Arbeit und Arbeitsergebnisse möglich.
• Vertrauen schaffen: Identitäten, Mandate, Aufträge und Rechte von Agenten können standardisiert aus dem Agentenregister abgefragt werden. Ergebnisse von Agenten und deren Provenienz lassen sich über passende kryptografische Signaturen nachvollziehen.

Verantwortungs-, Haftungs- und Vertragsregeln

Verantwortung und Haftung zwischen Behörden, Plattformbetreibern und Technologieanbietern sind eindeutig geregelt und in übergreifend nutzbaren Musterverträgen verankert.

• Rollen- und Verantwortungsmodelle klären: Typische Konstellationen (z. B. KI-Agent innerhalb einer Behörde oder ein behördenübergreifender KI-Agent) werden geprüft und daraus Best Practices abgeleitet.
• Musterklausel für agentische KI entwickeln: Aufbauend auf der EVB-IT-Systematik entstehen Vertragstypen bzw. -bausteine, die die Spezifika agentischer KI berücksichtigen. Dazu gehören u. a. Haftung, Service Levels, Meldung von Sicherheitsvorfällen, Ankündigungsfristen bei Modelländerungen, Umgang mit Subunternehmern, Exit und Datenportabilität.

Anschlussfähigkeit und Integration in bestehende Systeme

Die IT-Landschaft wird so weiterentwickelt, dass agentische KI sicher und interoperabel in Fachverfahren, Register und Online-Dienste eingebunden werden kann.

• Schnittstellenstandard definieren: Ein gemeinsamer Standard für agentenfähige Schnittstellen, der Authentifizierung, Berechtigungen und Protokollierung regelt, wird festgelegt. Er knüpft an bestehende Standards (bspw. zu NOOTS) sowie etablierte Agentenprotokolle an.
• Agentenfähigkeit in Beschaffung, Support und Weiterentwicklung von IT verankern: Anforderungen zu Anschlussfähigkeit und Interoperabilität werden in Ausschreibungen und Verträgen mit Bezug zu öffentlicher IT aufgenommen, um die schrittweise und kontrollierte Öffnung der öffentlichen IT-Landschaft gegenüber agentischer KI zu erreichen.

Agentenfähige Organisationsregeln

Zuständigkeiten, Geschäftsverteilung und Zusammenarbeit zwischen Behörden werden so geregelt, dass agentisches Handeln ermöglicht wird und KI-Agenten jederzeit einer verantwortlichen Stelle zugeordnet werden können.

• Geschäftsordnungen prüfen und anpassen: Die Geschäftsordnungen von Bund und Ländern werden darauf geprüft, wie Zeichnung, Mitzeichnung, Beteiligung und Aktenführung beim Einsatz von KI-Agenten funktioniert. Die entwickelten Musteränderungen können föderal übernommen werden.
• Behördenübergreifende Zusammenarbeit mit KI-Agenten regeln: Für die Interaktion von KI-Agenten verschiedener Behörden werden einheitliche Regeln festgelegt. Sie bestimmen z. B., welche Anfragen zulässig sind und wie Berechtigungen nachgewiesen werden. Für gemeinsam genutzte Agenten legen Verwaltungsvereinbarungen fest, wer sie verantwortet und wer Änderungen oder Abschaltungen veranlassen darf.