Steuerung und Verantwortung
Risikobewertung standardisieren und operationalisieren
Die Behörde etabliert ein einheitliches Vorgehen zur Risikobewertung. Es ermöglicht eine einfache Vorprüfung für eine erste Einschätzung von rechtlichen Rahmen und Risiko und schließt bei Umsetzung des eine vertiefte Prüfung an. Bewertungslogik, Kriterien und Schutzmaßnahmen werden auf Basis bereits durchgeführter Prüfungen dokumentiert und standardisiert. Fachressorts können auf bestehende Bewertungen zurückgreifen und sich an diesen orientieren.
Standardisierte Agentenklassen und Mandate etablieren
Wiederverwendbare Agentenklassen mit jeweils definierten , Sicherheitsanforderungen und Governance-Vorgaben werden auf Basis der Erfahrungen und Erkenntnisse der MVO entwickelt. Für wiederkehrende Einsatztypen werden standardisierte samt freigegebenen Konzepten (z. B. Datenschutzkonzept) zur Verfügung gestellt und fortlaufend gepflegt. Diese können von weiteren Fachressorts – nach Prüfung auf rechtliche und fachliche Übertragbarkeit – übernommen werden.
Standardisierte Freigabe- und Nutzungskonzepte etablieren
Wiederverwendbare Verfahren, Konzepte und Vorlagen für bspw. Datenschutz, Nutzungsbedingungen und Freigaben werden zentral für die Behörde entwickelt und zur Nachnutzung bereitgestellt. Der Prüfaufwand für weitere Agenten wird dadurch auf die anwendungsspezifischen Abweichungen konzentriert.
Agentenregister als Governance-Basis in der Behörde etablieren
Die Behörde dokumentiert alle behördenintern eingesetzten Agenten mit Informationen zu Zweck, , tatsächlichem , Verantwortlichkeiten, Systemzugriffen, Schutzmaßnahmen und Freigabestatus und pflegt diese Daten fortlaufend. Außerdem trägt die Behörde die relevanten Informationen in das zentrale ein.
Governance- und Freigabestrukturen skalieren
Rollen und Entscheidungswege für die wachsende Agentenlandschaft werden institutionalisiert. Der und der stellen die einheitliche Anwendung der Standards sicher. Sie entscheiden insbesondere über Abweichungen von bestehenden Agentenklassen und Mandaten.
Prozessweite Agentensteuerung ermöglichen
Die Governance wird von der Betrachtung einzelner Arbeitsschritte auf zusammenhängende Prozesse erweitert. Für mehrere miteinander interagierende Agenten werden gemeinsame Verantwortlichkeiten, , Übergaben und übergreifende Kontrollmechanismen definiert.
Standards kontinuierlich weiterentwickeln
Erfahrungen aus Betrieb und werden systematisch in die Weiterentwicklung von Modellen zu Risikobewertung, Agentenklassen, und Freigabeverfahren überführt. Bewährte Muster werden als neue Standards für weitere Agenten verfügbar gemacht und mit anderen Behörden geteilt.
Sicherheit und Souveränität
Guardrail- und Policy-Modell als Standard etablieren
Technische und fachliche werden in einem wiederverwendbaren Modell hinterlegt und möglichst technisch durchsetzbar gemacht, beispielsweise über Policy-as-Code. Dadurch können definierte Grenzen für Datenzugriffe, Systemzugriffe und Aktionen konsistent auf mehrere Agenten übertragen werden.
Sicherheits- und Qualitätstest vor Inbetriebnahme und bei wesentlichen Änderungen
Die Behörde führt automatisierte Sicherheits- und Stresstests insbesondere gegen , Prompt-Exfiltration und Re-Identifizierung vor der Inbetriebnahme und bei wesentlichen Änderungen von Agenten ein.
Dauerhafte Governance und Souveränität
Die fortlaufende Steuerung, Überwachung und Marktbeobachtung wird durch das Portfolioboard sichergestellt. Dies überprüft regelmäßig Abhängigkeiten von Modellen, Anbietern und technischen Komponenten und ermöglicht bei Bedarf einen Wechsel oder die Anpassung der eingesetzten Lösungen.
Standardisierte Betriebs- und Servicevereinbarungen etablieren
Einheitliche SLA-, Support- und Eskalationsstandards für agentische Services werden definiert – einschließlich Verfügbarkeiten, Reaktionszeiten, Verantwortlichkeiten und Umgang mit Störungen oder Sicherheitsvorfällen.
Standardisierte Sicherheitsüberwachung
Für Agenten werden einheitliche und Alarmierungsstandards etabliert, die technisch erkennbare Ereignisse wie Systemfehler, Überschreitungen definierter Berechtigungen erfassen. Ergänzend werden risikobasierte Stichproben und fachliche Qualitätskontrollen technisch unterstützt durchgeführt, um auch solche Fehlentwicklungen zu erkennen, die sich technisch nicht unmittelbar als Sicherheitsvorfall erkennen lassen. Kennzahlen, Auffälligkeiten und Meldungen der Nutzenden werden hierfür zentral ausgewertet und bei Bedarf eskaliert.
Standardisiertes Incident Management
Für Sicherheitsvorfälle wird ein behördenweiter Prozess mit einheitlichen Meldewegen, Zuständigkeiten und Reaktionszeiten etabliert.
Nachvollziehbarkeit
Transparenz über die Nutzung von agentischer KI nach außen
Die Behörde informiert über das nationale KI-Transparenzregister darüber, in welchen Bereichen und für welchen Zweck agentische KI eingesetzt wird. Bürgerinnen und Bürger und Unternehmen können auf Anfrage eine Erklärung über die Rolle des KI-Systems im Entscheidungsverfahren erhalten. Diese Erklärung erfolgt grundsätzlich in Leichter Sprache, sofern dem nicht zwingende Gründe entgegen sprechen.