Tech Stack
Modellauswahl
Die Behörde greift auf bestehende (souveräne) LLM-Provider bzw. -Endpunkte zu (z. B. ). Dabei prüft sie die Datenverarbeitungsrichtlinien, Vertragsbedingungen und Haftungsfragen. Bei der Modellauswahl werden neben der Datensouveränität auch mögliche technologische Abhängigkeiten, die Austauschbarkeit der Modelle sowie die Möglichkeiten zur eigenständigen Nutzung und Anpassung berücksichtigt.
Agenten-Harness
Ein initialer bzw. bestehender (bspw. im Rahmen des ) wird vertestet. Dieser sollte wesentliche Elemente wie Agenten-Repository, ein Workflow-Management, Reporting/ und zur operativen Steuerung und dem Management des Agentenlebenszyklus (z. B. DevSecOps-Einbindung) enthalten. Der dient als Test- und Entwicklungsumgebung für die ersten . Decken die verfügbaren Agentenbausteine die Anforderung eines nicht ab, kann eine ergänzende Lösung beschafft oder entwickelt werden. Voraussetzung ist, dass sie die definierten Standards und erfüllt und sich in die Architektur des D-Stacks integrieren lässt.
Daten und Register
Datenaufbereitung
Für die ausgewählten werden die relevanten Daten soweit erforderlich bereinigt, standardisiert und in ein geeignetes Format (z. B. oder ) überführt. Ob das Agentensystem die Daten verlässlich nutzen kann, wird anhand repräsentativer Testfälle geprüft. Außerdem ist eine Nutzung von Testdaten für initiale zu berücksichtigen.
Beschaffung und Betrieb
IT-Infrastruktur
Die Behörde verfügt über oder beschafft eine grundständige IT-Infrastruktur, insbesondere Entwicklungs- und Betriebsumgebungen, die für die Umsetzung der agentischen genutzt werden kann. Dabei können die agentischen Workflows für Testzwecke in sicheren und entkoppelten betrieben werden – als Teil eines kontrollierten Prozesses von der Idee über die Pilotierung zur Produktion.
Operationalisierung erster Use-Cases
Der wird in einen Agenten-Workflow überführt, der in die Pilot-Umgebung integriert wird. Dazu werden die Prozessschritte (neu-)modelliert, die notwendigen konfiguriert und die (Zugriffsbeschränkungen, , ) eingerichtet. Anschließend wird der Workflow in einer Test- und Validierungsphase anhand der definierten geprüft und Ergebnisse dokumentiert, bevor er produktiv im Piloten eingesetzt wird.
KPI-basierte AgentOps
Im Rahmen eines Pilotbetriebs werden Kriterien und Maßzahlen entwickelt und festgelegt, die den Einsatz von Agenten bewerten, etwa anhand der Güte ihrer Arbeitsergebnisse, ihres Ressourcenverbrauchs etc. Besonders performante Agenten, d. h. Agentenpipelines, die etwa mit weniger Rechenressourcen auskommen oder qualitativ höherwertige Arbeitsergebnisse erzielen, können prioritär nachgenutzt werden (zunächst in der Behörde, später auch in anderen Behörden). Umgekehrt gibt es klare Kriterien, unter welchen Bedingungen Agenten ausgetauscht oder überarbeitet werden müssen.