Regeln
Nachvollziehen, was KI-Agenten getan haben
Das Ziel
- Beschäftigte können nachlesen, welche Schritte ein KI-Agent gemacht hat. Dadurch können sie verstehen, wie er zu einem Ergebnis gekommen ist.
- Bürgerinnen und Bürger erfahren immer, wenn ein KI-Agent mit ihnen spricht oder an ihrem Fall mitgearbeitet hat.
Ergebnisse verstehen
KI-Agenten erledigen Aufgaben, die aus mehreren Schritten bestehen. Am Ende einer Aufgabe liefern sie ein Ergebnis. Zum Beispiel empfehlen sie, einen Antrag zu bewilligen oder abzulehnen. Behörden sollen aufzeichnen, wie KI-Agenten zu ihren Ergebnissen kommen. So können Beschäftigte es nachlesen und verstehen.
Was Behörden aufzeichnen müssen
Behörden müssen für jeden KI-Agenten aufzeichnen, was er getan hat. Dazu kann gehören:
- Wie der KI-Agent begründet hat, was er getan hat.
- Welche Daten der KI-Agent benutzt hat.
- Welche anderen Programme der KI-Agent benutzt hat.
- Welches KI-Modell hinter dem KI-Agenten steht.
- Mit welchen anderen KI-Agenten der Agent zusammengearbeitet hat und wie.
Wie vollständig die Behörde diese Dinge aufzeichnet, hängt vom Risiko ab. Bei Aufgaben mit viel Risiko zeichnet sie mehr auf als bei Aufgaben mit wenig Risiko.
Aufzeichnen, woher die Daten stammen
Die Behörde zeichnet auf, welche Daten ein KI-Agent benutzt. Dafür hält sie fest, wo der KI-Agent die Daten gefunden hat und wann er sie abgerufen hat. So kann man die Daten später wiederfinden.
Zeigen, wenn KI beteiligt ist
Angenommen, die Behörde schickt jemandem eine Entscheidung. Dann muss die Behörde sagen, ob eine KI bei der Entscheidung mitgeholfen hat.
Angenommen, jemand spricht oder chattet mit einer Behörde. Dann muss die Behörde sagen, ob gerade ein Mensch oder ein KI-Agent antwortet.
Ihre Meinung
Strengere Regeln für KI als für Menschen
Es hängt vom Risiko ab, wie genau eine Behörde die Arbeit von KI-Agenten aufzeichnet. Bei Aufgaben mit wenig Risiko zeichnet sie weniger auf. Das spart Speicherplatz. Aber Fehler lassen sich später schwerer aufklären.
Wie stehen Sie dazu?
Wenn ein KI-Agent an einer wichtigen Entscheidung mitarbeitet, muss das System genau aufzeichnen: welche Daten und Programme er benutzt hat und wie er jeden Schritt begründet hat.
Vielen Dank für Ihr Feedback!
Mehr erfahren
Mehr über diese Ideen erfahren Sie in der vollständigen Fassung des Frameworks.
Hier können Sie weiterlesen:
Feedback geben
Das Framework ist ein erster Vorschlag. Ihr Feedback hilft dabei, ihn weiterzuentwickeln.
Hinweis
Ihr Feedback wird automatisch auf opencode.de veröffentlicht.
Vielen Dank für Ihr Feedback!
Das BMDS liest alle Rückmeldungen, kann aber nicht auf jede einzeln antworten.
Feedback auf openCode ansehenFeedback konnte nicht gesendet werden
Bitte versuchen Sie es später erneut.