Agenten, die laufen4 Min. Lesezeit
Konfidenzschwelle und menschlicher Eingriffspfad
Eine Konfidenzschwelle ist die Sicherheit, unterhalb derer ein KI-Agent nicht handelt, sondern den Fall an einen Menschen übergibt. Oberhalb der Schwelle ordnet der Agent zu, leitet weiter, legt den Vorgang im Zielsystem an und protokolliert, warum. Unterhalb legt er keinen Vorgang an, übergibt den Fall mit seiner Begründung an eine benannte Person und protokolliert die Übergabe. Einen Zustand dazwischen gibt es nicht.
Der menschliche Eingriffspfad ist ein Mechanismus, keine Beruhigung
Drei Fragen muss er genau beantworten: Wann übergibt der Agent? An wen? Was erhält die Person? Wird eine davon mit „kommt darauf an“ beantwortet, gibt es keinen Eingriffspfad. Dann prüft entweder eine Person alles, was nichts spart, oder niemand etwas, was ein unbeaufsichtigter Agent mit beruhigendem Namen ist.
Wer die Schwelle festlegt
Die Schwelle wird mit dem Fachbereich vereinbart, der den Vorgang verantwortet, vor dem Start des Pilotbetriebs, und in dessen vier produktiven Wochen auf echtem Volumen eingestellt. Sie ist nie ein Herstellerstandard. Drei Größen bestimmen sie:
- Was eine falsche Zuordnung in diesem Vorgang kostet. Ein fehlgeleiteter Prospekt kostet eine Weiterleitung; ein fehlgeleitetes Fristschreiben mehr.
- Wie viele Fälle der Fachbereich täglich von Hand prüfen kann, ohne dass der Ablauf stockt.
- Welche Konfidenzverteilung der Agent in Woche zwei auf den echten Dokumenten des Fachbereichs zeigt.
Der richtige Wert ist der, den der Fachbereich gegenüber der Verwaltungsspitze oder der Geschäftsführung vertreten kann: ab dieser Sicherheit lassen wir den Agenten handeln, darunter schauen wir selbst, und das ist der Grund.
Zu hoch, zu niedrig, vertretbar
| Schwelle | Was der Fachbereich erlebt | Was das Entscheidungsprotokoll zeigt |
|---|---|---|
| Zu hoch | Die meisten Fälle landen auf einem Schreibtisch; der Agent spart wenig und wird nach einem Monat abgelehnt. | Übergabequote weit über der in der Prüfung gefundenen Fehlerquote. |
| Zu niedrig | Fast alles läuft automatisch; Fehler tauchen später als Beschwerden auf. | Fehlzuordnungen mit einer Konfidenz knapp über der Schwelle. |
| Vertretbar | Der Fachbereich prüft täglich einen planbaren Anteil; der Rest läuft. | Übergaben und Fehlzuordnungen selten und Fall für Fall erklärbar. |
Was die Person bei der Übergabe erhält
Eine Übergabe ist nur dann sinnvoll, wenn die Person schneller entscheiden kann als von Grund auf. Jeder übergebene Fall kommt mit denselben fünf Dingen an: dem Dokument, den vom Agenten erwogenen Klassen mit ihrer Konfidenz, der Klasse, die er gewählt hätte, der Regel oder dem Beispiel, auf dem das beruht, und einem Satz zum Grund des Zweifels. Die Person entscheidet, die Entscheidung wird ins Entscheidungsprotokoll geschrieben, und der Fall wird zum Beispiel für die nächste Korrektur.
Der Eingriffspfad schützt die Organisation
Nach einer falschen Zuordnung lautet die Frage nicht, ob der Agent geirrt hat, sondern was danach geschah. Mit einer Schwelle gibt es zwei mögliche Antworten: Der Agent war sicher und lag falsch, hier ist der Protokolleintrag und die Korrektur. Oder: Der Agent war unsicher, hat übergeben, ein Mensch hat entschieden. Beides ist gegenüber Verwaltungsspitze, Kämmerei oder Prüfung vertretbar. „Die KI hat entschieden“ ist es nicht.
Der Pfad führt auch in die andere Richtung: Eine benannte Person kann den Agenten jederzeit anhalten, korrigieren oder einen Fall übernehmen; das ist vor dem Go-live dokumentiert. Betrieb vollständig innerhalb der EU, verantwortet aus Düsseldorf. DSGVO-konforme Verarbeitung mit Auftragsverarbeitungsvertrag (AVV). Vollständiges Entscheidungsprotokoll als Nachweis für Prüfungen nach der KI-Verordnung. Ein definierter, dokumentierter menschlicher Eingriffspfad, jederzeit auslösbar.
Häufige Fragen
Wer legt die Konfidenzschwelle fest?
Der Fachbereich, der den Vorgang verantwortet, gemeinsam mit uns, vor dem Start des Pilotbetriebs. Wir bringen die Konfidenzverteilung aus Woche zwei mit, der Fachbereich die Kosten einer falschen Zuordnung und seine Prüfkapazität. Der Wert wird in den vier produktiven Wochen eingestellt und in der Betriebsvereinbarung festgehalten.
Prüft dann eine Person jeden Fall?
Nein. Eine Person entscheidet die Fälle unterhalb der Schwelle, ein kleiner und planbarer Anteil, sobald der Agent eingestellt ist. Alles zu prüfen ist kein Eingriffspfad, sondern Handarbeit mit einem zusätzlichen Schritt. Die Schwelle macht den geprüften Anteil ausdrücklich und vertretbar.
Kann eine Person den Agenten überstimmen, wenn er sicher war?
Ja, jederzeit. Der Eingriffspfad ist vor dem Go-live dokumentiert: Eine benannte Person kann den Agenten anhalten, eine Zuordnung korrigieren oder einen Fall übernehmen. Jeder Eingriff wird mit Wer, Wann und Warum protokolliert und fließt in die nächste Korrektur ein.
Was geschieht mit der Schwelle nach dem Pilotbetrieb?
Sie bleibt wie vereinbart, solange sich die Organisation nicht ändert. Eine neue Dokumentart, ein umbenannter Fachbereich oder ein Lieferant mit neuem Layout verschieben die Konfidenzverteilung; jede Anpassung ist eine protokollierte Korrektur und steht in der monatlichen Auswertung.
Der nächste Schritt
Wird ein wiederkehrender Eingang in Ihrer Organisation heute von Hand sortiert, lässt sich die Konfidenzschwelle dafür in der ersten Woche eines Pilotbetriebs vereinbaren: ein Vorgang, Festpreis vor dem Start, sieben Wochen, vier davon produktiver Betrieb auf echten Dokumenten. Erstgespräch anfragen. Was vor der KI da sein muss, steht in Digitale Poststelle: was vor der KI da sein muss.