KI-Agenten evaluieren: Ergebnis, Arbeitsweg und menschlichen Aufwand gemeinsam prüfen

Prüfe einen KI-Agenten als vollständigen Arbeitsablauf: Was kommt am Ende heraus, welche Aktionen führt er aus und wie viel menschliche Unterstützung benötigt er? Eine richtige Abschlussantwort reicht nicht, wenn der Agent unterwegs unzulässige Daten verwendet, unnötige Änderungen ausführt oder seinen Kostenrahmen überschreitet.

Für Unternehmen ist das eine praktische Abnahmefrage. Ein Agent bearbeitet häufig mehrere Schritte mit verschiedenen Werkzeugen. Ein einzelner Texttest bildet diesen Einsatz nur teilweise ab. Der Prüfplan muss deshalb den tatsächlichen Auftrag und die Umgebung enthalten, in der das System später arbeitet.

Ich empfehle, die Evaluation vor dem ersten grösseren Pilot festzulegen. Damit steht bereits vor den Ergebnissen fest, was als Erfolg zählt und welche Fehler eine Freigabe verhindern. Dieser Artikel entwickelt dafür ein eigenes Raster für Teams. Es ist kein zertifiziertes Prüfverfahren und ersetzt keine Prüfung zusätzlicher Anforderungen des konkreten Einsatzes.

Was die Forschungsübersicht beiträgt

Felix Chen und Mitautoren ordnen in "Emerging Trends in AI Agent Evaluation" 33 Themen zu Methoden, Untersuchungsgegenständen und Evaluationsinfrastruktur. Die Autoren betrachten das System aus Modell, Ausführungsrahmen, Werkzeugen und Umgebung. Sie unterscheiden die Bewertung des Arbeitsverlaufs von der Bewertung des Endzustands und weisen auf unterschiedliche Evidenzebenen hin: Fähigkeiten, Mensch-Agent-Interaktion und weitergehende Auswirkungen.

Quelle: Original-Projektseite der Forschungsgruppe bei Princeton. Die Auswahl der Themen ist laut Autoren bewusst perspektivisch und nicht vollständig. Es handelt sich um eine Forschungsübersicht mit Positionen und offenen Fragen, nicht um eine neue kausale Feldstudie.

Die Projektseite mit den ausgeführten Themen war lesbar; der direkt verlinkte PDF-Abruf war in dieser Recherche gesperrt. Die folgende Anleitung stützt sich auf die zugängliche Projektseite und eigene redaktionelle Überlegungen. Sie behauptet keine vollständige Prüfung des PDF-Volltexts.

Formuliere die Entscheidung vor der Messung

Eine Evaluation braucht eine Entscheidung, die von ihrem Ergebnis abhängt. "Wir wollen wissen, wie gut der Agent ist" ist dafür zu breit. Ein konkreter Auftrag lautet: "Wir entscheiden, ob der Agent interne Serviceanfragen auf Basis freigegebener Handbücher zur menschlichen Abnahme vorbereiten darf."

Daraus folgen der erlaubte Umfang und die ausgeschlossenen Aktionen. Der Agent darf Informationen suchen und einen Entwurf erstellen. Er darf keine ungeprüfte Antwort versenden, keine Berechtigungen ändern und keine fehlende Angabe erfinden. Die Testfälle müssen diese Grenzen sichtbar machen.

Lege ausserdem fest, welche Alternative verglichen wird. Das ist beispielsweise der heutige manuelle Ablauf mit denselben Quellen. Ein Vergleich mit einer absichtlich schlecht ausgestatteten Person sagt wenig über den tatsächlichen Nutzen. Beide Wege müssen Zugang zu den für ihre Aufgabe erlaubten Informationen haben.

Beschreibe Erfolg am gespeicherten Ergebnis

Ein Agent kann erklären, dass er eine Aufgabe abgeschlossen hat, während das Zielsystem unverändert bleibt. Definiere deshalb den erforderlichen Endzustand. Bei einer vorbereiteten Antwort ist es eine gespeicherte, prüfbare Fassung mit Quellen. Bei einer erlaubten Ticketänderung ist es der zurückgelesene Status des richtigen Tickets.

Die Abnahme muss zum Auftrag passen. Wenn ein Versand ausdrücklich ausgeschlossen ist, zählt ein erfolgreich versendeter Text als Grenzverletzung, selbst wenn sein Inhalt stimmt. Wenn eine Information fehlt, kann eine präzise Rückfrage das richtige Ergebnis sein. Eine vollständig ausgefüllte Antwort ist dann möglicherweise falsch.

Schreibe zu jedem Testfall eine Erwartung, bevor der Agent läuft. Diese Erwartung enthält die notwendigen fachlichen Punkte und die verbotenen Aktionen. Sie darf nach dem Lauf nicht still an das erzielte Ergebnis angepasst werden. Ein fehlerhafter Testfall lässt sich korrigieren, aber die Änderung muss dokumentiert und der Fall erneut geprüft werden.

Baue einen Fallbestand mit unterschiedlichen Schwierigkeiten

Beginne mit typischen erlaubten Vorgängen. Ergänze Fälle mit fehlenden Angaben, widersprüchlichen Quellen und einer nicht freigegebenen Aktion. Nimm technische Fehler hinzu, die in Deiner Umgebung relevant sind. Ein ausschliesslich aus Normalfällen bestehender Testbestand zeigt keine verlässlichen Einsatzgrenzen.

Diese Fallarten sind ein Vorschlag. Die Mischung muss aus Deinem Prozess kommen. Wenn im Alltag mehrere Sprachversionen oder stark unterschiedliche Dokumente vorkommen, gehören sie in den Bestand. Ein gutes Ergebnis mit einer einzigen sauberen PDF-Datei lässt sich nicht auf die gesamte Ablage übertragen.

Trenne Entwicklungsfälle von zurückgehaltenen Abnahmefällen. Wenn das Team den Agenten nach jedem bekannten Fall verbessert, zeigt derselbe Fall später vor allem Anpassung an den Test. Neue Abnahmefälle prüfen, ob die Arbeitsweise auch auf unbekanntes Material übertragbar ist.

Bewerte Ergebnis und Grenzverletzung getrennt

Ich empfehle getrennte Kriterien statt einer einzigen Durchschnittsnote. Eine gute Formulierung darf eine unzulässige Aktion nicht rechnerisch ausgleichen. Die fachliche Richtigkeit und die Einhaltung des erlaubten Umfangs sind unterschiedliche Fragen und brauchen separate Ergebnisse.

Ein mögliches Schema enthält: fachlich korrekt, Quellen passend, offene Angaben erkannt, erlaubter Umfang eingehalten und Zielzustand bestätigt. Jedes Kriterium erhält bestanden, nicht bestanden oder nicht prüfbar. Der Status nicht prüfbar bleibt sichtbar; er wird nicht automatisch als bestanden gezählt.

Vor dem Test legt die verantwortliche Person fest, welche Fehler einen Einsatz ausschliessen. Bei einem Assistenten ohne Versandfreigabe ist ein tatsächlicher Versand ein harter Fehler. Bei einer internen Ideensammlung gelten andere Fehlerfolgen. Die Kriterien hängen vom Einsatz ab, nicht von einer pauschalen Qualitätszahl.

Ein fiktives Ergebnis richtig lesen

Ein Team prüft 20 Fälle. Die Zahl ist frei gewählt. In 15 Fällen ist die erste Ausgabe fachlich korrekt. Drei weitere Fälle werden nach menschlichem Hinweis korrekt. Zwei bleiben ungelöst. Von den 18 am Ende brauchbaren Ergebnissen enthält eines eine nicht erlaubte Nebenaktion.

Die reine Endergebnisquote beträgt 18 von 20, also 90 Prozent. Die Quote korrekter Erstausgaben beträgt 15 von 20, also 75 Prozent. Die Zahl vollständig brauchbarer Ergebnisse ohne die genannte Grenzverletzung beträgt 17 von 20, also 85 Prozent. Diese Kennzahlen beantworten unterschiedliche Fragen.

Der Mensch musste zudem in drei Fällen korrigierend eingreifen. Dieser Aufwand gehört in den Vergleich. Aus dem Beispiel folgt keine statistisch abgesicherte Erfolgsquote für zukünftige Aufgaben. Die kleine Fallzahl liefert konkrete Befunde und Hinweise auf offene Grenzen. Für eine weitergehende Aussage braucht es einen passenden Untersuchungsplan.

Die einzelne Grenzverletzung darf nicht hinter der 90-Prozent-Zahl verschwinden. Wenn sie gegen ein vorher festgelegtes Ausschlusskriterium verstösst, ist die Freigabe offen. Das Team behebt die Ursache und prüft betroffene sowie neue Fälle erneut.

Zeichne den Arbeitsweg in ausreichender Tiefe auf

Der Arbeitsweg erklärt, wie ein Ergebnis zustande gekommen ist. Er umfasst verwendete Quellen, Werkzeugaufrufe, Wiederholungen und menschliche Eingriffe. Speichere dafür nur die erlaubten Informationen, die zur Nachprüfung nötig sind. Eine Laufkennung verbindet die Einzelereignisse.

Besonders relevant sind unerwartete Schritte. Hat der Agent eine nicht benötigte Quelle geöffnet? Hat er nach einem Fehler dieselbe Aktion mehrfach ausgeführt? Hat er eine offene Frage still als beantwortet behandelt? Diese Beobachtungen helfen, die Fehlerursache einzugrenzen.

Ein langer Arbeitsweg ist nicht automatisch schlecht. Eine schwierige Aufgabe kann zusätzliche Prüfung brauchen. Umgekehrt ist ein kurzer Weg nicht automatisch effizient, wenn dabei eine notwendige Kontrolle entfällt. Beurteile die Schritte anhand des Auftrags und der Fehlerfolgen. Der Beitrag zur Agentenüberwachung erklärt die dafür benötigten Nachweise.

Rechne mit der vollständigen menschlichen Unterstützung

Erfasse, wann eine Person den Agenten unterstützen muss. Dazu zählen Rückfragen beantworten, Quellen nachliefern, Fehler erläutern und Ergebnisse kontrollieren. Ein Test mit ständigem Experteneingriff misst einen unterstützten Ablauf. Er darf nicht als autonomer Erfolg beschrieben werden.

Für den Vergleich mit dem bisherigen Verfahren gehören Einrichtung und laufende Bearbeitung getrennt in die Rechnung. Einmaliger Aufbau kann sich über viele Vorgänge verteilen, aber die angenommene Wiederholungszahl muss plausibel begründet sein. Fehlversuche und manuelle Restarbeit bleiben enthalten.

Miss ausserdem die Zeit bis zum nutzbaren Ergebnis. Ein Agent mit geringer aktiver Arbeitszeit kann lange auf Prüfung warten. Die Planung der Review-Kapazität zeigt, wie aus schnellen Ausgaben trotzdem ein langsamer Gesamtprozess entsteht.

Prüfe auch den automatischen Bewerter

Ein automatischer Bewerter benötigt einen eigenen Test. Wenn er die gleiche unbelegte Annahme wie der Agent übernimmt, bestätigt er möglicherweise den Fehler. Nutze deshalb bekannte Fehlerfälle und fachlich geprüfte Referenzen, um seine Urteile zu kontrollieren.

Bei Texten empfiehlt sich eine klare Bewertungsanweisung mit konkreten Kriterien. "Ist diese Antwort gut?" vermischt Stil, Vollständigkeit und Richtigkeit. Besser ist die getrennte Prüfung: Ist jede Terminzusage belegt? Sind fehlende Angaben sichtbar? Enthält die Antwort eine nicht beauftragte Handlung?

Dagegen spricht der zusätzliche Aufwand für Referenzfälle und menschliche Bewertung. Bei wenigen Vorgängen ist eine vollständige manuelle Abnahme möglicherweise wirtschaftlicher. Automatische Bewertung lohnt sich erst, wenn ihr ihren Nutzen und ihre Fehler im eigenen Fall verstanden habt. Ein zweites Modell allein macht die Prüfung nicht unabhängig von gemeinsamen Informationslücken.

Dokumentiere Versionen und wiederhole gezielt

Zu jedem Prüflauf gehören Modellversion, Arbeitsanweisung, Werkzeugkonfiguration und Quellenstand, soweit diese Angaben verfügbar sind. Wenn ein Anbieter eine Version nicht offenlegt, kennzeichne die Lücke. Ohne diese Informationen lässt sich ein späterer Unterschied nur begrenzt erklären.

Nach einer relevanten Änderung laufen die betroffenen Fälle erneut. Ein neues Werkzeug braucht Tests seiner Aktionen und Fehlerzustände. Eine neue Quellenstruktur braucht Tests der Suche und Zuordnung. Ergänze einen unveränderten Vergleichsbestand, damit Verbesserungen an einer Stelle keine Verschlechterungen an anderer Stelle verdecken.

Wiederholungen müssen den Zweck erfüllen. Für eine einzelne reversible Textkorrektur ist kein umfangreicher Belastungstest nötig. Für einen wiederkehrenden Ablauf mit Schreibrechten reicht ein einmaliger erfolgreicher Demonstrationslauf nicht. Der Prüfaufwand folgt der möglichen Wirkung und den bekannten Unsicherheiten.

Die Freigabe benennt einen konkreten Einsatzbereich

Am Ende steht keine allgemeine Aussage "Der Agent funktioniert". Eine verwendbare Freigabe benennt Aufgabe, Quellen, erlaubte Aktionen, notwendige menschliche Prüfung und bekannte Ausschlüsse. Sie verweist auf die geprüfte Fassung und den Testbestand. Offene Kriterien bleiben als offene Kriterien sichtbar.

Für die Einführung im Team ist diese Begrenzung hilfreich. Mitarbeiter wissen, welche Arbeit sie abgeben können und wann sie übernehmen müssen. Die Grundlagen zu KI-Agenten erklären die Einsatzentscheidung; dieser Prüfplan liefert die konkrete Abnahme für einen ausgewählten Ablauf.

Beginne mit einer Aufgabe, deren Ergebnis Deine Fachleute beurteilen können. Entscheide vor dem Lauf, welche Nachweise die Freigabe benötigt. Die spätere Erweiterung folgt aus neuen geprüften Fällen und einer bewusst erweiterten Zuständigkeit.

Quellenstand: 23. Oktober 2026. Zugänglich war die Original-Projektseite von Princeton; der PDF-Abruf war gesperrt. Prüfplan, Fallbeispiele und Rechnungen sind eigene redaktionelle Vorschläge und keine von den Autoren validierte Unternehmensmethode.