Workflow Design für KI-Systeme — Best Practices für Mittelstand

Warum Workflow Design der entscheidende Erfolgsfaktor ist

Die meisten KI-Projekte scheitern nicht am Modell, nicht am Budget und nicht an der Technologie. Sie scheitern an der Struktur, in die das Modell eingebettet wird. Workflow Design beschreibt die Disziplin, KI-Komponenten so in Geschäftsprozesse einzubetten, dass sie zuverlässig, nachvollziehbar und skalierbar arbeiten.

Die 7 Prinzipien für robustes KI-Workflow-Design

Prinzip 1: EVA-Architektur

Jeder KI-Workflow hat drei klar getrennte Phasen: Eingabe (Daten validieren, normalisieren, anreichern), Verarbeitung (KI-Inferenz, Regellogik, Entscheidungen), Ausgabe (Ergebnisse formatieren, validieren, ausliefern). Jede Phase bekommt einen eigenen Step mit eigenem Error Handling.

Prinzip 2: Idempotenz

Ein idempotenter Workflow liefert bei wiederholter Ausführung dasselbe Ergebnis ohne Seiteneffekte zu duplizieren. Jeder Step bekommt eine eindeutige step_id, externe Aktionen prüfen vor Ausführung ob sie bereits erfolgt sind, Retry-Logik wird auf Step-Ebene implementiert.

Prinzip 3: Human-in-the-Loop

Drei HITL-Patterns: Approval Gate (Agent erstellt Output → Mensch prüft → Workflow fährt fort), Escalation Path (Agent erkennt niedrige Konfidenz → eskaliert), Feedback Loop (Korrekturen fließen als Trainingssignal zurück). Angebote über 10.000 EUR → Approval Gate. Darunter → automatischer Versand mit Stichproben-Review.

Prinzip 4: Modularität

Monolithische Mega-Workflows sind die schnellste Weg in die Wartungshölle. Faustregel: Kein Sub-Workflow über 15 Steps. Wenn morgen ein besseres Modell erscheint, tauschst du nur das Inferenz-Modul aus.

Prinzip 5: Fallback-Ketten

Primärmodell (GPT-4o) → Fallback-Modell (Claude 3.5) → Minimal-Modell → Human Escalation. KI-Extraktion → Regex-basierte Extraktion → Template-basierte Standardantwort. Automatische Verarbeitung → Human Escalation → Queue für später.

Prinzip 6: Observability

Minimum Viable Monitoring: Step-Latenz (p50, p95), Error Rate pro Step (Alert bei >5%), Confidence Score Durchschnitt (Alert bei <0.75), Human Escalation Rate (Alert bei >20%), Token-Verbrauch, End-to-End Durchlaufzeit.

Prinzip 7: Versionierung und Rollback

Jeder Prompt hat eine Versionsnummer. Modelle werden auf spezifische Versionen festgepinnt, nicht floating Tags. Neue Versionen laufen zunächst für 5-10% des Traffics (Canary Deployment).

5-Schichten-Modell

Orchestration Layer (n8n, Temporal, LangGraph, Prefect) — Workflow-Steuerung, Retry-Logik.

Intelligence Layer (OpenAI API, Anthropic, vLLM) — LLM-Inferenz, Prompt Management.

Data Layer (PostgreSQL, Redis, Pydantic) — Input-Validierung, Transformation, Caching.

Integration Layer (Make, Zapier, Custom APIs) — Anbindung an ERP, CRM, E-Mail.

Governance Layer (Langfuse, Grafana) — Logging, Monitoring, Compliance, Audit Trail.

Praxisbeispiel: Angebotsautomatisierung

Nach Redesign verarbeitet Thomas' System 120 Angebotsanfragen/Woche:

Ergebnisse nach 6 Monaten: Durchlaufzeit von 4,2 Stunden auf 23 Minuten (-91%), Fehlerquote von 12% auf 2,3% (-81%), Angebote von 45 auf 120/Woche (+167%), Personalaufwand von 2,5 auf 0,8 FTE (-68%), NPS von 34 auf 61 (+79%).

Tool-Empfehlung nach Reifegrad

Phase 1 (Pilot): n8n oder Make — schnell live, schnell lernen.

Phase 2 (Skalierung): LangGraph oder Prefect — mehr Kontrolle, bessere Testbarkeit.

Phase 3 (Mission-Critical): Temporal — Durable Execution, Compliance-ready.

DSGVO und EU AI Act

Datensparsamkeit: Nur die Daten an das LLM senden, die für den konkreten Task notwendig sind. PII vor der Inferenz maskieren.

EU AI Act (ab August 2026): KI-Workflows in HR, Kreditvergabe oder Sicherheitskontexten fallen unter "High Risk" und erfordern Konformitätsbewertung, menschliche Aufsicht und technische Dokumentation.