KI-Strategie für Unternehmen: In sechs Schritten zur Roadmap

Eine KI-Strategie beantwortet drei Fragen: Welche Entscheidungen soll künstliche Intelligenz in deinem Unternehmen schneller oder besser machen, mit welchen Daten, Modellen und Regeln geschieht das, und woran erkennst du nach zwölf Monaten, dass es funktioniert hat. Alles andere, Tool-Listen, Lizenzen, Pilotprojekte, folgt aus diesen drei Antworten.

Dieser Artikel zeigt, wie du eine KI-Strategie für ein Unternehmen mit 20 bis 500 Mitarbeitern entwickelst: in sechs Schritten, mit einer Roadmap für zwölf Monate, ohne eigenes KI-Team. Er baut auf dem Guide KI für Unternehmen auf und verweist auf die Deep Dives zu Output-Design, Modellwahl, Governance und Erfolgsmessung.

Was eine KI-Strategie ist und was nicht

Wenn ein Geschäftsführer sagt "Wir wollen KI einsetzen", meint er meistens "Wir wollen bessere Entscheidungen treffen". Das Projektteam hört "Wir sollen ein Modell bauen". Genau in dieser Lücke scheitern die meisten KI-Vorhaben im Mittelstand: Am Ende steht ein Modell mit guter Accuracy und ein Dashboard, aber kein Vertriebsmitarbeiter ändert seine Route und kein Account Manager ruft den gefährdeten Kunden an.

Eine KI-Strategie entwickeln heißt deshalb nicht, eine Technologieliste zu schreiben. Es heißt, eine Prozess-Entscheidung zu treffen: Welche Entscheidungen werden heute zu langsam, zu spät oder auf zu dünner Basis getroffen, und wie ändert sich das systematisch. Das Modell ist austauschbar. Der Output-Contract (was kommt raus, für wen, in welchem Format, mit welcher Begründung) und die Quality Gates (wer prüft, was passiert bei Anomalien) sind es nicht.

Was eine KI-Strategie nicht ist: eine Einkaufsliste von Lizenzen, ein Innovationsprojekt ohne Owner, ein Dokument für die Schublade. Unternehmen, die Werkzeuge kaufen, ohne eine Regel für deren Einsatz in den Arbeitsprozessen zu haben, bezahlen Lizenzen, die ihr Potenzial nicht ausschöpfen. Das ist das KI-Kompetenz-Paradox: viele Lizenzen, keine Produktivität.

Warum die KI-Strategie im Mittelstand anders aussieht

Ein Konzern hat ein KI-Team, ein Budget für Plattformen und eine Rechtsabteilung, die den EU AI Act liest. Ein Unternehmen mit 80 Mitarbeitern hat einen techaffinen Kollegen, einen Geschäftsführer, der das Thema neben dem Tagesgeschäft treibt, und Kunden, die keine Fehler tolerieren. Die Strategie muss zu dieser Ausgangslage passen.

Was ein 50-Mann-Betrieb nicht braucht: eigene GPU-Server (außer bei hochsensiblen Daten), ein KI-Team mit fünf Leuten und Enterprise-Lizenzen großer Plattformen. Ein techaffiner Mitarbeiter plus externer Support reicht für den Start. Was er braucht: Klarheit über die Entscheidungen, die verbessert werden sollen, eine Ein-Seiten-Policy für Daten, ein Budget für sechs Monate und eine Kennzahl.

Die sechs Schritte unten sind deshalb bewusst schlank. Jeder Schritt hat ein Ergebnis, das auf eine Seite passt. Zusammen ergeben sie die KI-Strategie und die Roadmap für zwölf Monate.

Schritt 1: Entscheidungen statt Modelle

Der erste Schritt ist ein Satz pro Vorhaben: "Dieses System sorgt dafür, dass [Person] jeden [Zeitraum] die Entscheidung [X] besser treffen kann." Nicht "Wir wollen Muster in Daten erkennen", sondern "Wir wollen, dass der Vertrieb die 20 gefährdetsten Kunden jeden Montag priorisiert bearbeitet". Wenn du die Entscheidung nicht in einem Satz benennen kannst, fehlt der Business Case.

Praktisch sammelst du in einer Woche die Entscheidungen je Abteilung: Wo warten Leute auf Informationen, wo werden Dinge doppelt geprüft, wo entscheidet jemand aus dem Bauch, weil die Daten in fünf Systemen liegen. Identifiziere die drei zeitintensivsten Prozesse pro Abteilung. Das Ergebnis von Schritt 1 ist eine Liste von zehn bis zwanzig Entscheidungssätzen mit dem Namen der Person, die sie heute trifft.

Schritt 2: Use Cases nach Volumen, Aufwand und Risiko

Aus den Entscheidungssätzen werden Use Cases. Die Auswahllogik hat drei Kriterien: Höchstes Volumen (welcher Prozess wird am häufigsten ausgeführt), höchster manueller Aufwand (wo verbrennt das Team die meiste Zeit) und niedrigstes Risiko (wo ist ein Fehler tolerierbar, interner Prozess vor kundensichtbarem Prozess). Starte mit dem Use Case, der alle drei Kriterien erfüllt, nicht mit dem spannendsten.

Die sieben Use Cases mit dem schnellsten Nutzen im Mittelstand sind Dokumentenanalyse und Datenextraktion, Angebotserstellung, Lead-Recherche und Outreach, Ticket-Bearbeitung im Kundenservice, internes Wissensmanagement mit RAG, Code-Generierung und Reporting. Für die Angebotserstellung nennt der Use-Case-Artikel als typischen Effekt: von vier Stunden auf 45 Minuten pro Angebot. Für das Wissensmanagement: 45 Minuten Zeitersparnis pro Mitarbeiter und Tag.

Das Ergebnis von Schritt 2: zwei Use Cases für die ersten 90 Tage und eine Warteliste für die Quartale danach. Je Use Case steht der Entscheidungssatz, der Owner, die Baseline (Stunden pro Vorgang heute) und der Output-Contract in einem Absatz.

Schritt 3: Daten, Modelle und Architektur

Die Modellwahl ist keine Markenfrage. Das Framework für die Modellwahl arbeitet mit fünf Dimensionen: Task-Komplexität, Daten-Sensitivität und Compliance, Volumen und Latenz, Integrationsanforderungen und Total Cost of Ownership. Die Faustregel daraus: 80 Prozent der Aufgaben im Unternehmen sind Klassifikation, Extraktion und Zusammenfassung. Genau dort liegt das größte Einsparpotenzial, weil dafür kleine und mittlere Modelle reichen.

Für die Daten gilt eine Stufenlogik: Öffentliche Daten dürfen an Cloud-APIs, interne Daten brauchen eine EU-gehostete API oder eine Virtual Private Cloud, regulierte Daten gehören auf eine On-Premise-Lösung oder zu einem EU-basierten Anbieter, und klassifizierte Daten bleiben ohne externen API-Zugriff. Diese vier Stufen gehören in die KI-Strategie, weil sie jede spätere Tool-Entscheidung vorentscheiden.

Architektonisch reicht für den Start ein Drei-Ebenen-Bild: Sprachmodelle, die Text und Daten verarbeiten; Workflows und Agenten, die daraus wiederholbare Abläufe machen; und Regeln, die festlegen, welche Daten hineinfließen und wer die Ergebnisse prüft. Wer die Modellwahl vertiefen will, findet im Artikel zur Modellwahl im Unternehmen das 3-Tier-Modell mit Frontier-, Mid-Tier- und günstigen Modellen.

Schritt 4: Governance und EU AI Act

KI-Governance ist das Betriebssystem, mit dem dein Unternehmen KI rechtssicher und wertschöpfend einsetzt. Sie beantwortet vier Fragen: Wer darf KI einsetzen, was ist erlaubt, wie werden Risiken bewertet, wann wird eskaliert. Das Governance-Framework für den Mittelstand arbeitet mit fünf Säulen: AI Policy, Risikobewertung, Prozesse, Organisation und technische Kontrolle.

Die Risikobewertung folgt dem Prinzip "Classify, don't panic": Text-Zusammenfassung und Rechtschreibprüfung sind minimales Risiko und laufen als Self-Service mit Nutzungsrichtlinien. Meeting-Zusammenfassungen und Code-Assistenten bekommen ein Standard-Review. Lead Scoring, externer Content und Support-Automation brauchen eine vollständige Risikobewertung. HR-Screening und Kreditentscheidungen fallen unter die Hochrisiko-Pflichten des EU AI Act und brauchen eine externe Prüfung.

Rechtlich gilt seit dem 2. Februar 2025 die Pflicht zur KI-Kompetenz: Anbieter und Betreiber müssen Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals zu fördern, und nach besten Kräften ein ausreichendes Maß sicherstellen. Was der EU AI Act sonst verlangt, welche Fristen nach dem AI Omnibus gelten und wie du die Umsetzung planst, steht im Artikel EU AI Act für Unternehmen. In der KI-Strategie reicht ein Absatz: Risikoklasse je Use Case, Schulung je Rolle, Owner für die Policy.

Schritt 5: Kompetenz und Rollout

Der kompetenzbasierte Rollout ersetzt den flächendeckenden: Phase 1 identifiziert zwei bis drei technikaffine Mitarbeiter pro Abteilung als Kompetenz-Champions, die zu internen KI-Experten ausgebildet werden und als Multiplikatoren wirken. Phase 2 schult nicht "KI allgemein", sondern konkrete Anwendungsfälle, etwa "Wie erstelle ich Buyer Personas mit KI" im Marketing. Phase 3 hält regelmäßige interne Sessions zum Erfahrungsaustausch und baut eine interne KI-Knowledge-Base auf.

Der Rollout selbst folgt vier Phasen: Pilotgruppe mit drei bis fünf Power-Usern, die je drei Use Cases dokumentieren (Woche 1 bis 2); Best Practices destillieren, eine interne Prompt-Bibliothek mit fünf bis zehn Templates und die Regel, was hinein darf (Woche 3 bis 4); Rollout mit zweistündigen Workshops je Abteilung, Buddy-System und wöchentlichem KI-Standup von 15 Minuten (Woche 5 bis 8); Automatisierung der meistgenutzten Prompts per API ab Monat 3. Wie das im Detail läuft, steht im Artikel KI-Einführung im Unternehmen.

Kompetenz hat drei Stufen, und die KI-Strategie legt fest, welche Rolle welche Stufe erreicht: Tool-Optimierer kennen Stärken und Schwächen der Werkzeuge, Prompt-Meister arbeiten mit Kontext, Zielvorgabe und Struktur, Prozess-Integrierer bauen KI in ihre Workflows ein. Für die meisten Mitarbeiter reicht Stufe zwei. Die Champions brauchen Stufe drei.

Schritt 6: Metriken und Budget

Ein Modell mit perfekten technischen Metriken, das niemand benutzt, hat einen Business Value von null. Das Metrik-Framework für KI-Projekte misst deshalb auf vier Ebenen: Modell-Performance (die technische Baseline), operationale Effizienz (Zykluszeit, Fehlerrate, manuelle Eingriffe), Adoption und Change (aktive Nutzer, Acceptance Rate, Workaround-Rate) und Business Impact (Umsatz, Kosten, Produktivität). Die am meisten unterschätzte Ebene ist die dritte.

Das Timing gehört in die Strategie, sonst wird das Projekt zu früh beendet: In den Wochen 1 bis 8 zählen Ebene 1 und 2 (funktioniert die Technik, verbessert sie den Prozess), im Rollout ab Monat 2 die Ebenen 2 und 3 (nutzen die Leute es), in der Skalierung ab Monat 4 die Ebenen 3 und 4 (liefert es Business Value). Ohne Baseline gibt es kein Delta, ohne Delta keinen Business Case.

Die ROI-Formel für KI im Mittelstand lautet: (Eingesparte Stunden mal Stundensatz plus zusätzlicher Umsatz) geteilt durch (Tool-Kosten plus Setup-Kosten plus Schulungskosten). Für das Budget nennt der Guide drei Szenarien: DIY mit SaaS-Werkzeugen ab wenigen hundert Euro im Monat, begleiteter Rollout mit Berater im fünfstelligen Bereich einmalig, Enterprise-Grade mit eigenem Team ab 200 Mitarbeitern. Die Faustregel: Starte mit Szenario eins, skaliere bei nachgewiesenem ROI.

Die KI-Roadmap: Zwölf Monate auf einer Seite

Die sechs Schritte ergeben zusammen die KI-Roadmap. Sie kombiniert den 30-Tage-Fahrplan des Guides, die Umsetzungsroadmap aus dem Kompetenz-Artikel und den Governance-Fahrplan:

Jede Zeile hat einen Owner und ein Budget. Wenn eine Zelle leer bleibt, ist das eine Entscheidung, keine Lücke: Dann hat das Thema in diesem Quartal keine Priorität, und das steht so in der Strategie.

Typische Fehler in der KI-Strategie

1. Das Modell definieren statt die Entscheidung. Jedes Vorhaben braucht den einen Satz, wer wann welche Entscheidung besser trifft.
2. Nur technische Metriken messen. Accuracy sagt dem Business nichts darüber, ob das Projekt Wert schafft. Übersetze sie in Prozess- und Business-Metriken.
3. ROI zu früh messen. Die ersten Monate sind Investition; ein realistischer Meilenstein für den ROI ist Monat 8 bis 12.
4. Adoption ignorieren. Wenn weniger als 40 Prozent der Zielgruppe das Werkzeug täglich nutzen, ist das kein Technikproblem, sondern Change-Management.
5. Werkzeuge kaufen ohne Regel. Lizenzen ohne Prozessintegration bleiben unter ihrem Potenzial; das Paradox aus vielen Lizenzen und wenig Produktivität ist die Folge.
6. KI als Projekt behandeln. Ein Projekt hat ein Ende. Ein Betriebsprozess hat einen Owner, ein Budget, ein Monitoring und eine kontinuierliche Verbesserung.

Der siebte Fehler ist zu viel Governance zur falschen Zeit. Das größte Risiko ist nicht zu wenig Governance, sondern Governance, die nicht zum Risiko passt. Ein Textassistent für E-Mails braucht eine Nutzungsrichtlinie, kein Board-Meeting.

Fazit

Eine KI-Strategie für den Mittelstand passt auf eine Seite: die Entscheidungen, die besser werden sollen, zwei Use Cases für 90 Tage, die vier Datenstufen, die Risikoklasse je Einsatz, der Rollout in Phasen, vier Messebenen und eine Roadmap mit Owner je Zeile. Wer diese Seite hat, kauft Werkzeuge, weil sie eine Entscheidung verbessern, und nicht, weil sie neu sind. Den Gesamtblick auf Use Cases, Kosten und Werkzeuge gibt der Guide KI für Unternehmen; wie du den Erfolg misst, zeigt der Artikel zu den Erfolgsmetriken für KI-Projekte.

Quellen

• Verordnung (EU) 2024/1689, Artikel 4 (KI-Kompetenz), eur-lex.europa.eu/eli/reg/2024/1689/oj; Artikeltext auf Deutsch unter artificialintelligenceact.eu/de/article/4/
• Eigene Artikel: Warum KI-Projekte am Output scheitern, Erfolgsmetriken für KI-Projekte, Modellwahl im Unternehmen, KI-Governance Framework, Das KI-Kompetenz-Paradox