Chatbot für Unternehmen: Einsatzfelder, Architektur, Kosten und Pflichten

Ein Chatbot für Unternehmen lohnt sich dort, wo viele Menschen dieselben Fragen stellen und die Antworten in Dokumenten stehen, die niemand findet. Er scheitert dort, wo er raten muss, weil das Wissen fehlt, oder wo er entscheiden soll, was ein Mensch entscheiden muss. Dieser Artikel zeigt, wo die Grenze verläuft.

Er behandelt fünf Einsatzfelder mit Beispielen, drei Architekturen vom Regelbot bis zum RAG-Chatbot, die Kosten, den Unterschied zum KI-Agenten und die Pflichten aus EU AI Act und DSGVO. Den Gesamtblick auf KI im Betrieb gibt der Guide KI für Unternehmen.

Was ein Chatbot für Unternehmen heute ist

Der Begriff deckt drei Generationen ab. Der regelbasierte Chatbot folgt einem Entscheidungsbaum: Wenn der Kunde "Rechnung" schreibt, kommt Antwort A. Er ist billig, vorhersehbar und scheitert an jeder Formulierung, die nicht im Baum steht. Der Sprachmodell-Chatbot ohne Wissensanbindung formuliert frei, kennt aber nur sein Trainingswissen und erfindet bei Firmenfragen plausible Antworten. Der RAG-Chatbot ruft vor der Antwort die passenden Stellen aus deinen Dokumenten ab und belegt die Antwort mit Quellen.

Ein Chatbot für Unternehmen ist heute in fast allen Fällen die dritte Generation, ein KI-Chatbot: ein Sprachmodell mit Wissensanbindung, Zugriffsrechten und einer Eskalation an Menschen. Kein starrer Bot, sondern ein System, das den Kontext versteht, Antworten vorschlägt und bei Bedarf eskaliert.

Fünf Einsatzfelder für den Chatbot im Unternehmen

1. Kundenservice. Support-Tickets werden manuell gelesen, kategorisiert und beantwortet; ab 200 Tickets pro Tag ein Engpass. Der Chatbot klassifiziert Anfragen, beantwortet die häufigen aus der Wissensbasis, schlägt für den Rest Antworten vor und eskaliert bei Bedarf. Der Use-Case-Artikel nennt als typischen Effekt 40 Prozent schnellere Erstantworten und 30 Prozent weniger Eskalationen.

2. Interne Fragen und Onboarding. "Wie logge ich mich ins VPN ein?", "Wer ist für Vertragsfreigaben zuständig?", "Wo finde ich die Präsentationsvorlage?" Jede dieser Fragen kostet zwei bis fünf Minuten eines erfahrenen Mitarbeiters; bei zehn Fragen am Tag je neuem Mitarbeiter sind das 30 bis 50 Stunden im Monat. Ein interner Chatbot beantwortet sie in Sekunden, auch um 20 Uhr.

3. Wissensmanagement. Das Wissen steckt in Confluence, SharePoint, E-Mails, PDF-Handbüchern und im Kopf von drei Leuten, die seit 15 Jahren da sind. Der Chatbot auf der Wissensdatenbank beantwortet "Wie war nochmal unser Reklamationsprozess für Kunde X?" mit Quellenangabe in Sekunden statt nach 30 Minuten Suche.

4. Vertrieb und Lead-Qualifizierung. Ein Chatbot auf der Website beantwortet Produktfragen, sammelt die Rahmendaten einer Anfrage und übergibt qualifizierte Leads mit Zusammenfassung an den Vertrieb. Der Übergang zum Agenten ist hier fließend: Sobald der Bot Leads anreichert und Erstansprachen vorbereitet, ist er ein Vertriebsagent.

5. IT- und HR-Self-Service. Passwort zurücksetzen, Urlaubsantrag finden, Spesenprozess erklären. Der Chatbot versteht "Urlaubsantrag" genauso wie "Wie beantrage ich frei?" und liefert die relevante Antwort mit Link zum Formular statt 15 PDF-Links.

Chatbot Beispiele: Drei Szenarien aus dem Mittelstand

Szenario Support mit Grenzen. Ein Support-Chatbot darf Rückerstattungen bis 500 Dollar selbst verarbeiten, alles darüber geht an einen Menschen. Steht die Grenze nur im System-Prompt ("NEVER process refunds exceeding $500"), verarbeitet der Bot bei 1.000 Anfragen 30 mal Beträge darüber: eine Fehlerrate von drei Prozent. Die Lösung ist ein Intercept auf Anwendungsebene, der den Aufruf deterministisch blockt. Prompts sind keine Guardrails.

Szenario Onboarding. Ein neuer Mitarbeiter tippt um 20 Uhr "Wie war das nochmal mit der Zeiterfassung?" und bekommt eine schrittweise Antwort mit Link statt bis zum nächsten Morgen zu warten. Der Onboarding-Artikel rechnet vor, was die Fragen sonst kosten: bei fünf neuen Leuten gleichzeitig 150 bis 250 Stunden erfahrener Kollegen im Monat.

Szenario Eskalation. Ein Kunde schreibt "Ich will jetzt einen Menschen". Der Bot eskaliert sofort, ohne Rückfrage. Er übergibt keine 50 Gesprächsschritte als Transkript, sondern eine strukturierte Zusammenfassung: Kundennummer, Ursache, Betrag, empfohlene Aktion. Der Mensch braucht zehn Sekunden für die Entscheidung statt zehn Minuten zum Lesen.

Architektur: Vom Regelbot zum RAG-Chatbot

Ein RAG-Chatbot besteht aus vier Schichten. Schicht 1 konsolidiert die Datenquellen: Confluence, Notion, SharePoint, Slack und Teams (oft die wertvollste Quelle), Laufwerke, CRM, Ticketsystem. Schicht 2 ist die Ingestion-Pipeline: Crawling, Parsing, semantisches Chunking, Anreicherung mit Metadaten wie Quelle, Autor, Datum und Abteilung, Embedding, Indexierung in einer Vektordatenbank.

Schicht 3 ist Retrieval und Generation: Die Frage wird zum Vektor, eine Hybrid-Suche aus Vektor- und Keyword-Suche findet Kandidaten, ein Reranker sortiert, das Sprachmodell formuliert die Antwort mit Quellenangabe ("Basierend auf: Remote Work Policy, Stand Januar 2026"). Schicht 4 wird am häufigsten vergessen: Zugriffsrechte, vererbt von der Quellplattform, gefiltert zur Abfragezeit. Ohne sie beantwortet der Chatbot Gehaltsfragen aus dem HR-Ordner für alle.

Dazu kommen die sechs Betriebsmuster für Support-Agenten aus dem Use-Case-Artikel: Regeln, die nie verletzt werden dürfen, gehören in Intercepts auf Anwendungsebene, nicht in den Prompt. Werkzeugfehler kommen als strukturierte Fehlerantworten zurück, damit der Bot sagt "Ich erlebe gerade eine Verzögerung bei der Bestellabfrage" statt abzustürzen oder zu raten. API-Antworten mit 40 Feldern werden vor der Übergabe auf die vier relevanten gekürzt. Lange Sitzungen werden komprimiert: erledigte Themen als Zusammenfassung, das aktive Thema wörtlich.

Die Grundlagen zu Chunking, Hybrid-Suche und Qualitätsmessung stehen im Artikel Retrieval Augmented Generation erklärt; den Aufbau der Wissensbasis beschreibt Enterprise Knowledge Base mit KI.

Chatbot oder KI-Agent?

Ein Chatbot antwortet auf eine Frage. Ein KI-Agent bekommt ein Ziel, plant die Schritte selbst, ruft Werkzeuge wie Datenbanken oder APIs auf, prüft seine Zwischenergebnisse und liefert ein fertiges Artefakt. Der Support-Bot, der eine Rückerstattung im System auslöst und die Bestätigung schickt, ist bereits ein Agent. Der Bot, der die Rückgabefrist aus dem Handbuch vorliest, ist ein Chatbot.

Die Entscheidung hängt an drei Fragen: Reicht eine Antwort, oder muss etwas passieren? Ist der Prozess regelbasiert oder braucht er Urteil? Wie hoch ist der Schaden bei einem Fehler? Antworten, regelbasiert, geringer Schaden: Chatbot. Handlung, Urteil, höherer Schaden: Agent mit Intercepts, Tests und Monitoring. Was das im Aufbau heißt, steht im Artikel KI-Agenten für Unternehmen.

Was ein Chatbot für Unternehmen kostet

Der Knowledge-Base-Artikel nennt drei Wege. Eigenbau mit Open Source (LangChain oder LlamaIndex, Qdrant, eigenes Frontend): 50.000 bis 150.000 Euro Initialentwicklung, volle Kontrolle, drei bis sechs Monate. Spezialisierte Plattformen: Connectoren out of the box, produktionsreif in Wochen, 10 bis 30 Euro je Nutzer und Monat. Hybrid: Plattform für die Basis, eigene Erweiterungen für spezifische Use Cases.

Für die Rechnung stellt der Artikel den Status quo dagegen: 2,5 Stunden je Mitarbeiter und Woche für Informationssuche, bei 50 Euro je Stunde und 100 Mitarbeitern 650.000 Euro im Jahr. Die Plattform mit 15 Euro je Nutzer plus 20.000 Euro Setup kostet im ersten Jahr rund 50.000 Euro. Die Rechnung ist eine Modellrechnung des Artikels, keine Marktstudie; setze deine eigenen Stunden ein.

Laufende Kosten kommen aus drei Quellen: Modellaufrufe je Anfrage (Klassifikation und Extraktion sind mit kleinen Modellen günstig), Pflege der Wissensquelle (eine Antwort aus 2022 ist schlimmer als keine) und der Mensch in der Eskalation. Für die Modellkosten gilt das 3-Tier-Modell aus dem Artikel zur Modellwahl: günstige Modelle für Klassifikation, Mid-Tier für die Antwort, Frontier nur für komplexe Fälle.

Pflichten: EU AI Act Artikel 50 und DSGVO

Artikel 50 des EU AI Act gilt seit dem 2. August 2026: KI-Systeme, die direkt mit Menschen interagieren, müssen so gestaltet sein, dass die Personen erfahren, dass sie mit einer KI interagieren, sofern es nicht offensichtlich ist. Die Pflicht trifft den Anbieter; wer den Chatbot selbst baut oder unter eigener Marke betreibt, trägt sie. Für deinen Chatbot heißt das: ein klarer Hinweis vor dem ersten Dialog. Die Kennzeichnung gehört ins Design, nicht ins Impressum; ein Weg zum Menschen ist keine Pflicht aus Artikel 50, aber gute Praxis.

Ein Chatbot ist als solcher kein Hochrisiko-System. Sobald er aber über Menschen entscheidet, etwa Bewerber vorsortiert oder Kreditanfragen bewertet, fällt der Einsatz unter Anhang III. Die Fristen und Pflichten dafür stehen im Artikel EU AI Act für Unternehmen.

Die DSGVO verlangt vor dem Start eine dokumentierte Rechtsgrundlage, für den Kundenservice bestehender Kunden meist Vertragserfüllung, für interne Anwendungen meist berechtigtes Interesse mit Interessenabwägung. Dazu ein Auftragsverarbeitungsvertrag mit jedem externen Anbieter, eine Datenklassifikation und, wenn erforderlich, eine Datenschutz-Folgenabschätzung. Technisch: PII-Filter in der Ingestion-Pipeline, Verschlüsselung, EU-Region, Logging mit Aufbewahrungsregeln. Der Datenschutzbeauftragte fragt nach dem Launch "Wo werden die Kundendaten verarbeitet?"; die Antwort steht dann schon in der Dokumentation.

Sechs Fehler beim Chatbot-Projekt

1. Alle Daten auf einmal indexieren. Starte mit einer Quelle, meist dem Ticketsystem oder dem Handbuch.
2. Berechtigungen ignorieren. Ein HR-Dokument über Gehälter für alle ist ein Datenschutzvorfall, kein Feature.
3. Regeln im Prompt statt im Code. "NEVER" bedeutet für ein Sprachmodell "fast nie". Harte Grenzen gehören in Intercepts.
4. Kein Feedback-Mechanismus für falsche oder veraltete Antworten.
5. Veraltetes Wissen. Eine Antwort aus 2022 ist schlimmer als keine; die Pflege der Quelle gehört ins Budget.
6. Keine Eskalation. Ein Bot ohne Weg zum Menschen frustriert genau die Kunden, die am meisten Aufmerksamkeit brauchen.

Der siebte Fehler ist die Adoption: Ein interner Chatbot, den niemand findet, beantwortet keine Fragen. Integriere ihn dort, wo die Leute arbeiten, in Slack, Teams oder als Browser-Erweiterung.

Fazit

Ein Chatbot für Unternehmen ist 2026 ein Sprachmodell mit Wissensanbindung, Zugriffsrechten, Intercepts und einem Weg zum Menschen. Er lohnt sich im Kundenservice, bei internen Fragen, im Wissensmanagement, in der Lead-Qualifizierung und im Self-Service, wenn die Antworten in Dokumenten stehen und die Regeln im Code. Wo etwas passieren statt beantwortet werden muss, wird aus dem Chatbot ein Agent. Die Kennzeichnung nach Artikel 50 und die Rechtsgrundlage nach DSGVO stehen vor dem Launch, nicht danach.

Quellen

• Verordnung (EU) 2024/1689, Artikel 50 (Transparenzpflichten) und Anhang III, eur-lex.europa.eu/eli/reg/2024/1689/oj; Artikeltext auf Deutsch unter artificialintelligenceact.eu/de/article/50/
• Eigene Artikel: KI Use Cases im Mittelstand (mit den sechs Mustern für Support-Agenten), Enterprise Knowledge Base mit KI, Onboarding mit KI, DSGVO-konforme KI-Implementierung, Modellwahl im Unternehmen, Agentic Process Automation vs. RPA