KI-Agenten für den Mittelstand: Was geht wirklich?

Bevor wir über Praxis reden, müssen drei Begriffe sauber getrennt werden, die häufig durcheinandergeworfen werden:

Chatbot Ein klassischer Chatbot folgt vordefinierten Regeln oder Entscheidungsbäumen. Er antwortet auf Eingaben, kann aber keine eigenständigen Aktionen ausführen. Ein FAQ-Chatbot auf einer Website ist kein Agent.

RAG-System (Retrieval-Augmented Generation) Ein LLM mit Zugriff auf eine Wissensbasis — z.B. interne Dokumentation oder einen Produktkatalog. Das System kann Fragen beantworten, die über das Trainingswissen des Modells hinausgehen, aber es führt keine eigenständigen Schritte aus. Es antwortet, es handelt nicht.

KI-Agent Ein KI-Agent bekommt ein Ziel und entscheidet eigenständig, welche Werkzeuge (Tools) er in welcher Reihenfolge einsetzt, um das Ziel zu erreichen. Er kann mehrere Schritte planen, Zwischenergebnisse bewerten und den Plan anpassen. Das Entscheidende: der Agent wählt selbst den nächsten Schritt — das Programm tut es nicht für ihn.

Agentic Workflow ist der Oberbegriff für Abläufe, bei denen ein LLM mindestens einen autonomen Entscheidungsschritt übernimmt — von einem einfachen Tool-Call bis zu vollständig selbstgesteuertem Multi-Step-Reasoning.

Wichtig: Die Grenze zwischen Chatbot, RAG und Agent ist fließend. In der Praxis bauen die meisten produktiven Systeme auf eine Kombination — RAG für Wissen, Agent-Logik für Aktionen, klassische Automatisierung für den strukturierten Rest.

Abstrakte Definitionen helfen wenig. Hier drei Szenarien, die ich als realistische, heute umsetzbare Implementierungen einschätze:

Beispiel 1: Support-Routing und erste Antwort

Ein Kunde schickt eine Support-Anfrage per E-Mail. Ein Agent liest die E-Mail, klassifiziert das Anliegen (Retoure, Technisches Problem, Bestellstatus), prüft den Bestellstatus im Shop-System via MCP oder API, formuliert eine erste Antwort mit den relevanten Informationen und routet das Ticket an die richtige Abteilung — mit einem Entwurf der Antwort, den der Mitarbeiter nur noch freigeben muss.

Was der Mensch macht: Freigabe und Ausnahmen. Was der Agent macht: 80% der Standard-Tickets komplett vorbereiten.

Beispiel 2: Bestellabwicklung im E-Commerce

Ein Shopware-Shop mit B2B-Kunden bekommt täglich Bestellungen mit individuellen Anforderungen (Lieferdaten, Teillieferungen, Sonderkonditionen). Ein Agent liest eingehende Bestellbestätigungen aus dem E-Mail-Postfach, gleicht sie mit dem ERP-Bestand ab, erkennt Probleme (Artikel nicht lieferbar, abweichende Preise) und erstellt entweder automatisch die Auftragsbestätigung oder eskaliert mit einem strukturierten Hinweis an den Sachbearbeiter.

Beispiel 3: Content-Recherche und Briefing-Erstellung

Ein Marketing-Mitarbeiter braucht wöchentlich Wettbewerbs-Updates und Briefings für Social-Media-Posts. Ein Agent durchsucht definierte Quellen (Branchennews, Wettbewerber-Websites), fasst Relevantes zusammen, ordnet es den internen Themenfeldern zu und erstellt ein strukturiertes Briefing — kein fertiger Content, aber 70% der Recherche-Arbeit erledigt.

Gemeinsamer Nenner: Alle drei Beispiele funktionieren nicht vollständig autonom. Sie haben definierte Eskalationspunkte, an denen der Mensch übernimmt. Das ist kein Fehler im Konzept — es ist die richtige Architektur für produktive Systeme.

Die größte Schwäche der meisten KI-Agenten-Demos ist, dass sie nur den Happy Path zeigen. Der Agent bekommt eine klare Aufgabe, hat alle nötigen Tools, die API antwortet wie erwartet — und alles klappt.

In der Praxis sieht es anders aus.

Typische Fehlerquellen in Agentic Workflows:

- Halluzinierungen bei Tool-Parametern: Das Modell ruft ein Tool mit falschen Parametern auf — z.B. eine Bestell-ID, die es sich ausgedacht hat. Ohne Validierung entstehen fehlerhafte Datenbankeinträge.

• Endlosschleifen: Ein Agent, der ein Ziel nicht erreicht, kann in Retry-Schleifen geraten und dabei API-Kontingente aufbrauchen oder Aktionen wiederholt ausführen.
  • Kontextverlust bei langen Workflows: Wenn der Kontext-Window voll wird, verliert das Modell frühere Ergebnisse und trifft Entscheidungen auf unvollständiger Basis.
    • Uneindeutige Ziele: „Schreib eine E-Mail an den Kunden” — welchen Kunden? Was soll die E-Mail sagen? Je unklarer das Ziel, desto mehr Raum für unerwartetes Verhalten.
      • Externe Systemfehler: Die API des ERP-Systems ist kurz down. Wie verhält sich der Agent? Wiederholt er? Bricht er ab? Meldet er es?

        Wie gute Agentic Workflows damit umgehen:

        1. Maximale Iterationstiefe definieren — der Agent macht maximal N Schritte, dann Eskalation 2. Tool-Outputs validieren — nicht blind weiterverarbeiten, sondern Plausibilität prüfen 3. Checkpoints mit Mensch-in-the-Loop für risikobehaftete Aktionen (E-Mails versenden, Bestellungen auslösen) 4. Idempotente Tools bauen — mehrfaches Aufrufen des gleichen Tools führt nicht zu doppelten Datenbankeinträgen 5. Observability — jeder Tool-Call mit Parametern und Ergebnis wird geloggt; ohne das ist Debugging unmöglich

        Diese Punkte klingen banal, werden aber in 80% der ersten Implementierungen vergessen. Ein Agent, der im Demo funktioniert und in Produktion regelmäßig unerwünschtes Verhalten zeigt, kostet mehr Vertrauen als er je eingespart hat.

Für den Mittelstand kommen im Wesentlichen drei Ansätze infrage:

n8n mit AI Nodes

n8n ist ein Self-hosted Workflow-Automatisierungstool mit nativer KI-Integration (AI Agents, LangChain-Integration, eigene Modell-Anbindung). Der große Vorteil: Du baust den Workflow visuell, hast volle Kontrolle über Datenfluss und Fehlerbehandlung, und kannst den Agenten schrittweise ausbauen — von einem einfachen LLM-Call bis zu komplexen Multi-Agent-Szenarien.

Für den Mittelstand ist n8n meist der richtige Einstieg. Du behältst die Hoheit über die Logik, kannst DSGVO-konform self-hosten und musst nicht Tausende Zeilen Python schreiben, um die ersten Workflows produktiv zu bringen.

LangChain/LangGraph (Python)

LangChain ist das am weitesten verbreitete Framework für LLM-basierte Anwendungen in Python. LangGraph erweitert es um strukturierte Agenten-Graphen mit expliziten Zustandsmaschinen. Der Vorteil: maximale Flexibilität, aktive Community, gute Observability via LangSmith. Der Nachteil: höhere Einstiegshürde, mehr Code-Aufwand, komplexes Dependency-Management.

Sinnvoll wenn: du ein Entwickler-Team hast, das Python beherrscht, und komplexe Agenten-Logik baust, die über visuelle Workflows hinausgeht.

Claude (Anthropic) mit MCP

Claude ist im Agenten-Einsatz besonders stark bei komplexen Reasoning-Aufgaben und der präzisen Nutzung von Tools. In Kombination mit MCP-Servern für die Datenanbindung entsteht ein System, das Unternehmenskontext versteht und strukturiert handelt. Claude eignet sich als Modell sowohl in n8n-Workflows als auch in eigenen Python-Anwendungen.

Empfehlung für den Einstieg im Mittelstand: n8n als Orchestrierung + Claude als Modell + MCP Server für strukturierte Datenanbindung. Das gibt dir Self-Hosting-Optionen, geringe Einstiegskosten und einen klaren Upgrade-Pfad.

Eine ehrliche Bestandsaufnahme:

Was heute produktiv funktioniert:

• Klassifikation und Routing von strukturierten Eingaben (E-Mails, Tickets, Formulare)
  • Datenaggregation aus mehreren Quellen mit Zusammenfassung
    • Entwurfs-Erstellung für repetitive Texte (Angebote, Bestätigungen, Berichte) zur menschlichen Freigabe
      • Monitoring und Alerting mit natürlichsprachiger Erklärung
        • Interne Suche und Wissensabfrage (RAG + strukturierte Daten via MCP)

          Was noch nicht zuverlässig produktiv funktioniert:

          • Vollständig autonome Agenten ohne menschliche Checkpoints — die Fehlerrate ist zu hoch für kritische Prozesse
            • Komplexes Multi-Agent-Orchestrieren mit vielen interdependenten Schritten
              • Agenten, die mit schlecht dokumentierten oder inkonsistenten Daten arbeiten müssen
                • Nutzung in Echtzeit-Prozessen, die unter 1 Sekunde Latenz brauchen

                  Was Unfug ist:

                  • „Der Agent ersetzt euren gesamten Support” — nein, er entlastet ihn
                    • „KI-Agenten verstehen euren Kontext von Anfang an” — sie brauchen gutes Prompt-Engineering und strukturierte Daten
                      • „Einmal aufgebaut, läuft es ohne Wartung” — externe APIs ändern sich, Datenstrukturen ändern sich, Prompts müssen angepasst werden

                        Die ehrliche Kostenfrage:

                        Ein einfacher produktiver Agentic Workflow kostet im Sprint-Modell ab 5.000 € für Konzept, Bau und Deployment. Laufende Kosten: Hosting (n8n, ggf. eigene Modell-Infrastruktur), Modell-API-Kosten (bei 1.000 Tickets/Monat mit Claude Sonnet: ca. 10–50 € je nach Komplexität), Wartung.

                        Der ROI ist dann positiv, wenn ein Mitarbeiter heute 2+ Stunden täglich mit der Aufgabe beschäftigt ist, die der Agent übernehmen soll. Alles darunter ist nice-to-have, kein Business-Case.

Konkret und ohne Umwege:

Schritt 1: Einen Prozess identifizieren, der wehtut

Nicht „wir wollen KI einsetzen”, sondern: Welche Aufgabe erledigt ein Mitarbeiter täglich auf die gleiche Art? Welcher Prozess hat klare Inputs und klare Outputs? Wo ist der Frustrationspunkt?

Gute Kandidaten: E-Mail-Klassifikation, Berichtserstellung aus mehreren Quellen, Datenabgleich zwischen zwei Systemen, Briefing-Erstellung.

Schritt 2: Den Happy Path definieren

Bevor irgendein Code entsteht: Beschreib den idealen Ablauf in 5–7 Schritten. Was ist die Eingabe? Was sind die Zwischenschritte? Was ist das Ergebnis? Wo darf der Agent keine Fehler machen?

Schritt 3: Einen funktionierenden Prototyp bauen

Mit n8n baust du den ersten Workflow in 1–2 Tagen. Nicht vollständig, nicht produktionsreif — aber mit echten Daten testbar. Zeig ihn dem Team, das ihn später nutzt. Echtes Feedback früh ist mehr wert als perfekte Architektur im Verborgenen.

Schritt 4: Fehlerbehandlung und Checkpoints einbauen

Erst jetzt kommen Robustheit und Eskalationslogik. Was passiert, wenn die API nicht antwortet? Wann soll der Agent stoppen und einen Menschen fragen? Wie wird geloggt?

Schritt 5: Schrittweise ausrollen

Nicht „Big Bang” in Produktion, sondern: Erst für einen Mitarbeiter, dann für das Team, dann für alle. Jede Stufe gibt dir Feedback und verhindert, dass ein Bug in Produktion 100 falsche E-Mails auslöst.

Dieser Prozess dauert typischerweise 2–4 Wochen bis zum ersten produktiven System.

KI-Agenten für den Mittelstand sind kein Science-Fiction mehr — aber auch kein Selbstläufer. Die Technologie ist reif genug für produktive Einsätze in klar definierten Szenarien. Die Herausforderung liegt nicht im Modell, sondern in der richtigen Architektur: Fehlerbehandlung statt Happy Path, Mensch-in-the-Loop statt Vollautomation, klarer Use-Case statt allgemeines KI-Projekt.

Wenn du heute einen Prozess hast, der 2+ Stunden täglich kostet, klare Inputs und Outputs hat und von einem Menschen nach klaren Regeln bearbeitet wird — dann ist der Zeitpunkt für einen ersten Agentic Workflow jetzt.

Den ersten konkreten Use-Case klären, Prototyp bauen und in zwei Wochen produktiv bringen — genau das ist der Ansatz, mit dem ich arbeite.

→ [KI-Agenten-Projekt anfragen](/lp/ki-agenten-mittelstand)