Was ist Agentic AI? Der Geschäftsführer-Crashkurs für DACH-Mittelstand 2026

Schlüsselzahlen auf einen Blick

• 51,2 Prozent der DACH-Mittelständler nutzen oder testen KI laut Salesforce/DMB Mittelstandsindex 2026, plus 54 Prozent gegenüber Vorjahr. Aber nur 16,6 Prozent setzen KI-Agenten ein, ein Anteil der sich verdoppelt hat.
• 83 Prozent der mittelständischen Unternehmen in Deutschland haben laut Bitkom 2026 keine dokumentierte KI-Strategie. Die Adoption läuft schneller als die Strategiebildung.
• 97 Prozent der Organisationen explorieren laut IDC 2026 Agentic-AI-Strategien, aber nur 36 Prozent haben einen zentralisierten Governance-Ansatz. 61-Prozentpunkte-Gap zwischen Awareness und Action.
• 40 Prozent der Enterprise-Anwendungen werden laut Gartner Hype-Cycle 2026 bis Ende 2026 task-spezifische KI-Agenten enthalten. Der Standard verschiebt sich, ob Sie mitziehen oder nicht.
• Pilot Purgatory: Nur 5 Prozent der KI-Agenten-Pilots liefern messbaren Business-Value. Fast jedes zweite Unternehmen bricht KI-Initiativen vor Production ab. Mehr dazu in unserem nächsten Post zu Architekturfehlern.

---

Wenn Sie als Geschäftsführer, CEO oder CFO im DACH-Mittelstand 2026 in einer Boardroom-Diskussion zu "KI-Agenten" sitzen, hören Sie wahrscheinlich vier Begriffe durcheinander: Chatbot, Co-Pilot, KI-Assistent, Agentic AI. Vendor-Pitches mischen die Begriffe absichtlich, weil das den Verkaufspreis hochhält. Dieser Post räumt auf.

Er ist für Sie geschrieben, wenn Sie kein Engineering-Background haben, aber gerade entscheiden müssen, ob Ihr Unternehmen 2026 in Agentic AI investiert, und wenn ja, wie. Er liefert die Definition, die Abgrenzung zu verwandten Technologien, die typischen Fehlannahmen, und vier konkrete Fragen, die Sie vor jedem Vendor-Pitch stellen sollten.

Was Agentic AI ist (in einem Satz)

Agentic AI bezeichnet KI-Systeme, die ein Ziel über mehrere Schritte selbständig verfolgen: planen, Tools aufrufen, Zwischenergebnisse prüfen, korrigieren, bis das Ziel erreicht ist. Im Gegensatz zu einem Chatbot, der auf einzelne Eingaben reagiert, übernimmt ein Agent ganze Arbeitsabläufe ohne dass Sie ihn für jeden Schritt anstoßen.

Konkretes Beispiel: Ein Chatbot beantwortet die Frage "Wie hoch ist der Lagerbestand von Artikel X?". Ein KI-Agent bekommt das Ziel "Stelle sicher, dass wir nie unter 500 Stück fallen", checkt täglich den Bestand, vergleicht mit der Verkaufsprognose, prüft Lieferzeiten beim Hersteller, erstellt automatisch eine Bestellung wenn nötig, und meldet sich nur, wenn etwas außerhalb der definierten Parameter liegt.

Drei Kerneigenschaften machen ein KI-System "agentic":

Erstens, Zielorientierung statt Eingabe-Reaktion. Sie geben dem Agent ein Ziel, nicht eine einzelne Frage. Der Agent zerlegt das Ziel in Teilschritte selbst.

Zweitens, Tool-Use. Der Agent kann auf andere Systeme zugreifen: Datenbanken, APIs, E-Mails, ERP-Systeme, Dateisysteme. Er kann lesen und schreiben, nicht nur Texte generieren.

Drittens, Self-Correction über mehrere Schritte. Wenn ein Schritt fehlschlägt oder das Ergebnis nicht plausibel ist, korrigiert der Agent seinen Plan und versucht es anders. Ein Chatbot tut das nicht.

Was Agentic AI NICHT ist

Vendor-Pitches verwenden den Begriff inflationär. Hier vier Technologien, die Sie unterscheiden müssen, weil der Preis und die Komplexität sich um Faktor 10 unterscheiden.

Chatbot: Reagiert auf einzelne Anfragen, hat oft Skripte oder Decision-Trees, kann Texte generieren. Beispiel: ChatGPT-Standard-Konversation, klassischer Service-Bot. Investition typisch 5.000 bis 50.000 Euro.

Co-Pilot: Schlägt einem menschlichen Nutzer Aktionen vor, der Mensch entscheidet und führt aus. Beispiel: GitHub Copilot beim Coden, Microsoft Copilot in Word, Google Workspace AI. Investition typisch 20 bis 50 Euro pro Nutzer pro Monat.

RPA (Robotic Process Automation): Klassische Automatisierung mit fest verdrahteten Regeln, klickt sich durch UIs nach festem Skript. Keine echte Entscheidungsfähigkeit. Beispiel: UiPath, Automation Anywhere. Investition typisch 50.000 bis 300.000 Euro für ein Mittelstand-Programm.

Agentic AI: Selbständige Zielverfolgung über mehrere Schritte mit Tool-Use und Self-Correction. Beispiel: Claude Agent SDK, OpenAI AssistantsAPI, LangGraph-Implementierungen. Investition für einen ersten produktiven Agent in Mittelstand-Größe typisch 30.000 bis 80.000 Euro Pilotbudget plus 90.000 bis 200.000 Euro für Skalierung über mehrere Bereiche.

Wenn ein Vendor Ihnen ein Tool für 199 Euro pro Monat als "KI-Agenten" verkauft, ist es mit hoher Wahrscheinlichkeit ein Co-Pilot oder Chatbot mit Marketing-Label. Echte Agentic AI hat eine andere Kostenstruktur, weil die Infrastruktur (Multi-Step-Reasoning, Tool-Permissions, Audit-Trail, Drift-Detection) aufwändiger ist.

Drei DACH-Datenpunkte, die die Lage 2026 zeigen

Punkt eins: Die Adoption ist real, die Strategie nicht. Salesforce und der Deutsche Mittelstands-Bund haben im März 2026 den KI-Mittelstandsindex veröffentlicht: 51,2 Prozent der befragten Unternehmen nutzen oder testen KI, ein Plus von 54 Prozent gegenüber 2024. KI-Agenten setzen 16,6 Prozent ein, fast eine Verdopplung. Aber 83 Prozent haben laut Bitkom keine dokumentierte KI-Strategie. Die Mitarbeiter laden ChatGPT in den Browser, die Geschäftsführung weiß es nicht. Schatten-IT in der Größenordnung, die Compliance-relevant wird.

Punkt zwei: Die Governance hinkt der Adoption hinterher. IDC 2026: 97 Prozent der Organisationen weltweit explorieren Agentic-AI-Strategien, aber nur 36 Prozent haben einen zentralisierten Governance-Ansatz. Das bedeutet: in den meisten Unternehmen werden Agenten gebaut oder gekauft, ohne dass irgendjemand zentral nachhalten kann, welche Berechtigungen welcher Agent hat, welche Daten er liest, welche Aktionen er auslöst. Im DACH-Mittelstand ist die Lage tendenziell schlechter als der globale Durchschnitt, weil dedizierte AI-Governance-Rollen erst ab 200-plus FTE wirtschaftlich sind.

Punkt drei: Die Decision-Maker sind nicht mehr in der IT. Laut IDC 2026 sind Line-of-Business-Leader (Vertrieb, Operations, Finanzen, HR) inzwischen mit 46 Prozent die größte Decision-Maker-Gruppe für KI-Agenten, vor CIO (38 Prozent) und CTO (38 Prozent). Konkret heißt das: Ihre Vertriebsleitung kauft einen Agenten-Service direkt bei einem Vendor, ohne IT-Beteiligung. Im Boardroom 2026 ist die Frage "Wer entscheidet bei uns über Agenten-Beschaffung?" wichtiger als die Tech-Stack-Frage.

Vier Fragen vor jedem Vendor-Pitch

Wenn Sie 2026 einen Vendor-Pitch zu einem "KI-Agenten" hören, stellen Sie diese vier Fragen schriftlich, vor der Vertragsunterschrift:

Frage eins: Ist das ein Agent oder ein Chatbot mit Marketing-Label? Konkret: "Erklären Sie mir an einem Beispiel, wie Ihr System ein mehrstufiges Ziel autonom verfolgt, welche Tools es dabei aufruft, und wie es sich korrigiert, wenn ein Schritt fehlschlägt." Wenn die Antwort nur "der Bot beantwortet Fragen" lautet, ist es kein Agent.

Frage zwei: Welche Berechtigungen verlangt der Agent in unseren Systemen? Konkret: "Welche Lese- und Schreibrechte braucht der Agent in welchen Systemen? Wie ist der Audit-Trail aufgesetzt? Wer hat im Krisenfall den Kill-Switch?" Ein Vendor, der das nicht in 5 Minuten beantworten kann, hat noch nie einen produktiven Agent ausgerollt.

Frage drei: Welche Pre-Post-Daten haben Sie aus echten Engagements? Konkret: "Aus wie vielen abgeschlossenen Engagements können Sie Pre-Post-Produktivitätsdaten zeigen, mit Engagement-Kontext (Branche, Größe, Use Case)?" Wenn die Antwort "wir machen Ihre Implementation als ersten Case" lautet, sind Sie der Beta-Tester. Das kann Sinn ergeben, aber dann zu Beta-Konditionen, nicht zu Listenpreis.

Frage vier: Wie ist die Drift-Detection aufgesetzt? Konkret: "Agentic-Systeme degradieren typischerweise nicht plötzlich, sondern langsam über Wochen. Wie überwachen Sie die Output-Qualität nach Go-Live, und welcher KPI triggert eine Intervention?" Ein Vendor ohne Antwort darauf hat das CIO-Magazine-Insight von 2026 nicht gelesen.

Was kostet Coding-Agenten wirklich? 5 versteckte Kosten-Pattern →

Wo Agentic AI 2026 messbar Wirkung erzielt (und wo nicht)

Aus unserer Engagement-Praxis 2026 sehen wir drei Use-Case-Cluster, in denen Agenten messbar funktionieren, und zwei, in denen sie typischerweise scheitern.

Funktioniert: Hochvolumige, regelbasierte Workflows mit strukturierten Daten. Beispiele aus DACH-Mittelstand-Engagements: Eingangsrechnungs-Erfassung mit Plausibilitäts-Prüfung gegen ERP, Lagerbestands-Monitoring mit automatischer Bestellauslösung, Kunden-Mail-Triage mit Routing in passende Postfächer, einfache Vertriebs-Outreach-Sequenzen mit CRM-Synchronisation. Payback typisch in 3 bis 8 Monaten.

Funktioniert: Coding-Workflows mit klar abgrenzbaren Tasks. PR-Triage in CI/CD-Pipelines, Test-Generierung auf Basis von Diffs, Bug-Reproduktion aus Issues, Doc-Sync auf Code-Pushes. Das ist die Domäne unserer Agentic-Academy-Engagements und wir haben dazu einen eigenen Post zu Headless Coding-Agenten.

Funktioniert: Internes Wissen-Retrieval mit Quellen-Zitation. "Wo finde ich die aktuelle Reisekosten-Richtlinie?" "Welche unserer Kunden im Maschinenbau-Segment haben in Q1 mehr als 50.000 Euro Umsatz?" RAG-basierte Agenten mit Zugriff auf interne Wissensbasen.

Funktioniert nicht: Kreative Strategie-Arbeit. Ein Agent, der eigenständig "die Vertriebsstrategie für 2027 erarbeitet", liefert Output, der oberflächlich plausibel klingt, aber inhaltlich beliebig ist. Strategie braucht menschliche Urteilskraft mit Kontext, der in keinem Korpus steht.

Funktioniert nicht: Hochregulierte Entscheidungen ohne Human-in-the-Loop. Kreditentscheidungen, medizinische Diagnosen, Personalentscheidungen, Versicherungs-Ablehnungen. Hier ist nicht die Tech das Problem, sondern der EU AI Act und die Berufshaftung. Mehr dazu in unserem EU-AI-Act-90-Tage-Plan.

Die typischen drei Fehlannahmen im Boardroom 2026

Fehlannahme eins: "Wir kaufen einen Agent und sind durch." Realität: Ein Agent ohne Permissions-Setup, ohne Audit-Trail, ohne Drift-Detection und ohne Skill-Library ist nach 90 Tagen tot. Die Tech ist 30 Prozent der Investition, 70 Prozent ist Organisation. Das ist die 30/70-Regel aus dem Change-Management, die für Agenten genauso gilt wie für jede andere Enterprise-Software.

Fehlannahme zwei: "Wenn wir warten bis 2027, ist es einfacher." Realität: Die Tech wird einfacher, aber der Wettbewerbsabstand wächst. Wenn 16,6 Prozent des Mittelstands 2026 Agenten einsetzen und der Anteil sich jährlich verdoppelt, sind 2028 mehr als 60 Prozent dabei. Wer 2027 startet, lernt das, was die 2026er-Adopter in 12 Monaten Trial-and-Error gelernt haben, in einem Markt, in dem die guten Implementation-Partner ausgebucht sind.

Fehlannahme drei: "Unsere IT macht das intern." Realität: Wir sehen das in 1 von 10 Fällen funktionieren. Interne Teams haben typischerweise die Skill-Library-Architektur und die KPI-Messung nicht im Repertoire, weil das spezifische Erfahrung aus mehreren produktiven Agent-Rollouts braucht. Plus: der interne Senior fehlt im laufenden Engineering-Plan. Das ist die Build-vs-Buy-Frage, zu der wir einen separaten Post haben.

60-Minuten-Boardroom-Sparring zu Agentic AI für Ihr Unternehmen →

Erste-Schritte-Checkliste für Geschäftsführer

Wenn Sie nach diesem Post denken "Ja, wir sollten uns damit beschäftigen", hier die ersten fünf Schritte, in der Reihenfolge:

1. Schatten-IT-Inventur (1 Woche). Befragung an alle Mitarbeiter: Welche KI-Tools nutzen Sie aktuell? Welche Daten geben Sie ein? Sie werden überrascht sein. Aus dieser Inventur ergeben sich Compliance-Risiken UND erste Use-Case-Hypothesen.

2. AI-Champion identifizieren (1 Woche). Eine Person mit Org-Standing, die das Mandat hat, die KI-Initiative zu leiten. Nicht zwingend aus IT, oft besser aus Operations oder Finance. Diese Person wird Ihre Schnittstelle zu Vendoren und Beratern.

3. Erste Use-Case-Auswahl (2 Wochen). Anhand der Schatten-IT-Inventur und einer Use-Case-Matrix die ersten 3 Kandidaten priorisieren. Kriterien: hohes Volumen, klare Regeln, strukturierte Daten, messbare Outcomes innerhalb 90 Tagen. Mehr dazu in unserer 90-Tage-Use-Case-Matrix.

4. Build-vs-Buy-Entscheidung (2 Wochen). Für den priorisierten Use Case: SaaS-Agent, externer Implementation-Partner, oder internes Build? Die Entscheidung sollte nicht ideologisch fallen, sondern auf Basis von Time-to-Value, Skill-Verfügbarkeit, Datenhoheit.

5. AI-Act-Compliance-Setup (parallel). Ihre KI-Verordnungs-Pflichten gelten ab 2. August 2026 für High-Risk-Systeme, KI-Kompetenz-Pflicht gilt seit Februar 2026. Mehr dazu im EU-AI-Act-90-Tage-Plan.

Häufige Fragen

Sollten wir warten, bis die Tech reifer ist? Die Tech wird reifer, der Wettbewerbsabstand wächst. Bei einer jährlichen Adoptions-Verdopplung verlieren Sie pro Jahr Wartezeit etwa 12 bis 18 Prozent Time-to-Productive-Vorteil gegenüber Konkurrenten. Wenn Sie 2027 starten, lernen Sie in einem Markt, in dem gute Partner ausgebucht sind und der interne Talent-Markt für AI-Champions leergefegt ist.

Brauchen wir eine eigene KI-Strategie? Ja, aber nicht als 80-Seiten-Dokument. Eine 5-Seiten-Charter mit den drei Punkten "Welche Use Cases priorisieren wir? Wer entscheidet über Agenten-Beschaffung? Wie messen wir ROI?" reicht für die ersten 12 Monate. Die 83 Prozent ohne Strategie laut Bitkom haben oft das Problem, dass sie auf das perfekte Strategiepapier warten, während die Mitarbeiter längst in der Schatten-IT operieren.

Was ist mit Datenschutz und EU AI Act? Trainings sind nicht AI-Act-relevant, aber Agenten in produktivem Einsatz sind es, je nach Use-Case-Klassifikation. High-Risk-Systeme (Personalentscheidungen, Kreditentscheidungen, kritische Infrastruktur) brauchen ab 2. August 2026 ein vollständiges Compliance-Setup. Datenschutz: Cloud-Agenten mit EU-Hosting-Optionen sind für die meisten Use Cases ausreichend, On-Premise wird nur bei sensiblen Daten relevant.

Was kostet ein erster Agent realistisch? In unseren 2026-Engagements: 30.000 bis 80.000 Euro für einen Pilot mit messbarem Output nach 90 Tagen, 90.000 bis 200.000 Euro für die Skalierung in mehrere Bereiche. Subscription-Tools für 199 Euro pro Monat sind keine Agenten, sondern Co-Pilots mit Marketing-Label.

Wie unterscheide ich gute von schlechten Vendoren? Die vier Fragen oben (Was-ist-Agent, Permissions, Pre-Post-Daten, Drift-Detection) sind unser Mindestkriterium. Wenn ein Vendor zwei davon nicht in 10 Minuten beantworten kann, ist das Programm nicht beschaffungsreif.

Vom KI-Pilot in Production: 5 Architekturfehler die Agenten-Projekte killen →

Quellen

• Salesforce / DMB KI-Mittelstandsindex 2026
• Bitkom KI-Studie 2026 (PDF)
• Gartner Hype Cycle for Agentic AI 2026
• IDC: Agentic AI Governance ist der CIO-Blind-Spot
• CIO Magazine: How agentic AI will reshape engineering workflows in 2026
• CIO Magazine: Agentic AI systems don't fail suddenly — they drift over time
• Mittelstand Digital: KI-Agenten vs Chatbots Mittelstand
• PwC AI Performance Study 2026

---

Über den Autor

Sebastian Lang ist Co-Founder von Sentient Dynamics und leitet das Agentic-University-Programm. Vor Sentient war er bei SAP in der Strategy-Practice für KI-Workforce-Programme verantwortlich, mit 15 plus Jahren Engineering-Leadership-Erfahrung. Sentient Dynamics arbeitet mit erfolgsbasierter Vergütung und ist im SHD- sowie Bregal-Portfolio im Einsatz.

Newsletter abonnieren | Sebastian auf LinkedIn