Das Wichtigste in Kürze
Ein KI-Agent handelt, statt nur zu antworten. Er verfolgt ein Ziel, plant die Schritte selbst und bedient dafür Werkzeuge wie Postfach, CRM oder ERP.
Der Einsatz steht am Anfang. Von den Unternehmen in Deutschland, die KI nutzen oder den Einsatz planen oder diskutieren, setzen 11 % bereits KI-Agenten ein, weitere 29 % planen es (Bitkom, 14. September 2026).
Viele Projekte werden wieder eingestellt. Gartner erwartet, dass über 40 % der Agentic-AI-Projekte bis Ende 2027 abgebrochen werden, wegen steigender Kosten, unklarem Geschäftswert oder unzureichender Risikokontrolle (Prognose vom 25. Juni 2025).
Governance ist Voraussetzung, kein Zusatz. Minimale Rechte, lückenlose Protokolle und menschliche Freigaben nach Risikoklasse entscheiden, ob ein Agent in den Betrieb darf.
Rechtsstand September 2026: Die Transparenzpflichten nach Art. 50 KI-Verordnung gelten seit dem 2. August 2026. Pflichten für Hochrisiko-Systeme nach Anhang III, etwa in der Personalauswahl, gelten nach dem Digital Omnibus ab dem 2. Dezember 2027.
KI-Agenten im Unternehmen sollen Arbeit erledigen, nicht nur Fragen beantworten: eine Kundenanfrage abschließend bearbeiten, eine Rechnung prüfen, einen Lead recherchieren. Zwischen Anbieterversprechen und laufendem Betrieb liegen jedoch Datenqualität, Berechtigungen, Kosten und Recht.
Dieser Leitfaden erklärt, was ein KI-Agent ist, wo Agenten heute verlässlich arbeiten, woran Projekte scheitern und welche Governance und Rechtspflichten gelten. Am Ende steht ein Weg zum ersten Agenten im Betrieb.
Was ist ein KI-Agent?
Ein KI-Agent ist ein Softwaresystem, das mit einem Sprachmodell eigenständig ein Ziel verfolgt, die nötigen Schritte plant und dafür Werkzeuge wie Programmschnittstellen, Datenbanken oder Dokumente nutzt. Der Mensch gibt Ziel und Grenzen vor, nicht jeden Zwischenschritt.
Bitkom beschreibt den Unterschied so: „Anders als ein Chatbot, der auf Fragen antwortet, handelt ein Agent selbstständig, indem er zum Beispiel Preisvergleiche durchführt, Angebote einholt und auch Entscheidungsoptionen ausarbeitet.“ Drei Eigenschaften machen einen Agenten aus:
- Autonomie: Er entscheidet innerhalb seiner Grenzen, welcher Schritt als nächstes kommt.
- Zielorientierung: Er arbeitet auf ein festgelegtes Ergebnis hin.
- Anpassungsfähigkeit: Scheitert ein Weg, sucht er einen anderen oder übergibt an einen Menschen.
KI-Agent, Chatbot oder RPA: Worin liegt der Unterschied?
| Merkmal | Chatbot | RPA-Bot | KI-Agent |
|---|---|---|---|
| Funktionsweise | Antwortet auf Eingaben | Folgt einem festen Skript | Plant und handelt selbst |
| Umgang mit Ausnahmen | Übergibt an Menschen | Bricht ab | Sucht Alternativen oder übergibt |
| Systeme | Meist nur der Dialog | Vorab festgelegte Klickpfade | Mehrere Schnittstellen nach Bedarf |
| Passende Aufgaben | Auskünfte, Weiterleitung | Stabile Routineabläufe | Mehrstufige Abläufe mit Ermessen |
Faustregel: Berührt ein Ablauf mehrere Systeme, verarbeitet unstrukturierte Daten und verlangt Ermessen, ist er ein Kandidat für einen Agenten. Ist er stabil und regelbasiert, reicht oft klassische Automatisierung. Geht es nur um Auskünfte, genügt ein Chatbot.
Wie verbreitet sind KI-Agenten in deutschen Unternehmen?
Noch wenig: Von den Unternehmen, die KI nutzen oder den Einsatz planen oder diskutieren, setzen 11 % KI-Agenten ein und 29 % planen es. Grundlage ist eine Befragung von 603 Unternehmen ab 20 Beschäftigten im Sommer 2026 (Bitkom, 14. September 2026).
KI insgesamt nutzen inzwischen 57 % der Unternehmen, nach 36 % im Vorjahr. Bitkom-Präsident Dr. Ralf Wintergerst ordnet ein: „KI-Agenten stehen heute etwa dort, wo Künstliche Intelligenz insgesamt vor drei Jahren stand.“ International ist das Experimentieren weiter: In der Umfrage „The State of AI“ von McKinsey (November 2025) experimentieren 62 % der Organisationen mindestens mit KI-Agenten, 23 % skalieren ein agentisches System in mindestens einem Bereich.
Vorsicht bei Anbieterversprechen: Gartner warnt vor „Agent Washing“. Von Tausenden Anbietern agentischer KI sind nach Gartner-Schätzung nur rund 130 echt (Gartner, 25. Juni 2025); viele Produkte sind umbenannte Chatbots oder RPA-Werkzeuge.
Wie funktioniert ein KI-Agent?
Ein KI-Agent besteht aus vier Bausteinen: einem Sprachmodell, das plant, Werkzeugen, mit denen er handelt, einem Gedächtnis für den Kontext und einer Steuerschicht, die Grenzen durchsetzt. Wer diese Bausteine kennt, stellt Anbietern die richtigen Fragen.
Sprachmodell als Planer
Ein Sprachmodell mit Reasoning-Fähigkeit zerlegt die Aufgabe, bewertet Zwischenergebnisse und korrigiert sich.
Werkzeuge und Schnittstellen
Anbindungen an Postfach, CRM, ERP, Wissensbasis und Datenbanken, aufgerufen über strukturierte Befehle. Der offene Standard dafür ist das Model Context Protocol (MCP).
Gedächtnis und Kontext
Kurzzeitgedächtnis im Kontextfenster des Modells, Langzeitgedächtnis in Wissensspeichern oder Datenbanken. Ohne Gedächtnis beginnt jeder Schritt bei null.
Steuerschicht und Leitplanken
Sie prüft Berechtigungen, protokolliert jeden Schritt und holt bei Bedarf eine Freigabe ein. Human-in-the-Loop heißt: Ein Mensch bestätigt an festgelegten Stellen, bevor der Agent weitermacht.
Welche Rolle spielt das Model Context Protocol?
Das Model Context Protocol (MCP) ist der offene Standard, über den KI-Agenten Werkzeuge und Datenquellen anbinden. Ein einmal über MCP angebundenes System lässt sich von verschiedenen Modellen und Anwendungen nutzen, statt für jede Kombination neu integriert zu werden.
Anthropic hat MCP im November 2024 vorgestellt. Seit Dezember 2025 gehört es zur Agentic AI Foundation der Linux Foundation, getragen unter anderem von AWS, Anthropic, Google, Microsoft und OpenAI (Linux Foundation). Die Spezifikation vom 28. Juli 2026 macht das Protokoll zustandslos und härtet die Autorisierung; über die wichtigsten SDKs laufen laut MCP-Projekt fast eine halbe Milliarde Downloads pro Monat (MCP-Blog).
Für die Plattformwahl heißt das: Sie sollten externe MCP-Server anbinden, jedes Werkzeug einzeln freigeben, auf Rollen beschränken und seine Aufrufe protokollieren können. Architektur und Sicherheitsfragen beschreibt der Leitfaden zum Model Context Protocol.
Welches KI-Modell eignet sich für Agenten?
Ein bestes Modell für Agenten gibt es nicht. Entscheidend sind zuverlässige Werkzeugaufrufe, Ausdauer bei langen Aufgaben, Kosten pro erledigter Aufgabe und der Ort der Datenverarbeitung.
Die Spitzenmodelle von Anthropic, OpenAI und Google lösen sich im Abstand weniger Monate ab (Stand: September 2026), offene Modelle laufen auch in der EU oder im eigenen Rechenzentrum. Legen Sie sich deshalb auf Kriterien und eigene Testfälle fest, nicht auf eine Versionsnummer.
| Kriterium | Worauf Sie achten |
|---|---|
| Werkzeugaufrufe | Ruft das Modell Schnittstellen korrekt und mit gültigen Parametern auf? Mit Beispielen aus Ihrem Prozess testen. |
| Ausdauer | Hält das Modell über viele Schritte das Ziel, ohne sich in Schleifen zu verlieren? |
| Kosten pro Aufgabe | Maßgeblich ist, was eine abgeschlossene Aufgabe mit allen Zwischenschritten kostet, nicht der Preis pro Token. |
| Datenstandort | Verarbeitung in der EU, im eigenen Tenant oder im eigenen Rechenzentrum, je nach Datenklasse. |
| Austauschbarkeit | Lässt sich das Modell wechseln, ohne den Agenten umzubauen? |
Oft lohnt es sich, Teilaufgaben auf mehrere Modelle zu verteilen: ein starkes Modell für die Planung, ein günstiges für Routineschritte, ein offenes Modell für Daten, die das Haus nicht verlassen dürfen. Mehr dazu im Beitrag zur Multi-Modell-Strategie gegen Vendor-Lock-in.
Wo lohnen sich KI-Agenten heute?
KI-Agenten lohnen sich dort, wo ein Ablauf klar abgegrenzt ist, ein messbares Ergebnis hat und einen festen Übergabepunkt an Menschen besitzt. Das trifft vor allem auf Kundenservice, Vertrieb, Buchhaltung, IT-Support und Wissensarbeit zu.
Der Kundenservice liegt nahe: Laut Bitkom arbeitet KI in Unternehmen am häufigsten im Kundenkontakt, etwa bei der Bearbeitung von Anfragen (72 %). Wie gut die folgenden Einsatzfelder bei Ihnen funktionieren, hängt von Datenlage und Systemzugang ab.
| Einsatzfeld | Was der Agent tut | Typische Systeme | Menschliche Freigabe |
|---|---|---|---|
| Kundenservice | Ordnet Anfragen ein, sucht in der Wissensbasis, prüft Kundendaten, entwirft die Antwort | Postfach, CRM, Ticketsystem | Bei Beschwerden, Kulanz, unklaren Fällen |
| Lead-Recherche | Reichert Leads mit Firmendaten und aktuellen Meldungen an, entwirft den Erstkontakt | CRM, Websuche | Vor jedem Versand |
| Rechnungsprüfung | Liest Rechnungen, gleicht mit der Bestellung ab, bereitet die Buchung vor | Postfach, Texterkennung, ERP | Bei Abweichungen außerhalb der Toleranz |
| IT-Support | Beantwortet wiederkehrende Fragen, bereitet Konten und Lizenzen vor | Identity-Provider, IT-Service-Management, Wiki | Bei Rechten und Lizenzen |
| Reporting | Zieht Kennzahlen, erstellt ein Briefing, analysiert Auffälligkeiten | BI-System, SQL-Datenbank | Vor der Weitergabe nach außen |
| Recherche und Wissen | Beantwortet Fachfragen mit Belegen aus internen Quellen | SharePoint, Confluence, Dokumentenablage | Bei verbindlichen Auskünften |
Warum scheitern KI-Agenten-Projekte?
Agenten-Projekte scheitern selten am Modell. Meist fehlen ein klares Ziel, saubere Daten, Governance, Kostenkontrolle oder die Einbindung der Beschäftigten.
1. Kein messbares Ziel
„Wir probieren Agenten aus“ ist kein Auftrag. Tragfähige Projekte starten mit einer Kennzahl, etwa der Bearbeitungszeit pro Anfrage.
2. Schlechte Datenbasis
Ein Agent, der auf veraltete Wiki-Seiten und doppelte CRM-Einträge zugreift, handelt auf falscher Grundlage. Datenpflege gehört zum Projekt.
3. Fehlende Governance
Ohne Zuständigkeiten, Rechte und Protokolle lässt sich weder nachvollziehen noch verantworten, was ein Agent getan hat.
4. Unkontrollierte Kosten
Eine Aufgabe löst oft viele Modellaufrufe aus. Ohne Budgets je Anwendung und Modell-Routing steigen die Kosten schnell; wie Sie gegensteuern, zeigt der Leitfaden Token-Kosten kontrollieren.
5. Beschäftigte außen vor
Wer Teams vor vollendete Tatsachen stellt, erntet Misstrauen und Nacharbeit. Zeitgewinne entstehen erst, wenn jemand die Qualität der Ergebnisse misst und Fachbereiche den Agenten mitgestalten.
Welche Governance brauchen KI-Agenten?
KI-Agenten brauchen sechs Bausteine: minimale Rechte, festgelegte Datenklassen, lückenlose Protokolle, eine geprüfte Lieferkette, Freigaben nach Risiko und einen Notfallplan. Rahmenwerke wie das NIST AI Risk Management Framework oder ISO/IEC 42001 geben die Richtung vor; für Agenten müssen Sie sie konkretisieren, weil Agenten Aktionen auslösen.
Minimale Rechte
Jeder Agent erhält nur die Werkzeuge und Daten, die er für seine Aufgabe braucht. Keine Sammelkonten, keine Dauerrechte.
Datenklassen je Agent
Dokumentieren Sie, welche Daten ein Agent lesen und welche er schreiben darf, etwa personenbezogene Daten, Finanzdaten oder Verträge.
Protokolle und Monitoring
Jeder Werkzeugaufruf und jeder Datenzugriff wird mit Zeitstempel protokolliert, damit Sie schleichende Fehler erkennen. Wie Sie Qualität und Kosten laufend messen, beschreibt der Beitrag zu AI Observability und LLM-Evaluation.
Geprüfte Lieferkette
Welche Modelle, MCP-Server und externen Werkzeuge nutzt der Agent, und wer pflegt sie? Manipulierte Inhalte können einen Agenten zu ungewollten Aktionen verleiten; mehr im Leitfaden zu Prompt Injection und LLM-Sicherheit.
Freigaben nach Risikoklasse
Geringes Risiko: Der Agent handelt allein. Mittleres Risiko: Er schlägt vor, ein Mensch bestätigt. Hohes Risiko: Ein Mensch entscheidet, der Agent bereitet vor. Diese Stufen müssen technisch erzwungen sein.
Notfallplan
Stoßen Agenten andere Agenten an, pflanzen sich Fehler fort. Legen Sie vorab Abschaltwege und Obergrenzen für Aufrufe fest.
Was verlangen EU AI Act und DSGVO bei KI-Agenten?
Die KI-Verordnung reguliert nicht die Technik „Agent“, sondern den Einsatzzweck. Die meisten Agenten in Service, Vertrieb oder Buchhaltung sind keine Hochrisiko-Systeme; für Agenten in Anhang-III-Bereichen wie der Personalauswahl gelten die Hochrisiko-Pflichten ab dem 2. Dezember 2027.
Entscheidend ist Ihre Rolle. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt, also auch ein Unternehmen, das einen Agenten selbst baut und einsetzt. Betreiber ist, wer ein System in eigener Verantwortung nutzt.
| Rolle | Pflichten bei Hochrisiko-Systemen (Auswahl) |
|---|---|
| Anbieter | Risikomanagement (Art. 9), Daten-Governance (Art. 10), technische Dokumentation (Art. 11), automatische Protokollierung ermöglichen (Art. 12), menschliche Aufsicht vorsehen (Art. 14), Qualitätsmanagement (Art. 17), Konformitätsbewertung (Art. 43), Registrierung in der EU-Datenbank (Art. 49) |
| Betreiber | Einsatz nach Gebrauchsanweisung (Art. 26 Abs. 1), menschliche Aufsicht durch kompetente Personen (Abs. 2), relevante Eingabedaten, soweit Sie diese steuern (Abs. 4), Überwachung und Meldung schwerwiegender Vorfälle (Abs. 5), Protokolle mindestens sechs Monate aufbewahren (Abs. 6), Beschäftigte und ihre Vertretung vorab informieren (Abs. 7), in bestimmten Fällen Grundrechte-Folgenabschätzung (Art. 27) |
Unabhängig vom Risiko gelten seit dem 2. August 2026 die Transparenzpflichten nach Art. 50: Anbieter gestalten Systeme so, dass Menschen erkennen, dass sie mit einer KI interagieren, und kennzeichnen synthetische Inhalte maschinenlesbar. Für Agenten im Kundenkontakt ist das unmittelbar relevant; Einzelheiten im Beitrag zu den Transparenzpflichten nach Art. 50.
Bußgelder: Verstöße gegen Hochrisiko- und Transparenzpflichten können mit bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes geahndet werden, verbotene Praktiken mit bis zu 35 Mio. € oder 7 %. Für kleine und mittlere Unternehmen gilt der jeweils niedrigere Betrag (Art. 99).
DSGVO: Agenten verarbeiten oft personenbezogene Daten aus Postfächern, CRM oder Personalakten. Es gelten Rechtsgrundlage, Zweckbindung, Datenminimierung und ein Auftragsverarbeitungsvertrag mit jedem Dienstleister (Art. 28 DSGVO). Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung für eine Person darf ein Agent nicht ausschließlich automatisiert treffen, sofern keine Ausnahme nach Art. 22 DSGVO greift. Kann ein Agent Verhalten oder Leistung von Beschäftigten auswerten, bestimmt der Betriebsrat nach § 87 Abs. 1 Nr. 6 BetrVG mit.
Stand: September 2026. Dieser Überblick ersetzt keine Rechtsberatung.
Wie bringen Sie den ersten KI-Agenten im Unternehmen in Betrieb?
Beginnen Sie mit einem einzigen Engpass, prüfen Sie die Daten, nutzen Sie eine Plattform mit eingebauter Governance, messen Sie den Pilotbetrieb an harten Kriterien und bauen Sie erst danach aus.
Engpass messen statt Use Case erfinden
Beobachten Sie einen Prozess zwei Wochen lang und messen Sie, wo Zeit liegen bleibt. Der erste Agent löst genau diesen Engpass.
Datenbasis prüfen
Sind die Quellen, die der Agent braucht, aktuell, vollständig und über Schnittstellen erreichbar? Wenn nicht, beginnt das Projekt hier.
Plattform statt Einzelbau
Ein Eigenbau muss Modellzugang, Werkzeuganbindung, Rechte, Protokolle und Kostenkontrolle selbst lösen. Eine Plattform bringt das mit, und jeder weitere Agent nutzt dieselbe Grundlage.
Pilot mit harten Kriterien
Eine Abteilung, wenige Wochen, klare Kennzahlen und menschliche Freigaben von Anfang an. Ein belegter kleiner Erfolg zählt mehr als eine eindrucksvolle Demo.
Ausbau über wiederverwendbare Bausteine
Läuft der erste Agent stabil, nutzen die nächsten vorhandene Anbindungen, Rechte und Protokolle. So entsteht ein Portfolio statt vieler isolierter Prototypen.
Wie unterstützt Plotdesk beim Einsatz von KI-Agenten?
Plotdesk verbindet eine KI-Plattform mit einem Umsetzungsteam für den Mittelstand. Agenten entstehen dort nicht als Einzelprojekt, sondern auf derselben Grundlage aus Modellen, Werkzeugen, Rechten und Protokollen, die auch Chat und Assistenz nutzen.
- Studio für agentische Entwicklung: Workflows entstehen im Node-Editor, individuelle Lösungen baut das Umsetzungsteam gemeinsam mit Ihren Fachbereichen.
- Workflows und Schedulers: Prozessschritte laufen selbstständig, ausgelöst nach Zeitplan, durch neue Einträge in einer Tabelle, per Webhook oder durch eine neue Datei.
- Werkzeuge über Apps und MCP: 77+ Apps im Katalog und angebundene MCP-Server. Neue Werkzeuge eines MCP-Servers sind zunächst gesperrt und werden einzeln freigeschaltet, ihre Aufrufe werden protokolliert. Lokale Systeme wie ERP, Fileserver oder AS/400 erreicht Plotdesk Connect.
- Modelle je Aufgabe: mehr als 100 Modellvarianten aus zehn Provider-Typen, pro Team steuerbar, einschließlich offener Modelle mit Inferenz in der EU.
- Governance: SSO, Rollen mit mehr als 40 Berechtigungen, Audit-Logs, Nutzungs- und Kostenanalysen und Kostensteuerung je Bereich. Betrieb als dedizierte Instanz in der EU oder im eigenen Tenant, mit DSGVO-konformem AVV.
Der Weg folgt vier Schritten: KI-Potenzialanalyse, Proof of Value, produktive Lösung, systematischer Ausbau. Ausgangspunkt sind 1.200+ Use Cases in 15 Branchen; ein erstes Ergebnis im Betrieb steht in der Regel nach rund vier Wochen.
Der Unterschied zwischen Agenten, die in zwei Jahren noch laufen, und Projekten, die bis dahin abgeschaltet sind, liegt selten in der Modellwahl. Er liegt darin, ob vor dem ersten Sprint die Daten, die Governance und das Ziel geklärt sind.
Häufige Fragen zu KI-Agenten im Unternehmen
Was ist der Unterschied zwischen einem KI-Agenten und einem Chatbot?
Wie viele Unternehmen in Deutschland setzen KI-Agenten ein?
Sind KI-Agenten Hochrisiko-KI nach dem EU AI Act?
Brauchen KI-Agenten das Model Context Protocol?
Was kostet ein KI-Agent im Betrieb?
Wie lange dauert es bis zum ersten produktiven KI-Agenten?
Fazit: Erst Grenzen setzen, dann Autonomie geben
KI-Agenten verändern, wie Arbeit entsteht, nicht nur, wie sie unterstützt wird. Den Nutzen erzielen Unternehmen, die einen klaren Engpass wählen, ihre Daten ordnen und Governance von Anfang an einbauen.
- Ein KI-Agent ist ein Sprachmodell mit Werkzeugen, Gedächtnis und Aufsicht. Nicht jedes Produkt mit dem Etikett „Agent“ liefert alle vier.
- Modellfreiheit und offene Standards wie MCP halten Ihre Architektur austauschbar.
- Der erste Agent löst einen klar abgegrenzten Engpass, nicht alles auf einmal.
- Rechte, Protokolle und menschliche Freigaben sind Voraussetzung, kein Zusatz.
- Wer Agenten in Anhang-III-Bereichen wie Personalprozessen plant, klärt die Einstufung jetzt; die Hochrisiko-Pflichten gelten ab dem 2. Dezember 2027.