Multi-Agent-Orchestrierung ist die Koordinationsebene, auf der mehrere spezialisierte KI-Agenten an einer gemeinsamen Geschäftsaufgabe arbeiten. Sie entscheidet, wer welche Aufgabe übernimmt, wie Zwischenergebnisse geprüft werden, wo Menschen freigeben und was die Sache kostet. Im Unternehmen ist nicht mehr die Modellqualität der Engpass, sondern genau diese Ebene.
Die Zahlen dazu sind unbequem. Gartner prognostizierte am 25. Juni 2025, dass über 40 % aller agentischen KI-Projekte bis Ende 2027 abgebrochen werden, und nennt als Gründe eskalierende Kosten, unklaren Geschäftswert und fehlende Risikokontrollen. Eine Untersuchung von UC Berkeley und der Carnegie Mellon University misst bei sieben verbreiteten Multi-Agent-Systemen Fehlerraten zwischen 41 % und 86,7 %.
Dieser Leitfaden zeigt, was Multi-Agent-Orchestrierung im Unternehmen bedeutet, was Multi-Agent-Systeme wirklich kosten, welche Protokolle und Frameworks tragen, was ein AI Control Tower leisten muss, was KI-Verordnung und Betriebsverfassungsgesetz verlangen und wie ein erster produktiver Workflow in 90 Tagen entsteht. Stand: September 2026.
Das Wichtigste in Kürze
- Über 40 % der agentischen KI-Projekte werden bis Ende 2027 abgebrochen (Gartner-Prognose vom 25. Juni 2025). Ursache ist nach dieser Analyse nicht die Modellqualität, sondern das fehlende Betriebsmodell.
- Multi-Agent-Systeme verbrauchen etwa 15-mal so viele Token wie ein Chat, Einzelagenten etwa das Vierfache. Diese Zahlen stammen aus Anthropics eigener Engineering-Dokumentation.
- Fehlerraten von 41 % bis 86,7 % messen UC Berkeley und Carnegie Mellon an 1.642 Ausführungsspuren aus sieben Open-Source-Frameworks (arXiv 2503.13657). Die häufigsten Ursachen sind unklare Zuständigkeiten und missverstandene Übergaben.
- Zwei offene Protokolle tragen die Architektur: MCP verbindet Agenten mit Werkzeugen und Daten, A2A verbindet Agenten untereinander. Beide liegen bei der Linux Foundation.
- In Deutschland setzen 11 % der Unternehmen KI-Agenten ein, 29 % planen es (Bitkom, 14. September 2026, 603 Unternehmen ab 20 Beschäftigten). Der Schritt zur Orchestrierung steht den meisten also noch bevor.
Was ist Multi-Agent-Orchestrierung?
Multi-Agent-Orchestrierung ist die Ebene, die mehrere spezialisierte KI-Agenten zu einem Arbeitsergebnis zusammenführt. Jeder Agent hat eine klar umrissene Rolle, eine begrenzte Werkzeugpalette und eine definierte Verantwortungsgrenze. Die Orchestrierung verteilt Aufgaben, prüft Zwischenergebnisse, erkennt Ausnahmen und hält Menschen an den richtigen Stellen in der Freigabe.
Das ist mehr als eine Kette von Prompts. Es ist eine eigene Architekturebene mit eigenen Entscheidungen zu Zustand, Fehlerbehandlung, Freigabepfaden und Kosten. Vier Reifestufen helfen bei der Einordnung des eigenen Stands.
| Reifestufe | Was passiert | Typische Grenze |
|---|---|---|
| 1. Assistent | Ein Modell antwortet auf Anfragen, optional mit ein bis zwei Werkzeugaufrufen | Kein Zustand, kein Freigabepfad, keine Wirkung über einzelne Personen hinaus |
| 2. Einzelner Agent | Ein Agent plant mehrere Schritte, nutzt mehrere Werkzeuge, arbeitet auf ein Ziel hin | Scheitert an Prozessen mit Übergaben zwischen Fachbereichen |
| 3. Multi-Agent-Workflow | Mehrere Agenten mit expliziten Rollen, koordiniert über einen Ablaufgraphen oder einen leitenden Agenten | Braucht Orchestrierung, Zustandsverwaltung und ein Rechtemodell |
| 4. Mehrere Workflows unter einer Kontrollebene | Mehrere Multi-Agent-Workflows nebeneinander, mit gemeinsamer Steuerung von Rechten, Kosten und Nachweisen | Erst hier entsteht dauerhafte Wirkung mit belastbarem Nachweis |
Zwei Bauformen sind in produktiven Aufbauten üblich. Der Ablaufgraph modelliert jeden Schritt als Knoten und jede Übergabe als Kante, ist deterministisch und gut prüfbar. Das Supervisor-Modell setzt einen planenden Agenten davor, der an spezialisierte Agenten delegiert und die Ergebnisse zusammenführt. Freie Diskussionsformate zwischen Agenten sind akademisch interessant, für Geschäftsprozesse aber schwer nachvollziehbar. Für den Mittelstand ist der sauber modellierte Ablaufgraph fast immer der bessere Einstieg. Grundlagen zu einzelnen Agenten stehen im Leitfaden zu KI-Agenten im Unternehmen.
Warum scheitern Multi-Agent-Projekte ohne Orchestrierung?
Weil ohne Kontrollebene drei Muster entstehen, die sich gegenseitig verstärken. Sie sind aus den ersten Cloud-Rollouts bekannt, wirken bei Agenten aber schneller.
- Wildwuchs. Fachbereiche bauen parallel eigene Agenten, ohne gemeinsame Rechte, ohne gemeinsames Protokoll, ohne gemeinsame Kostenobergrenze.
- Kosten außer Kontrolle. Ohne zentrale Sicht ist nach zwei Monaten unklar, welcher Agent bei welchem Anbieter wie viel verbraucht hat. Wie sich das messen und begrenzen lässt, steht im Leitfaden zu FinOps für KI.
- Fehlende Nachweise. Ohne Protokolle, Rollenmodell und Vorfallprozess wird jede Prüfung zur Suche, und beim ersten Zwischenfall ist die Verantwortungsfrage offen.
Die Forschung stützt das. Eine Analyse von UC Berkeley und der Carnegie Mellon University (Cemri et al., arXiv 2503.13657) hat 1.642 Ausführungsspuren aus sieben verbreiteten Open-Source-Frameworks annotiert und kommt auf Fehlerraten zwischen 41 % und 86,7 %. Die 14 identifizierten Fehlermuster fallen in drei Gruppen: Mängel in Spezifikation und Systemdesign, Missverständnisse zwischen Agenten und fehlende Prüfung beziehungsweise Abbruchlogik am Ende. Anders gesagt: Multi-Agent-Systeme scheitern selten am Modell und fast immer an unklaren Zuständigkeiten und unstrukturierten Übergaben.
Auch die Verbreitung ist geringer, als der Marktlärm vermuten lässt. Deloitte berichtet in den Tech Trends 2026, dass nur 11 % der Organisationen agentische Systeme produktiv betreiben, 35 % noch gar keine formale Agentenstrategie haben und 42 % an ihrer Roadmap arbeiten. In Deutschland setzen laut Bitkom 11 % der Unternehmen KI-Agenten ein, 29 % planen es; unter den Unternehmen ohne KI nennen 63 % schwer kalkulierbare Kosten als Hürde.
Was kostet ein Multi-Agent-System wirklich?
Deutlich mehr als ein Chat, und das ist keine Schätzung, sondern eine Messung des Anbieters. Anthropic schreibt in seiner Engineering-Dokumentation zum eigenen Rechercheaufbau, dass Agenten etwa viermal und Multi-Agent-Systeme etwa fünfzehnmal so viele Token verbrauchen wie Chat-Interaktionen. Im selben Text steht der Satz, der jede Wirtschaftlichkeitsrechnung trägt: Multi-Agent-Systeme brauchen Aufgaben, deren Wert hoch genug ist, um den Mehraufwand zu bezahlen.
| Bauform | Arbeitsweise | Token-Verbrauch | Passende Aufgaben |
|---|---|---|---|
| Chat oder Assistent | Reaktiv, ein Zug | Ausgangswert | Textentwürfe, Zusammenfassungen, Recherche mit einem Klick |
| Einzelner Agent | Zielorientiert, mehrere Schritte, mit Werkzeugen | Etwa das Vierfache | Ticketbearbeitung, Dokumentenauswertung, wiederkehrende Betriebsabläufe |
| Multi-Agent-System | Leitender Agent plus spezialisierte Agenten | Etwa das Fünfzehnfache | Tiefe Recherche, Prüfung großer Unterlagen, Marktanalysen, komplexe Angebote |
Der Mehraufwand kann sich lohnen: Im selben Bericht übertraf ein Aufbau mit einem leitenden Modell und mehreren untergeordneten Modellen den Einzelagenten in der internen Rechercheauswertung um 90,2 %. Die Übersetzung in die Betriebssprache lautet: Wo eine Anfrage Stunden Recherche oder teure externe Zuarbeit ersetzt, trägt der Faktor fünfzehn problemlos. Wo sie vierzig Sekunden Handarbeit ersetzt, trägt er nicht. Genau diese Rechnung sollte vor dem ersten Workflow stehen, nicht nach dem ersten Quartal.
Welche Rolle spielen MCP und A2A?
Zwei offene Protokolle lösen zwei verschiedene Probleme und ergänzen sich.
MCP, das Model Context Protocol, wurde im November 2024 von Anthropic vorgestellt und verbindet einen Agenten mit Werkzeugen und Datenquellen, von der SQL-Datenbank bis zum Ticketsystem. Statt für jede Kombination aus Modell und System einen eigenen Adapter zu bauen, sprechen beide Seiten dasselbe Protokoll. Das MCP-Projekt meldete Ende Juli 2026 fast eine halbe Milliarde Downloads pro Monat über seine wichtigsten SDKs. Seit Dezember 2025 liegt MCP bei der Agentic AI Foundation der Linux Foundation. Tiefer im Leitfaden zum Model Context Protocol.
A2A, das Agent-to-Agent-Protokoll, hat Google im April 2025 vorgestellt und am 23. Juni 2025 an die Linux Foundation übergeben. Es standardisiert, wie Agenten einander finden, Aufgaben delegieren und Ergebnisse zurückgeben. Zum Jahrestag im April 2026 meldete die Linux Foundation mehr als 150 unterstützende Organisationen, darunter AWS, Cisco, Google, Microsoft, Salesforce, SAP und ServiceNow.
Praktisch heißt das: Wer einen Agenten an ein ERP, ein CRM oder ein Dokumentenarchiv anbindet, modelliert den Zugriff über MCP und bleibt damit beim Modellwechsel portabel. Wer Agenten aus verschiedenen Produkten kombinieren will, modelliert die Kommunikation über A2A und spart sich fest verdrahtete Verbindungen zwischen jedem Anbieterpaar. Fragen Sie bei Plattformanbietern nach dem Fahrplan für beide Protokolle.
Welches Framework trägt in Produktion?
Drei Frameworks tragen produktive Aufbauten, ein viertes ist abgelöst. Stand September 2026:
- LangGraph modelliert Zustandsgraphen. Deterministische Ausführung, ausgereifte Unterbrechungen für menschliche Freigaben, mehrere Stufen der Dauerhaftigkeit und eine Wiederholungslogik machen es zur schmerzärmsten Wahl, wenn Prüfbarkeit zählt, etwa in Finanzdienstleistung, Gesundheitswesen oder kritischer Infrastruktur.
- Microsoft Agent Framework ist der offizielle Nachfolger von AutoGen und Semantic Kernel, seit Version 1.0 im April 2026 allgemein verfügbar. Es passt, wenn Identitäten, Netzwerk und Compliance-Grenze ohnehin in Azure liegen, und bringt Telemetrie nach offenem Standard mit.
- CrewAI arbeitet mit einer Rollenmetapher und ist der schnellste Weg zum ersten lauffähigen Prototyp. Für langlaufende, prüfpflichtige Prozesse in Produktion ist es oft zu grob.
- AutoGen in der ursprünglichen Form ist seit Oktober 2025 im Wartungsmodus. Für neue Vorhaben ist es keine Wahl mehr; bestehende Aufbauten sollten den Umstieg planen.
Wer Unabhängigkeit bewahren will, trennt die Fachlogik vom Framework: Rollenmodell, Anweisungstexte, Zustandsschema und Werkzeugdefinitionen leben in einer eigenen Schicht, das Framework ist nur die Ausführungsumgebung. Ein späterer Wechsel bedeutet dann Portierung der Umgebung, nicht Neuschreiben des Fachwissens.
Was gehört in einen AI Control Tower?
Ein AI Control Tower ist die Kontrollebene über allen im Unternehmen aktiven KI-Agenten. Er muss nicht aus einem einzigen Werkzeug bestehen, aber fünf Bausteine abdecken.
| Baustein | Was er liefert | Typische Werkzeuge |
|---|---|---|
| 1. Beobachtbarkeit | Nachvollziehbare Spuren von Anweisungen, Werkzeugaufrufen, Übergaben und Laufzeiten | Langfuse, LangSmith, Telemetrie nach OpenTelemetry |
| 2. Qualitätsmessung | Automatische Prüfung gegen einen festen Beispielsatz, Warnung bei Qualitätsabfall | DeepEval, Ragas, Promptfoo |
| 3. Kostenkontrolle | Verbrauch je Agent, Team und Anwendungsfall, mit Budgetwarnungen | Gateways vor den Modellen, Kostenanalysen der Plattform |
| 4. Rechte und Sicherheit | Wer darf welchen Agenten aufrufen, welchen Datenraum nutzen, welche Aktion auslösen | SSO, Rollenmodell je Agent, Leitplanken gegen manipulierte Eingaben |
| 5. Nachweise und Vorfälle | Unveränderliche Aufzeichnung jeder Entscheidung, belegter Freigabepfad, Meldeweg | Protokollspeicher ohne Änderungsmöglichkeit, Aufbewahrungsregeln nach ISO/IEC 42001 |
Ein häufiges Missverständnis in Vorstandsdiskussionen: „Das macht doch unsere bestehende Plattform." Agentenumgebungen großer Anbieter liefern Governance innerhalb ihres eigenen Ökosystems. Für selbst gebaute Workflows über mehrere Fachdomänen hinweg braucht es eine Sicht, die unabhängig vom Anbieter der einzelnen Agenten funktioniert. Der Einstieg ist mit offenen Bausteinen realistisch: Beobachtbarkeit, ein Gateway für Kosten, Telemetrie und ein sauber ausformuliertes Rechtemodell decken eine sinnvolle erste Ausbaustufe ab. Wie Beobachtbarkeit und Qualitätsmessung technisch aufgesetzt werden, steht im Leitfaden zu AI Observability und LLM-Evaluation.
Drei Fähigkeiten, die jede Prüfung verlangt
- Rückverfolgbarkeit. Jede Entscheidung, jeder Werkzeugaufruf, jede Übergabe ist zurückzuführen auf Anweisung, Modellversion, Datenquelle und Nutzeridentität.
- Prüfbarkeit. Die Nachweise sind vollständig, unverändert, geschützt gespeichert und für Prüfungen abrufbar.
- Zurechenbarkeit. Für jeden Agenten gibt es eine fachlich verantwortliche Person; die Zurechnung von Fehlern ist geregelt.
Die wissenschaftliche Diskussion fasst die Anforderungen der KI-Verordnung an agentische Systeme unter genau diesen drei Punkten zusammen, etwa in der HMD Praxis der Wirtschaftsinformatik. Sie eignen sich als gemeinsame Prüfliste für IT, Fachbereich und Compliance.
Was verlangen KI-Verordnung und Betriebsrat?
Für Multi-Agent-Systeme sind vier Bezüge operativ relevant. Stand September 2026, und dieser Überblick ersetzt keine Rechtsberatung.
- KI-Kompetenz nach Artikel 4, anwendbar seit dem 2. Februar 2025. Anbieter und Betreiber müssen Maßnahmen ergreifen, um die KI-Kompetenz ihrer Beschäftigten zu fördern; ein bestimmtes Niveau oder Zertifikat schreibt die Verordnung seit dem Digital Omnibus nicht mehr vor. Für Agenten heißt das praktisch: Wer einen Workflow abnimmt, muss verstehen, welche Entscheidungen der Agent selbst trifft und wann er eskaliert.
- Transparenz nach Artikel 50, anwendbar seit dem 2. August 2026. Menschen müssen erkennen können, dass sie mit einem KI-System sprechen. Für kundennahe Agenten ist das eine harte Kennzeichnungspflicht.
- Aufzeichnung und Robustheit nach Artikel 12 und 15. Für Hochrisiko-Systeme nach Anhang III, etwa in Personalauswahl oder Kreditwürdigkeit, gelten sie ab dem 2. Dezember 2027. Wer dort einen Multi-Agent-Workflow einsetzt, muss belegen können, welcher Agent wann welche Entscheidung getroffen hat. Ohne die Nachweisebene aus dem vorigen Kapitel wird das schwer.
- Mitbestimmung nach § 87 Abs. 1 Nr. 6 BetrVG. Sobald ein System objektiv geeignet ist, Leistung oder Verhalten von Beschäftigten zu erfassen, greift die Mitbestimmung; eine Überwachungsabsicht ist nach ständiger Rechtsprechung des Bundesarbeitsgerichts nicht erforderlich. Zusätzlich verlangt Artikel 26 Abs. 7 der KI-Verordnung, die Arbeitnehmervertretung vor dem Einsatz von Hochrisiko-KI am Arbeitsplatz zu informieren. Details im Leitfaden zu Betriebsrat und KI-Mitbestimmung.
Wie entsteht der erste Workflow in 90 Tagen?
Der häufigste Fehler beim Einstieg ist der Versuch, gleich eine ganze Fachdomäne zu automatisieren. Wer fünf Workflows parallel startet, hat nach vier Monaten fünf halbfertige Piloten. Wer einen einzigen wertschöpfenden Workflow sauber baut, produktiv setzt und misst, hat danach eine wiederholbare Methode.
| Phase | Zeit | Inhalt | Ergebnis |
|---|---|---|---|
| 1. Aufgabe wählen | Woche 1 | Wertschöpfungslinie bestimmen, Sponsor und Prozessverantwortung besetzen, Nutzenhypothese formulieren, Wert je Anfrage gegen den Kostenfaktor prüfen | Kurzbeschreibung mit Kennzahl und Zusage des Sponsors |
| 2. Rollen skizzieren | Woche 2 | Rollen definieren, Übergaben zeichnen, Werkzeuge auflisten, Freigabepunkte für Menschen festlegen | Ablaufgraph mit dokumentierten Rollen und Freigaben |
| 3. Daten und Recht klären | Woche 3 | Datenzugriffe klären, Verträge prüfen, Zweckbindung und Risikoklasse festlegen, Betriebsrat einbinden | Dokumentierter Datenpfad und Freigabe für den Bau |
| 4. Bauen | Woche 4 bis 7 | Framework wählen, Werkzeuge über MCP anbinden, ersten Durchlauf auf echten Daten aufsetzen, mit erfahrenen Anwendern verfeinern | Lauffähiger Workflow mit dokumentiertem Rollen- und Zustandsmodell |
| 5. Kontrollebene einziehen | Woche 6 bis 9 | Beobachtbarkeit einbauen, Beispielsatz für die Qualitätsmessung anlegen, Kosten je Agent erfassen, Rechte und Protokolle konfigurieren | Kontrollsicht auf den Workflow und eine Ausgangsmessung |
| 6. Parallellauf | Woche 10 bis 11 | Parallel zum bisherigen Prozess laufen lassen, Qualität und Kosten gegen die Ausgangsmessung vergleichen, Annahme- und Ablehnungsregeln dokumentieren | Vergleichsauswertung und Freigabe durch den Fachbereich |
| 7. Produktivsetzung | Woche 12 bis 13 | Mit erhöhter Reaktionsbereitschaft starten, Betriebszusagen festlegen, Anwendungsgrenzen bewusst eng halten | Produktiver Workflow mit Ergebnisbericht und Empfehlung zum weiteren Ausbau |
Ziel ist nicht die vollständige Automatisierung in 90 Tagen, sondern eine wiederholbare Methode. Mit ihr lassen sich der zweite und dritte Workflow deutlich schneller anschließen, weil Framework, Governance und Betriebsmodell einmal geklärt sind.
Welche Fehler sollten Sie vermeiden?
Fünf Muster, die produktive Multi-Agent-Vorhaben ausbremsen
- Governance später. Rechte, Protokolle und Kostenerfassung lassen sich schwer nachrüsten. Sie gehören in Woche 6 bis 9, nicht ins nächste Quartal.
- Anbieterbindung durch Bequemlichkeit. Ein proprietäres Agentenformat ohne Unterstützung für MCP oder A2A ist der schnellste Weg in die Abhängigkeit. Werkzeuge über MCP anbinden, Fachlogik vom Framework trennen.
- Autonomie ohne Freigaben. Vollständige Autonomie ist selten der richtige Startpunkt. Die erste Version bekommt an mindestens zwei Stellen einen expliziten Freigabepfad.
- Qualität erst messen, wenn sich jemand beschwert. Ohne festen Beispielsatz und automatische Wiederholungsmessung fällt Qualitätsverlust erst auf, wenn der Fachbereich das Vertrauen verloren hat.
- Alles selbst bauen wollen. Kontrollebene, Nachweisdokumentation und Framework-Migration binden mehr Kapazität, als die meisten Mittelständler dauerhaft stellen können. Ein gemischtes Modell mit erfahrener Unterstützung für die ersten Workflows ist ehrlicher.
Wie Plotdesk Multi-Agent-Workflows umsetzt
Plotdesk verbindet eine KI-Plattform mit einem Umsetzungsteam für den Mittelstand. Der Weg führt über vier Schritte: KI-Potenzialanalyse, Proof of Value, produktive Lösung, systematischer Ausbau. Für agentische Vorhaben sind vier Bausteine der Plattform relevant:
- Studio. Agentische Entwicklung mit einem Editor für Abläufe, in dem Rollen, Schritte und Übergaben sichtbar modelliert werden statt in verstreutem Code.
- Anbindung. MCP-Server, mehr als 77 Apps im Katalog, eine REST-API sowie Plotdesk Connect für lokale Systeme wie ERP, Fileserver, Ticketsysteme und ältere Datenbanken. Abläufe lassen sich zeitgesteuert, über Tabellen, Dateien oder einen Webhook starten.
- Model Garden. Mehr als 100 Modellvarianten aus zehn Provider-Typen, je Team steuerbar. Für eine Rolle, die klassifiziert und extrahiert, genügt ein kleines Modell; das teure Modell übernimmt nur die anspruchsvollen Schritte.
- Kontrolle. SSO, Rollen und mehr als 40 Berechtigungen, verschlüsselte Zugangsdaten, Audit-Logs sowie Nutzungs- und Kostenanalysen je Bereich. Betrieben wird Plotdesk als dedizierte Instanz in der EU oder im eigenen Tenant, etwa in Azure, mit DSGVO-konformem Auftragsverarbeitungsvertrag.
Was wir bewusst nicht liefern, ist ein Strategiepapier ohne lauffähiges System. Multi-Agent-Workflows werden produktiv, wenn jemand die Spuren liest, Übergaben prüft und die Kosten je Workflow im Blick behält. Die Grundlage dafür entsteht aus 1.200+ Use Cases in 15 Branchen, gemessen wird am eigenen Prozess.
Häufige Fragen zur Multi-Agent-Orchestrierung
Was unterscheidet Assistent, Agent und Multi-Agent-System?
Sind MCP und A2A Konkurrenten?
Welches Framework sollten wir wählen?
Was kostet ein produktiver Multi-Agent-Workflow?
Muss jeder Multi-Agent-Workflow als Hochrisiko-System gelten?
Wie verhindern wir, dass jede Abteilung eigene Agenten baut?
Fazit
Die Modellfrage ist weitgehend entschieden, die Protokollfrage auch: MCP und A2A sind breit getragen und in praktisch jedem produktiven Framework verfügbar. Die Framework-Landschaft ist geordnet. Offen bleibt die Orchestrierungs- und Governance-Frage, und genau dort entscheidet sich, welche Vorhaben produktiv werden und welche in die Abbruchstatistik fallen.
Der Unterschied ist selten das Modell und selten das Framework. Er liegt in der Disziplin, mit der ein Multi-Agent-System wie ein Produktionssystem geführt wird: mit Rollen, Freigaben, Beobachtbarkeit, Kostenkontrolle, Nachweisen und klaren fachlichen Eigentümern. Nicht das Unternehmen mit den meisten Agenten gewinnt, sondern das, das weiß, welcher Agent wann welche Entscheidung trifft und welchen Wert er dabei schafft.