Strategie

Multi-Modell-Strategie: KI-Modelle kombinieren, Lock-in vermeiden

Wer alles auf ein KI-Modell setzt, trägt Preis-, Ausfall- und Abkündigungsrisiken. So kombinieren Sie Modelle nach Aufgabe, bleiben wechselfähig und behalten die Kosten im Blick.

Niklas Coors
Niklas Coors Geschäftsführer, Plotdesk
Veröffentlicht
Lesezeit
11 Min.
Multi-Modell-Strategie: KI-Modelle kombinieren, Lock-in vermeiden

Das Wichtigste in Kürze

Eine Multi-Modell-Strategie ordnet jeder Aufgabe ein passendes KI-Modell zu, statt alles über einen Anbieter laufen zu lassen. Ziel ist nicht Vielfalt, sondern Wechselfähigkeit.

Abkündigungen sind der Regelfall, nicht die Ausnahme. OpenAI schaltet o4-mini am 23. Oktober 2026 und o3 sowie die GPT-5-Momentaufnahmen am 11. Dezember 2026 in der Schnittstelle ab (OpenAI Deprecations, abgerufen am 14.09.2026).

Auch Preise sind nicht dauerhaft. Google weist für Gemini 3.8 Flash 0,75 $ je Million Eingabe-Tokens bis zum 31. Dezember 2026 aus und ab dem 1. Januar 2027 das Doppelte (Gemini API Preise).

Der Markt wechselt selten den Anbieter, aber ständig das Modell. Laut Menlo Ventures (Umfrage unter 150 technischen Entscheidern, Juni bis Juli 2025) haben 11 % den Anbieter gewechselt, 66 % beim selben Anbieter auf ein neueres Modell umgestellt und 23 % nichts geändert.

Zwei bis drei Modelle reichen zum Start. Wichtig sind klare Zuständigkeiten, ein Ausweichpfad und Messung je Anwendungsfall, nicht eine möglichst lange Modellliste.

Eine Multi-Modell-Strategie ist die Antwort auf ein einfaches Problem: Modelle veralten schneller als die Prozesse, die auf ihnen laufen. Zwischen Juni und September 2026 haben alle drei großen Anbieter ihre Spitzenmodelle ausgetauscht, und mehrere ältere Modelle verschwinden noch in diesem Jahr aus den Schnittstellen. Wer einen Prozess fest an ein Modell gebunden hat, plant damit alle paar Monate eine Migration ein.

Dieser Leitfaden zeigt, wie Sie Modelle nach Aufgabe kombinieren, ohne sich in Komplexität zu verlieren: welche Risiken ein einziges Modell mit sich bringt, welche Rollen ein Modellportfolio abdecken sollte, wie die Umstellung in fünf Schritten abläuft und worauf Sie bei Lizenzen und Datenschutz achten müssen.

Was ist eine Multi-Modell-Strategie?

Eine Multi-Modell-Strategie ist eine Architektur, in der mehrere KI-Modelle parallel angebunden sind und jede Aufgabe dem Modell zugewiesen wird, das sie am wirtschaftlichsten löst. Die Zuordnung liegt in der Plattform, nicht bei den Nutzenden, und sie lässt sich ändern, ohne die Anwendung umzubauen.

Davon zu unterscheiden ist Vendor Lock-in: die Bindung an einen Anbieter, die nicht aus einem Vertrag entsteht, sondern aus technischen Abhängigkeiten. Vier Formen treten regelmäßig auf:

  • Prompts und Anweisungen, die auf das Verhalten eines Modells hin optimiert wurden.
  • Anbieterspezifische Funktionen und Werkzeugschnittstellen, die es woanders nicht gibt.
  • Verhaltensunterschiede, die einen Wechsel ohne erneute Prüfung riskant machen.
  • Nachtrainierte Modelle, die sich nicht auf einen anderen Anbieter übertragen lassen.

Die Beobachtung von Andreessen Horowitz aus der Befragung von 100 IT-Verantwortlichen passt dazu: Der Hauptgrund für mehrere Anbieter ist nicht die Angst vor Abhängigkeit, sondern die unterschiedliche Eignung je Anwendungsfall. Gleichzeitig sei der Wechsel durch agentische Abläufe eher schwieriger geworden (a16z, Mai 2025).

Warum ist ein einziges KI-Modell ein Risiko?

Weil Verfügbarkeit, Preis und Lebensdauer eines Modells beim Anbieter liegen und nicht bei Ihnen. Vier Risiken lassen sich am aktuellen Stand belegen.

Abkündigung. OpenAI nennt in der Dokumentation feste Abschalttermine: o4-mini am 23. Oktober 2026, o3 und die GPT-5-Momentaufnahmen am 11. Dezember 2026, ältere GPT-4o-Stände ebenfalls im Oktober 2026, jeweils mit einem benannten Nachfolgemodell. Wer seine Prompts auf ein abgekündigtes Modell abgestimmt hat, muss zum Stichtag liefern.

Preisänderung. Google weist für Gemini 3.8 Flash aus, dass der Einführungspreis bis zum 31. Dezember 2026 gilt und sich zum 1. Januar 2027 verdoppelt. Wer kalkuliert hat, rechnet neu.

Verfügbarkeit und Reifegrad. Modelle erscheinen zuerst in Vorschauversionen, teils nur in bestimmten Regionen. Ein Anwendungsfall, der ein Vorschaumodell voraussetzt, ist kein Anwendungsfall, sondern ein Versprechen.

Lizenz und Recht. Bei offenen Modellen ist die Lizenz Teil der Auswahl. Meta schließt für die multimodalen Llama-4-Modelle Unternehmen mit Hauptsitz in der EU ausdrücklich von den eingeräumten Rechten aus (Llama 4 Use Policy). Was technisch läuft, ist damit nicht automatisch erlaubt.

Dazu kommt der Betriebsfall: Fällt ein Anbieter aus oder greift ein Anfragelimit, steht ohne zweites Modell der Prozess still. Das ist kein theoretisches Risiko, sondern die Frage, ob Ihr Service-Chat auch am Montagvormittag antwortet.

Wie viele Modelle nutzen Unternehmen wirklich?

Größere Unternehmen setzen meist mehrere Modelle ein: In einer Umfrage von Andreessen Horowitz nutzten 37 % fünf oder mehr. Zwei Erhebungen geben dazu die belastbarsten Anhaltspunkte:

  • Andreessen Horowitz befragte 100 IT-Verantwortliche aus 15 Branchen (Stand Mai 2025): 37 % setzen fünf oder mehr Modelle ein, ein Jahr zuvor waren es 29 %.
  • Menlo Ventures befragte 150 technische Entscheider in Unternehmen und Start-ups (Juni bis Juli 2025): 11 % wechselten den Anbieter, 66 % stiegen beim selben Anbieter auf ein neueres Modell um, 23 % änderten nichts (Menlo Ventures).

Beide Zahlen beschreiben Großunternehmen und Start-ups, nicht den deutschen Mittelstand. Die Richtung ist trotzdem eindeutig: Der häufigste Wechsel ist der Generationswechsel beim gleichen Anbieter, und genau der kommt planbar alle paar Monate. Wer schon diesen Fall als Projekt behandeln muss, hat beim echten Anbieterwechsel ein deutlich größeres vor sich.

Wie verbreitet KI insgesamt ist, zeigt die Bitkom-KI-Studie vom 14. September 2026: 57 % der Unternehmen ab 20 Beschäftigten setzen KI ein, 11 % haben KI-Agenten im Einsatz (Bitkom). Mit Agenten steigt die Abhängigkeit von einem bestimmten Modellverhalten weiter.

Welche Rolle übernimmt welches Modell?

Denken Sie in Rollen statt in Produktnamen. Rollen bleiben stabil, während die Modelle darunter alle paar Monate wechseln. Vier bis fünf Rollen decken den Bedarf der meisten Unternehmen ab.

Rollen in einem Modellportfolio
Rolle Wofür Worauf achten
Arbeitspferd Alltag: Textentwürfe, Zusammenfassungen, Recherche, Auswertungen Preis-Leistung, ausreichendes Kontextfenster, stabile Antwortzeiten. Hier entsteht der größte Teil der Kosten
Günstige Stufe Klassifizierung, Weiterleitung, Vorfilter, Massenverarbeitung Sehr niedriger Tokenpreis, maschinell prüfbares Ergebnis
Spitzenmodell Entscheidungsvorlagen, schwierige Analysen, anspruchsvolle Programmierarbeit Gezielt freigeben, nicht als Voreinstellung. Der Aufpreis lohnt nur, wenn ein Fehler teurer ist als die Anfrage
Multimodales Modell Bilder, Videos, Audio, gescannte Unterlagen Welche Eingabearten die Modellkarte tatsächlich nennt, nicht was die Ankündigung verspricht
Offenes Modell Besonders sensible Daten, Betrieb im eigenen Haus Lizenz prüfen, Betriebsaufwand einrechnen. Offen heißt nicht automatisch datenschutzkonform

Welche konkreten Modelle diese Rollen im September 2026 ausfüllen und was sie kosten, steht im LLM-Vergleich 2026. Wann sich für eine Rolle der Betrieb im eigenen Rechenzentrum lohnt, rechnet der Leitfaden zu offenen Sprachmodellen durch.

In fünf Schritten zur Multi-Modell-Architektur

Der Weg zur Multi-Modell-Architektur führt über fünf Schritte: Fälle gruppieren, mit eigenen Anfragen messen, Zuordnung und Ausweichpfad festlegen, Kosten sichtbar machen und quartalsweise nachziehen.

1

Anwendungsfälle gruppieren

Sortieren Sie Ihre Fälle nach Volumen, Genauigkeitsanspruch, erlaubter Antwortzeit und Datenklasse. Aus diesen vier Angaben ergibt sich die Rolle, nicht aus dem Produktnamen eines Anbieters.

2

Mit eigenen Fällen messen

Sammeln Sie je Rolle zehn bis zwanzig echte Anfragen mit einer gewünschten Antwort und lassen Sie die Kandidaten dagegen laufen. Bewerten Sie Qualität, Kosten und Antwortzeit gemeinsam. Öffentliche Benchmarks messen nicht Ihre Sprache und nicht Ihre Dokumente. Vorgehen und Werkzeuge dafür stehen im Leitfaden zu Evaluation und Beobachtbarkeit.

3

Zuordnung und Ausweichpfad festlegen

Halten Sie je Anwendungsfall fest: Standardmodell, Eskalationsmodell, Ausweichmodell bei Ausfall und wer die Zuordnung ändern darf. Diese Regeln gehören in die Plattform, nicht in die Köpfe einzelner Teams.

4

Kosten und Qualität sichtbar machen

Messen Sie je Anwendungsfall, welches Modell wie oft läuft, was es kostet und wie lange es braucht. Ohne diese Sicht bleibt jede Optimierung Meinung. Mehr dazu im Leitfaden zu Token-Kosten und FinOps.

5

Quartalsweise nachziehen

Prüfen Sie einmal je Quartal die Abkündigungslisten der Anbieter, lassen Sie Ihre Testfälle erneut laufen und passen Sie die Zuordnung an. Ein Generationswechsel ist dann eine Einstellung und kein Projekt.

Worauf Sie bei Lizenzen und Datenschutz achten müssen

Auf Verarbeitungsort, Lizenz und Nachvollziehbarkeit, denn jedes weitere Modell bringt ein eigenes Rechtsverhältnis mit. Diese drei Punkte gehören in jede Modellentscheidung.

Erstens der Verarbeitungsort. Für jede berufliche Nutzung mit Personenbezug brauchen Sie einen wirksamen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO. Die Wege in die EU unterscheiden sich je Anbieter: Microsoft Foundry mit EU-Datenzone, regionale Endpunkte bei Amazon Bedrock oder Google Cloud, europäische Anbieter oder der Eigenbetrieb offener Modelle. Details dazu stehen im LLM-Vergleich 2026 und im Leitfaden zu DSGVO-konformen KI-Lösungen.

Zweitens die Lizenz. Offene Gewichte sind nicht gleich freie Nutzung. Mistral veröffentlicht die Mistral-3-Familie unter Apache 2.0, andere Anbieter arbeiten mit eigenen Bedingungen. Meta nimmt Unternehmen mit Hauptsitz in der EU bei den multimodalen Llama-4-Modellen ausdrücklich von den eingeräumten Rechten aus. Prüfen Sie die Lizenz, bevor ein Modell in einen Prozess wandert, nicht danach.

Drittens die Nachvollziehbarkeit. Wenn dieselbe Anfrage je nach Auslastung auf unterschiedlichen Modellen landet, muss protokolliert sein, welches Modell geantwortet hat. Das brauchen Sie für Fehlersuche, für Qualitätsmessung und für Nachweise.

Seit dem 2. August 2026 gelten zudem die Transparenzpflichten aus Art. 50 der KI-Verordnung, etwa der Hinweis, dass Nutzer mit einer KI sprechen. Diese Einordnung ersetzt keine Rechtsberatung.

Wie Plotdesk Modellfreiheit umsetzt

Plotdesk verbindet eine KI-Plattform mit einem Umsetzungsteam für den Mittelstand. Modellfreiheit ist dabei kein Zusatz, sondern der Aufbau: Im Model Garden binden wir mehr als 100 Modellvarianten aus zehn Provider-Typen an, darunter OpenAI, Anthropic, Azure AI Foundry, Google Vertex AI, Amazon Bedrock, Mistral und selbst betriebene offene Modelle über OpenAI-kompatible Endpunkte.

Welche Modelle ein Team, eine Gruppe oder eine einzelne Anwendung nutzen darf, steuern Sie zentral. Damit bleibt der Alltag auf einem günstigen Modell, während ein Fachbereich für seine Analysen ein Spitzenmodell bekommt. Nutzungs- und Kostenanalysen zeigen je Bereich, was tatsächlich anfällt.

SSO, Rollen, mehr als 40 Berechtigungen und Audit-Logs regeln und dokumentieren, wer was nutzen darf. Betrieben wird das als dedizierte Instanz in der EU oder im eigenen Tenant, angebunden an ERP, CRM, Fileserver und Altsysteme über Plotdesk Connect.

Kündigt ein Anbieter ein Modell ab oder ändert Preise, passen Sie die Freigabe an und prüfen die betroffenen Anwendungsfälle mit Ihren Testfällen. Anwendungen, Vorlagen und Abläufe bleiben bestehen. Welche Fälle zuerst auf die neue Architektur gehören, ordnen wir in der KI-Potenzialanalyse ein, mit 1.200+ Use Cases in 15 Branchen als Vergleichsbasis.

Die wichtigste Eigenschaft einer KI-Plattform ist nicht, welches Modell heute darin läuft. Sondern wie schnell ein anderes darin laufen kann.
Niklas Coors
Niklas Coors Geschäftsführer, Plotdesk

Die häufigsten Fallstricke

Die typischen Fallstricke haben weniger mit Technik zu tun als mit fehlenden Regeln und fehlender Messung. Diese fünf sollten Sie kennen:

  • Zu viele Modelle ohne Regeln. Fünf Modelle ohne festgelegte Zuständigkeit erzeugen Aufwand statt Nutzen. Starten Sie mit zwei bis drei und erweitern Sie anhand von Messwerten.
  • Auswahl nach Ankündigung. Ein neues Spitzenmodell ist kein Grund für eine Umstellung. Der Grund ist ein Testergebnis.
  • Uneinheitliche Prompts je Team. Wenn jedes Team eigene Anweisungen pflegt, ist jeder Modellwechsel ein Sammelprojekt. Zentrale Vorlagen und Verhaltensregeln senken diesen Aufwand deutlich.
  • Kein Ausweichpfad. Ein Ausfall des Hauptanbieters fällt erst auf, wenn er eintritt. Legen Sie vorher fest, was dann passiert.
  • Keine Kostensicht. Ohne Auswertung je Anwendungsfall fällt erst am Monatsende auf, dass eine Standardanfrage auf dem teuersten Modell läuft.

Häufige Fragen zur Multi-Modell-Strategie

Wie viele KI-Modelle braucht ein mittelständisches Unternehmen?

Zwei bis drei reichen für den Start: ein Arbeitspferd für den Alltag, eine günstige Stufe für Massenaufgaben und bei Bedarf ein Spitzenmodell für schwierige Fälle. Erweitern Sie erst, wenn ein Anwendungsfall es messbar verlangt, etwa multimodale Eingaben oder besonders sensible Daten.

Was kostet ein Modellwechsel?

Das hängt fast vollständig vom Aufbau ab. Sind Prompts, Vorlagen und Abläufe zentral gepflegt und Modelle über eine Plattform freigegeben, ist ein Wechsel eine Einstellung plus ein erneuter Testlauf. Sind sie in Anwendungen fest verdrahtet, wird daraus ein Projekt mit Neuformulierung, Integration und Freigabe.

Was bedeutet Vendor Lock-in bei KI konkret?

Die technische Bindung an einen Anbieter: Prompts, die auf ein Modellverhalten hin optimiert sind, anbieterspezifische Funktionen, nachtrainierte Modelle und Integrationen, die es woanders nicht gibt. Der Vertrag ist selten das Problem, der Aufwand für den Wechsel ist es.

Sind offene Modelle automatisch datenschutzkonform?

Nein. Entscheidend sind Betrieb, Zugriffe, Protokolle und Rechtsgrundlage, nicht die Lizenz des Modells. Ein selbst betriebenes Modell hält die Daten im eigenen Haus, ersetzt aber weder Rollen- und Rechtekonzept noch Dokumentation. Zusätzlich ist die Lizenz zu prüfen: Meta schließt EU-Unternehmen bei den multimodalen Llama-4-Modellen von den eingeräumten Rechten aus.

Wie oft sollte ich die Modellauswahl überprüfen?

Einmal je Quartal als fester Rhythmus, zusätzlich anlassbezogen bei Abkündigungen, Preisänderungen oder neuen Modellstufen. Die Prüfung besteht aus einem erneuten Lauf Ihrer Testfälle und einer Entscheidung anhand der Ergebnisse.

Fazit: Wechselfähigkeit ist die eigentliche Kennzahl

Multi-Modell ist kein Selbstzweck. Wer fünf Modelle ohne Regeln betreibt, hat mehr Aufwand und nicht weniger Risiko. Der Nutzen entsteht aus drei Dingen: einer Zuordnung von Aufgabe zu Modellrolle, einer zentralen Stelle, an der diese Zuordnung geändert werden kann, und einer Messung, die zeigt, ob die Entscheidung noch stimmt.

Die ehrliche Frage an den eigenen Stack lautet deshalb nicht, wie viele Modelle angebunden sind, sondern wie lange ein Wechsel dauert. Liegt die Antwort bei Stunden, ist die Architektur in Ordnung. Liegt sie bei Monaten, ist der nächste Generationswechsel bereits eingeplant, nur weiß es noch niemand.

Zuletzt redaktionell überarbeitet am

Nächster Schritt

Finden wir den Prozess, der sich für Sie rechnet.

In der persönlichen KI-Potenzialanalyse prüfen wir Ihre Ausgangslage und entwickeln eine konkrete Hypothese für den schnellsten wirtschaftlichen Hebel. Von der ersten Idee bis zur Lösung im Betrieb.

Persönlich sprechen
  • 1.200+Use Cases in 15 Branchen
  • 4 Wochenbis zum ersten Ergebnis im Betrieb
  • DediziertIhre Instanz in der EU oder in Ihrem eigenen Tenant

Die Expertise und Kreativität haben zu einer Lösung geführt, die unternehmensweit großen Anklang findet. Paul Töws, AI Hub Lead, Melitta

Persönliche Einschätzung

Wo liegt Ihr größter KI-Hebel?

Vier kurze Fragen zu Ihrem Unternehmen. Wir prüfen Ihre Angaben persönlich und melden uns mit einer ersten Einschätzung.

Persönliche Analyse

Wo liegt Ihr größter KI-Hebel?

Vier kurze Fragen zu Ihrem Unternehmen. Wir prüfen Ihre Angaben persönlich und bereiten eine erste Einschätzung vor.

Niklas CoorsGeschäftsführer · Strategie

Schritt 1 von 5
In welcher Branche arbeitet Ihr Unternehmen?

Damit ordnen wir passende Referenzen und Use Cases zu.

Wie groß ist Ihr Unternehmen?

So können wir einschätzen, was zu Ihrem Unternehmen und Ihren Teams passt.

Wo stehen Sie heute mit KI?

Welche Aussage beschreibt Ihren Arbeitsalltag am besten?

Welcher Hebel hat gerade höchste Priorität?

Wählen Sie den Bereich, in dem ein Ergebnis am meisten bewegen würde.

Wie dürfen wir Sie erreichen?

Wir prüfen, wo KI in Ihrem Unternehmen konkret helfen kann, und melden uns persönlich mit einer ersten Einschätzung.