Das Wichtigste in Kürze
- Souveräne KI ist eine Architekturfrage, keine Gesinnungsfrage. Sie hat vier Dimensionen: Wo liegen die Daten, wer betreibt, wer hält die Schlüssel, welches Recht gilt für den Betreiber.
- Der Serverstandort allein genügt nicht. Der US CLOUD Act verpflichtet US-Unternehmen unabhängig davon, wo die Daten liegen. Umgekehrt sind Übermittlungen in die USA seit 2023 über das EU-US Data Privacy Framework möglich, das das Gericht der EU im September 2025 bestätigt hat.
- Der Nachfragedruck ist belegt: 78 Prozent der Unternehmen halten Deutschland für zu abhängig von US-Cloud-Anbietern, 82 Prozent wünschen sich europäische Hyperscaler (Bitkom Cloud Report 2025, 604 Unternehmen ab 20 Beschäftigten).
- 2026 gibt es erstmals echte Wahl: AWS European Sovereign Cloud in Brandenburg, die Industrial AI Cloud von Telekom und NVIDIA in München, Microsofts souveräne Cloud-Angebote, SAP mit Mistral, STACKIT und europäische Anbieter offener Modelle.
- Nicht jeder Anwendungsfall braucht die höchste Stufe. Vier Stufen von der EU-Region bis zum abgeschotteten Eigenbetrieb reichen aus, um pro Anwendungsfall sauber zu entscheiden. Stand: September 2026.
Souveräne KI war 2024 ein Konferenzbegriff. 2026 ist sie eine Entscheidung mit Zahlen dahinter. Die Infrastruktur steht: Die AWS European Sovereign Cloud ist seit Januar 2026 in Brandenburg verfügbar, die Industrial AI Cloud von Telekom und NVIDIA läuft seit Februar 2026 in München, SAP und Mistral haben im November 2025 eine Souveränitäts-Allianz angekündigt, und Cohere hat im April 2026 die Übernahme von Aleph Alpha bekannt gegeben.
Gleichzeitig ist die Nachfrage messbar: Laut Bitkom Cloud Report 2025 halten 78 Prozent der befragten Unternehmen Deutschland für zu abhängig von US-Cloud-Anbietern, 82 Prozent wünschen sich große europäische Anbieter. In der Bevölkerung sehen 68 Prozent Deutschland bei KI zu stark von den USA und China abhängig (Bitkom-Befragung von 1.005 Personen, Mai 2025).
Dieser Leitfaden sortiert die Lage nüchtern: Was souveräne KI wirklich bedeutet, welche Stufen es gibt, welche davon Ihr Unternehmen tatsächlich braucht, und wie Sie zwischen europäischen Anbietern und US-Modellen mit EU-Verarbeitung entscheiden.
Was bedeutet souveräne KI?
Souveräne KI ist die Fähigkeit einer Organisation, selbst zu bestimmen, wie KI betrieben und genutzt wird, innerhalb klarer geografischer und rechtlicher Grenzen. Das umfasst mehr als den Datenstandort: Es geht auch um Modellgewichte, Schlüssel, Betriebspersonal und die Rechtsordnung, der ein Anbieter unterliegt.
Praktisch lässt sich das in vier Dimensionen prüfen. Wer eine davon auslässt, hat am Ende ein Souveränitätsversprechen ohne Substanz.
Datenstandort
Wo liegen die Daten physisch, einschließlich Sicherungen, Protokollen und Telemetrie? Reicht eine EU-Region, oder muss es Deutschland sein? Diese Stufe lösen alle großen Anbieter heute zumindest formal.
Verarbeitung und Betrieb
Wer betreibt die Plattform, und wer kann im Support darauf zugreifen? Können Daten für Diagnose oder Weiterentwicklung in Drittländer fließen? Hier scheitern viele EU-Versprechen am Kleingedruckten.
Verschlüsselung und Schlüssel
Wer hält die Schlüssel? Kundenverwaltete Schlüssel oder ein eigenes Hardware-Sicherheitsmodul heben die Vertraulichkeit auf eine andere Stufe. Die großen Anbieter bieten das inzwischen an.
Recht und Durchsetzung
Welcher Rechtsordnung unterliegt der Betreiber? Kann eine Behörde außerhalb der EU Zugriff verlangen, obwohl der Server in Frankfurt steht? Diese Frage trennt echte von kosmetischer Souveränität.
Die häufigste Fehlannahme lautet: Server in Deutschland gleich souverän. Der US CLOUD Act von 2018 verpflichtet US-Unternehmen unabhängig vom Speicherort zur Herausgabe von Daten, die sie kontrollieren.
Die EU hat mit dem EU Data Act gegengesteuert, der seit dem 12. September 2025 anwendbar ist und Anbieter von Datenverarbeitungsdiensten verpflichtet, Maßnahmen gegen unrechtmäßigen Zugriff von Drittstaatsbehörden auf nicht personenbezogene Daten zu treffen. Damit bleibt ein struktureller Konflikt, in dem US-Anbieter zwei Rechtsordnungen gleichzeitig genügen müssen.
Souveränität ist deshalb kein Schalter, sondern ein Spektrum. Die eigentliche Aufgabe besteht darin, je Anwendungsfall die passende Stufe zu wählen.
Europäische KI-Modelle oder US-Anbieter?
Die Frage wird oft als Entweder-oder gestellt und ist in der Praxis eine Frage des Weges: Fast jedes relevante Modell lässt sich entweder direkt beim Anbieter oder über eine Plattform mit EU-Verarbeitung nutzen. Rechtlich entscheidend ist nicht die Herkunft des Modells, sondern wo verarbeitet wird, wer Vertragspartner ist und welche Zusagen im Auftragsverarbeitungsvertrag stehen.
Zum Rechtsstand: Übermittlungen personenbezogener Daten in die USA sind auf Grundlage des Angemessenheitsbeschlusses zum EU-US Data Privacy Framework vom Juli 2023 an zertifizierte Unternehmen möglich. Das Gericht der Europäischen Union hat den Beschluss am 3. September 2025 bestätigt; ein Rechtsmittel beim Europäischen Gerichtshof ist anhängig.
Die pauschale Aussage „US-Anbieter sind wegen Schrems II unzulässig" ist damit überholt. Unabhängig davon bleibt der CLOUD Act ein Souveränitätsthema, das Sie in der Risikobewertung dokumentieren sollten. Diese Einordnung ersetzt keine Rechtsberatung.
Zugangswege je Modellfamilie
| Modellfamilie | Direkter Weg | Weg mit EU-Verarbeitung |
|---|---|---|
| GPT-Modelle (OpenAI) | Programmierschnittstelle von OpenAI | Über Microsoft Foundry mit einer Bereitstellung in der EU-Datenzone, je nach Modell |
| Claude-Modelle (Anthropic) | Programmierschnittstelle von Anthropic | Über AWS Bedrock mit EU-Regionen oder Google Vertex AI, je nach Modell |
| Gemini-Modelle (Google) | Gemini-Programmierschnittstelle | Über Google Cloud Vertex AI in EU-Regionen |
| Mistral (Frankreich) | Mistral-Plattform | Zusätzlich über Hyperscaler und SAP; offene Modelle selbst betreibbar |
| Offene Modelle (gpt-oss, DeepSeek, Apertus) | Dienste der jeweiligen Anbieter | EU-Inferenz bei IONOS, OVHcloud oder STACKIT, oder Betrieb im eigenen Haus |
Wichtig bei allen Wegen mit EU-Verarbeitung: Neue Modelle erscheinen häufig zuerst in globalen Bereitstellungen, EU-gebundene Varianten folgen später. Microsoft dokumentiert diese Reihenfolge für Foundry ausdrücklich, und auch bei AWS Bedrock hängt die EU-Verfügbarkeit vom einzelnen Modell ab.
Zwei Punkte werden bei dieser Entscheidung regelmäßig falsch eingeschätzt. Erstens die Qualität: Europäische Modelle sind kein Kompromiss mehr, Mistral gibt für Medium 3.5 in der Modellkarte 77,6 Prozent auf SWE-bench Verified an, also nahe an den Spitzenwerten.
Zweitens die Lizenz: Die multimodalen Llama-4-Modelle sind für Unternehmen mit Hauptsitz in der EU laut Metas Nutzungsrichtlinie ausgenommen. Mehr dazu im Leitfaden zu Open-Source-LLMs und Self-Hosting.
Zur Anbieterlandschaft gehört auch, dass sich Eigentumsverhältnisse ändern: Für Aleph Alpha, lange das deutsche Aushängeschild, hat Cohere aus Kanada im April 2026 die Übernahme angekündigt, finanziert unter anderem von der Schwarz-Gruppe, deren Cloud-Sparte STACKIT als Betriebsbasis vorgesehen ist. Wer Souveränität am Firmensitz festmacht, muss solche Änderungen laufend nachziehen.
Welche Souveränitätsstufe braucht Ihr Unternehmen?
Nicht jeder Anwendungsfall braucht die höchste Stufe, in der Praxis reichen vier Stufen von der EU-Region bis zum abgeschotteten Eigenbetrieb.
Forrester nennt den risikobasierten Ansatz treffend Minimum Viable Sovereignty: die kleinste Menge überprüfbarer Kontrollen, die die dringendsten Anforderungen erfüllt.
Vier Stufen der Souveränität
| Stufe | Was sie bedeutet | Typische Anwendungsfälle | Passt zu |
|---|---|---|---|
| S1 Basis | EU-Region, Auftragsverarbeitungsvertrag, Standardverträge | Marketingtexte, Recherche, Übersetzung | Standardfälle mit geringem Risiko |
| S2 EU-Verarbeitung mit eigenen Schlüsseln | EU-Bereitstellung, kundenverwaltete Schlüssel, klare Supportwege | Inhalte aus CRM, ERP und Personalprozessen, Vertragsdaten | Mittelstand mit Geschäftsgeheimnissen |
| S3 Souveräne Cloud | Getrennte Infrastruktur, Betrieb durch EU-Personal | Regulierte Workloads, kritische Infrastruktur, sensible Personendaten | Banken, Versicherungen, Energie, öffentliche Hand |
| S4 Eigenbetrieb oder Air-Gap | Eigene Hardware oder abgeschottete Umgebung, offene Modelle | Geheimschutz, besonders schutzwürdige Entwicklung | Verteidigung, Behörden, Forschung mit hohem Schutzbedarf |
Die strategische Konsequenz
In den meisten Unternehmen entsteht ein Mehrstufen-Setup: Der Großteil der Anwendungsfälle läuft auf S1 oder S2, ein kleinerer Teil auf S3, und nur einzelne Fälle rechtfertigen S4. Wer alles auf S4 zwingt, bremst die Einführung aus. Wer alles auf S1 lässt, riskiert Vorfälle in genau den Bereichen, die weh tun. Die Plattform muss deshalb mehrere Stufen parallel tragen können, ohne dass Sie Wissensbasen und Abläufe zweimal bauen.
Die Anbieterlandschaft 2026
2026 ist das erste Jahr, in dem die Lücke zwischen Anspruch und Angebot geschlossen ist. Die folgende Übersicht ist bewusst kein Ranking: Welche Option passt, hängt vom Anwendungsfall ab.
- AWS European Sovereign Cloud. Seit dem 14. Januar 2026 allgemein verfügbar, erste Region in Brandenburg, physisch und logisch getrennt, betrieben von in der EU ansässigem Personal, hinterlegt mit 7,8 Milliarden Euro.
- Microsoft mit souveränen Angeboten. Neben der EU-Datengrenze gibt es seit Juni 2025 eine souveräne öffentliche Cloud mit Betrieb durch europäisches Personal, kundenverwalteten Schlüsseln und einer Zugriffskontrolle für Fernwartung. In Deutschland kommt die Delos Cloud dazu, betrieben von einer SAP-Tochter für den öffentlichen Sektor.
- Industrial AI Cloud von Telekom und NVIDIA. Seit dem 4. Februar 2026 in München in Betrieb, knapp 10.000 Blackwell-GPUs, bis zu 0,5 ExaFLOPS, Investition rund eine Milliarde Euro, rund 50 Prozent mehr KI-Rechenleistung in Deutschland. Als Partner nennt die Telekom unter anderem Siemens, SAP, Agile Robots und PhysicsX.
- SAP und Mistral. Die Allianz vom 18. November 2025 bringt Mistral-Modelle in die SAP-Plattform, mit einer eigenen Souveränitäts-Säule für den öffentlichen Sektor, beginnend in Deutschland.
- Europäische Anbieter offener Modelle. IONOS, OVHcloud und STACKIT betreiben offene Modelle in europäischen Rechenzentren. STACKIT nennt dafür die Region Germany South und sagt zu, dass Daten und Abfragen weder gespeichert noch zum Training verwendet werden.
Fünf Mythen über souveräne KI
Die meisten Fehlentscheidungen rund um souveräne KI beruhen auf Vereinfachungen: beim Standort, bei offenen Modellen und beim Rechtsrahmen. Diese fünf begegnen uns am häufigsten.
„Server in Deutschland heißt souverän"
Falsch, solange der Anbieter US-Recht unterliegt. Der CLOUD Act gilt unabhängig vom Standort. Umgekehrt macht ein US-Sitz eine Verarbeitung nicht automatisch unzulässig.
„Open Source ist automatisch souverän"
Offene Gewichte sind ein Baustein. Ohne kontrollierte Infrastruktur, Schlüsselverwaltung, Rechte und Protokollierung ist ein offenes Modell nicht souveräner als eine fremde Schnittstelle.
„Europäische Modelle sind deutlich schwächer"
Für viele Unternehmensaufgaben stimmt das nicht mehr. Mistral Medium 3.5 erreicht laut Modellkarte 77,6 Prozent auf SWE-bench Verified. Der Abstand zeigt sich vor allem bei agentischen und multimodalen Aufgaben.
„Die KI-Verordnung bevorzugt europäische Anbieter"
Nein. Nach Art. 2 Abs. 1 der KI-Verordnung gilt sie für Anbieter unabhängig davon, ob sie in der Union oder in einem Drittland niedergelassen sind, sobald sie KI in der Union in Verkehr bringen.
„Souveränität ist ein IT-Thema"
Souveränität ist eine Geschäftsentscheidung: Welche Daten dürfen das Unternehmen unter welchen Bedingungen verlassen, und welcher Vorfall wäre geschäftsschädigend? Diese Antworten kommen aus der Geschäftsführung, die IT setzt sie um.
Was der Rechtsrahmen 2026 verlangt
Souveränität und Regulierung werden häufig vermischt. Für die Planung hilft die Trennung: Die KI-Verordnung regelt, welche Pflichten je nach Risikoklasse gelten, die DSGVO regelt die Verarbeitung personenbezogener Daten, und Souveränität ist eine Architekturentscheidung, die beides erleichtert, aber keine Pflicht erfüllt.
Für den Zeitplan gilt der Stand nach dem Digital Omnibus. Die Transparenzpflichten gelten bereits, die Hochrisiko-Pflichten folgen später als ursprünglich vorgesehen.
In Deutschland ist die Bundesnetzagentur als zentrale Aufsicht für die Marktüberwachung benannt. Laut Bitkom-KI-Studie vom September 2026 sehen sich 37 Prozent der Unternehmen von der KI-Verordnung betroffen, nach 23 Prozent im Vorjahr; 66 Prozent der Nichtnutzer nennen Rechtsunsicherheit als Hürde. Wer seine Anwendungsfälle früh einordnet, nimmt genau diese Unsicherheit aus der Diskussion. Die Details stehen im Compliance-Leitfaden zu DSGVO und KI-Verordnung.
Fahrplan: In sechs Schritten zur souveränen KI-Architektur
Eine souveräne KI-Architektur entsteht aus Datenklassen und Anwendungsfällen, nicht aus einer Anbieterliste. Die folgenden sechs Schritte führen von der Klassifikation bis zum skalierten Betrieb.
-
1
Daten klassifizieren, nicht Anbieter suchen
Öffentlich, intern, vertraulich, streng vertraulich. Diese Einteilung entscheidet über die nötige Souveränitätsstufe, nicht die Vorliebe für einen Anbieter.
-
2
Use Cases gegen Datenklassen kreuzen
Aus dieser Matrix entsteht die Anforderung: Diese drei Anwendungsfälle brauchen Stufe 3, der Rest läuft auf Stufe 1 oder 2.
-
3
Plattform statt Einzelteile
Eine Plattform, die mehrere Modelle, mehrere Betriebsmodelle, Rollen, Protokollierung und Kostensteuerung mitbringt, spart Monate gegenüber selbst gebauter Orchestrierung.
-
4
Verträge sauber ziehen
Auftragsverarbeitungsvertrag nach Art. 28 DSGVO, Standardvertragsklauseln bei Drittlandbezug, Regelungen zu Unterauftragsverarbeitern und ein ausdrücklicher Abschnitt zum behördlichen Zugriff.
-
5
KI-Anwendungen inventarisieren
Welche Anwendung nutzt welches Modell, welche Daten, welche Rolle haben Sie dabei? Dieses Verzeichnis ist die Grundlage für jede Einordnung nach der KI-Verordnung.
-
6
Über Plattformeffekte skalieren
Ist der erste Anwendungsfall produktiv, sind Rechte, Anbindungen und Vorlagen vorhanden. Der zweite kostet einen Bruchteil. So entsteht ein Portfolio statt verstreuter Prototypen.
Die drei unterschätzten Kostenposten
Souveränität kostet, aber anders, als viele erwarten. Drei Posten tauchen in Kalkulationen selten auf und entscheiden am Ende über die Wirtschaftlichkeit.
- Rechenkapazität im Eigenbetrieb. Wer offene Modelle selbst betreibt, braucht GPU-Kapazität rund um die Uhr. Häufig ist eine souveräne Variante als Dienst wirtschaftlicher als eigenes Blech. Die Abwägung im Detail steht im Artikel zu KI-Betrieb zwischen Cloud und eigenem Rechenzentrum.
- Modellpflege. Wer sich auf eine Version festlegt, verliert über die Zeit Qualität gegenüber dem Markt. Eine Plattform, die den Modellwechsel ohne Umbau erlaubt, dämpft dieses Risiko. Die Hintergründe liefert der Multi-Modell-Leitfaden.
- Governance-Kapazität. DSGVO, KI-Verordnung und Branchenaufsicht erfordern Zuständigkeiten, nicht nur Dokumente. Diese Rollen kommen oft erst auf, wenn die Plattform schon läuft, und kosten dann doppelt.
Souveräne KI ist 2026 keine Frage von pro Europa oder pro USA. Es ist die Frage, ob Sie pro Anwendungsfall die richtige Stufe wählen können, ohne sich auf einen einzigen Anbieter, ein einziges Modell oder eine einzige Jurisdiktion festzulegen.
Wie Plotdesk Souveränität umsetzt
Plotdesk verbindet eine KI-Plattform mit einem Umsetzungsteam für den Mittelstand und betreibt jede Kundeninstanz dediziert: als Plotdesk Cloud, von Plotdesk betrieben und in der EU gehostet, als Private Cloud oder direkt im eigenen Tenant, zum Beispiel in Azure. Damit ist die Souveränitätsstufe eine Vertrags- und Architekturentscheidung, keine Produktgrenze.
Auf der Modellseite stehen mehr als 100 Modellvarianten aus zehn Provider-Typen zur Verfügung, von den großen US-Anbietern über Mistral bis zu offenen Modellen mit EU-Inferenz. Freigegeben werden sie pro Team, Gruppe und Anwendung. So kann die Entwicklung mit einem offenen Modell in Europa arbeiten, während das Marketing das stärkste verfügbare Modell nutzt. Lokale Systeme wie ERP, Fileserver oder Ticket-Systeme werden über Plotdesk Connect angebunden, statt Daten zu kopieren.
Dazu kommt die Governance-Schicht: Single Sign-On, Rollen und mehr als 40 Berechtigungen, verschlüsselte Zugangsdaten, Audit-Logs sowie Nutzungs- und Kostenanalysen je Bereich, vertraglich flankiert von einem DSGVO-konformen Auftragsverarbeitungsvertrag mit EU-Datenresidenz. Eingeführt wird in vier Schritten: KI-Potenzialanalyse, Proof of Value, produktive Lösung, systematischer Ausbau.
Häufige Fragen zu souveräner KI
Was ist souveräne KI in einem Satz?
Dürfen deutsche Unternehmen US-KI-Modelle nutzen?
Was bedeutet der CLOUD Act konkret für uns?
Sind europäische Modelle schlechter als GPT oder Claude?
Brauchen wir für souveräne KI ein eigenes Rechenzentrum?
Bevorzugt die KI-Verordnung europäische Anbieter?
Fazit: Souveränität ist Strategie, nicht Symbolik
2026 können deutsche Unternehmen zum ersten Mal wirklich wählen, wie souverän sie ihre KI aufstellen. Die Infrastruktur steht, die Modelle sind reif, die Verträge sind erprobt, und der Rechtsrahmen ist nach dem Digital Omnibus klarer als im Vorjahr.
Vier Punkte nehmen Sie mit: Souveränität hat vier Dimensionen, und der Standort ist nur eine davon. Vier Stufen genügen, um je Anwendungsfall angemessen zu entscheiden. Eine Plattform, die mehrere Modelle und mehrere Betriebsmodelle trägt, ist die wichtigste Vorinvestition. Und die Entscheidung, welche Daten das Unternehmen verlassen dürfen, gehört in die Geschäftsführung, nicht in die IT-Abteilung.
Wer es so angeht, baut keine politische Geste, sondern eine Architektur, die auch den nächsten Anbieterwechsel übersteht. Eine ergänzende Perspektive auf Rechte und Kontrolle im Alltag liefert der Artikel zu Schatten-KI im Unternehmen.