KI-Datenstrategie: So machen Sie Unternehmensdaten KI-fähig

Eine KI-Datenstrategie beantwortet die Frage, an der viele KI-Projekte scheitern: Welche Daten braucht der Anwendungsfall, wo liegen sie, wem gehören sie und wie gelangen sie sicher in das KI-System? KI selbst ist in deutschen Unternehmen inzwischen Alltag. Laut Bitkom-KI-Studie vom September 2026 setzen 57 % der Unternehmen ab 20 Beschäftigten KI ein, 2025 waren es 36 %.

Die Wirkung hält damit nicht Schritt. Kein befragtes Unternehmen schöpft das Potenzial von KI nach eigener Einschätzung vollständig aus, 59 % schöpfen es überhaupt nicht aus. Bei den Unternehmen ohne KI nennen 40 % fehlende Daten als Hürde. Bei den Nutzern taucht dieselbe Lücke als Kostenpunkt auf: Datenaufbereitung und Integration.

Dieser Leitfaden zeigt, was KI-fähige Daten ausmacht, welche sechs Dimensionen eine KI-Datenstrategie abdeckt, welche Architektur- und Vektordatenbank-Optionen es gibt, was Art. 10 der KI-Verordnung für Hochrisiko-Systeme verlangt und wie Sie in 90 Tagen den ersten produktiven Use Case auf eine saubere Datenbasis stellen.

Eine KI-Datenstrategie ist der verbindliche Plan, wie ein Unternehmen seine Daten für KI-Anwendungen auswählt, aufbereitet, schützt und bereitstellt. Sie ergänzt die klassische Datenstrategie um das, was erst mit KI wichtig wird: unstrukturierte Inhalte, Zugriff zur Laufzeit und die laufende Prüfung gegen den Anwendungsfall.

Der zentrale Begriff dahinter heißt KI-fähige Daten (englisch AI-Ready Data). Gartner beschreibt Daten als KI-fähig, wenn sie den konkreten Anwendungsfall repräsentieren, einschließlich der Muster, Fehler und Ausreißer, die ein Modell für genau diese Aufgabe kennen muss. Daraus folgen drei Verschiebungen gegenüber klassischer Datenqualität:

• Vom einmaligen Check zur laufenden Eignungsprüfung. Daten werden fortlaufend gegen den Use Case geprüft: Stimmt die Verteilung noch, wandern die Eingabedaten ab, arbeitet die Anwendung unter heutigen Bedingungen noch so wie beim Test?
• Von „sauber“ zu „repräsentativ“. Für Berichte werden Ausreißer bereinigt. Für KI können sie wichtig sein, weil das System sonst ein zu glattes Bild der Wirklichkeit bekommt.
• Von der IT zur Fachdomäne. Vertrieb, Einkauf, Produktion oder Service verantworten Definitionen, Qualitätsansprüche und Risiken ihrer Daten. Die IT betreibt die Plattform.

Laut Gartner-Analystin Roxane Edjlali ist KI-fähige Datenqualität immer vom Anwendungsfall abhängig; einmalige Qualitätsprüfungen reichen deshalb nicht (Gartner Data & Analytics Summit 2026, zusammengefasst von Atlan).

KI-Projekte scheitern an Daten, wenn Quellen verstreut, Verantwortlichkeiten ungeklärt und Qualitätsmaßstäbe nicht am Anwendungsfall ausgerichtet sind. Die Folge sind Piloten, die mit ausgewählten Testdaten überzeugen und im Betrieb nicht tragen.

Mehrere Studien zeigen dieses Muster. Gartner hat im Februar 2025 eine Umfrage unter 1.203 Data-Management-Verantwortlichen veröffentlicht: 63 % der Organisationen haben keine oder unsichere Datenmanagement-Praktiken für KI, und Gartner erwartet, dass bis Ende 2026 rund 60 % der KI-Projekte ohne KI-fähige Daten aufgegeben werden (Pressemitteilung).

Für die DACH-Region nennt die Studie „AI-ready Data Platforms 2026“ von Computerwoche und Lufthansa Industry Solutions als häufigste Bremsen mangelnde Datenqualität (30 %), fragmentierte Datenlandschaften (28 %) und träge IT-Prozesse (25 %). Das Modell steht nicht auf der Liste.

Auch die Wirkung hängt an den Daten. Laut der Precisely-Studie zu Datenintegrität und KI 2026 erzielen nur 34 % der deutschen Unternehmen einen positiven KI-ROI oder erwarten ihn in den nächsten sechs Monaten; in Großbritannien sind es mehr als 45 %.

Eine belastbare KI-Datenstrategie deckt sechs Dimensionen ab: Inventar, Verantwortung, Plattform, Zugriff, Herkunft und Verzerrungen sowie Kompetenz. Die Übersicht eignet sich als Raster für eine ehrliche Standortbestimmung mit IT und Fachbereichen.

Wer auf zwei oder mehr Dimensionen deutliche Lücken sieht, sollte sie vor dem breiten Rollout schließen. Sonst läuft jede neue KI-Initiative gegen dieselbe Wand. Für Dimension 4 lohnt der Blick auf die Anbindung der Kernsysteme, etwa ERP-Systeme mit KI verbinden. Für Dimension 6 hilft eine klare Organisationsform wie ein AI Center of Excellence, das Datenverantwortung und KI-Verantwortung zusammenführt.

Für den ersten Use Case brauchen die meisten Mittelständler keine neue Datenplattform, sondern eine saubere, berechtigte Anbindung der vorhandenen Systeme. Eine Lakehouse- oder Warehouse-Plattform lohnt sich, sobald mehrere Anwendungsfälle dieselben aufbereiteten Daten brauchen.

Ein Lakehouse verbindet die günstige Speicherung großer, auch unstrukturierter Datenmengen (Data Lake) mit der Struktur und Verwaltung eines Data Warehouse. Vier Plattformfamilien prägen die Entscheidung. Keine ist objektiv die richtige; es kommt auf Datenmenge, vorhandene Werkzeuge und das Profil der Use Cases an.

Stand: September 2026, laut Anbieterangaben. Prüfen Sie Verfügbarkeit und Lizenzbedingungen angekündigter Funktionen für Ihre Umgebung, bevor Sie Architekturentscheidungen daran knüpfen.

Zwei Entwicklungen erleichtern die Wahl. Snowflake und Databricks unterstützen beide das offene Tabellenformat Apache Iceberg, was Wechsel und Mischbetrieb vereinfacht. Und die Plattformen bringen KI-Funktionen näher an die Daten, statt Daten in eine getrennte KI-Umgebung zu kopieren. Für viele Mittelständler heißt der pragmatische Weg deshalb ergänzen statt ersetzen: Das Data Warehouse bleibt für Berichte, daneben entsteht eine Schicht für Dokumente, Suche und KI-Anwendungen.

Nein. Eine Vektordatenbank braucht, wer große Mengen unstrukturierter Inhalte für eine KI-Suche aufbereiten will; für strukturierte Abfragen reichen oft die vorhandenen Datenbanken. Wer bereits PostgreSQL betreibt, kann mit der Erweiterung pgvector starten, ohne eine weitere Datenbank einzuführen.

Eine Vektordatenbank speichert Texte, Dokumentteile oder Bilder als Embeddings, also als Zahlenreihen, die Bedeutung abbilden. So findet eine KI-Anwendung zu einer Frage die inhaltlich passenden Stellen und nutzt sie für ihre Antwort. Dieses Prinzip heißt Retrieval-Augmented Generation (RAG). Vier Optionen sind im Mittelstand verbreitet:

Stand: September 2026; aktuelle Preise stehen auf den verlinkten Anbieterseiten. Pinecone ist vollständig gemanagt und skaliert gut, bindet aber an einen US-Clouddienst ohne Selbstbetrieb. Wer bereits PostgreSQL betreibt, startet mit pgvector oft günstiger; Qdrant und Weaviate kommen infrage, wenn Volumen, Filterlogik oder Selbstbetrieb es verlangen.

Die Reihenfolge bleibt dieselbe: erst Daten ordnen und Rechte klären, dann die einfachste passende Suchschicht wählen und erst bei nachgewiesenem Bedarf auf eine Spezialdatenbank wechseln. Ob die Antworten gut genug sind, zeigt nicht die Datenbank, sondern eine laufende Evaluation der KI-Anwendung.

Art. 10 verlangt dokumentierte Daten-Governance für Trainings-, Validierungs- und Testdaten, gilt aber nur für Hochrisiko-KI-Systeme. Nach dem Digital Omnibus (Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026) greifen diese Pflichten für eigenständige Systeme nach Anhang III ab dem 2. Dezember 2027 und für Hochrisiko-KI in regulierten Produkten nach Anhang I ab dem 2. August 2028.

Hochrisiko-Systeme nach Anhang III sind etwa KI in der Personalauswahl, bei der Kreditwürdigkeitsprüfung, in der Bildung oder in kritischer Infrastruktur. Für sie nennt Art. 10 Anforderungen an die Daten-Governance, die sich in acht Punkten zusammenfassen lassen:

Drei praktische Folgen für die KI-Datenstrategie:

• Herkunft von Anfang an mitschreiben. Datenherkunft und Prüfungen lassen sich rückwirkend kaum herstellen. Wer Hochrisiko-Anwendungen plant, dokumentiert ab dem ersten Pipeline-Lauf, auch wenn die Pflicht erst Ende 2027 greift.
• Fachbereiche prüfen mit. Ob Daten verzerrt sind, kann die IT allein nicht beurteilen. Die Fachdomäne, deren Daten genutzt werden, gehört in die Prüfung.
• Auch ohne Hochrisiko lohnt die Dokumentation. Sie beschleunigt Audits, Kundenanfragen zur KI-Governance und eine mögliche Zertifizierung nach ISO/IEC 42001, der Norm für KI-Managementsysteme.

Ob ein konkretes System als hochriskant gilt, hängt vom Einsatzzweck ab. Die Einordnung in diesem Artikel ersetzt keine Rechtsberatung.

Die meisten Datenstrategien scheitern nicht an der Technik, sondern an Reihenfolge und Zuständigkeit. Diese sieben Muster treten besonders häufig auf:

1. „Erst Use Cases, dann Daten.“ Schnelle Piloten auf handverlesenen Daten überzeugen in der Präsentation und brechen beim ersten echten Volumen. Daten und Use Cases müssen parallel wachsen.
2. „Wir kippen erst einmal alles in einen Data Lake.“ Ohne Verantwortliche, Schemaabsprachen und Qualitätsziele entsteht ein Datensumpf statt eines nutzbaren Datenbestands.
3. „Die IT macht das.“ Wer Definitionen an die zentrale IT delegiert, bekommt technisch saubere, fachlich unklare Daten. Die Fachdomäne liefert Definitionen und Abnahmekriterien, die IT betreibt die Plattform.
4. Eine Spezialdatenbank als Standard, weil sie bekannt ist. Die Suchschicht sollte zu Volumen, Filterbedarf und Betriebsmodell passen. Oft reicht zu Beginn die vorhandene Datenbank.
5. „Eine Plattform für alles.“ Warehouse, Lakehouse, Vektorsuche, Katalog und KI aus einer Hand vereinfachen den Einkauf, erhöhen aber die Abhängigkeit. Offene Formate und austauschbare Bausteine halten Wege offen.
6. „Um Art. 10 kümmern wir uns, wenn es so weit ist.“ Herkunft und Prüfungen lassen sich nicht nachträglich rekonstruieren. Wer Hochrisiko-Anwendungen plant, dokumentiert von Beginn an.
7. „Wir verbieten private KI-Tools.“ Verbote allein verlagern die Nutzung in die Schatten-KI. Tragfähig ist ein offizielles, leicht zugängliches KI-Angebot mit geregelter Datenanbindung.

In 90 Tagen lässt sich keine vollständige Datenstrategie umsetzen, wohl aber ein erster produktiver Use Case mit einer kleinen, sauber dokumentierten Datenbasis. Er wird zur Vorlage für alle weiteren Anwendungsfälle. Eine unternehmensweite Datenstrategie braucht realistisch eher 12 bis 18 Monate; der folgende Plan sorgt dafür, dass sie auf echten Ergebnissen aufbaut.

Die Kosten entstehen weniger bei Lizenzen als bei Datenaufbereitung, Integration und den Menschen, die Daten verantworten. Die Bitkom-KI-Studie 2026 bestätigt das: Als großen Kostenpunkt nennen KI-nutzende Unternehmen die Infrastruktur (51 %), die Aufbereitung von Daten (50 %) und die Integration in bestehende Systeme (41 %), Softwarelizenzen dagegen nur 21 % und den Tokenverbrauch 8 %.

Drei Kostenblöcke bestimmen die Rechnung:

• Plattform. In Microsoft- oder SAP-geprägten Häusern ist ein Teil oft schon lizenziert; neu hinzu kommen Kapazitäten für zusätzliche Datenmengen und KI-Funktionen. Für einen ersten Use Case genügt meist die vorhandene Infrastruktur.
• Suchschicht. pgvector auf vorhandenem PostgreSQL verursacht kaum Zusatzkosten; gemanagte Vektordatenbanken rechnen nach Ressourcen oder Nutzung ab.
• Engineering und Governance. Der größte Posten: Anbindung, Aufbereitung, Katalog und Rechtekonzept sowie Zeit der Datenverantwortlichen in den Fachbereichen.

Die Studie von Computerwoche und LHIND zeigt, welche Ziele Unternehmen mit diesen Investitionen verfolgen: Effizienz (55 %) und Kostensenkung (49 %) stehen vorn, Umsatzwachstum nennen nur 23 %.

Plotdesk verbindet eine KI-Plattform mit einem Umsetzungsteam für den Mittelstand und setzt dort an, wo Ihre Daten heute liegen. Statt Daten zuerst in ein weiteres System zu kopieren, werden vorhandene Quellen mit Rechten und Protokollierung angebunden.

Technisch stehen dafür mehrere Bausteine bereit:

• Dokumente: Dateien werden mit Texterkennung (OCR) lesbar und in Wissensspeichern abgelegt, die an Teams und Rollen gebunden sind.
• Strukturierte Daten: Externe Datenbanken wie SQL Server, PostgreSQL, MySQL oder Snowflake werden direkt abgefragt; Tables halten strukturierte Daten in der Plattform.
• Lokale Systeme: Plotdesk Connect bindet ERP, Fileserver, Ticket-Systeme und ältere Datenbanken bis hin zur AS/400 an, ohne sie ins Internet zu öffnen.
• Automatisierung: Workflows und zeit- oder ereignisgesteuerte Abläufe halten Daten aktuell und übergeben Ergebnisse an Folgesysteme.
• Eigene Anwendungen: Mit Canvas entstehen Anwendungen direkt auf Ihren Daten, im Chat erzeugt.
• Governance: SSO, Rollen, mehr als 40 Berechtigungen, Audit-Logs sowie Modell- und Kostensteuerung je Team. Betrieben wird eine dedizierte Instanz in der EU oder im eigenen Tenant, mit Zugriff auf mehr als 100 Modellvarianten aus zehn Provider-Typen.

Die Zusammenarbeit folgt vier Schritten: In der KI-Potenzialanalyse prüfen wir Prozesse, Datenquellen und Systeme und formulieren eine Hypothese, wo KI wirtschaftlich wirkt. Im Proof of Value wird ein klarer Use Case auf Ihren Daten umgesetzt und gegen gemeinsam definierte Erfolgskriterien geprüft. Die Produktive Lösung integriert ihn in Prozesse, Berechtigungen und Infrastruktur. Im Systematischen Ausbau bauen neue Use Cases auf demselben Datenfundament auf. Die Erfahrung dafür stammt aus mehr als 1.200 Use Cases in 15 Branchen.

KI ist in der Mehrheit der Unternehmen angekommen, ihre Wirkung noch nicht. Der Engpass liegt selten im Modell, sondern in Daten ohne Verantwortliche, ohne Katalog und ohne Zugriffskonzept. Eine KI-Datenstrategie schließt diese Lücke, wenn sie am konkreten Anwendungsfall ansetzt.

Beginnen Sie mit einem Use Case, dokumentieren Sie Herkunft und Rechte von Anfang an und wählen Sie die einfachste Architektur, die trägt. Wer zusätzlich verstehen will, in welchen Prozessen KI den größten Hebel hat, findet im Beitrag zu Process Intelligence die passende Ergänzung. Der zweite und dritte Use Case entstehen dann schneller, weil sie auf demselben Fundament aufbauen.