Grundlage für produktive KI-Anwendungen stärken

6 Gründe, warum KI-Projekte wirklich scheitern

Erfolg oder Misserfolg? Die KI ist nicht das Problem, sondern die unstrukturierten Daten, denn Unternehmenswissen steckt nicht nur in Tabellen und Transaktionen.

Bild: iStock, akinbostanci
25.08.2026

Generative KI steht in vielen Unternehmen auf der Agenda. Doch um verlässliche Antworten zu erhalten, reichen leistungsfähige Sprachmodelle und präzise Prompts nicht aus. Was dabei oft übersehen wird, liegt in den Datenbeständen.

Derzeit beschäftigt sich kaum ein Unternehmen nicht mit generativer KI. Die Diskussion dreht sich dabei meist um leistungsfähigere Sprachmodelle, neue Agentensysteme oder die Rentabilität. Die eigentliche Grundlage jeder KI-Anwendung, die Daten – insbesondere die unstrukturierten –, erhalten dagegen weit weniger Aufmerksamkeit. Die Ursachen gescheiterter KI-Projekte sind meist dieselben: Das Sprachmodell sei nicht leistungsfähig genug, die Prompts seien zu unpräzise formuliert oder die Agenten hätten nicht zuverlässig gearbeitet.

Tatsächlich liegt das eigentliche Problem jedoch deutlich tiefer. Die meisten Unternehmen konzentrieren sich nur auf einen kleinen Teil ihrer Daten, nämlich die bereits strukturierten. Der weitaus größere Wissensschatz aus E-Mails, Dokumenten, Besprechungsprotokollen, Videos oder Dateien auf File-Servern bleibt dagegen weitgehend unberücksichtigt. Genau dort entscheidet sich jedoch, ob eine KI belastbare Antworten liefert oder lediglich plausibel klingende Vermutungen. Aparavi nennt sechs Gründe, warum Unternehmen in der Regel nicht an ihrer KI scheitern, sondern an der fehlenden Transparenz in Bezug auf ihre eigenen Daten.

1. Die KI kennt nur einen Bruchteil des Unternehmenswissens

Seit Jahren investieren viele Unternehmen in Data Warehouses, Business Intelligence oder analytische Plattformen. Diese Systeme enthalten jedoch überwiegend strukturierte Daten wie Zahlen, Tabellen und Transaktionen. Der weitaus größere Teil des Wissens befindet sich dagegen in unstrukturierten Informationssilos wie Projektunterlagen, E-Mails, Besprechungsnotizen, technischen Dokumentationen, Präsentationen oder Collaboration-Plattformen. Genau dort steckt oft das Wissen, das für fundierte Entscheidungen unabdingbar ist. Greift eine KI lediglich auf den strukturierten Teil zu, kann sie Fragen zwar überzeugend beantworten, jedoch auf Basis eines unvollständigen Bildes. Das heißt: Bevor eine KI produktiv arbeiten kann, muss relevantes Wissen aus strukturierten und unstrukturierten Quellen erschlossen, verknüpft und kontrolliert zugänglich gemacht werden.

2. Falsch formatierte Informationen bleiben unentdeckt

Nicht jede Information liegt in einem Format vor, das sich unmittelbar durchsuchen oder auswerten lässt. Gescannte PDF-Dokumente ohne Texterkennung, Bilddateien mit Tabellen sowie Audio- und Videoaufzeichnungen aus Schulungen oder Meeting-Mitschnitte enthalten oft wertvolles Wissen, bleiben für KI-Systeme jedoch unsichtbar. Technisch lassen sich solche Inhalte heute längst erschließen. Texterkennung macht Scans und Bilder lesbar und Transkription macht Audio- und Videoinhalte zugänglich. Entscheidend ist deshalb, sämtliche Datenquellen einzubeziehen und die Informationen automatisiert aufzubereiten. Erst wenn auch bislang ungenutzte Inhalte systematisch integriert werden, entsteht eine Wissensbasis, die den tatsächlichen Informationsbestand eines Unternehmens widerspiegelt.

3. Mehr Daten machen eine KI nicht automatisch intelligenter

Die Versuchung ist groß, möglichst alle verfügbaren Daten in eine Vektordatenbank oder ein anderes Zielsystem zu übernehmen. Tatsächlich verschlechtert eine ungefilterte Datenflut häufig die Qualität der Ergebnisse. Veraltete Dokumente, Dubletten oder irrelevante Informationen erschweren es der KI, belastbare Antworten zu liefern. Hinzu kommt ein wirtschaftlicher Aspekt: Jede unnötig verarbeitete Information verursacht zusätzliche Speicher-, Rechen- und Token-Kosten. Erfolgreiche KI-Projekte beginnen deshalb mit einer einfachen Frage: Welche Informationen sind für den jeweiligen Anwendungsfall tatsächlich relevant? Eine regelbasierte Bewertung nach Kriterien wie Aktualität, Redundanz, Format und Sensitivität schafft die Grundlage für belastbare Ergebnisse. Sie reduziert zugleich den Bestand, der überhaupt inhaltlich analysiert werden muss, je nach Projekt deutlich. Erfassen, bewerten und reduzieren lassen sich unstrukturierte Datenbestände mit deterministischen und nachvollziehbaren Verfahren, ohne dass zuvor jedes Dokument durch ein KI-Modell laufen muss.

4. Berechtigungsrisiken werden durch KI plötzlich sichtbar

Viele Unternehmen führen KI-Assistenten ein, ohne zuvor ihre bestehenden Berechtigungsstrukturen zu überprüfen. Was im Tagesgeschäft kaum auffällt, kann dadurch schnell zum Sicherheitsproblem werden. Freigaben, die ursprünglich für kleine Arbeitsgruppen gedacht waren, ermöglichen plötzlich einem deutlich größeren Nutzerkreis den Zugriff auf sensible Informationen. Besonders kritisch sind versehentlich freigegebene Links oder historisch gewachsene Berechtigungen in Collaboration-Plattformen. KI erzeugt diese Sicherheitslücken nicht, sondern macht lediglich sichtbar, was bereits seit Jahren vorhanden ist. Eine Bestandsaufnahme kann Eigentümerschaft und Zugriffsrechte erfassen, soweit die angebundene Quelle diese Angaben bereitstellt. Auffällige Bereiche können so überprüft werden. Die Bewertung und Korrektur der Rechte bleibt Aufgabe des Unternehmens. Dies sollte abgeschlossen sein, bevor KI-Systeme produktiv auf die unterschiedlichen Ablagen zugreifen.

5. Sensible Daten gehören nur bedingt in die KI

Der Aufbau einer KI-Wissensbasis ist keine rein technische Aufgabe. Unternehmen müssen gleichzeitig regulatorische und organisatorische Anforderungen berücksichtigen. Personenbezogene Daten, vertrauliche Entwicklungsunterlagen oder Finanzinformationen dürfen nicht automatisch Bestandteil jeder KI-Anwendung sein. Ebenso benötigen verschiedene Fachbereiche unterschiedliche Wissensgrundlagen. Es geht also heute weniger darum, möglichst viele Datenquellen anzubinden, als vielmehr darum, klare Regeln dafür zu definieren, welche Informationen verwendet, bereinigt oder ausgeschlossen werden. Sensible Inhalte lassen sich regelbasiert kennzeichnen und vor einer Übergabe an externe Systeme bereinigen, anonymisieren oder pseudonymisieren. Entscheidend ist, dass diese Regeln bereits zu Beginn eines KI-Projekts feststehen und nicht erst nachträglich formuliert werden.

6. Datensouveränität endet nicht an der Firewall

Ob Daten in der Cloud, im eigenen Rechenzentrum oder in hybriden Infrastrukturen verarbeitet und gespeichert werden, ist eine Infrastrukturentscheidung. Sie allein schafft keine Souveränität. Entscheidend ist, dass ein Unternehmen jederzeit weiß, welche Daten es besitzt, wem sie gehören und wo sie liegen. Fehlt diese Transparenz, wird jeder Speicherort zum Risiko und es entstehen Probleme weit über KI-Projekte hinaus. Nach einem Sicherheitsvorfall oder einer Datenschutzanfrage lässt sich oft nur mit erheblichem Aufwand rekonstruieren, welche Daten betroffen sind und ob sie überhaupt hätten verarbeitet werden dürfen. Wer seine Datenbestände dagegen kennt und sie durch automatische, zeitgesteuerte Rescans aktuell hält, hat die Kontrolle, unabhängig vom Speicherort. Dazu gehört auch die Frage, wo die Bestandsaufnahme stattfindet. Läuft die Software im eigenen Rechenzentrum und bleibt der Index dort, dann bleiben auch die Quelldaten für die Analyse in der eigenen Umgebung.

„Ob ein Unternehmen mit KI erfolgreich ist, entscheidet sich nicht bei der Auswahl eines Sprachmodells. Wichtig ist vielmehr die Qualität der Datenbasis. Sind Informationen aktuell? Stimmen Berechtigungen? Sind sensible Inhalte gekennzeichnet? Liegen relevante Dokumente überhaupt in einer Form vor, die KI-Systeme verarbeiten können? Erst wenn Unternehmen all diese Fragen mit Ja beantworten können, entsteht eine belastbare Grundlage für produktive Anwendungen“, sagt Adrian Knapp, CEO bei Aparavi. „Gute KI-Ergebnisse beginnen deshalb nicht mit dem Modell, sondern mit einer kontrollierten und qualitativ geeigneten Datenbasis. Und die entsteht, bevor die erste KI-Abfrage läuft.“

Firmen zu diesem Artikel
Verwandte Artikel