Immer mehr Unternehmen sehen in der Abhängigkeit von nicht-europäischen KI-Anbietern ein Risiko. So halten es laut dem GenAI Impact Report Germany 2025 inzwischen 71 Prozent der Befragten für wichtig oder sehr wichtig, dass die GenAI-Anwendungen ihres Unternehmens in der EU entwickelt wurden. In Bezug auf den Datenstandort empfinden sogar 85 Prozent ein Rechenzentrum auf europäischem Boden, das vor möglichen Eingriffen ausländischer Regierungen geschützt ist, als entscheidend.
Neben Datenschutz und regulatorischen Anforderungen gemäß EU AI Act geht es um die Kontrolle über den Informationsfluss, Modelltransparenz und die langfristige Kostenstruktur. Unternehmen sollten sich mit der Möglichkeit eines Wechsels auseinandersetzen, auch wenn nicht jede KI künftig „made in Europe“ sein muss. Denn für die meisten Firmen und für viele Anwendungsszenarien ist der Einsatz von Sprachmodellen und entsprechender Services der globalen Player völlig problemlos.
Mit Blick auf Prävention lautet die entscheidende Frage aber: Wie gelingt ein Umstieg, wenn dieser notwendig werden sollte? Aus Sicht von Adesso kommt es auf fünf Handlungsfelder an.
1. Bestandsaufnahme: KI-Landkarte erstellen
Bevor ein Wechsel zu einer alternativen GenAI-Lösung überhaupt bewertet werden kann, ist eine vollständige Übersicht notwendig. Welche GenAI-Dienste sind im Einsatz? Welche Schnittstellen nutzen sie? Welche Modelle stecken im Hintergrund? Wie werden die Daten gespeichert? Eine solche KI-Landkarte schafft Transparenz über vorhandene Integrationen in Systeme, Tools und sonstige Daten-Pipelines. Sie legt auch offen, wo Schatten-IT im Spiel ist. Ratsam ist, dass ein interdisziplinäres Team aus IT, Datenschutz, Fachabteilungen und Compliance gemeinsam eine Klassifizierung nach Kritikalität und strategischer Bedeutung der Daten vornimmt.
2. Evaluierung: Sprachmodelle vergleichen
Nicht jedes Modell ist für jeden Anwendungsfall geeignet. Unternehmen sollten daher vorab definieren, welche Anforderungen jeweils gelten – etwa in Bezug auf Sprache, Genauigkeit, Hosting, Lizenzbedingungen oder regulatorische Konformität.
Im Anschluss sollte eine Testumgebung eingerichtet werden. Idealerweise erfolgt der Vergleich unter realitätsnahen Bedingungen: gleiche Prompts, gleicher Kontext und definierte Auswertungskriterien wie Konsistenz der Ergebnisse, Halluzinationsrate oder Antwortzeit. Ergänzt wird die technische Beurteilung durch ein Lizenz-Assessment und die Analyse der Governance. In diesem Schritt sollte eine gezielte Gegenüberstellung von Open-Source-Modellen und proprietären Anbietern durchgeführt werden, da diese Entscheidung Auswirkungen auf die gesamte Lösungsarchitektur hat.
3. Migrationsplanung: Roadmap aufsetzen
Ein erfolgreicher Exit aus bestehenden Large-Language-Model-Abhängigkeiten gelingt nicht per „Big Bang“. Bewährt hat sich ein Stufenmodell, das mit unkritischen Use Cases beginnt. Beispielsweise kann der Wechsel bei internen Textaufgaben oder Wissenssystemen starten – etwa durch ein Retrieval-Augmented-Generation-System auf Basis eines souverän betriebenen Modells. Parallel dazu lassen sich bestehende Vektordatenbanken, die Sprachmodellen Zugriff auf relevante Unternehmensdaten geben, abstrahieren, sodass das Backend ausgetauscht werden kann, ohne die Nutzerlogik anzupassen.
Wichtig: In jeder Phase sollten Fallback-Optionen eingeplant werden, etwa durch den parallelen Betrieb. Sinnvoll ist zudem ein internes Center of Excellence, in dem das Know-how zentral gebündelt ist und das den Rollout begleitet.
4. Infrastruktur: Für ein Betriebsmodell entscheiden
Ob Sprachmodelle performant und sicher laufen, hängt maßgeblich von der Infrastruktur ab. Viele europäische Alternativen setzen auf On-Premises- oder Private-Cloud-Szenarien – was Vorteile in puncto Datenschutz bringt, aber neue Anforderungen an Hardware, Deployment und Monitoring stellt. Unternehmen müssen daher frühzeitig entscheiden, ob sie eigene GPU-Cluster betreiben, europäische IaaS-Anbieter nutzen oder mit spezialisierten Dienstleistern zusammenarbeiten.
Dabei ist wichtig: Die Infrastruktur muss nicht nur skalierbar, sondern auch kompatibel mit bestehenden Workflows, APIs und Sicherheitsstandards sein. Ansonsten droht jede Exit-Strategie im Pilotstatus zu verharren.
5. Akzeptanz und Kompetenz: Mensch einbeziehen
Jede technologische Migration braucht die Unterstützung der Organisation. Insbesondere im Bereich GenAI sind die Erwartungen hoch – gleichzeitig ist das Vertrauen fragil. Daher sollten Unternehmen frühzeitig interne Pilotnutzer einbinden, die Modelle auf Relevanz und Verständlichkeit testen. Trainingsformate, Guidelines für Prompting und klare Feedbackkanäle sichern die Akzeptanz und steigern den Reifegrad der Nutzung. Wichtig ist auch, intern klar zu kommunizieren, warum die Migration erfolgt – nämlich nicht aus Selbstzweck, sondern zur Stärkung der Innovationsfähigkeit und digitalen Resilienz.
„Abwenden von den großen Anbietern ist unrealistisch“
„Eine souveräne KI ist kein Luxus, sondern Voraussetzung für eine nachhaltige Digitalisierung – besonders in regulierten Märkten“, sagt Tim Strohschneider, Head of GenAI bei Adesso. „Unternehmen brauchen Partner, die nicht nur die Technologie hinter der generativen KI beherrschen, sondern auch Datenschutz, Infrastruktur und Governance ganzheitlich denken.“
Was laut Strohschneider viele falsch verstehen: Ein Umstieg auf europäische Anbieter bedeute keinen radikalen Bruch, sondern einen schrittweisen Übergang in ein neues Betriebsmodell. Das sei überall dort wichtig, wo Unternehmen ihre digitale Unabhängigkeit bewahren wollen oder müssen. „Souveränität bedeutet jedoch nicht, sich vollständig von den großen Anbietern abzuwenden, denn das ist unrealistisch. Vielmehr geht es um die Freiheit, selbst zu entscheiden, von wem die eigenen KI-Modelle stammen und wo sie am besten aufgehoben sind“, sagt Strohschneider.
