.jpg "„Wie Kontextmodelle einen wirtschaftlichen KI-Einsatz ermöglichen“")
Für viele Unternehmen bleiben die tatsächlichen Kosten ihrer KI-Nutzung eine Blackbox. Eindrucksvoll zeigt das ein im Sommer veröffentlichter KPMG-Report: Nur 35 Prozent der Befragten haben demzufolge die eigenen KI-Kosten vollständig im Blick und kontrollieren sie aktiv. Mehr als jedes fünfte Unternehmen (22 Prozent) erfährt die tatsächlichen Kosten erst nach der Rechnungsstellung oder verfügt nach eigenen Angaben über keinen ausreichenden Überblick. Zudem hatten zum Zeitpunkt der Erhebung lediglich vier von zehn Unternehmen ein festes Budget für KI-Nutzung und Token-Verbrauch definiert, nur 54 Prozent überprüften die Kosten ihrer KI-Prozesse regelmäßig.
Welche Folgen das haben kann, zeigen verschiedene Medienberichte: Im Sommer sorgte beispielsweise ein US-Unternehmen für Schlagzeilen, bei dem nach der exzessiven Nutzung des Anthropic-KI-Modells Claude eine Rechnung von 500 Millionen US-Dollar ins Haus flatterte. Die Verantwortlichen hatten versäumt, ein Nutzungslimit einzurichten. Auch große Unternehmen kämpfen damit, ihren KI-Einsatz wirtschaftlich zu steuern. So hatte Uber sein Token-Jahresbudget bereits im Mai aufgebraucht, ohne dass ein nennenswerter Zuwachs an Funktionen festzustellen gewesen wäre.
Agentensysteme treiben Token-Verbrauch
Der Handlungsbedarf ist entsprechend groß. Verstärkt wird er durch den Trend zu Agentensystemen, der den Ressourcenverbrauch moderner KI-Modelle sprunghaft in die Höhe treibt. Denn KI-Agenten sind deutlich „Token-hungriger“ als klassische Software-Lösungen: Sie interagieren autonom miteinander, stoßen Folgeprozesse an und senden eigenständig neue Anfragen an Sprachmodelle. Viele dieser Interaktionen laufen im Hintergrund ab, ohne Kontrolle durch den Menschen. Dadurch steigt die Zahl der Modellanfragen sprunghaft an und führt zu neuen Belastungsspitzen für die zugrundeliegende IT-Infrastruktur sowie einem hohen Energieverbrauch. Viele Anbieter reagieren darauf bereits mit nutzungsabhängigen Preismodellen, die den tatsächlichen Ressourcenverbrauch abbilden sollen. Aus planbaren IT-Kosten werden so variable Nutzungskosten, die sich ohne geeignete Steuerungsmechanismen kaum noch zuverlässig prognostizieren lassen.
Schlicht auf den KI-Einsatz zu verzichten, kommt in der Regel nicht in Frage. In vielen Unternehmen ist die Technologie mittlerweile integraler Bestandteil geschäftskritischer Prozesse und tief in diese eingebettet. Wie eine aktuelle Studie von Celonis zeigt, betrachten 86 Prozent der Führungskräfte in der DACH-Region KI als wichtigsten Wettbewerbsfaktor. Entscheidend sind daher neue Ansätze, um den KI-Einsatz effizient zu steuern und wirtschaftlich zu gestalten.
Warum KI den Kontext kennen muss
Dafür ist es wichtig zu verstehen, wie Large Language Models (LLMs) arbeiten. Anders als häufig angenommen verfügen sie nicht über Wissen zu den individuellen Abläufen eines Unternehmens. Sie kennen weder Prozesse noch Verantwortlichkeiten oder unternehmensspezifische Begrifflichkeiten. Fehlt dieser Kontext, müssen sie Annahmen treffen. Das erhöht die Fehleranfälligkeit der Antworten und das Risiko für Halluzinationen.
Damit ein LLM effizient arbeiten kann, muss ein KI-Agent den relevanten Unternehmenskontext zunächst erfassen und für das Sprachmodell aufbereiten. Nur wenn er versteht, wie Prozesse, Dokumente und Personen in einem Unternehmen miteinander zusammenhängen, kann er dem LLM die entscheidenden Informationen kompakt bereitstellen. Auf dieser Grundlage kann das Sprachmodell aktuelle, relevante und korrekte Antworten generieren. Fehlt dem Agenten dieses Kontextwissen, muss er unnötig große Datenmengen durchsuchen und umfangreiche Anfragen an das LLM stellen. Die Ergebnisse werden ungenauer und müssen häufiger überprüft und korrigiert werden. In der Folge arbeitet die KI ineffizient und verbraucht mehr Tokens, als sie müsste.
Kontextmodelle als Vermittler
Genau hier kommen Kontextmodelle ins Spiel. Sie bilden eine intelligente Vermittlungsschicht zwischen Unternehmensdaten und LLMs. Ihre Aufgabe besteht darin, den für eine Anfrage relevanten Unternehmenskontext strukturiert bereitzustellen. Dazu erfassen sie Zusammenhänge zwischen Prozessen, Dokumenten, Daten und Verantwortlichkeiten und machen diese für KI-Agenten nutzbar.
Dadurch können KI-Agenten relevante Informationen zielgerichtet abrufen, statt unspezifisch große Datenmengen zu durchsuchen. Gleichzeitig filtern Kontextmodelle redundante oder irrelevante Informationen, bevor sie eine Anfrage an ein Sprachmodell senden. Da die zugrundeliegende Prozesslogik bereits strukturiert im Kontextmodell hinterlegt ist, muss sie nicht bei jeder Anfrage erneut beschrieben werden. So lassen sich Prompts verkürzen.
Insgesamt präzisieren Kontextmodelle also die Datenextraktion und stellen dem LLM gezielt nur die Informationen zur Verfügung, die für die jeweilige Aufgabe tatsächlich relevant sind. Das senkt den Ressourcenverbrauch und verbessert zugleich die Ergebnisqualität. Denn je präziser die bereitgestellten Informationen sind, desto seltener sind aufwendige Prüf- und Korrekturschleifen erforderlich.
Erste Anwendungen in der Praxis zeigen das Potenzial dieses Ansatzes: Der Einsatz von Kontextmodellen konnte das durchschnittliche Aufkommen an Output-Token und Cache-Read-Token um mehr als 50 Prozent reduzieren. Die Erfolgsquote bei der Ausführung von Aufgaben ließ sich mehr als verdoppeln. Auch wenn die konkreten Ergebnisse vom jeweiligen Anwendungsfall abhängen, verdeutlichen sie das Potenzial kontextbasierter KI für einen effizienteren und wirtschaftlicheren Einsatz.
Navigationssystem für KI-Agenten
Kontextmodelle werden so zum Navigationssystem für KI-Agenten. Sie geben ihnen die Orientierung, die sie benötigen, um schnell und ohne Umwege zum richtigen Ergebnis zu gelangen. Dies macht den KI-Einsatz transparenter und besser steuerbar – und vermeidet ungewollte Kostenexplosionen.
