Im Mittelpunkt der KI-Debatte steht zunehmend die Frage, wie sich die Chancen immer leistungsfähigerer KI nutzen lassen, ohne Kontrolle und Verantwortung aus der Hand zu geben.
Eine aktuelle Umfrage des Meinungsforschungsinstituts Civey unter 500 Unternehmen im Auftrag von Eco – Verband der Internetwirtschaft zeigt: Unternehmen begegnen dieser Herausforderung beim praktischen Einsatz bereits mit klaren Grenzen und Sicherheitsmechanismen. Mehr als jedes zweite Unternehmen setzt autonome KI-Agenten bereits ein oder erprobt sie. Gleichzeitig begrenzen Unternehmen deren Handlungsspielraum deutlich: 74 Prozent würden KI-Agenten höchstens unterstützende Zuarbeit oder eigenständiges Arbeiten unter menschlicher Kontrolle erlauben. Vollständig autonome Entscheidungen kämen lediglich für fünf Prozent infrage.
„Die aktuell weitverbreiteten Dystopien rund um KI-Agenten gehen an der Realität deutscher Unternehmen vorbei. Unternehmen in Deutschland wollen KI nutzen, aber sie lassen sie nicht blind entscheiden. So sieht verantwortungsvoller Umgang mit der Technologie der Zukunft aus“, sagt Oliver Süme, Vorstandsvorsitzender von Eco – Verband der Internetwirtschaft.
Einsatz ist in vielen Unternehmen Realität
Der Einsatz von KI-Agenten ist in vielen Unternehmen bereits Realität. 25 Prozent der befragten Unternehmen setzen sie in einzelnen Abteilungen ein, weitere 11 Prozent bereits flächendeckend. 18 Prozent befinden sich in einer Testphase oder führen Pilotprojekte durch. Damit setzen insgesamt 54 Prozent KI-Agenten bereits ein oder erproben sie. Weitere sieben Prozent planen den Einsatz konkret. Bei 33 Prozent ist derzeit kein Einsatz geplant.
Gleichzeitig unterscheiden die Unternehmen deutlich zwischen dem Einsatz von KI und der Abgabe von Entscheidungshoheit. 40 Prozent würden KI-Agenten maximal für unterstützende Zuarbeit einsetzen. Weitere 34 Prozent können sich eigenständiges Arbeiten vorstellen, solange eine menschliche Kontrolle bestehen bleibt. Autonome Entscheidungen in einzelnen Teilprozessen würden 13 Prozent zulassen. Nur fünf Prozent wären bereit, KI-Agenten vollständig autonom entscheiden zu lassen.
„Die Zahlen zeigen: Unternehmen in Deutschland wollen die Potenziale von KI-Agenten nutzen und gehen dabei zugleich verantwortungsvoll vor. Sie sammeln praktische Erfahrungen, schaffen verlässliche Kontrollmechanismen und machen KI so Schritt für Schritt zu einem festen Bestandteil ihrer Geschäftsprozesse. Genau dieser praxisnahe Umgang bringt Innovation und Vertrauen zusammen“, sagt Süme.
Unternehmen bauen Sicherheitsmechanismen ein
Auch bei den Sicherheitsvorkehrungen setzen die befragten Unternehmen auf konkrete Kontrollmöglichkeiten. 47 Prozent würden für den Einsatz von KI-Agenten eine automatisierte Notabschaltung vorsehen. 45 Prozent nennen eine strikte Vergabe von Rechten und Rollen. Regelmäßige Sicherheitsaudits kommen für 37 Prozent infrage, ein kontinuierliches Monitoring der KI-Ausgaben für 32 Prozent und transparente Handlungsprotokolle für 31 Prozent. Mehrfachantworten waren möglich.
Die Ergebnisse zeigen aus Sicht von Eco, dass Unternehmen Risiken von KI-Agenten nicht ignorieren, sondern Sicherheitsmechanismen von Beginn an mitdenken. Dabei geht es nicht darum, die Leistungsfähigkeit der Technologie künstlich zu begrenzen, sondern ihren Einsatz kontrollierbar zu gestalten.
Verantwortungsvoller Einsatz statt pauschaler Verlangsamung
Aus Sicht von Eco sollten die Ergebnisse auch in die aktuelle Debatte über Geschwindigkeit und Grenzen der KI-Entwicklung einfließen. Vorsicht beim konkreten Einsatz ist nicht mit grundsätzlicher Technologieskepsis gleichzusetzen. Unternehmen führen neue Systeme schrittweise ein, testen Anwendungen und begrenzen deren Handlungsspielräume dort, wo sie Verantwortung nicht vollständig an Maschinen übertragen wollen.
„Sichere KI entsteht vor allem durch verantwortungsvolle Anwendung, klare Kontrollmechanismen und praktische Erfahrung. Je mehr Unternehmen KI sinnvoll einsetzen und aus der Anwendung lernen, desto besser können wir Chancen nutzen und Risiken beherrschbar machen. Diese Lernkurve sollten wir beschleunigen“, sagt Süme.
Zur Methodik der Umfrage
Das Meinungsforschungsinstitut Civey hat für Eco vom 18.09. bis 03.10.2026 online 500 Unternehmen befragt. Die Ergebnisse sind aufgrund von Quotierungen und Gewichtungen repräsentativ unter Berücksichtigung des statistischen Fehlers. Dieser liegt bei den hier dargestellten Gesamtergebnissen je nach Frage zwischen 9,1 und 9,4 Prozentpunkten.
