Der Bericht zeigt, welche Folgen schlecht umgesetzte KI-Systeme haben können. Dazu zählen unter anderem Verstöße gegen den Datenschutz, ethisch problematisches Verhalten, Diskriminierung, Regelverstöße oder fehlerhafte Prognosen. 77 Prozent der befragten Unternehmen gaben an, dadurch finanzielle Verluste erlitten zu haben. 53 Prozent berichten von Reputationsschäden.
Die wichtigsten Erkenntnisse
Wichtige Erkenntnisse und Empfehlungen aus dem Infosys Responsible Enterprise AI in the Agentic Era-Report in Kürze:
KI-Risiken sind weit verbreitet und können schwerwiegende Folgen haben.
95 Prozent der Führungskräfte auf C-Level berichten von Vorfällen in Zusammenhang mit KI in den letzten zwei Jahren.
39 Prozent kategorisieren diese Schäden als „schwerwiegend" oder „extrem schwerwiegend". In Deutschland sind es sogar 40 Prozent.
86 Prozent der befragten Führungskräfte, die bereits Erfahrungen mit agentischer KI gesammelt haben, gehen davon aus, dass diese Technologie neue Risiken und Herausforderungen mit sich bringt, wenn es darum geht, Vorschriften einzuhalten.
Die Fähigkeiten im Bereich Responsible AI (RAI) sind lückenhaft und ineffizient.
Nur zwei Prozent der Unternehmen erfüllten alle Standards, die im internen RAI-Fähigkeitsbenchmark von Infosys – „RAISE BAR" genannt – festgelegt sind. Sie werden als „RAI-Leader" bezeichnet. 15 Prozent der Organisationen erfüllen drei Viertel der Standards (RAI-Follower).
Die RAI-Leader können mit 39 Prozent geringeren finanziellen Verlusten, 18 Prozent weniger schweren KI-Vorfällen und vier Prozent geringeren RAI-Kosten rechnen.
RAI-Leader gehen gezielter vor, um Risiken zu reduzieren und bessere Ergebnisse zu erzielen. Sie machen KI transparenter, prüfen Anwendungen gründlich, mindern Verzerrungen frühzeitig und reagieren klar geregelt auf Vorfälle.
Führungskräfte sehen RAI als Wachstumsmotor.
78 Prozent der Führungskräfte sind der Meinung, dass RAI zu ihrem Umsatzwachstum beiträgt und dass zukünftige KI-Vorschriften ihre KI-Implementierungen eher fördern als hemmen würden (83 Prozent).
Allerdings sind Unternehmen auch der Meinung, dass sie 30 Prozent mehr ihres Budgets in RAI investieren müssten.
Responsible AI als strategische Chance
Der Einsatz von KI wächst schneller als die organisatorische Bereitschaft dafür. Unternehmen sollten Responsible AI daher nicht länger als reaktive Pflicht betrachten, sondern als strategische Chance begreifen. Um vertrauenswürdige und skalierbare KI-Systeme zu schaffen, die Wachstum ermöglichen und Risiken begrenzen, empfiehlt Infosys folgende Schritte:
Von den Besten lernen: Unternehmen mit hoher RAI-Reife haben bereits vielfältige Vorfälle bewältigt und effektive Kontrollmechanismen etabliert. Ihre Erfahrungen bieten wertvolle Orientierung für andere Organisationen.
Produktentwicklung und Governance in Einklang bringen: Dezentrale Innovationsprozesse sollten mit einer zentral gesteuerten RAI-Governance kombiniert werden, die klare Leitlinien und übergreifende Kontrolle gewährleistet.
Sicherheitsvorkehrungen systematisch in KI-Plattformen verankern: KI-Agenten nur in kontrollierten Umgebungen einsetzen, die auf freigegebene Daten und Systeme zugreifen können.
Ein zentrales RAI-Team etablieren: Ein dediziertes Team erkennt Risiken frühzeitig. Es definiert klare Richtlinien und gewährleistet mithilfe von Tools wie AI3S („Scan, Shield, Steer") eine skalierbare Governance.
Fazit
Balakrishna D.R., EVP – Global Services Head, AI and Industry Verticals bei Infosys, sagt: „Wer aus Anwendungsfällen für Unternehmens-KI Mehrwert ziehen will, benötigt eine verantwortungsvolle Grundlage. Diese muss auf Vertrauen, Risikominderung, Datenmanagement und Nachhaltigkeit beruhen. Im Zentrum stehen ethische, faire, sichere und transparente Prozesse. Um das Potenzial agentenbasierter KI zu erschließen, müssen sich Führungskräfte auf eine plattform- und produktorientierte Umsetzung konzentrieren, begleitet von einer aktiven Überwachung der genutzten Daten. Dabei gilt: Je stärker KI in Unternehmen Einzug hält und neue regulatorische Vorgaben greifen, desto wichtiger wird die Rolle eines zentralen RAI-Teams."
Jeff Kavanaugh, Leiter des Infosys Knowledge Institute, sagt: „Unternehmen bewegen sich in einem komplexen Umfeld, in dem das Wachstumspotenzial von KI mit erheblichen betrieblichen und ethischen Risiken einhergeht. Unsere Studie zeigt deutlich: Viele erkennen zwar die Bedeutung von Responsible AI, doch bei der praktischen Umsetzung besteht noch eine große Lücke. Wer auf robuste, fest verankerte Schutzmechanismen setzt, kann nicht nur Risiken minimieren und finanzielle Verluste vermeiden, sondern auch neue Umsatzpotenziale erschließen. So sichern sie sich langfristige Vorteile im Zeitalter agentenbasierter KI."
