Agentic-AI-Chaous vermeiden Wie aus KI-Magie kein Horror wird

„Schon kleine Unterschiede in den Eingaben können dazu führen, dass agentenbasierte KI in vergleichbaren Fällen zu unterschiedlichen Entscheidungen kommt – und dadurch Kunden ungleich behandelt“, erklärt Michael Baldauf, Financial Services Senior Director bei Pegasystems. „Wenn KI-Agenten völlig autonom handeln, kann es außerdem passieren, dass sie Aktionen doppelt ausführen, widersprüchliche Mitteilungen an Kunden senden oder gesetzliche Vorgaben verletzen, indem sie sensible Daten weitergeben.“

Prozessvariabilität kann zu Fehlern führen

Zudem besteht die Gefahr, dass sie Prozesse immer in einer unterschiedlichen Reihenfolge durchlaufen und dabei nicht jedes Mal alle erforderlichen Schritte ausführen. Das kann auch ein übergeordneter Orchestrierungs-Agent nicht ändern, da die Ursachen an der Basis liegen. Diese Prozessvariabilität ist insbesondere in regulierten Branchen wie dem Finanzwesen hochproblematisch, wo umfangreiche Prüf- und Dokumentationspflichten exakt einzuhalten sind. Aufsichtsbehörden werden kaum Verständnis dafür aufbringen, dass die Kreditprozesse einer Bank jedes Mal anders ablaufen und Compliance-Prüfungen nur manchmal stattfinden.

„Damit keine Missverständnisse aufkommen: KI-Agenten sind hervorragende Instrumente. Sie können komplexe Aufgaben automatisieren, Informationen aus verschiedenen Quellen analysieren und verknüpfen, Entscheidungsvorschläge in Echtzeit liefern und nahtlos mit Menschen oder Systemen interagieren“, sagt Baldauf. „Was sie jedoch nicht können, ist Prozesse frei selbst gestalten. Sie sind spezialisierte Helfer, die ohne Anleitung nicht effizient, sicher und regelkonform zusammenarbeiten.“

Feste und korrekte Abläufe festlegen

Genauso wie Menschen, die gemeinsam an einer Aufgabe arbeiten, benötigen auch KI-Agenten feste Abläufe, Regeln und Vereinbarungen. Sie brauchen ein zentrales Prozessmodell, das die korrekte Abfolge sämtlicher Schritte sicherstellt. Baldauf sagt: „Mit einem Case-Management-System können Unternehmen einen strukturierten Prozessrahmen schaffen, Zuständigkeiten, Datenflüsse und Entscheidungsregeln zentral modellieren und KI-Agenten als ausführende oder unterstützende Einheiten einbinden. So bleiben Prozesse transparent, konsistent und auditierbar.“

Vor Horror-Agenten müssen sich Unternehmen dann nicht mehr fürchten.