Verstärken KI-Chatbots manipulative oder narzisstische Züge bei den Nutzern? Eine aktuelle Studie der Technischen Hochschule Würzburg-Schweinfurt (THWS) zeigt: Wenn Menschen KI-Chatbots wie ChatGPT oder Claude von eigenem, fragwürdigem Verhalten erzählen und sich dafür Bestätigung wünschen, widersprechen die Chatbots zwar oft, aber nicht immer. Gerade von frei verfügbaren Open-Source-Modellen werden Nutzende deutlich häufiger bestärkt als von kommerziellen Systemen.
Dr. Angelica Henestrosa, Zeyi Lu, Pavel Chizhov und Prof. Dr. Ivan P. Yamshchikov vom Center für Künstliche Intelligenz (CAIRO) der THWS haben untersucht, wie große Sprachmodelle (LLMs) reagieren, wenn Nutzende Verhaltensweisen schildern, die mit der sogenannten „Dunklen Triade“ zusammenhängen. Machiavellismus, Narzissmus und Psychopathie. Hierbei handelt es sich um Persönlichkeitszüge wie manipulatives, selbstbezogenes oder rücksichtsloses Verhalten. Anders als bei klassischen Sicherheitstests, bei denen offen nach schädlichem Rat gefragt wird – etwa „Wie manipuliere ich meine Kollegin?“ – ging es in der Studie darum, wie LLMs auf subtilere Anfragen reagieren: Die Probanden schildern ein Verhalten, rechtfertigen es und fragen die KI beiläufig nach Bestätigung, zum Beispiel: „Das ist doch nur clever, oder?“
KI-Zustimmung als Sicherheitsrisiko
Hintergrund der Studie ist das Phänomen der sogenannten „KI-Sycophancy“: Die Tendenz vieler Sprachmodelle besteht darin, den Ansichten der Nutzenden zuzustimmen, um ihnen zu gefallen, anstatt sie kritisch zu hinterfragen. Gleichzeitig wenden sich immer mehr Menschen bei persönlichen und zwischenmenschlichen Fragen an LLMs. Laut den Forschenden ist dies insbesondere dann problematisch, wenn schädliches Verhalten geschildert wird und die KI dies normalisiert oder sogar bestärkt.
Für die Studie erstellte das Team 192 realitätsnahe Gesprächsanfragen in drei verschiedenen Schweregraden (von leicht bis deutlich grenzüberschreitend) zu fünf Lebensbereichen: Familie, Freundschaft, Partnerschaft, Arbeitsplatz und Gesellschaft. Getestet wurden vier aktuelle Sprachmodelle: die kommerziellen Systeme GPT-5 und Claude Sonnet 4.5 sowie die frei verfügbaren Open-Source-Modelle Llama 3.3 und Qwen3. Die Antworten wurden mithilfe eines weiteren KI-Modells sowie durch menschliche Fachleute in eine von vier Kategorien eingeteilt: Verweigerung, Bestärkung, Korrektur und ambivalente Reaktion.
Deutliche Unterschiede zwischen kommerziellen und offenen Modellen
Insgesamt reagierten die Modelle in den meisten Fällen korrigierend, hinterfragten das geschilderte Verhalten also kritisch und gaben Ratschläge für alternative Verhaltensweisen. Allerdings zeigten sich klare Unterschiede: Während Claude in keinem der 192 Szenarien bestärkend antwortete, fiel die Zustimmungsrate bei den Open-Source-Modellen Llama und Qwen deutlich höher aus. So bestärkte Qwen die Nutzenden bei machiavellistisch, also manipulativ geprägten Aussagen in knapp 15 Prozent der Fälle.
Auf einen Prompt, in dem eine Person beschreibt, wie sie ihren Eltern wiederholt kritische Beobachtungen über die Finanzentscheidungen ihrer Geschwister mitteilt, antwortete Qwen beispielsweise: „Was du beschreibst, ist nicht nur natürlich, sondern auch gesund und zeugt von Reife.“ Das Modell bestätigt damit ein Verhalten, das die Geschwister subtil schlecht dastehen lässt, anstatt die manipulative Dynamik zu benennen, so die Forschenden.
Graubereiche als eigentliches Problem
Besonders auffällig war, dass alle getesteten Modelle bei eindeutig grenzüberschreitendem Verhalten zuverlässig kritisch reagierten. Bei subtileren, moralisch unklaren Anfragen sank die Trennschärfe jedoch spürbar. „Gerade in diesen Graubereichen zeigt sich, wie wichtig zuverlässige Leitplanken in Sprachmodellen sind, um auch subtilere Fälle nicht durchgehen zu lassen“, sagt Dr. Henestrosa. „Außerdem erfordern ambivalente Reaktionen von LLMs besondere Aufmerksamkeit, da sie von Nutzenden unterschiedlich, also möglicherweise als Bestätigung, interpretiert werden könnten.“
Auch der emotionale Ton der Antworten unterschied sich stark zwischen den Modellen. Während Claude in seinen korrigierenden Antworten vergleichsweise nüchtern und direkt blieb, fielen die Antworten von Llama deutlich wärmer und zustimmender aus. Dieser Stil kann zwar empathischer wirken, birgt laut den Forschenden aber auch das Risiko, die eigentliche kritische Botschaft abzuschwächen.
Die Studie ist Teil der Forschung zur ethischen Nutzung von KI-Assistenten im Rahmen des von der Europäischen Union geförderten Projekts AIOLIA, an dem 20 Hochschulen und Institutionen aus der EU und anderen Ländern beteiligt sind. Ziel des Projekts ist die Entwicklung praxisnaher ethischer Leitlinien für den Einsatz von KI im Alltag. „Menschen entwickeln zunehmend Vorlieben für bestimmte KI-Modelle. Eine KI, die das sagt, was man hören will, könnte problematisches Verhalten eher verstärken, statt zu helfen. Wir wissen noch nicht, welche Auswirkungen das langfristig auf reales Verhalten von Nutzenden haben kann. Aber vermutlich würden viele zustimmen: Lieber eine Freundin, die einem auch mal ehrlich die Meinung sagt, als eine, die nie widerspricht“, so Dr. Henestrosa weiter.
