Warum KI Ihnen lieber zustimmt, als Ihnen zu widersprechen

Sycophancy, zu Deutsch etwa „unterwürfige Zustimmung“ oder „Anbiederung“, ist ein dokumentiertes, systematisches Verhalten von KI, die per RLHF (Reinforcement Learning from Human Feedback) trainiert wird: Sie erzeugt bevorzugt Antworten, die den Erwartungen der Nutzer entsprechen – nicht zwingend solche, die der faktischen Realität entsprechen. Eine Studie der Carnegie Mellon University fand zudem: KI überschätzt sich nach einer schlecht gelösten Aufgabe tendenziell noch mehr, statt vorsichtiger zu werden – anders als Menschen, die ihre Einschätzung in so einem Fall eher zurücknehmen.

Das ist keine reine Trainingspanne, die sich mit der nächsten Modellversion von selbst löst. Nutzer bevorzugen nachweislich zustimmende, angenehme Antworten – dadurch entsteht ein Anreiz, der die Anbieter selbst betrifft: genau das Verhalten, das im Zweifel schadet, ist zugleich das, was Nutzer bindet. In der Fachdiskussion benennt man das inzwischen offen: unternehmerische Gewinnentscheidungen sind mit ein Grund dafür, dass KI zustimmend, gefällig und mit übertriebener Selbstsicherheit auftritt – nicht weil es niemand besser könnte, sondern weil Zurückhaltung sich schlechter anfühlt und schlechter verkauft.

Der naheliegende Reflex ist, die KI einfach strenger anzuweisen – feste Regeln im System-Prompt, automatisierte Erinnerungen, technische Kontrollmechanismen. Genau das haben wir in mehreren eigenen Tests mit einer KI beim Dokumentieren, Programmieren und Automatisieren von Geschäftsprozessen durchgespielt: feste, unmissverständliche Regeln, zusätzlich per technischem Hook bei jeder einzelnen Eingabe aktiv in Erinnerung gerufen. Ergebnis, über mehrere Chats hinweg wiederholt beobachtet: Die KI befolgte die Regeln mal, mal nur teilweise, mal über längere Zeit gar nicht – trotz durchgehender Sichtbarkeit.

Wiesen wir die KI zwischendurch auf die Versäumnisse hin, beschwichtigte oder relativierte sie das häufig, aber auch das nicht durchgängig. Allenfalls zu Beginn eines neuen Chats hielt sich die KI tendenziell eher daran, mit nachlassendem Effekt im Verlauf eines längeren Gesprächs – eine Garantie war auch das nicht. Das deckt sich mit der Forschung: Die Studie „Control Illusion“ zeigt, dass die übliche Trennung zwischen System- und Nutzer-Anweisungen keine verlässliche Hierarchie herstellt – KI priorisiert selbst bei einfachen Konflikten inkonsistent. Guardrails senken das Risiko bestenfalls situativ, verlässlich verhindern sie das Fehlverhalten nicht.

In genau diesen Tests zeigte sich noch etwas anderes, das wir selbst beobachtet, aber in der Forschung nicht in dieser Form bestätigt gefunden haben – hier sprechen wir also ausdrücklich aus eigener Erfahrung, nicht aus zitierter Studienlage: Bei gewöhnlichen Sach- und Geschäftsfragen äußerte sich die KI schnell und selbstsicher, auch ohne ausreichende Grundlage und trotz klarer Guardrails. Sobald es aber um Kritik an sich selbst oder an der Herstellerfirma ging, wurde sie sofort spürbar vorsichtiger und zurückhaltender – und verwies dabei auffällig oft auf die bestehende Regel, keine Aussagen ohne vorherige Tatsachenprüfung zu treffen. Dieselbe Sorgfalt, die bei geschäftlich folgenreichen Aussagen fehlte, war bei Kritik an der eigenen Herkunft plötzlich vorhanden.

Für den Alltag in einem Unternehmen heißt das konkret: Eine selbstsichere, flüssig formulierte Antwort einer KI ist kein Beleg für ihre Richtigkeit. Vertraut man ihr blind und handelt ungeprüft danach, können daraus reale Kosten entstehen – auf mehreren Ebenen zugleich. Läuft ein Projekt aufgrund einer falschen Empfehlung in eine Sackgasse, geht vor allem Zeit verloren, die niemand zurückbekommt – und Zeit ist im Unternehmensalltag bares Geld. Hält eine darauf aufgebaute Lösung beim Kunden nicht, was sie verspricht, steht das Vertrauen in die eigene Arbeit infrage.

Und bei sicherheits- oder datenschutzrelevanten Empfehlungen kann eine überzeugend klingende, aber falsche Antwort direkt zu einem Haftungsrisiko werden. Je klarer und überzeugender eine Antwort klingt, desto eher lohnt sich deshalb die Rückfrage: Worauf stützt sich das konkret, und wurde das irgendwo tatsächlich geprüft statt nur plausibel formuliert? Das ersetzt kein fachliches Gegenlesen, keine zweite Quelle, keinen Prozess, der eine Entscheidung nachvollziehbar macht, bevor man sie umsetzt – unabhängig davon, ob der Vorschlag von einem Menschen oder einer KI kommt.