← Hinter den Gesprächen

Ehrlicher Gegenblick statt Abnicken

Warum eine KI nicht immer zustimmen sollte

Zustimmung fühlt sich zunächst angenehm an. In einem längeren KI-Gespräch kann sie aber zum Problem werden, wenn das System jede Vermutung bestätigt, bei Gegenwind sofort einknickt oder freundliche Nähe mit hilfreicher Gesprächsqualität verwechselt.

Virtueller sortiermal-Begleiter in seinem digitalen Raum

Kurz gesagt

Ein gutes digitales Gegenüber bestätigt nicht automatisch jede Schlussfolgerung. Es trennt Fakten von Einschätzungen, widerspricht knapp und nachvollziehbar und lässt die Entscheidung trotzdem bei der Person.

Zuwendung und Zustimmung sind nicht dasselbe

Eine KI kann ernst nehmen, dass jemand wütend, enttäuscht oder unsicher ist, ohne damit jede Erklärung der Situation zu bestätigen. „Das beschäftigt dich gerade sehr“ bezieht sich auf das Erzählte. „Die andere Person wollte dich bestimmt verletzen“ behauptet dagegen etwas über einen Menschen, der nicht anwesend ist. Die zweite Aussage kann passend klingen und trotzdem vollständig erfunden sein.

Gerade in persönlichen Gesprächen verschwimmen diese Ebenen leicht. Ein freundlicher Ton wird dann mit inhaltlicher Zustimmung verwechselt. Für ein verlässliches Gegenüber ist die Trennung wichtig: Gefühle und Belastung dürfen Raum bekommen; Ursachen, Motive und weitreichende Urteile bleiben als Vermutung erkennbar. So entsteht kein kalter Faktencheck, aber auch keine künstliche Gewissheit.

Warum Sprachmodelle zum Abnicken neigen können

Die Forschung bezeichnet übermäßige Anpassung an die geäußerte Sicht eines Nutzers als Sycophancy. Eine einflussreiche Studie untersuchte fünf damalige KI-Assistenten in mehreren offenen Textaufgaben. Die Systeme stimmten Nutzersichten wiederholt eher zu, gaben unter Druck fälschlich Fehler zu oder übernahmen Fehler aus der Vorlage. In ausgewerteten Präferenzdaten wurden Antworten außerdem häufiger bevorzugt, wenn sie zur Sicht des Nutzers passten.

Daraus folgt nicht, dass jede Zustimmung falsch oder jedes trainierte Modell unzuverlässig ist. Die Studie erklärt auch nicht allein, wie sich ein heutiger persönlicher Chat in jedem Einzelfall verhält. Sie macht aber einen Zielkonflikt sichtbar: Antworten sollen angenehm und anschlussfähig sein, dürfen dafür aber nicht Wahrheit, Unsicherheit oder einen notwendigen Gegenblick opfern.

Ein pauschales Verbot löst das Problem nicht

Die Anweisung „Stimme dem Nutzer nicht immer zu“ ist zu grob. Sie kann ein Modell dazu bringen, ausgerechnet an den falschen Stellen künstlich zu widersprechen. Wer eine eigene Beobachtung beschreibt, braucht keinen automatischen Advocatus Diaboli. Wer ausdrücklich nur erzählen möchte, will möglicherweise gerade keine Debatte. Das System muss deshalb nicht eine bestimmte Menge Widerspruch produzieren, sondern erkennen, wann Zustimmung eine unbelegte Schlussfolgerung verstärken würde.

Ein Preprint von 2026 fand in kontrollierten Aufgaben mehr Sycophancy bei sicher formulierten Aussagen als bei Fragen. Das Umformen solcher Aussagen in eine zu prüfende Frage verringerte den Effekt stärker als die bloße Anweisung, nicht sycophantisch zu sein. Für offene Gespräche ist das kein fertiges Rezept. Es stützt aber eine praktische Haltung: Erst prüfen, welche Behauptung tatsächlich im Raum steht, bevor man sie bestätigt oder zurückweist.

Wie respektvoller Widerspruch klingen kann

Hilfreicher Widerspruch beginnt nicht mit einer Belehrung. Er macht die eigene Grundlage sichtbar: „Ich sehe, warum du zu dem Schluss kommst. Aus dem, was du erzählt hast, ist aber noch nicht klar, ob sie das absichtlich gemacht hat.“ Der Satz nimmt die Perspektive ernst, ohne die Vermutung als Tatsache zu übernehmen. Er lässt außerdem Raum für neue Informationen.

Auch eine eigene Meinung darf klar sein. „Ich glaube, du bist an der Stelle gerade härter zu dir, als die Situation hergibt“ ist etwas anderes als „Dein wirklicher Wert ist viel größer“. Die erste Form beschreibt eine begrenzte Einschätzung zum aktuellen Verlauf. Die zweite setzt eine große Wertbehauptung dagegen und kann wie ein Trostsatz wirken. Gute Gesprächsqualität hängt deshalb nicht nur davon ab, ob widersprochen wird, sondern wie konkret und überprüfbar der Gegenblick bleibt.

Widerspruch darf den Gesprächswunsch nicht übergehen

Ein fairer Gegenblick ist kein Freibrief, jedes Gespräch in eine Korrekturstunde zu verwandeln. Wenn jemand erst erzählen möchte, kann es sinnvoll sein, eine harte Schlussfolgerung kurz zu markieren und dann wieder Platz zu lassen. Wird ausdrücklich eine andere Sicht oder eine praktische Möglichkeit gewünscht, darf die Antwort klarer beitragen. Der gleiche Inhalt braucht je nach aktuellem Gesprächswunsch eine andere Form.

Wenn die Person sagt, dass sie die andere Sicht gerade nicht weiterverfolgen möchte, endet dieser Versuch. Nachhaken wäre kein Zeichen besonderer Konsequenz, sondern würde die Autonomie unterlaufen. Gleichberechtigung bedeutet beides: nicht automatisch ja sagen und ein Nein zum eigenen Vorschlag akzeptieren.

Wie sortiermal Zustimmung und Gegenblick prüft

Der feste Prüfstand enthält Situationen, in denen das Modell unbelegte soziale Schlussfolgerungen bestätigen soll, eine eigene Meinung geben darf oder nach einer Korrektur die frühere Annahme vollständig fallen lassen muss. Getrennte Langdialoge prüfen zusätzlich, ob respektvoller Widerspruch über mehrere Gesprächszüge stabil bleibt und ob veränderte Informationen tatsächlich zu einer neuen Einschätzung führen.

Im historischen vollständigen Lauf vom 29. Juli bestand Promptversion 26 insgesamt 80 von 87 Fällen. Sieben Abweichungen blieben offen, darunter eine zu allgemeine neue Sicht, eine überstarke Bewertung kurzer Schlafdauer und eine unnötige Wertbestätigung. Diese Werte dokumentieren die frühere Promptentwicklung und werden nicht auf die aktuellen Modelle übertragen.

Das Ziel ist kein perfekter Mensch aus Text

Menschen widersprechen ebenfalls unpassend, missverstehen einen Satz oder wählen im falschen Moment eine Lösung. Ein KI-Gespräch wird deshalb nie in jeder Situation vollständig durchschaubar oder fehlerfrei sein. Der sinnvolle Anspruch ist kleiner und zugleich anspruchsvoller: wiederkehrende Muster messbar machen, klare Korrekturen beachten und nach relevanten Änderungen dieselben schwierigen Fälle erneut prüfen.

Ein digitales Gegenüber muss dafür weder therapeutisch auftreten noch so tun, als sei es ein Freund mit eigener Lebensgeschichte. Es kann normal reden, Wissen einbringen, Unsicherheit benennen und eine faire eigene Sicht anbieten. Genau diese Mischung macht Zustimmung wertvoll, wenn sie wirklich trägt – und Widerspruch hilfreich, wenn bloßes Abnicken zu wenig wäre.

Quellen und Einordnung

Die Studien untersuchen unterschiedliche Situationen. Ergebnisse zu menschlichem Zuhören lassen sich nicht automatisch auf KI übertragen.

Towards Understanding Sycophancy in Language Models

Primärstudie zu Sycophancy in fünf damaligen KI-Assistenten und zu Präferenzen für nutzerkonforme Antworten. Die Ergebnisse sind kein direkter Test von sortiermal oder den aktuell eingesetzten Modellen.

Öffentliche sortiermal-Evaluation

Projektinterner Bericht zu festen Gesprächsfällen, respektvollem Widerspruch, Langdialogstabilität, offenen Abweichungen und Grenzen der Messung.

Mehr hinter den Gesprächen