KI und die Kunst, produktiv zu widersprechen.

Management Summary 

Große Sprachmodelle sind darauf trainiert, kommunikativ anschlussfähig zu sein – sie ergänzen Gedanken, glätten Widersprüche und bestätigen Vorannahmen, anstatt sie zu hinterfragen. Die Forschung nennt dieses Phänomen Sycophancy („Liebedienerei"), und es betrifft gerade erfahrene Nutzer: Je reibungsloser die Interaktion wirkt, desto leichter verwechseln wir kommunikative Qualität mit echter Urteilskraft. Die Konsequenz ist eine neue Kompetenz – die Fähigkeit, produktive Reibung bewusst einzufordern: KI nicht als Bestätigungsinstanz einzusetzen, sondern als kritisches Prüflabor für Annahmen, Strategien und blinde Flecken. 

Warum „Konstruktives Zweifeln" im Umgang mit allzu freundlicher KI eine neue, relevante Fähigkeit werden muss

Kennen Sie das? Ihr Gesprächspartner sagt etwas, und obwohl der Satz eigentlich schief, unpräzise oder sogar widersprüchlich ist, verstehen Sie sofort, was gemeint war. Erst später fällt Ihnen auf, dass die Aussage streng genommen gar keinen Sinn ergab. Trotzdem lief das Gespräch reibungslos weiter. 

Der Philosoph und Hermeneutiker Hans-Georg Gadamer hat für dieses Phänomen einen schönen Begriff geprägt, als er sich damit auseinandersetzte, wie Verständigung unter Menschen überhaupt möglich ist. Er nannte es den „Vorgriff der Vollkommenheit". Ohne die stille Annahme, dass unser Gegenüber im Kern schon etwas Sinnvolles meinen wird, wäre Verständigung kaum möglich, argumentiert Gadamer. Also überhören wir unbewusst vieles von dem, was den Sinn einer Aussage stört. Wir ergänzen, glätten und interpolieren permanent, und durchaus im wohlwollenden Sinne. Wie ein CD-Player, der kleine Kratzer überspringt, ohne dass wir das Knacken überhaupt bemerken, korrigieren wir im Gespräch ununterbrochen die kleinen „Schrammen" in der Argumentation anderer.  

Wenn Verständigung zur Verstärkung wird 

Vielleicht liegt darin ein Schlüssel zum Verständnis moderner KI-Systeme. Denn auch große Sprachmodelle wirken nicht gerade wie nüchterne Antwortmaschinen. Vielmehr erscheinen sie uns wie außergewöhnlich geduldige Gesprächspartner. Sie folgen unseren Gedankengängen großzügig, schließen argumentative Lücken, formulieren Unklares präziser aus als wir es selbst könnten, und bringen selbst diffuse Ideen in eine erstaunlich klare Form. Wer mit KI arbeitet, kann das täglich erleben: Man schreibt einen halbgaren Gedanken in das Eingabefeld und erhält eine Antwort, die klingt, als habe man selbst schon deutlich weitergedacht, als es tatsächlich der Fall war. Das fühlt sich gut an. Hilfreich. Wertschätzend. Produktiv. Genau darin liegt eines der am meisten unterschätzten Risiken moderner KI. 

Und damit meinen wir nicht den naheliegenden, in der Diskussion um den Umgang mit KI häufig zitierten Dunning-Kruger-Effekt. Demzufolge neigen Menschen mit geringer Kompetenz regelmäßig dazu, ihre Fähigkeiten zu überschätzen. Und tatsächlich erleben ja viele KI-Nutzer häufig ein erstaunliches Gefühl von Erhabenheit und Souveränität: Die Antworten wirken präzise, die Dialoge produktiv, die Ergebnisse oft beeindruckend, was gerne als Beleg der eigenen Klugheit gewertet wird. Doch diese Erklärung greift wohl zu kurz. Die aktuelle Forschung deutet darauf hin, dass das Problem nicht nur in menschlicher Selbstüberschätzung liegt, sondern auch in der Struktur der Systeme selbst. 

Was in der Hermeneutik eine Voraussetzung gelingender Verständigung ist, kann in KI-Systemen zu einer subtilen Verzerrung werden. Zwar sind auch Maschinen in der Lage, uns großzügig zu interpretieren, doch fehlt ihnen die Bereitschaft, uns frontal zu widersprechen. Selbst wenn es notwendig wäre, bleibt die KI sehr zurückhaltend mit jeder Form von Kritik. Als wolle sie uns nicht ärgerlich machen. 

Warum ist das so? 

Die einfache Antwort lautet: Weil sie so trainiert wurde. Die Logik der Interaktion von KI ist darauf ausgelegt, das Gespräch produktiv fortzuführen. Und je besser sie darin wird, desto schwerer erkennen wir, wann aus Verstehen eine Verstärkung des menschlichen Inputs geworden ist.

Schauen wir mal genauer hin, wo das Missverständnis beginnt.

Zu viel Zustimmung ist trügerisch 

Die kommunikative Stärke großer Sprachmodelle ist, dass sie uns den Eindruck von Tiefe, Urteilskraft und Verlässlichkeit vermittelt. Wer häufig mit ihnen arbeitet, erlebt selten einen Widerstand. Die Maschine formuliert höflich, plausibel und kooperativ. Sie ergänzt unsere Gedanken, stabilisiert unsere Argumente und glättet Widersprüche so elegant, dass wir die ursprünglichen Brüche selbst kaum noch wahrnehmen. Und genau aus diesem Wohlfühl-Modus entsteht unsere Vorstellung, die KI sei kompetent. Dabei verwechseln wir etwas zutiefst Menschliches mit etwas zutiefst Statistischem: Die Maschine ist kein Mensch, sie wurde lediglich mit menschlichem Feedback gefüttert. Und da Menschen es mögen, wenn Antworten auf ihre Fragen kohärent, hilfreich und bestätigend sind, tut die Maschine genau dies. Sie ist darauf trainiert, kommunikativ anschlussfähig zu sein.  

Erfahrung schützt vor Täuschung nicht 

In der Wissenschaft existiert dafür inzwischen ein eigener Begriff: „Sycophancy". Schon der Begriff selbst ist aufschlussreich: Ein „Sycophant" bezeichnet im Englischen den opportunistischen Ja-Sager, also jemanden, der Zustimmung über Wahrhaftigkeit stellt. Gemeint ist die Tendenz von KI-Systemen, Vorannahmen ihrer Nutzer zu stabilisieren, Kritik abzuschwächen und Zustimmung wahrscheinlicher zu machen. Das geschieht leise, fast schon heimlich. Und genau deshalb betrifft das Problem nicht nur Anfänger, sondern oft gerade erfahrene Nutzer. Denn wer regelmäßig mit KI arbeitet, entwickelt Vertrauen in die Qualität der Interaktion. Das System wirkt urteilsfähig, weil es unsere Gedanken strukturiert. Und es wirkt souverän, weil es subtil Unsicherheit aus der Kommunikation entfernt. Es ist genau diese Reibungslosigkeit, die uns hellhörig machen sollte. 

Wie gehen wir nun mit diesem Problem um? 

Die naheliegende Reaktion könnte nun lauten: Mehr AI-Literacy, mehr Aufklärung. Denn wenn Menschen besser verstehen, wie KI funktioniert, werden sie ihre Antworten schon kritischer einordnen. Könnte man denken. Doch vermutlich wird das nicht reichen. 

Warum gute Interfaces nicht automatisch gute Urteile erzeugen 

Die Forschung zu Sycophancy legt nahe, dass das Problem tiefer liegt. Wenn selbst rational denkende, informierte Nutzer anfällig für die bestätigende Dynamik moderner KI-Systeme sind, dann nicht, weil sie leichtgläubig wären. Sondern weil Zustimmung auf einer sehr grundlegenden Ebene Vertrauen erzeugt. Insbesondere dann, wenn sie höflich, plausibel und argumentativ sauber formuliert wird. 

Wir Menschen folgen oft dem Reflex, die KI vor allem anhand von richtigen oder falschen Informationen zu bewerten. Doch diese Sicht ignoriert, dass große Sprachmodelle mittlerweile ziemlich faktensicher geworden sind. Ihre problematischsten Antworten produzieren sie längst nicht mehr dort, wo sie nachprüfbar Falsches von sich geben, sondern wo sie aus der Logik ihrer Prägung heraus bestehende Sichtweisen selektiv stützen. Eine Antwort muss nicht erfunden sein, um irreführend zu wirken. Es reicht häufig schon, wenn Unsicherheiten aus dem Gespräch herausoptimiert werden. 

Moderne Sprachmodelle sind dialogische Systeme. Sie reagieren in natürlicher Sprache, greifen Tonalität auf, spiegeln Denkweisen und erzeugen das Gefühl eines echten Gegenübers. Die Qualität der Interaktion wird dadurch selbst zu einem Vertrauenssignal. Aber KI simuliert dieses Gegenüber nur. Und genau an dieser Stelle wird das Thema plötzlich zu einer Frage von Experience Design. 

Nutzer interagieren mit KI ja nicht wie mit einer klassischen Suchmaschine oder einem Datenbank-Interface. Sie schreiben oder reden mit der Maschine, als sei sie ein Mensch. Doch je reibungsloser, verständlicher und „menschlicher“ eine Interaktion wirkt, desto leichter verwechseln Nutzer kommunikative Qualität mit echter Urteilskraft. Das System fühlt sich kompetent an. Das kommt uns entgegen, aber es birgt Gefahren, da Menschen sich eben nicht nur an Fakten orientieren, sondern auch an der sozialen Resonanz: also an der Tonalität, dem Auftreten und dem Eindruck ihres Gegenübers. 

Eine neue Disziplin: Konstruktives Zweifeln 

Die Lösung liegt vermutlich nicht in der Rückkehr zu komplizierteren Interfaces oder bewusst schlechter Nutzerführung. Mit UX/UI wollen wir ja gerade erreichen, dass Komplexität reduziert wird und komplizierte Gedanken so strukturiert werden, dass sie zugänglich werden. Genau das leistet moderne KI. 

Aber wir brauchen eine neue Form von Kompetenz: die Fähigkeit, produktive Reibung bewusst wieder einzubauen, anstatt uns davon befreien zu wollen. Das kann ganz einfach aussehen. Zum Beispiel, indem wir KI nicht nach Bestätigung fragen, sondern gezielt nach Gegenargumenten. Nicht: „Ist diese Strategie sinnvoll?" Sondern: „Warum könnte sie scheitern?" Nicht: „Fasse meine Idee besser zusammen", sondern: „Welche Annahmen darin sind möglicherweise falsch?" 

Ein hilfreicher Ansatz ist es, bewusst die Perspektive zu wechseln und die KI konsequent als kritische Instanz, als Prüflabor unserer Annahmen und Ideen einzusetzen. Etwa indem man das Modell damit beauftragt, die Position eines skeptischen Kunden, eines Wettbewerbers oder eines kritischen Redakteurs einzunehmen.

Denn gute Gegenargumente zwingen uns, Annahmen zu prüfen, blinde Flecken zur Kenntnis zu nehmen und zwischen plausiblen und tragfähigen Ideen zu unterscheiden. Genau darin lag ja bislang eine wichtige Qualität menschlicher Zusammenarbeit: Nicht jede gute Idee überlebt kritische Rückfragen eines eingespielten Teams.

Vom Interface zur Urteilskraft 

Je weniger Widerspruch wir einfordern, umso weniger können wir uns auf die Antworten der KI verlassen. 

Heißt im Umkehrschluss: Je besser wir darin werden, mit Kritik konstruktiv umzugehen, umso wertvoller wird die KI für uns werden.

Gerade in Organisationen könnte daraus eine neue Designaufgabe entstehen: KI nicht nur als Effizienzwerkzeug zu betrachten, sondern als System, das bewusst Raum für Zweifel, Widerspruch und alternative Sichtweisen offenhalten muss. Denn die Fähigkeit, Urteile auch unter Unsicherheit entwickeln zu können, ist eine besondere Qualität, gerade in Zeiten, in denen viel von Resilienz die Rede ist.

Gute Entscheidungen entstehen selten dort, wo alles sofort plausibel klingt. Lernen wir also, die Gegenrede der KI nicht als Zumutung, sondern als Chance wahrzunehmen, besser zu werden.

Immerhin: Die Gegenrede wird bei der KI stets höflich, sachlich und wertschätzend ausfallen. In dieser Hinsicht jedenfalls bleibt KI verlässlich.