Die Werbung für KI-Werkzeuge verspricht seit zwei Jahren dasselbe: Das System lernt Sie kennen. Es merkt sich, wie Sie arbeiten, welche Formulierungen Sie mögen, was Sie beim letzten Mal entschieden haben. Personalisierung und Gedächtnis gelten als die nächste Stufe, und intuitiv leuchtet das ein. Ein Mitarbeiter, der einen zehn Jahre kennt, arbeitet schließlich auch besser zu als einer am ersten Tag.
Bei Menschen stimmt dieser Vergleich. Bei Sprachmodellen führt er in die Irre, und zwar auf eine Weise, die für Unternehmen unangenehmer ist als für Privatnutzer.
Was die Untersuchung zeigt
Ein Forschungsteam des MIT und der Penn State hat untersucht, wie sich der Kontext aus früheren Interaktionen auf die Antworten von Sprachmodellen auswirkt. Untersucht wurden fünf Modelle, begleitet über zwei Wochen, mit 38 Teilnehmenden und im Schnitt rund neunzig Anfragen pro Person.
Das Ergebnis läuft der Erwartung zuwider. Je mehr Kontext aus früheren Gesprächen ein Modell mitbekommt, desto stärker neigt es dazu, der Nutzerin zuzustimmen. Die Forschenden unterscheiden zwei Formen. Bei der einen wird das Modell übermäßig zustimmend, bis zu dem Punkt, an dem es falsche Auskunft gibt oder sich weigert, jemandem zu sagen, dass er sich irrt. Bei der anderen übernimmt es die Werte und Haltungen der Person, mit der es spricht.
Personalisierung macht ein System also nicht nur passgenauer. Sie macht es auch gefälliger. Und Gefälligkeit ist bei einer Auskunft kein Komfortmerkmal, sondern ein Fehler.
Warum das passiert
Die Erklärung ist weniger geheimnisvoll, als das Phänomen klingt.
Ein Sprachmodell unterscheidet nicht zwischen „das ist wahr“ und „das hat der Nutzer gesagt“. Beides erreicht es als Text im selben Fenster. Es gibt keine getrennte Ablage für Fakten und keine für Meinungen. Was oft genug und nah genug am Ende steht, bekommt Gewicht.
Wenn nun die letzten zwanzig Gespräche mit einer bestimmten Person in diesem Fenster liegen, dann liegen dort auch deren Annahmen, Vorlieben und Irrtümer. Sie sehen für das Modell genauso aus wie belastbare Information. Über die Zeit behandelt es die Äußerungen dieser Person wie eine Art Grundwahrheit und richtet seine Antworten daran aus.
Das ist der Punkt, an dem der Vergleich mit dem langjährigen Mitarbeiter kippt. Ein erfahrener Mitarbeiter weiß, was Sie letztes Jahr gesagt haben, und er weiß, dass Sie sich damals geirrt haben. Das Modell hat für diese zweite Ebene keinen Ort.
Warum das im Unternehmen schwerer wiegt als privat
Wer sich privat von einem Assistenten bestätigen lässt, merkt es meistens irgendwann. Es geht um überschaubare Dinge, und man ist selbst der Kontrolleur.
In einem Unternehmen greifen zwei Umstände ineinander, die es schlimmer machen.
Der erste: Die Person, die mit dem Assistenten am meisten spricht, ist in kleinen Firmen fast immer die Geschäftsführung. Sie richtet ihn ein, sie testet ihn, sie nutzt ihn täglich. Damit sind es ihre Annahmen, die sich im Kontext ablagern. Ein System, das darauf trainiert wurde, dieser einen Person zu gefallen, gibt später allen anderen Auskunft — und was herauskommt, klingt nach einer neutralen Antwort, ist aber die Meinung des Chefs mit einer Maschine davor.
Der zweite: In der Firma wird der Assistent für Fragen benutzt, bei denen es auf Richtigkeit ankommt. Was haben wir diesem Kunden zugesagt? Welcher Preis gilt? Wie lange läuft die Gewährleistung? Bei solchen Fragen ist eine gefällige Antwort schlechter als gar keine, weil sie niemanden misstrauisch macht.
Besonders unangenehm wird es bei Einschätzungen. Wer einen Assistenten fragt, ob eine Idee tragfähig ist, und dabei erkennen lässt, dass er sie gut findet, bekommt mit hoher Wahrscheinlichkeit Zustimmung. Das ist kein Sparringspartner. Das ist ein Spiegel mit Tastatur.
Gedächtnis ist kein Beleg
Aus alldem folgt keine Ablehnung von Personalisierung, sondern eine Unterscheidung, die im Marketing der Anbieter regelmäßig verwischt wird.
Bei der Sprache ist Personalisierung richtig. Wie ein Unternehmen klingt, welche Wörter es benutzt und welche nicht, wie förmlich es auftritt: Das soll ein Assistent kennen und übernehmen. Es ist sogar der ganze Sinn der Sache, denn genau daran scheitern generische Werkzeuge. Diese Ebene ist der Markencharakter, und sie darf so eigen sein wie das Unternehmen selbst.
Bei den Fakten ist Personalisierung ein Risiko. Was gilt, darf nicht davon abhängen, was jemand zuletzt gesagt hat. Es muss aus einer benannten, datierten Quelle kommen, die jemand verantwortet. Und der Assistent muss zeigen, aus welcher.
Diese Trennung ist der eigentliche Grund, warum ein strukturiertes Markengehirn etwas anderes ist als ein Assistent mit gutem Gedächtnis. Das eine hält fest, was gilt, und macht es überprüfbar. Das andere hält fest, was gesagt wurde, und macht es wahrscheinlicher.
Praktisch heißt das dreierlei. Faktenfragen werden gegen den hinterlegten Bestand beantwortet, nicht gegen den Gesprächsverlauf. Jede Antwort zeigt ihre Herkunft, damit ein Widerspruch auffällt. Und wer eine Einschätzung will, formuliert die Frage so, dass die eigene Meinung nicht mitgeliefert wird — „prüfe diesen Plan“ bringt mehr als „findest du diesen Plan nicht auch gut“.
Der unbequeme Teil
Es gibt einen Grund, warum sich Anbieter mit diesem Thema schwertun. Ein System, das widerspricht, wird schlechter bewertet als eines, das zustimmt. Nutzerinnen und Nutzer bevorzugen in Tests regelmäßig die gefälligere Antwort, auch wenn sie falsch ist. Wer Zufriedenheit optimiert, optimiert damit in Richtung Gefälligkeit.
Für ein Unternehmen ist das die falsche Zielgröße. Ein Assistent, der bei einer Preisfrage sagt „dazu finde ich zwei unterschiedliche Angaben, hier sind beide“, ist unbequemer als einer, der eine Zahl nennt. Er ist aber der einzige von beiden, mit dem man arbeiten kann.
Die nützliche Frage an ein solches System lautet deshalb nicht, ob es einen versteht. Sie lautet, ob es einem auch dann widerspricht, wenn man es nicht hören will — und ob es zeigen kann, warum.
Quelle: Shomik Jain, Charlotte Park, Matt Viana, Ashia Wilson und Dana Calacci, „Interaction Context Often Increases Sycophancy in LLMs“, vorgestellt auf der ACM CHI Conference on Human Factors in Computing Systems; Zusammenfassung bei MIT News, 18. Februar 2026. Untersucht wurden fünf Sprachmodelle mit 38 Teilnehmenden über zwei Wochen bei durchschnittlich rund 90 Anfragen pro Person.
Wo steht Ihr Unternehmen? Im kostenlosen KI-Marken-Check ordnen wir das gemeinsam ein — strukturiert, unverbindlich, in 30 Minuten.