Eine neue Studie des University College London und der kanadischen University of Waterloo zeigt, dass Menschen KI-Antworten für deutlich präziser und verlässlicher halten, als sie tatsächlich sind. Bei einem neuen Experiment stuften Teilnehmende generierten KI-Output auch dann als kompetent ein, wenn er nachweislich falsch lag. Die Forschenden nennen das den „Kompetenz-Bias“ bei generativen Systemen. Klingt nach Wissenschaft, aber ist in Wahrheit eine sehr praktische Warnung für alle, die KI heute im Tagesgeschäft einsetzen.
Was die neue Studie zeigt (und was nicht)
Der Kern der Studie, die im Communications Psychology veröffentlicht wurden, in einem Satz:
KI-Output wirkt auf uns souverän, auch wenn er sachlich daneben liegt.
Die Studienteilnehmenden vertrauten den generierten Antworten in einem Maß, das nicht zur tatsächlichen Treffsicherheit passte. Der Stil schlägt die Substanz. Genau das macht die Sache für Unternehmen riskant.
Was die Studie nicht zeigt, ist allerdings genauso wichtig. KI ist nicht generell unzuverlässig. Sie macht Fehler, die Menschen …
- schwer erkennen
- systematisch unterschätzen
Beides zusammen ergibt eine Konstellation, in der Vertrauen und Realität auseinanderlaufen.
Kompetenz-Bias in unserer Diginauten-Praxis
In unseren Beratungsgesprächen taucht der Kompetenz-Bias jede Woche auf, nur unter anderen Namen. Was glatt klingt, wird seltener hinterfragt. Egal, ob im Marketingtext oder in der Kundenmail.
Drei typische Situationen, in denen der Bias am häufigsten durchschlägt:
- Kundenmails: Eine KI formuliert glatt und freundlich, also wirkt der Inhalt sofort vertrauenswürdig. Dass die enthaltene Aussage zur Lieferzeit nicht stimmt, fällt erst auf, wenn der Kunde reklamiert.
- Pitch-Texte und Angebote: Selbstbewusst formulierte Verkaufstexte werden seltener hinterfragt. Wenn die KI eine Referenz erfindet oder eine Funktion behauptet, die es nicht gibt, geht das im professionellen Tonfall unter.
- Strategie-Papiere und Marktanalysen: Lange, gut strukturierte Texte mit Aufzählungen und Zwischenüberschriften wirken wie das Ergebnis sauberer Recherche. Die fehlende Quellenangabe fällt nur jemandem auf, der sie aktiv sucht.
In allen drei Fällen ist nicht die KI das Problem, sondern das fehlende Review.
Drei Lehren aus dem Kompetenz-Bias
Es gibt für uns zusammengefasst drei Lehren, die wir und damit auch Sie daraus ziehen können. Kurz gesagt: Was plausibel klingt, muss nicht wahr sein. Außerdem sollten Sie immer zusätzlich eine „echte Person“ an die Ergebnisse setzen, die diese verifiziert. Dazu die eigene Markenstimme und es kann (fast) nichts mehr schiefgehen.
1. Plausibilität ist nicht Wahrheit
Die wichtigste Konsequenz aus der Studie:
Was glatt klingt, ist nicht automatisch richtig.
Wir empfehlen unseren Kundinnen und Kunden, vor jeder externen Verwendung eines KI-Outputs zwei einfache Prüffragen zu stellen.
- Stimmt das wirklich?
- Woher weiß ich das?
Wenn die zweite Antwort „weil die KI das gesagt hat“ lautet, ist der Text nicht freigabefähig. Im Alltag bedeutet das einen zweistufigen Workflow. Erst Generierung, dann gezielte Prüfung der Fakten und Quellen. Das klingt aufwendig, dauert in der Praxis aber selten länger als zehn Minuten pro Text, sobald die Routine sitzt. Wir unterstützen Sie als externe QA gerne bei diesen Schritten.
2. Reviewer first, Promptengineer second
Viele Unternehmen investieren in Prompting-Schulungen. Das ist gut, aber nicht genug. Wir bei den Diginauten beobachten, dass die größte Qualitätssteigerung nicht aus besseren Prompts kommt, sondern aus besserem Review.
Was wir konkret empfehlen:
- Jeder KI-Output, der nach außen geht, durchläuft mindestens ein menschliches Auge.
- Diese Person achtet bewusst auf den Kompetenz-Bias, nicht nur auf Sprache.
- Faktencheck wird zur Standardroutine, nicht zur Ausnahme.
Wer 2026 KI in der Kundenkommunikation einsetzt, braucht nicht nur Promptkompetenz, sondern auch Review-Kompetenz. Letztere wird in den meisten Teams gerade massiv unterschätzt.
3. Markenstimme als Korrekturanker
Der dritte Punkt ist auch gleichzeitig der subtilste. Wenn eine KI souverän formulierte Antworten liefert, übernehmen Menschen sie tendenziell unverändert. Die Marke verliert dadurch genau das, was sie eigentlich auszeichnet: Ihre eigene Stimme.
Eine klar dokumentierte Markenstimme wirkt hier als doppelter Schutz. Sie macht sichtbar, wo eine KI generisch formuliert und sie zwingt zur Überarbeitung. Wer seine Stimme kennt, fällt nicht auf glatten Standard rein.
Der Kompetenz-Bias trifft am härtesten dort, wo es keine Markenstimme gibt, an der sich KI-Output messen lassen muss.
Was das für Ihre Texte heißt
Wenn Sie heute KI in der Content-Erstellung oder in der Kundenkommunikation einsetzen, dann ist die Studie kein Grund zur Panik. Sie ist ein Grund, drei Dinge anders zu machen.
- Fakten getrennt von Formulierung prüfen: Erst der Inhalt, dann der Stil.
- Review-Verantwortung benennen: Eine Person pro Text, klar zugeordnet.
- Markenstimme dokumentieren: Damit jeder im Team merkt, wenn die KI generisch wird.
Klingt einfach und am Ende ist es das auch. Genau deswegen wird es in der Praxis aber auch gerne unterschätzt.
Wir bei den Diginauten begleiten Sie gerne bei diesem Übergang. Vom „die KI hat das gemacht“ zu „wir haben es freigegeben“. Genau das macht am Ende den Unterschied.
