Flüssigkeits-TäuschungFluency blindness

Je glatter eine KI-Antwort klingt, desto eher halten wir sie für wahr und desto weniger prüfen wir, worauf es ankommt. Der glatte Klang sagt aber nichts darüber, ob sie stimmt.

The smoother an AI answer sounds, the more readily we treat it as true and the less we check what matters. But the smooth sound says nothing about whether it is true.

Jemand aus deinem Freundeskreis sagt einen Satz so glatt, dass du ihn eher für wahr hältst und weniger nachprüfst, ob die eine Sache, auf die es ankommt, wirklich stimmt. Bei einer Programm-Antwort kann derselbe glatte Wortlaut dich eine benannte Eigenschaft weniger prüfen lassen, weil die Form wahr wirkt.

A friend says a sentence so smoothly that you treat it as more true and check less whether the one thing that matters really holds. With a program answer, that same smooth wording can make you check a named property less, because the form feels true.

Der Zustand über eine angegebene Reihe von mindestens zwei Prüfvorgängen einer Person, in dem die Prüfrate einer benannten Eigenschaft bei Ausgaben oberhalb einer angegebenen Schwelle sprachlicher Flüssigkeit niedriger ist als bei Ausgaben auf oder unter dieser Schwelle, auf einer genannten Skala, bei Ausgaben, die in einem angegebenen Genauigkeitsmaß innerhalb einer angegebenen Toleranz gleich sind.

The state, across a stated series of at least two review episodes by one person, in which the rate of checks of one named property is lower for outputs above a stated fluency threshold than for outputs at or below that threshold, on one fluency scale, among outputs matched on a stated accuracy measure within a stated tolerance.

Verarbeitungsflüssigkeit als höheres Wahrheitsurteil ist der Effekt bei Reber und Schwarz (1999); der Nachweis hier ist die niedrigere Prüfrate bei höherer sprachlicher Flüssigkeit. Im Unterschied zum Illusionseffekt der Wahrheit (Hasher, Goldstein und Toppino, 1977) ist keine Wiederholung einer Aussage erforderlich. Im Unterschied zur zweiten Fähigkeit ist dieser Zustand nicht das Können, eine benannte Eigenschaft zu beurteilen. „Blindheit“ ist im englischen Namen bildlich für eine niedrigere Prüfrate gebraucht und bezieht sich nicht auf eine Sehbehinderung.

Processing fluency as a higher judgement of truth is the effect in Reber and Schwarz (1999); the record here is the lower check rate at higher fluency. Unlike the illusory truth effect (Hasher, Goldstein and Toppino, 1977), repetition of a statement is not required. Unlike the second skill, this state is not the ability to judge one named property. Blindness is used figuratively for a lower check rate and does not refer to visual impairment.

Processing fluency and judgements of truth are described by Reber and Schwarz (1999). The illusory truth effect is Hasher, Goldstein and Toppino (1977). This entry records a lower check rate above a stated fluency threshold across a series, with accuracy matched within a stated tolerance. No conformity to those works is claimed. This record evaluates an identified person's performance, reliability or ability and is profiling under GDPR Art. 4(4); in employment or education it needs a legal basis under Art. 6 and Art. 88 and, in Germany, co-determination under BetrVG § 87(1) No. 6 and § 94, and it must not be the sole basis of a decision about that person (Art. 22). It does not assess, rank or diagnose the person, is not an assessment of competence, honesty or authorship, and is not for assessing individuals; prefer pseudonymised or aggregated records.

Names a series of reviews in which a named property is checked less often for outputs above a stated fluency threshold than for matched outputs at or below it; for use on staff, record pseudonymised or aggregated series. It is not for monitoring or evaluating workers or learners.