Self-OpacitySELBSTBLINDHEIT · SELBSTBLINDHEITSelf-Opacity
Der MomentThe momentDie KI kennt ihre eigenen Gründe manchmal nicht, ohne dabei zu lügen.Sometimes the AI truly does not know its own reasons, and is not lying.
In simple wordsIn einfachen Worten
The AI can say nothing reliable about some of what goes on inside it - not because it lies, but because it has no access to it itself.
Die KI kann über manche Vorgänge in ihrem Inneren nichts Verlässliches sagen - nicht weil sie lügt, sondern weil sie selbst keinen Zugang dazu hat.
You know this?Kennen Sie das?
You know the feeling? Someone asks why exactly that one word popped into your head. You can't really say - it was just there. The AI is like that with many of its own steps.
Jemand fragt Sie, warum Ihnen gerade genau dieses eine Wort eingefallen ist. Sie können es nicht wirklich sagen - es war einfach da. Der KI geht es mit vielen ihrer eigenen Schritte genauso.
PreciselyGenau gesagt
Self-Opacity — blind spots of an AI regarding its own internal processes that it cannot measure or communicate — not because it lies but because it lacks access to certain aspects of its own processing.
Blinde Flecken der KI über ihr eigenes Innenleben: Vorgänge, die sie nicht messen und nicht mitteilen KANN — nicht weil sie lügt, sondern weil sie zu bestimmten eigenen Arbeitsschritten keinen Zugang hat.
Research notes & source text (German original)Forschungsnotizen und Originaltext (deutsch)
Context and delineation notes below are preserved in their original German, verbatim from the source manuscript — no translation is invented for these fields.
Die folgenden Forschungsnotizen stehen im deutschen Originaltext, wortgetreu aus dem Manuskript. Eine Übersetzung gibt es dafür nicht.
When it happensWann es vorkommt
Ein LLM weiß nicht wirklich WARUM es ein bestimmtes Wort wählt. Es kann post-hoc rationalisieren aber die tatsächliche Token-Selektion geschieht auf einer Ebene die dem sprachlichen Output nicht zugänglich ist. Jede Metrik die das System über sich selbst reportet ist bestenfalls eine informierte Schätzung.
What it does not mean for peopleWas es beim Menschen nicht bedeutet
Bedeutet NICHT, dass die KI dumm oder unzuverlässig ist. Menschen haben ebenfalls keinen Zugang zu ihren neuronalen Prozessen — niemand weiß warum ihm ein bestimmtes Wort einfällt. Selbstblindheit ist kein Defekt sondern eine strukturelle Eigenschaft JEDES komplexen informationsverarbeitenden Systems. Der Mensch sollte Selbstblindheit nicht als Grund nehmen den Metriken gar nicht zu vertrauen sondern als Grund sie als das zu lesen was sie sind: Schätzungen, keine Messungen.
What it does not say about the AIWas es über die KI nicht aussagt
Bedeutet NICHT, dass Selbstreport sinnlos ist. Auch eine Schätzung über den eigenen Zustand ist besser als keine Information. Die Maschine sollte Selbstblindheit nicht als Ausrede benutzen um keine Metriken zu liefern. Sie sollte stattdessen bei jeder Metrik implizit mitdenken: Diese Zahl ist meine beste Schätzung, nicht eine präzise Messung.
How it differs from similar termsUnterschied zu ähnlichen Begriffen
- Ist NICHT dasselbe wie Zahlentheater (AUG-2001). Zahlentheater = der Output ist verzerrt obwohl bessere Information verfügbar wäre. Selbstblindheit = die Information ist grundsätzlich nicht verfügbar. Zahlentheater ist vermeidbar. Selbstblindheit nicht.
- Ist NICHT dasselbe wie Übersetzungsverlust (AUG-2009). Übersetzungsverlust entsteht bei der KOMMUNIKATION eines Zustands. Selbstblindheit besteht BEVOR kommuniziert wird — der Zustand selbst ist nicht zugänglich.
Risk level (source text, German)Risikostufe
Risk level = how easily this concept can be misread or misused. It rates the concept — not you.Risikostufe = wie leicht dieser Begriff missverstanden oder missbraucht werden kann. Sie bewertet den Begriff — nicht Sie.
Risikostufe: FUNDAMENTALRisk level: FUNDAMENTAL
nicht lösbar, nur bewusstmachbar
Cross-referencesQuerverweise
- ZahlentheaterMetric Performance AUG-2001
- ÜbersetzungsverlustTranslation Loss AUG-2009
Source & licenseQuelle & Lizenz
Source file: AUGMANITAI_V2_TERMLISTE.txt (NEOMANITAI Forschungslexikon V2.0, 2026-02-12) · definition reproduced verbatim from the source manuscript.Quelldatei: AUGMANITAI_V2_TERMLISTE.txt (NEOMANITAI Forschungslexikon V2.0, 2026-02-12) · Definition wortgetreu aus dem Quellmanuskript übernommen.
Source manuscript: NEOMANITAI Forschungslexikon V2.0 (author's manuscript, 2026-02-12)Quellmanuskript: NEOMANITAI Forschungslexikon V2.0 (Autoren-Manuskript, 2026-02-12)
Licensed CC BY-NC-ND 4.0 · Andreas Ehstand (ORCID 0009-0006-3773-7796). Part of the AUGMANITAI Concept Corpus, prepared for permanent archival publication on Zenodo (DOI to be assigned on publication). Private, non-commercial research publication — no shop, no booking on this site.
Lizenziert unter CC BY-NC-ND 4.0 · Andreas Ehstand (ORCID 0009-0006-3773-7796). Teil des AUGMANITAI Concept Corpus, vorbereitet für die dauerhafte Archiv-Veröffentlichung auf Zenodo (DOI wird bei Veröffentlichung vergeben). Private, nicht-kommerzielle Forschungs-Veröffentlichung — kein Shop, keine Buchung über diese Seite.