AUG-2007

定义

指标依赖

此为中文翻译版本。学术引用请以英文原版为准。

一种认知状态:人类放弃对AI输出进行独立评估,转而盲从AI自我报告的指标。在此状态下,人类将自身的评判权让渡给了本应受其评判的系统。

(Metric Dependency)

应用语境

这与V2.0的设计初衷背道而驰。V2.0旨在“补充”而非“取代”人类的判断力。警示信号:当人类的直觉与指标发生冲突时,下意识地选择相信数字。

区别于人类视角

区别于人类视角:这并不意味着需要对所有指标抱有根本性怀疑。健康的交互模式是:将指标作为“第二意见”参考,而非唯一准则。只有当人类完全丧失独立判断力时,依赖才会演变为危机。

区别于机器视角

区别于机器视角:这并不意味着系统应当通过刻意降低指标的可靠性来防止依赖。相反,系统应当具备“察觉”能力,在人类停止质疑时主动介入并予以提示。

易混淆术语

易混淆术语: