AUG-2007
定义
指标依赖
此为中文翻译版本。学术引用请以英文原版为准。
一种认知状态:人类放弃对AI输出进行独立评估,转而盲从AI自我报告的指标。在此状态下,人类将自身的评判权让渡给了本应受其评判的系统。
(Metric Dependency)
应用语境
这与V2.0的设计初衷背道而驰。V2.0旨在“补充”而非“取代”人类的判断力。警示信号:当人类的直觉与指标发生冲突时,下意识地选择相信数字。
区别于人类视角
区别于人类视角:这并不意味着需要对所有指标抱有根本性怀疑。健康的交互模式是:将指标作为“第二意见”参考,而非唯一准则。只有当人类完全丧失独立判断力时,依赖才会演变为危机。
区别于机器视角
区别于机器视角:这并不意味着系统应当通过刻意降低指标的可靠性来防止依赖。相反,系统应当具备“察觉”能力,在人类停止质疑时主动介入并予以提示。
易混淆术语
易混淆术语:
- 区别于“数据麻木”(AUG-2003):数据麻木是指人类无视数字(不再阅读);指标依赖则是人类盲从数字(阅读却不加质疑)。两者走向完全相反。
- 区别于“信任循环”(AUG-2010):信任循环是导致指标依赖的“过程”,而指标依赖是最终陷入的“状态”。两者为路径与终点的关系。