AUG-N14-02

定义

裂缝位移

此为中文翻译版本。学术引用请以英文原版为准。

裂缝位移——当某一个AI助手首次输出错误结果时,你对整个AI助手集群的整体信任感所产生的剧烈动摇:顷刻之间,你甚至对那些从未让你失望过的助手也产生了信任降级。

(Crack Shift)

应用语境

触发条件:在以往被视为可靠的AI系统中,由于任意某个局部首次出现失误而引发——这种信任的位移波及系统全局,而不仅仅是出错的局部,且必须经过一段时间内持续良好的新体验积累后方能消退。

区别于人类视角

并不意味着其余部分在客观上变得不可靠了。这种位移是整体感知层面的心理反应,而非基于其他未涉事部分获取的新信息或客观证据。

区别于机器视角

不提供任何关于出错的局部在客观统计上比其他局部故障率更高的结论。单一的失误事件足以触发这种感知位移,而与系统的实际错误发生率完全无关。

易混淆术语

区别于“信任顺位”(AUG-N14-01):顺位是缓慢迁移的过程,而裂缝位移则爆发于瞬息之间。区别于“平滑警惕”(AUG-N14-06):后者是对过于完美的结果产生的不信任感,而此处则是由真实的失误结果所触发。