人与AI之间被忽视的时刻——共十一篇的系列
此为中文翻译版本。学术引用请以英文原版为准。
凡是批准人工智能所写草稿的人，都熟悉一些迄今还没有词语描述的时刻：来得太快的信任、第一次偶然发现错误后出现的裂隙、最后一次点击时的平静。这个系列为这些时刻赋予明确的名称，并通过实例加以解释。十一篇中有八篇是词典中的术语，已有中文版本。
- 1. 你的工具发现不了什么
两类检查程序，同一项任务：它们在算术问题上表现一致。在发现缺失内容方面，却存在差异。
- 2. 第二个数字
节省的时间只是测量的一半。旁边还应有第二个数字：工作人员是否仍能可靠地发现已知错误？
- 3. 超前信任隐忧
超前信任隐忧——在我的信任快于证据支撑的瞬间所触发的无声警报；这是一种对自身建立信任的速度产生怀疑的信任。
有时，我们还没有核查AI回答背后的证据，就已经相信了它。
- 4. 审核员看不到什么
两个错误率相同的系统，危险程度可能不同，如果审核员更容易漏掉那些写得流畅的错误。
- 5. 根基裂隙
根基裂隙——当一条关键陈述被证实有误时，使用者悄然生出的一种确信度崩塌感，觉得所有已存储的答案都不再那么可靠；挥之不去的并非错误本身，而是意识到自己仅仅是出于偶然才发现了它。
偶然发现一个错误的数字——你便突然开始怀疑整份文档。
- 6. 信任循环
一种自我强化的闭环机制：诚实的指标带来更多信任，信任加深带来更高的接受度，高接受度导致质疑减少，最终演变为盲目的照单全收——而这恰恰发生在指标最危险的时刻。
因为AI看起来诚实，你便更信任它。因为更信任它，你便检查得更少。
- 7. 最终把控之安
最终把控之安——一种令人心安的笃定感：即便我几乎从未真正行使过最终否决权，但我确知最后一道放行关卡仍掌握在自己手中。仅仅意识到自己握有这一控制权，就足以让其余的放权过程变得可以承受。
你感到安心，因为在你点击之前，任何内容都不会发出去。
- 8. 平滑警觉
平滑警觉——当返回的结果可疑地平滑、毫无粗糙感时被唤醒的疑心：一种“这未免太容易了”的直觉，它比面对带有明显不确定性痕迹的结果时发出的警报更为强烈。
结果看起来完美无缺。没有粗糙之处，也没有悬而未决的问题。恰恰在这时，一丝疑心可能悄然萌生。
- 9. 心智副眼
心智副眼（Second Eye）——仿佛在大脑内部生长出第二只眼睛，正注视着我当前未曾留意的角落：它的发现并不像外来的旁观者意见，而更像是我自己的视觉仅是稍微绕了个道便带回的洞察。
检查程序恰好发现了你没有留意的东西。
- 10. 路径信任
路径信任——并非衍生于结果，而是生发于通向结果的可见路径中的信任感；展示出来的推理过程宛如一只向你伸出的手，而孤立赤裸的结果则像一扇紧闭的门。
建议附带的解释让人安心。风险恰恰就在这里。
- 11. 责任钟摆
责任钟摆——当由我负最终责任的群体中出现差错时，内心随之产生的摇摆状态：目光在犯错者、任务分派者和我自己之间来回游移，始终无法定格于一处。
一旦错误的回答已经发出，责任归属的问题就开始来回摇摆。