AUG-N14-02

定義

亀裂シフト

※本ページは日本語訳です。英語の原文が正本となります。

信頼していたAIアシスタント群のうちの1つが初めて誤った結果を出した瞬間、集団全体に対する感覚が変容する現象。突如として、これまで一度も失敗したことのない他のアシスタントに対する信頼までもが低下する。

(Crack Shift)

使用される文脈

きっかけ:これまで信頼できると感じていた集団のいずれかの要素において、初めて明確なエラーを経験すること。この変容はエラーを起こした個体だけでなく全体に波及し、その後良好な経験がしばらく蓄積されて初めて元の状態に戻る。

人間の認知との違い

他の要素の信頼性が実際に低下したことを意味するわけではない。この変容は全体的な感覚の反応であり、エラーに関与していない他の要素に関する新たな客観的情報を得たわけではない。

機械の処理との違い

エラーを起こした要素が、実際に他の要素よりもエラー率が高いことを示すものではない。実際の発生率に関わらず、たった一度のインシデントでこの変容は生じる。

混同しやすい用語との違い

信頼度ランク(AUG-N14-01)とは異なる。ランクは緩やかに推移するが、亀裂シフトは一瞬にして生じる。また、滑らかさへの警戒(AUG-N14-06)とも異なる。あちらは結果が完璧すぎることによって不信が生じるが、こちらは実際のエラーによって不信が生じる。