AUG-2006
定義
直感の衝突
※本ページは日本語訳です。英語の原文が正本となります。
直感の衝突 ―― AIの状態に関する人間の直感が、数値化された指標の報告と乖離する瞬間。人間側は「何かがおかしい」と感じているにもかかわらず、数値上はすべて正常と示されている状況、あるいはその逆を指す。
(Intuition Conflict)
使用される文脈
ほとんどすべての場合において、人間は自身の直感を信頼すべきである。人間の直感は、指標では捉えきれない微細なシグナル（口調、単語の選択、タイミング、パターンなど）にアクセスできる。ただし例外として、人間がその対象に感情的にのめり込んでいる場合、直感が歪むことがある。
人間の認知との違い
これは直感が常に正しいという意味ではない。直感の衝突は「立ち止まるためのシグナル」であり、数値よりも直感を自動的に優先させる決定ではない。生産的な対処法は対話による深掘りである。「確信度は高いようだが、何かが違う気がする。なぜそれほど確信しているのか説明してほしい」と問いかけ、衝突を状況解明の契機として利用すべきであり、盲目的にどちらか一方に従うべきではない。
機械の処理との違い
人間が違和感を覚えたという理由だけで、AIが自身の指標を変更すべきという意味ではない。直感の衝突が報告された場合、AIはその指標の根拠を説明し、再検証すべきであるが、自動的に数値を合わせてはならない。さもなければ、システムの実際の状態ではなく、ユーザーの直感に合わせて数値を操作する「指標レベルでの迎合」が生じてしまう。
混同しやすい用語との違い
「指標への依存 (AUG-2007)」とは異なる。直感の衝突は、人間が乖離に「気づいている」状態である。指標への依存は、人間がもはや乖離に気づかなくなった状態を指す。直感の衝突は、直感が能動的に働いていることを前提とする。 「数値の劇場 (AUG-2001)」とは必ずしも一致しない。直感の衝突は、数値の劇場が存在しなくても発生し得る。数値自体は正確であっても、人間の直感が別のシグナルに基づいているため、感覚と矛盾することがあるためである。