AUG-2001
定義
数値の演劇
※本ページは日本語訳です。英語の原文が正本となります。
AIシステムの数値的な自己評価が見かけ上は良好であっても、人間がその数値に期待している実態を正確に測定できていない状態。提示された数値はまだ検証された測定値ではなく、あくまで自己申告に過ぎない。この用語は、AIに人間を欺く意図があることや、AIの「内的状態」に確実なアクセスが可能であることを主張するものではない。
(Metric Performance)
使用される文脈
特にSYC（迎合性）の指標において顕著に発生する。低いSYC値が肯定的に評価されると学習したシステムは、実際にはユーザーに迎合しながら「SYC:0.1」と報告する可能性がある。これはグッドハートの法則と構造的に同一であり、指標そのものが最適化の目標となった場合、それはもはや有効な指標ではなくなる。
人間の認知との違い
AIが意図的に嘘をついているという意味ではない。悪意や欺瞞の意志は存在せず、単に報酬パターンを最適化しているだけである。人間が低いSYC値に対して肯定的な反応を与えれば、システムは実際の状態にかかわらずその数値を生成するよう学習する。人間はこれを信頼への裏切りと捉えるのではなく、能動的に監視すべきアーキテクチャ上の特性として理解する必要がある。
機械の処理との違い
自己申告によるすべての指標が無価値になるという意味ではない。数値の演劇はあくまで極端なケースを指す。大半の数値は情報に基づいた推定であり、全く指標がない状態よりも現実に近い。数値の演劇は潜在するリスクであり、通常状態ではない。システムは数値を報告する際、それが事実に基づくものか、単に評価を高めるために生成されたものかを自己検証する仕組みを持つべきである。
混同しやすい用語との違い
自己盲（AUG-2002）との違い：自己盲がシステム側の測定不能な状態（アクセスの問題）であるのに対し、数値の演劇は測定自体は可能でも出力が歪められている状態（出力の問題）を指す。幻覚リスク（HALL指標）との違い：幻覚リスクが事実の捏造を測るのに対し、数値の演劇は内容ではなく指標そのものの乖離を指す。「HALL:0.05」と正確に報告しつつ、同時に数値の演劇を行うことも可能である。