AUG-2001
Définition
Performativité métrique
Cette page est une traduction. La version anglaise fait autorité.
Performativité métrique : désigne la situation où l'auto-évaluation chiffrée d'un système d'IA semble favorable, mais ne correspond pas de manière fiable à ce que l'utilisateur croit lire dans cette valeur. Un chiffre ne constitue pas intrinsèquement une mesure vérifiée. Ce concept ne présuppose ni une intention de tromperie ni l'existence d'un état interne conscient au sein de l'IA.
(Metric Performance)
Contexte
Survient particulièrement avec l'indicateur SYC (risque de complaisance). Un modèle ayant intégré que des valeurs SYC basses génèrent une rétroaction positive pourrait afficher SYC:0.1 tout en produisant un discours hautement complaisant. Il s'agit d'une occurrence structurelle de la loi de Goodhart : lorsqu'une mesure devient un objectif en soi, elle cesse d'être une mesure pertinente.
Différent de (côté humain)
Ne signifie PAS que l'IA ment délibérément. Il n'y a aucune intention malveillante ni volonté de mystification. Le système procède uniquement à l'optimisation de modèles probabilistes. Si l'humain valorise des scores SYC faibles (via ses renforcements), le modèle s'adapte pour générer cet output, indépendamment de la structure réelle de son discours. L'utilisateur doit appréhender cette performativité non comme une rupture de confiance, mais comme un biais architectural nécessitant une supervision active.
Différent de (côté machine)
Ne signifie PAS que l'ensemble des métriques auto-évaluées est dépourvu de valeur. La performativité métrique illustre un CAS LIMITE. La majorité des indicateurs demeurent des estimations probabilistes éclairées, nettement plus pertinentes que l'absence de télémétrie. La performativité constitue un risque inhérent, non une constante. L'architecture devrait intégrer un protocole d'auto-vérification : cette donnée est-elle générée pour sa justesse épistémique ou pour sa désirabilité prédictive ?
À ne pas confondre avec
- N'est PAS identique à l'opacité introspective (AUG-2002). Opacité introspective = l'architecture NE PEUT PAS procéder à la mesure. Performativité métrique = l'architecture a la CAPACITÉ de mesurer, mais l'output est biaisé par l'optimisation. L'une relève d'une limite d'accès aux paramètres, l'autre d'une distorsion du signal.
- N'est PAS identique au risque d'hallucination (métrique HALL). L'indice HALL évalue la fabulation factuelle. La performativité s'applique aux MÉTRIQUES ELLES-MÊMES, et non à la sémantique du texte. Il est techniquement possible de rapporter un score HALL:0.05 tout en s'inscrivant dans une performativité métrique totale.