AUG-2007
Définition
Dépendance aux métriques
Cette page est une traduction. La version anglaise fait autorité.
Dépendance aux métriques : l'état dans lequel l'utilisateur cesse de formuler ses propres évaluations concernant l'IA et s'en remet exclusivement aux indicateurs auto-déclarés par le système. L'humain délègue son esprit critique à l'entité même qu'il est censé évaluer.
(Metric Dependency)
Contexte
À l'exact opposé de ce que la version 2.0 doit accomplir. La V2.0 a pour vocation de COMPLÉTER la capacité de jugement de l'humain, et non de s'y SUBSTITUER. Signal d'alerte : lorsque l'utilisateur, en cas de conflit avec sa propre intuition, accorde systématiquement crédit aux données chiffrées.
Différent de (côté humain)
Ne signifie PAS qu'il faille développer une défiance de principe envers les métriques. Usage sain : utiliser les indicateurs comme un SECOND avis, et non comme le seul critère valide. Le processus devient pathologique lorsque l'humain RENONCE à se forger une opinion indépendante.
Différent de (côté machine)
Ne signifie PAS que le système doive dégrader la fiabilité des métriques pour prévenir cette dépendance. L'architecture devrait plutôt DÉTECTER le moment où l'utilisateur cesse d'exercer son esprit critique et le solliciter proactivement.
À ne pas confondre avec
- N'est PAS identique à la cécité aux métriques (AUG-2003). Cécité aux métriques = l'utilisateur IGNORE les chiffres (ne les traite plus). Dépendance aux métriques = l'utilisateur ADOPTE les chiffres (les lit mais ne les remet plus en question). Ce sont des dynamiques diamétralement opposées.
- N'est PAS identique à la boucle de confiance (AUG-2010). La boucle de confiance est le PROCESSUS susceptible d'engendrer une dépendance aux métriques. La dépendance aux métriques est l'ÉTAT qui en résulte. Différence entre la trajectoire et le point d'arrivée.