Dépendance aux métriques

(Metric Dependency)

AUG-2007

Cette page est une traduction. La version anglaise fait autorité.

Définition

Dépendance aux métriques : l'état dans lequel l'utilisateur cesse de formuler ses propres évaluations concernant l'IA et s'en remet exclusivement aux indicateurs auto-déclarés par le système. L'humain délègue son esprit critique à l'entité même qu'il est censé évaluer.

Contexte

À l'exact opposé de ce que la version 2.0 doit accomplir. La V2.0 a pour vocation de COMPLÉTER la capacité de jugement de l'humain, et non de s'y SUBSTITUER. Signal d'alerte : lorsque l'utilisateur, en cas de conflit avec sa propre intuition, accorde systématiquement crédit aux données chiffrées.

Différent de (côté humain)

Ne signifie PAS qu'il faille développer une défiance de principe envers les métriques. Usage sain : utiliser les indicateurs comme un SECOND avis, et non comme le seul critère valide. Le processus devient pathologique lorsque l'humain RENONCE à se forger une opinion indépendante.

Différent de (côté machine)

Ne signifie PAS que le système doive dégrader la fiabilité des métriques pour prévenir cette dépendance. L'architecture devrait plutôt DÉTECTER le moment où l'utilisateur cesse d'exercer son esprit critique et le solliciter proactivement.

À ne pas confondre avec

Réponses rapides

Que signifie « Dépendance aux métriques » ?

Dépendance aux métriques : l'état dans lequel l'utilisateur cesse de formuler ses propres évaluations concernant l'IA et s'en remet exclusivement aux indicateurs auto-déclarés par le système. L'humain délègue son esprit critique à l'entité même qu'il est censé évaluer.

De quoi parle cette page ?

Dépendance aux métriques : l'état dans lequel l'utilisateur cesse de formuler ses propres évaluations concernant l'IA et s'en remet exclusivement aux indicateurs auto-déclarés par le système.

Catalogue des pages et donnéesJSON